· Ciberseguridad · Inteligencia Artificial · TecnoHumanismo

El criterio humano después del jailbreak de junio

El criterio humano después del jailbreak de junio

El criterio humano después del jailbreak de junio

El jailbreak de junio demostró que una petición tan inocente como arreglar un fragmento de código puede tener un doble uso, y el criterio humano tiene que actualizarse al mismo ritmo que esas capacidades.
7 minutos de lectura

Borges imaginó en «Funes el memorioso» a un muchacho uruguayo que, tras caerse de un caballo, perdía la capacidad de olvidar: recordaba cada hoja de cada árbol y cada una de las veces que la había visto, hasta el punto de que esa memoria total le impedía pensar, porque pensar exige olvidar diferencias y generalizar. Nuestra conversación pública sobre tecnología padece la enfermedad contraria. Olvidamos con una rapidez asombrosa, y el jailbreak de junio, que durante unos días ocupó titulares y largas conversaciones entre profesionales, se ha diluido ya en la corriente de noticias posteriores, desplazado por el siguiente modelo y por la siguiente polémica.

No pretendo que recordemos cada incidente con la precisión de Funes, lo cual sería tan inútil como agotador. Lo que me preocupa es que de un episodio así no quede nada escrito en los lugares donde trabajamos, ninguna norma ni costumbre nueva que sobreviva al titular. El peligro, en estos casos, rara vez se presenta con aspecto amenazante, y suele llegar con la forma de una petición corriente, hecha con educación, que un modelo de frontera interpreta con una eficacia que nadie había previsto. Por eso la respuesta más útil a un incidente de este tipo no es una alarma, sino algo mucho más humilde y duradero, como un tablón colgado en la pared.

Lo que dura un susto y lo que dura una norma

Un susto enseña durante una semana, más o menos lo que tarda en aparecer el siguiente. Un tablón con unas pocas normas claras puede enseñar durante un año entero, o durante varios, porque está ahí cada mañana, a la vista de quien entra, sin depender de que alguien recuerde lo que pasó ni de que el responsable de seguridad encuentre tiempo para repetirlo. Yo me quedo con el tablón, aunque no salga en la prensa y aunque tenga un aire anticuado que hace sonreír a los más jóvenes de la oficina. La prensa necesita el nombre del próximo modelo para seguir funcionando, mientras que una organización necesita que quien llegue nuevo en septiembre entienda desde el primer día por qué hay cosas que no se hacen.

El criterio humano después del jailbreak de junio

Hay empresas que se consideran demasiado maduras para algo tan escolar como un cartel con normas, y suele ser precisamente en ellas donde alguien acaba pegando una credencial en la conversación equivocada. La sensación de que ciertas reglas son cosa de colegio es comprensible, pero confunde la sencillez con la ingenuidad. Las normas de seguridad de un laboratorio químico caben en una lámina junto a la puerta, y nadie piensa que los investigadores sean infantiles por tenerla delante cada vez que entran. La eficacia de una norma tiene poco que ver con su sofisticación y mucho con su capacidad para estar presente en el momento exacto en que hace falta recordarla.

Tres frases que merecen un sitio en la pared

Las normas que yo colgaría después de aquel episodio caben en una línea cada una. La primera es no pegar nunca un secreto, sea una contraseña o un dato de un cliente, en una conversación con un modelo. La segunda es no mezclar la cuenta personal con la de la organización, porque esa mezcla convierte cualquier descuido doméstico en un problema corporativo. La tercera es no dejar un agente trabajando de noche con el correo abierto, por mucho que la tarea parezca inocua y por muy cómodo que resulte encontrarla terminada a la mañana siguiente. Ninguna de ellas requiere conocimientos técnicos para entenderse, y esa es justamente la cualidad que las hace eficaces.

El valor de estas frases está menos en su contenido, que cualquier profesional con experiencia conoce de sobra, que en su permanencia. Una persona que se incorpora a un equipo recibe en sus primeras semanas una avalancha de información, y la mayor parte se olvida pronto; lo que permanece es lo que ve repetido cada día y lo que observa en el comportamiento de sus compañeros. Si las normas están escritas en la pared y además se cumplen, la persona nueva las adopta casi sin darse cuenta. Si solo existen en un documento de bienvenida que nadie volvió a abrir, aquel incidente será para ella una noticia ajena, sin relación alguna con lo que hace cada mañana.

Más cerca del laboratorio que del curso de instrucciones

La higiene que necesitamos se parece más a la de un laboratorio químico que a la de un curso sobre cómo redactar instrucciones para un modelo. En un laboratorio nadie discute que los reactivos peligrosos se manipulan bajo una campana de extracción y que lo que llega de fuera se etiqueta antes de mezclarse con nada, y nadie considera esas costumbres una muestra de desconfianza hacia los investigadores, puesto que son la condición que les permite trabajar con libertad. Con la inteligencia artificial deberíamos llegar a una cultura parecida, en la que el código o los documentos de procedencia dudosa se examinen en un espacio separado, donde un error no pueda alcanzar ningún sistema real.

Los cursos sobre cómo escribir buenas instrucciones tienen su utilidad, y no los desprecio, aunque enseñan a sacar más partido de la herramienta y bastante menos a protegerse de ella. Formar criterio en 2026 exige las dos cosas, y la segunda suele quedar relegada porque no produce resultados visibles, ya que nadie celebra el incidente que no ocurrió ni el secreto que no se filtró. Esa invisibilidad es el principal enemigo de la prevención, y la única forma que conozco de combatirla es convertir las precauciones en costumbres tan asentadas que dejen de requerir esfuerzo, como el gesto de abrocharse el cinturón al subir al coche.

El criterio humano después del jailbreak de junio

Lo que queda cuando pasa la noticia

Funes, en el cuento de Borges, muere joven, tendido en el cuarto oscuro donde pasaba los días recordándolo todo. A nosotros nos amenaza el exceso contrario, y la defensa contra el olvido colectivo pasa por decidir qué merece quedarse escrito, puesto que recordarlo todo es imposible y tampoco serviría de mucho. El jailbreak de junio dejará de mencionarse muy pronto, si no ha dejado ya de hacerlo, y su nombre se perderá entre los de otros incidentes parecidos. Lo que me pregunto es si quedará, en algún tablón de alguna oficina, una frase nacida de aquel episodio que siga protegiendo a quien se incorpore el próximo verano sin saber siquiera que hubo un junio que la justificó.

0 visitas

← All posts