Astra Critical: la ciberseguridad como umbral civilizatorio
Cuando un laboratorio declara que su modelo cruza el umbral crítico de ciberseguridad y al mismo tiempo lo comercializa como asistente doméstico, la sociedad tiene derecho a preguntar cuál de las dos afirmaciones manda.
7 minutos de lectura
En febrero de 1975, un grupo de biólogos se reunió en Asilomar, en la costa de California, para hacer algo que la ciencia rara vez hace por iniciativa propia: detenerse a pensar en los riesgos de lo que acababa de aprender a hacer. La técnica del ADN recombinante abría posibilidades inmensas, y los propios investigadores que la habían desarrollado acordaron niveles de contención según la peligrosidad de cada experimento, desde las precauciones de un laboratorio corriente hasta instalaciones aisladas para los casos más delicados. Aquello no fue una solución perfecta, pero estableció una idea que todavía nos acompaña, la de que ciertos conocimientos exigen reglas de manejo proporcionales a su capacidad de causar daño.
La calificación de GPT-6 Astra en el nivel Critical de ciberseguridad pertenece, a mi juicio, a esa misma familia de momentos. Un laboratorio ha medido la capacidad de su propio sistema para ayudar en ataques informáticos y la ha situado en lo más alto de su escala, lo que equivale a admitir que la herramienta ha dejado de ser un juguete sofisticado para convertirse en algo cuyo manejo exige reglas. Me interesa menos el detalle técnico de la evaluación, que corresponde a los especialistas, que la pregunta colectiva que abre sobre el tipo de gobierno que necesitamos alrededor de sistemas cuya potencia ya no se discute. Su uso indebido afectaría a hospitales, ayuntamientos, redes eléctricas y empresas que dependen de sus ordenadores para funcionar.
Más gobierno antes que más destreza

La reacción instintiva de muchas organizaciones ante un modelo más potente es formar a su gente para sacarle más partido, con cursos sobre cómo escribir instrucciones o cómo encadenar tareas. Es comprensible, pero ante un umbral como este me parece que la prioridad es otra. Lo que hace falta, más que destreza en el uso, es claridad en el gobierno, y eso supone saber con precisión quién autoriza que el modelo acceda a cada sistema y quién puede detenerlo cuando algo no encaja. Una organización que celebra la llegada de Astra sin haber resuelto esas dos cuestiones se parece a un laboratorio que estrena material peligroso antes de decidir en qué sala va a guardarlo.
Esa claridad tiene una traducción práctica que conviene no subestimar. Los niveles de contención de Asilomar funcionaban porque cada experimento sabía a qué categoría pertenecía antes de empezar, y lo mismo debería ocurrir con los usos de una herramienta de capacidades críticas dentro de una empresa. Pedirle que resuma documentación pública y darle acceso a la red interna con permisos de escritura son actos de naturaleza muy distinta, y tratarlos con las mismas reglas es la manera más segura de que las reglas acaben siendo papel mojado. El primer paso consiste en clasificar los usos previstos por su nivel de riesgo y exigir una autorización explícita, firmada por un responsable identificado, para pasar de un nivel al siguiente.
Lo que el reglamento europeo ya anticipaba
En Europa, el Reglamento de Inteligencia Artificial ha adoptado una lógica parecida a la de Asilomar, porque ordena las obligaciones según el riesgo de cada uso y reserva exigencias adicionales para los modelos de propósito general que puedan tener efectos sistémicos. Se le puede reprochar su complejidad o la lentitud de su aplicación, y hay reservas razonables sobre algunos de sus detalles, pero su intuición de fondo resulta difícil de rebatir después de una noticia como esta. Si un fabricante reconoce que su modelo alcanza un nivel crítico en un ámbito tan sensible como la ciberseguridad, la idea de que estas herramientas requieren supervisión proporcional deja de ser una preocupación de juristas para convertirse en sentido común.

Conviene, con todo, no esperar del reglamento lo que no puede dar. Ninguna norma sustituye la decisión concreta que se toma un martes por la tarde en una empresa, cuando alguien propone conectar el modelo a un sistema nuevo porque así se ahorra trabajo. La ley puede exigir evaluaciones y supervisión humana, pero la calidad de esa supervisión depende de personas que entiendan lo que vigilan y tengan autoridad para frenar. Si el cumplimiento normativo se reduce a rellenar formularios, la organización estará protegida frente a una inspección y desprotegida frente a un incidente, que son dos cosas muy distintas aunque a veces se confundan en los informes anuales.
Las reglas que se escriben en la pared
Hay decisiones que, en mi opinión, deberían figurar escritas en un lugar visible de cualquier organización que trabaje con modelos de este nivel, y no en un repositorio de documentación que nadie consulta. La primera es que ningún modelo con capacidades críticas opera sobre datos de clientes sin una revisión humana previa de lo que va a hacer con ellos. La segunda es que cualquier ampliación de permisos se decide en una reunión con acta y no en un mensaje de chat a última hora. Dos líneas bastan, y su brevedad es una virtud, porque una regla que cabe en una pared se recuerda en el momento de la tensión, mientras que una política de cuarenta páginas se recuerda solo cuando ya se ha incumplido.
La pared tiene, además, una ventaja que los sistemas de documentación digital no siempre ofrecen, y es que no se actualiza sola. Lo que está escrito allí permanece hasta que alguien decide cambiarlo de manera deliberada, y esa permanencia le da una autoridad que un wiki editado por veinte personas no tiene. Me parece una buena forma de tratar las reglas que rodean a un modelo como Astra, que deberían cambiar poco y solo tras una discusión seria, mientras la tecnología a su alrededor cambia cada pocas semanas. Octubre es un buen momento para escribir esas líneas, antes de que el siguiente lanzamiento desplace la atención hacia otra parte.
Hasta el próximo nombre

Habrá otro modelo con otro nombre, y seguramente alcanzará niveles parecidos o superiores en esta misma escala, porque la tendencia de los últimos años apunta en esa dirección. Lo que está en juego, más que Astra, es la costumbre que adquiramos ahora, ante el primer gran aviso, de responder a las capacidades críticas con reglas proporcionales en lugar de con celebraciones. Los biólogos de Asilomar no resolvieron todos los dilemas de la ingeniería genética, y algunos de los que plantearon siguen abiertos medio siglo después, pero dejaron un precedente de prudencia que permitió avanzar sin catástrofes. Me gustaría pensar que, con la perspectiva del tiempo, recordaremos este otoño de una manera parecida, como el momento en que decidimos que la potencia de nuestras herramientas merecía algo más que aplausos.
