GPT-6 Astra alcanza el nivel Critical de ciberseguridad
OpenAI presenta GPT-6 Astra como su modelo más capaz y mejor alineado, y en el mismo documento reconoce que es el primero en alcanzar el nivel Critical de ciberseguridad, dos afirmaciones que conviene leer juntas.
7 minutos de lectura
Los maquinistas de tren conocen desde hace más de un siglo un dispositivo con un nombre siniestro y una lógica impecable: el pedal del hombre muerto, un mando que el conductor debe mantener presionado y que, si deja de sentir su peso, frena el convoy por sí solo. Sus inventores no partían de la desconfianza hacia el maquinista, sino de una constatación sencilla según la cual una máquina con energía suficiente para hacer daño necesita un mecanismo de parada que no dependa de que todo vaya bien. Me he acordado de ese pedal al leer que GPT-6 Astra ha alcanzado el nivel Critical en la evaluación de riesgos de ciberseguridad, la categoría más alta de la escala con la que OpenAI mide lo que sus propios modelos podrían llegar a hacer en malas manos.
La noticia se ha contado en muchos sitios con el tono de un récord deportivo, como si alcanzar ese umbral fuera un mérito de producto comparable a encabezar una clasificación. Yo creo que conviene leerla al revés. Que un laboratorio califique de crítico el potencial ofensivo de su propio sistema equivale a reconocer que la herramienta ha cruzado una línea a partir de la cual el error ya no se mide en molestias, sino en daños reales sobre sistemas y personas. Es una confesión técnica antes que una medalla, y las organizaciones que piensen integrar Astra en sus procesos deberían tomarla como un aviso de que el objeto que tienen entre manos exige un trato distinto del que daban a las versiones anteriores.

Lo que mide una escala de riesgo
Las escalas de este tipo no dicen que un modelo vaya a atacar a nadie, porque un modelo no tiene voluntad propia ni agenda. Lo que describen es el alcance de lo que una persona con malas intenciones podría conseguir apoyándose en él, desde localizar vulnerabilidades en código ajeno hasta encadenar los pasos de una intrusión que antes requerían a un especialista con años de experiencia. Esa distinción importa porque desplaza la responsabilidad hacia donde debe estar, que es el diseño de los entornos en los que se usa el modelo y la gente que decide qué puede tocar. Un nivel Critical, leído así, funciona como una pregunta dirigida a cada empresa cliente sobre el estado real de su propia casa, y la respuesta rara vez es tan tranquilizadora como sugieren los organigramas.
La primera medida es casi doméstica, y quizá por eso se olvida tanto: separar con rigor el entorno de pruebas del de producción. Los equipos que experimentan con un modelo nuevo tienden a conectarlo a los datos reales porque así las demostraciones resultan más convincentes, y en esa comodidad se mezclan claves, historiales y permisos que nunca deberían compartir espacio. Un sistema con capacidades ofensivas reconocidas no debería poder alcanzar, desde la mesa donde se juega con él, ni una sola credencial de los sistemas que sostienen el negocio. Esa separación gana mucho cuando queda por escrito y la verifica alguien ajeno al equipo que la diseñó, porque quien construye un entorno suele ser el peor auditor de sus propios atajos.
El interruptor que nadie ha probado

La segunda medida tiene que ver con el pedal del que hablaba al principio. Casi todas las organizaciones aseguran disponer de algún modo de desconectar un sistema que se comporta mal, pero muy pocas lo han ensayado en condiciones parecidas a las de una emergencia, con el servicio en marcha, clientes conectados y la presión de decidir en minutos. Un mecanismo de parada que solo existe en un documento de arquitectura tiene el mismo valor que un extintor sin carga, porque tranquiliza a quien lo mira y no sirve a quien lo necesita. Solo un ensayo real, que mida cuánto se tarda en accionarlo y anote qué se rompe por el camino, proporciona la información que permitirá tomar la decisión con serenidad el día que haya que tomarla de verdad.
Junto a esa palanca de emergencia están los registros. Un modelo con capacidades críticas que actúa sin dejar un rastro detallado de lo que ha consultado o modificado convierte cualquier incidente en un ejercicio de arqueología, y la arqueología llega siempre demasiado tarde para contener el daño. Guardar esos registros con suficiente detalle, protegerlos de manipulaciones y revisar periódicamente una muestra, aunque no haya pasado nada, es una tarea poco vistosa que rara vez aparece en las presentaciones comerciales. Sin embargo, es la única manera de reconstruir después lo que ocurrió y de aprender algo que vaya más allá del susto, y por eso yo la colocaría por delante de cualquier funcionalidad nueva que prometa el proveedor.
Personas con nombre al otro lado

Todo lo anterior descansa, al final, en algo que ninguna herramienta resuelve sola, y es que haya personas concretas con autoridad para actuar. En muchas empresas la responsabilidad sobre un sistema de inteligencia artificial está repartida entre departamentos de tal manera que, en la práctica, no pertenece a nadie, y cuando llega el momento de desconectar algo cada cual espera que lo haga otro. Un modelo con nivel Critical exige justo lo contrario. Debe haber alguien con nombre y apellidos que pueda ordenar la parada y hacerse cargo de ella, y alguien más que pueda hacerlo cuando el primero no esté disponible, porque los incidentes no consultan los calendarios de vacaciones antes de producirse.
Hay decisiones que, por mucho que mejoren los modelos, conviene no delegar nunca. La de abrir un sistema a internet es una de ellas, y la de dar la cara públicamente cuando algo sale mal es otra. La máquina podrá redactar con soltura el comunicado de un incidente, quizá mejor que muchos responsables de prensa, pero la credibilidad de ese texto depende de que una persona lo sostenga con su firma y responda a las preguntas que vengan después. Esa responsabilidad no se puede trasladar a un proveedor ni a una versión de software, y una organización que lo intente descubrirá pronto que la confianza de sus clientes tampoco admite intermediarios.
Lo que dice de nosotros un aviso anticipado

Los ferrocarriles tardaron décadas en incorporar los dispositivos de seguridad que hoy damos por supuestos, y muchos de ellos llegaron después de accidentes que podían haberse evitado. Con la inteligencia artificial tenemos la ventaja, poco habitual en la historia de la técnica, de que el propio fabricante nos está diciendo con antelación dónde está el riesgo. Lo que hagamos con ese aviso dirá más de nosotros que del modelo. Podemos celebrarlo como un hito de potencia y seguir trabajando como siempre, o podemos tomarlo como la ocasión de ordenar entornos y poner nombres a responsabilidades que llevan tiempo flotando, y sospecho que de esa elección dependerá buena parte de cómo recordemos este otoño.
