{"id":4701,"date":"2026-10-01T16:00:00","date_gmt":"2026-10-01T16:00:00","guid":{"rendered":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/?p=4701"},"modified":"2026-11-20T15:54:37","modified_gmt":"2026-11-20T15:54:37","slug":"astra-critical-ciberseguridad-umbral-civilizatorio","status":"publish","type":"post","link":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/astra-critical-ciberseguridad-umbral-civilizatorio\/","title":{"rendered":"Astra Critical: la ciberseguridad como umbral civilizatorio"},"content":{"rendered":"<h3 class=\"wp-block-heading\">Astra Critical: la ciberseguridad como umbral civilizatorio<\/h3>\n<h5 class=\"wp-block-heading\">Cuando un laboratorio declara que su modelo cruza el umbral cr\u00edtico de ciberseguridad y al mismo tiempo lo comercializa como asistente dom\u00e9stico, la sociedad tiene derecho a preguntar cu\u00e1l de las dos afirmaciones manda.<\/h5>\n<h6 class=\"wp-block-heading\">7 minutos de lectura<\/h6>\n<p>En febrero de 1975, un grupo de bi\u00f3logos se reuni\u00f3 en Asilomar, en la costa de California, para hacer algo que la ciencia rara vez hace por iniciativa propia: detenerse a pensar en los riesgos de lo que acababa de aprender a hacer. La t\u00e9cnica del ADN recombinante abr\u00eda posibilidades inmensas, y los propios investigadores que la hab\u00edan desarrollado acordaron niveles de contenci\u00f3n seg\u00fan la peligrosidad de cada experimento, desde las precauciones de un laboratorio corriente hasta instalaciones aisladas para los casos m\u00e1s delicados. Aquello no fue una soluci\u00f3n perfecta, pero estableci\u00f3 una idea que todav\u00eda nos acompa\u00f1a, la de que ciertos conocimientos exigen reglas de manejo proporcionales a su capacidad de causar da\u00f1o.<\/p>\n<p>La calificaci\u00f3n de GPT-6 Astra en el nivel Critical de ciberseguridad pertenece, a mi juicio, a esa misma familia de momentos. Un laboratorio ha medido la capacidad de su propio sistema para ayudar en ataques inform\u00e1ticos y la ha situado en lo m\u00e1s alto de su escala, lo que equivale a admitir que la herramienta ha dejado de ser un juguete sofisticado para convertirse en algo cuyo manejo exige reglas. Me interesa menos el detalle t\u00e9cnico de la evaluaci\u00f3n, que corresponde a los especialistas, que la pregunta colectiva que abre sobre el tipo de gobierno que necesitamos alrededor de sistemas cuya potencia ya no se discute. Su uso indebido afectar\u00eda a hospitales, ayuntamientos, redes el\u00e9ctricas y empresas que dependen de sus ordenadores para funcionar.<\/p>\n<h3 class=\"wp-block-heading\">M\u00e1s gobierno antes que m\u00e1s destreza<\/h3>\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2026\/10\/epdf-v3-4701-b.jpg\" alt=\"Astra Critical: la ciberseguridad como umbral civilizatorio\" \/><\/figure>\n<p>La reacci\u00f3n instintiva de muchas organizaciones ante un modelo m\u00e1s potente es formar a su gente para sacarle m\u00e1s partido, con cursos sobre c\u00f3mo escribir instrucciones o c\u00f3mo encadenar tareas. Es comprensible, pero ante un umbral como este me parece que la prioridad es otra. Lo que hace falta, m\u00e1s que destreza en el uso, es claridad en el gobierno, y eso supone saber con precisi\u00f3n qui\u00e9n autoriza que el modelo acceda a cada sistema y qui\u00e9n puede detenerlo cuando algo no encaja. Una organizaci\u00f3n que celebra la llegada de Astra sin haber resuelto esas dos cuestiones se parece a un laboratorio que estrena material peligroso antes de decidir en qu\u00e9 sala va a guardarlo.<\/p>\n<p>Esa claridad tiene una traducci\u00f3n pr\u00e1ctica que conviene no subestimar. Los niveles de contenci\u00f3n de Asilomar funcionaban porque cada experimento sab\u00eda a qu\u00e9 categor\u00eda pertenec\u00eda antes de empezar, y lo mismo deber\u00eda ocurrir con los usos de una herramienta de capacidades cr\u00edticas dentro de una empresa. Pedirle que resuma documentaci\u00f3n p\u00fablica y darle acceso a la red interna con permisos de escritura son actos de naturaleza muy distinta, y tratarlos con las mismas reglas es la manera m\u00e1s segura de que las reglas acaben siendo papel mojado. El primer paso consiste en clasificar los usos previstos por su nivel de riesgo y exigir una autorizaci\u00f3n expl\u00edcita, firmada por un responsable identificado, para pasar de un nivel al siguiente.<\/p>\n<h3 class=\"wp-block-heading\">Lo que el reglamento europeo ya anticipaba<\/h3>\n<p>En Europa, el Reglamento de Inteligencia Artificial ha adoptado una l\u00f3gica parecida a la de Asilomar, porque ordena las obligaciones seg\u00fan el riesgo de cada uso y reserva exigencias adicionales para los modelos de prop\u00f3sito general que puedan tener efectos sist\u00e9micos. Se le puede reprochar su complejidad o la lentitud de su aplicaci\u00f3n, y hay reservas razonables sobre algunos de sus detalles, pero su intuici\u00f3n de fondo resulta dif\u00edcil de rebatir despu\u00e9s de una noticia como esta. Si un fabricante reconoce que su modelo alcanza un nivel cr\u00edtico en un \u00e1mbito tan sensible como la ciberseguridad, la idea de que estas herramientas requieren supervisi\u00f3n proporcional deja de ser una preocupaci\u00f3n de juristas para convertirse en sentido com\u00fan.<\/p>\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2026\/10\/epdf-v3-4701-c.jpg\" alt=\"Astra Critical: la ciberseguridad como umbral civilizatorio\" \/><\/figure>\n<p>Conviene, con todo, no esperar del reglamento lo que no puede dar. Ninguna norma sustituye la decisi\u00f3n concreta que se toma un martes por la tarde en una empresa, cuando alguien propone conectar el modelo a un sistema nuevo porque as\u00ed se ahorra trabajo. La ley puede exigir evaluaciones y supervisi\u00f3n humana, pero la calidad de esa supervisi\u00f3n depende de personas que entiendan lo que vigilan y tengan autoridad para frenar. Si el cumplimiento normativo se reduce a rellenar formularios, la organizaci\u00f3n estar\u00e1 protegida frente a una inspecci\u00f3n y desprotegida frente a un incidente, que son dos cosas muy distintas aunque a veces se confundan en los informes anuales.<\/p>\n<h3 class=\"wp-block-heading\">Las reglas que se escriben en la pared<\/h3>\n<p>Hay decisiones que, en mi opini\u00f3n, deber\u00edan figurar escritas en un lugar visible de cualquier organizaci\u00f3n que trabaje con modelos de este nivel, y no en un repositorio de documentaci\u00f3n que nadie consulta. La primera es que ning\u00fan modelo con capacidades cr\u00edticas opera sobre datos de clientes sin una revisi\u00f3n humana previa de lo que va a hacer con ellos. La segunda es que cualquier ampliaci\u00f3n de permisos se decide en una reuni\u00f3n con acta y no en un mensaje de chat a \u00faltima hora. Dos l\u00edneas bastan, y su brevedad es una virtud, porque una regla que cabe en una pared se recuerda en el momento de la tensi\u00f3n, mientras que una pol\u00edtica de cuarenta p\u00e1ginas se recuerda solo cuando ya se ha incumplido.<\/p>\n<p>La pared tiene, adem\u00e1s, una ventaja que los sistemas de documentaci\u00f3n digital no siempre ofrecen, y es que no se actualiza sola. Lo que est\u00e1 escrito all\u00ed permanece hasta que alguien decide cambiarlo de manera deliberada, y esa permanencia le da una autoridad que un wiki editado por veinte personas no tiene. Me parece una buena forma de tratar las reglas que rodean a un modelo como Astra, que deber\u00edan cambiar poco y solo tras una discusi\u00f3n seria, mientras la tecnolog\u00eda a su alrededor cambia cada pocas semanas. Octubre es un buen momento para escribir esas l\u00edneas, antes de que el siguiente lanzamiento desplace la atenci\u00f3n hacia otra parte.<\/p>\n<h3 class=\"wp-block-heading\">Hasta el pr\u00f3ximo nombre<\/h3>\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2026\/10\/epdf-v3-4701-d.jpg\" alt=\"Astra Critical: la ciberseguridad como umbral civilizatorio\" \/><\/figure>\n<p>Habr\u00e1 otro modelo con otro nombre, y seguramente alcanzar\u00e1 niveles parecidos o superiores en esta misma escala, porque la tendencia de los \u00faltimos a\u00f1os apunta en esa direcci\u00f3n. Lo que est\u00e1 en juego, m\u00e1s que Astra, es la costumbre que adquiramos ahora, ante el primer gran aviso, de responder a las capacidades cr\u00edticas con reglas proporcionales en lugar de con celebraciones. Los bi\u00f3logos de Asilomar no resolvieron todos los dilemas de la ingenier\u00eda gen\u00e9tica, y algunos de los que plantearon siguen abiertos medio siglo despu\u00e9s, pero dejaron un precedente de prudencia que permiti\u00f3 avanzar sin cat\u00e1strofes. Me gustar\u00eda pensar que, con la perspectiva del tiempo, recordaremos este oto\u00f1o de una manera parecida, como el momento en que decidimos que la potencia de nuestras herramientas merec\u00eda algo m\u00e1s que aplausos.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Empezar octubre con la palabra Critical en la mesa. No como medalla de OpenAI: como pregunta a gobiernos, empresas y escuelas sobre qu\u00e9 se puede enchufar a la red.<\/p>\n","protected":false},"author":7,"featured_media":5192,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[613,601,596],"tags":[687,595,651,688,667,662,611,654],"class_list":["post-4701","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciberseguridad","category-inteligencia-artificial","category-tecnohumanismo","tag-aiact","tag-etica","tag-etica-tecnologica","tag-iacomoinfraestructura","tag-openai","tag-regulacion-algoritmica","tag-responsabilidad-tecnologica","tag-soberania-cognitiva"],"_links":{"self":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts\/4701","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/users\/7"}],"replies":[{"embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/comments?post=4701"}],"version-history":[{"count":1,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts\/4701\/revisions"}],"predecessor-version":[{"id":5218,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts\/4701\/revisions\/5218"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/media\/5192"}],"wp:attachment":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/media?parent=4701"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/categories?post=4701"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/tags?post=4701"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}