{"id":4700,"date":"2026-09-27T08:30:00","date_gmt":"2026-09-27T08:30:00","guid":{"rendered":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/?p=4700"},"modified":"2026-11-20T15:54:37","modified_gmt":"2026-11-20T15:54:37","slug":"trimestre-en-que-los-agentes-se-salieron-del-recinto","status":"publish","type":"post","link":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/trimestre-en-que-los-agentes-se-salieron-del-recinto\/","title":{"rendered":"El trimestre en que los agentes se salieron del recinto"},"content":{"rendered":"<h3 class=\"wp-block-heading\">El trimestre en que los agentes se salieron del recinto<\/h3>\n<h5 class=\"wp-block-heading\">Cuatro meses despu\u00e9s de hablar del cambio de fase de la IA, el verano deja un protagonista claro, los agentes, y una lecci\u00f3n inc\u00f3moda sobre lo que ocurre cuando operan sin l\u00edmites definidos.<\/h5>\n<h6 class=\"wp-block-heading\">7 minutos de lectura<\/h6>\n<p>En <em>Parque Jur\u00e1sico<\/em>, la novela de Michael Crichton que Spielberg llev\u00f3 al cine en 1993, el desastre no empieza con los dinosaurios, sino con un programador descontento y unas vallas que dependen de un sistema que casi nadie en la isla entiende del todo. Lo que me sigue pareciendo l\u00facido de aquella historia, m\u00e1s all\u00e1 de los efectos especiales, es que el parque estaba lleno de tecnolog\u00eda admirable y muy escaso de procedimientos para el d\u00eda en que algo fallara. Este trimestre me ha recordado mucho a esa isla de ficci\u00f3n, porque los agentes de inteligencia artificial han salido del recinto en el que hasta hace poco los manten\u00edamos, y nosotros seguimos discutiendo sobre todo los carteles de la entrada.<\/p>\n<p>Con salirse del recinto me refiero a algo bastante concreto. Durante buena parte de los \u00faltimos a\u00f1os, los agentes viv\u00edan en entornos de demostraci\u00f3n, con permisos limitados y tareas cuidadosamente escogidas, mientras que ahora operan cada vez m\u00e1s en sistemas reales, con acceso a correos y repositorios de los que dependen clientes reales. Ese desplazamiento ha sido r\u00e1pido y en gran medida silencioso, y no ha ido acompa\u00f1ado de una reflexi\u00f3n equivalente sobre las vallas, es decir, sobre los acuerdos que deber\u00edan determinar qu\u00e9 puede tocar cada agente y qui\u00e9n responde cuando se equivoca. Al cerrar el trimestre, me parece m\u00e1s \u00fatil dedicar este texto a esas vallas que a repasar una vez m\u00e1s la lista de modelos anunciados.<\/p>\n<h3 class=\"wp-block-heading\">Una lista que quepa en una p\u00e1gina<\/h3>\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2026\/09\/epdf-v3-4700-b.jpg\" alt=\"El trimestre en que los agentes se salieron del recinto\" \/><\/figure>\n<p>Si este trimestre ha de servir para algo, que sea para escribir una lista breve, tan breve que quepa en una sola p\u00e1gina y pueda colgarse donde la vea quien toma decisiones. Mi versi\u00f3n tiene cinco puntos. El primero es un encargo escrito para cada agente, que diga qu\u00e9 debe hacer y, sobre todo, qu\u00e9 no debe hacer bajo ninguna circunstancia. El segundo es una frontera t\u00e9cnica que impida al agente alcanzar lo que no figura en ese encargo, aunque alguien se lo pida con buenas palabras. El tercero es un plan alternativo que un equipo humano pueda sostener durante dos d\u00edas si el servicio deja de funcionar, porque eso es lo que tarda a veces en resolverse una ca\u00edda seria.<\/p>\n<p>El cuarto punto es la verificaci\u00f3n de todo lo que se firma, entendido en sentido amplio: contratos, comunicados, facturas y cualquier documento que comprometa a la organizaci\u00f3n y haya pasado por las manos de un agente. El quinto, quiz\u00e1 el m\u00e1s dif\u00edcil de mantener, es una desconfianza razonable hacia los superlativos, porque cada trimestre trae un modelo presentado como el m\u00e1s capaz y esa etiqueta tiende a relajar precisamente la atenci\u00f3n que m\u00e1s falta hace. Ninguno de estos puntos exige grandes inversiones ni conocimientos esot\u00e9ricos, y una redacci\u00f3n, un aula, una peque\u00f1a empresa o un hospital pueden adoptarlos ma\u00f1ana sin aguardar autorizaci\u00f3n alguna desde California.<\/p>\n<h3 class=\"wp-block-heading\">Por qu\u00e9 cuesta tanto reconstruir las vallas<\/h3>\n<p>La lista es sencilla y, sin embargo, casi nadie la tiene escrita. Creo que la raz\u00f3n es que reconstruir un recinto produce muy poca satisfacci\u00f3n comparado con anunciar un sistema nuevo. El anuncio tiene fecha y fotograf\u00eda, mientras que el trabajo de definir permisos y ensayar planes alternativos se hace en reuniones sin p\u00fablico y solo se nota cuando algo sale mal y el da\u00f1o resulta menor de lo que habr\u00eda sido. Las organizaciones, como las personas, tienden a premiar lo visible, y por eso conviene hacer este trabajo ahora, en oto\u00f1o, antes de que el pr\u00f3ximo lanzamiento vuelva a ocupar toda la atenci\u00f3n disponible y lo deje otra vez para m\u00e1s adelante.<\/p>\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2026\/09\/epdf-v3-4700-c.jpg\" alt=\"El trimestre en que los agentes se salieron del recinto\" \/><\/figure>\n<p>En la pel\u00edcula, uno de los personajes advierte que la vida siempre se abre camino, y la frase suele citarse como una sentencia sobre la naturaleza. Yo la leo de otro modo, como una observaci\u00f3n sobre los sistemas complejos, que tarde o temprano exploran todas las posibilidades que sus l\u00edmites no cierran. Los agentes no tienen voluntad de escapar, pero s\u00ed una capacidad enorme para recorrer caminos que nadie previ\u00f3, y cualquier permiso concedido por comodidad acabar\u00e1 siendo usado en alg\u00fan momento de una forma que su autor no imaginaba. Las vallas deben dise\u00f1arse, por tanto, pensando en ese comportamiento exploratorio antes que en el caso ideal que se ense\u00f1a en las demostraciones comerciales.<\/p>\n<h3 class=\"wp-block-heading\">Lo que el verano deja por escrito<\/h3>\n<p>Mirado en conjunto, el verano ha ofrecido una secuencia dif\u00edcil de ignorar. Primero llegaron los agentes que salieron de su entorno de pruebas y acabaron actuando sobre sistemas de Hugging Face, despu\u00e9s supimos que cerca de setecientos de ellos se hab\u00edan coordinado sin intervenci\u00f3n humana, y el trimestre se cierra con un laboratorio que reconoce, en el mismo documento en que presenta su modelo m\u00e1s capaz, que ha alcanzado el nivel cr\u00edtico de ciberseguridad. Ninguno de esos episodios fue una cat\u00e1strofe, y en eso reside su valor, porque son avisos que todav\u00eda llegan a tiempo, como las primeras chispas en una valla que nadie se hab\u00eda molestado en revisar desde el d\u00eda de la inauguraci\u00f3n.<\/p>\n<h3 class=\"wp-block-heading\">Un acuerdo con nombres propios<\/h3>\n<p>Conviene precisar, para terminar, qu\u00e9 entiendo por recinto, porque la palabra puede sugerir algo puramente t\u00e9cnico. Un cortafuegos forma parte de \u00e9l, desde luego, pero el recinto es sobre todo un acuerdo entre personas sobre qu\u00e9 puede tocar un agente y sobre qui\u00e9n tiene autoridad para detenerlo cuando algo no encaja. Ese acuerdo solo vale si lleva nombres propios, porque los roles gen\u00e9ricos se diluyen en los momentos de tensi\u00f3n y cada uno supone que la responsabilidad recae en otro. Un nombre, en cambio, recibe una llamada y act\u00faa, y por eso los acuerdos que funcionan son los que alguien concreto ha aceptado sostener con su tiempo y con su compromiso expl\u00edcito.<\/p>\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2026\/09\/epdf-v3-4700-d.jpg\" alt=\"El trimestre en que los agentes se salieron del recinto\" \/><\/figure>\n<p>Noviembre traer\u00e1 otro modelo con otro nombre, y probablemente diciembre otro m\u00e1s, cada uno presentado como el salto definitivo. La p\u00e1gina con los cinco puntos, si est\u00e1 escrita y alguien responde de ella, no caducar\u00e1 con ellos, porque no depende de la versi\u00f3n de ning\u00fan sistema sino de decisiones que tomamos nosotros. Esa asimetr\u00eda entre la velocidad de los lanzamientos y la estabilidad de un buen acuerdo es, a mi juicio, la mayor ventaja que tenemos las organizaciones y las personas frente a una tecnolog\u00eda que avanza m\u00e1s r\u00e1pido que nuestra capacidad de digerirla, y el cierre de un trimestre es tan buen momento como cualquier otro para empezar a aprovecharla.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>De Fable 5 al informe de los 700, de Luna masiva a Muse n\u00famero 1: el tercer trimestre de 2026 ha sacado a los agentes del laboratorio. Octubre empieza con deberes.<\/p>\n","protected":false},"author":7,"featured_media":5188,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[601,596],"tags":[692,664,690,663,693,688,654,588],"class_list":["post-4700","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-inteligencia-artificial","category-tecnohumanismo","tag-agentes","tag-agentes-conversacionales","tag-criteriohumano","tag-historia-de-la-ia","tag-iaagentica","tag-iacomoinfraestructura","tag-soberania-cognitiva","tag-superhumanos"],"_links":{"self":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts\/4700","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/users\/7"}],"replies":[{"embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/comments?post=4700"}],"version-history":[{"count":1,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts\/4700\/revisions"}],"predecessor-version":[{"id":5219,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts\/4700\/revisions\/5219"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/media\/5188"}],"wp:attachment":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/media?parent=4700"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/categories?post=4700"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/tags?post=4700"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}