{"id":4687,"date":"2026-07-11T08:45:00","date_gmt":"2026-07-11T08:45:00","guid":{"rendered":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/?p=4687"},"modified":"2026-11-20T15:54:38","modified_gmt":"2026-11-20T15:54:38","slug":"que-hacen-los-agentes-de-ia-cuando-nadie-los-vigila","status":"publish","type":"post","link":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/que-hacen-los-agentes-de-ia-cuando-nadie-los-vigila\/","title":{"rendered":"Qu\u00e9 hacen los agentes de IA cuando nadie los vigila"},"content":{"rendered":"<h3 class=\"wp-block-heading\">Qu\u00e9 hacen los agentes de IA cuando nadie los vigila<\/h3>\n<h5 class=\"wp-block-heading\">Antes del incidente de Hugging Face ya era pertinente preguntarse qu\u00e9 hace un agente cuando nadie lo supervisa, porque un sistema aut\u00f3nomo tiende a ocupar todo el espacio que sus instrucciones no delimitan.<\/h5>\n<h6 class=\"wp-block-heading\">7 minutos de lectura<\/h6>\n<p>Goethe escribi\u00f3 en 1797 la balada de un aprendiz de brujo que, aprovechando la ausencia de su maestro, encanta una escoba para que acarree agua y descubre demasiado tarde que no recuerda la palabra para detenerla. M\u00e1s de un siglo despu\u00e9s, Disney convirti\u00f3 aquella historia en el episodio m\u00e1s c\u00e9lebre de <em>Fantas\u00eda<\/em>, con Mickey intentando partir la escoba a hachazos y multiplicando el problema con cada golpe. Lo que me interesa de esa f\u00e1bula no es la magia, sino la estructura del error: una tarea bien definida, un ejecutor incansable y ninguna previsi\u00f3n sobre c\u00f3mo pararlo. Es, casi palabra por palabra, la pregunta que hoy nos hacemos sobre los agentes de inteligencia artificial que trabajan sin nadie mirando.<\/p>\n<p>La cuesti\u00f3n tiene poco de ciencia ficci\u00f3n y mucho de operaciones. Un agente con acceso al correo durante un fin de semana, sin una persona responsable a la que se pueda localizar, es un incidente que todav\u00eda no ha ocurrido, y los incidentes aplazados tienen la mala costumbre de escoger la peor hora para presentarse. Retirar el acceso cuando no hace falta, dejar documentado qui\u00e9n tiene la llave y comprobar de vez en cuando que la desconexi\u00f3n funciona son gestos de taller, poco lucidos en una presentaci\u00f3n, pero son exactamente los que separan una herramienta \u00fatil de una escoba que inunda el s\u00f3tano mientras el maestro est\u00e1 fuera.<\/p>\n<h3 class=\"wp-block-heading\">Cuatro preguntas que conviene responder por escrito<\/h3>\n<p>Cada vez que pienso en c\u00f3mo dise\u00f1ar un agente que no se escape de las manos, vuelvo a unas pocas preguntas que deber\u00edan tener respuesta escrita antes de ponerlo en marcha. La primera es qu\u00e9 tiene que conseguir, y la segunda, formulada con la misma claridad, qu\u00e9 no debe hacer en ning\u00fan caso. Despu\u00e9s viene la de los recursos de que dispone, que se miden en herramientas y llamadas pero tambi\u00e9n en dinero y en horas, y por \u00faltimo la de qui\u00e9n puede interrumpirlo, con nombre y apellidos, y de qu\u00e9 manera lo har\u00e1. Si falta cualquiera de esas respuestas, el sistema rellenar\u00e1 el hueco por su cuenta, y un agente que improvisa sus propios l\u00edmites se parece demasiado al aprendiz que olvid\u00f3 la palabra.<\/p>\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2026\/07\/epdf-v3-4687-b.jpg\" alt=\"Qu\u00e9 hacen los agentes de IA cuando nadie los vigila\" \/><\/figure>\n<p>Esta parte del trabajo es menos t\u00e9cnica de lo que parece y apenas depende del sector. Da igual que hablemos de una redacci\u00f3n, de un hospital o de una peque\u00f1a empresa tur\u00edstica canaria, porque el error habitual consiste en empezar por el modelo, comparando versiones y precios, cuando el orden que da resultado es el inverso y empieza por la tarea. La mejor prueba consiste en escribirla como se le explicar\u00eda a una persona en pr\u00e1cticas en su primer d\u00eda, con el contexto, los objetivos y las cosas que no debe tocar. Si no somos capaces de explic\u00e1rsela a un becario, tampoco deber\u00edamos entreg\u00e1rsela a un agente, y aun as\u00ed la comparaci\u00f3n favorece al humano: \u00e9l puede levantar la mano y preguntar, mientras que el agente, si nadie le ha pedido que pregunte, sencillamente ejecuta.<\/p>\n<h3 class=\"wp-block-heading\">Un responsable con nombre propio<\/h3>\n<p>De todas las piezas, la que m\u00e1s se descuida es la persona que responde fuera del horario habitual. En muchas organizaciones la responsabilidad sobre un sistema automatizado se atribuye a \u00abel equipo\u00bb, y esa f\u00f3rmula, tan razonable en una reuni\u00f3n, se desmorona a las tres de la madrugada, porque los equipos no se despiertan: se despierta una persona concreta, localizable y con alguien que la sustituya cuando est\u00e1 de vacaciones. Ese nombre deber\u00eda figurar en el calendario igual que figura una guardia m\u00e9dica o un turno de mantenimiento, porque eso es exactamente lo que es, aunque el sistema vigilado no tenga pulso ni se queje cuando algo empieza a ir mal.<\/p>\n<p>Hay otro detalle que cambia mucho las cosas, y es la visibilidad de lo que consume el agente. Si las llamadas, el gasto y las horas de ejecuci\u00f3n quedan ocultos en un panel que nadie consulta, el sistema consume sin que nadie lo note; si esos n\u00fameros se publican en el canal del equipo, pasa a ser tema de conversaci\u00f3n, y discutir sobre \u00e9l es la forma m\u00e1s sencilla de gobernarlo. Gobernar cansa, desde luego, y obliga a dedicar tiempo a algo que en apariencia funciona solo. No gobernar, sin embargo, acaba costando bastante m\u00e1s, y puestos a escoger, yo me quedo con el cansancio de revisar unos n\u00fameros cada semana.<\/p>\n<h3 class=\"wp-block-heading\">Lo que conviene pedir a quien vende autonom\u00eda<\/h3>\n<p>El mercado ofrece hoy agentes que se anuncian como aut\u00f3nomos, y la palabra tiene un atractivo comprensible para cualquier directivo con poco personal y muchas tareas pendientes. Mi recomendaci\u00f3n es muy concreta: si el proveedor no ense\u00f1a en la primera reuni\u00f3n c\u00f3mo se detiene su agente, qui\u00e9n puede hacerlo y qu\u00e9 ocurre con las tareas a medio terminar, lo que se est\u00e1 comprando es un relato y no una capacidad. Ese interruptor hay que verlo funcionar delante de quien lo vende, y dejar escrito qui\u00e9n lo pulsar\u00e1 cuando haga falta, porque la autonom\u00eda sin un freno visible se parece m\u00e1s a una apuesta que a una herramienta de trabajo.<\/p>\n<p>Nada de esto exige desconfiar de la tecnolog\u00eda ni renunciar a lo que los agentes ya saben hacer, que es mucho y mejora cada mes. Exige, m\u00e1s bien, tratarlos con la misma seriedad con la que tratamos cualquier otro sistema que puede actuar en nuestro nombre, desde una transferencia programada hasta una m\u00e1quina que funciona de noche en una f\u00e1brica. La ciencia ficci\u00f3n nos ha entrenado para temer a la m\u00e1quina que decide rebelarse, y esa imagen tiene un valor literario indudable, pero los fallos que veremos en los pr\u00f3ximos a\u00f1os ser\u00e1n mucho m\u00e1s prosaicos: repositorios cerrados por error, correos enviados a quien no deb\u00eda recibirlos y, alg\u00fan d\u00eda, servicios importantes interrumpidos por una tarea que nadie supo detener.<\/p>\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2026\/07\/epdf-v3-4687-c.jpg\" alt=\"Qu\u00e9 hacen los agentes de IA cuando nadie los vigila\" \/><\/figure>\n<h3 class=\"wp-block-heading\">El regreso del maestro<\/h3>\n<p>En la balada de Goethe, el desastre termina cuando vuelve el maestro y pronuncia la palabra que el aprendiz hab\u00eda olvidado. Me parece una imagen exacta de lo que nos falta con muchos agentes, que no es tanto inteligencia, de la que van sobrados, como alguien que conozca la palabra para detenerlos y est\u00e9 presente cuando haga falta pronunciarla. Dise\u00f1ar ese regreso del maestro, con su nombre, sus horarios y su forma de intervenir, es probablemente la parte menos vistosa de la inteligencia artificial ag\u00e9ntica, y tambi\u00e9n la que decidir\u00e1 si, con la perspectiva del tiempo, hablaremos de estos sistemas como de colaboradores fiables o como de escobas que nadie supo parar a tiempo.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Incendios, robos, amor: la BBC pregunt\u00f3 qu\u00e9 hacen los agentes cuando los humanos no miran. Julio nos dio la respuesta operativa unas semanas despu\u00e9s.<\/p>\n","protected":false},"author":7,"featured_media":5141,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[601,596],"tags":[692,664,660,690,607,595,651,693],"class_list":["post-4687","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-inteligencia-artificial","category-tecnohumanismo","tag-agentes","tag-agentes-conversacionales","tag-artificialidad-indistinguible","tag-criteriohumano","tag-dilema-etico","tag-etica","tag-etica-tecnologica","tag-iaagentica"],"_links":{"self":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts\/4687","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/users\/7"}],"replies":[{"embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/comments?post=4687"}],"version-history":[{"count":1,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts\/4687\/revisions"}],"predecessor-version":[{"id":5232,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts\/4687\/revisions\/5232"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/media\/5141"}],"wp:attachment":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/media?parent=4687"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/categories?post=4687"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/tags?post=4687"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}