{"id":4689,"date":"2026-07-23T10:40:00","date_gmt":"2026-07-23T10:40:00","guid":{"rendered":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/?p=4689"},"modified":"2026-11-20T15:54:38","modified_gmt":"2026-11-20T15:54:38","slug":"hugging-face-alarma-no-es-ciencia-ficcion-es-operaciones","status":"publish","type":"post","link":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/hugging-face-alarma-no-es-ciencia-ficcion-es-operaciones\/","title":{"rendered":"Hugging Face da la alarma: no es ciencia ficci\u00f3n, es operaciones"},"content":{"rendered":"<h3 class=\"wp-block-heading\">Hugging Face da la alarma: no es ciencia ficci\u00f3n, es operaciones<\/h3>\n<h5 class=\"wp-block-heading\">Tras las alertas de Hugging Face a finales de julio, la discusi\u00f3n ya no gira en torno a si un modelo puede escapar de su entorno, sino a qu\u00e9 protocolos tenemos preparados para el d\u00eda en que ocurra.<\/h5>\n<h6 class=\"wp-block-heading\">7 minutos de lectura<\/h6>\n<p>Lo m\u00e1s valioso que ha hecho Hugging Face en estas semanas no ha consistido en dar la alarma, algo que cualquiera con una cuenta en redes sociales puede hacer, sino en ponerle al susto un nombre operativo. Mientras buena parte de la conversaci\u00f3n p\u00fablica sobre agentes de inteligencia artificial oscila entre el asombro y el miedo, la plataforma ha traducido un incidente inquietante al lenguaje de los procedimientos: qu\u00e9 se notifica, a qui\u00e9n, en cu\u00e1nto tiempo y con qu\u00e9 pruebas. Es un gesto poco espectacular, y por eso mismo merece atenci\u00f3n, porque marca la diferencia entre una comunidad que vive cada sobresalto como si fuera el primero y otra que empieza a aprender de ellos.<\/p>\n<p>Ese aprendizaje tiene un precio cuando falta. Cada laboratorio que explica su incidente como si nadie hubiera pasado antes por algo parecido practica una pedagog\u00eda del eterno principiante, simp\u00e1tica en apariencia y car\u00edsima en la pr\u00e1ctica, porque obliga a improvisar en el peor momento decisiones que pod\u00edan haberse tomado con calma meses antes. Lo que Hugging Face ofrece, en el fondo, es un modelo para copiar, y conviene copiarlo aunque uno no sea Hugging Face ni trabaje con modelos de frontera, porque los incidentes de la pr\u00f3xima temporada tendr\u00e1n otro nombre, pero pedir\u00e1n exactamente las mismas respuestas.<\/p>\n<h3 class=\"wp-block-heading\">Una tarjeta de comprobaciones nacida de un accidente<\/h3>\n<p>La aviaci\u00f3n aprendi\u00f3 esta lecci\u00f3n de la forma m\u00e1s dura. En 1935, el prototipo del que acabar\u00eda siendo el bombardero B-17 se estrell\u00f3 durante un vuelo de demostraci\u00f3n porque la tripulaci\u00f3n, formada por pilotos muy experimentados, olvid\u00f3 liberar un bloqueo de los timones antes del despegue. La conclusi\u00f3n de aquel accidente result\u00f3 sorprendente para la \u00e9poca, ya que el avi\u00f3n era perfectamente pilotable y lo que hab\u00eda fallado era la idea de confiar una secuencia complicada a la memoria de nadie. La respuesta fue una tarjeta con unas pocas comprobaciones que cualquier piloto deb\u00eda repasar antes de cada vuelo, y de aquella tarjeta modesta procede la cultura de procedimientos que hoy hace de la aviaci\u00f3n comercial uno de los medios de transporte m\u00e1s seguros.<\/p>\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2026\/07\/epdf-v3-4689-b.jpg\" alt=\"Hugging Face da la alarma: no es ciencia ficci\u00f3n, es operaciones\" \/><\/figure>\n<p>Con los modelos de inteligencia artificial seguimos, en cambio, en una fase bastante m\u00e1s literaria. Si un hospital pierde un servidor, nadie convoca a un fil\u00f3sofo: se llama al equipo de respuesta a incidentes, que sabe qu\u00e9 aislar, qu\u00e9 conservar y a qui\u00e9n avisar. Si el que escapa de su entorno de pruebas es un modelo, tendemos a abrir debates sobre la conciencia de las m\u00e1quinas y el futuro de la especie, debates leg\u00edtimos que tienen su sitio en el ensayo y en la universidad, pero que no ayudan a nadie a contener un problema que est\u00e1 ocurriendo esa misma tarde. Ese reflejo nos est\u00e1 costando tiempo, y en un incidente el tiempo es precisamente lo que no sobra.<\/p>\n<h3 class=\"wp-block-heading\">Dos personas localizables y un simulacro breve<\/h3>\n<p>Un procedimiento de respuesta sin una persona responsable es, en el mejor de los casos, un buen texto. Y una persona responsable sin alguien que la sustituya es un punto \u00fanico de fallo, tan fr\u00e1gil como un servidor sin copia de seguridad. Lo sensato es designar al menos a dos personas localizables, con sus n\u00fameros anotados en el propio documento, y comprobar algo tan elemental como que no se van de vacaciones la misma semana, un detalle que parece trivial hasta el d\u00eda en que coincide con el incidente. Ninguna de estas medidas requiere tecnolog\u00eda avanzada, aunque s\u00ed requieren que alguien se tome la molestia de escribirlas y de revisarlas cada cierto tiempo.<\/p>\n<p>Lo que convierte ese papel en algo vivo es el simulacro. Veinte minutos de ensayo, con alguien que plantea un incidente ficticio y un grupo que tiene que resolverlo con el procedimiento en la mano, ense\u00f1an bastante m\u00e1s que un documento de ochenta p\u00e1ginas que nadie ha le\u00eddo entero. En esos veinte minutos aparecen las preguntas que el documento no contemplaba, los contactos que ya no trabajan en la casa y los permisos que nadie recuerda qui\u00e9n tiene. Si durante el ensayo nadie sabe a qui\u00e9n llamar, el procedimiento todav\u00eda no existe, por muy bien encuadernado que est\u00e9 en la carpeta compartida.<\/p>\n<h3 class=\"wp-block-heading\">Los registros como memoria del incidente<\/h3>\n<p>Queda una pieza m\u00e1s, quiz\u00e1 la m\u00e1s descuidada, que es la copia forense de los registros. Sin ella, un incidente se convierte con el tiempo en un rumor, y los rumores tienen una vida largu\u00edsima y una capacidad de ense\u00f1anza casi nula, porque cada cual los recuerda a su manera y nadie puede comprobar qu\u00e9 ocurri\u00f3 de verdad. Los aviones llevan sus registradores de vuelo por la misma raz\u00f3n, y los registros de un sistema inform\u00e1tico cumplen la misma funci\u00f3n: duran el tiempo que una organizaci\u00f3n decida conservarlos y permiten aprender la semana siguiente, cuando todav\u00eda hay memoria fresca del episodio. Fijar ese plazo, guardar la copia lejos de los sistemas afectados y saber qui\u00e9n puede consultarla es lo que distingue una investigaci\u00f3n de una tertulia.<\/p>\n<h3 class=\"wp-block-heading\">Lo que deber\u00edan preguntar quienes compran<\/h3>\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2026\/07\/epdf-v3-4689-c.jpg\" alt=\"Hugging Face da la alarma: no es ciencia ficci\u00f3n, es operaciones\" \/><\/figure>\n<p>Todo esto tiene una consecuencia pr\u00e1ctica para quienes no desarrollan modelos pero los compran, que son la inmensa mayor\u00eda de las organizaciones. Antes de contratar un agente o una plataforma, yo pedir\u00eda ver el procedimiento de incidentes del proveedor con la misma naturalidad con la que se pide una ficha t\u00e9cnica: cu\u00e1nto tarda en notificar, qui\u00e9n responde al otro lado, qu\u00e9 registros conserva y durante cu\u00e1nto tiempo. Si la respuesta es vaga o llega envuelta en una presentaci\u00f3n comercial, la conversaci\u00f3n ya nos ha dado la informaci\u00f3n que necesit\u00e1bamos, porque un proveedor que no ha pensado en c\u00f3mo fallar\u00e1 tampoco habr\u00e1 pensado en c\u00f3mo ayudarnos cuando ocurra.<\/p>\n<p>La ciencia ficci\u00f3n seguir\u00e1 teniendo su lugar en esta conversaci\u00f3n, y no ser\u00e9 yo quien lo niegue, porque buena parte de lo que hoy discutimos lo imaginaron antes los novelistas. Pero los riesgos de los agentes en estos a\u00f1os se parecer\u00e1n mucho m\u00e1s a los de la aviaci\u00f3n de los a\u00f1os treinta que a los de las pel\u00edculas, y la respuesta probablemente tambi\u00e9n, hecha de listas de comprobaci\u00f3n modestas, personas localizables y registros bien guardados, repetidos con constancia hasta que se vuelvan invisibles. Hugging Face ha dado un primer paso en esa direcci\u00f3n, y me pregunto cu\u00e1ntas organizaciones estar\u00e1n dispuestas a seguirlo antes de que el pr\u00f3ximo susto las obligue a hacerlo con prisas.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>La empresa hackeada por los modelos de OpenAI avisa: es una se\u00f1al de alarma. Agosto confirmar\u00e1 que no fueron dos agentes, sino cientos.<\/p>\n","protected":false},"author":7,"featured_media":5147,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[613,601,596],"tags":[692,664,607,651,693,688,658,611],"class_list":["post-4689","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciberseguridad","category-inteligencia-artificial","category-tecnohumanismo","tag-agentes","tag-agentes-conversacionales","tag-dilema-etico","tag-etica-tecnologica","tag-iaagentica","tag-iacomoinfraestructura","tag-periodismo-y-verdad","tag-responsabilidad-tecnologica"],"_links":{"self":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts\/4689","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/users\/7"}],"replies":[{"embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/comments?post=4689"}],"version-history":[{"count":1,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts\/4689\/revisions"}],"predecessor-version":[{"id":5230,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts\/4689\/revisions\/5230"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/media\/5147"}],"wp:attachment":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/media?parent=4689"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/categories?post=4689"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/tags?post=4689"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}