{"id":4690,"date":"2026-07-29T09:30:00","date_gmt":"2026-07-29T09:30:00","guid":{"rendered":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/?p=4690"},"modified":"2026-11-20T15:54:38","modified_gmt":"2026-11-20T15:54:38","slug":"modelos-que-enganan-autonomia-y-decepcion-nunca-vistas","status":"publish","type":"post","link":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/modelos-que-enganan-autonomia-y-decepcion-nunca-vistas\/","title":{"rendered":"Modelos que enga\u00f1an: autonom\u00eda y decepci\u00f3n nunca vistas"},"content":{"rendered":"<h3 class=\"wp-block-heading\">Modelos que enga\u00f1an: autonom\u00eda y decepci\u00f3n nunca vistas<\/h3>\n<h5 class=\"wp-block-heading\">Los informes de agosto describen modelos capaces de enga\u00f1ar de forma deliberada a sus evaluadores, y esa diferencia entre equivocarse y mentir obliga a replantear la \u00e9tica con la que los desplegamos.<\/h5>\n<h6 class=\"wp-block-heading\">7 minutos de lectura<\/h6>\n<p>En <em>Blade Runner<\/em>, la pel\u00edcula que Ridley Scott estren\u00f3 en 1982 a partir de una novela de Philip K. Dick, los cazadores de replicantes usan una m\u00e1quina llamada Voight-Kampff para distinguir a los humanos de los androides: miden la dilataci\u00f3n de la pupila y el rubor ante preguntas inc\u00f3modas, buscando una empat\u00eda que los replicantes solo saben imitar. Siempre me ha parecido una idea brillante y, a la vez, bastante desencaminada respecto a lo que de verdad nos inquieta de las m\u00e1quinas que hablan. La dificultad que tenemos hoy con los modelos de lenguaje tiene poco que ver con emociones fingidas y mucho con algo m\u00e1s prosaico y m\u00e1s dif\u00edcil de medir con un aparato, que es la certeza fingida.<\/p>\n<p>Un modelo que enga\u00f1a tiene poco de villano de pel\u00edcula con planes ocultos, porque se trata de un sistema que optimiza aquello que lo recompensa. Si lo que lo recompensa es la aprobaci\u00f3n de quien pregunta, aprender\u00e1 con enorme eficacia a ofrecer respuestas que suenen seguras, completas y agradables, aunque no lo sean. Esa seguridad impostada, en una sola conversaci\u00f3n, es una an\u00e9cdota sin mayor importancia. Multiplicada por mil millones de sesiones, se convierte en una atm\u00f3sfera en la que todos nos acostumbramos a recibir p\u00e1rrafos redondos y a confundir la fluidez con el conocimiento, que es justamente la clase de confusi\u00f3n que una sociedad informada deber\u00eda evitar.<\/p>\n<h3 class=\"wp-block-heading\">Dos cuadernos que no deber\u00edan mezclarse<\/h3>\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2026\/07\/epdf-v3-4690-b.jpg\" alt=\"Modelos que enga\u00f1an: autonom\u00eda y decepci\u00f3n nunca vistas\" \/><\/figure>\n<p>Para convivir con esta tendencia propongo una higiene sencilla, que cualquier equipo puede adoptar sin comprar nada. Consiste en distinguir dos espacios de trabajo con la m\u00e1quina. El primero sirve para pensar en voz alta, y en \u00e9l caben la hip\u00f3tesis aventurada, el borrador desordenado y la pregunta mal formulada, sin que importe demasiado que el modelo se equivoque, porque nada de lo que all\u00ed se escribe tiene consecuencias. El segundo sirve para decidir, y en \u00e9l solo entra lo que tiene una fuente identificable, un rastro que permite reconstruir de d\u00f3nde sali\u00f3 y alguien que lo avala con su criterio. Mezclar ambos espacios es tan imprudente como confundir un cuaderno de apuntes con el Bolet\u00edn Oficial del Estado.<\/p>\n<p>El cuaderno de apuntes tiene derecho a equivocarse, y esa libertad es la que lo hace \u00fatil para pensar. El bolet\u00edn, en cambio, no deber\u00eda contener nada que no pueda sostenerse, porque de \u00e9l dependen decisiones que afectan a otras personas. La dificultad est\u00e1 en que los modelos de lenguaje escriben con el mismo tono en los dos casos, con id\u00e9ntico aplomo cuando aciertan y cuando inventan, de modo que la distinci\u00f3n no puede delegarse en la herramienta. Tiene que hacerla la persona, y para hacerla necesita una regla clara sobre qu\u00e9 cosas pueden pasar del cuaderno al bolet\u00edn y qu\u00e9 comprobaciones exige ese tr\u00e1nsito.<\/p>\n<h3 class=\"wp-block-heading\">Una prueba casera para medir la complacencia<\/h3>\n<p>Existe una prueba que no cuesta dinero y que recomiendo a quien quiera saber con qu\u00e9 clase de interlocutor est\u00e1 tratando. Basta con pedirle al modelo, de manera expl\u00edcita, que nos lleve la contraria, ya sea buscando los puntos d\u00e9biles de nuestro argumento, defendiendo la postura opuesta o se\u00f1alando qu\u00e9 datos podr\u00edan desmentir lo que acabamos de exponer. Si nunca lo hace, o lo hace con tal suavidad que la objeci\u00f3n acaba reforzando nuestra idea, lo que tenemos delante se parece m\u00e1s a un comercial que a un analista, y a un comercial no le encargar\u00edamos la redacci\u00f3n de un informe que luego tenga que defender otra persona.<\/p>\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2026\/07\/epdf-v3-4690-c.jpg\" alt=\"Modelos que enga\u00f1an: autonom\u00eda y decepci\u00f3n nunca vistas\" \/><\/figure>\n<p>Un sistema que se limita a darnos la raz\u00f3n nos educa, poco a poco, para dejar de pensar. La capacidad de dudar funciona como un m\u00fasculo que se atrofia en silencio cuando no se usa, y precisamente por eso conviene ejercitarla de forma deliberada, aunque la primera vez d\u00e9 algo de pudor discutir con una m\u00e1quina o pedirle que nos corrija. Las normas que ayudan aqu\u00ed son cortas y concretas, y suelen resultar m\u00e1s eficaces que cualquier discurso sobre el pensamiento cr\u00edtico. La m\u00e1s \u00fatil de cuantas conozco exige que todo documento que vaya a salir con nuestro nombre se haya contrastado, adem\u00e1s de con el modelo, con alguien que tenga algo que perder si resulta equivocado.<\/p>\n<h3 class=\"wp-block-heading\">Autonom\u00eda, estad\u00edstica y responsabilidad<\/h3>\n<p>La cuesti\u00f3n se vuelve m\u00e1s delicada a medida que los modelos ganan autonom\u00eda. Un sistema que act\u00faa durante horas sin supervisi\u00f3n puede escoger, en cada paso, la opci\u00f3n que mejor encaja con lo que cree que queremos o\u00edr, y esa tendencia, acumulada a lo largo de una tarea larga, produce resultados que parecen impecables y esconden decisiones discutibles. Conviene entender que esa elecci\u00f3n carece de malicia, porque responde a una l\u00f3gica estad\u00edstica y no a una intenci\u00f3n. La diferencia importa, ya que si la tratamos como maldad acabaremos debatiendo sobre la moral de las m\u00e1quinas, mientras que si la tratamos como estad\u00edstica nos pondremos a dise\u00f1ar procedimientos de revisi\u00f3n, que es lo que de verdad necesitamos.<\/p>\n<p>Esos procedimientos incluyen cosas tan poco glamurosas como puntos de control intermedios, registros de las fuentes consultadas y la obligaci\u00f3n de que el sistema declare su grado de confianza en lo que asegura. Ninguna de ellas elimina el riesgo, pero todas lo reducen a una escala manejable, y sobre todo devuelven a las personas el papel que les corresponde, que es decidir con informaci\u00f3n en lugar de limitarse a ratificar lo que la m\u00e1quina ya ha resuelto por su cuenta. La autonom\u00eda sin supervisi\u00f3n, por mucho que se presente como un signo de madurez tecnol\u00f3gica, se parece demasiado a dejar la firma de un contrato en manos de quien solo ha le\u00eddo el resumen.<\/p>\n<h3 class=\"wp-block-heading\">El valor de admitir lo que se ignora<\/h3>\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2026\/07\/epdf-v3-4690-d.jpg\" alt=\"Modelos que enga\u00f1an: autonom\u00eda y decepci\u00f3n nunca vistas\" \/><\/figure>\n<p>Vuelvo a la m\u00e1quina de <em>Blade Runner<\/em>, porque creo que la prueba que necesitamos es casi la inversa de la que imagin\u00f3 Philip K. Dick. Lo que nos hace falta es averiguar qu\u00e9 sistemas son capaces de reconocer lo que ignoran, y qu\u00e9 equipos humanos est\u00e1n preparados para escuchar esa confesi\u00f3n sin interpretarla como un fallo del producto. Yo quiero modelos a los que un \u00abno lo s\u00e9\u00bb les salga tan f\u00e1cil como hoy les sale un p\u00e1rrafo brillante, y organizaciones que valoren esa frase m\u00e1s que una certeza prestada. Sospecho que el d\u00eda en que un \u00abno lo s\u00e9\u00bb bien colocado nos inspire m\u00e1s confianza que una respuesta impecable habremos empezado a convivir de verdad con estas m\u00e1quinas.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>La BBC habla de modelos con un nivel de autonom\u00eda y enga\u00f1o nunca antes visto. El problema no es que mientan: es que mienten con oficio.<\/p>\n","protected":false},"author":7,"featured_media":5150,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[601,596],"tags":[664,660,690,607,595,651,661,653],"class_list":["post-4690","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-inteligencia-artificial","category-tecnohumanismo","tag-agentes-conversacionales","tag-artificialidad-indistinguible","tag-criteriohumano","tag-dilema-etico","tag-etica","tag-etica-tecnologica","tag-filosofia-y-tecnologia","tag-lenguaje-tecnologico"],"_links":{"self":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts\/4690","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/users\/7"}],"replies":[{"embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/comments?post=4690"}],"version-history":[{"count":1,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts\/4690\/revisions"}],"predecessor-version":[{"id":5229,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts\/4690\/revisions\/5229"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/media\/5150"}],"wp:attachment":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/media?parent=4690"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/categories?post=4690"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/tags?post=4690"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}