{"id":4775,"date":"2026-04-09T10:40:00","date_gmt":"2026-04-09T10:40:00","guid":{"rendered":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/clasificadores-que-molestan-salvaguarda-se-siente-como-error\/"},"modified":"2026-11-20T15:54:38","modified_gmt":"2026-11-20T15:54:38","slug":"clasificadores-que-molestan-salvaguarda-se-siente-como-error","status":"publish","type":"post","link":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/clasificadores-que-molestan-salvaguarda-se-siente-como-error\/","title":{"rendered":"Clasificadores que molestan: cuando la salvaguarda se siente como un error"},"content":{"rendered":"<h3 class=\"wp-block-heading\">Clasificadores que molestan: cuando la salvaguarda se siente como un error<\/h3>\n<h5 class=\"wp-block-heading\">Los clasificadores de seguridad bloquean a veces peticiones leg\u00edtimas y generan frustraci\u00f3n, pero antes de pedir que desaparezcan conviene entender qu\u00e9 riesgos reales intentan contener.<\/h5>\n<h6 class=\"wp-block-heading\">7 minutos de lectura<\/h6>\n<p>En muchas cocinas hay un detector de humo que alguien ha desenroscado y dejado sobre un estante, con la pila fuera, porque saltaba cada vez que se doraba el pan o se pasaba un poco la cebolla. La escena es tan dom\u00e9stica que apenas llama la atenci\u00f3n, y sin embargo condensa un dilema que la ingenier\u00eda de seguridad conoce desde siempre: un sistema que avisa demasiado acaba siendo desactivado por quienes deb\u00eda proteger, y el d\u00eda que hay fuego de verdad ya no queda nadie escuchando. He pensado bastante en ese aparato mudo durante las \u00faltimas semanas, a prop\u00f3sito de los clasificadores de seguridad de los modelos de inteligencia artificial.<\/p>\n<p>Los clasificadores son los filtros que deciden, antes o despu\u00e9s de que el modelo responda, si una petici\u00f3n o una respuesta cruzan alguna l\u00ednea que el proveedor ha considerado peligrosa. En los productos de empresas como OpenAI forman parte del funcionamiento normal, y con ellos llega la queja de usuarios y organizaciones que se encuentran con negativas en tareas que consideran perfectamente leg\u00edtimas. La sensaci\u00f3n se parece a la del detector que salta con la tostada, porque la salvaguarda se vive como un fallo del producto que estorba el trabajo, y la tentaci\u00f3n de quitarle la pila aparece enseguida, a veces con argumentos razonables y otras con simple impaciencia.<\/p>\n<h3 class=\"wp-block-heading\">Molestia, error y adorno<\/h3>\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2026\/04\/epdf-v3-4775-b.jpg\" alt=\"Clasificadores que molestan: cuando la salvaguarda se siente como un error\" \/><\/figure>\n<p>Antes de decidir qu\u00e9 hacer con un filtro que incomoda, conviene separar situaciones que en la conversaci\u00f3n cotidiana se confunden. Hay negativas que molestan pero tienen sentido, porque la petici\u00f3n rozaba un terreno donde el da\u00f1o posible es serio, y esas negativas merecen discusi\u00f3n antes que supresi\u00f3n. Hay otras que son simplemente errores, bloqueos de algo inocuo por una coincidencia de palabras, y esos se corrigen informando al proveedor y ajustando el uso. Existe adem\u00e1s una categor\u00eda m\u00e1s dif\u00edcil de ver, la del filtro que nunca molesta a nadie porque en realidad no detiene nada, y que est\u00e1 ah\u00ed como adorno para tranquilizar conciencias.<\/p>\n<p>De todas ellas, la \u00faltima me preocupa m\u00e1s que las otras juntas. Un clasificador que no incomoda jam\u00e1s deber\u00eda despertar las mismas sospechas que un detector de humo que lleva diez a\u00f1os en silencio y que quiz\u00e1 no haya tenido pila nunca. La molestia, dentro de ciertos m\u00e1rgenes, es la prueba de que el sistema est\u00e1 mirando, y quien mide la calidad de una salvaguarda por el n\u00famero de quejas que genera se equivoca de vara, como si la mejor fuera la que pasa inadvertida para todo el mundo y no la que interviene en el momento oportuno.<\/p>\n<h3 class=\"wp-block-heading\">Lo que se pierde cuando se pide velocidad<\/h3>\n<p>La petici\u00f3n de retirar salvaguardas suele llegar envuelta en el lenguaje de la eficiencia. Alguien comprueba que los filtros ralentizan un proceso o que generan fricci\u00f3n con los clientes, y propone relajarlos para ir m\u00e1s r\u00e1pido. Yo no descartar\u00eda nunca esa conversaci\u00f3n, pero pedir\u00eda que viniera acompa\u00f1ada de un documento que explique qu\u00e9 puede salir mal si el filtro desaparece y qui\u00e9n responder\u00eda en ese caso. Si nadie est\u00e1 dispuesto a escribir ese documento, la velocidad que se reclama se parece mucho a un capricho, y los caprichos no deber\u00edan decidir la arquitectura de seguridad de ninguna organizaci\u00f3n.<\/p>\n<p>Hay \u00e1mbitos donde esta cautela es especialmente obligada. En la salud, en todo lo que toca a menores y en la gesti\u00f3n del dinero, el enfado de un usuario frustrado cuesta poco y se olvida pronto, mientras que el da\u00f1o de una respuesta que no debi\u00f3 darse puede ser grave y duradero. Es f\u00e1cil olvidarlo cuando la presi\u00f3n aprieta al final de la semana, con un comercial prometiendo agilidad a un cliente impaciente y nadie con tiempo para pensar en las consecuencias. En esos sectores el porcentaje de usuarios molestos no es una m\u00e9trica de \u00e9xito o fracaso, sino una variable entre varias que hay que leer con mucho cuidado.<\/p>\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2026\/04\/epdf-v3-4775-c.jpg\" alt=\"Clasificadores que molestan: cuando la salvaguarda se siente como un error\" \/><\/figure>\n<h3 class=\"wp-block-heading\">Una negativa que se explica en una frase<\/h3>\n<p>Buena parte del malestar con los clasificadores procede menos de la negativa en s\u00ed que de su opacidad. Un sistema que responde que no puede ayudar, sin m\u00e1s, deja al usuario sin saber si ha tocado un l\u00edmite razonable o ha tropezado con un fallo, y le ense\u00f1a sobre todo a buscar la manera de rodear el obst\u00e1culo reformulando la petici\u00f3n hasta que pase. Una negativa acompa\u00f1ada de una frase humana que explique el motivo produce el efecto contrario, porque invita a discutir el criterio en lugar de burlarlo, y la discusi\u00f3n abierta es la forma m\u00e1s sana de convivir con una norma que no siempre nos gusta.<\/p>\n<p>Lo que una organizaci\u00f3n tiene derecho a pedir a su proveedor son negativas que se expliquen en una frase comprensible. Si el proveedor no puede ofrecerlo, el clasificador se convierte en un muro, y la experiencia con los muros es bastante clara, porque la gente aprende a rodearlos con una rapidez sorprendente. Las explicaciones, en cambio, se atienden aunque molesten, y con el tiempo permiten que los usuarios entiendan d\u00f3nde est\u00e1n los l\u00edmites y por qu\u00e9 existen, lo que reduce tanto los intentos de esquivarlos como la sensaci\u00f3n de arbitrariedad que tanto irrita a quien solo intentaba trabajar.<\/p>\n<h3 class=\"wp-block-heading\">El enfado que se puede explicar<\/h3>\n<figure class=\"wp-block-image size-large\"><img decoding=\"async\" src=\"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-content\/uploads\/2026\/04\/epdf-v3-4775-d.jpg\" alt=\"Clasificadores que molestan: cuando la salvaguarda se siente como un error\" \/><\/figure>\n<p>Mi propuesta, si una organizaci\u00f3n me preguntara, ser\u00eda aceptar de antemano un cierto nivel de enfado, medirlo con regularidad y no convertirlo en la \u00fanica br\u00fajula para decidir. Medirlo permite detectar los errores reales, las negativas absurdas que conviene comunicar al proveedor, y separar ese ruido de las molestias leg\u00edtimas que forman parte del precio de la protecci\u00f3n. Usarlo como gu\u00eda exclusiva, en cambio, empuja siempre en la misma direcci\u00f3n, hacia filtros m\u00e1s laxos y usuarios m\u00e1s contentos, hasta el d\u00eda en que aparece el caso grave que nadie quer\u00eda imaginar y que el filtro desactivado ya no puede detener.<\/p>\n<p>Vuelvo al detector de la cocina, cuyo problema tiene soluciones conocidas y poco espectaculares, como alejarlo de la tostadora o sustituirlo por un modelo que distinga mejor el vapor del humo. Ninguna de esas medidas consiste en quitarle la pila, y ambas exigen un poco m\u00e1s de atenci\u00f3n que el gesto r\u00e1pido de desenroscarlo. Con los clasificadores me parece que ocurre lo mismo, y yo prefiero el enfado que puedo explicar a los dem\u00e1s, porque s\u00e9 qu\u00e9 protege, antes que el silencio de un muro opaco o la falsa calma de un filtro que nunca suena. Queda por ver si sabremos tener esa paciencia cuando la prisa apriete de verdad.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>OpenAI avisa de que GPT-5.5 lleva clasificadores de ciber m\u00e1s estrictos y que algunos usuarios los encontrar\u00e1n molestos. Esa molestia es el producto adulto.<\/p>\n","protected":false},"author":7,"featured_media":5094,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[613,601,596],"tags":[690,607,651,667,662,611],"class_list":["post-4775","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ciberseguridad","category-inteligencia-artificial","category-tecnohumanismo","tag-criteriohumano","tag-dilema-etico","tag-etica-tecnologica","tag-openai","tag-regulacion-algoritmica","tag-responsabilidad-tecnologica"],"_links":{"self":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts\/4775","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/users\/7"}],"replies":[{"embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/comments?post=4775"}],"version-history":[{"count":1,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts\/4775\/revisions"}],"predecessor-version":[{"id":5248,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/posts\/4775\/revisions\/5248"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/media\/5094"}],"wp:attachment":[{"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/media?parent=4775"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/categories?post=4775"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/web.pedromujica.com\/elpulsodelfuturo\/wp-json\/wp\/v2\/tags?post=4775"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}