El AI Act no es un PDF: es el invierno en el que Europa tiene que elegir enchufe
Mientras los laboratorios estadounidenses publican modelo tras modelo, Europa entra en su primer invierno de aplicación del AI Act con una pregunta incómoda sobre dónde se ejecuta realmente la inteligencia que usa.
7 minutos de lectura
Borges imaginó, en un texto de apenas un párrafo, un imperio cuyos cartógrafos levantaron un mapa del mismo tamaño que el territorio, coincidente punto por punto con él. Las generaciones siguientes, menos aficionadas a la cartografía, lo abandonaron por inútil a las inclemencias del sol y de los inviernos. Me acuerdo de ese mapa cada vez que veo cómo algunas organizaciones se preparan para el Reglamento europeo de inteligencia artificial, el AI Act. Suelen oscilar entre dos errores simétricos. El primero es producir documentos tan exhaustivos que nadie puede usarlos, y el segundo, colgar en la web un distintivo que no se corresponde con ningún trabajo hecho por dentro.
Diciembre invita además a otra imagen, más doméstica y quizá más útil. El AI Act se entiende mejor como un invierno que como un documento, una estación que llega para todos y que no negocia con nuestras preferencias. Ante ella solo caben dos actitudes razonables, abrigarse con tiempo o pasar frío. El abrigo está hecho de cosas muy concretas: un inventario de los sistemas que la organización utiliza, una evaluación honesta del riesgo de cada uno y una persona responsable que sabe contestar. El frío tiene forma de sanción, desde luego, aunque me preocupa más su otra cara, la improvisación de quien descubre sus obligaciones el día en que alguien se las reclama.
Una lentitud que piensa en los vecinos
Se ha repetido mucho que Europa regula porque no sabe innovar, y la crítica tiene parte de razón en algunos sectores, aunque me parece incompleta. La lentitud europea responde también a una decisión cultural antigua, la de entender que el futuro tiene vecinos. Esos vecinos tienen derecho a conocer las normas antes del incidente y no después. Es la misma lógica que llevó a muchos países a fijar códigos de edificación tras grandes incendios urbanos, o a exigir inspecciones de las calderas de vapor cuando las explosiones se volvieron frecuentes en plena industrialización. Aquellas normas llegaron tarde para algunos y a tiempo para muchos otros, que nunca supieron de qué se habían librado.

Hay también una cuestión de infraestructura que el título de este artículo resume con la palabra enchufe. Europa nunca llegó a ponerse de acuerdo en un único modelo de toma eléctrica, y quien haya viajado entre Londres, París y Roma con un cargador en la maleta conoce las consecuencias. Con la inteligencia artificial, el continente tiene la oportunidad de no repetir ese desorden. Puede decidir sobre qué modelos y qué proveedores conecta sus servicios, con qué garantías de transparencia y bajo qué responsabilidades. Conviene hacerlo antes de que el mercado lo decida por inercia y nos deje con una colección de adaptadores muy difíciles de deshacer.
El distintivo que no abriga
Empiezan a verse en algunas webs sellos del tipo «AI Act ready», colocados con buena intención o con mucho optimismo en empresas que por dentro siguen igual que antes. Un sello, por sí solo, no protege de nada. Lo que protege es la lista de sistemas, la clasificación del riesgo de cada uno y el nombre de la persona que responde por ellos. Hay una prueba muy sencilla para saber si esa lista existe, que consiste en imaginar que mañana llega un auditor y pide verla. Si la organización puede enseñarla sin sudar, está razonablemente preparada. Si no puede, el sello funciona más como disfraz que como abrigo, y lo prudente sería retirarlo hasta que el trabajo de fondo esté hecho.
Lejos de Bruselas y dentro de la norma
Escribo desde Canarias, y aquí he escuchado más de una vez que estas normas son cosa de grandes corporaciones y de despachos de Bruselas. La distancia geográfica no reduce, sin embargo, el alcance del reglamento. Un hotel, una clínica o una pequeña empresa que utilice un sistema clasificado como de alto riesgo queda dentro de sus obligaciones igual que una multinacional. La categoría del sistema importa mucho más que el tamaño o la ubicación de quien lo usa. Lo prudente es leer esa categoría en el propio texto del reglamento, o con alguien que lo conozca bien, y no fiarse solo de la nota de prensa del proveedor, cuyo interés comprensible es tranquilizar al cliente.
Una práctica que recomendaría a cualquier organización pequeña es traducir esa categoría a una frase que entienda la persona de recepción, la que atiende al público. Si el equipo no consigue explicar en una frase por qué un sistema entra en la categoría de alto riesgo, probablemente todavía no lo ha entendido. Y entenderlo es el primer paso de cualquier cumplimiento. El segundo paso es organizativo y bastante menos lucido, ya que consiste en asegurar que hay alguien localizable si el sistema falla fuera del horario habitual. Un inventario sin responsable disponible se queda en un ejercicio de redacción, por muy bien ordenado que esté.
Una lista fea pero completa

Antes de que termine el año, cualquier organización ganaría mucho con una lista, fea e incompleta en su primera versión, escrita en una hoja de cálculo compartida. En ella figuraría cada sistema que usa la organización junto con su finalidad, la persona que decidió incorporarlo y los datos que toca. Esa lista vale más que cualquier sello y más que cualquier informe de cien páginas, porque se puede corregir y enseñar. Además obliga a mantener conversaciones internas que de otro modo nadie tendría. Volviendo al mapa de Borges, la lista útil se parece a un buen plano de metro, que deja fuera casi todo lo que hay en la superficie y aun así permite llegar a donde hay que llegar.
Leo el AI Act con el ánimo con que uno saca el abrigo del armario en enero, sin entusiasmo especial y sin rebeldía, porque discutir la estación no cambia la temperatura. Puede que el reglamento tenga defectos, y seguramente los tendrá, como todas las normas que intentan ordenar una tecnología mientras esta cambia de forma cada pocos meses. La decisión de fondo me parece, sin embargo, de las que perduran. Que los sistemas que afectan a personas tengan un responsable con nombre y una lista revisable es una idea que dentro de unas décadas consideraremos tan obvia como que un ascensor pase revisiones periódicas.
