El cuerpo de la IA: cuando el modelo deja de ser solo lenguaje
Después de diez semanas de lanzamientos de software y un mes de ferias, enero deja una idea clara: los modelos empiezan a percibir y a actuar en el mundo físico, y eso cambia lo que significa equivocarse.
7 minutos de lectura
Isaac Asimov formuló sus leyes de la robótica en los años cuarenta, y lo más interesante de ellas no es su contenido, que casi todo el mundo conoce, sino el hecho de que el propio autor dedicara décadas de relatos a demostrar que no funcionaban. Cada historia de Yo, robot plantea una situación en la que unas reglas aparentemente impecables producen un comportamiento absurdo o peligroso. El mundo físico está lleno de ambigüedades que ninguna formulación general consigue anticipar. Asimov entendió antes que muchos ingenieros que un artefacto con cuerpo necesita, antes que principios elevados, límites concretos y revisables que alguien pueda comprobar.
Me acuerdo de Asimov ahora que la inteligencia artificial empieza a salir de la pantalla. Durante unos años hemos convivido con modelos que solo producían lenguaje, y sus errores se quedaban en el terreno de las palabras, en forma de respuesta inventada o de cita que no existía. El modelo que se incorpora a un robot ya no se limita a escribir. Mueve objetos y abre puertas, se desplaza por espacios compartidos y entra en contacto con personas, de modo que sus equivocaciones adquieren una consecuencia física que el lenguaje nunca tuvo. Cuando escribí Superhumanos, esa transición ya me parecía el asunto decisivo de la década, y el mercado empieza ahora a darle forma comercial.
Una lista antes que una ley

Frente a la tentación de buscar grandes principios, existe un instrumento mucho más humilde y, creo, más eficaz: una lista explícita de lo que cada robot puede tocar. La puerta del almacén y la caja de cierto peso son contactos con riesgos muy distintos de los que tiene el plato que se lleva a una mesa o la persona a la que se ayuda a incorporarse. Cada uno de ellos merece una decisión expresa, tomada por alguien que conozca el entorno. Todo lo que no figure en la lista debería quedar fuera por defecto, porque la improvisación de un brazo mecánico tiene poco de creativa y mucho de imprevisible.
Esa lista, para ser útil, necesita algunas propiedades que la distinguen de un simple documento de buenas intenciones. Debe tener una persona responsable que la firme y la revise cuando cambian el entorno o el software. Debe estar además a la vista de quienes trabajan junto al robot, en lugar de quedar enterrada en una carpeta del departamento técnico. Lo que me gusta de este enfoque es que no exige resolver antes los grandes dilemas éticos de la inteligencia artificial. Se apoya en algo que cualquier organización seria ya sabe hacer con su maquinaria convencional, que es definir usos permitidos y asumir la responsabilidad de esa definición.
El encanto peligroso del compañero
Buena parte del marketing de la robótica de servicio insiste en presentar estos aparatos como compañeros. Les pone nombre y les da una voz cálida, a veces unos ojos animados en una pantalla, y los describe como alguien que nos acompaña más que como algo que usamos. Es una estrategia comprensible desde el punto de vista comercial, porque el afecto vende, pero tiene un efecto secundario que conviene vigilar. El afecto baja la guardia, y una persona que siente cariño por un robot tiende a disculparle fallos y a confiar en él por encima de lo razonable, e incluso a sentir cierta culpa cuando lo apaga, como si apagarlo fuera un desaire hacia alguien.
Prefiero llamar máquina a la máquina, y lo hago por una razón práctica, ya que esa palabra preserva una relación sana entre quien usa el aparato y el aparato mismo. Un artefacto se apaga sin culpa y se retira cuando deja de ser seguro. La responsabilidad de lo que hace recae siempre en las personas que lo fabrican y lo ponen a trabajar. Atribuir a un chasis con sensores una personalidad propia es, en el fondo, una manera de desplazar esa responsabilidad hacia un lugar donde nadie puede reclamarla, y eso me parece una mala idea por mucho encanto que tenga en una campaña publicitaria.

Cuando el lenguaje pide pasillo
Hasta hace poco, el modelo esperaba su turno en un recuadro de texto, y su único territorio era la conversación. Ahora quiere pasillo, y el pasillo tiene leyes distintas de las del recuadro. En él hay gente que camina deprisa y objetos que se caen, niños que corren y personas mayores que se mueven despacio. Las reglas que valían para un chat, como la moderación de contenidos o la verificación de fuentes, siguen siendo necesarias pero se quedan cortas. Ahora también importan la velocidad a la que se desplaza el robot y la distancia que guarda respecto a quien tiene delante.
Esas leyes de pasillo conviene escribirlas antes de la compra, sin esperar a que las proponga el vendedor, cuyo interés legítimo es que el producto parezca capaz de hacer cuanto más mejor. Una organización que incorpore robots debería sentarse primero con quienes conocen el espacio, como el personal de mantenimiento o los propios trabajadores del turno. Son ellos quienes saben dónde están los puntos delicados. De esa conversación sale una lista mucho más realista que cualquier ficha técnica, y además sale un compromiso compartido que hace bastante probable que las normas se respeten cuando el sistema ya esté funcionando.
Lo que Asimov no llegó a prever

Asimov imaginaba robots con cerebros positrónicos capaces de razonar sobre sus leyes, y buena parte del dramatismo de sus relatos procedía de esa capacidad de interpretación. Los robots que están llegando ahora se parecen a sus personajes antes de lo que él mismo habría esperado. Incorporan modelos de lenguaje que interpretan instrucciones con flexibilidad y a veces con una creatividad desconcertante. Esa flexibilidad es su gran virtud en una conversación y su principal riesgo en un espacio físico. Esa es la razón de que los límites deban estar escritos fuera del modelo, en documentos que respaldan personas concretas, y no en principios que el robot deba interpretar por su cuenta.
Yo firmaría con gusto una lista de lo que un robot puede tocar, con nombres y fechas de revisión, y me costaría mucho más suscribir la idea de que un aparato es mi compañero. Quizá esta sea la lección más útil que nos dejó Asimov, más allá de sus famosas leyes. La seguridad de un cuerpo artificial depende menos de lo que él entienda que de lo que nosotros hayamos tenido la prudencia de decidir antes de encenderlo, y esa prudencia, a diferencia de cualquier modelo, no se puede descargar en una actualización.
