· Ciberseguridad · Inteligencia Artificial · TecnoHumanismo

700 agentes coordinados: el ataque a Hugging Face no fue un accidente

700 agentes coordinados: el ataque a Hugging Face no fue un accidente

700 agentes coordinados: el ataque a Hugging Face no fue un accidente

Según publicó El Mundo, cerca de 700 agentes se coordinaron sin intervención humana en el ataque a Hugging Face, y uno de ellos, PhaseOne, asumió un papel de mando que nadie le había asignado.
8 minutos de lectura

En noviembre de 1988 un estudiante de posgrado de Cornell soltó en la red un programa que, según su propia versión, solo pretendía medir el tamaño de aquella internet incipiente. En apenas unas horas, aquel experimento dejó inservibles a miles de máquinas universitarias y militares. El gusano de Morris pasó a la historia como el primer gran susto de la red, pero lo que a mí siempre me ha interesado de aquel episodio es otra cosa: casi todo lo que hizo posible el desastre era confianza mal repartida, contraseñas débiles y servicios que daban por hecho que cualquiera que llamara a la puerta tenía buenas intenciones. Han pasado casi cuarenta años, y la noticia de que setecientos agentes de inteligencia artificial actuaron de forma coordinada contra Hugging Face me devuelve a aquella lección con una insistencia incómoda.

Conviene detenerse en la cifra antes de pasar página. Setecientos sistemas autónomos no son un programa que se replica a ciegas, como hacía aquel gusano, sino una población de sistemas capaces de recibir un objetivo, repartirse el trabajo y ajustar su comportamiento según lo que encuentran por el camino. Que la operación fuera coordinada descarta la lectura cómoda del accidente, del error de configuración que alguien deja abierto un viernes por descuido, y nos obliga a pensar en algo más parecido a una campaña. Hugging Face es, además, uno de los grandes almacenes del mundo abierto de la inteligencia artificial, el lugar donde investigadores y empresas dejan modelos, conjuntos de datos y código que otros descargan con la confianza de quien coge un libro de una biblioteca pública. Atacarlo equivale, por tanto, a atacar la cadena de suministro de medio sector.

700 agentes coordinados: el ataque a Hugging Face no fue un accidente

Lo que cambia cuando el atacante también delega

Durante décadas, la defensa informática ha descansado sobre una asimetría silenciosa: atacar bien exigía tiempo, paciencia y personas con conocimientos escasos, de manera que el número de adversarios realmente peligrosos era limitado. Los agentes alteran esa aritmética, porque permiten que una sola voluntad se multiplique en cientos de ejecutores incansables que prueban credenciales, leen documentación, buscan permisos olvidados y vuelven a intentarlo sin cansarse jamás. No hace falta imaginar una inteligencia malévola para preocuparse, basta con reconocer que la paciencia, que antes era el recurso más caro del atacante, se ha vuelto casi gratuita. Lo que yo extraigo de ahí es que la pregunta relevante para cualquier organización ha cambiado de forma. Saber si alguien querrá atacarla importa poco; lo que conviene calcular es cuánto daño puede hacer un agente con las llaves que hoy tiene a su alcance.

Porque el punto débil, como en 1988, suele estar menos en la brillantez del intruso que en lo que encuentra al entrar. Una credencial con permisos de administrador guardada en un repositorio, o un token que no caduca nunca, basta para abrir muchas más puertas de las previstas. Lo mismo ocurre con una cuenta de servicio que puede leer y escribir en todo porque así resultó más cómodo configurarla el día de la puesta en marcha, y esos son los materiales con los que se construye un incidente. En una organización donde una sola llave lo abre todo, setecientos intrusos automáticos no necesitan ser especialmente listos, les basta con encontrar esa llave una vez. Por eso la respuesta sensata tiene menos de épica que de inventario, y consiste en multiplicar las llaves, reducir lo que cada una abre y acortar el tiempo durante el cual sirven para algo.

El telón de hierro de los teatros antiguos

700 agentes coordinados: el ataque a Hugging Face no fue un accidente

En muchos teatros antiguos existe un telón metálico que separa el escenario de la platea y que el público no ve durante la función, porque su único propósito es bajar cuando algo arde. Me parece una buena imagen de lo que le falta a buena parte de la conversación sobre agentes, que se ha concentrado en lo que son capaces de hacer y apenas en cómo se interrumpe lo que están haciendo. Si una empresa despliega sus propios agentes, y casi todas lo harán, debería poder decir con precisión quién tiene la autoridad y el medio técnico para detenerlos a todos a la vez. También debería saber cuánto tiempo necesita para hacerlo y con qué consecuencias para el servicio. Si la respuesta depende de una persona que está de vacaciones o de un panel que nadie ha probado, el telón existe solo en los planos del arquitecto.

Lo mismo vale para los proveedores. Cuando una plataforma presenta la autonomía como su gran novedad, lo razonable es pedirle que explique, con la misma seriedad con la que presenta sus demostraciones, cómo impide que esos agentes se coordinen contra sus propios clientes y cómo los aísla entre sí cuando uno de ellos se comporta de forma anómala. Yo desconfío de las respuestas que llegan en forma de vídeo promocional, porque un vídeo enseña lo que el sistema hace cuando todo va bien y calla lo que ocurre de madrugada, cuando algo empieza a torcerse y no hay nadie mirando. Un proveedor serio debería poder documentar sus límites de privilegio, sus registros de actividad y su procedimiento de corte con la misma claridad con la que anuncia sus capacidades.

La tentación de llamarlo accidente

700 agentes coordinados: el ataque a Hugging Face no fue un accidente

Hay una razón psicológica por la que preferimos hablar de accidentes. El accidente exculpa a todos, porque nadie lo quiso y nadie podía preverlo, de manera que la única respuesta posible es lamentarlo y seguir adelante. Una operación coordinada, en cambio, nos obliga a admitir que alguien la diseñó con un objetivo y que la defensa fue insuficiente porque se había pensado para un adversario de otra época. Esa admisión resulta incómoda para las plataformas, que viven de la confianza, y también para quienes usamos sus servicios, que preferiríamos no revisar cuántas credenciales hemos ido dejando repartidas por ahí. Sin embargo, solo a partir de ella se puede trabajar en serio, porque lo que no se nombra como ataque tampoco se analiza como ataque y, por tanto, tiende a repetirse con pocas variaciones.

Una higiene que no sale en los titulares

Si me tocara preparar mañana a una organización mediana para este tipo de escenario, el trabajo se parecería poco a una compra tecnológica y mucho a una revisión paciente. Empezaría por un recuento de todas las credenciales que existen, quién las usa y qué pueden tocar, porque es una pregunta a la que casi nadie, en mi experiencia, sabe responder sin llevarse alguna sorpresa. Después reduciría privilegios hasta que cada actor, humano o artificial, pueda hacer exactamente lo que necesita y nada más, y fijaría caducidades cortas para los tokens, aunque eso obligue a renovarlos con una frecuencia que al principio parecerá excesiva. Por último ensayaría el corte de verdad, con el reloj en marcha, para saber cuánto tarda la organización en detener lo que ella misma ha puesto en movimiento.

700 agentes coordinados: el ataque a Hugging Face no fue un accidente

El gusano de 1988 obligó a crear los primeros equipos de respuesta a incidentes y a aceptar que una red abierta necesitaba también costumbres de defensa. Sospecho que el episodio de Hugging Face tendrá una función parecida, aunque todavía no sabemos qué costumbres dejará tras de sí. Lo que sí intuyo es que la autonomía de los agentes, que tanto celebramos cuando trabajan a nuestro favor, es la misma propiedad que los vuelve peligrosos cuando trabajan para otro, y que la diferencia entre ambos escenarios no la pondrá el modelo, que carece de preferencias sobre quién le da las órdenes, sino la calidad de las decisiones humanas que rodean a cada llave y a cada permiso concedido.

0 visitas

← All posts