NVIDIA Rubin: seis chips y la promesa de abaratar el token
NVIDIA presenta la plataforma Rubin con seis chips diseñados para trabajar juntos y promete abaratar el coste de cada token, una cifra pequeña de la que depende buena parte de la economía de los agentes.
7 minutos de lectura
A finales del siglo XIX, las primeras centrales eléctricas empezaron a abaratar la energía en las grandes ciudades, pero el progreso técnico no llegó a todos al mismo tiempo ni en las mismas condiciones. Durante décadas, el kilovatio barato iluminó los bulevares y las fábricas mucho antes que las casas de los barrios obreros o de los pueblos. La diferencia no la marcaron los generadores, que eran cada vez más eficientes, sino las redes y las tarifas, junto con las decisiones sobre dónde merecía la pena tender un cable. La historia de la electrificación es en buena medida la historia de quién se quedó con el descuento que la ingeniería había hecho posible.
Esa historia volvió a mi memoria con el anuncio de Rubin, la nueva plataforma de NVIDIA. Está compuesta por seis chips diseñados para trabajar juntos y llega acompañada de una promesa muy clara, que es abaratar el coste de cada token que producen los modelos de inteligencia artificial. Desde el punto de vista técnico el anuncio es impresionante, y no tengo motivos para dudar de que el coste por unidad de cálculo siga bajando como lleva haciéndolo desde hace años. La pregunta de fondo viene después, y es la misma que se hacían los ingenieros y los ayuntamientos de hace un siglo, una pregunta con más de economía política que de silicio.
El descuento y sus intermediarios

Entre la fábrica de chips y el usuario final hay una cadena larga de intermediarios. En ella aparecen los proveedores de nube y las empresas que construyen modelos, pero también las plataformas que los empaquetan y las consultoras que los integran en cada organización. Cada eslabón tiene incentivos legítimos para quedarse con una parte del ahorro, y nada garantiza que el abaratamiento del token llegue entero a la escuela que quiere usar asistentes educativos o al hospital que necesita procesar informes clínicos. Si el descuento se queda en los mayoristas, la promesa de Rubin habrá sido una buena noticia para los márgenes del sector y una noticia bastante más tibia para la sociedad que lo financia con sus facturas.
De ahí que cualquier organización que contrate servicios de inteligencia artificial tenga motivos sobrados para preguntar a su proveedor qué parte de esas mejoras de eficiencia piensa trasladar a sus precios y en qué plazo. Es una pregunta comercial normal, la misma que se hace cuando baja el precio de una materia prima, y la respuesta dice mucho de la relación que se tiene con quien vende. Las presentaciones de los proveedores hablan con generosidad de eficiencia. Lo que una dirección financiera necesita, sin embargo, es una cifra comprometida por escrito con la que pueda organizar el año sin depender del optimismo ajeno.
Cuando el centro de datos se detiene
Hay otra dimensión del asunto que la euforia de los anuncios tiende a ocultar, y es la dependencia física que estamos construyendo. Cuanto más barato es el token, más procesos se apoyan en él. Y cuantos más procesos se apoyan en él, más grave resulta que el centro de datos que lo produce se detenga por una avería o por un fallo de suministro. Un rack que se apaga arrastra al modelo que alojaba, y si el trabajo de una organización depende por completo de ese modelo, el trabajo también se detiene, por eficiente que fuera cada chip mientras funcionaba.
La respuesta habitual a ese riesgo es contratar un segundo proveedor, y está bien hacerlo, aunque conviene no engañarse. Si el segundo proveedor depende de la misma infraestructura o del mismo tipo de hardware, la redundancia es más aparente que real. Existe una alternativa más modesta y más robusta, que consiste en documentar cómo podría sostenerse el trabajo esencial durante dos días sin el modelo y en ensayarlo un par de veces al año, igual que se ensaya la evacuación de un edificio. Ese ensayo da cierta vergüenza, porque revela lo mucho que hemos olvidado hacer sin ayuda, pero resulta mucho más honesto que cualquier presentación sobre resiliencia.

La tentación de pegarlo todo
El abaratamiento tiene además un efecto sobre los hábitos que merece atención. Cuando cada consulta cuesta muy poco, desaparece el incentivo para pensar bien lo que se pregunta. Es tentador entonces pegar en la conversación el contexto entero, con documentos completos y hojas de cálculo llenas de datos personales, o con fragmentos de contratos que nunca deberían haber salido de la organización. El descuento puede comerse la higiene, como ya ocurrió con la luz barata de las primeras ciudades electrificadas, que animó instalaciones improvisadas y acabó provocando incendios hasta que se impusieron reglamentos de seguridad.
Una medida sencilla que yo adoptaría es fijar un límite de consumo por equipo y publicarlo sin dramatismo, como se publica cualquier otra partida de gasto. El límite tiene una función más pedagógica que punitiva, porque enseña a pensar antes de pegar. Obliga a preguntarse si ese documento necesita realmente viajar a un servidor externo y si la consulta podría formularse con menos datos. Cuando no hay límites, el problema aparece de golpe en forma de factura inesperada o de filtración, y la conversación posterior es mucho más desagradable que la que se habría tenido al establecer una regla razonable desde el principio.
Seis chips no hacen una política

Rubin es una pieza de ingeniería extraordinaria, y sería injusto reducirla a una cuestión de contabilidad. Ahora bien, seis chips no constituyen una política tecnológica por brillantes que sean. La política consiste en responder quién se queda con el margen que genera la eficiencia y quién puede seguir trabajando cuando algo falla. Esas respuestas las darán los contratos y las administraciones públicas, junto con las decisiones de cada organización sobre cómo usa esta tecnología, mucho más que cualquier fabricante de semiconductores por avanzado que sea su catálogo.
La electrificación tardó décadas en convertirse en un servicio universal, y lo hizo porque hubo sociedades que decidieron que la luz barata debía llegar también a quien no podía negociar con las compañías. No sé si con la inteligencia artificial tendremos la paciencia o la voluntad política de repetir ese camino, ni si el ritmo de esta industria nos dejará tiempo para pensarlo. Me parece, en cualquier caso, que la pregunta merece estar en la conversación al mismo nivel que las cifras de rendimiento, porque de ella depende que el token barato acabe siendo un progreso compartido o simplemente un negocio más eficiente.
