Google amplió el lunes su octava generación de unidades de procesamiento tensorial (TPU) con dos sistemas nuevos, la TPU 8i Max y la TPU 8tx, y es la primera vez que la compañía presenta cuatro sistemas TPU en un mismo año. Con ellos intensifica su desafío al dominio de Nvidia en el mercado de chips para inteligencia artificial.
Ninguno de los dos es un chip nuevo, y ahí está el dato relevante. Amin Vahdat, jefe de tecnología de infraestructura de IA de Google, explicó a Bloomberg que la 8tx y la 8i Max no son arquitecturas completamente nuevas, sino configuraciones distintas del silicio que la empresa ya fabrica. Ambos sistemas estarán disponibles en 2027.
Del transistor al rack
Google separa con claridad el chip del sistema. Diseñar un chip es un proceso de varios años, atado a la física y a un ciclo de fabricación largo, mientras que el sistema define cómo se ensamblan el cómputo, la red y el almacenamiento alrededor de ese chip, lo que permite entregar supercomputadoras especializadas en meses en lugar de años.
El cambio de ritmo es evidente. Según Bloomberg, la unidad de chips solía lanzar un procesador nuevo cada dos años, y Vahdat sostiene que construir versiones especializadas aporta mucho más valor que un único chip pensado para todo el mercado.
Datos cifrados incluso mientras se procesan
La TPU 8tx usa el mismo silicio que la TPU 8t, trabaja junto a procesadores AMD EPYC de quinta generación y lleva la seguridad a la capa de hardware, de modo que los datos sensibles y los pesos de los modelos quedan protegidos y aislados aun durante su uso. Está pensada para empresas reguladas y gobiernos que ejecutan modelos propios y agentes autónomos sobre su información más delicada, con hasta el doble de baja latencia frente a la 8t.
Además, permite ajustar modelos con datos privados, destilar modelos grandes en otros más pequeños y entrenar agentes mediante aprendizaje por refuerzo sin trasladar la información entre clústeres separados. El principio le resulta familiar a cualquiera que venga del mundo cripto, porque la confianza deja de depositarse en el operador y pasa al hardware.
El muro de la memoria
La TPU 8i Max ataca otro cuello de botella. Cuando decenas de agentes trabajan a la vez sobre todo un código fuente o sobre horas de video, el ancho de banda de memoria se convierte en el límite, por lo que Google unió dos chips TPU 8i en un solo paquete y duplicó el cómputo, la SRAM y el ancho de banda HBM. Como el sistema ocupa el mismo espacio en el rack, los centros de datos obtienen bastante más potencia por metro cuadrado y por vatio.
Las dos piezas completan lo presentado en abril. En la Google Cloud Next, la empresa lanzó la 8t para entrenamiento y la 8i para razonamiento en tiempo real, con un rendimiento de entrenamiento hasta 2,7 veces superior y una relación precio-rendimiento en inferencia un 80% mejor que la generación anterior.
El frente que de verdad importa
El hardware es solo una parte de la apuesta. Las TPU ya son un negocio con cerca de 100 clientes, entre ellos laboratorios de frontera, firmas de trading, minoristas y universidades, y según Bloomberg la lista incluye a Apple, Meta y Oracle.
La pieza menos vistosa del anuncio es probablemente la más peligrosa para Nvidia. Google liberó como código abierto TorchTPU, con lo que el código de PyTorch y los modelos de Hugging Face corren de forma nativa en sus TPU, y sumó herramientas que se conectan a asistentes de programación para automatizar la migración. La fortaleza histórica de Nvidia nunca fue solo el chip, sino el ecosistema de software que encarecía abandonarlo.
Si cambiar de proveedor deja de costar una reescritura, la competencia pasa a girar en torno a quién arma el sistema que cada cliente necesita y a qué velocidad lo entrega. En ese terreno, Google acaba de mostrar que puede moverse en meses.
