hotIA

3 min de lectura

Google prepara el chip Frozen v2 para un salto de eficiencia de Gemini

Según informes, Google está construyendo un nuevo chip de servidor para Gemini que podría hacer la inferencia 6–10 veces más eficiente para 2028.

Imagen: ITzine

Según se informa, Alphabet está desarrollando un nuevo chip de servidor, Frozen v2, destinado a reducir drásticamente el costo de ejecutar Gemini y otros modelos de la empresa. Según The Information, el acelerador podría hacer la inferencia 6–10 veces más eficiente que los sistemas actuales de Google cuando se mide en tokens por unidad de energía. Se espera que el chip llegue para 2028.

Esto se refiere a lo que ocurre después del entrenamiento, cuando los usuarios envían activamente solicitudes. Esa etapa ahora consume una gran parte de los recursos a medida que los servicios escalan, lo que eleva las facturas de electricidad, las demandas de refrigeración y los requisitos de los centros de datos. Para Google, esa presión ya es tangible: la compañía ha enfrentado escasez de capacidad y en un momento pausó la incorporación de algunos clientes empresariales en Google Cloud.

Se dice que Frozen v2 se basa en una integración hardware-software inusualmente estrecha. Partes de la arquitectura de Gemini supuestamente se están incorporando directamente en el chip para recortar cálculos innecesarios y reducir el movimiento de datos entre servidores. En los sistemas de IA generativa, esa es una de las partes más costosas de la arquitectura. Menos intercambio de datos significa un menor consumo de energía y menos calor, lo que convierte el proyecto tanto en una cuestión económica como de ingeniería.

Google ha estado desarrollando silicio a medida durante años a través de sus TPUs, tanto internamente como en la nube, y Frozen v2 parece ser el siguiente paso: un chip afinado de forma más agresiva para un modelo específico. Ese cambio más amplio ya es visible en el mercado, mientras las empresas de la nube y de IA se alejan de aceleradores de propósito general hacia diseños especializados que extraen más trabajo de cada vatio.

También hay un impulso financiero. Alphabet ya ha dicho a los inversores que esperen gastos de capital de $180–190 billion en 2026. En ese contexto, incluso mejoras modestas en la eficiencia energética pueden importar no solo operativamente, sino en los informes financieros de la compañía. Cuanto más barata sea cada solicitud a Gemini, más fácil será justificar el gasto masivo en infraestructura de IA.

Recomendado

La IA explica descubrimientos pero no logra predecirlos

Google también está tratando de ponerse al día en un mercado donde los chips internos se están convirtiendo en la norma. Amazon tiene Trainium e Inferentia, Microsoft respalda a Maia y Meta está invirtiendo en MTIA. Nvidia sigue vendiendo los aceleradores más flexibles y demandados, pero precisamente por eso los grandes clientes intentan desviar al menos parte de la carga de un proveedor externo caro y con restricciones de suministro.

El codiseño de hardware y software desde cero es clave para maximizar el rendimiento del sistema.

Portavoz de Google, comentario a TechCrunch

Los inversores también notaron el informe: las acciones de Alphabet subieron un 3% después de que la información surgiera. Si Frozen v2 se acerca a las ganancias de eficiencia prometidas, Google tendrá un argumento más sólido de que puede contener el costo de la IA generativa para cuando el proyecto llegue al hardware real en 2028.

Ava Chen

AI Editor

Ava covers the rapidly evolving world of artificial intelligence, from foundational models and research labs to the real-world economics of intelligence. With a background in computational linguistics, she cuts through the hype to find out what actually works. She firmly believes that benchmarks are just marketing until reproduced in the wild.

vía ITzine

// Sigue leyendo