La IA está poniendo fin al modelo de 'talla única' en los centros de datos

Durante años, los centros de datos se construyeron en torno a una regla simple: maximizar la disponibilidad. El objetivo predeterminado a menudo era un 99.999% de tiempo de actividad, con capas de redundancia en alimentación, refrigeración y redes para mantener los servicios en funcionamiento incluso cuando partes fallaban.

Ese modelo ahora está bajo presión. En este artículo de TechRadar Pro Perspectives, el CTO y cofundador de InfraPartners sostiene que las cargas de trabajo de IA han expuesto lo diferentes que pueden ser las necesidades de infraestructura. Entrenar un gran modelo de lenguaje, ofrecer inferencia en tiempo real, ejecutar software empresarial y gestionar transacciones críticas para el negocio no exigen los mismos niveles de resiliencia, latencia o distribución geográfica.

Cómo el entrenamiento y la inferencia de IA cambian el diseño de los centros de datos

El artículo dice que los operadores están separando cada vez más el entrenamiento de la IA de la inferencia al diseñar las instalaciones. Para el entrenamiento, las principales limitaciones suelen ser:

• suministro de energía
• capacidad de refrigeración
• velocidad de despliegue
• densidad de cómputo

En algunos casos, eso significa construir sitios de entrenamiento sin generadores de respaldo, sistemas de redundancia complejos o arquitectura de alto nivel. Estas instalaciones se están ubicando cada vez más donde haya energía disponible, con menos énfasis en los estándares tradicionales de resiliencia.

Recomendado

El auge de los centros de datos en el Reino Unido choca con la realidad del agua

La inferencia es diferente. Como esas cargas de trabajo suelen ubicarse más cerca de los usuarios y respaldan servicios con los que las personas interactúan a diario, la latencia, la disponibilidad y la experiencia del cliente importan más. Eso crea un argumento más sólido a favor de infraestructuras resilientes y arquitecturas distribuidas geográficamente.

Resiliencia de precisión e instalaciones actualizables

En lugar de aplicar el mismo estándar de diseño en todas partes, el artículo propone la «resiliencia de precisión»: ajustar la redundancia a cómo se comportan realmente las cargas de trabajo en lugar de confiar en suposiciones heredadas.

Eso importa porque los operadores están lidiando con escasez de mano de obra, una demanda que supera la oferta, la presión para entregar capacidad más rápido y un déficit energético en curso. Sobreingeniería en cada despliegue de IA añade coste y complejidad en un momento en el que ambos escasean. Cada capa extra de redundancia consume capital y puede ralentizar los proyectos.

La respuesta propuesta es la flexibilidad. A medida que la demanda de IA cambia y las futuras densidades de cómputo y requisitos de refrigeración siguen siendo inciertos, las instalaciones deben ser actualizables. El artículo señala los bloques prefabricados fuera del sitio que se ensamblan posteriormente en el emplazamiento como una forma de crear centros de datos que puedan evolucionar con el tiempo.

Según el artículo, el resultado será una mezcla de sitios especializados: campus de entrenamiento optimizados energéticamente cerca de fuentes de energía, instalaciones de inferencia distribuidas donde el tiempo de actividad y la latencia afectan directamente la experiencia del usuario, y entornos híbridos que soportan tanto cargas de trabajo de IA como tradicionales.