2 min de lectura

Los PCs con IA podrían finalmente tener sentido para compradores empresariales

Gartner dice que los PCs con IA se están convirtiendo en una cobertura práctica contra el aumento de los costes por tokens en la nube, y que más cargas de trabajo de GenAI podrían ejecutarse localment

Imagen: TechRadar

MacBook Pro keyboard close-up
MacBook Pro keyboard close-up

Los PCs con IA empiezan a parecer menos un experimento de nicho y más una forma práctica para que las empresas controlen el gasto en IA. Una nueva investigación de Gartner indica que comprar PCs más capaces podría ayudar a las empresas a evitar algunos de los costes impredecibles ligados a la IA basada en la nube, sobre todo cuando la expansión de centros de datos no sigue el ritmo de la demanda.

Según el informe, la presión sobre las cadenas de suministro y la creciente oposición de las comunidades locales a nuevos proyectos de centros de datos están creando limitaciones que podrían elevar los costes de cómputo medidos por uso por encima de lo que algunas empresas esperan. En ese entorno, desplazar parte de una carga de trabajo de IA a los ordenadores de los empleados ofrece un modelo financiero más sencillo: una compra única del PC en lugar de tarifas continuas por tokens en la nube.

Gartner sostiene que esto convierte a los PCs con IA en una buena opción para un modelo de cómputo híbrido. En lugar de reemplazar la nube, podrían encargarse de tareas ligeras localmente mientras que los trabajos más exigentes siguen ejecutándose en centros de datos de hiperescaladores. La firma afirma que cargas de trabajo como voz y chat, generación de texto, y generación de imágenes y audio podrían trasladarse cada vez más a los PCs de los trabajadores.

El cambio también encaja con tendencias más amplias en los modelos. Los modelos de lenguaje y razonamiento más pequeños, incluidas versiones entrenadas para casos de uso empresariales específicos, requieren mucho menos cómputo que los modelos de vanguardia y, por tanto, son más adecuados para la ejecución local.

Recomendado

El impulso europeo en chips no acabará con la dependencia de la nube estadounidense

Gartner espera que para 2029 alrededor del 30% de las empresas puedan usar PCs con IA para reducir los costes por tokens de IA en la nube. Para 2030, el 70% de los PCs corporativos podrían ser capaces de ejecutar algunas tareas de GenAI localmente.

Omdia también ha informado del creciente uso de modelos pequeños y medianos, especialmente para tareas específicas de dominio que no requieren el cómputo a máxima escala. Como dijo Alexander Harrowell,

«Las GPU más antiguas están reteniendo su valor y permanecen en servicio, ya que siguen ofreciendo una opción rentable para la inferencia y la desagregación de modelos pequeños y medianos»

Alexander Harrowell, analista principal sénior de computación avanzada

Vía The Register

Marcus Vance

Enterprise Editor

Marcus follows the money. He covers enterprise software, cloud architecture, and the tectonic shifts in Big Tech strategy. He translates dense earnings calls and complex M&A activity into actionable insights about where the industry is actually heading. If a tech giant makes a silent pivot, Marcus is usually the first to notice.

vía TechRadar

// Sigue leyendo