Las agencias públicas apuestan por modelos de lenguaje pequeños

Los gobiernos quieren la velocidad de la IA sin ceder el control de datos sensibles, y esa tensión está empujando a los modelos de lenguaje pequeños, o SLMs, al frente de la fila. En lugar de enviar datos a sistemas en la nube expansivos y esperar que la gobernanza dé la talla, las agencias públicas están mirando modelos de lenguaje pequeños en el sector público que pueden permanecer locales, ser más específicos y ser más fáciles de auditar.

El atractivo es bastante obvio. Un estudio de Capgemini citado en la fuente encontró que el 79 por ciento de los ejecutivos del sector público a nivel mundial desconfían de la seguridad de los datos en IA, mientras que una encuesta de Elastic halló que el 65 por ciento tiene dificultades para usar datos de forma continua, en tiempo real y a escala. Esa es una combinación complicada para cualquier ministerio, departamento o agencia que intente pasar de una prueba piloto sin convertir a su equipo de TI en una unidad de respuesta a incidentes a tiempo completo.

Por qué la IA en el sector público sigue estancándose

Las empresas privadas suelen suponer acceso estable a la nube, infraestructuras centralizadas y reglas relativamente laxas sobre el movimiento de datos. Las instituciones públicas suelen tener lo contrario: conectividad limitada, controles más estrictos y obligaciones legales que hacen inviable eso de «simplemente enviarlo al modelo». Han Xiao, vicepresidente de IA en Elastic, sostiene que las agencias gubernamentales deben ser «muy restrictivas» respecto a qué datos salen de sus redes, lo que impone un techo rígido a la rapidez con la que los despliegues de IA convencionales pueden escalar.

Recomendado

Sam Altman se burla del anuncio de Anthropic mientras crece la reacción en su contra

También está el problema del hardware. Los modelos grandes tienden a depender de GPUs e infraestructuras que muchas agencias no compran ni gestionan de forma habitual, lo que los hace incómodos de ejecutar y caros de ampliar. Por eso algunos pilotos del sector público quedan atrapados en modo demostración: funcionan lo suficiente en un entorno controlado y luego colapsan en cuanto se enfrentan a la contratación pública, una revisión de seguridad o una conexión de red irregular.

Cómo cambian en la práctica los modelos de lenguaje pequeños

Los SLMs son modelos más pequeños y especializados, diseñados para un trabajo concreto en lugar de para cualquier tarea. En la práctica, eso significa que pueden residir en servidores locales o incluso en un dispositivo, usar fuentes verificadas y recuperar solo la información necesaria para una tarea en lugar de transportar conjuntos de datos enteros a un modelo remoto. Un estudio empírico citado en la fuente encontró que los SLMs rindieron igual o mejor que los LLMs, lo que recuerda de forma clara que más grande no siempre es más inteligente.

• Miles de millones de parámetros, no cientos de miles de millones
• Menos exigentes computacionalmente que los modelos de lenguaje grandes
• Mejor adaptados al control local de datos y a los requisitos de auditoría
• Pueden usar recuperación inteligente, búsqueda vectorial y anclaje en fuentes verificables

Ese diseño importa porque los casos de uso gubernamentales suelen no tratarse de un chat deslumbrante. Se trata de encontrar el expediente correcto, comprobar una norma, interpretar una respuesta a una consulta o redactar algo que deba ser jurídicamente defendible. La predicción de Gartner de que para 2027 los modelos pequeños y especializados se usarán tres veces más que los LLMs sugiere que el mercado ya se está moviendo hacia la utilidad en lugar del espectáculo.

La búsqueda es la verdadera puerta de entrada de la IA

El caso de uso más práctico puede ser el menos glamuroso: la búsqueda. Las organizaciones del sector público acumulan montañas de material no estructurado, desde documentos de contratación y informes técnicos hasta facturas, escaneos, imágenes, hojas de cálculo y grabaciones. Los sistemas impulsados por SLM pueden indexar esa mezcla, trabajar en varios idiomas y ofrecer respuestas vinculadas al material fuente en lugar de a lo que al modelo le apetezca inventar esa mañana.

Por eso el consejo de la fuente de «empezar por la búsqueda» es más sensato que el habitual bombo del chatbot como primer paso. Una vez que las agencias pueden recuperar y verificar información de manera fiable, el resto del flujo de trabajo se simplifica: la toma de decisiones ejecutivas mejora, las consultas públicas se responden más rápido y el cumplimiento legal deja de ser un juego de adivinanzas. La próxima ola de IA gubernamental probablemente no se parecerá a un asistente llamativo; se parecerá a un archivero muy competente, que francamente llega tarde.

Las compensaciones detrás de los modelos más pequeños

Los SLMs no son magia. Siguen necesitando inversión de capital, gobernanza y vigilancia continua, y funcionan mejor cuando los datos de entrenamiento están cuidadosamente seleccionados. Pero también reducen la exposición a alucinaciones, se adaptan más naturalmente a normas de privacidad como el RGPD y evitan la expansión operativa que hace frágiles a muchos proyectos de IA del sector público. El cambio real es filosófico: en lugar de preguntarse cuánto puede crecer un modelo, las agencias se preguntan cuánto control pueden conservar.

Esa pregunta definirá la próxima fase de la IA en el sector público. Si las agencias eligen el modelo más pequeño que haga el trabajo de forma fiable, los ganadores serán los que sepan combinar recuperación, capacidad de auditoría y despliegue local sin hacer que el personal tenga que suplicar a una consola en la nube permiso para trabajar. Si siguen persiguiendo modelos más grandes para tareas rutinarias, esperen más pilotos, más retrasos y pruebas más caras de que la solución obvia era la práctica.