El FBI estudia sistemas de IA de Nvidia y TPUs de Google

El FBI está estudiando la compra de sistemas informáticos especializados en IA para infraestructura gubernamental segura, incluidos equipos para el entrenamiento e inferencia de grandes modelos de lenguaje, procesamiento de datos y visión por computadora.

Según una solicitud de información (RFI) publicada recientemente, la agencia aún no ha decidido comprar nada. El documento es un paso inicial de sondeo del mercado, pero indica que la agencia podría adquirir múltiples sistemas en distintas configuraciones y volúmenes.

El FBI dividió sus requisitos en cuatro categorías.

La primera cubre sistemas basados en servidores construidos alrededor de procesadores Intel Xeon 6767P o hardware equivalente, con al menos 2 TB de RAM ampliables a 4 TB, además de una configuración de 8 GPU Nvidia HGX B300 o una plataforma comparable. Estos sistemas también deben incluir almacenamiento SSD para el sistema operativo y los datos, así como conectividad de red de gran ancho de banda.

Recomendado

El impulso europeo en chips no acabará con la dependencia de la nube estadounidense

La segunda categoría se centra en sistemas integrados a escala de rack para despliegues en centros de datos. El FBI está considerando plataformas del nivel del Nvidia GB300 NVL72 — bastidores de cálculo preconstruidos diseñados para entrenar y ejecutar grandes modelos de IA. La agencia afirma que dichos sistemas deben incluir interconexiones de alta velocidad entre aceleradores, infraestructura Ethernet de clase Nvidia Spectrum‑X, refrigeración integrada y soporte para la conexión a sistemas de refrigeración por agua en instalaciones gubernamentales.

La tercera categoría está dirigida a arquitecturas de clústeres de IA empresariales. Los documentos mencionan sistemas comparables a Google TPU v8, TPU v7L o versiones más recientes. El rendimiento requerido debe estar al menos a la par con 5 bastidores Nvidia GB300 NVL72. El hardware también debe soportar cargas de trabajo de grandes modelos de lenguaje y ser compatible con una variedad de frameworks de IA.

Esa referencia a los TPU destaca porque los TPU de Google tradicionalmente se han ofrecido a través de la infraestructura en la nube de Google, en lugar de como sistemas on‑premises instalados en los propios centros de datos de los clientes. El informe señala que Google ha ido ampliando gradualmente la disponibilidad de TPU más allá de su nube, incluso a través de centros de cómputo asociados.

La cuarta categoría abarca aceleradores para inferencia. Aquí, el FBI contempla hardware del nivel de la Nvidia L40S con al menos 48 GB de VRAM para IA generativa, embeddings y visión por computadora. Los aceleradores deben soportar FP32, FP16, BF16 e INT8, así como herramientas como CUDA, TensorRT, PyTorch y TensorFlow.

Según los documentos, la mayoría de las posibles entregas están destinadas a la división de Servicios de Información de Justicia Criminal (CJIS) del FBI en Clarksburg, Virginia Occidental, donde la agencia planea alojar el equipo para cargas de trabajo de cómputo seguro.