La startup de Mira Murati lanza un modelo abierto de 975 mil millones de parámetros

Thinking Machines Lab, la startup fundada a principios de 2025 por la ex directora técnica (CTO) de OpenAI, Mira Murati, ha presentado Inkling, un modelo de pesos abiertos de 975 mil millones de parámetros dirigido a desarrolladores que buscan una alternativa de escala de vanguardia a las ofertas de laboratorios chinos.

La compañía afirma que Inkling es el mayor modelo estadounidense de pesos abiertos hasta la fecha. A precisión nativa de 16 bits, necesita más de dos terabytes de memoria GPU para ejecutarse — aproximadamente ocho aceleradores Nvidia B300 o dieciséis H200. Para implementaciones más pequeñas, Thinking Machines también ha publicado una versión cuantizada NVFP4 que puede funcionar con la mitad de GPUs.

Thinking Machines presenta Inkling como un modelo flexible para crear aplicaciones de IA, así como para usos de propósito general como chatbots. Se lanza bajo la licencia Apache 2.0, lo que permite a los usuarios ajustarlo para sus propias cargas de trabajo, y la plataforma Tinker de la compañía incluye herramientas para la personalización. La startup también afirma que el modelo puede generar sus propios scripts de ajuste fino para ajustar su comportamiento, aprender nuevas habilidades y evaluarse a sí mismo.

Inkling incluye una ventana de contexto de un millón de tokens, lo que debería ayudar con grandes bases de código y tareas de búsqueda que requieren encontrar pequeños detalles en grandes volúmenes de datos. Su diseño de mezcla de expertos se inspiró en DeepSeek-V3, según la compañía, pero Thinking Machines asegura que entrenó el modelo desde cero en sistemas Nvidia GB300 NVL72 usando 45 billones de tokens de texto, imágenes, audio y vídeo.

Recomendado

Hassabis dice que las STEM te hacen 10 veces mejor en IA

Arquitectura del modelo y afirmaciones de rendimiento

El modelo tiene 256 expertos enrutados y dos expertos compartidos. Cada token generado utiliza seis expertos, lo que supone aproximadamente 41 000 millones de parámetros activos por token. Según Thinking Machines, eso permite a Inkling generar tokens a una velocidad similar a la de DeepSeek V4 en el mismo hardware.

Como muchos modelos de lenguaje actuales, Inkling es un modelo de razonamiento entrenado con aprendizaje por refuerzo para emplear razonamiento estilo chain-of-thought antes de responder. Thinking Machines afirma que afinó el modelo para usar esos tokens de pensamiento de manera más eficiente, sosteniendo que Inkling iguala a Nvidia Nemotron 3 Ultra en Terminal Bench 2.1 mientras usa aproximadamente un tercio de los tokens. The Register señala que las afirmaciones de los benchmarks deben tratarse con cautela, y los gráficos compartidos por Thinking Machines aún muestran a Inkling por detrás de los modelos propietarios de Anthropic y OpenAI.

Disponibilidad en Tinker y Hugging Face

Inkling está disponible ahora a través de la plataforma Tinker. Thinking Machines dice que también está trabajando para llevar el modelo a proveedores de API de terceros, entre ellos:

• TogetherAI
• Fireworks
• Modal
• Databricks
• Baseten

Para los usuarios que quieran probarlo por sí mismos, el modelo también está disponible en repositorios como Hugging Face. En el lanzamiento, Thinking Machines afirma que admite motores de inferencia como vLLM, SGLang, Miles, TokenSpeed y Llama.cpp.

La compañía también está presentando Inkling-Small, un modelo MoE de 276 mil millones de parámetros con 12 mil millones de parámetros activos, dirigido a usuarios que valoran más la latencia que el rendimiento y la calidad. Thinking Machines dijo que todavía está finalizando Inkling y planea publicar los pesos del modelo una vez que se completen las pruebas.