Un mapa de 10 partes de la pila moderna de LLM

SeriesA se presenta como una guía ordenada por dependencias de la pila moderna de LLM, que abarca 10 arcos y más de 80 artículos. El proyecto comienza con las matemáticas bajo una sola cabeza de atención, avanza por el entrenamiento y la inferencia, y se extiende hasta los protocolos de agentes que se espera que se lancen en 2026.

El objetivo, según el sitio, no es el rigor estricto sino una intuición que resista en sistemas reales. Eso hace que la serie se lea menos como un libro de texto y más como una guía técnica de campo estructurada para personas que intentan mantener toda la pila a la vista.

Los primeros ocho arcos actualmente listados abarcan:

• Vectores, matrices y aplicaciones lineales
• Normas, productos escalares y similitud
• Distribuciones, softmax y la regla de la cadena de palabras
• Entropía cruzada, divergencia KL y funciones de pérdida
• Gradientes, retropropagación y SGD
• Optimizadores, incluidos momentum, Adam, warmup y decaimiento por coseno
• GPUs, punto flotante, fp32/fp16/bfloat16 y precisión mixta
• Una breve prehistoria del NLP estadístico

Cada sección se enmarca en torno a conceptos prácticos que aparecen repetidamente en el trabajo con modelos modernos, desde puntuaciones de atención y recuperación de vectores de incrustación hasta perplejidad, dinámicas de entrenamiento y paralelismo en GPUs.

El sitio dice que la serie completa sigue siendo un primer borrador, con más pulido, correcciones y reescrituras ocasionales por venir. Los lectores que detecten errores están invitados a ponerse en contacto mediante la información de contacto en el sitio.

Recomendado

Alibaba presenta Qwen3.8 como el número 2 — sin pruebas aún