Este 30 de junio de 2026, Meituan — el gigante chino de servicios locales y delivery — ha presentado LongCat-2.0, su modelo fundacional de última generación con 1.6 billones de parámetros, liberado bajo licencia Apache 2.0 para investigación y uso comercial.
🏗️ Arquitectura y Entrenamiento Masivo
LongCat-2.0 se entrenó con 8.5 billones de tokens en un corpus multilingüe (predominantemente chino e inglés) usando una arquitectura Transformer decoder-only optimizada con:
- Grouped-Query Attention (GQA) para eficiencia de inferencia
- Rotary Positional Embeddings (RoPE) con extensión de contexto a 128K tokens
- SwiGLU activation en capas feed-forward
- RMSNorm pre-normalización
- FlashAttention-2 para entrenamiento acelerado
El entrenamiento utilizó 2,048 GPUs H100 durante aproximadamente 3 semanas, con un pipeline de datos que incluye filtrado de calidad, deduplicación y balanceo de dominios (código, web, papers, libros, diálogo).
⚡ Benchmarks y Rendimiento
| Benchmark | LongCat-2.0 | GPT-4 (referencia) | Llama-3.1-405B |
|---|---|---|---|
| MMLU | 84.2% | 86.4% | 85.1% |
| GSM8K (8-shot) | 91.8% | 92.0% | 91.6% |
| HumanEval | 78.5% | 82.0% | 77.2% |
| C-Eval (chino) | 89.3% | 85.1% | 82.4% |
| CMMLU (chino) | 90.1% | 86.7% | 84.2% |
Destaca en benchmarks en chino — supera a GPT-4 y Llama-3.1-405B en C-Eval y CMMLU, confirmando su optimización para el ecosistema sinohablante.
🔓 Open Source Real: Apache 2.0
A diferencia de "pesos abiertos" con restricciones (Llama, Nemotron), LongCat-2.0 usa Apache 2.0 — permisivo para uso comercial, modificación, distribución y trabajo derivado. Meituan libera:
- Pesos del modelo (BF16, ~3.2 TB)
- Configuración de entrenamiento y hiperparámetros
- Scripts de inferencia optimizados (vLLM, TensorRT-LLM)
- Dataset de preentrenamiento (parcial, 1.2T tokens)
🎯 Implicaciones Estratégicas
- Primera alternativa GPT-4 verdaderamente open-source desde China — rompe la dependencia de modelos occidentales
- Optimizado para chino — ventajas en mercado doméstico y aplicaciones APAC
- Costo de inferencia — GQA + cuantización permite servir en hardware commodity
- Presión competitiva — fuerza a OpenAI/Anthropic/Google a acelerar roadmap open o bajar precios
⚠️ Consideraciones
- Censura implícita — datos de entrenamiento sujetos a regulación china; temas sensibles pueden tener refusals
- Ecosistema tooling — menos maduro que Llama/Mistral (menos LoRAs, cuantizaciones community)
- Contexto 128K — inferior a 1M+ de Gemini 1.5 Pro o 200K de Claude 3.5 Sonnet
🔮 Qué Sigue
Meituan anunció LongCat-3 en desarrollo (objetivo: 4T+ parámetros, contexto 1M, multimodal nativo) y planea integrar LongCat-2.0 en sus apps (delivery, reservas, viajes) como copiloto de usuario y operador.
Veredicto Pulse AI: LongCat-2.0 es el modelo open-source más significativo de 2026 hasta ahora. No iguala a GPT-4o en multimodalidad ni razonamiento complejo, pero democratiza el acceso a nivel GPT-4 en texto — y gana en chino. Imprescindible para equipos en APAC.
Enlace al repo: https://github.com/Meituan/LongCat
Paper técnico: arXiv:2606.25042
Demo interactiva: https://chat.meituan.com/longcat