Ollama
Runtime local para descargar y ejecutar modelos (Qwen, Llama, Mistral). API compatible con OpenAI en localhost.
Entiende el concepto
Qué es
Ollama instala y ejecuta modelos open-weight en tu máquina con un solo CLI (ollama pull <modelo>). Expone una API en http://localhost:11434 que muchos agentes consumen como si fuera OpenAI — la vía más corta para probar Qwen, Llama o DeepSeek Coder sin mandar tu código a la nube.
Cuándo considerarlo
- Privacidad o política interna que exige procesar en local.
- Tu agente acepta base URL custom (OpenCode, Cline).
- Tienes RAM/VRAM para el modelo: 7B es el mínimo cómodo, 14B+ pide más. (llmfit te dice qué cabe.)
Si estás empezando a programar con IA, la nube da mejores resultados con menos fricción — el mapa completo está en modelos nube vs locales.
Relación con otras herramientas
| Herramienta | Diferencia |
|---|---|
| vLLM | Servidor de alto rendimiento; más DevOps que “instalar y probar” |
| Headroom | Comprime contexto del agente; no sirve modelos |
Modelos populares para código
Qwen2.5-Coder / Qwen3 y DeepSeek Coder son los más usados de la comunidad open-weight; Llama como generalista. Los mejores cambian cada pocos meses — verifica en ollama.com.
Nuestra lectura: el estándar de facto para modelos locales por lo fácil que es. Pero calibra expectativas: un 7B local no es Claude ni GPT en nube — es el precio de la privacidad y el coste cero.