Modelos en la nube vs locales

Resumen

	Nube	Local
Qué es	Claude, GPT, Copilot, Gemini vía API del proveedor	Llama, Qwen, Mistral, etc. en tu PC o servidor
Empezar	Rápido: cuenta + editor/agente	Más setup: GPU/RAM, instalar runtime
Privacidad	Datos van al proveedor (revisa términos)	Código y prompts se quedan en tu máquina
Coste	Suscripción o pago por token	Hardware + electricidad; API gratis limitada

La mayoría empieza en nube. Los modelos locales tienen sentido cuando ya programas con agentes y necesitas control, privacidad o coste predecible a escala.

Contexto del catálogo: Herramientas para agentes.

Flujo típico en la nube (recomendado al inicio)

1. Elige plataforma en Plataformas (Cursor, Claude Code, Copilot…).
2. Contexto del repo: AGENTS.md.
3. MCPs y skills solo cuando tengas un problema concreto.

No necesitas Ollama ni vLLM el primer día.

Flujo local: piezas que se confunden

Pieza	Rol
Ollama	Forma más simple de descargar y correr modelos (Llama, Qwen, Mistral…) en local
vLLM	Servidor de inferencia para producción o muchas peticiones; suele ir detrás de una API
Qwen, Llama, Mistral…	Familias de modelos (pesos), no editores. Se cargan vía Ollama, vLLM u otro runtime
Headroom	Comprime contexto (logs, tools) en tu máquina; no es un modelo. Requiere wrap/proxy; no sustituye Cursor “normal”
llmfit	¿Qué modelo cabe en mi PC? Escanea RAM/GPU y recomienda antes de descargar

Cadena habitual local avanzada:

llmfit / whichllm  →  qué modelo encaja en tu hardware
        ↓
Ollama o vLLM      →  descargar y servir el modelo (Qwen, Llama…)
        ↓
Agente (OpenCode, Cline…)  →  apunta a localhost
        ↓
opcional: Headroom →  comprime contexto antes del modelo

¿Qué modelo cabe en mi PC?

Antes de ollama pull a ciegas, hay CLIs que leen tu hardware y sugieren modelos:

• llmfit — TUI + llmfit recommend; muy usado en 2025–2026.
• whichllm — uvx whichllm; rankings con datos de Hugging Face.

Son referencia, no obligatorios: te ahorran leer tablas de VRAM en cada repo de Qwen.

Cuándo plantear modelos locales

• Código o datos que no pueden salir de tu red.
• Mucho volumen de tokens y quieres coste fijo en hardware propio.
• Experimentar con Qwen Coder, Llama, DeepSeek Coder sin depender de una API.

Cuándo quedarte en nube

• Aprendes el flujo agente + reglas + MCP.
• No tienes GPU adecuada (muchos modelos útiles piden 8–16 GB+ VRAM o RAM alta).
• Quieres el mejor modelo disponible sin mantener infra.

Para prototipos gratis en nube (sin montar local): fichas en /free-apis/ — OpenRouter, Groq, Google AI Studio y la lista comunitaria completa.

Conectar un agente a un modelo local

Depende de la plataforma:

• OpenCode, Continue, Cline — suelen permitir base URL OpenAI-compatible apuntando a http://localhost:11434 (Ollama) o a tu servidor vLLM.
• Cursor / Copilot — en la práctica casi siempre usan los modelos del proveedor; local es nicho o requiere configuración avanzada.

Consulta la guía de tu plataforma en /platform/[id]/ antes de asumir que acepta Ollama.

Errores comunes

• Instalar Ollama + vLLM + Headroom el primer día sin un agente claro.
• Confundir comprimir contexto (Headroom) con servir un LLM (Ollama/vLLM).
• Esperar que Headroom funcione en Cursor “out of the box” sin proxy o wrap manual.