Ollama: ejecuta modelos de IA en local sin pagar ni una nube

Ollama es la forma más sencilla de ejecutar modelos de IA potentes en tu propio ordenador. Sin APIs, sin suscripciones, sin enviar tus datos a ningún servidor. Si tienes un PC decente, en 5 minutos puedes tener Llama 3, Mistral o CodeLlama corriendo en local.

Instalación en 2 pasos

Ve a ollama.com y descarga el instalador para tu sistema operativo (Windows, Mac o Linux). Una vez instalado, abre tu terminal y ejecuta:

# Instalar y ejecutar Llama 3 (8B parámetros, ~5GB)
ollama run llama3

# Instalar CodeLlama para programación
ollama run codellama

# Instalar Mistral (muy bueno y ligero)
ollama run mistral

# Ver todos los modelos disponibles
ollama list

La primera vez descargará el modelo (entre 4-8 GB según el modelo). A partir de ahí, arranca en segundos.

¿Qué necesito para que funcione bien?

• RAM: mínimo 8GB para modelos pequeños, 16GB para una experiencia cómoda
• Disco: entre 4-8 GB por modelo
• GPU: no es obligatoria, pero con GPU NVIDIA el rendimiento se multiplica x5
• CPU: cualquier procesador moderno funciona, aunque irá más lento sin GPU

Úsalo como una API local

Ollama expone una API REST en localhost:11434 compatible con la API de OpenAI. Esto significa que puedes usarlo desde Python exactamente igual que la API de OpenAI, pero sin coste:

import requests

response = requests.post(
 "http://localhost:11434/api/generate",
 json={
 "model": "llama3",
 "prompt": "Explica qué es una función recursiva en Python",
 "stream": False
 }
)
print(response.json()["response"])

¿Cuándo usar Ollama vs ChatGPT?

• Usa Ollama cuando trabajes con código confidencial de tu empresa, cuando no tengas internet, o cuando quieras practicar sin coste
• Usa ChatGPT o Claude cuando necesites la máxima calidad posible o para proyectos donde el rendimiento es crítico

Conclusión

Ollama ha democratizado el acceso a los modelos de IA. Para estudiantes de informática es una herramienta imprescindible: puedes experimentar todo lo que quieras sin pagar nada y sin límites de peticiones. Instálalo hoy y prueba CodeLlama para completado de código — te sorprenderá.