Como instalar Ollama y arrancar un chat de IA local
Publicación original: · Sergey Zhadov
Este es un artículo de archivo traducido. La fecha y los precios se refieren a la publicación original, no a un anuncio nuevo de hoy.
Ollama ejecuta modelos de lenguaje en tu ordenador y ofrece chat de terminal y API local. Instala el programa, elige un modelo que quepa en el equipo y haz una pregunta simple. No descargues de golpe un monstruo ni abras el puerto 11434 a Internet. Asi solo consigues un ordenador ahogado o un agujero de seguridad.
Entender que hace Ollama
Ollama descarga y ejecuta modelos, guarda archivos y expone chat y API HTTP. Es un entorno y servidor, no un modelo propio. El resultado depende de modelo, tamano, cuantizacion, prompt y hardware.
La ejecucion local ayuda con pruebas y datos que no necesitan ir a la nube. No garantiza privacidad por si sola. Complementos y aplicaciones cercanas todavia pueden guardar o enviar informacion.
Comprobar memoria y disco primero
Los modelos ocupan gigabytes y los grandes, decenas o cientos. La ejecucion consume RAM o VRAM, mientras contexto largo y solicitudes paralelas elevan el gasto.
No elijas solo por parametros. Un modelo instruct compacto es mejor para empezar. Si el sistema intercambia memoria y los ventiladores gritan, no esta pensando: el ordenador se esta ahogando.
Instalar en Windows, macOS o Linux
En Windows, el instalador agrega el comando ollama y deja la app en segundo plano. La documentacion pide Windows 10 22H2 o posterior. macOS necesita version 14, con CPU y GPU en Apple M y CPU en Intel.
Linux puede usar script o paquete manual y arrancar el servidor directamente o con systemd. No pegues comandos de administrador sin revisar origen y contenido.
Iniciar el primer chat
Abre un terminal nuevo y ejecuta ollama. El menu permite lanzar un modelo, o puedes nombrarlo con run. La primera vez tarda porque descarga el archivo.
Empieza con una solicitud corta y verificable y una pregunta de seguimiento. Texto neutro o codigo inofensivo basta para medir contexto y velocidad. Nada de secretos.
Probar la API local
Ollama sirve la API en localhost:11434. El endpoint chat recibe modelo y lista de mensajes. Envia una prueba sin streaming y revisa estado, contenido y tiempos.
Guarda direccion y modelo en configuracion. Anade timeout, limite de tamano y error claro cuando el servidor este parado. Si no, la interfaz se cuelga y nadie sabe que demonios fallo.
No exponer el servidor a lo loco
La vinculacion 127.0.0.1 limita acceso al mismo equipo. OLLAMA_HOST puede cambiarla y mostrar el servicio en la red. Antes configura firewall, autenticacion, cifrado y clientes permitidos.
No redirijas el puerto al publico por capricho. Una API sin proteccion permite a extraños gastar recursos. Usa proxy controlado o VPN y conserva registros.
Gestionar modelos antes de llenar el disco
En Windows suelen vivir en el perfil y OLLAMA_MODELS cambia la ruta. macOS y Linux usan otros lugares. Deten el servicio y conserva permisos al moverlos.
Borra modelos sin uso y revisa espacio antes de descargar. Cinco variantes casi iguales no son un plan. Un disco del sistema lleno rompe bastante mas que Ollama.
Conclusion: primero un modelo y localhost cerrado
Un inicio limpio usa instalacion oficial, un modelo adecuado, chat corto y prueba de API. Luego mide velocidad, memoria, calidad y contexto antes de sumar interfaces o agentes.
El error comun es montar una nube casera sin entender recursos y red. Mantener el servidor local y ajustar el modelo al equipo convierte la IA en herramienta, no en calefactor caro.
Traducción revisada:
