NEWSMATIC · Tecnología explicada con claridadGuías · Seguridad · IA · Negocios digitales
NEWSMATIC
InicioIASeguridadSoftwareNubeAndroidRedesDesarrollo
GUÍASIA, ciberseguridad, software, nube y productividad para tomar mejores decisiones tecnológicas.

Modelos locales con Ollama en Linux

16 noviembre 2026

Ollama es una herramienta que te permite ejecutar modelos de IA localmente en tu ordenador Linux, con la opción de utilizar también modelos en la nube. Esta guía explica cómo instalar Ollama, poner en marcha un modelo local y verificar que el servidor funcione como se espera.

¿Qué es Ollama?

Ollama es un entorno de ejecución ligero para ejecutar modelos de lenguaje de gran tamaño y otras cargas de trabajo de IA de forma local en tu equipo. En esencia, Ollama consta de una herramienta de línea de comandos y un servicio en segundo plano que expone una API REST, normalmente en http://localhost:11434 tras la instalación.

El paquete de Ollama proporciona la interfaz de línea de comandos, un demonio y la inferencia por CPU, mientras que el servicio en segundo plano (ollama serve) se encarga de la inferencia de modelos.

Ollama puede funcionar en un modo exclusivamente local desactivando las funciones en la nube, sirviendo únicamente los modelos que descargues en tu máquina. Activar las funciones en la nube te da acceso a modelos adicionales y a la capacidad de realizar búsquedas web. La contrapartida es que el modo exclusivamente local ofrece una capa adicional de privacidad al mantener todos los datos y el procesamiento en tu ordenador.

Cómo instalar Ollama en Linux

La forma más sencilla de instalar Ollama en una máquina Linux es utilizar el comando oficial:

curl -fsSL https://ollama.com/install.sh | sh

Este comando de una sola línea descarga el paquete de Ollama y lo instala. Configura el ejecutable principal y establece un servicio de systemd para ejecutar ollama.service en segundo plano.

Ten en cuenta que las versiones de Ollama disponibles en los gestores de paquetes pueden ir por detrás de la versión oficial. Para disfrutar de las últimas funciones y mejoras de rendimiento, es mejor realizar la instalación desde la fuente oficial.

Cómo iniciar el servidor de Ollama

Tras la instalación, inicia el servidor de Ollama si no está ya en ejecución con:

ollama serve

Por defecto, el servidor escuchará en http://localhost:11434. Para comprobar si el servicio está en ejecución, puedes utilizar ollama --version o verificar el estado del servicio de systemd.

Cómo ejecutar un modelo local

Con el servidor en marcha, ya puedes descargar y ejecutar un modelo local. Ollama gestiona modelos a través de un sistema similar a un registro, y puedes descargarlos a tu equipo con el comando ollama pull.

Por ejemplo, para descargar el modelo gemma4:e2b:

ollama pull gemma4:e2b

Una vez descargado, puedes ejecutar el modelo con:

ollama run gemma4:e2b

Esto abrirá un intérprete interactivo donde podrás introducir texto y recibir respuestas generadas por el modelo.

Comprobación de modelos cargados y uso de memoria

Ollama mantiene los modelos en memoria durante 5 minutos por defecto una vez cargados, para acelerar las consultas repetidas. Puedes ver qué modelos están actualmente en memoria con el comando ollama ps:

ollama ps

Esto mostrará los modelos cargados actualmente en memoria.

Modo exclusivamente local y privacidad

Para lograr la máxima privacidad, puedes deshabilitar por completo las funciones en la nube de Ollama. Esto hace que funcione en modo exclusivamente local, sirviendo únicamente los modelos que hayas descargado en tu máquina.

Esto desactiva el acceso a los modelos en la nube y las funciones de búsqueda web. La contrapartida es que pierdes el acceso a las funciones proporcionadas por la nube, pero todos tus datos permanecen en tu equipo local.

Opciones de hardware y GPU

Ollama ofrece inferencia por CPU de forma predeterminada, pero también proporciona varias opciones de aceleración por GPU:

En Linux, puedes verificar los controladores CUDA con nvidia-smi o usar paquetes adicionales como ollama-linux-arm64.tar.zst y ollama-linux-amd64-rocm.tar.zst.

Para los usuarios de GPU AMD, asegúrate de instalar ROCm v7 para obtener compatibilidad con GPU.

Por defecto, la API de Ollama no tiene autenticación, por lo que configurar OLLAMA_HOST en 0.0.0.0 hace que sea accesible para cualquier persona en la red a menos que un cortafuegos restrinja el acceso.

Próximos pasos

Con un modelo local en ejecución, estás listo para empezar a experimentar con Ollama. Aquí tienes algunos comandos habituales para gestionar tus modelos:

ollama list muestra los modelos descargados, ollama pull descarga un modelo, ollama rm elimina un modelo y ollama show muestra los metadatos y parámetros.

Puedes utilizar la API de Ollama para integrar modelos en tus propias aplicaciones y scripts.

A medida que sigas explorando, asegúrate de consultar la documentación oficial para conocer opciones avanzadas de configuración y las actualizaciones más recientes.