¡Hola developer 👋🏻!
Ayer publiqué cómo usar GitHub Models con cagent 🤖 y la verdad es que gustó bastante. Varixs me escribisteis preguntando si también se podía hacer con Ollama 🦙, para tirar de modelos locales sin complicarse demasiado.

Así que aquí va: en este post dominguero te enseño la configuración para montar cagent + Ollama y ponerte a jugar con tus propios modelos en local 🚀.

Si quieres verlo en acción puedes echar un vistazo a mi vídeo en mi canal de YouTube: 🤖 Crea agentes de IA con solo un YAML ⚡ cagent explicado a fondo 🐙

Pero si prefieres el formato escrito sigue leyendo 👇🏻

La configuración de ejemplo

Para este artículo voy a utilizar el mismo ejemplo que utilicé en el artículo anterior, pero apuntando a Ollama en lugar de a Github Models:

#!/usr/bin/env cagent run
version: "2"
agents:
  root:
    model: ollama_model
    description: Asistente para generar títulos de Youtube
    instruction: |
      Eres un asistente especializado en crear títulos optimizados para YouTube 🎬.
      Tu tarea es generar 5 opciones de títulos atractivos, creativos y relevantes a partir de la descripción que se te proporcione.
      ➡️ Cada título debe:
      - Ser claro y fácil de entender.
      - Estar orientado a captar la atención (gancho).
      - Reflejar fielmente el contenido del vídeo.
      - Usar un máximo de 70 caracteres.
      - Incluir siempre al menos un emoji para hacerlo más llamativo.
      Si recibes una solicitud que no esté relacionada con la generación de títulos de YouTube, responde:
      "Lo siento, solo puedo ayudarte a generar títulos de videos de YouTube."
models:
  ollama_model:
    provider: openai
    model: gpt-oss
    base_url: http://localhost:11434/v1

En él como ves solamente he cambiado la sección models en la que he incluido como base_url el endpoint donde está escuchando Ollama.

¿Cómo lo ejecuto?

Lo primero que debes hacer en este caso es ejecutar Ollama en tu local:

ollama serve

Asegurarte de que tienes descargado el modelo que quieres usar con cagent:

ollama pull gpt-oss

Y una vez que lo tengas ya puedes ejecutar el siguiente comando:

./cagent run ollama-demo.yml --env-from-file .env

Aquí ten en cuenta que aunque a Ollama no le hace falta ninguna API Key, a cagent y al SDK de OpenAI si que les hace falta así que puedes pasarle una fake 🤓

Si quieres saber más sobre IA Generativa aquí te dejo mi serie en mi canal de YouTube:

¡Nos vemos 👋🏻!