Cómo usar modelos de Docker Model Runner 🐳 en GitHub Copilot

¡Hola developer 👋🏻! Hace un tiempo te conté cómo conectar GitHub Copilot con modelos locales usando Ollama.
Ahora, en la versión Insiders de Visual Studio Code, es posible enlazar modelos o providers que sean OpenAI Compatible. Así que me animé a probar si podía conectar Docker Model Runner con nuestro querido agente… ¡y lo conseguí! 😛 En este artículo te muestro cómo hacerlo paso a paso.

Qué es Docker Model Runner

Docker Model Runner (DMR) es la propuesta de Docker para ejecutar modelos LLM de forma local.
Desde hace unos días ya está en GA, y si tienes un ordenador con la arquitectura adecuada, podrás usarlo sin coste adicional, siempre que tu hardware sea lo bastante potente.

Lo sabrás enseguida porque al abrir Docker Desktop verás una nueva pestaña llamada Models.
Ahí podrás comprobar qué modelos tienes descargados y explorar en Docker Hub para añadir nuevos:

Cómo configurar GitHub Copilot Chat con DMR

En Visual Studio Code Insiders, si haces clic en el combo de modelos y luego en Manage Models, encontrarás una nueva opción llamada OpenAI Compatible.


Al seleccionarla, se te pedirá configurar tres valores:

  • Model id → el nombre del modelo que Copilot intentará invocar.
    (En este ejemplo uso ai/qwen3-coder, un modelo ligero y especializado en desarrollo).
  • Display Name → el nombre con el que aparecerá en el combo de selección. Para este ejemplo vamos a poner qwen3-coder drm (de Docker Moder Runner 🤓)
  • URL → la dirección del endpoint al que se lanzará la petición. En el caso de DMR necesitamos usar http://localhost:12434/engines/llama.cpp/v1.
  • Model Capabilities: he elegido tool calling. Esto dependerá del modelo que elijas. En el caso de Qwen3-coder no soporta ni vision ni thinking. Lo que si que es imporante en este punto es que tampoco selecciones la opción Requires API Key ya que en este caso no es necesario.

El número de tokens y otros parámetros dependen del modelo. Yo he dejado los valores por defecto, aunque lo ideal es ajustarlos al modelo que elijas.

Una vez que introduzcas todos los valores deberías de ver en tu combo algo como esto:

Probando la configuración

Una vez configurado:

  1. Selecciona tu modelo en el combo.
  2. Lanza cualquier pregunta en el chat de GitHub Copilot.
  3. Verifica que te responde correctamente ✅.

Si necesitas depurar la configuración, tienes dos ayudas clave:

  • La pestaña LOG en VS Code Insiders.
  • Los logs en la pestaña Models de Docker Desktop.

Para seguir aprendiendo

Si quieres profundizar en IA Generativa aplicada al desarrollo y conocer más opciones para experimentar gratis, te recomiendo mi serie en el canal de YouTube 📺.

¡Nos vemos 👋🏻!

Deja un comentario

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.