rea
Reverse engineer anything with agents, from app behavior down to native binaries.
Call your local Ollama or vLLM model over MCP with schema-validated JSON output
Skills que enseñan a la IA este tipo de trabajo; funcionan junto a este
Reverse engineer anything with agents, from app behavior down to native binaries.
A single CLAUDE.md file to improve Claude Code behavior, derived from Andrej Karpathy's observations on LLM coding pitfalls.
Turn any codebase, with its docs, SQL schemas, configs, and PDFs, into a queryable knowledge graph. A /graphify skill for Claude Code, Cursor, Codex, and Gemini CLI: local deterministic AST parsing, every edge explained, no vector store.
Las listas se ordenan por una puntuación de uso (sobre 100) con estas partes
| Popularidad | 0/80 | Estrellas de GitHub o descargas semanales: la mayor cuenta 60, la menor 20 |
|---|---|---|
| Actualidad | 12/12 | Puntuación completa con una versión o cambio de código en 30 días |
| Sigue respondiendo | 0/8 | El endpoint en la nube respondió en la última revisión |
| Puntuación de uso | 12/100 |
Calidad: Pasó 3/3 revisiones básicas (se muestra, no ordena) · Impulso: Sin datos aún (Solo se usa en la pestaña En auge)
Elige la app de IA que usas y copia la configuración.
Que tu IA lo instale con una frase
Instala Ollama / vLLM Bridge. Sigue https://mcp.popnx.com/i/setheerwagen-mcp-ollama-vllm.md, enséñame los comandos y espera mi OK antes de ejecutarlos.Pégala en una IA que trabaje en tu equipo (como Claude Code o Cursor). Lee nuestros pasos, te muestra los comandos y espera tu OK. Sin clave ni registro. · Ver el texto completo que lee tu IA
Pasó 3/3 revisiones · Funciona en tu computadora · ✓ Comandos revisados el 14 nov 2026
Primero: ¿qué IA usas?
Elige tu app y los pasos aparecen abajo.
Funciona con Claude, pero hay que preparar algo antes
1 ajuste(s) que rellenar (LOCAL_HOST) · Instala Python (uv) en tu computadora primero (una sola vez) · Solo en la app de Claude para computadora (Windows o Mac), no en la web ni en el móvil
Copia este mensaje en un chat de Claude. La IA revisa tu equipo, te dice qué archivo va a cambiar y espera tu visto bueno cada vez.
Instala el MCP server Ollama / vLLM Bridge para Claude en este equipo, en este orden: 1) Comprueba uv con uv --version. Si falta, dime que lo instale desde https://docs.astral.sh/uv/getting-started/installation/; no lo instales tú. 2) Usa solo esta configuración (ya revisada por PopNx MCP): { "mcpServers": { "ollama-vllm": { "command": "uvx", "args": [ "mcp-ollama-vllm" ], "env": { "LOCAL_HOST": "your-value" } } } } 3) Dime la ruta completa del archivo que vas a cambiar o el comando que vas a ejecutar y espera mi visto bueno. 4) En LOCAL_HOST deja "your-value" y dime que pegue yo el valor real en el archivo o en el campo de la app. Nunca me pidas escribir una clave en el chat. 5) Haz lo acordado y comprueba que las herramientas de Ollama / vLLM Bridge aparecen de verdad.Este mensaje no lleva tu clave. Si hace falta una, la IA te pedirá que la pegues tú en el archivo o en el campo de la app.
¿Ya está instalado? Compruébalo primero · Abre la Terminal, escribe este comando y pulsa Enter
uv --versionMac: pulsa ⌘ + Espacio, escribe Terminal y pulsa Enter
Windows: abre Inicio, escribe Windows PowerShell y elige Abrir
Si no está instalado: uv no tiene instalador de clics. Copia el comando de una línea para tu sistema (macOS o Windows) desde la página oficial de uv y pégalo en la Terminal · no hace falta instalar Python aparte; uv lo descarga cuando lo necesita
Abrir la página de descarga de uv ↗
Al terminar, cierra la Terminal, ábrela de nuevo y ejecuta el mismo comando. Debe aparecer un número de versión: uv --version
Se instala una vez y sirve para todo lo que usa uv
Son ajustes del programa, no claves. No hace falta registrarse; rellénalos como explica el autor.
LOCAL_HOST URL del endpoint del modelo; debe ser local o estar en tu propia red. Obligatorio para el backend openai. Descripciones traducidas automáticamente; los nombres de variables quedan como en el original. Si dudas, mira el original.
SettingsDeveloperEdit Config
{
"mcpServers": {
"ollama-vllm": {
"command": "uvx",
"args": [
"mcp-ollama-vllm"
],
"env": {
"LOCAL_HOST": "your-value"
}
}
}
}Usa Ollama / vLLM Bridge y dime qué puedes hacer por mí; luego muéstrame una cosa✓ Si Claude dice que está usando Ollama / vLLM Bridge o muestra una herramienta de Ollama / vLLM Bridge en la respuesta, ya está conectado
El comando de arriba funciona sin estos valores. Añádelos solo si quieres cambiar algo, según la descripción del autor.
LOCAL_BACKEND Backend to use: ollama, vllm or openai · valor por defecto ollamaLOCAL_API_KEY Token bearer opcional, solo para el backend openai; se envía como cabecera y nunca se registra. LOCAL_TIMEOUT Tiempo de espera de lectura en segundos LOCAL_EMBED_MODEL Modelo de embedding predeterminado LOCAL_EMBED_PATH Opcional, solo para el backend openai: ruta del endpoint de embeddings LOCAL_SCHEMA_MODE Opcional, solo para el backend openai: auto, response_format o none Descripciones traducidas automáticamente; los nombres de variables quedan como en el original. Si dudas, mira el original.
Nombres de menú comprobados con la ayuda de Anthropic el 11 nov 2026 · tu pantalla puede variar un poco según la versión
ChatGPT todavía no puede conectar Ollama / vLLM Bridge
Ollama / vLLM Bridge se instala en tu computadora, pero ChatGPT solo conecta servidores que funcionan en la web
A · Usa una app que pueda conectar Ollama / vLLM Bridge
B · Otros en Herramientas para desarrolladores que funcionan con ChatGPT
Elegidos entre los más usados de la misma categoría, solo los que se conectan con una dirección y sin clave
Funciona con Claude Code, pero hay que preparar algo antes
1 ajuste(s) que rellenar (LOCAL_HOST) · Instala Python (uv) en tu computadora primero (una sola vez)
Copia este mensaje en un chat de Claude Code. La IA revisa tu equipo, te dice qué archivo va a cambiar y espera tu visto bueno cada vez.
Instala el MCP server Ollama / vLLM Bridge para Claude Code en este equipo, en este orden: 1) Comprueba uv con uv --version. Si falta, dime que lo instale desde https://docs.astral.sh/uv/getting-started/installation/; no lo instales tú. 2) Usa solo esta configuración (ya revisada por PopNx MCP): claude mcp add --scope user ollama-vllm --env LOCAL_HOST=your-value -- uvx mcp-ollama-vllm 3) Dime la ruta completa del archivo que vas a cambiar o el comando que vas a ejecutar y espera mi visto bueno. 4) En LOCAL_HOST deja "your-value" y dime que pegue yo el valor real en el archivo o en el campo de la app. Nunca me pidas escribir una clave en el chat. 5) Haz lo acordado y comprueba que las herramientas de Ollama / vLLM Bridge aparecen de verdad.Este mensaje no lleva tu clave. Si hace falta una, la IA te pedirá que la pegues tú en el archivo o en el campo de la app.
¿Ya está instalado? Compruébalo primero · Abre la Terminal, escribe este comando y pulsa Enter
uv --versionMac: pulsa ⌘ + Espacio, escribe Terminal y pulsa Enter
Windows: abre Inicio, escribe Windows PowerShell y elige Abrir
Si no está instalado: uv no tiene instalador de clics. Copia el comando de una línea para tu sistema (macOS o Windows) desde la página oficial de uv y pégalo en la Terminal · no hace falta instalar Python aparte; uv lo descarga cuando lo necesita
Abrir la página de descarga de uv ↗
Al terminar, cierra la Terminal, ábrela de nuevo y ejecuta el mismo comando. Debe aparecer un número de versión: uv --version
Se instala una vez y sirve para todo lo que usa uv
Son ajustes del programa, no claves. No hace falta registrarse; rellénalos como explica el autor.
LOCAL_HOST URL del endpoint del modelo; debe ser local o estar en tu propia red. Obligatorio para el backend openai. Descripciones traducidas automáticamente; los nombres de variables quedan como en el original. Si dudas, mira el original.
Mac: pulsa Command+Espacio y escribe Terminal · Windows: abre PowerShell
claude mcp add --scope user ollama-vllm --env LOCAL_HOST=your-value -- uvx mcp-ollama-vllmDeberías ver Ollama / vLLM Bridge en la lista como conectado
Usa Ollama / vLLM Bridge y dime qué puedes hacer por mí; luego muéstrame una cosa✓ Si Claude Code dice que está usando Ollama / vLLM Bridge o muestra una herramienta de Ollama / vLLM Bridge en la respuesta, ya está conectado
El comando de arriba funciona sin estos valores. Añádelos solo si quieres cambiar algo, según la descripción del autor.
LOCAL_BACKEND Backend to use: ollama, vllm or openai · valor por defecto ollamaLOCAL_API_KEY Token bearer opcional, solo para el backend openai; se envía como cabecera y nunca se registra. LOCAL_TIMEOUT Tiempo de espera de lectura en segundos LOCAL_EMBED_MODEL Modelo de embedding predeterminado LOCAL_EMBED_PATH Opcional, solo para el backend openai: ruta del endpoint de embeddings LOCAL_SCHEMA_MODE Opcional, solo para el backend openai: auto, response_format o none Descripciones traducidas automáticamente; los nombres de variables quedan como en el original. Si dudas, mira el original.
Nombres de menú comprobados con la ayuda de Anthropic el 11 nov 2026 · tu pantalla puede variar un poco según la versión
Funciona con Cursor, pero hay que preparar algo antes
1 ajuste(s) que rellenar (LOCAL_HOST) · Instala Python (uv) en tu computadora primero (una sola vez)
Copia este mensaje en un chat de Cursor. La IA revisa tu equipo, te dice qué archivo va a cambiar y espera tu visto bueno cada vez.
Instala el MCP server Ollama / vLLM Bridge para Cursor en este equipo, en este orden: 1) Comprueba uv con uv --version. Si falta, dime que lo instale desde https://docs.astral.sh/uv/getting-started/installation/; no lo instales tú. 2) Usa solo esta configuración (ya revisada por PopNx MCP): { "mcpServers": { "ollama-vllm": { "command": "uvx", "args": [ "mcp-ollama-vllm" ], "env": { "LOCAL_HOST": "your-value" } } } } 3) Dime la ruta completa del archivo que vas a cambiar o el comando que vas a ejecutar y espera mi visto bueno. 4) En LOCAL_HOST deja "your-value" y dime que pegue yo el valor real en el archivo o en el campo de la app. Nunca me pidas escribir una clave en el chat. 5) Haz lo acordado y comprueba que las herramientas de Ollama / vLLM Bridge aparecen de verdad.Este mensaje no lleva tu clave. Si hace falta una, la IA te pedirá que la pegues tú en el archivo o en el campo de la app.
¿Ya está instalado? Compruébalo primero · Abre la Terminal, escribe este comando y pulsa Enter
uv --versionMac: pulsa ⌘ + Espacio, escribe Terminal y pulsa Enter
Windows: abre Inicio, escribe Windows PowerShell y elige Abrir
Si no está instalado: uv no tiene instalador de clics. Copia el comando de una línea para tu sistema (macOS o Windows) desde la página oficial de uv y pégalo en la Terminal · no hace falta instalar Python aparte; uv lo descarga cuando lo necesita
Abrir la página de descarga de uv ↗
Al terminar, cierra la Terminal, ábrela de nuevo y ejecuta el mismo comando. Debe aparecer un número de versión: uv --version
Se instala una vez y sirve para todo lo que usa uv
Son ajustes del programa, no claves. No hace falta registrarse; rellénalos como explica el autor.
LOCAL_HOST URL del endpoint del modelo; debe ser local o estar en tu propia red. Obligatorio para el backend openai. Descripciones traducidas automáticamente; los nombres de variables quedan como en el original. Si dudas, mira el original.
En la configuración de Ollama / vLLM Bridge, LOCAL_HOST está vacío; añade tu clave y guarda
Usa Ollama / vLLM Bridge y dime qué puedes hacer por mí; luego muéstrame una cosa✓ Si Cursor dice que está usando Ollama / vLLM Bridge o muestra una herramienta de Ollama / vLLM Bridge en la respuesta, ya está conectado
El comando de arriba funciona sin estos valores. Añádelos solo si quieres cambiar algo, según la descripción del autor.
LOCAL_BACKEND Backend to use: ollama, vllm or openai · valor por defecto ollamaLOCAL_API_KEY Token bearer opcional, solo para el backend openai; se envía como cabecera y nunca se registra. LOCAL_TIMEOUT Tiempo de espera de lectura en segundos LOCAL_EMBED_MODEL Modelo de embedding predeterminado LOCAL_EMBED_PATH Opcional, solo para el backend openai: ruta del endpoint de embeddings LOCAL_SCHEMA_MODE Opcional, solo para el backend openai: auto, response_format o none Descripciones traducidas automáticamente; los nombres de variables quedan como en el original. Si dudas, mira el original.
Nombres de menú comprobados con la ayuda de Cursor el 11 nov 2026 · tu pantalla puede variar un poco según la versión
Funciona con VS Code, pero hay que preparar algo antes
1 ajuste(s) que rellenar (LOCAL_HOST) · Instala Python (uv) en tu computadora primero (una sola vez)
Copia este mensaje en un chat de VS Code. La IA revisa tu equipo, te dice qué archivo va a cambiar y espera tu visto bueno cada vez.
Instala el MCP server Ollama / vLLM Bridge para VS Code en este equipo, en este orden: 1) Comprueba uv con uv --version. Si falta, dime que lo instale desde https://docs.astral.sh/uv/getting-started/installation/; no lo instales tú. 2) Usa solo esta configuración (ya revisada por PopNx MCP): { "servers": { "ollama-vllm": { "type": "stdio", "command": "uvx", "args": [ "mcp-ollama-vllm" ], "env": { "LOCAL_HOST": "your-value" } } } } 3) Dime la ruta completa del archivo que vas a cambiar o el comando que vas a ejecutar y espera mi visto bueno. 4) En LOCAL_HOST deja "your-value" y dime que pegue yo el valor real en el archivo o en el campo de la app. Nunca me pidas escribir una clave en el chat. 5) Haz lo acordado y comprueba que las herramientas de Ollama / vLLM Bridge aparecen de verdad.Este mensaje no lleva tu clave. Si hace falta una, la IA te pedirá que la pegues tú en el archivo o en el campo de la app.
¿Ya está instalado? Compruébalo primero · Abre la Terminal, escribe este comando y pulsa Enter
uv --versionMac: pulsa ⌘ + Espacio, escribe Terminal y pulsa Enter
Windows: abre Inicio, escribe Windows PowerShell y elige Abrir
Si no está instalado: uv no tiene instalador de clics. Copia el comando de una línea para tu sistema (macOS o Windows) desde la página oficial de uv y pégalo en la Terminal · no hace falta instalar Python aparte; uv lo descarga cuando lo necesita
Abrir la página de descarga de uv ↗
Al terminar, cierra la Terminal, ábrela de nuevo y ejecuta el mismo comando. Debe aparecer un número de versión: uv --version
Se instala una vez y sirve para todo lo que usa uv
Son ajustes del programa, no claves. No hace falta registrarse; rellénalos como explica el autor.
LOCAL_HOST URL del endpoint del modelo; debe ser local o estar en tu propia red. Obligatorio para el backend openai. Descripciones traducidas automáticamente; los nombres de variables quedan como en el original. Si dudas, mira el original.
En la configuración de Ollama / vLLM Bridge, LOCAL_HOST está vacío; añade tu clave y guarda
Usa Ollama / vLLM Bridge y dime qué puedes hacer por mí; luego muéstrame una cosa✓ Si VS Code dice que está usando Ollama / vLLM Bridge o muestra una herramienta de Ollama / vLLM Bridge en la respuesta, ya está conectado
El comando de arriba funciona sin estos valores. Añádelos solo si quieres cambiar algo, según la descripción del autor.
LOCAL_BACKEND Backend to use: ollama, vllm or openai · valor por defecto ollamaLOCAL_API_KEY Token bearer opcional, solo para el backend openai; se envía como cabecera y nunca se registra. LOCAL_TIMEOUT Tiempo de espera de lectura en segundos LOCAL_EMBED_MODEL Modelo de embedding predeterminado LOCAL_EMBED_PATH Opcional, solo para el backend openai: ruta del endpoint de embeddings LOCAL_SCHEMA_MODE Opcional, solo para el backend openai: auto, response_format o none Descripciones traducidas automáticamente; los nombres de variables quedan como en el original. Si dudas, mira el original.
Nombres de menú comprobados con la ayuda de VS Code el 11 nov 2026 · tu pantalla puede variar un poco según la versión
Otras apps que usan MCP, como Windsurf, Zed o Gemini CLI, añaden servidores de forma distinta. Míralo en la lista de apps
Ver todas las apps que usan MCP →
La configuración JSON está en “Para desarrolladores”, abajo
Claude Code
claude mcp add --scope user ollama-vllm --env LOCAL_HOST=your-value -- uvx mcp-ollama-vllmClaude Desktop (claude_desktop_config.json)
{
"mcpServers": {
"ollama-vllm": {
"command": "uvx",
"args": [
"mcp-ollama-vllm"
],
"env": {
"LOCAL_HOST": "your-value"
}
}
}
}Cursor (~/.cursor/mcp.json)
{
"mcpServers": {
"ollama-vllm": {
"command": "uvx",
"args": [
"mcp-ollama-vllm"
],
"env": {
"LOCAL_HOST": "your-value"
}
}
}
}VS Code (mcp.json)
{
"servers": {
"ollama-vllm": {
"type": "stdio",
"command": "uvx",
"args": [
"mcp-ollama-vllm"
],
"env": {
"LOCAL_HOST": "your-value"
}
}
}
}LOCAL_BACKEND envLOCAL_HOST obligatorio envLOCAL_API_KEY secreto envLOCAL_TIMEOUT envLOCAL_EMBED_MODEL envLOCAL_EMBED_PATH envLOCAL_SCHEMA_MODE envDescripciones traducidas automáticamente; los nombres de variables quedan como en el original. Si dudas, mira el original.
Esta configuración se genera a partir de la ficha del creador en el registro. Si el README dice otra cosa, sigue el README.
Según cómo se conecta este servidor y la documentación de cada app, comprobado el 10 nov 2026.
Se ejecutan en tu computadora en
ClaudeGooseLM StudioMsty StudioCherry StudioCursorVS Code + GitHub CopilotVisual StudioWindsurf (Devin Desktop)ZedKiroClineContinueJetBrains AI AssistantClaude CodeCodex CLIGemini CLIOpenCodenodecodeWarpLibreChatRaycast
Se ejecuta en tu computadora; la lista de herramientas aparece en tu app de IA después de instalarlo.
Revisamos información que cualquiera puede ver; no hemos leído el código. Las revisiones que no aplican no se cuentan. · Revisado el 19 nov 2026
El nombre en el registro se verificó con la cuenta de GitHub setheerwagen, dueña del repo
Último cambio de código: hace 28 días
Usa MIT
Este se ejecuta en tu computadora; no hay endpoint en internet
Se ejecuta en tu computadora y usa ajustes locales en su lugar
Se ejecuta en tu computadora; solo podemos leer listas de herramientas de endpoints en internet
Sin entradas en OSV.dev para mcp-ollama-vllm@1.0.6
Solo revisa esta versión del paquete, no todas sus dependencias · revisado 16 nov 2026
Si lo creaste tú, pega este código en tu README. La insignia enlaza a esta página.
[](https://mcp.popnx.com/en/servers/setheerwagen-mcp-ollama-vllm)Pregunta, comparte un consejo o avisa de que no funciona. Ordenado por lo que la gente marcó como útil.
Aún no hay publicaciones. Sé la primera persona en preguntar o compartir.
Lo publicado aquí lo escriben usuarios, no el equipo de PopNx.
Aún no hay reseñas
Comparado con todos los servidores activos de esta categoría en el registro. Las estrellas solo cuentan cuando quien lo publica es dueño del repo.
Superó 3 de 3 revisiones básicas aplicables. No hemos leído el código. Antes de agregar una clave o un token, revisa qué acceso pide el servidor y usa una clave que tenga solo los permisos que necesitas.
El registro no indica ninguna clave obligatoria, aunque algunos servidores te piden iniciar sesión la primera vez que los usas.
Se ejecuta en tu computadora. Tu app de IA lo inicia cuando hace falta, y los datos no pasan por los servidores del creador (a menos que el propio servidor llame a un servicio en línea).
El repo de GitHub cambió por última vez hace 28 días, y la última versión (1.0.6) llegó al registro hace 28 días.
Las apps compatibles con MCP, como Claude Desktop, Claude Code, Cursor y VS Code. También necesitas Python (uv) en tu computadora.
En la misma categoría: GitDiagram, Appllama, Cloudflare MCP, Omnara, Repowise
Misma categoría, otros creadores, comandos ya revisados. Primero los oficiales, luego por estrellas.
Cómo leer una tarjeta:↓ Descargas por semanai★ Estrellas de GitHubiTres pilares: reseñas · revisiones · usoiActualizado = fecha en que se publicó la última versión en el registroi
Architecture diagrams, explanations and Mermaid source for public GitHub repositories.
Study screens, flows and paywalls from top-earning iOS apps, then build from what wins.
Cloudflare MCP servers
Deploy durable AI agents with Omnara, an open-source managed-agent platform.
Codebase intelligence for AI coding agents: graph, git history, docs, decisions, code health.
| Este Ollama / vLLM Bridge | GitDiagram | Appllama | Cloudflare MCP | Omnara | Repowise | |
|---|---|---|---|---|---|---|
| Dónde se ejecuta | Se instala en tu equipo | Funciona en la nube, sin instalar nada | Funciona en la nube, sin instalar nada | Funciona en la nube, sin instalar nada | Funciona en la nube, sin instalar nada | En la nube o instalado en tu equipo |
| Necesita clave | No | No | No | No | No | No |
| Se añade con + en Claude | No | No | No | Sí | No | No |
| Revisiones básicas | 3/3 | 4/4 | 4/4 | 4/4 | 4/4 | 5/5 |
| Licencia | MIT | MIT | MIT | Apache-2.0 | Apache-2.0 | AGPL-3.0 |
| Precio | Sin coste en el registro | Sin coste en el registro | Sin coste en el registro | Sin coste en el registro | Sin coste en el registro | Sin coste en el registro |
Copiado tal cual del repo del creador. PopNx MCP no lo ha revisado ni lo respalda. Se quitaron HTML, imágenes y scripts. Los enlaces llevan fuera de este sitio.
An MCP server that lets an MCP client such as Claude Code talk to local language models directly. The backend is wired up at startup: Ollama, vLLM, or a generic OpenAI-compatible endpoint (set once via LOCAL_BACKEND, see below). The third, openai, is not a plugin loader for arbitrary tools; it is one more fixed backend implementation, covering servers such as LM Studio, the llama.cpp server, LocalAI, TGI, koboldcpp, SGLang or Jan, which all expose the same OpenAI-compatible /v1 endpoints as vLLM but are not vLLM itself.
The one thing this server does that a plain Ollama/vLLM call does not: schema-validated JSON output, checked with its own dependency-free validator and automatically retried on a violation (up to 3 attempts total, feeding the concrete violations back to the model), the same way, with the same tool call, regardless of which of the two backends is configured. Both Ollama's format and vLLM's response_format steer the model toward JSON, but neither guarantees that the result actually matches your schema; this server checks that independently instead of trusting the backend's word for it.
Before / after (illustrative, not a real run):
// Backend's own schema enforcement alone (Ollama "format" / vLLM "response_format"):
// looks like valid JSON, but a required field went missing under load and nobody // checked it against the schema before handing it onward. {"amount": 42.10, "currency": "EUR"}
// local_structured: the same case, but validated against the schema and // automatically retried with the concrete violation fed back to the model. {"amount": 42.10, "currency": "EUR", "total": 42.10} // -> attempts: 2, valid_on_first_try: false, outcome already re-validated
Known limits, stated on purpose:
unknown/0 instead of a made-up value./v1/models with only id (and owned_by), so parameter_size/quantization read unknown, sizes read 0, there is no adapter signal, and max_context is only included when the endpoint genuinely reports it. The top-level metadata_reported field (see list_models below) makes this "not reported" honestly visible.think parameter (reasoning trace) has no effect on vLLM or `openai`; it is only wired up for Ollama. See "The think parameter" below.Operating systems: CI runs the self-tests on Linux, and the mock-backed setup self-test selftest_vllm.py on Windows too; the server is pure Python with no OS-specific calls, and its live backend path was additionally exercised once on Windows on 2026-08-07. Needs a running backend service (Ollama or vLLM); the setup self-test selftest_vllm.py uses a mock and needs no real service. macOS is not separately tested.
A large part of an AI agent's work is pure language processing: writing, summarizing, classifying, extracting structured data from text. These parts can be offloaded to a local model, while searching, reading, writing and the orchestration stay with the calling client.
This is explicitly about a model call, not an agent. The local model receives text and returns text. It has no tools, no file access, and it does not work in multiple steps.
These limits are part of the design, not just the docs:
subprocess, os.system or anything comparable.mcp and httpx. mcp in turn pulls in several further packages transitively (among others anyio, pydantic, starlette, uvicorn, jsonschema, pyjwt). The full resolved tree is pinned in uv.lock; CI checks with uv lock --check that the lock still matches pyproject.toml, then installs the exact locked tree for the tests, so a drifted lock fails CI. A separate, advisory pip-audit job checks the locked tree for known vulnerabilities on every push to main and pull request and again weekly; it does not block a pull request.These properties bound what this server does; they are not a claim about the AI tool that drives it. The model you call runs locally, but the Claude/ChatGPT session that decides to call it is a separate hosted service and sees the calls it makes, like any MCP call. Drive the server with a local model if that matters.
See SECURITY.md for the trust boundaries this covers (the model as an oracle rather than an agent, prompt injection via model output, DNS rebinding pinning) and what it does not.
Replace /path/to/mcp-ollama-vllm below with the directory you extracted/cloned this project into.
Python 3.10 or newer is required. There are two equivalent ways to set up a virtual environment; use whichever tool you have.
With the standard venv module and pip:
cd /path/to/mcp-ollama-vllm
python3 -m venv .venv .venv/bin/pip install -r requirements.txt
If python3 -m venv fails (on some distributions the python3-venv package is missing), either install that package or take the route with uv:
cd /path/to/mcp-ollama-vllm
uv venv .venv --seed .venv/bin/pip install -r requirements.txt
(--seed makes sure pip lands in the environment. Alternatively, without --seed, install with uv pip install --python .venv/bin/python -r requirements.txt.)
The modules live under src/mcp_ollama_vllm/ (a src layout, so the package name does not collide with other MCP servers' top-level modules). Either of the above gives you a checkout that runs via PYTHONPATH=src (see "Entry for the MCP configuration" below), or install the package itself with .venv/bin/pip install ., which additionally provides the mcp-ollama-vllm console script and needs no PYTHONPATH.
A reachable Ollama or vLLM backend is a prerequisite for running:
ollama serve and pull at least one model (e.g. ollama pull llama3.2:3b); check with ollama list. For local_embed additionally pull an embedding model, e.g. ollama pull nomic-embed-text.In ~/.claude.json, or the mcpServers section of your Claude Code config:
{
"mcpServers": { "local-models": { "command": "/path/to/mcp-ollama-vllm/.venv/bin/python", "args": ["-m", "mcp_ollama_vllm.server"], "env": { "PYTHONPATH": "/path/to/mcp-ollama-vllm/src", "LOCAL_BACKEND": "ollama", "LOCAL_HOST": "http://localhost:11434", "LOCAL_TIMEOUT": "600" } } } }
Replace /path/to/mcp-ollama-vllm with the absolute path you extracted this project into. Alternatively via CLI:
claude mcp add local-models --env PYTHONPATH=/path/to/mcp-ollama-vllm/src -- \
/path/to/mcp-ollama-vllm/.venv/bin/python -m mcp_ollama_vllm.server
By default, claude mcp add binds the server to the current working directory; for global visibility across all directories, append --scope user.
Alternatively, after .venv/bin/pip install . (see "Installation" above), the PYTHONPATH entry is not needed and args can be ["-m", "mcp_ollama_vllm.server"] as is, or the installed console script can be used directly as command: /path/to/mcp-ollama-vllm/.venv/bin/mcp-ollama-vllm with no args.
Restart your MCP client so it picks up the new server, then call list_models with no arguments. A response with your models proves the server starts, finds the backend and talks to it correctly, all in one step.
| Variable | Default | Meaning |
|---|---|---|
LOCAL_BACKEND | ollama | Backend: ollama, vllm or openai |
LOCAL_HOST | per backend | Endpoint; must be local or on your own network |
LOCAL_TIMEOUT | 600 | Read timeout in seconds |
LOCAL_EMBED_MODEL | nomic-embed-text (Ollama) | Default embedding model |
LOCAL_API_KEY | - | Optional; openai only. Sent as a Bearer header, never logged |
LOCAL_EMBED_PATH | /v1/embeddings | Optional; openai only. Embedding endpoint path |
LOCAL_SCHEMA_MODE | auto | Optional; openai only. auto, response_format or none (see local_structured below) |
The default for LOCAL_HOST is http://localhost:11434 for Ollama and http://localhost:8000 for vLLM. For openai there is no default: the generic backend has no sensible port to guess, so LOCAL_HOST is required and the server refuses to start without it.
The old names OLLAMA_HOST, OLLAMA_TIMEOUT and OLLAMA_EMBED_MODEL are still read so existing configurations do not break. If both are set, the LOCAL_ name wins.
The vLLM box on the local network is addressed through only two variables; the server itself does not change:
{
"mcpServers": { "local-models": { "command": "/path/to/mcp-ollama-vllm/.venv/bin/python", "args": ["-m", "mcp_ollama_vllm.server"], "env": { "PYTHONPATH": "/path/to/mcp-ollama-vllm/src", "LOCAL_BACKEND": "vllm", "LOCAL_HOST": "http://192.168.x.x:8000", "LOCAL_TIMEOUT": "600", "LOCAL_EMBED_MODEL": "BAAI/bge-m3" } } } }
Both backends can also be registered in parallel, under different names (e.g. local-models and local-models-server), so both are available in the same session.
There is nothing wrong with registering the same server under several names at once, each with its own LOCAL_BACKEND/LOCAL_HOST. That way different backends can be addressed in the same session, for example:
http://localhost:11434),All three are then instances of one and the same server, just configured differently. Give them descriptive names and check before use which entry hits the intended machine and backend, rather than relying on the name alone.
The openai backend works the same way, no new routing mechanism: two generic-server entries on different ports, for example LM Studio on http://localhost:1234 and a llama.cpp server on http://localhost:8080:
{
"mcpServers": { "local-models-lmstudio": { "command": "/path/to/mcp-ollama-vllm/.venv/bin/python", "args": ["-m", "mcp_ollama_vllm.server"], "env": { "PYTHONPATH": "/path/to/mcp-ollama-vllm/src", "LOCAL_BACKEND": "openai", "LOCAL_HOST": "http://localhost:1234" } }, "local-models-llam