rea
Reverse engineer anything with agents, from app behavior down to native binaries.
Call your local Ollama or vLLM model over MCP with schema-validated JSON output
Skills, die der KI diese Art Arbeit beibringen; sie funktionieren zusammen mit diesem
Reverse engineer anything with agents, from app behavior down to native binaries.
A single CLAUDE.md file to improve Claude Code behavior, derived from Andrej Karpathy's observations on LLM coding pitfalls.
Turn any codebase, with its docs, SQL schemas, configs, and PDFs, into a queryable knowledge graph. A /graphify skill for Claude Code, Cursor, Codex, and Gemini CLI: local deterministic AST parsing, every edge explained, no vector store.
Listen sind nach einem Nutzungswert (von 100) aus diesen Teilen sortiert
| Beliebtheit | 0/80 | GitHub-Sterne oder wöchentliche Downloads: der größere Wert zählt 60, der kleinere 20 |
|---|---|---|
| Aktualität | 12/12 | Volle Punkte für Release oder Codeänderung in 30 Tagen |
| Antwortet noch | 0/8 | Der Cloud-Endpoint antwortete bei der letzten Prüfung |
| Nutzungswert | 12/100 |
Qualität: 3/3 Basisprüfungen bestanden (angezeigt, nicht zur Sortierung) · Schwung: Noch keine Daten (Nur im Tab Im Trend verwendet)
Wähle die KI-App, die du nutzt, und kopiere die Einstellungen.
Mit einem Satz von deiner KI installieren lassen
Installiere bitte Ollama / vLLM Bridge. Folge https://mcp.popnx.com/i/setheerwagen-mcp-ollama-vllm.md, zeig mir die Befehle und warte auf mein OK, bevor du sie ausführst.Füge ihn in eine KI ein, die auf deinem Rechner arbeitet (z. B. Claude Code oder Cursor). Sie liest unsere Schritte, zeigt dir die Befehle und wartet auf dein OK. Kein Schlüssel, keine Anmeldung. · Vollständigen Text ansehen
3/3 Prüfungen bestanden · Läuft auf deinem Computer · ✓ Befehle geprüft am 14. Nov. 2026
Zuerst: Welche KI nutzt du?
Wähle deine App, dann erscheinen die Schritte unten.
Klappt mit Claude, aber erst etwas vorbereiten
1 Einstellung(en) auszufüllen (LOCAL_HOST) · Installiere zuerst Python (uv) auf deinem Computer (nur einmal) · Nur in der Claude-App für den Computer (Windows oder Mac), nicht im Web oder auf dem Handy
Kopiere diese Nachricht in einen Claude-Chat. Die KI prüft deinen Rechner, sagt dir, welche Datei sie ändert, und wartet jedes Mal auf dein OK.
Installiere bitte den MCP server Ollama / vLLM Bridge für Claude auf diesem Rechner, in dieser Reihenfolge: 1) Prüfe uv mit uv --version. Fehlt es, sag mir, dass ich es von https://docs.astral.sh/uv/getting-started/installation/ installiere; installiere es nicht selbst. 2) Verwende nur diese Konfiguration (von PopNx MCP geprüft): { "mcpServers": { "ollama-vllm": { "command": "uvx", "args": [ "mcp-ollama-vllm" ], "env": { "LOCAL_HOST": "your-value" } } } } 3) Nenne mir den vollständigen Pfad der Datei, die du änderst, oder den Befehl, den du ausführst, und warte auf mein OK. 4) Lass bei LOCAL_HOST "your-value" stehen und sag mir, dass ich den echten Wert selbst in die Datei oder das Feld der App einfüge. Bitte mich nie, einen Schlüssel in den Chat zu schreiben. 5) Führe das Vereinbarte aus und prüfe, dass die Tools von Ollama / vLLM Bridge wirklich erscheinen.Diese Nachricht enthält keinen Schlüssel. Wird einer gebraucht, bittet dich die KI, ihn selbst in die Datei oder das Feld der App einzufügen.
Schon installiert? Zuerst prüfen · Öffne das Terminal, gib diesen Befehl ein und drücke Enter
uv --versionMac: ⌘ + Leertaste drücken, Terminal eingeben, Enter
Windows: Start öffnen, Windows PowerShell eingeben, dann Öffnen
Noch nicht installiert: uv hat keinen Klick-Installer. Kopiere den Einzeiler für dein System (macOS oder Windows) von der offiziellen uv-Seite ins Terminal · Python muss nicht extra installiert werden, uv lädt es bei Bedarf selbst
Download-Seite von uv öffnen ↗
Danach das Terminal schließen, neu öffnen und denselben Befehl erneut ausführen. Es muss eine Versionsnummer erscheinen: uv --version
Einmal installieren, gilt für alles, was uv braucht
Das sind Programmeinstellungen, keine Schlüssel. Keine Registrierung nötig; wie vom Autor beschrieben ausfüllen.
LOCAL_HOST Modell-Endpunkt-URL; muss lokal oder in deinem eigenen Netzwerk liegen. Erforderlich für das Backend openai. Beschreibungen automatisch übersetzt; Variablennamen bleiben wie im Original. Im Zweifel das Original ansehen.
SettingsDeveloperEdit Config
{
"mcpServers": {
"ollama-vllm": {
"command": "uvx",
"args": [
"mcp-ollama-vllm"
],
"env": {
"LOCAL_HOST": "your-value"
}
}
}
}Nutze Ollama / vLLM Bridge und sag mir, was du für mich tun kannst; zeig mir dann eine Sache✓ Wenn Claude sagt, dass es Ollama / vLLM Bridge nutzt, oder ein Werkzeug von Ollama / vLLM Bridge in der Antwort zeigt, bist du verbunden
Der Befehl oben funktioniert auch ohne diese Werte. Füge sie nur hinzu, wenn du etwas ändern willst, nach der Beschreibung des Autors.
LOCAL_BACKEND Backend to use: ollama, vllm or openai · Standard ollamaLOCAL_API_KEY Optionales Bearer-Token, nur für das openai-Backend; wird als Header gesendet und nie protokolliert. LOCAL_TIMEOUT Lese-Timeout in Sekunden LOCAL_EMBED_MODEL Standard-Embedding-Modell LOCAL_EMBED_PATH Optional, nur für das openai-Backend: Pfad des Embedding-Endpunkts LOCAL_SCHEMA_MODE Optional, nur für das Backend openai: auto, response_format oder none Beschreibungen automatisch übersetzt; Variablennamen bleiben wie im Original. Im Zweifel das Original ansehen.
Menünamen am 11. Nov. 2026 mit der Hilfe von Anthropic abgeglichen · dein Bildschirm kann je nach App-Version leicht abweichen
ChatGPT kann Ollama / vLLM Bridge noch nicht verbinden
Ollama / vLLM Bridge läuft auf deinem Computer, aber ChatGPT verbindet nur Server, die im Web laufen
A · Eine App nutzen, die Ollama / vLLM Bridge verbinden kann
B · Andere in Entwicklertools, die mit ChatGPT funktionieren
Aus den meistgenutzten derselben Kategorie, nur solche, die per Adresse ohne Schlüssel verbinden
Klappt mit Claude Code, aber erst etwas vorbereiten
1 Einstellung(en) auszufüllen (LOCAL_HOST) · Installiere zuerst Python (uv) auf deinem Computer (nur einmal)
Kopiere diese Nachricht in einen Claude Code-Chat. Die KI prüft deinen Rechner, sagt dir, welche Datei sie ändert, und wartet jedes Mal auf dein OK.
Installiere bitte den MCP server Ollama / vLLM Bridge für Claude Code auf diesem Rechner, in dieser Reihenfolge: 1) Prüfe uv mit uv --version. Fehlt es, sag mir, dass ich es von https://docs.astral.sh/uv/getting-started/installation/ installiere; installiere es nicht selbst. 2) Verwende nur diese Konfiguration (von PopNx MCP geprüft): claude mcp add --scope user ollama-vllm --env LOCAL_HOST=your-value -- uvx mcp-ollama-vllm 3) Nenne mir den vollständigen Pfad der Datei, die du änderst, oder den Befehl, den du ausführst, und warte auf mein OK. 4) Lass bei LOCAL_HOST "your-value" stehen und sag mir, dass ich den echten Wert selbst in die Datei oder das Feld der App einfüge. Bitte mich nie, einen Schlüssel in den Chat zu schreiben. 5) Führe das Vereinbarte aus und prüfe, dass die Tools von Ollama / vLLM Bridge wirklich erscheinen.Diese Nachricht enthält keinen Schlüssel. Wird einer gebraucht, bittet dich die KI, ihn selbst in die Datei oder das Feld der App einzufügen.
Schon installiert? Zuerst prüfen · Öffne das Terminal, gib diesen Befehl ein und drücke Enter
uv --versionMac: ⌘ + Leertaste drücken, Terminal eingeben, Enter
Windows: Start öffnen, Windows PowerShell eingeben, dann Öffnen
Noch nicht installiert: uv hat keinen Klick-Installer. Kopiere den Einzeiler für dein System (macOS oder Windows) von der offiziellen uv-Seite ins Terminal · Python muss nicht extra installiert werden, uv lädt es bei Bedarf selbst
Download-Seite von uv öffnen ↗
Danach das Terminal schließen, neu öffnen und denselben Befehl erneut ausführen. Es muss eine Versionsnummer erscheinen: uv --version
Einmal installieren, gilt für alles, was uv braucht
Das sind Programmeinstellungen, keine Schlüssel. Keine Registrierung nötig; wie vom Autor beschrieben ausfüllen.
LOCAL_HOST Modell-Endpunkt-URL; muss lokal oder in deinem eigenen Netzwerk liegen. Erforderlich für das Backend openai. Beschreibungen automatisch übersetzt; Variablennamen bleiben wie im Original. Im Zweifel das Original ansehen.
Mac: Command+Leertaste drücken und Terminal tippen · Windows: PowerShell öffnen
claude mcp add --scope user ollama-vllm --env LOCAL_HOST=your-value -- uvx mcp-ollama-vllmOllama / vLLM Bridge sollte in der Liste als verbunden erscheinen
Nutze Ollama / vLLM Bridge und sag mir, was du für mich tun kannst; zeig mir dann eine Sache✓ Wenn Claude Code sagt, dass es Ollama / vLLM Bridge nutzt, oder ein Werkzeug von Ollama / vLLM Bridge in der Antwort zeigt, bist du verbunden
Der Befehl oben funktioniert auch ohne diese Werte. Füge sie nur hinzu, wenn du etwas ändern willst, nach der Beschreibung des Autors.
LOCAL_BACKEND Backend to use: ollama, vllm or openai · Standard ollamaLOCAL_API_KEY Optionales Bearer-Token, nur für das openai-Backend; wird als Header gesendet und nie protokolliert. LOCAL_TIMEOUT Lese-Timeout in Sekunden LOCAL_EMBED_MODEL Standard-Embedding-Modell LOCAL_EMBED_PATH Optional, nur für das openai-Backend: Pfad des Embedding-Endpunkts LOCAL_SCHEMA_MODE Optional, nur für das Backend openai: auto, response_format oder none Beschreibungen automatisch übersetzt; Variablennamen bleiben wie im Original. Im Zweifel das Original ansehen.
Menünamen am 11. Nov. 2026 mit der Hilfe von Anthropic abgeglichen · dein Bildschirm kann je nach App-Version leicht abweichen
Klappt mit Cursor, aber erst etwas vorbereiten
1 Einstellung(en) auszufüllen (LOCAL_HOST) · Installiere zuerst Python (uv) auf deinem Computer (nur einmal)
Kopiere diese Nachricht in einen Cursor-Chat. Die KI prüft deinen Rechner, sagt dir, welche Datei sie ändert, und wartet jedes Mal auf dein OK.
Installiere bitte den MCP server Ollama / vLLM Bridge für Cursor auf diesem Rechner, in dieser Reihenfolge: 1) Prüfe uv mit uv --version. Fehlt es, sag mir, dass ich es von https://docs.astral.sh/uv/getting-started/installation/ installiere; installiere es nicht selbst. 2) Verwende nur diese Konfiguration (von PopNx MCP geprüft): { "mcpServers": { "ollama-vllm": { "command": "uvx", "args": [ "mcp-ollama-vllm" ], "env": { "LOCAL_HOST": "your-value" } } } } 3) Nenne mir den vollständigen Pfad der Datei, die du änderst, oder den Befehl, den du ausführst, und warte auf mein OK. 4) Lass bei LOCAL_HOST "your-value" stehen und sag mir, dass ich den echten Wert selbst in die Datei oder das Feld der App einfüge. Bitte mich nie, einen Schlüssel in den Chat zu schreiben. 5) Führe das Vereinbarte aus und prüfe, dass die Tools von Ollama / vLLM Bridge wirklich erscheinen.Diese Nachricht enthält keinen Schlüssel. Wird einer gebraucht, bittet dich die KI, ihn selbst in die Datei oder das Feld der App einzufügen.
Schon installiert? Zuerst prüfen · Öffne das Terminal, gib diesen Befehl ein und drücke Enter
uv --versionMac: ⌘ + Leertaste drücken, Terminal eingeben, Enter
Windows: Start öffnen, Windows PowerShell eingeben, dann Öffnen
Noch nicht installiert: uv hat keinen Klick-Installer. Kopiere den Einzeiler für dein System (macOS oder Windows) von der offiziellen uv-Seite ins Terminal · Python muss nicht extra installiert werden, uv lädt es bei Bedarf selbst
Download-Seite von uv öffnen ↗
Danach das Terminal schließen, neu öffnen und denselben Befehl erneut ausführen. Es muss eine Versionsnummer erscheinen: uv --version
Einmal installieren, gilt für alles, was uv braucht
Das sind Programmeinstellungen, keine Schlüssel. Keine Registrierung nötig; wie vom Autor beschrieben ausfüllen.
LOCAL_HOST Modell-Endpunkt-URL; muss lokal oder in deinem eigenen Netzwerk liegen. Erforderlich für das Backend openai. Beschreibungen automatisch übersetzt; Variablennamen bleiben wie im Original. Im Zweifel das Original ansehen.
In den Einstellungen von Ollama / vLLM Bridge ist LOCAL_HOST leer; trag deinen Schlüssel ein und speichere
Nutze Ollama / vLLM Bridge und sag mir, was du für mich tun kannst; zeig mir dann eine Sache✓ Wenn Cursor sagt, dass es Ollama / vLLM Bridge nutzt, oder ein Werkzeug von Ollama / vLLM Bridge in der Antwort zeigt, bist du verbunden
Der Befehl oben funktioniert auch ohne diese Werte. Füge sie nur hinzu, wenn du etwas ändern willst, nach der Beschreibung des Autors.
LOCAL_BACKEND Backend to use: ollama, vllm or openai · Standard ollamaLOCAL_API_KEY Optionales Bearer-Token, nur für das openai-Backend; wird als Header gesendet und nie protokolliert. LOCAL_TIMEOUT Lese-Timeout in Sekunden LOCAL_EMBED_MODEL Standard-Embedding-Modell LOCAL_EMBED_PATH Optional, nur für das openai-Backend: Pfad des Embedding-Endpunkts LOCAL_SCHEMA_MODE Optional, nur für das Backend openai: auto, response_format oder none Beschreibungen automatisch übersetzt; Variablennamen bleiben wie im Original. Im Zweifel das Original ansehen.
Menünamen am 11. Nov. 2026 mit der Hilfe von Cursor abgeglichen · dein Bildschirm kann je nach App-Version leicht abweichen
Klappt mit VS Code, aber erst etwas vorbereiten
1 Einstellung(en) auszufüllen (LOCAL_HOST) · Installiere zuerst Python (uv) auf deinem Computer (nur einmal)
Kopiere diese Nachricht in einen VS Code-Chat. Die KI prüft deinen Rechner, sagt dir, welche Datei sie ändert, und wartet jedes Mal auf dein OK.
Installiere bitte den MCP server Ollama / vLLM Bridge für VS Code auf diesem Rechner, in dieser Reihenfolge: 1) Prüfe uv mit uv --version. Fehlt es, sag mir, dass ich es von https://docs.astral.sh/uv/getting-started/installation/ installiere; installiere es nicht selbst. 2) Verwende nur diese Konfiguration (von PopNx MCP geprüft): { "servers": { "ollama-vllm": { "type": "stdio", "command": "uvx", "args": [ "mcp-ollama-vllm" ], "env": { "LOCAL_HOST": "your-value" } } } } 3) Nenne mir den vollständigen Pfad der Datei, die du änderst, oder den Befehl, den du ausführst, und warte auf mein OK. 4) Lass bei LOCAL_HOST "your-value" stehen und sag mir, dass ich den echten Wert selbst in die Datei oder das Feld der App einfüge. Bitte mich nie, einen Schlüssel in den Chat zu schreiben. 5) Führe das Vereinbarte aus und prüfe, dass die Tools von Ollama / vLLM Bridge wirklich erscheinen.Diese Nachricht enthält keinen Schlüssel. Wird einer gebraucht, bittet dich die KI, ihn selbst in die Datei oder das Feld der App einzufügen.
Schon installiert? Zuerst prüfen · Öffne das Terminal, gib diesen Befehl ein und drücke Enter
uv --versionMac: ⌘ + Leertaste drücken, Terminal eingeben, Enter
Windows: Start öffnen, Windows PowerShell eingeben, dann Öffnen
Noch nicht installiert: uv hat keinen Klick-Installer. Kopiere den Einzeiler für dein System (macOS oder Windows) von der offiziellen uv-Seite ins Terminal · Python muss nicht extra installiert werden, uv lädt es bei Bedarf selbst
Download-Seite von uv öffnen ↗
Danach das Terminal schließen, neu öffnen und denselben Befehl erneut ausführen. Es muss eine Versionsnummer erscheinen: uv --version
Einmal installieren, gilt für alles, was uv braucht
Das sind Programmeinstellungen, keine Schlüssel. Keine Registrierung nötig; wie vom Autor beschrieben ausfüllen.
LOCAL_HOST Modell-Endpunkt-URL; muss lokal oder in deinem eigenen Netzwerk liegen. Erforderlich für das Backend openai. Beschreibungen automatisch übersetzt; Variablennamen bleiben wie im Original. Im Zweifel das Original ansehen.
VS Code fragt nach einer Bestätigung; klicke Install
In den Einstellungen von Ollama / vLLM Bridge ist LOCAL_HOST leer; trag deinen Schlüssel ein und speichere
Nutze Ollama / vLLM Bridge und sag mir, was du für mich tun kannst; zeig mir dann eine Sache✓ Wenn VS Code sagt, dass es Ollama / vLLM Bridge nutzt, oder ein Werkzeug von Ollama / vLLM Bridge in der Antwort zeigt, bist du verbunden
Der Befehl oben funktioniert auch ohne diese Werte. Füge sie nur hinzu, wenn du etwas ändern willst, nach der Beschreibung des Autors.
LOCAL_BACKEND Backend to use: ollama, vllm or openai · Standard ollamaLOCAL_API_KEY Optionales Bearer-Token, nur für das openai-Backend; wird als Header gesendet und nie protokolliert. LOCAL_TIMEOUT Lese-Timeout in Sekunden LOCAL_EMBED_MODEL Standard-Embedding-Modell LOCAL_EMBED_PATH Optional, nur für das openai-Backend: Pfad des Embedding-Endpunkts LOCAL_SCHEMA_MODE Optional, nur für das Backend openai: auto, response_format oder none Beschreibungen automatisch übersetzt; Variablennamen bleiben wie im Original. Im Zweifel das Original ansehen.
Menünamen am 11. Nov. 2026 mit der Hilfe von VS Code abgeglichen · dein Bildschirm kann je nach App-Version leicht abweichen
Andere Apps mit MCP, etwa Windsurf, Zed oder Gemini CLI, fügen Server unterschiedlich hinzu. Sieh in der App-Liste nach
JSON-Einstellungen stehen unten unter „Für Entwickler“
Claude Code
claude mcp add --scope user ollama-vllm --env LOCAL_HOST=your-value -- uvx mcp-ollama-vllmClaude Desktop (claude_desktop_config.json)
{
"mcpServers": {
"ollama-vllm": {
"command": "uvx",
"args": [
"mcp-ollama-vllm"
],
"env": {
"LOCAL_HOST": "your-value"
}
}
}
}Cursor (~/.cursor/mcp.json)
{
"mcpServers": {
"ollama-vllm": {
"command": "uvx",
"args": [
"mcp-ollama-vllm"
],
"env": {
"LOCAL_HOST": "your-value"
}
}
}
}VS Code (mcp.json)
{
"servers": {
"ollama-vllm": {
"type": "stdio",
"command": "uvx",
"args": [
"mcp-ollama-vllm"
],
"env": {
"LOCAL_HOST": "your-value"
}
}
}
}LOCAL_BACKEND envLOCAL_HOST erforderlich envLOCAL_API_KEY geheim envLOCAL_TIMEOUT envLOCAL_EMBED_MODEL envLOCAL_EMBED_PATH envLOCAL_SCHEMA_MODE envBeschreibungen automatisch übersetzt; Variablennamen bleiben wie im Original. Im Zweifel das Original ansehen.
Diese Einstellungen werden aus dem Registry-Eintrag des Entwicklers erzeugt. Wenn in der README etwas anderes steht, folge der README.
Basierend darauf, wie sich dieser Server verbindet, und auf der eigenen Doku jeder App, geprüft am 10. Nov. 2026.
Laufen auf deinem Computer in
ClaudeGooseLM StudioMsty StudioCherry StudioCursorVS Code + GitHub CopilotVisual StudioWindsurf (Devin Desktop)ZedKiroClineContinueJetBrains AI AssistantClaude CodeCodex CLIGemini CLIOpenCodenodecodeWarpLibreChatRaycast
Läuft auf deinem Computer; die Tool-Liste erscheint nach der Installation in deiner KI-App.
Wir prüfen Informationen, die jeder sehen kann; den Code haben wir nicht gelesen. Checks, die nicht zutreffen, werden nicht mitgezählt. · Geprüft am 19. Nov. 2026
Der Registry-Name wurde mit dem GitHub-Konto setheerwagen bestätigt, dem das Repo gehört
Code zuletzt geändert: vor 28 Tagen
Nutzt MIT
Dieser Server läuft auf deinem Computer; es gibt keinen Endpunkt im Internet
Läuft auf deinem Computer und nutzt stattdessen lokale Einstellungen
Läuft auf deinem Computer; Tool-Listen können wir nur von Endpunkten im Internet lesen
Keine Einträge auf OSV.dev für mcp-ollama-vllm@1.0.6
Prüft nur diese Paketversion, nicht alle Abhängigkeiten · geprüft 16. Nov. 2026
Wenn du das gebaut hast, füge diesen Code in dein README ein. Das Badge verlinkt auf diese Seite.
[](https://mcp.popnx.com/en/servers/setheerwagen-mcp-ollama-vllm)Fragen, Tipps teilen oder melden, dass etwas nicht geht. Sortiert nach „hilfreich“.
Noch keine Beiträge. Stell die erste Frage oder teile einen Tipp.
Beiträge hier stammen von Nutzern, nicht vom PopNx-Team.
Noch keine Bewertungen
Verglichen mit allen aktiven Servern dieser Kategorie in der Registry. Sterne zählen nur, wenn dem Herausgeber das Repo gehört.
Er hat 3 von 3 zutreffenden Basischecks bestanden. Den Code haben wir nicht gelesen. Bevor du einen Schlüssel oder Token hinzufügst, sieh nach, welche Zugriffe der Server verlangt, und nutze einen Schlüssel, der nur die Berechtigungen hat, die du brauchst.
Die Registry nennt keinen erforderlichen Schlüssel, manche Server bitten dich aber bei der ersten Nutzung, dich anzumelden.
Er läuft auf deinem Computer. Deine KI-App startet ihn bei Bedarf, und die Daten laufen nicht über die Server des Entwicklers (außer der Server ruft selbst einen Onlinedienst auf).
Das GitHub-Repo wurde zuletzt vor 28 Tagen geändert, und die neueste Version (1.0.6) kam vor 28 Tagen in die Registry.
Apps, die MCP unterstützen, etwa Claude Desktop, Claude Code, Cursor und VS Code. Außerdem brauchst du Python (uv) auf deinem Computer.
In derselben Kategorie: GitDiagram, Appllama, Cloudflare MCP, Omnara, Repowise
Gleiche Kategorie, andere Entwickler, Befehle bereits geprüft. Offizielle zuerst, dann nach Sternen.
So liest du eine Karte:↓ Downloads pro Wochei★ GitHub-SterneiDrei Säulen: Bewertungen · Checks · NutzungiAktualisiert = neueste Version in der Registry veröffentlichti
Architecture diagrams, explanations and Mermaid source for public GitHub repositories.
Study screens, flows and paywalls from top-earning iOS apps, then build from what wins.
Cloudflare MCP servers
Deploy durable AI agents with Omnara, an open-source managed-agent platform.
Codebase intelligence for AI coding agents: graph, git history, docs, decisions, code health.
| Dieser Ollama / vLLM Bridge | GitDiagram | Appllama | Cloudflare MCP | Omnara | Repowise | |
|---|---|---|---|---|---|---|
| Läuft wo | Wird auf deinem Rechner installiert | Läuft in der Cloud, keine Installation | Läuft in der Cloud, keine Installation | Läuft in der Cloud, keine Installation | Läuft in der Cloud, keine Installation | In der Cloud oder auf deinem Rechner |
| Braucht Schlüssel | Nein | Nein | Nein | Nein | Nein | Nein |
| Mit + in Claude hinzufügen | Nein | Nein | Nein | Ja | Nein | Nein |
| Basisprüfungen | 3/3 | 4/4 | 4/4 | 4/4 | 4/4 | 5/5 |
| Lizenz | MIT | MIT | MIT | Apache-2.0 | Apache-2.0 | AGPL-3.0 |
| Preis | Keine Kosten im Register | Keine Kosten im Register | Keine Kosten im Register | Keine Kosten im Register | Keine Kosten im Register | Keine Kosten im Register |
Unverändert aus dem Repo des Entwicklers übernommen. PopNx MCP hat den Inhalt weder geprüft noch empfiehlt es ihn. HTML, Bilder und Skripte wurden entfernt. Links führen von dieser Website weg.
An MCP server that lets an MCP client such as Claude Code talk to local language models directly. The backend is wired up at startup: Ollama, vLLM, or a generic OpenAI-compatible endpoint (set once via LOCAL_BACKEND, see below). The third, openai, is not a plugin loader for arbitrary tools; it is one more fixed backend implementation, covering servers such as LM Studio, the llama.cpp server, LocalAI, TGI, koboldcpp, SGLang or Jan, which all expose the same OpenAI-compatible /v1 endpoints as vLLM but are not vLLM itself.
The one thing this server does that a plain Ollama/vLLM call does not: schema-validated JSON output, checked with its own dependency-free validator and automatically retried on a violation (up to 3 attempts total, feeding the concrete violations back to the model), the same way, with the same tool call, regardless of which of the two backends is configured. Both Ollama's format and vLLM's response_format steer the model toward JSON, but neither guarantees that the result actually matches your schema; this server checks that independently instead of trusting the backend's word for it.
Before / after (illustrative, not a real run):
// Backend's own schema enforcement alone (Ollama "format" / vLLM "response_format"):
// looks like valid JSON, but a required field went missing under load and nobody // checked it against the schema before handing it onward. {"amount": 42.10, "currency": "EUR"}
// local_structured: the same case, but validated against the schema and // automatically retried with the concrete violation fed back to the model. {"amount": 42.10, "currency": "EUR", "total": 42.10} // -> attempts: 2, valid_on_first_try: false, outcome already re-validated
Known limits, stated on purpose:
unknown/0 instead of a made-up value./v1/models with only id (and owned_by), so parameter_size/quantization read unknown, sizes read 0, there is no adapter signal, and max_context is only included when the endpoint genuinely reports it. The top-level metadata_reported field (see list_models below) makes this "not reported" honestly visible.think parameter (reasoning trace) has no effect on vLLM or `openai`; it is only wired up for Ollama. See "The think parameter" below.Operating systems: CI runs the self-tests on Linux, and the mock-backed setup self-test selftest_vllm.py on Windows too; the server is pure Python with no OS-specific calls, and its live backend path was additionally exercised once on Windows on 2026-08-07. Needs a running backend service (Ollama or vLLM); the setup self-test selftest_vllm.py uses a mock and needs no real service. macOS is not separately tested.
A large part of an AI agent's work is pure language processing: writing, summarizing, classifying, extracting structured data from text. These parts can be offloaded to a local model, while searching, reading, writing and the orchestration stay with the calling client.
This is explicitly about a model call, not an agent. The local model receives text and returns text. It has no tools, no file access, and it does not work in multiple steps.
These limits are part of the design, not just the docs:
subprocess, os.system or anything comparable.mcp and httpx. mcp in turn pulls in several further packages transitively (among others anyio, pydantic, starlette, uvicorn, jsonschema, pyjwt). The full resolved tree is pinned in uv.lock; CI checks with uv lock --check that the lock still matches pyproject.toml, then installs the exact locked tree for the tests, so a drifted lock fails CI. A separate, advisory pip-audit job checks the locked tree for known vulnerabilities on every push to main and pull request and again weekly; it does not block a pull request.These properties bound what this server does; they are not a claim about the AI tool that drives it. The model you call runs locally, but the Claude/ChatGPT session that decides to call it is a separate hosted service and sees the calls it makes, like any MCP call. Drive the server with a local model if that matters.
See SECURITY.md for the trust boundaries this covers (the model as an oracle rather than an agent, prompt injection via model output, DNS rebinding pinning) and what it does not.
Replace /path/to/mcp-ollama-vllm below with the directory you extracted/cloned this project into.
Python 3.10 or newer is required. There are two equivalent ways to set up a virtual environment; use whichever tool you have.
With the standard venv module and pip:
cd /path/to/mcp-ollama-vllm
python3 -m venv .venv .venv/bin/pip install -r requirements.txt
If python3 -m venv fails (on some distributions the python3-venv package is missing), either install that package or take the route with uv:
cd /path/to/mcp-ollama-vllm
uv venv .venv --seed .venv/bin/pip install -r requirements.txt
(--seed makes sure pip lands in the environment. Alternatively, without --seed, install with uv pip install --python .venv/bin/python -r requirements.txt.)
The modules live under src/mcp_ollama_vllm/ (a src layout, so the package name does not collide with other MCP servers' top-level modules). Either of the above gives you a checkout that runs via PYTHONPATH=src (see "Entry for the MCP configuration" below), or install the package itself with .venv/bin/pip install ., which additionally provides the mcp-ollama-vllm console script and needs no PYTHONPATH.
A reachable Ollama or vLLM backend is a prerequisite for running:
ollama serve and pull at least one model (e.g. ollama pull llama3.2:3b); check with ollama list. For local_embed additionally pull an embedding model, e.g. ollama pull nomic-embed-text.In ~/.claude.json, or the mcpServers section of your Claude Code config:
{
"mcpServers": { "local-models": { "command": "/path/to/mcp-ollama-vllm/.venv/bin/python", "args": ["-m", "mcp_ollama_vllm.server"], "env": { "PYTHONPATH": "/path/to/mcp-ollama-vllm/src", "LOCAL_BACKEND": "ollama", "LOCAL_HOST": "http://localhost:11434", "LOCAL_TIMEOUT": "600" } } } }
Replace /path/to/mcp-ollama-vllm with the absolute path you extracted this project into. Alternatively via CLI:
claude mcp add local-models --env PYTHONPATH=/path/to/mcp-ollama-vllm/src -- \
/path/to/mcp-ollama-vllm/.venv/bin/python -m mcp_ollama_vllm.server
By default, claude mcp add binds the server to the current working directory; for global visibility across all directories, append --scope user.
Alternatively, after .venv/bin/pip install . (see "Installation" above), the PYTHONPATH entry is not needed and args can be ["-m", "mcp_ollama_vllm.server"] as is, or the installed console script can be used directly as command: /path/to/mcp-ollama-vllm/.venv/bin/mcp-ollama-vllm with no args.
Restart your MCP client so it picks up the new server, then call list_models with no arguments. A response with your models proves the server starts, finds the backend and talks to it correctly, all in one step.
| Variable | Default | Meaning |
|---|---|---|
LOCAL_BACKEND | ollama | Backend: ollama, vllm or openai |
LOCAL_HOST | per backend | Endpoint; must be local or on your own network |
LOCAL_TIMEOUT | 600 | Read timeout in seconds |
LOCAL_EMBED_MODEL | nomic-embed-text (Ollama) | Default embedding model |
LOCAL_API_KEY | - | Optional; openai only. Sent as a Bearer header, never logged |
LOCAL_EMBED_PATH | /v1/embeddings | Optional; openai only. Embedding endpoint path |
LOCAL_SCHEMA_MODE | auto | Optional; openai only. auto, response_format or none (see local_structured below) |
The default for LOCAL_HOST is http://localhost:11434 for Ollama and http://localhost:8000 for vLLM. For openai there is no default: the generic backend has no sensible port to guess, so LOCAL_HOST is required and the server refuses to start without it.
The old names OLLAMA_HOST, OLLAMA_TIMEOUT and OLLAMA_EMBED_MODEL are still read so existing configurations do not break. If both are set, the LOCAL_ name wins.
The vLLM box on the local network is addressed through only two variables; the server itself does not change:
{
"mcpServers": { "local-models": { "command": "/path/to/mcp-ollama-vllm/.venv/bin/python", "args": ["-m", "mcp_ollama_vllm.server"], "env": { "PYTHONPATH": "/path/to/mcp-ollama-vllm/src", "LOCAL_BACKEND": "vllm", "LOCAL_HOST": "http://192.168.x.x:8000", "LOCAL_TIMEOUT": "600", "LOCAL_EMBED_MODEL": "BAAI/bge-m3" } } } }
Both backends can also be registered in parallel, under different names (e.g. local-models and local-models-server), so both are available in the same session.
There is nothing wrong with registering the same server under several names at once, each with its own LOCAL_BACKEND/LOCAL_HOST. That way different backends can be addressed in the same session, for example:
http://localhost:11434),All three are then instances of one and the same server, just configured differently. Give them descriptive names and check before use which entry hits the intended machine and backend, rather than relying on the name alone.
The openai backend works the same way, no new routing mechanism: two generic-server entries on different ports, for example LM Studio on http://localhost:1234 and a llama.cpp server on http://localhost:8080:
{
"mcpServers": { "local-models-lmstudio": { "command": "/path/to/mcp-ollama-vllm/.venv/bin/python", "args": ["-m", "mcp_ollama_vllm.server"], "env": { "PYTHONPATH": "/path/to/mcp-ollama-vllm/src", "LOCAL_BACKEND": "openai", "LOCAL_HOST": "http://localhost:1234" } }, "local-models-llam