Prototyp · Vorschau: alle Server aus der offiziellen Registry, alle 30 Minuten synchronisiert. Mit Google anmelden, um Bewertungen zu schreiben.Prototyp · alle 30 Min. aktualisiert
PopNx MCPMCP-Server für alle, die KI nutzen · in einfachen Worten erklärt

Ollama / vLLM Bridge

von setheerwagenVersion 1.0.6i★ 0iLäuft auf deinem ComputerRepository ↗
Name in der Registryio.github.setheerwagen/mcp-ollama-vllm

So installierst du es

What it does

Call your local Ollama or vLLM model over MCP with schema-validated JSON output

  • Connects Läuft auf deinem Computer
  • Account or key No key needed · 1 setting to fill in (LOCAL_HOST)
  • Category Entwicklertools

Zusammen nutzen mit

Skills, die der KI diese Art Arbeit beibringen; sie funktionieren zusammen mit diesem

rea

Reverse engineer anything with agents, from app behavior down to native binaries.

von morluto★ 467.2351 Skills

Skill · Anleitung

andrej-karpathy-skills

A single CLAUDE.md file to improve Claude Code behavior, derived from Andrej Karpathy's observations on LLM coding pitfalls.

von multica-ai★ 234.1251 Skills

Skill · AnleitungKeine Lizenz angegeben

graphify

Turn any codebase, with its docs, SQL schemas, configs, and PDFs, into a queryable knowledge graph. A /graphify skill for Claude Code, Cursor, Codex, and Gemini CLI: local deterministic AST parsing, every edge explained, no vector store.

von Graphify-Labs★ 149.8731 Skills

Skill · Anleitung

Warum es hier steht

Listen sind nach einem Nutzungswert (von 100) aus diesen Teilen sortiert

Beliebtheit0/80GitHub-Sterne oder wöchentliche Downloads: der größere Wert zählt 60, der kleinere 20
Aktualität12/12Volle Punkte für Release oder Codeänderung in 30 Tagen
Antwortet noch0/8Der Cloud-Endpoint antwortete bei der letzten Prüfung
Nutzungswert12/100

Qualität: 3/3 Basisprüfungen bestanden (angezeigt, nicht zur Sortierung) · Schwung: Noch keine Daten (Nur im Tab Im Trend verwendet)

Installation

Wähle die KI-App, die du nutzt, und kopiere die Einstellungen.

Mit einem Satz von deiner KI installieren lassen

Installiere bitte Ollama / vLLM Bridge. Folge https://mcp.popnx.com/i/setheerwagen-mcp-ollama-vllm.md, zeig mir die Befehle und warte auf mein OK, bevor du sie ausführst.

Füge ihn in eine KI ein, die auf deinem Rechner arbeitet (z. B. Claude Code oder Cursor). Sie liest unsere Schritte, zeigt dir die Befehle und wartet auf dein OK. Kein Schlüssel, keine Anmeldung. · Vollständigen Text ansehen

3/3 Prüfungen bestanden · Läuft auf deinem Computer · ✓ Befehle geprüft am 14. Nov. 2026

Zuerst: Welche KI nutzt du?

Wähle deine App, dann erscheinen die Schritte unten.

Klappt mit Claude, aber erst etwas vorbereiten

1 Einstellung(en) auszufüllen (LOCAL_HOST) · Installiere zuerst Python (uv) auf deinem Computer (nur einmal) · Nur in der Claude-App für den Computer (Windows oder Mac), nicht im Web oder auf dem Handy

Von der KI installieren lassen

Kopiere diese Nachricht in einen Claude-Chat. Die KI prüft deinen Rechner, sagt dir, welche Datei sie ändert, und wartet jedes Mal auf dein OK.

Installiere bitte den MCP server Ollama / vLLM Bridge für Claude auf diesem Rechner, in dieser Reihenfolge: 1) Prüfe uv mit uv --version. Fehlt es, sag mir, dass ich es von https://docs.astral.sh/uv/getting-started/installation/ installiere; installiere es nicht selbst. 2) Verwende nur diese Konfiguration (von PopNx MCP geprüft): { "mcpServers": { "ollama-vllm": { "command": "uvx", "args": [ "mcp-ollama-vllm" ], "env": { "LOCAL_HOST": "your-value" } } } } 3) Nenne mir den vollständigen Pfad der Datei, die du änderst, oder den Befehl, den du ausführst, und warte auf mein OK. 4) Lass bei LOCAL_HOST "your-value" stehen und sag mir, dass ich den echten Wert selbst in die Datei oder das Feld der App einfüge. Bitte mich nie, einen Schlüssel in den Chat zu schreiben. 5) Führe das Vereinbarte aus und prüfe, dass die Tools von Ollama / vLLM Bridge wirklich erscheinen.

Diese Nachricht enthält keinen Schlüssel. Wird einer gebraucht, bittet dich die KI, ihn selbst in die Datei oder das Feld der App einzufügen.

  1. uv installieren (falls noch nicht vorhanden)

    Schon installiert? Zuerst prüfen · Öffne das Terminal, gib diesen Befehl ein und drücke Enter

    uv --version
    • Eine Versionsnummer wie uv … = installiert, diesen Schritt überspringen
    • "command not found" (unter Windows "is not recognized") = noch nicht installiert, oder gerade installiert und das Terminal muss neu geöffnet werden
    So öffnest du das Terminal

    Mac: ⌘ + Leertaste drücken, Terminal eingeben, Enter

    Windows: Start öffnen, Windows PowerShell eingeben, dann Öffnen

    Noch nicht installiert: uv hat keinen Klick-Installer. Kopiere den Einzeiler für dein System (macOS oder Windows) von der offiziellen uv-Seite ins Terminal · Python muss nicht extra installiert werden, uv lädt es bei Bedarf selbst

    Download-Seite von uv öffnen ↗

    Danach das Terminal schließen, neu öffnen und denselben Befehl erneut ausführen. Es muss eine Versionsnummer erscheinen: uv --version

    Einmal installieren, gilt für alles, was uv braucht

  2. 1 Einstellung(en) ausfüllen

    Das sind Programmeinstellungen, keine Schlüssel. Keine Registrierung nötig; wie vom Autor beschrieben ausfüllen.

    • LOCAL_HOST Modell-Endpunkt-URL; muss lokal oder in deinem eigenen Netzwerk liegen. Erforderlich für das Backend openai.
      Englisches Original anzeigenModel endpoint URL; must be local or on your own network. Required for the openai backend

    Beschreibungen automatisch übersetzt; Variablennamen bleiben wie im Original. Im Zweifel das Original ansehen.

  3. Einstellungsdatei der Claude-Desktop-App öffnen

    SettingsDeveloperEdit Config

  4. Diese Einstellungen einfügen und speichern

    {
      "mcpServers": {
        "ollama-vllm": {
          "command": "uvx",
          "args": [
            "mcp-ollama-vllm"
          ],
          "env": {
            "LOCAL_HOST": "your-value"
          }
        }
      }
    }
  5. Claude beenden und neu öffnen

  6. Ausprobieren

    Nutze Ollama / vLLM Bridge und sag mir, was du für mich tun kannst; zeig mir dann eine Sache

    ✓ Wenn Claude sagt, dass es Ollama / vLLM Bridge nutzt, oder ein Werkzeug von Ollama / vLLM Bridge in der Antwort zeigt, bist du verbunden

6 optionale Einstellung(en) (geht auch ohne)

Der Befehl oben funktioniert auch ohne diese Werte. Füge sie nur hinzu, wenn du etwas ändern willst, nach der Beschreibung des Autors.

  • LOCAL_BACKEND Backend to use: ollama, vllm or openai · Standard ollama
  • LOCAL_API_KEY Optionales Bearer-Token, nur für das openai-Backend; wird als Header gesendet und nie protokolliert.
    Englisches Original anzeigenOptional bearer token, openai backend only; sent as a header, never logged
  • LOCAL_TIMEOUT Lese-Timeout in Sekunden
    Englisches Original anzeigenRead timeout in seconds
    · Standard 600
  • LOCAL_EMBED_MODEL Standard-Embedding-Modell
    Englisches Original anzeigenDefault embedding model
    · Standard nomic-embed-text
  • LOCAL_EMBED_PATH Optional, nur für das openai-Backend: Pfad des Embedding-Endpunkts
    Englisches Original anzeigenOptional, openai backend only: embedding endpoint path
    · Standard /v1/embeddings
  • LOCAL_SCHEMA_MODE Optional, nur für das Backend openai: auto, response_format oder none
    Englisches Original anzeigenOptional, openai backend only: auto, response_format or none
    · Standard auto

Beschreibungen automatisch übersetzt; Variablennamen bleiben wie im Original. Im Zweifel das Original ansehen.

Menünamen am 11. Nov. 2026 mit der Hilfe von Anthropic abgeglichen · dein Bildschirm kann je nach App-Version leicht abweichen

ChatGPT kann Ollama / vLLM Bridge noch nicht verbinden

Ollama / vLLM Bridge läuft auf deinem Computer, aber ChatGPT verbindet nur Server, die im Web laufen

Das kannst du stattdessen tun

A · Eine App nutzen, die Ollama / vLLM Bridge verbinden kann

  • 1 Einstellung(en) auszufüllen (LOCAL_HOST) · Installiere zuerst Python (uv) auf deinem Computer (nur einmal) · Nur in der Claude-App für den Computer (Windows oder Mac), nicht im Web oder auf dem Handy
  • 1 Einstellung(en) auszufüllen (LOCAL_HOST) · Installiere zuerst Python (uv) auf deinem Computer (nur einmal)
  • 1 Einstellung(en) auszufüllen (LOCAL_HOST) · Installiere zuerst Python (uv) auf deinem Computer (nur einmal)
  • 1 Einstellung(en) auszufüllen (LOCAL_HOST) · Installiere zuerst Python (uv) auf deinem Computer (nur einmal)

B · Andere in Entwicklertools, die mit ChatGPT funktionieren

Aus den meistgenutzten derselben Kategorie, nur solche, die per Adresse ohne Schlüssel verbinden

Klappt mit Claude Code, aber erst etwas vorbereiten

1 Einstellung(en) auszufüllen (LOCAL_HOST) · Installiere zuerst Python (uv) auf deinem Computer (nur einmal)

Von der KI installieren lassen

Kopiere diese Nachricht in einen Claude Code-Chat. Die KI prüft deinen Rechner, sagt dir, welche Datei sie ändert, und wartet jedes Mal auf dein OK.

Installiere bitte den MCP server Ollama / vLLM Bridge für Claude Code auf diesem Rechner, in dieser Reihenfolge: 1) Prüfe uv mit uv --version. Fehlt es, sag mir, dass ich es von https://docs.astral.sh/uv/getting-started/installation/ installiere; installiere es nicht selbst. 2) Verwende nur diese Konfiguration (von PopNx MCP geprüft): claude mcp add --scope user ollama-vllm --env LOCAL_HOST=your-value -- uvx mcp-ollama-vllm 3) Nenne mir den vollständigen Pfad der Datei, die du änderst, oder den Befehl, den du ausführst, und warte auf mein OK. 4) Lass bei LOCAL_HOST "your-value" stehen und sag mir, dass ich den echten Wert selbst in die Datei oder das Feld der App einfüge. Bitte mich nie, einen Schlüssel in den Chat zu schreiben. 5) Führe das Vereinbarte aus und prüfe, dass die Tools von Ollama / vLLM Bridge wirklich erscheinen.

Diese Nachricht enthält keinen Schlüssel. Wird einer gebraucht, bittet dich die KI, ihn selbst in die Datei oder das Feld der App einzufügen.

  1. uv installieren (falls noch nicht vorhanden)

    Schon installiert? Zuerst prüfen · Öffne das Terminal, gib diesen Befehl ein und drücke Enter

    uv --version
    • Eine Versionsnummer wie uv … = installiert, diesen Schritt überspringen
    • "command not found" (unter Windows "is not recognized") = noch nicht installiert, oder gerade installiert und das Terminal muss neu geöffnet werden
    So öffnest du das Terminal

    Mac: ⌘ + Leertaste drücken, Terminal eingeben, Enter

    Windows: Start öffnen, Windows PowerShell eingeben, dann Öffnen

    Noch nicht installiert: uv hat keinen Klick-Installer. Kopiere den Einzeiler für dein System (macOS oder Windows) von der offiziellen uv-Seite ins Terminal · Python muss nicht extra installiert werden, uv lädt es bei Bedarf selbst

    Download-Seite von uv öffnen ↗

    Danach das Terminal schließen, neu öffnen und denselben Befehl erneut ausführen. Es muss eine Versionsnummer erscheinen: uv --version

    Einmal installieren, gilt für alles, was uv braucht

  2. 1 Einstellung(en) ausfüllen

    Das sind Programmeinstellungen, keine Schlüssel. Keine Registrierung nötig; wie vom Autor beschrieben ausfüllen.

    • LOCAL_HOST Modell-Endpunkt-URL; muss lokal oder in deinem eigenen Netzwerk liegen. Erforderlich für das Backend openai.
      Englisches Original anzeigenModel endpoint URL; must be local or on your own network. Required for the openai backend

    Beschreibungen automatisch übersetzt; Variablennamen bleiben wie im Original. Im Zweifel das Original ansehen.

  3. Terminal öffnen

    Mac: Command+Leertaste drücken und Terminal tippen · Windows: PowerShell öffnen

  4. Diesen Befehl einfügen und Enter drücken

    claude mcp add --scope user ollama-vllm --env LOCAL_HOST=your-value -- uvx mcp-ollama-vllm
  5. /mcp in Claude Code eingeben

    Ollama / vLLM Bridge sollte in der Liste als verbunden erscheinen

  6. Ausprobieren

    Nutze Ollama / vLLM Bridge und sag mir, was du für mich tun kannst; zeig mir dann eine Sache

    ✓ Wenn Claude Code sagt, dass es Ollama / vLLM Bridge nutzt, oder ein Werkzeug von Ollama / vLLM Bridge in der Antwort zeigt, bist du verbunden

6 optionale Einstellung(en) (geht auch ohne)

Der Befehl oben funktioniert auch ohne diese Werte. Füge sie nur hinzu, wenn du etwas ändern willst, nach der Beschreibung des Autors.

  • LOCAL_BACKEND Backend to use: ollama, vllm or openai · Standard ollama
  • LOCAL_API_KEY Optionales Bearer-Token, nur für das openai-Backend; wird als Header gesendet und nie protokolliert.
    Englisches Original anzeigenOptional bearer token, openai backend only; sent as a header, never logged
  • LOCAL_TIMEOUT Lese-Timeout in Sekunden
    Englisches Original anzeigenRead timeout in seconds
    · Standard 600
  • LOCAL_EMBED_MODEL Standard-Embedding-Modell
    Englisches Original anzeigenDefault embedding model
    · Standard nomic-embed-text
  • LOCAL_EMBED_PATH Optional, nur für das openai-Backend: Pfad des Embedding-Endpunkts
    Englisches Original anzeigenOptional, openai backend only: embedding endpoint path
    · Standard /v1/embeddings
  • LOCAL_SCHEMA_MODE Optional, nur für das Backend openai: auto, response_format oder none
    Englisches Original anzeigenOptional, openai backend only: auto, response_format or none
    · Standard auto

Beschreibungen automatisch übersetzt; Variablennamen bleiben wie im Original. Im Zweifel das Original ansehen.

Menünamen am 11. Nov. 2026 mit der Hilfe von Anthropic abgeglichen · dein Bildschirm kann je nach App-Version leicht abweichen

Klappt mit Cursor, aber erst etwas vorbereiten

1 Einstellung(en) auszufüllen (LOCAL_HOST) · Installiere zuerst Python (uv) auf deinem Computer (nur einmal)

Von der KI installieren lassen

Kopiere diese Nachricht in einen Cursor-Chat. Die KI prüft deinen Rechner, sagt dir, welche Datei sie ändert, und wartet jedes Mal auf dein OK.

Installiere bitte den MCP server Ollama / vLLM Bridge für Cursor auf diesem Rechner, in dieser Reihenfolge: 1) Prüfe uv mit uv --version. Fehlt es, sag mir, dass ich es von https://docs.astral.sh/uv/getting-started/installation/ installiere; installiere es nicht selbst. 2) Verwende nur diese Konfiguration (von PopNx MCP geprüft): { "mcpServers": { "ollama-vllm": { "command": "uvx", "args": [ "mcp-ollama-vllm" ], "env": { "LOCAL_HOST": "your-value" } } } } 3) Nenne mir den vollständigen Pfad der Datei, die du änderst, oder den Befehl, den du ausführst, und warte auf mein OK. 4) Lass bei LOCAL_HOST "your-value" stehen und sag mir, dass ich den echten Wert selbst in die Datei oder das Feld der App einfüge. Bitte mich nie, einen Schlüssel in den Chat zu schreiben. 5) Führe das Vereinbarte aus und prüfe, dass die Tools von Ollama / vLLM Bridge wirklich erscheinen.

Diese Nachricht enthält keinen Schlüssel. Wird einer gebraucht, bittet dich die KI, ihn selbst in die Datei oder das Feld der App einzufügen.

  1. uv installieren (falls noch nicht vorhanden)

    Schon installiert? Zuerst prüfen · Öffne das Terminal, gib diesen Befehl ein und drücke Enter

    uv --version
    • Eine Versionsnummer wie uv … = installiert, diesen Schritt überspringen
    • "command not found" (unter Windows "is not recognized") = noch nicht installiert, oder gerade installiert und das Terminal muss neu geöffnet werden
    So öffnest du das Terminal

    Mac: ⌘ + Leertaste drücken, Terminal eingeben, Enter

    Windows: Start öffnen, Windows PowerShell eingeben, dann Öffnen

    Noch nicht installiert: uv hat keinen Klick-Installer. Kopiere den Einzeiler für dein System (macOS oder Windows) von der offiziellen uv-Seite ins Terminal · Python muss nicht extra installiert werden, uv lädt es bei Bedarf selbst

    Download-Seite von uv öffnen ↗

    Danach das Terminal schließen, neu öffnen und denselben Befehl erneut ausführen. Es muss eine Versionsnummer erscheinen: uv --version

    Einmal installieren, gilt für alles, was uv braucht

  2. 1 Einstellung(en) ausfüllen

    Das sind Programmeinstellungen, keine Schlüssel. Keine Registrierung nötig; wie vom Autor beschrieben ausfüllen.

    • LOCAL_HOST Modell-Endpunkt-URL; muss lokal oder in deinem eigenen Netzwerk liegen. Erforderlich für das Backend openai.
      Englisches Original anzeigenModel endpoint URL; must be local or on your own network. Required for the openai backend

    Beschreibungen automatisch übersetzt; Variablennamen bleiben wie im Original. Im Zweifel das Original ansehen.

  3. Mit diesem Button Cursor öffnen

    In Cursor öffnen

    Cursor fragt nach einer Bestätigung; klicke Install

  4. Schlüssel eintragen

    In den Einstellungen von Ollama / vLLM Bridge ist LOCAL_HOST leer; trag deinen Schlüssel ein und speichere

  5. KI-Chat in Cursor im Agent-Modus öffnen

  6. Ausprobieren

    Nutze Ollama / vLLM Bridge und sag mir, was du für mich tun kannst; zeig mir dann eine Sache

    ✓ Wenn Cursor sagt, dass es Ollama / vLLM Bridge nutzt, oder ein Werkzeug von Ollama / vLLM Bridge in der Antwort zeigt, bist du verbunden

6 optionale Einstellung(en) (geht auch ohne)

Der Befehl oben funktioniert auch ohne diese Werte. Füge sie nur hinzu, wenn du etwas ändern willst, nach der Beschreibung des Autors.

  • LOCAL_BACKEND Backend to use: ollama, vllm or openai · Standard ollama
  • LOCAL_API_KEY Optionales Bearer-Token, nur für das openai-Backend; wird als Header gesendet und nie protokolliert.
    Englisches Original anzeigenOptional bearer token, openai backend only; sent as a header, never logged
  • LOCAL_TIMEOUT Lese-Timeout in Sekunden
    Englisches Original anzeigenRead timeout in seconds
    · Standard 600
  • LOCAL_EMBED_MODEL Standard-Embedding-Modell
    Englisches Original anzeigenDefault embedding model
    · Standard nomic-embed-text
  • LOCAL_EMBED_PATH Optional, nur für das openai-Backend: Pfad des Embedding-Endpunkts
    Englisches Original anzeigenOptional, openai backend only: embedding endpoint path
    · Standard /v1/embeddings
  • LOCAL_SCHEMA_MODE Optional, nur für das Backend openai: auto, response_format oder none
    Englisches Original anzeigenOptional, openai backend only: auto, response_format or none
    · Standard auto

Beschreibungen automatisch übersetzt; Variablennamen bleiben wie im Original. Im Zweifel das Original ansehen.

Menünamen am 11. Nov. 2026 mit der Hilfe von Cursor abgeglichen · dein Bildschirm kann je nach App-Version leicht abweichen

Klappt mit VS Code, aber erst etwas vorbereiten

1 Einstellung(en) auszufüllen (LOCAL_HOST) · Installiere zuerst Python (uv) auf deinem Computer (nur einmal)

Von der KI installieren lassen

Kopiere diese Nachricht in einen VS Code-Chat. Die KI prüft deinen Rechner, sagt dir, welche Datei sie ändert, und wartet jedes Mal auf dein OK.

Installiere bitte den MCP server Ollama / vLLM Bridge für VS Code auf diesem Rechner, in dieser Reihenfolge: 1) Prüfe uv mit uv --version. Fehlt es, sag mir, dass ich es von https://docs.astral.sh/uv/getting-started/installation/ installiere; installiere es nicht selbst. 2) Verwende nur diese Konfiguration (von PopNx MCP geprüft): { "servers": { "ollama-vllm": { "type": "stdio", "command": "uvx", "args": [ "mcp-ollama-vllm" ], "env": { "LOCAL_HOST": "your-value" } } } } 3) Nenne mir den vollständigen Pfad der Datei, die du änderst, oder den Befehl, den du ausführst, und warte auf mein OK. 4) Lass bei LOCAL_HOST "your-value" stehen und sag mir, dass ich den echten Wert selbst in die Datei oder das Feld der App einfüge. Bitte mich nie, einen Schlüssel in den Chat zu schreiben. 5) Führe das Vereinbarte aus und prüfe, dass die Tools von Ollama / vLLM Bridge wirklich erscheinen.

Diese Nachricht enthält keinen Schlüssel. Wird einer gebraucht, bittet dich die KI, ihn selbst in die Datei oder das Feld der App einzufügen.

  1. uv installieren (falls noch nicht vorhanden)

    Schon installiert? Zuerst prüfen · Öffne das Terminal, gib diesen Befehl ein und drücke Enter

    uv --version
    • Eine Versionsnummer wie uv … = installiert, diesen Schritt überspringen
    • "command not found" (unter Windows "is not recognized") = noch nicht installiert, oder gerade installiert und das Terminal muss neu geöffnet werden
    So öffnest du das Terminal

    Mac: ⌘ + Leertaste drücken, Terminal eingeben, Enter

    Windows: Start öffnen, Windows PowerShell eingeben, dann Öffnen

    Noch nicht installiert: uv hat keinen Klick-Installer. Kopiere den Einzeiler für dein System (macOS oder Windows) von der offiziellen uv-Seite ins Terminal · Python muss nicht extra installiert werden, uv lädt es bei Bedarf selbst

    Download-Seite von uv öffnen ↗

    Danach das Terminal schließen, neu öffnen und denselben Befehl erneut ausführen. Es muss eine Versionsnummer erscheinen: uv --version

    Einmal installieren, gilt für alles, was uv braucht

  2. 1 Einstellung(en) ausfüllen

    Das sind Programmeinstellungen, keine Schlüssel. Keine Registrierung nötig; wie vom Autor beschrieben ausfüllen.

    • LOCAL_HOST Modell-Endpunkt-URL; muss lokal oder in deinem eigenen Netzwerk liegen. Erforderlich für das Backend openai.
      Englisches Original anzeigenModel endpoint URL; must be local or on your own network. Required for the openai backend

    Beschreibungen automatisch übersetzt; Variablennamen bleiben wie im Original. Im Zweifel das Original ansehen.

  3. Mit diesem Button VS Code öffnen

    In VS Code öffnen

    VS Code fragt nach einer Bestätigung; klicke Install

  4. Schlüssel eintragen

    In den Einstellungen von Ollama / vLLM Bridge ist LOCAL_HOST leer; trag deinen Schlüssel ein und speichere

  5. KI-Chat in VS Code im Agent-Modus öffnen

  6. Ausprobieren

    Nutze Ollama / vLLM Bridge und sag mir, was du für mich tun kannst; zeig mir dann eine Sache

    ✓ Wenn VS Code sagt, dass es Ollama / vLLM Bridge nutzt, oder ein Werkzeug von Ollama / vLLM Bridge in der Antwort zeigt, bist du verbunden

6 optionale Einstellung(en) (geht auch ohne)

Der Befehl oben funktioniert auch ohne diese Werte. Füge sie nur hinzu, wenn du etwas ändern willst, nach der Beschreibung des Autors.

  • LOCAL_BACKEND Backend to use: ollama, vllm or openai · Standard ollama
  • LOCAL_API_KEY Optionales Bearer-Token, nur für das openai-Backend; wird als Header gesendet und nie protokolliert.
    Englisches Original anzeigenOptional bearer token, openai backend only; sent as a header, never logged
  • LOCAL_TIMEOUT Lese-Timeout in Sekunden
    Englisches Original anzeigenRead timeout in seconds
    · Standard 600
  • LOCAL_EMBED_MODEL Standard-Embedding-Modell
    Englisches Original anzeigenDefault embedding model
    · Standard nomic-embed-text
  • LOCAL_EMBED_PATH Optional, nur für das openai-Backend: Pfad des Embedding-Endpunkts
    Englisches Original anzeigenOptional, openai backend only: embedding endpoint path
    · Standard /v1/embeddings
  • LOCAL_SCHEMA_MODE Optional, nur für das Backend openai: auto, response_format oder none
    Englisches Original anzeigenOptional, openai backend only: auto, response_format or none
    · Standard auto

Beschreibungen automatisch übersetzt; Variablennamen bleiben wie im Original. Im Zweifel das Original ansehen.

Menünamen am 11. Nov. 2026 mit der Hilfe von VS Code abgeglichen · dein Bildschirm kann je nach App-Version leicht abweichen

Andere Apps mit MCP, etwa Windsurf, Zed oder Gemini CLI, fügen Server unterschiedlich hinzu. Sieh in der App-Liste nach

Alle Apps mit MCP ansehen →

JSON-Einstellungen stehen unten unter „Für Entwickler“

Hängst du fest? Frag Leute, die Ollama / vLLM Bridge nutzen💬 Diskussion →
Für Entwickler: Terminal-Befehle und JSON-Einstellungen

Auf deinem Computer installiert

Claude Code

claude mcp add --scope user ollama-vllm --env LOCAL_HOST=your-value -- uvx mcp-ollama-vllm

Claude Desktop (claude_desktop_config.json)

{
  "mcpServers": {
    "ollama-vllm": {
      "command": "uvx",
      "args": [
        "mcp-ollama-vllm"
      ],
      "env": {
        "LOCAL_HOST": "your-value"
      }
    }
  }
}

Cursor (~/.cursor/mcp.json)

{
  "mcpServers": {
    "ollama-vllm": {
      "command": "uvx",
      "args": [
        "mcp-ollama-vllm"
      ],
      "env": {
        "LOCAL_HOST": "your-value"
      }
    }
  }
}

VS Code (mcp.json)

{
  "servers": {
    "ollama-vllm": {
      "type": "stdio",
      "command": "uvx",
      "args": [
        "mcp-ollama-vllm"
      ],
      "env": {
        "LOCAL_HOST": "your-value"
      }
    }
  }
}

Werte, die du selbst einträgst

  • LOCAL_BACKEND env
    Backend to use: ollama, vllm or openai
  • LOCAL_HOST erforderlich env
    Modell-Endpunkt-URL; muss lokal oder in deinem eigenen Netzwerk liegen. Erforderlich für das Backend openai.
    Englisches Original anzeigenModel endpoint URL; must be local or on your own network. Required for the openai backend
  • LOCAL_API_KEY geheim env
    Optionales Bearer-Token, nur für das openai-Backend; wird als Header gesendet und nie protokolliert.
    Englisches Original anzeigenOptional bearer token, openai backend only; sent as a header, never logged
  • LOCAL_TIMEOUT env
    Lese-Timeout in Sekunden
    Englisches Original anzeigenRead timeout in seconds
  • LOCAL_EMBED_MODEL env
    Standard-Embedding-Modell
    Englisches Original anzeigenDefault embedding model
  • LOCAL_EMBED_PATH env
    Optional, nur für das openai-Backend: Pfad des Embedding-Endpunkts
    Englisches Original anzeigenOptional, openai backend only: embedding endpoint path
  • LOCAL_SCHEMA_MODE env
    Optional, nur für das Backend openai: auto, response_format oder none
    Englisches Original anzeigenOptional, openai backend only: auto, response_format or none

Beschreibungen automatisch übersetzt; Variablennamen bleiben wie im Original. Im Zweifel das Original ansehen.

Diese Einstellungen werden aus dem Registry-Eintrag des Entwicklers erzeugt. Wenn in der README etwas anderes steht, folge der README.

Auf einen Blick

Downloads pro Wochei
61/Wo.
Verbindung
Läuft auf deinem Computer
Neueste Versioni
1.0.6
In der Registry veröffentlichti
22. Okt. 2026
Code zuletzt geänderti
22. Okt. 2026
Entwickler
setheerwagen
Pakete
pypi: mcp-ollama-vllm
Registry-Status
Aktiv

Welche Apps ihn nutzen können

Basierend darauf, wie sich dieser Server verbindet, und auf der eigenen Doku jeder App, geprüft am 10. Nov. 2026.

Laufen auf deinem Computer in

ClaudeGooseLM StudioMsty StudioCherry StudioCursorVS Code + GitHub CopilotVisual StudioWindsurf (Devin Desktop)ZedKiroClineContinueJetBrains AI AssistantClaude CodeCodex CLIGemini CLIOpenCodenodecodeWarpLibreChatRaycast

Alle Apps, mit Vor- und Nachteilen →

Was er kann

Läuft auf deinem Computer; die Tool-Liste erscheint nach der Installation in deiner KI-App.

Basischecksi

Wir prüfen Informationen, die jeder sehen kann; den Code haben wir nicht gelesen. Checks, die nicht zutreffen, werden nicht mitgezählt. · Geprüft am 19. Nov. 2026

  • ✓ Bestanden

    Entwickler passt zum Repo

    Der Registry-Name wurde mit dem GitHub-Konto setheerwagen bestätigt, dem das Repo gehört

  • ✓ Bestanden

    Wird noch gepflegt

    Code zuletzt geändert: vor 28 Tagen

  • ✓ Bestanden

    Hat eine Lizenz

    Nutzt MIT

  • – Nicht zutreffend

    Endpunkt antwortet

    Dieser Server läuft auf deinem Computer; es gibt keinen Endpunkt im Internet

  • – Nicht zutreffend

    Anmeldung mit OAuth

    Läuft auf deinem Computer und nutzt stattdessen lokale Einstellungen

  • … Noch nicht geprüft

    Keine versteckten Anweisungen in Tool-Beschreibungen

    Läuft auf deinem Computer; Tool-Listen können wir nur von Endpunkten im Internet lesen

Veröffentlichte Schwachstellen (OSV.dev)

Keine Einträge auf OSV.dev für mcp-ollama-vllm@1.0.6

Prüft nur diese Paketversion, nicht alle Abhängigkeiten · geprüft 16. Nov. 2026

Was wir prüfen → · JSON

Entwickler: neue Prüfung anfordern oder falsche Angaben melden
Für Anbieter: Badge ins README

Wenn du das gebaut hast, füge diesen Code in dein README ein. Das Badge verlinkt auf diese Seite.

[![Featured on PopNx MCP](https://mcp.popnx.com/badge/setheerwagen-mcp-ollama-vllm.svg)](https://mcp.popnx.com/en/servers/setheerwagen-mcp-ollama-vllm)

Diskussion

Fragen, Tipps teilen oder melden, dass etwas nicht geht. Sortiert nach „hilfreich“.

Noch keine Beiträge. Stell die erste Frage oder teile einen Tipp.

Beiträge hier stammen von Nutzern, nicht vom PopNx-Team.

Anmelden, um zu posten

Nutzerbewertungen

Noch keine Bewertungen

Anmelden, um eine Bewertung zu schreiben

Im Vergleich mit anderen in Entwicklertoolsi

  • Mehr Sterne als 0 % der anderen 6116 Server in dieser Kategorie
  • Neuer in der Registry veröffentlicht als 53 % der anderen 6116 Server in dieser Kategorie
  • Basischecks gleich gut wie oder besser als bei 99 % der anderen 6116 Server in dieser Kategorie

Verglichen mit allen aktiven Servern dieser Kategorie in der Registry. Sterne zählen nur, wenn dem Herausgeber das Repo gehört.

Häufige Fragen

Ist Ollama / vLLM Bridge sicher?

Er hat 3 von 3 zutreffenden Basischecks bestanden. Den Code haben wir nicht gelesen. Bevor du einen Schlüssel oder Token hinzufügst, sieh nach, welche Zugriffe der Server verlangt, und nutze einen Schlüssel, der nur die Berechtigungen hat, die du brauchst.

Welche Schlüssel oder Codes braucht er?

Die Registry nennt keinen erforderlichen Schlüssel, manche Server bitten dich aber bei der ersten Nutzung, dich anzumelden.

Läuft er auf meinem Computer oder in der Cloud?

Er läuft auf deinem Computer. Deine KI-App startet ihn bei Bedarf, und die Daten laufen nicht über die Server des Entwicklers (außer der Server ruft selbst einen Onlinedienst auf).

Wird er noch gepflegt?

Das GitHub-Repo wurde zuletzt vor 28 Tagen geändert, und die neueste Version (1.0.6) kam vor 28 Tagen in die Registry.

Welche Apps können ihn nutzen?

Apps, die MCP unterstützen, etwa Claude Desktop, Claude Code, Cursor und VS Code. Außerdem brauchst du Python (uv) auf deinem Computer.

Was kann ich stattdessen nutzen?

In derselben Kategorie: GitDiagram, Appllama, Cloudflare MCP, Omnara, Repowise

Ähnliche Alternativen

Gleiche Kategorie, andere Entwickler, Befehle bereits geprüft. Offizielle zuerst, dann nach Sternen.

So liest du eine Karte:↓ Downloads pro Wochei★ GitHub-SterneiDrei Säulen: Bewertungen · Checks · NutzungiAktualisiert = neueste Version in der Registry veröffentlichti

GitDiagram

Architecture diagrams, explanations and Mermaid source for public GitHub repositories.

von ahmedkhaleel2004Weit verbreitet★ 18.989Aktualisiert vor 2 Monaten

Läuft in der Cloud✓ vom Dienst · gitdiagram.comVom PopNx-Team ausprobiert

Appllama

Study screens, flows and paywalls from top-earning iOS apps, then build from what wins.

von AppllamaWeit verbreitet★ 5230Aktualisiert vor 3 Monaten

Läuft in der Cloud✓ vom Dienst · appllama.io

Cloudflare MCP

Cloudflare MCP servers

von cloudflareWeit verbreitet★ 4474Aktualisiert vor 14 Monaten

Läuft in der Cloud✓ vom Dienst · mcp.cloudflare.comVom PopNx-Team ausprobiert

Omnara

Deploy durable AI agents with Omnara, an open-source managed-agent platform.

von omnara-aiWeit verbreitet★ 3417Aktualisiert vor 2 Monaten

Läuft in der Cloud✓ vom Dienst · omnara.com

Repowise

Codebase intelligence for AI coding agents: graph, git history, docs, decisions, code health.

von repowise-devWeit verbreitet↓ 6506/Wo.★ 8180 Sterne des ganzen ReposAktualisiert vor 6 Tagen

Computer oder Cloud✓ vom Dienst · repowise.dev
Im Vergleich mit ähnlichen
Dieser
Ollama / vLLM Bridge
GitDiagramAppllamaCloudflare MCPOmnaraRepowise
Läuft woWird auf deinem Rechner installiertLäuft in der Cloud, keine InstallationLäuft in der Cloud, keine InstallationLäuft in der Cloud, keine InstallationLäuft in der Cloud, keine InstallationIn der Cloud oder auf deinem Rechner
Braucht SchlüsselNeinNeinNeinNeinNeinNein
Mit + in Claude hinzufügenNeinNeinNeinJaNeinNein
Basisprüfungen3/34/44/44/44/45/5
LizenzMITMITMITApache-2.0Apache-2.0AGPL-3.0
PreisKeine Kosten im RegisterKeine Kosten im RegisterKeine Kosten im RegisterKeine Kosten im RegisterKeine Kosten im RegisterKeine Kosten im Register

README vom Entwickler

README öffnen

Unverändert aus dem Repo des Entwicklers übernommen. PopNx MCP hat den Inhalt weder geprüft noch empfiehlt es ihn. HTML, Bilder und Skripte wurden entfernt. Links führen von dieser Website weg.

mcp-ollama-vllm

An MCP server that lets an MCP client such as Claude Code talk to local language models directly. The backend is wired up at startup: Ollama, vLLM, or a generic OpenAI-compatible endpoint (set once via LOCAL_BACKEND, see below). The third, openai, is not a plugin loader for arbitrary tools; it is one more fixed backend implementation, covering servers such as LM Studio, the llama.cpp server, LocalAI, TGI, koboldcpp, SGLang or Jan, which all expose the same OpenAI-compatible /v1 endpoints as vLLM but are not vLLM itself.

Why this one

The one thing this server does that a plain Ollama/vLLM call does not: schema-validated JSON output, checked with its own dependency-free validator and automatically retried on a violation (up to 3 attempts total, feeding the concrete violations back to the model), the same way, with the same tool call, regardless of which of the two backends is configured. Both Ollama's format and vLLM's response_format steer the model toward JSON, but neither guarantees that the result actually matches your schema; this server checks that independently instead of trusting the backend's word for it.

Before / after (illustrative, not a real run):

// Backend's own schema enforcement alone (Ollama "format" / vLLM "response_format"):

// looks like valid JSON, but a required field went missing under load and nobody // checked it against the schema before handing it onward. {"amount": 42.10, "currency": "EUR"}

// local_structured: the same case, but validated against the schema and // automatically retried with the concrete violation fed back to the model. {"amount": 42.10, "currency": "EUR", "total": 42.10} // -> attempts: 2, valid_on_first_try: false, outcome already re-validated

Known limits, stated on purpose:

  • With vLLM the model listing reports less metadata than Ollama: no size or quantization, those fields read unknown/0 instead of a made-up value.
  • With the generic `openai` backend the model listing usually reports even less: most such servers answer /v1/models with only id (and owned_by), so parameter_size/quantization read unknown, sizes read 0, there is no adapter signal, and max_context is only included when the endpoint genuinely reports it. The top-level metadata_reported field (see list_models below) makes this "not reported" honestly visible.
  • The think parameter (reasoning trace) has no effect on vLLM or `openai`; it is only wired up for Ollama. See "The think parameter" below.

Operating systems: CI runs the self-tests on Linux, and the mock-backed setup self-test selftest_vllm.py on Windows too; the server is pure Python with no OS-specific calls, and its live backend path was additionally exercised once on Windows on 2026-08-07. Needs a running backend service (Ollama or vLLM); the setup self-test selftest_vllm.py uses a mock and needs no real service. macOS is not separately tested.

Purpose

A large part of an AI agent's work is pure language processing: writing, summarizing, classifying, extracting structured data from text. These parts can be offloaded to a local model, while searching, reading, writing and the orchestration stay with the calling client.

This is explicitly about a model call, not an agent. The local model receives text and returns text. It has no tools, no file access, and it does not work in multiple steps.

Security properties

These limits are part of the design, not just the docs:

  • No file access. The server exposes no tool that reads or writes files. It reads only its own configuration from environment variables.
  • No shell execution. There is no path to subprocess, os.system or anything comparable.
  • Local machine or local network only. The server process itself makes no outbound calls other than to its configured backend endpoint, and that endpoint's address is checked both at startup and again on every call; if it points to the internet, the server refuses to start (or the call is rejected). Names are resolved for this, and all addresses behind them must be local, otherwise the guard could be bypassed via DNS; the resolved address is then pinned for the actual connection so a later re-resolution to a public address cannot slip past the check. Loopback and private networks (RFC 1918) are allowed, so a vLLM box on the local network is reachable; public addresses are rejected.
  • Two direct dependencies: mcp and httpx. mcp in turn pulls in several further packages transitively (among others anyio, pydantic, starlette, uvicorn, jsonschema, pyjwt). The full resolved tree is pinned in uv.lock; CI checks with uv lock --check that the lock still matches pyproject.toml, then installs the exact locked tree for the tests, so a drifted lock fails CI. A separate, advisory pip-audit job checks the locked tree for known vulnerabilities on every push to main and pull request and again weekly; it does not block a pull request.

These properties bound what this server does; they are not a claim about the AI tool that drives it. The model you call runs locally, but the Claude/ChatGPT session that decides to call it is a separate hosted service and sees the calls it makes, like any MCP call. Drive the server with a local model if that matters.

See SECURITY.md for the trust boundaries this covers (the model as an oracle rather than an agent, prompt injection via model output, DNS rebinding pinning) and what it does not.

Installation

Replace /path/to/mcp-ollama-vllm below with the directory you extracted/cloned this project into.

Python 3.10 or newer is required. There are two equivalent ways to set up a virtual environment; use whichever tool you have.

With the standard venv module and pip:

cd /path/to/mcp-ollama-vllm

python3 -m venv .venv .venv/bin/pip install -r requirements.txt

If python3 -m venv fails (on some distributions the python3-venv package is missing), either install that package or take the route with uv:

cd /path/to/mcp-ollama-vllm

uv venv .venv --seed .venv/bin/pip install -r requirements.txt

(--seed makes sure pip lands in the environment. Alternatively, without --seed, install with uv pip install --python .venv/bin/python -r requirements.txt.)

The modules live under src/mcp_ollama_vllm/ (a src layout, so the package name does not collide with other MCP servers' top-level modules). Either of the above gives you a checkout that runs via PYTHONPATH=src (see "Entry for the MCP configuration" below), or install the package itself with .venv/bin/pip install ., which additionally provides the mcp-ollama-vllm console script and needs no PYTHONPATH.

A reachable Ollama or vLLM backend is a prerequisite for running:

  • Ollama: install locally (see https://ollama.com), start it with ollama serve and pull at least one model (e.g. ollama pull llama3.2:3b); check with ollama list. For local_embed additionally pull an embedding model, e.g. ollama pull nomic-embed-text.
  • vLLM: an OpenAI-compatible vLLM endpoint on this machine or one on your local network. The backend is switched only through the environment variables described below; the server itself does not change.

Entry for the MCP configuration

In ~/.claude.json, or the mcpServers section of your Claude Code config:

{

"mcpServers": { "local-models": { "command": "/path/to/mcp-ollama-vllm/.venv/bin/python", "args": ["-m", "mcp_ollama_vllm.server"], "env": { "PYTHONPATH": "/path/to/mcp-ollama-vllm/src", "LOCAL_BACKEND": "ollama", "LOCAL_HOST": "http://localhost:11434", "LOCAL_TIMEOUT": "600" } } } }

Replace /path/to/mcp-ollama-vllm with the absolute path you extracted this project into. Alternatively via CLI:

claude mcp add local-models --env PYTHONPATH=/path/to/mcp-ollama-vllm/src -- \

/path/to/mcp-ollama-vllm/.venv/bin/python -m mcp_ollama_vllm.server

By default, claude mcp add binds the server to the current working directory; for global visibility across all directories, append --scope user.

Alternatively, after .venv/bin/pip install . (see "Installation" above), the PYTHONPATH entry is not needed and args can be ["-m", "mcp_ollama_vllm.server"] as is, or the installed console script can be used directly as command: /path/to/mcp-ollama-vllm/.venv/bin/mcp-ollama-vllm with no args.

First call

Restart your MCP client so it picks up the new server, then call list_models with no arguments. A response with your models proves the server starts, finds the backend and talks to it correctly, all in one step.

Environment variables
VariableDefaultMeaning
LOCAL_BACKENDollamaBackend: ollama, vllm or openai
LOCAL_HOSTper backendEndpoint; must be local or on your own network
LOCAL_TIMEOUT600Read timeout in seconds
LOCAL_EMBED_MODELnomic-embed-text (Ollama)Default embedding model
LOCAL_API_KEY-Optional; openai only. Sent as a Bearer header, never logged
LOCAL_EMBED_PATH/v1/embeddingsOptional; openai only. Embedding endpoint path
LOCAL_SCHEMA_MODEautoOptional; openai only. auto, response_format or none (see local_structured below)

The default for LOCAL_HOST is http://localhost:11434 for Ollama and http://localhost:8000 for vLLM. For openai there is no default: the generic backend has no sensible port to guess, so LOCAL_HOST is required and the server refuses to start without it.

The old names OLLAMA_HOST, OLLAMA_TIMEOUT and OLLAMA_EMBED_MODEL are still read so existing configurations do not break. If both are set, the LOCAL_ name wins.

Switching to a remote vLLM endpoint

The vLLM box on the local network is addressed through only two variables; the server itself does not change:

{

"mcpServers": { "local-models": { "command": "/path/to/mcp-ollama-vllm/.venv/bin/python", "args": ["-m", "mcp_ollama_vllm.server"], "env": { "PYTHONPATH": "/path/to/mcp-ollama-vllm/src", "LOCAL_BACKEND": "vllm", "LOCAL_HOST": "http://192.168.x.x:8000", "LOCAL_TIMEOUT": "600", "LOCAL_EMBED_MODEL": "BAAI/bge-m3" } } } }

Both backends can also be registered in parallel, under different names (e.g. local-models and local-models-server), so both are available in the same session.

Registering the same server multiple times

There is nothing wrong with registering the same server under several names at once, each with its own LOCAL_BACKEND/LOCAL_HOST. That way different backends can be addressed in the same session, for example:

  • one entry for a local Ollama (http://localhost:11434),
  • another for a vLLM on a different machine on your network,
  • a third for an Ollama on that same remote machine.

All three are then instances of one and the same server, just configured differently. Give them descriptive names and check before use which entry hits the intended machine and backend, rather than relying on the name alone.

The openai backend works the same way, no new routing mechanism: two generic-server entries on different ports, for example LM Studio on http://localhost:1234 and a llama.cpp server on http://localhost:8080:

{

"mcpServers": { "local-models-lmstudio": { "command": "/path/to/mcp-ollama-vllm/.venv/bin/python", "args": ["-m", "mcp_ollama_vllm.server"], "env": { "PYTHONPATH": "/path/to/mcp-ollama-vllm/src", "LOCAL_BACKEND": "openai", "LOCAL_HOST": "http://localhost:1234" } }, "local-models-llam

Nur der Anfang wird gezeigt; den Rest findest du im Repo