Prototyp · Vorschau: alle Server aus der offiziellen Registry, alle 30 Minuten synchronisiert. Mit Google anmelden, um Bewertungen zu schreiben.
PopNx MCPMCP-Server für alle, die KI nutzen · in einfachen Worten erklärt

Sezzlee Local LLM

von sezzleeVersion 0.1.3i★ 1 (Sterne des ganzen Repos)iLäuft auf deinem Computer
Name in der Registryio.github.sezzlee/llm

So installierst du es

Überblick

Beschreibung vom Entwickler (englisches Original)

Let a planning agent hand bounded language work to a local Ollama model.

Was du damit machen kannst

Für diesen Server haben wir noch keine Zusammenfassung in einfacher Sprache geschrieben. Unten stehen die Fakten, die wir aus der Registry gelesen haben.

  • Verbindung: Läuft auf deinem Computer
  • Transport: stdio
  • Kategorie: Suche & KI-Gedächtnis
  • Das musst du eintragen: SEZZLEE_LLM_MODEL

Installation

Wähle die KI-App, die du nutzt, und kopiere die Einstellungen.

2/2 Prüfungen bestanden · Läuft auf deinem Computer

Zuerst: Welche KI nutzt du?

Wähle deine App, dann erscheinen die Schritte unten.

Klappt mit Claude, aber erst etwas vorbereiten

Du brauchst einen Schlüssel von Sezzlee Local LLM (auf der Seite des Anbieters registrieren, kann kosten) · Installiere zuerst Node.js auf deinem Computer (nur einmal) · Nur in der Claude-App für den Computer (Windows oder Mac), nicht im Web oder auf dem Handy

  1. Node.js installieren

    Nur einmal; gilt für alle Server, die Node.js brauchen

    Download-Seite von Node.js öffnen ↗

  2. Bei Sezzlee Local LLM registrieren und Schlüssel erstellen

    Öffne die Seite des Anbieters, registriere dich und erstelle einen API-Schlüssel für den nächsten Schritt. Kann Geld kosten.

    Seite von Sezzlee Local LLM öffnen ↗

  3. Einstellungsdatei der Claude-Desktop-App öffnen

    SettingsDeveloperEdit Config

  4. Diese Einstellungen einfügen und speichern

    {
      "mcpServers": {
        "llm": {
          "command": "npx",
          "args": [
            "-y",
            "@sezzlee/llm-mcp"
          ],
          "env": {
            "SEZZLEE_LLM_MODEL": "your-value",
            "SEZZLEE_LLM_BASE_URL": "your-value",
            "SEZZLEE_LLM_NUM_CTX": "your-value",
            "SEZZLEE_LLM_TIMEOUT_MS": "your-value",
            "SEZZLEE_LLM_KEEP_ALIVE": "your-value",
            "SEZZLEE_LLM_ROOT": "your-value",
            "SEZZLEE_LLM_OUTPUT_DIR": "your-value"
          }
        }
      }
    }

    Füge den Schlüssel nur in das Feld der App ein, nie in einen Chat und schick ihn niemandem

  5. Claude beenden und neu öffnen

  6. Ausprobieren

    Nutze Sezzlee Local LLM und sag mir, was du für mich tun kannst; zeig mir dann eine Sache

    ✓ Wenn Claude sagt, dass es Sezzlee Local LLM nutzt, oder ein Werkzeug von Sezzlee Local LLM in der Antwort zeigt, bist du verbunden

Menünamen am 11. Nov. 2026 mit der Hilfe von Anthropic abgeglichen · dein Bildschirm kann je nach App-Version leicht abweichen

ChatGPT kann Sezzlee Local LLM noch nicht verbinden

Sezzlee Local LLM läuft auf deinem Computer, aber ChatGPT verbindet nur Server, die im Web laufen

Das kannst du stattdessen tun

A · Eine App nutzen, die Sezzlee Local LLM verbinden kann

  • Du brauchst einen Schlüssel von Sezzlee Local LLM (auf der Seite des Anbieters registrieren, kann kosten) · Installiere zuerst Node.js auf deinem Computer (nur einmal) · Nur in der Claude-App für den Computer (Windows oder Mac), nicht im Web oder auf dem Handy
  • Du brauchst einen Schlüssel von Sezzlee Local LLM (auf der Seite des Anbieters registrieren, kann kosten) · Installiere zuerst Node.js auf deinem Computer (nur einmal)
  • Du brauchst einen Schlüssel von Sezzlee Local LLM (auf der Seite des Anbieters registrieren, kann kosten) · Installiere zuerst Node.js auf deinem Computer (nur einmal)
  • Du brauchst einen Schlüssel von Sezzlee Local LLM (auf der Seite des Anbieters registrieren, kann kosten) · Installiere zuerst Node.js auf deinem Computer (nur einmal)

B · Andere in Suche & KI-Gedächtnis, die mit ChatGPT funktionieren

Aus den meistgenutzten derselben Kategorie, nur solche, die per Adresse ohne Schlüssel verbinden

Klappt mit Claude Code, aber erst etwas vorbereiten

Du brauchst einen Schlüssel von Sezzlee Local LLM (auf der Seite des Anbieters registrieren, kann kosten) · Installiere zuerst Node.js auf deinem Computer (nur einmal)

  1. Node.js installieren

    Nur einmal; gilt für alle Server, die Node.js brauchen

    Download-Seite von Node.js öffnen ↗

  2. Bei Sezzlee Local LLM registrieren und Schlüssel erstellen

    Öffne die Seite des Anbieters, registriere dich und erstelle einen API-Schlüssel für den nächsten Schritt. Kann Geld kosten.

    Seite von Sezzlee Local LLM öffnen ↗

  3. Terminal öffnen

    Mac: Command+Leertaste drücken und Terminal tippen · Windows: PowerShell öffnen

  4. Diesen Befehl einfügen und Enter drücken

    claude mcp add llm --env SEZZLEE_LLM_MODEL=your-value --env SEZZLEE_LLM_BASE_URL=your-value --env SEZZLEE_LLM_NUM_CTX=your-value --env SEZZLEE_LLM_TIMEOUT_MS=your-value --env SEZZLEE_LLM_KEEP_ALIVE=your-value --env SEZZLEE_LLM_ROOT=your-value --env SEZZLEE_LLM_OUTPUT_DIR=your-value -- npx -y @sezzlee/llm-mcp

    Ersetze „your-value“ vor dem Enter durch deinen Schlüssel

    Füge den Schlüssel nur in das Feld der App ein, nie in einen Chat und schick ihn niemandem

  5. /mcp in Claude Code eingeben

    Sezzlee Local LLM sollte in der Liste als verbunden erscheinen

  6. Ausprobieren

    Nutze Sezzlee Local LLM und sag mir, was du für mich tun kannst; zeig mir dann eine Sache

    ✓ Wenn Claude Code sagt, dass es Sezzlee Local LLM nutzt, oder ein Werkzeug von Sezzlee Local LLM in der Antwort zeigt, bist du verbunden

Menünamen am 11. Nov. 2026 mit der Hilfe von Anthropic abgeglichen · dein Bildschirm kann je nach App-Version leicht abweichen

Klappt mit Cursor, aber erst etwas vorbereiten

Du brauchst einen Schlüssel von Sezzlee Local LLM (auf der Seite des Anbieters registrieren, kann kosten) · Installiere zuerst Node.js auf deinem Computer (nur einmal)

  1. Node.js installieren

    Nur einmal; gilt für alle Server, die Node.js brauchen

    Download-Seite von Node.js öffnen ↗

  2. Bei Sezzlee Local LLM registrieren und Schlüssel erstellen

    Öffne die Seite des Anbieters, registriere dich und erstelle einen API-Schlüssel für den nächsten Schritt. Kann Geld kosten.

    Seite von Sezzlee Local LLM öffnen ↗

  3. Mit diesem Button Cursor öffnen

    In Cursor öffnen

    Cursor fragt nach einer Bestätigung; klicke Install

  4. Schlüssel eintragen

    In den Einstellungen von Sezzlee Local LLM ist SEZZLEE_LLM_MODEL, SEZZLEE_LLM_BASE_URL, SEZZLEE_LLM_NUM_CTX, SEZZLEE_LLM_TIMEOUT_MS, SEZZLEE_LLM_KEEP_ALIVE, SEZZLEE_LLM_ROOT, SEZZLEE_LLM_OUTPUT_DIR leer; trag deinen Schlüssel ein und speichere

    Füge den Schlüssel nur in das Feld der App ein, nie in einen Chat und schick ihn niemandem

  5. KI-Chat in Cursor im Agent-Modus öffnen

  6. Ausprobieren

    Nutze Sezzlee Local LLM und sag mir, was du für mich tun kannst; zeig mir dann eine Sache

    ✓ Wenn Cursor sagt, dass es Sezzlee Local LLM nutzt, oder ein Werkzeug von Sezzlee Local LLM in der Antwort zeigt, bist du verbunden

Menünamen am 11. Nov. 2026 mit der Hilfe von Cursor abgeglichen · dein Bildschirm kann je nach App-Version leicht abweichen

Klappt mit VS Code, aber erst etwas vorbereiten

Du brauchst einen Schlüssel von Sezzlee Local LLM (auf der Seite des Anbieters registrieren, kann kosten) · Installiere zuerst Node.js auf deinem Computer (nur einmal)

  1. Node.js installieren

    Nur einmal; gilt für alle Server, die Node.js brauchen

    Download-Seite von Node.js öffnen ↗

  2. Bei Sezzlee Local LLM registrieren und Schlüssel erstellen

    Öffne die Seite des Anbieters, registriere dich und erstelle einen API-Schlüssel für den nächsten Schritt. Kann Geld kosten.

    Seite von Sezzlee Local LLM öffnen ↗

  3. Mit diesem Button VS Code öffnen

    In VS Code öffnen

    VS Code fragt nach einer Bestätigung; klicke Install

  4. Schlüssel eintragen

    In den Einstellungen von Sezzlee Local LLM ist SEZZLEE_LLM_MODEL, SEZZLEE_LLM_BASE_URL, SEZZLEE_LLM_NUM_CTX, SEZZLEE_LLM_TIMEOUT_MS, SEZZLEE_LLM_KEEP_ALIVE, SEZZLEE_LLM_ROOT, SEZZLEE_LLM_OUTPUT_DIR leer; trag deinen Schlüssel ein und speichere

    Füge den Schlüssel nur in das Feld der App ein, nie in einen Chat und schick ihn niemandem

  5. KI-Chat in VS Code im Agent-Modus öffnen

  6. Ausprobieren

    Nutze Sezzlee Local LLM und sag mir, was du für mich tun kannst; zeig mir dann eine Sache

    ✓ Wenn VS Code sagt, dass es Sezzlee Local LLM nutzt, oder ein Werkzeug von Sezzlee Local LLM in der Antwort zeigt, bist du verbunden

Menünamen am 11. Nov. 2026 mit der Hilfe von VS Code abgeglichen · dein Bildschirm kann je nach App-Version leicht abweichen

Andere Apps mit MCP, etwa Windsurf, Zed oder Gemini CLI, fügen Server unterschiedlich hinzu. Sieh in der App-Liste nach

Alle Apps mit MCP ansehen →

JSON-Einstellungen stehen unten unter „Für Entwickler“

Hängst du fest? Frag Leute, die Sezzlee Local LLM nutzen💬 Diskussion →
Für Entwickler: Terminal-Befehle und JSON-Einstellungen

Auf deinem Computer installiert

Claude Code

claude mcp add llm --env SEZZLEE_LLM_MODEL=your-value --env SEZZLEE_LLM_BASE_URL=your-value --env SEZZLEE_LLM_NUM_CTX=your-value --env SEZZLEE_LLM_TIMEOUT_MS=your-value --env SEZZLEE_LLM_KEEP_ALIVE=your-value --env SEZZLEE_LLM_ROOT=your-value --env SEZZLEE_LLM_OUTPUT_DIR=your-value -- npx -y @sezzlee/llm-mcp

Claude Desktop (claude_desktop_config.json)

{
  "mcpServers": {
    "llm": {
      "command": "npx",
      "args": [
        "-y",
        "@sezzlee/llm-mcp"
      ],
      "env": {
        "SEZZLEE_LLM_MODEL": "your-value",
        "SEZZLEE_LLM_BASE_URL": "your-value",
        "SEZZLEE_LLM_NUM_CTX": "your-value",
        "SEZZLEE_LLM_TIMEOUT_MS": "your-value",
        "SEZZLEE_LLM_KEEP_ALIVE": "your-value",
        "SEZZLEE_LLM_ROOT": "your-value",
        "SEZZLEE_LLM_OUTPUT_DIR": "your-value"
      }
    }
  }
}

Cursor (~/.cursor/mcp.json)

{
  "mcpServers": {
    "llm": {
      "command": "npx",
      "args": [
        "-y",
        "@sezzlee/llm-mcp"
      ],
      "env": {
        "SEZZLEE_LLM_MODEL": "your-value",
        "SEZZLEE_LLM_BASE_URL": "your-value",
        "SEZZLEE_LLM_NUM_CTX": "your-value",
        "SEZZLEE_LLM_TIMEOUT_MS": "your-value",
        "SEZZLEE_LLM_KEEP_ALIVE": "your-value",
        "SEZZLEE_LLM_ROOT": "your-value",
        "SEZZLEE_LLM_OUTPUT_DIR": "your-value"
      }
    }
  }
}

VS Code (mcp.json)

{
  "servers": {
    "llm": {
      "type": "stdio",
      "command": "npx",
      "args": [
        "-y",
        "@sezzlee/llm-mcp"
      ],
      "env": {
        "SEZZLEE_LLM_MODEL": "your-value",
        "SEZZLEE_LLM_BASE_URL": "your-value",
        "SEZZLEE_LLM_NUM_CTX": "your-value",
        "SEZZLEE_LLM_TIMEOUT_MS": "your-value",
        "SEZZLEE_LLM_KEEP_ALIVE": "your-value",
        "SEZZLEE_LLM_ROOT": "your-value",
        "SEZZLEE_LLM_OUTPUT_DIR": "your-value"
      }
    }
  }
}

Werte, die du selbst einträgst

  • SEZZLEE_LLM_MODEL erforderlich env
    Ollama model to call
  • SEZZLEE_LLM_BASE_URL env
    Ollama base URL
  • SEZZLEE_LLM_NUM_CTX env
    Context window in tokens
  • SEZZLEE_LLM_TIMEOUT_MS env
    Per-call timeout in milliseconds
  • SEZZLEE_LLM_KEEP_ALIVE env
    How long Ollama keeps the model loaded
  • SEZZLEE_LLM_ROOT env
    Workspace folder paths resolve against
  • SEZZLEE_LLM_OUTPUT_DIR env
    Folder local_map writes its CSV into

Diese Einstellungen werden aus dem Registry-Eintrag des Entwicklers erzeugt. Wenn in der README etwas anderes steht, folge der README.

Auf einen Blick

GitHub-Sternei
1 (Sterne des ganzen Repos)
Dieses Repo enthält mehrere MCP-Einträge; die Sterne zählen in Ranglisten nur einmal
Downloads pro Wochei
155/Wo.
Lizenzi
Keine Lizenz angegeben
Verbindung
Läuft auf deinem Computer
Neueste Versioni
0.1.3
In der Registry veröffentlichti
12. Okt. 2026
Code zuletzt geänderti
10. Nov. 2026
Entwickler
sezzlee
Pakete
npm: @sezzlee/llm-mcp
Registry-Status
Aktiv

Welche Apps ihn nutzen können

Basierend darauf, wie sich dieser Server verbindet, und auf der eigenen Doku jeder App, geprüft am 10. Nov. 2026.

Laufen auf deinem Computer in

ClaudeGooseLM StudioMsty StudioCherry StudioCursorVS Code + GitHub CopilotVisual StudioWindsurf (Devin Desktop)ZedKiroClineContinueJetBrains AI AssistantClaude CodeCodex CLIGemini CLIOpenCodenodecodeWarpLibreChatRaycast

Alle Apps, mit Vor- und Nachteilen →

Was er kann

Läuft auf deinem Computer; die Tool-Liste erscheint nach der Installation in deiner KI-App.

Basischecksi

Wir prüfen Informationen, die jeder sehen kann; den Code haben wir nicht gelesen. Checks, die nicht zutreffen, werden nicht mitgezählt. · Geprüft am 11. Nov. 2026

  • ✓ Bestanden

    Entwickler passt zum Repo

    Der Registry-Name wurde mit dem GitHub-Konto sezzlee bestätigt, dem das Repo gehört

  • ✓ Bestanden

    Wird noch gepflegt

    Code zuletzt geändert: gestern

  • … Noch nicht geprüft

    Hat eine Lizenz

    Dieses Repo haben wir noch nicht von GitHub gelesen

  • – Nicht zutreffend

    Endpunkt antwortet

    Dieser Server läuft auf deinem Computer; es gibt keinen Endpunkt im Internet

  • – Nicht zutreffend

    Anmeldung mit OAuth

    Läuft auf deinem Computer und nutzt stattdessen lokale Einstellungen

  • … Noch nicht geprüft

    Keine versteckten Anweisungen in Tool-Beschreibungen

    Läuft auf deinem Computer; Tool-Listen können wir nur von Endpunkten im Internet lesen

Diskussion

Fragen, Tipps teilen oder melden, dass etwas nicht geht. Sortiert nach „hilfreich“.

Noch keine Beiträge. Stell die erste Frage oder teile einen Tipp.

Beiträge hier stammen von Nutzern, nicht vom PopNx-Team.

Mit Google anmelden, um zu posten

Nutzerbewertungen

Noch keine Bewertungen

Mit Google anmelden, um zu bewerten

Im Vergleich mit anderen in Suche & KI-Gedächtnisi

  • Mehr Sterne als 0 % der anderen 5886 Server in dieser Kategorie
  • Neuer in der Registry veröffentlicht als 56 % der anderen 5886 Server in dieser Kategorie
  • Basischecks gleich gut wie oder besser als bei 100 % der anderen 5886 Server in dieser Kategorie

Verglichen mit allen aktiven Servern dieser Kategorie in der Registry. Sterne zählen nur, wenn dem Herausgeber das Repo gehört.

Häufige Fragen

Ist Sezzlee Local LLM sicher?

Er hat 2 von 2 zutreffenden Basischecks bestanden. Den Code haben wir nicht gelesen. Bevor du einen Schlüssel oder Token hinzufügst, sieh nach, welche Zugriffe der Server verlangt, und nutze einen Schlüssel, der nur die Berechtigungen hat, die du brauchst.

Welche Schlüssel oder Codes braucht er?

Das musst du eintragen: SEZZLEE_LLM_MODEL

Läuft er auf meinem Computer oder in der Cloud?

Er läuft auf deinem Computer. Deine KI-App startet ihn bei Bedarf, und die Daten laufen nicht über die Server des Entwicklers (außer der Server ruft selbst einen Onlinedienst auf).

Wird er noch gepflegt?

Das GitHub-Repo wurde zuletzt gestern geändert, und die neueste Version (0.1.3) kam vor 30 Tagen in die Registry.

Welche Apps können ihn nutzen?

Apps, die MCP unterstützen, etwa Claude Desktop, Claude Code, Cursor und VS Code. Außerdem brauchst du Node.js auf deinem Computer.

Was kann ich stattdessen nutzen?

In derselben Kategorie: Ruflo, Context7, Metabase

Alternativen

Server derselben Kategorie von anderen Entwicklern, sortiert nach Sternen.

So liest du eine Karte:↓ Downloads pro Wochei★ GitHub-SterneiDrei Säulen: Bewertungen · Checks · NutzungiAktualisiert = neueste Version in der Registry veröffentlichti

Ruflo

Agent teams, swarms, memory and hooks for Claude Code and Codex, served over MCP.

von ruvnetWeit verbreitet↓ 74.273/Wo.★ 81.393Aktualisiert heute

Läuft auf deinem Computer

Context7

Up-to-date docs for AI agents

von upstashWeit verbreitet↓ 1,2 Mio./Wo.★ 64.447Aktualisiert vorgestern

Computer oder Cloud

Metabase

Lets AI clients search, explore, query, and visualize data in a Metabase instance.

von metabaseWeit verbreitet★ 50.256Aktualisiert vor 6 Monaten

Läuft in der Cloud

README vom Entwickler

README öffnen

Unverändert aus dem Repo des Entwicklers übernommen. PopNx MCP hat den Inhalt weder geprüft noch empfiehlt es ihn. HTML, Bilder und Skripte wurden entfernt. Links führen von dieser Website weg.

@sezzlee/llm-mcp

MCP server that lets a planning agent (Codex, Claude Code, Cursor) hand off bounded language work to a local model. It builds on @sezzlee/mcp-core and names no other @sezzlee/* package.

Quick start

{

"mcpServers": { "local": { "command": "npx", "args": ["-y", "@sezzlee/llm-mcp"], "env": { "SEZZLEE_LLM_BASE_URL": "http://127.0.0.1:11434", "SEZZLEE_LLM_MODEL": "qwen3:8b" } } } }

In Codex, the same block goes under mcp_servers.local. If it runs with approval_policy = "never", default_tools_approval_mode = "auto" is also required, or Codex refuses the call.

Tools

Three tools. Two are read-only; local_map only adds new files to the server's own output directory.

ToolWhat it doesKey arguments
local_taskRuns one bounded language task on the local model: classify, extract, summarize, transform, or free. The server reads any file arguments itself — their contents never enter the calling agent's context. With jsonSchema the answer is JSON matching that schema (returned as result); otherwise it is text (returned as answer). summarize and extract split an oversized input into chunks and read all of it (up to 32 chunks, 1 MiB total); every other kind refuses an oversized input as input_too_large. Nothing is ever silently truncated.kind, instruction, text?, files? (up to 8, paths relative to the working directory), jsonSchema?
local_mapLabels every row of a CSV file with one of the given labels. The agent never sees the rows: it passes a path, and the server writes a new file (the original columns plus one label column) under the output directory, returning that file's path, the per-label counts, and up to 4 sample rows per label. Up to 2,000 rows.file, instruction, labels (2–50), labelColumn? (defaults to label)
local_statusReports whether the local model is reachable and loaded, its context window, one call's input budget, and how many calls are queued. Call it when unsure the local model is available before delegating to it.none

Configuration

SEZZLEE_LLM_MODEL=qwen3:8b

SEZZLEE_LLM_ROOT=. # default: the working directory SEZZLEE_LLM_OUTPUT_DIR=.llm-mcp/out # default; relative to root, must stay inside it SEZZLEE_LLM_BASE_URL=http://127.0.0.1:11434 # default SEZZLEE_LLM_NUM_CTX=16384 # default; at least 4096 SEZZLEE_LLM_KEEP_ALIVE=30m # default SEZZLEE_LLM_TIMEOUT_MS=300000 # default; one request

npx -y @sezzlee/llm-mcp

VariableDefaultMeaning
SEZZLEE_LLM_MODELnone — requiredThe Ollama model name. There is no built-in default; it must be set explicitly (see Model choice).
SEZZLEE_LLM_ROOTworking directoryWorkspace root. Every file argument a tool accepts is resolved against it.
SEZZLEE_LLM_OUTPUT_DIR.llm-mcp/outWhere local_map writes its output. Relative to the root, and must stay inside it.
SEZZLEE_LLM_BASE_URLhttp://127.0.0.1:11434Base URL of the Ollama host.
SEZZLEE_LLM_NUM_CTX16384Context window in tokens. Must be an integer of at least 4096.
SEZZLEE_LLM_KEEP_ALIVE30mValue forwarded to Ollama's keep_alive.
SEZZLEE_LLM_TIMEOUT_MS300000Timeout for a single request to the model.

Only the model name is required. Parsing is fatal, reaching the host is not: the server still starts and answers tools/list with the host down, and local_status reports reachable: false. The model is warmed up right after the server starts serving.

Set SEZZLEE_LLM_NUM_CTX to what the GPU actually delivers. Ollama does not refuse an oversized input — it silently drops the head — and the input budget is derived from this value.

Limits

LimitValueWhy
Input budget45% of the context windowOllama silently drops the head of an oversized prompt instead of refusing it, so the server refuses first.
Output budget40% of the context windowCaps a runaway completion; without an id-bearing schema the model was measured looping into 12,600 tokens of garbage.
Chars-per-token estimate~1.8Measured on Turkish text; English runs closer to 4 characters per token, so the estimate errs toward refusing rather than truncating.
local_task filesup to 8Per-call file argument cap.
local_task long input (summarize/extract)up to 32 chunks, 1 MiB totalOther kinds refuse an over-budget input outright as input_too_large.
Chunk merge roundsup to 3A merge that still does not fit after 3 rounds fails as input_too_large.
local_map rowsup to 2,000Labelling was measured at ~270 ms per row — about nine minutes for 2,000 rows, inside the 900 s tool timeout Codex allows.
local_map file sizeup to 8 MiBRefused up front rather than timed out halfway with nothing written.

Rules

  • Three lint-enforced layers, three root entrypoints. src splits into platform/ (the mcp-core and Node boundary), backend/ (the model host), and tools/ (the MCP surface). tools/ sees the host only through backend/port.ts; the concrete backend is wired in cli.ts.
  • Only `src/backend/ollama.ts` reaches the network, and only through the global fetch. That global and the node:http/net/tls family are lint-banned everywhere else.
  • `process.env` is read only in `cli.ts`, each variable accessed by name.
  • File paths are resolved against the workspace. The requested path and its realpath are checked separately, so a symlink pointing outside the workspace is refused too. readText accepts only a WorkspacePath-branded path that has passed both checks. In error envelopes, the workspace's absolute path appears as ..
  • The server counts tokens, not the model. An input over num_ctx × 0.45 never reaches the host; an input that could not fit under any circumstances is refused before it is even read. The answer is capped at num_ctx × 0.4.
  • Only `src/platform/workspace.ts` touches the filesystem, lint-enforced. The single writer is createOutput: it re-checks the output directory's realpath, the server itself picks the file name, lowers it to a safe alphabet and fixes the extension to .csv, and opens it wx — so it never overwrites an existing file or a symlink, and nothing is ever deleted (mcp-core).
  • `local_map` carries the row number to the model and back. An id-less format lost the row order. A skipped row is asked again once; if it is still missing, it is left unlabeled and counted — never guessed.
  • A chunked input is not truncated either. Chunks split on paragraph, then line, boundaries; each chunk yields notes, the notes are merged and the instruction applied one last time. If the merged notes still do not fit the budget, the merge round repeats (up to 3); if that still fails, the call is refused as input_too_large.
  • One request per host at a time. createSerialBackend queues requests: the GPU does not run them in parallel, while Codex fires calls concurrently. probe bypasses the queue.
  • A new backend kind is just another implementation of the `Backend` interface. The rest of the server does not change.

Design notes

The measurements below are what the rules above are built on.

Why an MCP server instead of pointing Codex at Ollama directly

Four ways of getting Codex to a local model were tried; only the MCP server worked.

ApproachResult

Nur der Anfang wird gezeigt; den Rest findest du im Repo