Prototyp · Vorschau: alle Server aus der offiziellen Registry, alle 30 Minuten synchronisiert. Mit Google anmelden, um Bewertungen zu schreiben.Prototyp · alle 30 Min. aktualisiert
PopNx MCPMCP-Server für alle, die KI nutzen · in einfachen Worten erklärt Anmelden

llm-sidecar

von awaistechnologistVersion 0.9.3i★ 1iLäuft auf deinem ComputerRepository ↗
Name in der Registryio.github.awaistechnologist/llm-sidecar

So installierst du es

Was es kann

Local MCP server: web search, cited answers, fact-checking and routed inference. No API key.

Originaltext des Herstellers

  • Verbindung Läuft auf deinem Computer
  • Konto oder Schlüssel Kein Schlüssel nötig
  • Kategorie Suche & KI-Gedächtnis

Zusammen nutzen mit

Skills, die der KI diese Art Arbeit beibringen; sie funktionieren zusammen mit diesem

timesfm

TimesFM (Time Series Foundation Model) is a pretrained time-series foundation model developed by Google Research for time-series forecasting.

von google-research★ 35.6421 Skills

Skill · Anleitung

Shadowbroker

Open-source intelligence for the global theater. Track everything from the corporate/private jets of the wealthy, and spy satellites, to seismic events in one unified interface. Hook an AI agent up to have it parse through data and find previously unseen correlations. The knowledge is available to…

von BigBodyCobain★ 11.6081 Skills

Skill · Anleitung

google-maps-scraper

scrape data from Google Maps. Extracts data such as the name, address, phone number, website URL, rating, reviews number, latitude and longitude, reviews,email and more for each place

von gosom★ 8.2561 Skills

Skill · Anleitung

Warum es hier steht

Listen sind nach einem Nutzungswert (von 100) aus diesen Teilen sortiert

Beliebtheit4/80GitHub-Sterne oder wöchentliche Downloads: der größere Wert zählt 60, der kleinere 20
Aktualität12/12Volle Punkte für Release oder Codeänderung in 30 Tagen
Antwortet noch0/8Der Cloud-Endpoint antwortete bei der letzten Prüfung
Nutzungswert16/100

Qualität: 3/3 Basisprüfungen bestanden (angezeigt, nicht zur Sortierung) · Schwung: Noch keine Daten (Nur im Tab Im Trend verwendet)

Installation

Wähle die KI-App, die du nutzt, und kopiere die Einstellungen.

Mit einem Satz von deiner KI installieren lassen

Installiere bitte llm-sidecar. Folge https://mcp.popnx.com/i/awaistechnologist-llm-sidecar.md, zeig mir die Befehle und warte auf mein OK, bevor du sie ausführst.

Füge ihn in eine KI ein, die auf deinem Rechner arbeitet (z. B. Claude Code oder Cursor). Sie liest unsere Schritte, zeigt dir die Befehle und wartet auf dein OK. Kein Schlüssel, keine Anmeldung. · Vollständigen Text ansehen

3/3 Prüfungen bestanden · Läuft auf deinem Computer · ✓ Befehle geprüft am 18. Nov. 2026

Zuerst: Welche KI nutzt du?

Wähle deine App, dann erscheinen die Schritte unten.

Klappt mit Claude, aber erst etwas vorbereiten

Installiere zuerst Python (uv) auf deinem Computer (nur einmal) · Nur in der Claude-App für den Computer (Windows oder Mac), nicht im Web oder auf dem Handy

Von der KI installieren lassen

Kopiere diese Nachricht in einen Claude-Chat. Die KI prüft deinen Rechner, sagt dir, welche Datei sie ändert, und wartet jedes Mal auf dein OK.

Installiere bitte den MCP server llm-sidecar für Claude auf diesem Rechner, in dieser Reihenfolge: 1) Prüfe uv mit uv --version. Fehlt es, sag mir, dass ich es von https://docs.astral.sh/uv/getting-started/installation/ installiere; installiere es nicht selbst. 2) Verwende nur diese Konfiguration (von PopNx MCP geprüft): { "mcpServers": { "llm-sidecar": { "command": "uvx", "args": [ "llm-sidecar" ] } } } 3) Nenne mir den vollständigen Pfad der Datei, die du änderst, oder den Befehl, den du ausführst, und warte auf mein OK. 4) Kein Schlüssel nötig. 5) Führe das Vereinbarte aus und prüfe, dass die Tools von llm-sidecar wirklich erscheinen.

Diese Nachricht enthält keinen Schlüssel. Wird einer gebraucht, bittet dich die KI, ihn selbst in die Datei oder das Feld der App einzufügen.

  1. uv installieren (falls noch nicht vorhanden)

    Schon installiert? Zuerst prüfen · Öffne das Terminal, gib diesen Befehl ein und drücke Enter

    uv --version
    • Eine Versionsnummer wie uv … = installiert, diesen Schritt überspringen
    • "command not found" (unter Windows "is not recognized") = noch nicht installiert, oder gerade installiert und das Terminal muss neu geöffnet werden
    So öffnest du das Terminal

    Mac: ⌘ + Leertaste drücken, Terminal eingeben, Enter

    Windows: Start öffnen, Windows PowerShell eingeben, dann Öffnen

    Noch nicht installiert: uv hat keinen Klick-Installer. Kopiere den Einzeiler für dein System (macOS oder Windows) von der offiziellen uv-Seite ins Terminal · Python muss nicht extra installiert werden, uv lädt es bei Bedarf selbst

    Download-Seite von uv öffnen ↗

    Danach das Terminal schließen, neu öffnen und denselben Befehl erneut ausführen. Es muss eine Versionsnummer erscheinen: uv --version

    Einmal installieren, gilt für alles, was uv braucht

  2. Einstellungsdatei der Claude-Desktop-App öffnen

    SettingsDeveloperEdit Config

  3. Diese Einstellungen einfügen und speichern

    {
      "mcpServers": {
        "llm-sidecar": {
          "command": "uvx",
          "args": [
            "llm-sidecar"
          ]
        }
      }
    }
  4. Claude beenden und neu öffnen

  5. Ausprobieren

    Nutze llm-sidecar und sag mir, was du für mich tun kannst; zeig mir dann eine Sache

    ✓ Wenn Claude sagt, dass es llm-sidecar nutzt, oder ein Werkzeug von llm-sidecar in der Antwort zeigt, bist du verbunden

Menünamen am 11. Nov. 2026 mit der Hilfe von Anthropic abgeglichen · dein Bildschirm kann je nach App-Version leicht abweichen

ChatGPT kann llm-sidecar noch nicht verbinden

llm-sidecar läuft auf deinem Computer, aber ChatGPT verbindet nur Server, die im Web laufen

Das kannst du stattdessen tun

A · Eine App nutzen, die llm-sidecar verbinden kann

  • Installiere zuerst Python (uv) auf deinem Computer (nur einmal) · Nur in der Claude-App für den Computer (Windows oder Mac), nicht im Web oder auf dem Handy
  • Installiere zuerst Python (uv) auf deinem Computer (nur einmal)
  • Installiere zuerst Python (uv) auf deinem Computer (nur einmal)
  • Installiere zuerst Python (uv) auf deinem Computer (nur einmal)

B · Andere in Suche & KI-Gedächtnis, die mit ChatGPT funktionieren

Aus den meistgenutzten derselben Kategorie, nur solche, die per Adresse ohne Schlüssel verbinden

Klappt mit Claude Code, aber erst etwas vorbereiten

Installiere zuerst Python (uv) auf deinem Computer (nur einmal)

Von der KI installieren lassen

Kopiere diese Nachricht in einen Claude Code-Chat. Die KI prüft deinen Rechner, sagt dir, welche Datei sie ändert, und wartet jedes Mal auf dein OK.

Installiere bitte den MCP server llm-sidecar für Claude Code auf diesem Rechner, in dieser Reihenfolge: 1) Prüfe uv mit uv --version. Fehlt es, sag mir, dass ich es von https://docs.astral.sh/uv/getting-started/installation/ installiere; installiere es nicht selbst. 2) Verwende nur diese Konfiguration (von PopNx MCP geprüft): claude mcp add --scope user llm-sidecar -- uvx llm-sidecar 3) Nenne mir den vollständigen Pfad der Datei, die du änderst, oder den Befehl, den du ausführst, und warte auf mein OK. 4) Kein Schlüssel nötig. 5) Führe das Vereinbarte aus und prüfe, dass die Tools von llm-sidecar wirklich erscheinen.

Diese Nachricht enthält keinen Schlüssel. Wird einer gebraucht, bittet dich die KI, ihn selbst in die Datei oder das Feld der App einzufügen.

  1. uv installieren (falls noch nicht vorhanden)

    Schon installiert? Zuerst prüfen · Öffne das Terminal, gib diesen Befehl ein und drücke Enter

    uv --version
    • Eine Versionsnummer wie uv … = installiert, diesen Schritt überspringen
    • "command not found" (unter Windows "is not recognized") = noch nicht installiert, oder gerade installiert und das Terminal muss neu geöffnet werden
    So öffnest du das Terminal

    Mac: ⌘ + Leertaste drücken, Terminal eingeben, Enter

    Windows: Start öffnen, Windows PowerShell eingeben, dann Öffnen

    Noch nicht installiert: uv hat keinen Klick-Installer. Kopiere den Einzeiler für dein System (macOS oder Windows) von der offiziellen uv-Seite ins Terminal · Python muss nicht extra installiert werden, uv lädt es bei Bedarf selbst

    Download-Seite von uv öffnen ↗

    Danach das Terminal schließen, neu öffnen und denselben Befehl erneut ausführen. Es muss eine Versionsnummer erscheinen: uv --version

    Einmal installieren, gilt für alles, was uv braucht

  2. Terminal öffnen

    Mac: Command+Leertaste drücken und Terminal tippen · Windows: PowerShell öffnen

  3. Diesen Befehl einfügen und Enter drücken

    claude mcp add --scope user llm-sidecar -- uvx llm-sidecar
  4. /mcp in Claude Code eingeben

    llm-sidecar sollte in der Liste als verbunden erscheinen

  5. Ausprobieren

    Nutze llm-sidecar und sag mir, was du für mich tun kannst; zeig mir dann eine Sache

    ✓ Wenn Claude Code sagt, dass es llm-sidecar nutzt, oder ein Werkzeug von llm-sidecar in der Antwort zeigt, bist du verbunden

Menünamen am 11. Nov. 2026 mit der Hilfe von Anthropic abgeglichen · dein Bildschirm kann je nach App-Version leicht abweichen

Klappt mit Cursor, aber erst etwas vorbereiten

Installiere zuerst Python (uv) auf deinem Computer (nur einmal)

Von der KI installieren lassen

Kopiere diese Nachricht in einen Cursor-Chat. Die KI prüft deinen Rechner, sagt dir, welche Datei sie ändert, und wartet jedes Mal auf dein OK.

Installiere bitte den MCP server llm-sidecar für Cursor auf diesem Rechner, in dieser Reihenfolge: 1) Prüfe uv mit uv --version. Fehlt es, sag mir, dass ich es von https://docs.astral.sh/uv/getting-started/installation/ installiere; installiere es nicht selbst. 2) Verwende nur diese Konfiguration (von PopNx MCP geprüft): { "mcpServers": { "llm-sidecar": { "command": "uvx", "args": [ "llm-sidecar" ] } } } 3) Nenne mir den vollständigen Pfad der Datei, die du änderst, oder den Befehl, den du ausführst, und warte auf mein OK. 4) Kein Schlüssel nötig. 5) Führe das Vereinbarte aus und prüfe, dass die Tools von llm-sidecar wirklich erscheinen.

Diese Nachricht enthält keinen Schlüssel. Wird einer gebraucht, bittet dich die KI, ihn selbst in die Datei oder das Feld der App einzufügen.

  1. uv installieren (falls noch nicht vorhanden)

    Schon installiert? Zuerst prüfen · Öffne das Terminal, gib diesen Befehl ein und drücke Enter

    uv --version
    • Eine Versionsnummer wie uv … = installiert, diesen Schritt überspringen
    • "command not found" (unter Windows "is not recognized") = noch nicht installiert, oder gerade installiert und das Terminal muss neu geöffnet werden
    So öffnest du das Terminal

    Mac: ⌘ + Leertaste drücken, Terminal eingeben, Enter

    Windows: Start öffnen, Windows PowerShell eingeben, dann Öffnen

    Noch nicht installiert: uv hat keinen Klick-Installer. Kopiere den Einzeiler für dein System (macOS oder Windows) von der offiziellen uv-Seite ins Terminal · Python muss nicht extra installiert werden, uv lädt es bei Bedarf selbst

    Download-Seite von uv öffnen ↗

    Danach das Terminal schließen, neu öffnen und denselben Befehl erneut ausführen. Es muss eine Versionsnummer erscheinen: uv --version

    Einmal installieren, gilt für alles, was uv braucht

  2. Mit diesem Button Cursor öffnen

    In Cursor öffnen

    Cursor fragt nach einer Bestätigung; klicke Install

  3. KI-Chat in Cursor im Agent-Modus öffnen

  4. Ausprobieren

    Nutze llm-sidecar und sag mir, was du für mich tun kannst; zeig mir dann eine Sache

    ✓ Wenn Cursor sagt, dass es llm-sidecar nutzt, oder ein Werkzeug von llm-sidecar in der Antwort zeigt, bist du verbunden

Menünamen am 11. Nov. 2026 mit der Hilfe von Cursor abgeglichen · dein Bildschirm kann je nach App-Version leicht abweichen

Klappt mit VS Code, aber erst etwas vorbereiten

Installiere zuerst Python (uv) auf deinem Computer (nur einmal)

Von der KI installieren lassen

Kopiere diese Nachricht in einen VS Code-Chat. Die KI prüft deinen Rechner, sagt dir, welche Datei sie ändert, und wartet jedes Mal auf dein OK.

Installiere bitte den MCP server llm-sidecar für VS Code auf diesem Rechner, in dieser Reihenfolge: 1) Prüfe uv mit uv --version. Fehlt es, sag mir, dass ich es von https://docs.astral.sh/uv/getting-started/installation/ installiere; installiere es nicht selbst. 2) Verwende nur diese Konfiguration (von PopNx MCP geprüft): { "servers": { "llm-sidecar": { "type": "stdio", "command": "uvx", "args": [ "llm-sidecar" ] } } } 3) Nenne mir den vollständigen Pfad der Datei, die du änderst, oder den Befehl, den du ausführst, und warte auf mein OK. 4) Kein Schlüssel nötig. 5) Führe das Vereinbarte aus und prüfe, dass die Tools von llm-sidecar wirklich erscheinen.

Diese Nachricht enthält keinen Schlüssel. Wird einer gebraucht, bittet dich die KI, ihn selbst in die Datei oder das Feld der App einzufügen.

  1. uv installieren (falls noch nicht vorhanden)

    Schon installiert? Zuerst prüfen · Öffne das Terminal, gib diesen Befehl ein und drücke Enter

    uv --version
    • Eine Versionsnummer wie uv … = installiert, diesen Schritt überspringen
    • "command not found" (unter Windows "is not recognized") = noch nicht installiert, oder gerade installiert und das Terminal muss neu geöffnet werden
    So öffnest du das Terminal

    Mac: ⌘ + Leertaste drücken, Terminal eingeben, Enter

    Windows: Start öffnen, Windows PowerShell eingeben, dann Öffnen

    Noch nicht installiert: uv hat keinen Klick-Installer. Kopiere den Einzeiler für dein System (macOS oder Windows) von der offiziellen uv-Seite ins Terminal · Python muss nicht extra installiert werden, uv lädt es bei Bedarf selbst

    Download-Seite von uv öffnen ↗

    Danach das Terminal schließen, neu öffnen und denselben Befehl erneut ausführen. Es muss eine Versionsnummer erscheinen: uv --version

    Einmal installieren, gilt für alles, was uv braucht

  2. Mit diesem Button VS Code öffnen

    In VS Code öffnen

    VS Code fragt nach einer Bestätigung; klicke Install

  3. KI-Chat in VS Code im Agent-Modus öffnen

  4. Ausprobieren

    Nutze llm-sidecar und sag mir, was du für mich tun kannst; zeig mir dann eine Sache

    ✓ Wenn VS Code sagt, dass es llm-sidecar nutzt, oder ein Werkzeug von llm-sidecar in der Antwort zeigt, bist du verbunden

Menünamen am 11. Nov. 2026 mit der Hilfe von VS Code abgeglichen · dein Bildschirm kann je nach App-Version leicht abweichen

Andere Apps mit MCP, etwa Windsurf, Zed oder Gemini CLI, fügen Server unterschiedlich hinzu. Sieh in der App-Liste nach

Alle Apps mit MCP ansehen →

JSON-Einstellungen stehen unten unter „Für Entwickler“

Hängst du fest? Frag Leute, die llm-sidecar nutzen💬 Diskussion →
Für Entwickler: Terminal-Befehle und JSON-Einstellungen

Auf deinem Computer installiert

Claude Code

claude mcp add --scope user llm-sidecar -- uvx llm-sidecar

Claude Desktop (claude_desktop_config.json)

{
  "mcpServers": {
    "llm-sidecar": {
      "command": "uvx",
      "args": [
        "llm-sidecar"
      ]
    }
  }
}

Cursor (~/.cursor/mcp.json)

{
  "mcpServers": {
    "llm-sidecar": {
      "command": "uvx",
      "args": [
        "llm-sidecar"
      ]
    }
  }
}

VS Code (mcp.json)

{
  "servers": {
    "llm-sidecar": {
      "type": "stdio",
      "command": "uvx",
      "args": [
        "llm-sidecar"
      ]
    }
  }
}

Diese Einstellungen werden aus dem Registry-Eintrag des Entwicklers erzeugt. Wenn in der README etwas anderes steht, folge der README.

Auf einen Blick

Downloads pro Wochei
124/Wo.
Verbindung
Läuft auf deinem Computer
Neueste Versioni
0.9.3
In der Registry veröffentlichti
18. Nov. 2026
Code zuletzt geänderti
18. Nov. 2026
Entwickler
awaistechnologist
Pakete
pypi: llm-sidecar
Registry-Status
Aktiv

Welche Apps ihn nutzen können

Basierend darauf, wie sich dieser Server verbindet, und auf der eigenen Doku jeder App, geprüft am 10. Nov. 2026.

Laufen auf deinem Computer in

ClaudeGooseLM StudioMsty StudioCherry StudioCursorVS Code + GitHub CopilotVisual StudioWindsurf (Devin Desktop)ZedKiroClineContinueJetBrains AI AssistantClaude CodeCodex CLIGemini CLIOpenCodenodecodeWarpLibreChatRaycast

Alle Apps, mit Vor- und Nachteilen →

Was er kann

Läuft auf deinem Computer; die Tool-Liste erscheint nach der Installation in deiner KI-App.

Basischecksi

Wir prüfen Informationen, die jeder sehen kann; den Code haben wir nicht gelesen. Checks, die nicht zutreffen, werden nicht mitgezählt. · Geprüft am 21. Nov. 2026

  • ✓ Bestanden

    Entwickler passt zum Repo

    Der Registry-Name wurde mit dem GitHub-Konto awaistechnologist bestätigt, dem das Repo gehört

  • ✓ Bestanden

    Wird noch gepflegt

    Code zuletzt geändert: vor 3 Tagen

  • ✓ Bestanden

    Hat eine Lizenz

    Nutzt MIT

  • – Nicht zutreffend

    Endpunkt antwortet

    Dieser Server läuft auf deinem Computer; es gibt keinen Endpunkt im Internet

  • – Nicht zutreffend

    Anmeldung mit OAuth

    Läuft auf deinem Computer und nutzt stattdessen lokale Einstellungen

  • … Noch nicht geprüft

    Keine versteckten Anweisungen in Tool-Beschreibungen

    Läuft auf deinem Computer; Tool-Listen können wir nur von Endpunkten im Internet lesen

Veröffentlichte Schwachstellen (OSV.dev)

Noch nicht geprüft

Was wir prüfen → · JSON

Entwickler: neue Prüfung anfordern oder falsche Angaben melden
Für Anbieter: Badge ins README

Wenn du das gebaut hast, füge diesen Code in dein README ein. Das Badge verlinkt auf diese Seite.

[![Featured on PopNx MCP](https://mcp.popnx.com/badge/awaistechnologist-llm-sidecar.svg)](https://mcp.popnx.com/en/servers/awaistechnologist-llm-sidecar)

Diskussion

Fragen, Tipps teilen oder melden, dass etwas nicht geht. Sortiert nach „hilfreich“.

Noch keine Beiträge. Stell die erste Frage oder teile einen Tipp.

Beiträge hier stammen von Nutzern, nicht vom PopNx-Team.

Anmelden, um zu posten

Nutzerbewertungen

Noch keine Bewertungen

Anmelden, um eine Bewertung zu schreiben

Im Vergleich mit anderen in Suche & KI-Gedächtnisi

  • Mehr Sterne als 77 % der anderen 6535 Server in dieser Kategorie
  • Neuer in der Registry veröffentlicht als 94 % der anderen 6535 Server in dieser Kategorie
  • Basischecks gleich gut wie oder besser als bei 99 % der anderen 6535 Server in dieser Kategorie

Verglichen mit allen aktiven Servern dieser Kategorie in der Registry. Sterne zählen nur, wenn dem Herausgeber das Repo gehört.

Häufige Fragen

Ist llm-sidecar sicher?

Er hat 3 von 3 zutreffenden Basischecks bestanden. Den Code haben wir nicht gelesen. Bevor du einen Schlüssel oder Token hinzufügst, sieh nach, welche Zugriffe der Server verlangt, und nutze einen Schlüssel, der nur die Berechtigungen hat, die du brauchst.

Welche Schlüssel oder Codes braucht er?

Die Registry nennt keinen erforderlichen Schlüssel, manche Server bitten dich aber bei der ersten Nutzung, dich anzumelden.

Läuft er auf meinem Computer oder in der Cloud?

Er läuft auf deinem Computer. Deine KI-App startet ihn bei Bedarf, und die Daten laufen nicht über die Server des Entwicklers (außer der Server ruft selbst einen Onlinedienst auf).

Wird er noch gepflegt?

Das GitHub-Repo wurde zuletzt vor 3 Tagen geändert, und die neueste Version (0.9.3) kam vor 3 Tagen in die Registry.

Welche Apps können ihn nutzen?

Apps, die MCP unterstützen, etwa Claude Desktop, Claude Code, Cursor und VS Code. Außerdem brauchst du Python (uv) auf deinem Computer.

Was kann ich stattdessen nutzen?

In derselben Kategorie: OpenSEO, Exa, Microsoft Learn MCP, Docs, COTAL actions (cotal.ai)

Ähnliche Alternativen

Gleiche Kategorie, andere Entwickler, Befehle bereits geprüft. Offizielle zuerst, dann nach Sternen.

So liest du eine Karte:↓ Downloads pro Wochei★ GitHub-SterneiDrei Säulen: Bewertungen · Checks · NutzungiAktualisiert = neueste Version in der Registry veröffentlichti

OpenSEO

Keyword research, site audits, rank tracking and AI visibility for your AI agent.

von every-appWeit verbreitet★ 28.449Aktualisiert vor 7 Tagen

Läuft in der Cloud✓ everyapp.com

Exa

Official Exa MCP for web search, content fetching, and multi-step research.

von exa-labsWeit verbreitet★ 5245Aktualisiert gestern

Läuft in der Cloud✓ vom Dienst · exa.aiVom PopNx-Team ausprobiert

Microsoft Learn MCP

Official Microsoft Learn MCP Server – real-time, trusted docs & code samples for AI and LLMs.

von MicrosoftDocsWeit verbreitet★ 2002Aktualisiert vor 12 Monaten

Läuft in der Cloud✓ vom Dienst · microsoft.comVom PopNx-Team ausprobiert

Docs

Search and read Empryo's documentation. Read-only, no auth, no local access.

von proxysoulWachsend★ 1629Aktualisiert vor 3 Monaten

Läuft in der Cloud✓ empryo.com

COTAL actions (cotal.ai)

cotal.ai actions: product overview, site search, build log, feedback, Cloud waitlist, updates, calls

von Cotal-AIWachsend★ 403Aktualisiert vor 2 Monaten

Läuft in der Cloud✓ vom Dienst · cotal.ai
Im Vergleich mit ähnlichen
Dieser
llm-sidecar
OpenSEOExaMicrosoft Learn MCPDocsCOTAL actions (cotal.ai)
Läuft woWird auf deinem Rechner installiertLäuft in der Cloud, keine InstallationLäuft in der Cloud, keine InstallationLäuft in der Cloud, keine InstallationLäuft in der Cloud, keine InstallationLäuft in der Cloud, keine Installation
Braucht SchlüsselNeinNeinNeinNeinNeinNein
Mit + in Claude hinzufügenNeinJaJaJaNeinNein
Basisprüfungen3/35/52/44/44/44/4
LizenzMITMITMITCC-BY-4.0NOASSERTIONApache-2.0
PreisKeine Kosten im RegisterKeine Kosten im RegisterKeine Kosten im RegisterKeine Kosten im RegisterKeine Kosten im RegisterKeine Kosten im Register

README vom Entwickler

README öffnen

Unverändert aus dem Repo des Entwicklers übernommen. PopNx MCP hat den Inhalt weder geprüft noch empfiehlt es ihn. HTML, Bilder und Skripte wurden entfernt. Links führen von dieser Website weg.

llm-sidecar

A local sidecar that gives every tool on your machine grounded, cited, routed AI — and never asks you which model to use.

One process. It picks a working model, searches the web, reads pages, checks facts, and tells you what everything cost. Works with no API key at all if you have Ollama; works better with one.

$ llm-sidecar answer "What is Iran's population?"

As of mid-2026, Iran's population is estimated at 93,168,497 (Worldometer, based on UN 2024 Revision). The 2025 estimate from Wikipedia is 92,417,681.

Caveat: Sources differ by year and methodology: Worldometer (2026 mid-year) gives 93.17 million; Wikipedia (2025 est.) gives 92.42 million.

Sources: · https://en.wikipedia.org/wiki/Demographics_of_Iran · https://www.worldometers.info/world-population/iran-population/

That came from the live web, not training data, and it says where it got it — including that the sources disagree. Ask something the web can't settle and it tells you, instead of guessing.

It is not instant: a grounded answer means a search, two or three page fetches and a model call, so expect tens of seconds — more on free models, which are slow and sometimes have to be rotated past.

Status: early (0.6.0). The API may still move. Extracted from

Agora, where the routing and

verification were originally built and proven.


Install

brew install pipx

pipx ensurepath exec $SHELL pipx install llm-sidecar

On Linux use apt install pipx instead of brew. That is the whole install — no extras to remember, every door works.

The third line matters: pipx ensurepath edits your shell config, and cannot change a shell that is already running. exec $SHELL reloads it. Without that you get command not found: llm-sidecar even though the install succeeded.

Add an OpenRouter key if you want free cloud models. Without one it runs entirely on Ollama.

llm-sidecar config key sk-or-your-key --save

llm-sidecar status

"command not found: pip" , or "externally-managed-environment"

Neither is broken — both are modern Python on macOS and Linux behaving as designed, and they are the reason this page says pipx.

`pip` is not a command on most Macs. Homebrew installs pip3, not pip. PyPI's install line is boilerplate it prints for every package; it doesn't know what your Python looks like.

`pip3 install` then refuses anyway, with error: externally-managed-environment. Since PEP 668, distributions mark their Python as off-limits to global installs, because system tooling depends on it and one bad upgrade breaks the OS.

pipx exists for exactly this. It creates a private virtualenv per tool and puts just the command on your PATH, so nothing global changes. It is the standard way to install a Python application, as opposed to a library.

For a library in your own project, pip is still right — inside that project's virtualenv:

python3 -m venv .venv

./.venv/bin/pip install llm-sidecar

</details>

Run it as a service

A sidecar you have to remember to start isn't one:

llm-sidecar service install     # launchd on macOS, systemd on Linux

Starts at login, restarts if it dies, logs to ~/Library/Logs/llm-sidecar.log. service status and service uninstall do what they say. Or just llm-sidecar serve in a terminal when you want it.

Now every tool on the machine can reach it:

export OPENAI_BASE_URL=http://localhost:4001/v1    # any OpenAI-compatible tool

export OPENAI_API_KEY=unused # the format demands the field

...and the dashboard is at http://localhost:4001.

From source

git clone https://github.com/awaistechnologist/llm-sidecar

cd llm-sidecar && ./install.sh && ./run.sh # Windows: install.bat, run.bat

install.sh reports what your machine can actually reach — Ollama and how many models, whether a key is set, whether Docker is around for SearXNG — and prints the MCP config with your real paths filled in.

Note that a clone under ~/Documents or ~/Desktop cannot be run as a launchd service: macOS keeps those behind a privacy prompt that background processes never receive. service install detects this and tells you rather than leaving a crash loop behind.

What it does

`answer`Ask a question → searches, reads the pages, answers from those pages only, with citations. Says "not in the sources" rather than guessing.
`verify`Grade claims against live evidence: supported / contradicted / unverified, each cited. Unresolved claims are re-checked against full page text.
`fact_check`Pull every claim out of a document and verify each one.
`complete` / `stream`Routed inference. Local, free cloud, or paid — you don't name a model.
`search` / `read_url`Keyless web search, and full page text with the navigation stripped.
`embed` / `rank`Text to vectors, and candidates ordered by similarity. Real semantic matching instead of substring matching.
`summarise` / `classify` / `extract`Bounded structured work at temperature 0, so it's repeatable and cached.
hardware advisorWhich of your Ollama models actually fit in RAM, before one crawls in swap.
usage ledgerWhat you spent, on which model, over time.

Why it exists

Most "LLM router" projects answer *which provider should this call go to*. That's plumbing. The point here is the layer above it: capabilities that are hard to build well and that every tool re-implements badly — grounded search, cited verification — sharing one routing, budget and cost substrate.

The routing does earn its keep in one specific way: a catalogue entry is not a working model. Free tiers throttle, checkpoints get retired, endpoints start returning empty completions. So before handing back a model, the picker spends one tiny call proving it answers *right now*.


Four ways in

Same core, four doors, because the consumers can't use each other's interface.

Library
from llm_sidecar import Sidecar

sc = Sidecar()

a = sc.answer("What shipped in Python 3.14?") if a.grounded: # False = the sources didn't settle it print(a.text, a.sources)

sc.verify(["The Eiffel Tower is in Berlin"]) # → contradicted, cited sc.fact_check(article) # extract claims, verify each sc.summarise(text, style="bullets", focus="security") sc.classify(tickets, labels=["bug", "feature", "question"]) sc.extract(invoice, {"total": "amount with currency", "due_date": "ISO date"})

sc.complete("Explain CRDTs") # routes itself sc.complete(messages=[...]) # real multi-turn sc.complete_many([p1, p2, p3]) # concurrent, ordered await sc.acomplete("...")

Semantic similarity — vectors, not substring matching

sc.rank("senior python backend engineer", [cv_a, cv_b, cv_c]) # ordered, scored sc.similarity("a golden retriever", "a puppy") # 0.86 sc.embed(["one", "two"]) # raw vectors

Guaranteed-shape output, enforced by the provider rather than parsed and hoped

sc.complete("Rate this candidate", schema={ "type": "object", "properties": {"score": {"type": "integer"}, "reason": {"type": "string"}}, "required": ["score", "reason"], })

sc.local_models() # your Ollama models, scored against this machine sc.usage(days=30) # what you spent sc.status() # everything at once

HTTP daemon — for any tool, in any language
llm-sidecar serve

export OPENAI_BASE_URL=http://localhost:4001/v1 export OPENAI_API_KEY=unused # the format demands the field

It speaks the chat-completions format every provider copied from OpenAI. That format is a de facto standard, not a vendor tie — Ollama and OpenRouter accept the identical request shape, which is why routing between them is a URL swap. The variable is named after OpenAI because the openai SDK reads it; other tools call the same setting --openai-api-base, apiBase, or "Base URL".

The `model` field is a request, not an instruction. A tool that hardcodes gpt-4o gets a verified working model and never finds out:

$ curl -s localhost:4001/v1/chat/completions -d '{"model":"gpt-4o", ...}'

{"model": "nvidia/nemotron-3-ultra-550b-a55b:free", ..., "x_sidecar": {"cost_usd": 0.0, "local": false, "cached": false}}

Beyond the standard surface: /v1/answer, /v1/verify, /ops/* for each capability, /status, /usage, /resolve-preview, /config/*. Swagger at /docs.

MCP — for agents

Nothing to install first:

{"mcpServers": {"llm-sidecar": {

"command": "uvx", "args": ["--from", "llm-sidecar", "llm-sidecar-mcp"]}}}

Or, after pipx install llm-sidecar:

{"mcpServers": {"llm-sidecar": {"command": "llm-sidecar-mcp"}}}

Both are copy-pasteable as they stand — no path to fill in.

17 tools, grouped by what they are for.

Evidence and verification: search_web · answer_question · read_url · verify_claims · extract_claims · fact_check_document

Bounded structured work: summarise · classify · extract_fields · delegate

Images, on Apple Silicon with the [images] extra: list_image_profiles · generate_image · edit_with_references · upscale_image

Housekeeping: usage_report · sidecar_status · whats_new

whats_new(since=" ") is how an agent finds out what changed without anyone telling it — see Finding out what changed.

Note what's *not* there: a general "call an LLM" tool. An MCP client is already a model, so exposing inference to it is close to a no-op. What it can't do for itself is fetch live evidence and grade claims against it. delegate is the exception — it's for offloading bulk work to something cheap.

CLI
llm-sidecar answer "who currently runs the ECB?"   # non-zero exit if ungrounded

llm-sidecar verify "the Great Wall is visible from space" llm-sidecar sum report.md --style bullets llm-sidecar models # local models vs your RAM llm-sidecar usage --days 30 llm-sidecar searxng up # better search, one command


How a model gets chosen

Two questions, always. Tier = how capable. Budget = what it may cost. They are independent.

What each capability asks for
  verify · fact_check · summarise · classify        ┐

extract · extract_claims · delegate ├──► tier "fast" ┘ bulk work, cheap

answer · chat · complete() ───► tier "balanced"

budget is always your configured default unless you pass one.

There is no separate "chat model". One picker serves everything, so changing a key or a budget changes every capability at once.

The resolution order

Four checks, first match wins.

  ① model="ollama/qwen2.5:32b" given?   ──yes──►  use it. never rotated.

(or "claude/opus", or any exact id) │ no ② is this tier LOCKED to a m

Nur der Anfang wird gezeigt; den Rest findest du im Repo