Prototipo · Versión preliminar: todos los servidores del registro oficial, sincronizados cada 30 minutos. Inicia sesión con Google para escribir reseñas.Prototipo · se actualiza cada 30 min
PopNx MCPServidores MCP para quienes usan IA · en palabras sencillas Iniciar sesión

llm-sidecar

de awaistechnologistversión 0.9.3i★ 1iSe ejecuta en tu computadoraRepositorio ↗
Nombre en el registroio.github.awaistechnologist/llm-sidecar

Cómo instalar

Qué hace

Local MCP server: web search, cited answers, fact-checking and routed inference. No API key.

Texto original del autor

  • Conexión Se ejecuta en tu computadora
  • Cuenta o clave No necesita clave
  • Categoría Búsqueda y memoria de IA

Úsalo junto con

Skills que enseñan a la IA este tipo de trabajo; funcionan junto a este

timesfm

TimesFM (Time Series Foundation Model) is a pretrained time-series foundation model developed by Google Research for time-series forecasting.

de google-research★ 35.6421 skills

Skill · Guía de trabajo

Shadowbroker

Open-source intelligence for the global theater. Track everything from the corporate/private jets of the wealthy, and spy satellites, to seismic events in one unified interface. Hook an AI agent up to have it parse through data and find previously unseen correlations. The knowledge is available to…

de BigBodyCobain★ 11.6081 skills

Skill · Guía de trabajo

google-maps-scraper

scrape data from Google Maps. Extracts data such as the name, address, phone number, website URL, rating, reviews number, latitude and longitude, reviews,email and more for each place

de gosom★ 82561 skills

Skill · Guía de trabajo

Por qué está en este puesto

Las listas se ordenan por una puntuación de uso (sobre 100) con estas partes

Popularidad4/80Estrellas de GitHub o descargas semanales: la mayor cuenta 60, la menor 20
Actualidad12/12Puntuación completa con una versión o cambio de código en 30 días
Sigue respondiendo0/8El endpoint en la nube respondió en la última revisión
Puntuación de uso16/100

Calidad: Pasó 3/3 revisiones básicas (se muestra, no ordena) · Impulso: Sin datos aún (Solo se usa en la pestaña En auge)

Instalación

Elige la app de IA que usas y copia la configuración.

Que tu IA lo instale con una frase

Instala llm-sidecar. Sigue https://mcp.popnx.com/i/awaistechnologist-llm-sidecar.md, enséñame los comandos y espera mi OK antes de ejecutarlos.

Pégala en una IA que trabaje en tu equipo (como Claude Code o Cursor). Lee nuestros pasos, te muestra los comandos y espera tu OK. Sin clave ni registro. · Ver el texto completo que lee tu IA

Pasó 3/3 revisiones · Funciona en tu computadora · ✓ Comandos revisados el 18 nov 2026

Primero: ¿qué IA usas?

Elige tu app y los pasos aparecen abajo.

Funciona con Claude, pero hay que preparar algo antes

Instala Python (uv) en tu computadora primero (una sola vez) · Solo en la app de Claude para computadora (Windows o Mac), no en la web ni en el móvil

Que la IA lo instale

Copia este mensaje en un chat de Claude. La IA revisa tu equipo, te dice qué archivo va a cambiar y espera tu visto bueno cada vez.

Instala el MCP server llm-sidecar para Claude en este equipo, en este orden: 1) Comprueba uv con uv --version. Si falta, dime que lo instale desde https://docs.astral.sh/uv/getting-started/installation/; no lo instales tú. 2) Usa solo esta configuración (ya revisada por PopNx MCP): { "mcpServers": { "llm-sidecar": { "command": "uvx", "args": [ "llm-sidecar" ] } } } 3) Dime la ruta completa del archivo que vas a cambiar o el comando que vas a ejecutar y espera mi visto bueno. 4) No hace falta clave. 5) Haz lo acordado y comprueba que las herramientas de llm-sidecar aparecen de verdad.

Este mensaje no lleva tu clave. Si hace falta una, la IA te pedirá que la pegues tú en el archivo o en el campo de la app.

  1. Instala uv (si no lo tienes)

    ¿Ya está instalado? Compruébalo primero · Abre la Terminal, escribe este comando y pulsa Enter

    uv --version
    • Aparece un número de versión, p. ej. uv … = ya está instalado, sáltate este paso
    • Aparece "command not found" (en Windows, "is not recognized") = aún no está instalado, o acabas de instalarlo y debes cerrar y volver a abrir la Terminal
    Cómo abrir la Terminal

    Mac: pulsa ⌘ + Espacio, escribe Terminal y pulsa Enter

    Windows: abre Inicio, escribe Windows PowerShell y elige Abrir

    Si no está instalado: uv no tiene instalador de clics. Copia el comando de una línea para tu sistema (macOS o Windows) desde la página oficial de uv y pégalo en la Terminal · no hace falta instalar Python aparte; uv lo descarga cuando lo necesita

    Abrir la página de descarga de uv ↗

    Al terminar, cierra la Terminal, ábrela de nuevo y ejecuta el mismo comando. Debe aparecer un número de versión: uv --version

    Se instala una vez y sirve para todo lo que usa uv

  2. Abre el archivo de configuración de la app de Claude de escritorio

    SettingsDeveloperEdit Config

  3. Pega esta configuración y guarda el archivo

    {
      "mcpServers": {
        "llm-sidecar": {
          "command": "uvx",
          "args": [
            "llm-sidecar"
          ]
        }
      }
    }
  4. Cierra Claude y vuelve a abrirlo

  5. Pruébalo

    Usa llm-sidecar y dime qué puedes hacer por mí; luego muéstrame una cosa

    ✓ Si Claude dice que está usando llm-sidecar o muestra una herramienta de llm-sidecar en la respuesta, ya está conectado

Nombres de menú comprobados con la ayuda de Anthropic el 11 nov 2026 · tu pantalla puede variar un poco según la versión

ChatGPT todavía no puede conectar llm-sidecar

llm-sidecar se instala en tu computadora, pero ChatGPT solo conecta servidores que funcionan en la web

Lo que puedes hacer en su lugar

A · Usa una app que pueda conectar llm-sidecar

  • Instala Python (uv) en tu computadora primero (una sola vez) · Solo en la app de Claude para computadora (Windows o Mac), no en la web ni en el móvil
  • Instala Python (uv) en tu computadora primero (una sola vez)
  • Instala Python (uv) en tu computadora primero (una sola vez)
  • Instala Python (uv) en tu computadora primero (una sola vez)

B · Otros en Búsqueda y memoria de IA que funcionan con ChatGPT

Elegidos entre los más usados de la misma categoría, solo los que se conectan con una dirección y sin clave

Funciona con Claude Code, pero hay que preparar algo antes

Instala Python (uv) en tu computadora primero (una sola vez)

Que la IA lo instale

Copia este mensaje en un chat de Claude Code. La IA revisa tu equipo, te dice qué archivo va a cambiar y espera tu visto bueno cada vez.

Instala el MCP server llm-sidecar para Claude Code en este equipo, en este orden: 1) Comprueba uv con uv --version. Si falta, dime que lo instale desde https://docs.astral.sh/uv/getting-started/installation/; no lo instales tú. 2) Usa solo esta configuración (ya revisada por PopNx MCP): claude mcp add --scope user llm-sidecar -- uvx llm-sidecar 3) Dime la ruta completa del archivo que vas a cambiar o el comando que vas a ejecutar y espera mi visto bueno. 4) No hace falta clave. 5) Haz lo acordado y comprueba que las herramientas de llm-sidecar aparecen de verdad.

Este mensaje no lleva tu clave. Si hace falta una, la IA te pedirá que la pegues tú en el archivo o en el campo de la app.

  1. Instala uv (si no lo tienes)

    ¿Ya está instalado? Compruébalo primero · Abre la Terminal, escribe este comando y pulsa Enter

    uv --version
    • Aparece un número de versión, p. ej. uv … = ya está instalado, sáltate este paso
    • Aparece "command not found" (en Windows, "is not recognized") = aún no está instalado, o acabas de instalarlo y debes cerrar y volver a abrir la Terminal
    Cómo abrir la Terminal

    Mac: pulsa ⌘ + Espacio, escribe Terminal y pulsa Enter

    Windows: abre Inicio, escribe Windows PowerShell y elige Abrir

    Si no está instalado: uv no tiene instalador de clics. Copia el comando de una línea para tu sistema (macOS o Windows) desde la página oficial de uv y pégalo en la Terminal · no hace falta instalar Python aparte; uv lo descarga cuando lo necesita

    Abrir la página de descarga de uv ↗

    Al terminar, cierra la Terminal, ábrela de nuevo y ejecuta el mismo comando. Debe aparecer un número de versión: uv --version

    Se instala una vez y sirve para todo lo que usa uv

  2. Abre la Terminal

    Mac: pulsa Command+Espacio y escribe Terminal · Windows: abre PowerShell

  3. Pega este comando y pulsa Enter

    claude mcp add --scope user llm-sidecar -- uvx llm-sidecar
  4. Escribe /mcp en Claude Code

    Deberías ver llm-sidecar en la lista como conectado

  5. Pruébalo

    Usa llm-sidecar y dime qué puedes hacer por mí; luego muéstrame una cosa

    ✓ Si Claude Code dice que está usando llm-sidecar o muestra una herramienta de llm-sidecar en la respuesta, ya está conectado

Nombres de menú comprobados con la ayuda de Anthropic el 11 nov 2026 · tu pantalla puede variar un poco según la versión

Funciona con Cursor, pero hay que preparar algo antes

Instala Python (uv) en tu computadora primero (una sola vez)

Que la IA lo instale

Copia este mensaje en un chat de Cursor. La IA revisa tu equipo, te dice qué archivo va a cambiar y espera tu visto bueno cada vez.

Instala el MCP server llm-sidecar para Cursor en este equipo, en este orden: 1) Comprueba uv con uv --version. Si falta, dime que lo instale desde https://docs.astral.sh/uv/getting-started/installation/; no lo instales tú. 2) Usa solo esta configuración (ya revisada por PopNx MCP): { "mcpServers": { "llm-sidecar": { "command": "uvx", "args": [ "llm-sidecar" ] } } } 3) Dime la ruta completa del archivo que vas a cambiar o el comando que vas a ejecutar y espera mi visto bueno. 4) No hace falta clave. 5) Haz lo acordado y comprueba que las herramientas de llm-sidecar aparecen de verdad.

Este mensaje no lleva tu clave. Si hace falta una, la IA te pedirá que la pegues tú en el archivo o en el campo de la app.

  1. Instala uv (si no lo tienes)

    ¿Ya está instalado? Compruébalo primero · Abre la Terminal, escribe este comando y pulsa Enter

    uv --version
    • Aparece un número de versión, p. ej. uv … = ya está instalado, sáltate este paso
    • Aparece "command not found" (en Windows, "is not recognized") = aún no está instalado, o acabas de instalarlo y debes cerrar y volver a abrir la Terminal
    Cómo abrir la Terminal

    Mac: pulsa ⌘ + Espacio, escribe Terminal y pulsa Enter

    Windows: abre Inicio, escribe Windows PowerShell y elige Abrir

    Si no está instalado: uv no tiene instalador de clics. Copia el comando de una línea para tu sistema (macOS o Windows) desde la página oficial de uv y pégalo en la Terminal · no hace falta instalar Python aparte; uv lo descarga cuando lo necesita

    Abrir la página de descarga de uv ↗

    Al terminar, cierra la Terminal, ábrela de nuevo y ejecuta el mismo comando. Debe aparecer un número de versión: uv --version

    Se instala una vez y sirve para todo lo que usa uv

  2. Pulsa este botón para abrir Cursor

    Abrir en Cursor

    Cursor te pedirá confirmar; pulsa Install

  3. Abre el chat de IA de Cursor en modo Agent

  4. Pruébalo

    Usa llm-sidecar y dime qué puedes hacer por mí; luego muéstrame una cosa

    ✓ Si Cursor dice que está usando llm-sidecar o muestra una herramienta de llm-sidecar en la respuesta, ya está conectado

Nombres de menú comprobados con la ayuda de Cursor el 11 nov 2026 · tu pantalla puede variar un poco según la versión

Funciona con VS Code, pero hay que preparar algo antes

Instala Python (uv) en tu computadora primero (una sola vez)

Que la IA lo instale

Copia este mensaje en un chat de VS Code. La IA revisa tu equipo, te dice qué archivo va a cambiar y espera tu visto bueno cada vez.

Instala el MCP server llm-sidecar para VS Code en este equipo, en este orden: 1) Comprueba uv con uv --version. Si falta, dime que lo instale desde https://docs.astral.sh/uv/getting-started/installation/; no lo instales tú. 2) Usa solo esta configuración (ya revisada por PopNx MCP): { "servers": { "llm-sidecar": { "type": "stdio", "command": "uvx", "args": [ "llm-sidecar" ] } } } 3) Dime la ruta completa del archivo que vas a cambiar o el comando que vas a ejecutar y espera mi visto bueno. 4) No hace falta clave. 5) Haz lo acordado y comprueba que las herramientas de llm-sidecar aparecen de verdad.

Este mensaje no lleva tu clave. Si hace falta una, la IA te pedirá que la pegues tú en el archivo o en el campo de la app.

  1. Instala uv (si no lo tienes)

    ¿Ya está instalado? Compruébalo primero · Abre la Terminal, escribe este comando y pulsa Enter

    uv --version
    • Aparece un número de versión, p. ej. uv … = ya está instalado, sáltate este paso
    • Aparece "command not found" (en Windows, "is not recognized") = aún no está instalado, o acabas de instalarlo y debes cerrar y volver a abrir la Terminal
    Cómo abrir la Terminal

    Mac: pulsa ⌘ + Espacio, escribe Terminal y pulsa Enter

    Windows: abre Inicio, escribe Windows PowerShell y elige Abrir

    Si no está instalado: uv no tiene instalador de clics. Copia el comando de una línea para tu sistema (macOS o Windows) desde la página oficial de uv y pégalo en la Terminal · no hace falta instalar Python aparte; uv lo descarga cuando lo necesita

    Abrir la página de descarga de uv ↗

    Al terminar, cierra la Terminal, ábrela de nuevo y ejecuta el mismo comando. Debe aparecer un número de versión: uv --version

    Se instala una vez y sirve para todo lo que usa uv

  2. Pulsa este botón para abrir VS Code

    Abrir en VS Code

    VS Code te pedirá confirmar; pulsa Install

  3. Abre el chat de IA de VS Code en modo Agent

  4. Pruébalo

    Usa llm-sidecar y dime qué puedes hacer por mí; luego muéstrame una cosa

    ✓ Si VS Code dice que está usando llm-sidecar o muestra una herramienta de llm-sidecar en la respuesta, ya está conectado

Nombres de menú comprobados con la ayuda de VS Code el 11 nov 2026 · tu pantalla puede variar un poco según la versión

Otras apps que usan MCP, como Windsurf, Zed o Gemini CLI, añaden servidores de forma distinta. Míralo en la lista de apps

Ver todas las apps que usan MCP →

La configuración JSON está en “Para desarrolladores”, abajo

¿Te atascaste? Pregunta a quien usa llm-sidecar💬 Conversación →
Para desarrolladores: comandos de Terminal y configuración JSON

Instalado en tu computadora

Claude Code

claude mcp add --scope user llm-sidecar -- uvx llm-sidecar

Claude Desktop (claude_desktop_config.json)

{
  "mcpServers": {
    "llm-sidecar": {
      "command": "uvx",
      "args": [
        "llm-sidecar"
      ]
    }
  }
}

Cursor (~/.cursor/mcp.json)

{
  "mcpServers": {
    "llm-sidecar": {
      "command": "uvx",
      "args": [
        "llm-sidecar"
      ]
    }
  }
}

VS Code (mcp.json)

{
  "servers": {
    "llm-sidecar": {
      "type": "stdio",
      "command": "uvx",
      "args": [
        "llm-sidecar"
      ]
    }
  }
}

Esta configuración se genera a partir de la ficha del creador en el registro. Si el README dice otra cosa, sigue el README.

De un vistazo

Descargas por semanai
124/sem
Conexión
Se ejecuta en tu computadora
Última versióni
0.9.3
Publicado en el registroi
18 nov 2026
Último cambio de códigoi
18 nov 2026
Creador
awaistechnologist
Paquetes
pypi: llm-sidecar
Estado en el registro
Activo

Qué apps pueden usarlo

Según cómo se conecta este servidor y la documentación de cada app, comprobado el 10 nov 2026.

Se ejecutan en tu computadora en

ClaudeGooseLM StudioMsty StudioCherry StudioCursorVS Code + GitHub CopilotVisual StudioWindsurf (Devin Desktop)ZedKiroClineContinueJetBrains AI AssistantClaude CodeCodex CLIGemini CLIOpenCodenodecodeWarpLibreChatRaycast

Todas las apps, con ventajas y desventajas →

Qué puede hacer

Se ejecuta en tu computadora; la lista de herramientas aparece en tu app de IA después de instalarlo.

Revisiones básicasi

Revisamos información que cualquiera puede ver; no hemos leído el código. Las revisiones que no aplican no se cuentan. · Revisado el 21 nov 2026

  • ✓ Superada

    El creador coincide con el repo

    El nombre en el registro se verificó con la cuenta de GitHub awaistechnologist, dueña del repo

  • ✓ Superada

    Sigue en mantenimiento

    Último cambio de código: hace 3 días

  • ✓ Superada

    Tiene licencia

    Usa MIT

  • – No aplica

    El endpoint responde

    Este se ejecuta en tu computadora; no hay endpoint en internet

  • – No aplica

    Inicio de sesión con OAuth

    Se ejecuta en tu computadora y usa ajustes locales en su lugar

  • … Aún sin revisar

    Sin instrucciones ocultas en las descripciones de herramientas

    Se ejecuta en tu computadora; solo podemos leer listas de herramientas de endpoints en internet

Vulnerabilidades publicadas (OSV.dev)

Aún no revisado

Qué revisamos → · JSON

Creadores: pedir otra revisión o avisar de un dato erróneo
Para autores: añade una insignia a tu README

Si lo creaste tú, pega este código en tu README. La insignia enlaza a esta página.

[![Featured on PopNx MCP](https://mcp.popnx.com/badge/awaistechnologist-llm-sidecar.svg)](https://mcp.popnx.com/en/servers/awaistechnologist-llm-sidecar)

Conversación

Pregunta, comparte un consejo o avisa de que no funciona. Ordenado por lo que la gente marcó como útil.

Aún no hay publicaciones. Sé la primera persona en preguntar o compartir.

Lo publicado aquí lo escriben usuarios, no el equipo de PopNx.

Inicia sesión para publicar

Reseñas de usuarios

Aún no hay reseñas

Inicia sesión para escribir una reseña

Comparado con otros en Búsqueda y memoria de IAi

  • Más estrellas que el 77% de los otros 6535 servidores de esta categoría
  • Publicado en el registro más recientemente que el 94% de los otros 6535 servidores de esta categoría
  • Revisiones básicas iguales o mejores que el 99% de los otros 6535 servidores de esta categoría

Comparado con todos los servidores activos de esta categoría en el registro. Las estrellas solo cuentan cuando quien lo publica es dueño del repo.

Preguntas frecuentes

¿Es seguro llm-sidecar?

Superó 3 de 3 revisiones básicas aplicables. No hemos leído el código. Antes de agregar una clave o un token, revisa qué acceso pide el servidor y usa una clave que tenga solo los permisos que necesitas.

¿Qué claves o códigos necesita?

El registro no indica ninguna clave obligatoria, aunque algunos servidores te piden iniciar sesión la primera vez que los usas.

¿Se ejecuta en mi computadora o en la nube?

Se ejecuta en tu computadora. Tu app de IA lo inicia cuando hace falta, y los datos no pasan por los servidores del creador (a menos que el propio servidor llame a un servicio en línea).

¿Sigue en mantenimiento?

El repo de GitHub cambió por última vez hace 3 días, y la última versión (0.9.3) llegó al registro hace 3 días.

¿Qué apps pueden usarlo?

Las apps compatibles con MCP, como Claude Desktop, Claude Code, Cursor y VS Code. También necesitas Python (uv) en tu computadora.

¿Qué puedo usar en su lugar?

En la misma categoría: OpenSEO, Exa, Microsoft Learn MCP, Docs, COTAL actions (cotal.ai)

Alternativas parecidas

Misma categoría, otros creadores, comandos ya revisados. Primero los oficiales, luego por estrellas.

Cómo leer una tarjeta:↓ Descargas por semanai★ Estrellas de GitHubiTres pilares: reseñas · revisiones · usoiActualizado = fecha en que se publicó la última versión en el registroi

OpenSEO

Keyword research, site audits, rank tracking and AI visibility for your AI agent.

de every-appMuy usado★ 28,4 milActualizado hace 7 días

Se ejecuta en la nube✓ everyapp.com

Exa

Official Exa MCP for web search, content fetching, and multi-step research.

de exa-labsMuy usado★ 5,2 milActualizado ayer

Se ejecuta en la nube✓ del servicio · exa.aiProbado por el equipo de PopNx

Microsoft Learn MCP

Official Microsoft Learn MCP Server – real-time, trusted docs & code samples for AI and LLMs.

de MicrosoftDocsMuy usado★ 2 milActualizado hace 12 meses

Se ejecuta en la nube✓ del servicio · microsoft.comProbado por el equipo de PopNx

Docs

Search and read Empryo's documentation. Read-only, no auth, no local access.

de proxysoulEn crecimiento★ 1,6 milActualizado hace 3 meses

Se ejecuta en la nube✓ empryo.com

COTAL actions (cotal.ai)

cotal.ai actions: product overview, site search, build log, feedback, Cloud waitlist, updates, calls

de Cotal-AIEn crecimiento★ 403Actualizado hace 2 meses

Se ejecuta en la nube✓ del servicio · cotal.ai
Comparado con otros parecidos
Este
llm-sidecar
OpenSEOExaMicrosoft Learn MCPDocsCOTAL actions (cotal.ai)
Dónde se ejecutaSe instala en tu equipoFunciona en la nube, sin instalar nadaFunciona en la nube, sin instalar nadaFunciona en la nube, sin instalar nadaFunciona en la nube, sin instalar nadaFunciona en la nube, sin instalar nada
Necesita claveNoNoNoNoNoNo
Se añade con + en ClaudeNoSíSíSíNoNo
Revisiones básicas3/35/52/44/44/44/4
LicenciaMITMITMITCC-BY-4.0NOASSERTIONApache-2.0
PrecioSin coste en el registroSin coste en el registroSin coste en el registroSin coste en el registroSin coste en el registroSin coste en el registro

README del creador

Abrir el README

Copiado tal cual del repo del creador. PopNx MCP no lo ha revisado ni lo respalda. Se quitaron HTML, imágenes y scripts. Los enlaces llevan fuera de este sitio.

llm-sidecar

A local sidecar that gives every tool on your machine grounded, cited, routed AI — and never asks you which model to use.

One process. It picks a working model, searches the web, reads pages, checks facts, and tells you what everything cost. Works with no API key at all if you have Ollama; works better with one.

$ llm-sidecar answer "What is Iran's population?"

As of mid-2026, Iran's population is estimated at 93,168,497 (Worldometer, based on UN 2024 Revision). The 2025 estimate from Wikipedia is 92,417,681.

Caveat: Sources differ by year and methodology: Worldometer (2026 mid-year) gives 93.17 million; Wikipedia (2025 est.) gives 92.42 million.

Sources: · https://en.wikipedia.org/wiki/Demographics_of_Iran · https://www.worldometers.info/world-population/iran-population/

That came from the live web, not training data, and it says where it got it — including that the sources disagree. Ask something the web can't settle and it tells you, instead of guessing.

It is not instant: a grounded answer means a search, two or three page fetches and a model call, so expect tens of seconds — more on free models, which are slow and sometimes have to be rotated past.

Status: early (0.6.0). The API may still move. Extracted from

Agora, where the routing and

verification were originally built and proven.


Install

brew install pipx

pipx ensurepath exec $SHELL pipx install llm-sidecar

On Linux use apt install pipx instead of brew. That is the whole install — no extras to remember, every door works.

The third line matters: pipx ensurepath edits your shell config, and cannot change a shell that is already running. exec $SHELL reloads it. Without that you get command not found: llm-sidecar even though the install succeeded.

Add an OpenRouter key if you want free cloud models. Without one it runs entirely on Ollama.

llm-sidecar config key sk-or-your-key --save

llm-sidecar status

"command not found: pip" , or "externally-managed-environment"

Neither is broken — both are modern Python on macOS and Linux behaving as designed, and they are the reason this page says pipx.

`pip` is not a command on most Macs. Homebrew installs pip3, not pip. PyPI's install line is boilerplate it prints for every package; it doesn't know what your Python looks like.

`pip3 install` then refuses anyway, with error: externally-managed-environment. Since PEP 668, distributions mark their Python as off-limits to global installs, because system tooling depends on it and one bad upgrade breaks the OS.

pipx exists for exactly this. It creates a private virtualenv per tool and puts just the command on your PATH, so nothing global changes. It is the standard way to install a Python application, as opposed to a library.

For a library in your own project, pip is still right — inside that project's virtualenv:

python3 -m venv .venv

./.venv/bin/pip install llm-sidecar

</details>

Run it as a service

A sidecar you have to remember to start isn't one:

llm-sidecar service install     # launchd on macOS, systemd on Linux

Starts at login, restarts if it dies, logs to ~/Library/Logs/llm-sidecar.log. service status and service uninstall do what they say. Or just llm-sidecar serve in a terminal when you want it.

Now every tool on the machine can reach it:

export OPENAI_BASE_URL=http://localhost:4001/v1    # any OpenAI-compatible tool

export OPENAI_API_KEY=unused # the format demands the field

...and the dashboard is at http://localhost:4001.

From source

git clone https://github.com/awaistechnologist/llm-sidecar

cd llm-sidecar && ./install.sh && ./run.sh # Windows: install.bat, run.bat

install.sh reports what your machine can actually reach — Ollama and how many models, whether a key is set, whether Docker is around for SearXNG — and prints the MCP config with your real paths filled in.

Note that a clone under ~/Documents or ~/Desktop cannot be run as a launchd service: macOS keeps those behind a privacy prompt that background processes never receive. service install detects this and tells you rather than leaving a crash loop behind.

What it does

`answer`Ask a question → searches, reads the pages, answers from those pages only, with citations. Says "not in the sources" rather than guessing.
`verify`Grade claims against live evidence: supported / contradicted / unverified, each cited. Unresolved claims are re-checked against full page text.
`fact_check`Pull every claim out of a document and verify each one.
`complete` / `stream`Routed inference. Local, free cloud, or paid — you don't name a model.
`search` / `read_url`Keyless web search, and full page text with the navigation stripped.
`embed` / `rank`Text to vectors, and candidates ordered by similarity. Real semantic matching instead of substring matching.
`summarise` / `classify` / `extract`Bounded structured work at temperature 0, so it's repeatable and cached.
hardware advisorWhich of your Ollama models actually fit in RAM, before one crawls in swap.
usage ledgerWhat you spent, on which model, over time.

Why it exists

Most "LLM router" projects answer *which provider should this call go to*. That's plumbing. The point here is the layer above it: capabilities that are hard to build well and that every tool re-implements badly — grounded search, cited verification — sharing one routing, budget and cost substrate.

The routing does earn its keep in one specific way: a catalogue entry is not a working model. Free tiers throttle, checkpoints get retired, endpoints start returning empty completions. So before handing back a model, the picker spends one tiny call proving it answers *right now*.


Four ways in

Same core, four doors, because the consumers can't use each other's interface.

Library
from llm_sidecar import Sidecar

sc = Sidecar()

a = sc.answer("What shipped in Python 3.14?") if a.grounded: # False = the sources didn't settle it print(a.text, a.sources)

sc.verify(["The Eiffel Tower is in Berlin"]) # → contradicted, cited sc.fact_check(article) # extract claims, verify each sc.summarise(text, style="bullets", focus="security") sc.classify(tickets, labels=["bug", "feature", "question"]) sc.extract(invoice, {"total": "amount with currency", "due_date": "ISO date"})

sc.complete("Explain CRDTs") # routes itself sc.complete(messages=[...]) # real multi-turn sc.complete_many([p1, p2, p3]) # concurrent, ordered await sc.acomplete("...")

Semantic similarity — vectors, not substring matching

sc.rank("senior python backend engineer", [cv_a, cv_b, cv_c]) # ordered, scored sc.similarity("a golden retriever", "a puppy") # 0.86 sc.embed(["one", "two"]) # raw vectors

Guaranteed-shape output, enforced by the provider rather than parsed and hoped

sc.complete("Rate this candidate", schema={ "type": "object", "properties": {"score": {"type": "integer"}, "reason": {"type": "string"}}, "required": ["score", "reason"], })

sc.local_models() # your Ollama models, scored against this machine sc.usage(days=30) # what you spent sc.status() # everything at once

HTTP daemon — for any tool, in any language
llm-sidecar serve

export OPENAI_BASE_URL=http://localhost:4001/v1 export OPENAI_API_KEY=unused # the format demands the field

It speaks the chat-completions format every provider copied from OpenAI. That format is a de facto standard, not a vendor tie — Ollama and OpenRouter accept the identical request shape, which is why routing between them is a URL swap. The variable is named after OpenAI because the openai SDK reads it; other tools call the same setting --openai-api-base, apiBase, or "Base URL".

The `model` field is a request, not an instruction. A tool that hardcodes gpt-4o gets a verified working model and never finds out:

$ curl -s localhost:4001/v1/chat/completions -d '{"model":"gpt-4o", ...}'

{"model": "nvidia/nemotron-3-ultra-550b-a55b:free", ..., "x_sidecar": {"cost_usd": 0.0, "local": false, "cached": false}}

Beyond the standard surface: /v1/answer, /v1/verify, /ops/* for each capability, /status, /usage, /resolve-preview, /config/*. Swagger at /docs.

MCP — for agents

Nothing to install first:

{"mcpServers": {"llm-sidecar": {

"command": "uvx", "args": ["--from", "llm-sidecar", "llm-sidecar-mcp"]}}}

Or, after pipx install llm-sidecar:

{"mcpServers": {"llm-sidecar": {"command": "llm-sidecar-mcp"}}}

Both are copy-pasteable as they stand — no path to fill in.

17 tools, grouped by what they are for.

Evidence and verification: search_web · answer_question · read_url · verify_claims · extract_claims · fact_check_document

Bounded structured work: summarise · classify · extract_fields · delegate

Images, on Apple Silicon with the [images] extra: list_image_profiles · generate_image · edit_with_references · upscale_image

Housekeeping: usage_report · sidecar_status · whats_new

whats_new(since=" ") is how an agent finds out what changed without anyone telling it — see Finding out what changed.

Note what's *not* there: a general "call an LLM" tool. An MCP client is already a model, so exposing inference to it is close to a no-op. What it can't do for itself is fetch live evidence and grade claims against it. delegate is the exception — it's for offloading bulk work to something cheap.

CLI
llm-sidecar answer "who currently runs the ECB?"   # non-zero exit if ungrounded

llm-sidecar verify "the Great Wall is visible from space" llm-sidecar sum report.md --style bullets llm-sidecar models # local models vs your RAM llm-sidecar usage --days 30 llm-sidecar searxng up # better search, one command


How a model gets chosen

Two questions, always. Tier = how capable. Budget = what it may cost. They are independent.

What each capability asks for
  verify · fact_check · summarise · classify        ┐

extract · extract_claims · delegate ├──► tier "fast" ┘ bulk work, cheap

answer · chat · complete() ───► tier "balanced"

budget is always your configured default unless you pass one.

There is no separate "chat model". One picker serves everything, so changing a key or a budget changes every capability at once.

The resolution order

Four checks, first match wins.

  ① model="ollama/qwen2.5:32b" given?   ──yes──►  use it. never rotated.

(or "claude/opus", or any exact id) │ no ② is this tier LOCKED to a m

Solo se muestra el principio; lee el resto en el repo