原型 · 预览版:收录官方注册中心里的全部服务器,每 30 分钟同步一次。使用 Google 登录即可撰写评价。原型 · 每 30 分钟更新
PopNx MCP为使用 AI 的人准备的 MCP 服务器 · 用大白话讲清楚

Ollama / vLLM Bridge

作者:setheerwagen版本 1.0.6i★ 0i在你的电脑上运行代码仓库 ↗
注册名称io.github.setheerwagen/mcp-ollama-vllm

安装方法

What it does

Call your local Ollama or vLLM model over MCP with schema-validated JSON output

  • Connects 在你的电脑上运行
  • Account or key No key needed · 1 setting to fill in (LOCAL_HOST)
  • Category 开发者工具

可搭配使用

教 AI 做这类工作的 Skill,可与本项一起使用

rea

Reverse engineer anything with agents, from app behavior down to native binaries.

作者:morluto★ 468,7331 个 skill

Skill · 操作手册

andrej-karpathy-skills

A single CLAUDE.md file to improve Claude Code behavior, derived from Andrej Karpathy's observations on LLM coding pitfalls.

作者:multica-ai★ 234,3321 个 skill

Skill · 操作手册未注明许可证

graphify

Turn any codebase, with its docs, SQL schemas, configs, and PDFs, into a queryable knowledge graph. A /graphify skill for Claude Code, Cursor, Codex, and Gemini CLI: local deterministic AST parsing, every edge explained, no vector store.

作者:Graphify-Labs★ 150,2871 个 skill

Skill · 操作手册

为什么排在这里

列表按使用分(满分 100)排序,由以下部分组成

热度0/80GitHub 星标或每周下载量:较大的计 60,较小的计 20
新鲜度12/1230 天内有发布或代码更新得满分
仍在响应0/8上次检查时云端端点有响应
使用分12/100

质量: 基础检查通过 3/3 项(仅展示,不用于排序) · 上升势头: 暂无数据 (只用于“上升中”标签)

安装

选择你使用的 AI 应用,然后复制设置。

用一句话让 AI 帮你安装

请帮我安装 Ollama / vLLM Bridge。按照 https://mcp.popnx.com/i/setheerwagen-mcp-ollama-vllm.md 操作,先把命令给我看,等我同意后再运行。

粘贴到能在你电脑上工作的 AI(如 Claude Code、Cursor)。它会读取我们的步骤,先给你看命令,等你同意。无需密钥,无需注册。 · 查看 AI 会读取的全文

通过 3/3 项检查 · 在你的电脑上运行 · ✓ 命令已检查 2026年11月14日

第一步:你用哪个 AI?

选择你用的应用,步骤会显示在下方。

可连接 Claude,但需要先准备

需要填写 1 项设置(LOCAL_HOST) · 需要先在电脑上安装 Python (uv)(只需一次) · 仅限电脑上的 Claude 应用(Windows 或 Mac),网页和手机不可用

让 AI 帮你安装

把这段话复制到 Claude 的对话里。AI 会先检查电脑,告诉你要改哪个文件,并且每次都等你同意。

请在这台电脑上为 Claude 安装 MCP server Ollama / vLLM Bridge,按顺序:1) 用 uv --version 检查是否有 uv。没有的话,请让我从 https://docs.astral.sh/uv/getting-started/installation/ 安装,不要自己安装。2) 只使用这份配置(已通过 PopNx MCP 检查):{ "mcpServers": { "ollama-vllm": { "command": "uvx", "args": [ "mcp-ollama-vllm" ], "env": { "LOCAL_HOST": "your-value" } } } } 3) 告诉我要修改的文件完整路径或要运行的命令,等我同意。4) LOCAL_HOST 先保留 "your-value",请我自己把真实值粘贴到文件或应用的输入框里。不要让我在对话里输入密钥。5) 按约定执行,然后确认 Ollama / vLLM Bridge 的工具真的出现了。

这段话不包含你的密钥。如果需要密钥,AI 会请你自己粘贴到文件或应用的输入框里。

  1. 安装 uv(如果还没有)

    已经装好了吗?先检查 · 打开终端,输入这条命令后按 Enter

    uv --version
    • 显示版本号(例如 uv …)= 已安装,可跳过这一步
    • 显示 "command not found"(Windows 显示 "is not recognized")= 还没安装,或刚装好但需要关掉终端再重新打开
    怎么打开终端

    Mac:按 ⌘ + Space,输入 Terminal 后按 Enter

    Windows:打开“开始”菜单,输入 Windows PowerShell,然后选“打开”

    还没安装: uv 没有点选式安装程序。从 uv 官方页面复制适合你系统(macOS 或 Windows)的一行命令,粘贴到终端 · 不需要单独安装 Python,uv 会在需要时自动下载

    打开 uv 下载页 ↗

    装好后关掉终端再打开,重新运行同一条命令,应显示版本号: uv --version

    安装一次,所有需要 uv 的工具都能用

  2. 填写 1 项设置

    这些是程序设置,不是密钥,无需注册。按开发者的说明填写。

    • LOCAL_HOST 模型端点 URL;必须位于本地或您自己的网络中。openai 后端必需。
      查看英文原文Model endpoint URL; must be local or on your own network. Required for the openai backend

    说明为自动翻译,变量名保持原样;不确定时请查看原文。

  3. 打开电脑版 Claude 应用的设置文件

    SettingsDeveloperEdit Config

  4. 粘贴这些设置并保存文件

    {
      "mcpServers": {
        "ollama-vllm": {
          "command": "uvx",
          "args": [
            "mcp-ollama-vllm"
          ],
          "env": {
            "LOCAL_HOST": "your-value"
          }
        }
      }
    }
  5. 退出 Claude 再重新打开

  6. 试一试

    用 Ollama / vLLM Bridge 告诉我你能帮我做什么,然后做一件给我看

    ✓ 如果 Claude 说正在使用 Ollama / vLLM Bridge,或回答中出现 Ollama / vLLM Bridge 的工具名称,就表示连接成功

6 项可选设置(不填也能用)

上面的命令不填这些也能用。想调整时再按开发者的说明添加。

  • LOCAL_BACKEND 要使用的后端:ollama、vllm 或 openai
    查看英文原文Backend to use: ollama, vllm or openai
    · 默认值 ollama
  • LOCAL_API_KEY 可选的 bearer token,仅适用于 openai 后端;以请求头发送,且不会被记录。
    查看英文原文Optional bearer token, openai backend only; sent as a header, never logged
  • LOCAL_TIMEOUT 读取超时时间(秒)
    查看英文原文Read timeout in seconds
    · 默认值 600
  • LOCAL_EMBED_MODEL 默认嵌入模型
    查看英文原文Default embedding model
    · 默认值 nomic-embed-text
  • LOCAL_EMBED_PATH 可选,仅适用于 openai 后端:嵌入(embedding)端点路径
    查看英文原文Optional, openai backend only: embedding endpoint path
    · 默认值 /v1/embeddings
  • LOCAL_SCHEMA_MODE 可选,仅适用于 openai 后端:auto、response_format 或 none
    查看英文原文Optional, openai backend only: auto, response_format or none
    · 默认值 auto

说明为自动翻译,变量名保持原样;不确定时请查看原文。

菜单名称已于 2026年11月11日 对照 Anthropic 帮助页面核实 · 你的界面可能因版本略有不同

ChatGPT 暂时无法连接 Ollama / vLLM Bridge

Ollama / vLLM Bridge 需要安装在你的电脑上,而 ChatGPT 只能连接在网上运行的服务器

你可以改用这些方式

A · 使用能连接 Ollama / vLLM Bridge 的应用

  • 需要填写 1 项设置(LOCAL_HOST) · 需要先在电脑上安装 Python (uv)(只需一次) · 仅限电脑上的 Claude 应用(Windows 或 Mac),网页和手机不可用
  • 需要填写 1 项设置(LOCAL_HOST) · 需要先在电脑上安装 Python (uv)(只需一次)
  • 需要填写 1 项设置(LOCAL_HOST) · 需要先在电脑上安装 Python (uv)(只需一次)
  • 需要填写 1 项设置(LOCAL_HOST) · 需要先在电脑上安装 Python (uv)(只需一次)

B · 开发者工具 类中能连接 ChatGPT 的其他服务器

从同类中使用较多的里挑选,仅限用地址即可连接、无需密钥的

可连接 Claude Code,但需要先准备

需要填写 1 项设置(LOCAL_HOST) · 需要先在电脑上安装 Python (uv)(只需一次)

让 AI 帮你安装

把这段话复制到 Claude Code 的对话里。AI 会先检查电脑,告诉你要改哪个文件,并且每次都等你同意。

请在这台电脑上为 Claude Code 安装 MCP server Ollama / vLLM Bridge,按顺序:1) 用 uv --version 检查是否有 uv。没有的话,请让我从 https://docs.astral.sh/uv/getting-started/installation/ 安装,不要自己安装。2) 只使用这份配置(已通过 PopNx MCP 检查):claude mcp add --scope user ollama-vllm --env LOCAL_HOST=your-value -- uvx mcp-ollama-vllm 3) 告诉我要修改的文件完整路径或要运行的命令,等我同意。4) LOCAL_HOST 先保留 "your-value",请我自己把真实值粘贴到文件或应用的输入框里。不要让我在对话里输入密钥。5) 按约定执行,然后确认 Ollama / vLLM Bridge 的工具真的出现了。

这段话不包含你的密钥。如果需要密钥,AI 会请你自己粘贴到文件或应用的输入框里。

  1. 安装 uv(如果还没有)

    已经装好了吗?先检查 · 打开终端,输入这条命令后按 Enter

    uv --version
    • 显示版本号(例如 uv …)= 已安装,可跳过这一步
    • 显示 "command not found"(Windows 显示 "is not recognized")= 还没安装,或刚装好但需要关掉终端再重新打开
    怎么打开终端

    Mac:按 ⌘ + Space,输入 Terminal 后按 Enter

    Windows:打开“开始”菜单,输入 Windows PowerShell,然后选“打开”

    还没安装: uv 没有点选式安装程序。从 uv 官方页面复制适合你系统(macOS 或 Windows)的一行命令,粘贴到终端 · 不需要单独安装 Python,uv 会在需要时自动下载

    打开 uv 下载页 ↗

    装好后关掉终端再打开,重新运行同一条命令,应显示版本号: uv --version

    安装一次,所有需要 uv 的工具都能用

  2. 填写 1 项设置

    这些是程序设置,不是密钥,无需注册。按开发者的说明填写。

    • LOCAL_HOST 模型端点 URL;必须位于本地或您自己的网络中。openai 后端必需。
      查看英文原文Model endpoint URL; must be local or on your own network. Required for the openai backend

    说明为自动翻译,变量名保持原样;不确定时请查看原文。

  3. 打开终端

    Mac:按 Command+空格,输入 Terminal · Windows:打开 PowerShell

  4. 粘贴这条命令并按 Enter

    claude mcp add --scope user ollama-vllm --env LOCAL_HOST=your-value -- uvx mcp-ollama-vllm
  5. 在 Claude Code 中输入 /mcp

    应能看到 Ollama / vLLM Bridge 在列表中并显示已连接

  6. 试一试

    用 Ollama / vLLM Bridge 告诉我你能帮我做什么,然后做一件给我看

    ✓ 如果 Claude Code 说正在使用 Ollama / vLLM Bridge,或回答中出现 Ollama / vLLM Bridge 的工具名称,就表示连接成功

6 项可选设置(不填也能用)

上面的命令不填这些也能用。想调整时再按开发者的说明添加。

  • LOCAL_BACKEND 要使用的后端:ollama、vllm 或 openai
    查看英文原文Backend to use: ollama, vllm or openai
    · 默认值 ollama
  • LOCAL_API_KEY 可选的 bearer token,仅适用于 openai 后端;以请求头发送,且不会被记录。
    查看英文原文Optional bearer token, openai backend only; sent as a header, never logged
  • LOCAL_TIMEOUT 读取超时时间(秒)
    查看英文原文Read timeout in seconds
    · 默认值 600
  • LOCAL_EMBED_MODEL 默认嵌入模型
    查看英文原文Default embedding model
    · 默认值 nomic-embed-text
  • LOCAL_EMBED_PATH 可选,仅适用于 openai 后端:嵌入(embedding)端点路径
    查看英文原文Optional, openai backend only: embedding endpoint path
    · 默认值 /v1/embeddings
  • LOCAL_SCHEMA_MODE 可选,仅适用于 openai 后端:auto、response_format 或 none
    查看英文原文Optional, openai backend only: auto, response_format or none
    · 默认值 auto

说明为自动翻译,变量名保持原样;不确定时请查看原文。

菜单名称已于 2026年11月11日 对照 Anthropic 帮助页面核实 · 你的界面可能因版本略有不同

可连接 Cursor,但需要先准备

需要填写 1 项设置(LOCAL_HOST) · 需要先在电脑上安装 Python (uv)(只需一次)

让 AI 帮你安装

把这段话复制到 Cursor 的对话里。AI 会先检查电脑,告诉你要改哪个文件,并且每次都等你同意。

请在这台电脑上为 Cursor 安装 MCP server Ollama / vLLM Bridge,按顺序:1) 用 uv --version 检查是否有 uv。没有的话,请让我从 https://docs.astral.sh/uv/getting-started/installation/ 安装,不要自己安装。2) 只使用这份配置(已通过 PopNx MCP 检查):{ "mcpServers": { "ollama-vllm": { "command": "uvx", "args": [ "mcp-ollama-vllm" ], "env": { "LOCAL_HOST": "your-value" } } } } 3) 告诉我要修改的文件完整路径或要运行的命令,等我同意。4) LOCAL_HOST 先保留 "your-value",请我自己把真实值粘贴到文件或应用的输入框里。不要让我在对话里输入密钥。5) 按约定执行,然后确认 Ollama / vLLM Bridge 的工具真的出现了。

这段话不包含你的密钥。如果需要密钥,AI 会请你自己粘贴到文件或应用的输入框里。

  1. 安装 uv(如果还没有)

    已经装好了吗?先检查 · 打开终端,输入这条命令后按 Enter

    uv --version
    • 显示版本号(例如 uv …)= 已安装,可跳过这一步
    • 显示 "command not found"(Windows 显示 "is not recognized")= 还没安装,或刚装好但需要关掉终端再重新打开
    怎么打开终端

    Mac:按 ⌘ + Space,输入 Terminal 后按 Enter

    Windows:打开“开始”菜单,输入 Windows PowerShell,然后选“打开”

    还没安装: uv 没有点选式安装程序。从 uv 官方页面复制适合你系统(macOS 或 Windows)的一行命令,粘贴到终端 · 不需要单独安装 Python,uv 会在需要时自动下载

    打开 uv 下载页 ↗

    装好后关掉终端再打开,重新运行同一条命令,应显示版本号: uv --version

    安装一次,所有需要 uv 的工具都能用

  2. 填写 1 项设置

    这些是程序设置,不是密钥,无需注册。按开发者的说明填写。

    • LOCAL_HOST 模型端点 URL;必须位于本地或您自己的网络中。openai 后端必需。
      查看英文原文Model endpoint URL; must be local or on your own network. Required for the openai backend

    说明为自动翻译,变量名保持原样;不确定时请查看原文。

  3. 点击这个按钮打开 Cursor

    在 Cursor 中打开

    Cursor 会请你确认安装,点击 Install

  4. 填写你的密钥

    在 Ollama / vLLM Bridge 的设置中,LOCAL_HOST 还是空的,填入你的密钥并保存

  5. 在 Cursor 中以 Agent 模式打开 AI 聊天

  6. 试一试

    用 Ollama / vLLM Bridge 告诉我你能帮我做什么,然后做一件给我看

    ✓ 如果 Cursor 说正在使用 Ollama / vLLM Bridge,或回答中出现 Ollama / vLLM Bridge 的工具名称,就表示连接成功

6 项可选设置(不填也能用)

上面的命令不填这些也能用。想调整时再按开发者的说明添加。

  • LOCAL_BACKEND 要使用的后端:ollama、vllm 或 openai
    查看英文原文Backend to use: ollama, vllm or openai
    · 默认值 ollama
  • LOCAL_API_KEY 可选的 bearer token,仅适用于 openai 后端;以请求头发送,且不会被记录。
    查看英文原文Optional bearer token, openai backend only; sent as a header, never logged
  • LOCAL_TIMEOUT 读取超时时间(秒)
    查看英文原文Read timeout in seconds
    · 默认值 600
  • LOCAL_EMBED_MODEL 默认嵌入模型
    查看英文原文Default embedding model
    · 默认值 nomic-embed-text
  • LOCAL_EMBED_PATH 可选,仅适用于 openai 后端:嵌入(embedding)端点路径
    查看英文原文Optional, openai backend only: embedding endpoint path
    · 默认值 /v1/embeddings
  • LOCAL_SCHEMA_MODE 可选,仅适用于 openai 后端:auto、response_format 或 none
    查看英文原文Optional, openai backend only: auto, response_format or none
    · 默认值 auto

说明为自动翻译,变量名保持原样;不确定时请查看原文。

菜单名称已于 2026年11月11日 对照 Cursor 帮助页面核实 · 你的界面可能因版本略有不同

可连接 VS Code,但需要先准备

需要填写 1 项设置(LOCAL_HOST) · 需要先在电脑上安装 Python (uv)(只需一次)

让 AI 帮你安装

把这段话复制到 VS Code 的对话里。AI 会先检查电脑,告诉你要改哪个文件,并且每次都等你同意。

请在这台电脑上为 VS Code 安装 MCP server Ollama / vLLM Bridge,按顺序:1) 用 uv --version 检查是否有 uv。没有的话,请让我从 https://docs.astral.sh/uv/getting-started/installation/ 安装,不要自己安装。2) 只使用这份配置(已通过 PopNx MCP 检查):{ "servers": { "ollama-vllm": { "type": "stdio", "command": "uvx", "args": [ "mcp-ollama-vllm" ], "env": { "LOCAL_HOST": "your-value" } } } } 3) 告诉我要修改的文件完整路径或要运行的命令,等我同意。4) LOCAL_HOST 先保留 "your-value",请我自己把真实值粘贴到文件或应用的输入框里。不要让我在对话里输入密钥。5) 按约定执行,然后确认 Ollama / vLLM Bridge 的工具真的出现了。

这段话不包含你的密钥。如果需要密钥,AI 会请你自己粘贴到文件或应用的输入框里。

  1. 安装 uv(如果还没有)

    已经装好了吗?先检查 · 打开终端,输入这条命令后按 Enter

    uv --version
    • 显示版本号(例如 uv …)= 已安装,可跳过这一步
    • 显示 "command not found"(Windows 显示 "is not recognized")= 还没安装,或刚装好但需要关掉终端再重新打开
    怎么打开终端

    Mac:按 ⌘ + Space,输入 Terminal 后按 Enter

    Windows:打开“开始”菜单,输入 Windows PowerShell,然后选“打开”

    还没安装: uv 没有点选式安装程序。从 uv 官方页面复制适合你系统(macOS 或 Windows)的一行命令,粘贴到终端 · 不需要单独安装 Python,uv 会在需要时自动下载

    打开 uv 下载页 ↗

    装好后关掉终端再打开,重新运行同一条命令,应显示版本号: uv --version

    安装一次,所有需要 uv 的工具都能用

  2. 填写 1 项设置

    这些是程序设置,不是密钥,无需注册。按开发者的说明填写。

    • LOCAL_HOST 模型端点 URL;必须位于本地或您自己的网络中。openai 后端必需。
      查看英文原文Model endpoint URL; must be local or on your own network. Required for the openai backend

    说明为自动翻译,变量名保持原样;不确定时请查看原文。

  3. 点击这个按钮打开 VS Code

    在 VS Code 中打开

    VS Code 会请你确认安装,点击 Install

  4. 填写你的密钥

    在 Ollama / vLLM Bridge 的设置中,LOCAL_HOST 还是空的,填入你的密钥并保存

  5. 在 VS Code 中以 Agent 模式打开 AI 聊天

  6. 试一试

    用 Ollama / vLLM Bridge 告诉我你能帮我做什么,然后做一件给我看

    ✓ 如果 VS Code 说正在使用 Ollama / vLLM Bridge,或回答中出现 Ollama / vLLM Bridge 的工具名称,就表示连接成功

6 项可选设置(不填也能用)

上面的命令不填这些也能用。想调整时再按开发者的说明添加。

  • LOCAL_BACKEND 要使用的后端:ollama、vllm 或 openai
    查看英文原文Backend to use: ollama, vllm or openai
    · 默认值 ollama
  • LOCAL_API_KEY 可选的 bearer token,仅适用于 openai 后端;以请求头发送,且不会被记录。
    查看英文原文Optional bearer token, openai backend only; sent as a header, never logged
  • LOCAL_TIMEOUT 读取超时时间(秒)
    查看英文原文Read timeout in seconds
    · 默认值 600
  • LOCAL_EMBED_MODEL 默认嵌入模型
    查看英文原文Default embedding model
    · 默认值 nomic-embed-text
  • LOCAL_EMBED_PATH 可选,仅适用于 openai 后端:嵌入(embedding)端点路径
    查看英文原文Optional, openai backend only: embedding endpoint path
    · 默认值 /v1/embeddings
  • LOCAL_SCHEMA_MODE 可选,仅适用于 openai 后端:auto、response_format 或 none
    查看英文原文Optional, openai backend only: auto, response_format or none
    · 默认值 auto

说明为自动翻译,变量名保持原样;不确定时请查看原文。

菜单名称已于 2026年11月11日 对照 VS Code 帮助页面核实 · 你的界面可能因版本略有不同

其他支持 MCP 的应用(如 Windsurf、Zed、Gemini CLI)添加方式各不相同,请在应用列表中查看

查看所有支持 MCP 的应用 →

JSON 设置在下方“开发者专用”中

卡住了?问问正在用 Ollama / vLLM Bridge 的人💬 讨论 →
开发者专用:终端命令和 JSON 设置

安装在电脑上

Claude Code

claude mcp add --scope user ollama-vllm --env LOCAL_HOST=your-value -- uvx mcp-ollama-vllm

Claude Desktop (claude_desktop_config.json)

{
  "mcpServers": {
    "ollama-vllm": {
      "command": "uvx",
      "args": [
        "mcp-ollama-vllm"
      ],
      "env": {
        "LOCAL_HOST": "your-value"
      }
    }
  }
}

Cursor (~/.cursor/mcp.json)

{
  "mcpServers": {
    "ollama-vllm": {
      "command": "uvx",
      "args": [
        "mcp-ollama-vllm"
      ],
      "env": {
        "LOCAL_HOST": "your-value"
      }
    }
  }
}

VS Code (mcp.json)

{
  "servers": {
    "ollama-vllm": {
      "type": "stdio",
      "command": "uvx",
      "args": [
        "mcp-ollama-vllm"
      ],
      "env": {
        "LOCAL_HOST": "your-value"
      }
    }
  }
}

需要你填写的值

  • LOCAL_BACKEND env
    要使用的后端:ollama、vllm 或 openai
    查看英文原文Backend to use: ollama, vllm or openai
  • LOCAL_HOST 必填 env
    模型端点 URL;必须位于本地或您自己的网络中。openai 后端必需。
    查看英文原文Model endpoint URL; must be local or on your own network. Required for the openai backend
  • LOCAL_API_KEY 机密 env
    可选的 bearer token,仅适用于 openai 后端;以请求头发送,且不会被记录。
    查看英文原文Optional bearer token, openai backend only; sent as a header, never logged
  • LOCAL_TIMEOUT env
    读取超时时间(秒)
    查看英文原文Read timeout in seconds
  • LOCAL_EMBED_MODEL env
    默认嵌入模型
    查看英文原文Default embedding model
  • LOCAL_EMBED_PATH env
    可选,仅适用于 openai 后端:嵌入(embedding)端点路径
    查看英文原文Optional, openai backend only: embedding endpoint path
  • LOCAL_SCHEMA_MODE env
    可选,仅适用于 openai 后端:auto、response_format 或 none
    查看英文原文Optional, openai backend only: auto, response_format or none

说明为自动翻译,变量名保持原样;不确定时请查看原文。

这些设置是根据作者在注册中心的条目生成的。如果 README 的写法不同,请以 README 为准。

一览

每周下载量i
61/周
连接方式
在你的电脑上运行
最新版本i
1.0.6
发布到注册中心i
2026年10月22日
代码最后更新i
2026年10月22日
作者
setheerwagen
软件包
pypi: mcp-ollama-vllm
注册状态
活跃

哪些应用可以使用它

依据这个服务器的连接方式和各应用自己的文档,检查于 2026年11月10日。

在你的电脑上运行,适用于

ClaudeGooseLM StudioMsty StudioCherry StudioCursorVS Code + GitHub CopilotVisual StudioWindsurf (Devin Desktop)ZedKiroClineContinueJetBrains AI AssistantClaude CodeCodex CLIGemini CLIOpenCodenodecodeWarpLibreChatRaycast

全部应用及其优缺点 →

它能做什么

它在你的电脑上运行;安装后,工具列表会显示在你的 AI 应用中。

基础检查i

我们检查的是任何人都能看到的信息;我们没有阅读代码。不适用的检查项不计入总数。 · 检查于 2026年11月19日

  • ✓ 通过

    作者与仓库一致

    注册名称已通过 GitHub 账户 setheerwagen 验证,该账户拥有此仓库

  • ✓ 通过

    仍在维护

    代码最后更新于28天前

  • ✓ 通过

    有许可证

    使用 MIT

  • – 不适用

    端点有响应

    它在你的电脑上运行,没有互联网端点

  • – 不适用

    使用 OAuth 登录

    在你的电脑上运行,改用本地设置

  • … 尚未检查

    工具描述中没有隐藏指令

    它在你的电脑上运行;我们只能读取互联网端点的工具列表

已公开的漏洞(OSV.dev)

OSV.dev 中没有 mcp-ollama-vllm@1.0.6 的记录

只检查这个版本的包本身,不包括所有依赖 · 检查于 2026年11月16日

我们检查什么 → · JSON

作者:申请重新检查或报告信息错误
给作者:在 README 中加徽章

如果你是作者,可把这段代码贴到 README。徽章会链接回本页。

[![Featured on PopNx MCP](https://mcp.popnx.com/badge/setheerwagen-mcp-ollama-vllm.svg)](https://mcp.popnx.com/en/servers/setheerwagen-mcp-ollama-vllm)

讨论

提问、分享技巧或报告无法使用。按“有帮助”数量排序。

还没有帖子,欢迎第一个提问或分享。

此处内容由用户撰写,不代表 PopNx 团队。

登录后发帖

用户评价

还没有评价

登录后写评价

与“开发者工具”中的其他服务器比较i

  • 星标数多于此分类中其他 6182 个服务器的 0%
  • 发布到注册中心的时间比此分类中其他 6182 个服务器的 52% 更新
  • 基础检查结果等于或优于此分类中其他 6182 个服务器的 99%

与注册中心里这个分类中所有活跃的服务器比较。只有当发布者拥有该仓库时,星标数才计入。

常见问题

Ollama / vLLM Bridge 安全吗?

它在 3 项适用的基础检查中通过了 3 项。我们没有阅读代码。在添加密钥或令牌之前,请先看看这个服务器要求哪些权限,并使用只具备所需权限的密钥。

它需要哪些密钥或代码?

注册中心没有列出必需的密钥,不过有些服务器会在首次使用时要求你登录。

它在我的电脑上运行还是在云端?

它在你的电脑上运行。你的 AI 应用会在需要时启动它,数据不会经过作者的服务器(除非它自己调用在线服务)。

它还在维护吗?

GitHub 仓库最后更新于28天前,最新版本(1.0.6)于28天前进入注册中心。

哪些应用可以使用它?

支持 MCP 的应用,例如 Claude Desktop、Claude Code、Cursor 和 VS Code。你的电脑上还需要有 Python (uv)。

有什么可以替代它?

同一分类中有:GitDiagram, Appllama, Cloudflare MCP, Omnara, Repowise

功能相近的其他选择

同一分类、其他作者、命令已通过检查。官方的排在前面,再按星标排序。

如何看卡片:↓ 每周下载量i★ GitHub 星标i三大支柱:评价 · 检查 · 使用情况i更新 = 最新版本发布到注册中心的时间i

GitDiagram

Architecture diagrams, explanations and Mermaid source for public GitHub repositories.

作者:ahmedkhaleel2004广泛使用★ 1.9万2个月前更新

在云端运行✓ 服务方 · gitdiagram.comPopNx 团队已实际试用

Appllama

Study screens, flows and paywalls from top-earning iOS apps, then build from what wins.

作者:Appllama广泛使用★ 52303个月前更新

在云端运行✓ 服务方 · appllama.io

Omnara

Deploy durable AI agents with Omnara, an open-source managed-agent platform.

作者:omnara-ai广泛使用★ 34172个月前更新

在云端运行✓ 服务方 · omnara.com

Repowise

Codebase intelligence for AI coding agents: graph, git history, docs, decisions, code health.

作者:repowise-dev广泛使用↓ 6506/周★ 8180 整个仓库的星标6天前更新

电脑或云端✓ 服务方 · repowise.dev
与相似项目对比
本项
Ollama / vLLM Bridge
GitDiagramAppllamaCloudflare MCPOmnaraRepowise
运行位置需要安装在电脑上在云端运行,无需安装在云端运行,无需安装在云端运行,无需安装在云端运行,无需安装云端或安装在电脑上都可以
需要密钥否否否否否否
可在 Claude 中按 + 添加否否否是否否
基础检查3/34/44/44/44/45/5
许可证MITMITMITApache-2.0Apache-2.0AGPL-3.0
价格登记中未列出费用登记中未列出费用登记中未列出费用登记中未列出费用登记中未列出费用登记中未列出费用

作者的 README

打开 README

按原文从作者的仓库复制。PopNx MCP 没有审查或背书其内容。HTML、图片和脚本已被移除。链接会离开本站。

mcp-ollama-vllm

An MCP server that lets an MCP client such as Claude Code talk to local language models directly. The backend is wired up at startup: Ollama, vLLM, or a generic OpenAI-compatible endpoint (set once via LOCAL_BACKEND, see below). The third, openai, is not a plugin loader for arbitrary tools; it is one more fixed backend implementation, covering servers such as LM Studio, the llama.cpp server, LocalAI, TGI, koboldcpp, SGLang or Jan, which all expose the same OpenAI-compatible /v1 endpoints as vLLM but are not vLLM itself.

Why this one

The one thing this server does that a plain Ollama/vLLM call does not: schema-validated JSON output, checked with its own dependency-free validator and automatically retried on a violation (up to 3 attempts total, feeding the concrete violations back to the model), the same way, with the same tool call, regardless of which of the two backends is configured. Both Ollama's format and vLLM's response_format steer the model toward JSON, but neither guarantees that the result actually matches your schema; this server checks that independently instead of trusting the backend's word for it.

Before / after (illustrative, not a real run):

// Backend's own schema enforcement alone (Ollama "format" / vLLM "response_format"):

// looks like valid JSON, but a required field went missing under load and nobody // checked it against the schema before handing it onward. {"amount": 42.10, "currency": "EUR"}

// local_structured: the same case, but validated against the schema and // automatically retried with the concrete violation fed back to the model. {"amount": 42.10, "currency": "EUR", "total": 42.10} // -> attempts: 2, valid_on_first_try: false, outcome already re-validated

Known limits, stated on purpose:

  • With vLLM the model listing reports less metadata than Ollama: no size or quantization, those fields read unknown/0 instead of a made-up value.
  • With the generic `openai` backend the model listing usually reports even less: most such servers answer /v1/models with only id (and owned_by), so parameter_size/quantization read unknown, sizes read 0, there is no adapter signal, and max_context is only included when the endpoint genuinely reports it. The top-level metadata_reported field (see list_models below) makes this "not reported" honestly visible.
  • The think parameter (reasoning trace) has no effect on vLLM or `openai`; it is only wired up for Ollama. See "The think parameter" below.

Operating systems: CI runs the self-tests on Linux, and the mock-backed setup self-test selftest_vllm.py on Windows too; the server is pure Python with no OS-specific calls, and its live backend path was additionally exercised once on Windows on 2026-08-07. Needs a running backend service (Ollama or vLLM); the setup self-test selftest_vllm.py uses a mock and needs no real service. macOS is not separately tested.

Purpose

A large part of an AI agent's work is pure language processing: writing, summarizing, classifying, extracting structured data from text. These parts can be offloaded to a local model, while searching, reading, writing and the orchestration stay with the calling client.

This is explicitly about a model call, not an agent. The local model receives text and returns text. It has no tools, no file access, and it does not work in multiple steps.

Security properties

These limits are part of the design, not just the docs:

  • No file access. The server exposes no tool that reads or writes files. It reads only its own configuration from environment variables.
  • No shell execution. There is no path to subprocess, os.system or anything comparable.
  • Local machine or local network only. The server process itself makes no outbound calls other than to its configured backend endpoint, and that endpoint's address is checked both at startup and again on every call; if it points to the internet, the server refuses to start (or the call is rejected). Names are resolved for this, and all addresses behind them must be local, otherwise the guard could be bypassed via DNS; the resolved address is then pinned for the actual connection so a later re-resolution to a public address cannot slip past the check. Loopback and private networks (RFC 1918) are allowed, so a vLLM box on the local network is reachable; public addresses are rejected.
  • Two direct dependencies: mcp and httpx. mcp in turn pulls in several further packages transitively (among others anyio, pydantic, starlette, uvicorn, jsonschema, pyjwt). The full resolved tree is pinned in uv.lock; CI checks with uv lock --check that the lock still matches pyproject.toml, then installs the exact locked tree for the tests, so a drifted lock fails CI. A separate, advisory pip-audit job checks the locked tree for known vulnerabilities on every push to main and pull request and again weekly; it does not block a pull request.

These properties bound what this server does; they are not a claim about the AI tool that drives it. The model you call runs locally, but the Claude/ChatGPT session that decides to call it is a separate hosted service and sees the calls it makes, like any MCP call. Drive the server with a local model if that matters.

See SECURITY.md for the trust boundaries this covers (the model as an oracle rather than an agent, prompt injection via model output, DNS rebinding pinning) and what it does not.

Installation

Replace /path/to/mcp-ollama-vllm below with the directory you extracted/cloned this project into.

Python 3.10 or newer is required. There are two equivalent ways to set up a virtual environment; use whichever tool you have.

With the standard venv module and pip:

cd /path/to/mcp-ollama-vllm

python3 -m venv .venv .venv/bin/pip install -r requirements.txt

If python3 -m venv fails (on some distributions the python3-venv package is missing), either install that package or take the route with uv:

cd /path/to/mcp-ollama-vllm

uv venv .venv --seed .venv/bin/pip install -r requirements.txt

(--seed makes sure pip lands in the environment. Alternatively, without --seed, install with uv pip install --python .venv/bin/python -r requirements.txt.)

The modules live under src/mcp_ollama_vllm/ (a src layout, so the package name does not collide with other MCP servers' top-level modules). Either of the above gives you a checkout that runs via PYTHONPATH=src (see "Entry for the MCP configuration" below), or install the package itself with .venv/bin/pip install ., which additionally provides the mcp-ollama-vllm console script and needs no PYTHONPATH.

A reachable Ollama or vLLM backend is a prerequisite for running:

  • Ollama: install locally (see https://ollama.com), start it with ollama serve and pull at least one model (e.g. ollama pull llama3.2:3b); check with ollama list. For local_embed additionally pull an embedding model, e.g. ollama pull nomic-embed-text.
  • vLLM: an OpenAI-compatible vLLM endpoint on this machine or one on your local network. The backend is switched only through the environment variables described below; the server itself does not change.

Entry for the MCP configuration

In ~/.claude.json, or the mcpServers section of your Claude Code config:

{

"mcpServers": { "local-models": { "command": "/path/to/mcp-ollama-vllm/.venv/bin/python", "args": ["-m", "mcp_ollama_vllm.server"], "env": { "PYTHONPATH": "/path/to/mcp-ollama-vllm/src", "LOCAL_BACKEND": "ollama", "LOCAL_HOST": "http://localhost:11434", "LOCAL_TIMEOUT": "600" } } } }

Replace /path/to/mcp-ollama-vllm with the absolute path you extracted this project into. Alternatively via CLI:

claude mcp add local-models --env PYTHONPATH=/path/to/mcp-ollama-vllm/src -- \

/path/to/mcp-ollama-vllm/.venv/bin/python -m mcp_ollama_vllm.server

By default, claude mcp add binds the server to the current working directory; for global visibility across all directories, append --scope user.

Alternatively, after .venv/bin/pip install . (see "Installation" above), the PYTHONPATH entry is not needed and args can be ["-m", "mcp_ollama_vllm.server"] as is, or the installed console script can be used directly as command: /path/to/mcp-ollama-vllm/.venv/bin/mcp-ollama-vllm with no args.

First call

Restart your MCP client so it picks up the new server, then call list_models with no arguments. A response with your models proves the server starts, finds the backend and talks to it correctly, all in one step.

Environment variables
VariableDefaultMeaning
LOCAL_BACKENDollamaBackend: ollama, vllm or openai
LOCAL_HOSTper backendEndpoint; must be local or on your own network
LOCAL_TIMEOUT600Read timeout in seconds
LOCAL_EMBED_MODELnomic-embed-text (Ollama)Default embedding model
LOCAL_API_KEY-Optional; openai only. Sent as a Bearer header, never logged
LOCAL_EMBED_PATH/v1/embeddingsOptional; openai only. Embedding endpoint path
LOCAL_SCHEMA_MODEautoOptional; openai only. auto, response_format or none (see local_structured below)

The default for LOCAL_HOST is http://localhost:11434 for Ollama and http://localhost:8000 for vLLM. For openai there is no default: the generic backend has no sensible port to guess, so LOCAL_HOST is required and the server refuses to start without it.

The old names OLLAMA_HOST, OLLAMA_TIMEOUT and OLLAMA_EMBED_MODEL are still read so existing configurations do not break. If both are set, the LOCAL_ name wins.

Switching to a remote vLLM endpoint

The vLLM box on the local network is addressed through only two variables; the server itself does not change:

{

"mcpServers": { "local-models": { "command": "/path/to/mcp-ollama-vllm/.venv/bin/python", "args": ["-m", "mcp_ollama_vllm.server"], "env": { "PYTHONPATH": "/path/to/mcp-ollama-vllm/src", "LOCAL_BACKEND": "vllm", "LOCAL_HOST": "http://192.168.x.x:8000", "LOCAL_TIMEOUT": "600", "LOCAL_EMBED_MODEL": "BAAI/bge-m3" } } } }

Both backends can also be registered in parallel, under different names (e.g. local-models and local-models-server), so both are available in the same session.

Registering the same server multiple times

There is nothing wrong with registering the same server under several names at once, each with its own LOCAL_BACKEND/LOCAL_HOST. That way different backends can be addressed in the same session, for example:

  • one entry for a local Ollama (http://localhost:11434),
  • another for a vLLM on a different machine on your network,
  • a third for an Ollama on that same remote machine.

All three are then instances of one and the same server, just configured differently. Give them descriptive names and check before use which entry hits the intended machine and backend, rather than relying on the name alone.

The openai backend works the same way, no new routing mechanism: two generic-server entries on different ports, for example LM Studio on http://localhost:1234 and a llama.cpp server on http://localhost:8080:

{

"mcpServers": { "local-models-lmstudio": { "command": "/path/to/mcp-ollama-vllm/.venv/bin/python", "args": ["-m", "mcp_ollama_vllm.server"], "env": { "PYTHONPATH": "/path/to/mcp-ollama-vllm/src", "LOCAL_BACKEND": "openai", "LOCAL_HOST": "http://localhost:1234" } }, "local-models-llam

只显示了开头部分;其余内容请在仓库中阅读