프로토타입 · 미리 보기: 공식 레지스트리의 모든 서버를 담고 있으며 30분마다 동기화해요. Google로 로그인하면 리뷰를 쓸 수 있어요.프로토타입 · 30분마다 업데이트
PopNx MCPAI를 쓰는 사람을 위한 MCP 서버 · 쉬운 말로 설명해요

Ollama / vLLM Bridge

제작자: setheerwagen버전 1.0.6i★ 0i내 컴퓨터에서 실행저장소 ↗
레지스트리 이름io.github.setheerwagen/mcp-ollama-vllm

설치 방법

What it does

Call your local Ollama or vLLM model over MCP with schema-validated JSON output

  • Connects 내 컴퓨터에서 실행
  • Account or key No key needed · 1 setting to fill in (LOCAL_HOST)
  • Category 개발자 도구

함께 쓰기

이런 작업을 AI에게 가르치는 Skill, 이것과 함께 쓸 수 있습니다

rea

Reverse engineer anything with agents, from app behavior down to native binaries.

제작자: morluto★ 467,235skill 1개

Skill · 안내서

andrej-karpathy-skills

A single CLAUDE.md file to improve Claude Code behavior, derived from Andrej Karpathy's observations on LLM coding pitfalls.

제작자: multica-ai★ 234,125skill 1개

Skill · 안내서라이선스 명시 없음

graphify

Turn any codebase, with its docs, SQL schemas, configs, and PDFs, into a queryable knowledge graph. A /graphify skill for Claude Code, Cursor, Codex, and Gemini CLI: local deterministic AST parsing, every edge explained, no vector store.

제작자: Graphify-Labs★ 149,873skill 1개

Skill · 안내서

이 순위인 이유

목록은 사용 점수(100점 만점)로 정렬되며 구성은 다음과 같습니다

인기0/80GitHub 별 또는 주간 다운로드: 큰 쪽 60, 작은 쪽 20
최신성12/1230일 안에 릴리스나 코드 변경이 있으면 만점
응답 중0/8마지막 점검 때 클라우드 엔드포인트가 응답
사용 점수12/100

품질: 기본 점검 3/3개 통과(표시만, 정렬에는 안 씀) · 상승세: 데이터 없음 (급상승 탭에서만 사용)

설치

쓰고 있는 AI 앱을 고른 다음 설정을 복사하세요.

한 문장으로 AI에게 설치 맡기기

Ollama / vLLM Bridge 설치해 줘. https://mcp.popnx.com/i/setheerwagen-mcp-ollama-vllm.md 를 따라 하고, 명령을 먼저 보여 주고 내가 승인하면 실행해.

내 컴퓨터에서 작업하는 AI(Claude Code, Cursor 등)에 붙여 넣으세요. 단계를 읽고 명령을 보여 준 뒤 승인을 기다립니다. 키도 가입도 필요 없습니다. · AI가 읽을 전체 내용 보기

검사 3/3 통과 · 내 컴퓨터에서 실행돼요 · ✓ 명령 확인 2026년 11월 14일

먼저: 어떤 AI를 쓰시나요?

쓰는 앱을 고르면 아래에 단계가 나옵니다.

Claude에 연결할 수 있지만 먼저 준비가 필요해요

설정 1개 입력 필요 (LOCAL_HOST) · 먼저 컴퓨터에 Python (uv)를 설치하세요 (한 번만) · 컴퓨터용 Claude 앱(Windows 또는 Mac)에서만 되고 웹이나 모바일은 안 돼요

AI에게 설치 맡기기

이 메시지를 Claude 채팅에 붙여 넣으세요. AI가 컴퓨터를 확인하고 어떤 파일을 바꿀지 알려 준 뒤 매번 동의를 기다립니다.

이 컴퓨터의 Claude에 MCP server Ollama / vLLM Bridge을 설치해 주세요. 순서대로: 1) uv --version로 uv가 있는지 확인. 없으면 https://docs.astral.sh/uv/getting-started/installation/에서 설치하라고 알려 주고 직접 설치하지 마세요. 2) 이 설정만 사용하세요(PopNx MCP 확인 완료): { "mcpServers": { "ollama-vllm": { "command": "uvx", "args": [ "mcp-ollama-vllm" ], "env": { "LOCAL_HOST": "your-value" } } } } 3) 바꿀 파일의 전체 경로나 실행할 명령을 알려 주고 제 동의를 기다리세요. 4) LOCAL_HOST에는 "your-value"를 그대로 두고, 실제 값은 제가 파일이나 앱 입력란에 직접 붙여 넣도록 안내하세요. 채팅에 키를 입력하라고 하지 마세요. 5) 합의한 대로 실행한 뒤 Ollama / vLLM Bridge의 도구가 실제로 보이는지 확인하세요.

이 메시지에는 키가 없습니다. 키가 필요하면 AI가 파일이나 앱 입력란에 직접 붙여 넣으라고 안내합니다.

  1. uv 설치 (아직 없다면)

    이미 설치했나요? 먼저 확인 · 터미널을 열고 이 명령을 입력한 뒤 Enter

    uv --version
    • 버전 번호(예: uv …)가 나오면 설치된 것입니다. 이 단계는 건너뛰세요
    • "command not found"(Windows는 "is not recognized")가 나오면 아직 설치하지 않았거나, 방금 설치해서 터미널을 닫았다가 다시 열어야 합니다
    터미널 여는 법

    Mac: ⌘ + Space를 누르고 Terminal 입력 후 Enter

    Windows: 시작 메뉴를 열고 Windows PowerShell 입력 후 "열기"

    아직 설치하지 않았다면: uv에는 클릭형 설치 파일이 없습니다. uv 공식 페이지에서 내 시스템(macOS 또는 Windows)용 한 줄 명령을 복사해 터미널에 붙여 넣으세요 · Python을 따로 설치할 필요 없이 uv가 필요할 때 자동으로 내려받습니다

    uv 다운로드 페이지 열기 ↗

    설치가 끝나면 터미널을 닫았다가 다시 열고 같은 명령을 실행하세요. 버전 번호가 나와야 합니다: uv --version

    한 번 설치하면 uv가 필요한 모든 도구에서 쓸 수 있습니다

  2. 설정 1개 입력

    이것은 프로그램 설정이며 키가 아닙니다. 가입할 필요 없이 제작자 설명대로 입력하세요.

    • LOCAL_HOST 모델 엔드포인트 URL. 로컬 또는 자체 네트워크에 있어야 합니다. openai 백엔드에 필요합니다.
      영어 원문 보기Model endpoint URL; must be local or on your own network. Required for the openai backend

    설명은 자동 번역이며 변수 이름은 원문 그대로입니다. 확실하지 않으면 원문을 확인하세요.

  3. 컴퓨터용 Claude 앱 설정 파일 열기

    SettingsDeveloperEdit Config

  4. 이 설정을 붙여 넣고 저장

    {
      "mcpServers": {
        "ollama-vllm": {
          "command": "uvx",
          "args": [
            "mcp-ollama-vllm"
          ],
          "env": {
            "LOCAL_HOST": "your-value"
          }
        }
      }
    }
  5. Claude를 끄고 다시 열기

  6. 해 보기

    Ollama / vLLM Bridge을 써서 나에게 무엇을 해 줄 수 있는지 알려 주고, 하나 해 봐

    ✓ Claude가 Ollama / vLLM Bridge을 쓰고 있다고 하거나 답에 Ollama / vLLM Bridge 도구 이름이 나오면 연결된 거예요

추가 설정 6개 (입력하지 않아도 사용 가능)

위 명령은 이 값들 없이도 동작합니다. 바꾸고 싶을 때만 제작자 설명대로 추가하세요.

  • LOCAL_BACKEND Backend to use: ollama, vllm or openai · 기본값 ollama
  • LOCAL_API_KEY 선택적 bearer token. openai 백엔드에만 해당하며, 헤더로 전송되고 로그에 기록되지 않습니다.
    영어 원문 보기Optional bearer token, openai backend only; sent as a header, never logged
  • LOCAL_TIMEOUT 읽기 타임아웃(초)
    영어 원문 보기Read timeout in seconds
    · 기본값 600
  • LOCAL_EMBED_MODEL 기본 임베딩 모델
    영어 원문 보기Default embedding model
    · 기본값 nomic-embed-text
  • LOCAL_EMBED_PATH 선택 사항, openai 백엔드 전용: 임베딩 엔드포인트 경로
    영어 원문 보기Optional, openai backend only: embedding endpoint path
    · 기본값 /v1/embeddings
  • LOCAL_SCHEMA_MODE 선택 사항, openai 백엔드 전용: auto, response_format 또는 none
    영어 원문 보기Optional, openai backend only: auto, response_format or none
    · 기본값 auto

설명은 자동 번역이며 변수 이름은 원문 그대로입니다. 확실하지 않으면 원문을 확인하세요.

메뉴 이름은 2026년 11월 11일에 Anthropic 도움말에서 확인 · 앱 버전에 따라 화면이 조금 다를 수 있어요

ChatGPT는 아직 Ollama / vLLM Bridge에 연결할 수 없어요

Ollama / vLLM Bridge는 내 컴퓨터에 설치해서 쓰지만 ChatGPT는 웹에서 도는 서버만 연결할 수 있어요

대신 이렇게 할 수 있어요

A · Ollama / vLLM Bridge에 연결되는 앱 쓰기

  • 설정 1개 입력 필요 (LOCAL_HOST) · 먼저 컴퓨터에 Python (uv)를 설치하세요 (한 번만) · 컴퓨터용 Claude 앱(Windows 또는 Mac)에서만 되고 웹이나 모바일은 안 돼요
  • 설정 1개 입력 필요 (LOCAL_HOST) · 먼저 컴퓨터에 Python (uv)를 설치하세요 (한 번만)
  • 설정 1개 입력 필요 (LOCAL_HOST) · 먼저 컴퓨터에 Python (uv)를 설치하세요 (한 번만)
  • 설정 1개 입력 필요 (LOCAL_HOST) · 먼저 컴퓨터에 Python (uv)를 설치하세요 (한 번만)

B · 개발자 도구에서 ChatGPT에 연결되는 다른 서버

같은 분류에서 많이 쓰는 것 중 키 없이 주소만으로 연결되는 것을 골랐어요

Claude Code에 연결할 수 있지만 먼저 준비가 필요해요

설정 1개 입력 필요 (LOCAL_HOST) · 먼저 컴퓨터에 Python (uv)를 설치하세요 (한 번만)

AI에게 설치 맡기기

이 메시지를 Claude Code 채팅에 붙여 넣으세요. AI가 컴퓨터를 확인하고 어떤 파일을 바꿀지 알려 준 뒤 매번 동의를 기다립니다.

이 컴퓨터의 Claude Code에 MCP server Ollama / vLLM Bridge을 설치해 주세요. 순서대로: 1) uv --version로 uv가 있는지 확인. 없으면 https://docs.astral.sh/uv/getting-started/installation/에서 설치하라고 알려 주고 직접 설치하지 마세요. 2) 이 설정만 사용하세요(PopNx MCP 확인 완료): claude mcp add --scope user ollama-vllm --env LOCAL_HOST=your-value -- uvx mcp-ollama-vllm 3) 바꿀 파일의 전체 경로나 실행할 명령을 알려 주고 제 동의를 기다리세요. 4) LOCAL_HOST에는 "your-value"를 그대로 두고, 실제 값은 제가 파일이나 앱 입력란에 직접 붙여 넣도록 안내하세요. 채팅에 키를 입력하라고 하지 마세요. 5) 합의한 대로 실행한 뒤 Ollama / vLLM Bridge의 도구가 실제로 보이는지 확인하세요.

이 메시지에는 키가 없습니다. 키가 필요하면 AI가 파일이나 앱 입력란에 직접 붙여 넣으라고 안내합니다.

  1. uv 설치 (아직 없다면)

    이미 설치했나요? 먼저 확인 · 터미널을 열고 이 명령을 입력한 뒤 Enter

    uv --version
    • 버전 번호(예: uv …)가 나오면 설치된 것입니다. 이 단계는 건너뛰세요
    • "command not found"(Windows는 "is not recognized")가 나오면 아직 설치하지 않았거나, 방금 설치해서 터미널을 닫았다가 다시 열어야 합니다
    터미널 여는 법

    Mac: ⌘ + Space를 누르고 Terminal 입력 후 Enter

    Windows: 시작 메뉴를 열고 Windows PowerShell 입력 후 "열기"

    아직 설치하지 않았다면: uv에는 클릭형 설치 파일이 없습니다. uv 공식 페이지에서 내 시스템(macOS 또는 Windows)용 한 줄 명령을 복사해 터미널에 붙여 넣으세요 · Python을 따로 설치할 필요 없이 uv가 필요할 때 자동으로 내려받습니다

    uv 다운로드 페이지 열기 ↗

    설치가 끝나면 터미널을 닫았다가 다시 열고 같은 명령을 실행하세요. 버전 번호가 나와야 합니다: uv --version

    한 번 설치하면 uv가 필요한 모든 도구에서 쓸 수 있습니다

  2. 설정 1개 입력

    이것은 프로그램 설정이며 키가 아닙니다. 가입할 필요 없이 제작자 설명대로 입력하세요.

    • LOCAL_HOST 모델 엔드포인트 URL. 로컬 또는 자체 네트워크에 있어야 합니다. openai 백엔드에 필요합니다.
      영어 원문 보기Model endpoint URL; must be local or on your own network. Required for the openai backend

    설명은 자동 번역이며 변수 이름은 원문 그대로입니다. 확실하지 않으면 원문을 확인하세요.

  3. 터미널 열기

    Mac: Command+스페이스를 누르고 Terminal 입력 · Windows: PowerShell 열기

  4. 이 명령을 붙여 넣고 Enter

    claude mcp add --scope user ollama-vllm --env LOCAL_HOST=your-value -- uvx mcp-ollama-vllm
  5. Claude Code에서 /mcp 입력

    Ollama / vLLM Bridge이 목록에 있고 연결됨으로 보이면 돼요

  6. 해 보기

    Ollama / vLLM Bridge을 써서 나에게 무엇을 해 줄 수 있는지 알려 주고, 하나 해 봐

    ✓ Claude Code가 Ollama / vLLM Bridge을 쓰고 있다고 하거나 답에 Ollama / vLLM Bridge 도구 이름이 나오면 연결된 거예요

추가 설정 6개 (입력하지 않아도 사용 가능)

위 명령은 이 값들 없이도 동작합니다. 바꾸고 싶을 때만 제작자 설명대로 추가하세요.

  • LOCAL_BACKEND Backend to use: ollama, vllm or openai · 기본값 ollama
  • LOCAL_API_KEY 선택적 bearer token. openai 백엔드에만 해당하며, 헤더로 전송되고 로그에 기록되지 않습니다.
    영어 원문 보기Optional bearer token, openai backend only; sent as a header, never logged
  • LOCAL_TIMEOUT 읽기 타임아웃(초)
    영어 원문 보기Read timeout in seconds
    · 기본값 600
  • LOCAL_EMBED_MODEL 기본 임베딩 모델
    영어 원문 보기Default embedding model
    · 기본값 nomic-embed-text
  • LOCAL_EMBED_PATH 선택 사항, openai 백엔드 전용: 임베딩 엔드포인트 경로
    영어 원문 보기Optional, openai backend only: embedding endpoint path
    · 기본값 /v1/embeddings
  • LOCAL_SCHEMA_MODE 선택 사항, openai 백엔드 전용: auto, response_format 또는 none
    영어 원문 보기Optional, openai backend only: auto, response_format or none
    · 기본값 auto

설명은 자동 번역이며 변수 이름은 원문 그대로입니다. 확실하지 않으면 원문을 확인하세요.

메뉴 이름은 2026년 11월 11일에 Anthropic 도움말에서 확인 · 앱 버전에 따라 화면이 조금 다를 수 있어요

Cursor에 연결할 수 있지만 먼저 준비가 필요해요

설정 1개 입력 필요 (LOCAL_HOST) · 먼저 컴퓨터에 Python (uv)를 설치하세요 (한 번만)

AI에게 설치 맡기기

이 메시지를 Cursor 채팅에 붙여 넣으세요. AI가 컴퓨터를 확인하고 어떤 파일을 바꿀지 알려 준 뒤 매번 동의를 기다립니다.

이 컴퓨터의 Cursor에 MCP server Ollama / vLLM Bridge을 설치해 주세요. 순서대로: 1) uv --version로 uv가 있는지 확인. 없으면 https://docs.astral.sh/uv/getting-started/installation/에서 설치하라고 알려 주고 직접 설치하지 마세요. 2) 이 설정만 사용하세요(PopNx MCP 확인 완료): { "mcpServers": { "ollama-vllm": { "command": "uvx", "args": [ "mcp-ollama-vllm" ], "env": { "LOCAL_HOST": "your-value" } } } } 3) 바꿀 파일의 전체 경로나 실행할 명령을 알려 주고 제 동의를 기다리세요. 4) LOCAL_HOST에는 "your-value"를 그대로 두고, 실제 값은 제가 파일이나 앱 입력란에 직접 붙여 넣도록 안내하세요. 채팅에 키를 입력하라고 하지 마세요. 5) 합의한 대로 실행한 뒤 Ollama / vLLM Bridge의 도구가 실제로 보이는지 확인하세요.

이 메시지에는 키가 없습니다. 키가 필요하면 AI가 파일이나 앱 입력란에 직접 붙여 넣으라고 안내합니다.

  1. uv 설치 (아직 없다면)

    이미 설치했나요? 먼저 확인 · 터미널을 열고 이 명령을 입력한 뒤 Enter

    uv --version
    • 버전 번호(예: uv …)가 나오면 설치된 것입니다. 이 단계는 건너뛰세요
    • "command not found"(Windows는 "is not recognized")가 나오면 아직 설치하지 않았거나, 방금 설치해서 터미널을 닫았다가 다시 열어야 합니다
    터미널 여는 법

    Mac: ⌘ + Space를 누르고 Terminal 입력 후 Enter

    Windows: 시작 메뉴를 열고 Windows PowerShell 입력 후 "열기"

    아직 설치하지 않았다면: uv에는 클릭형 설치 파일이 없습니다. uv 공식 페이지에서 내 시스템(macOS 또는 Windows)용 한 줄 명령을 복사해 터미널에 붙여 넣으세요 · Python을 따로 설치할 필요 없이 uv가 필요할 때 자동으로 내려받습니다

    uv 다운로드 페이지 열기 ↗

    설치가 끝나면 터미널을 닫았다가 다시 열고 같은 명령을 실행하세요. 버전 번호가 나와야 합니다: uv --version

    한 번 설치하면 uv가 필요한 모든 도구에서 쓸 수 있습니다

  2. 설정 1개 입력

    이것은 프로그램 설정이며 키가 아닙니다. 가입할 필요 없이 제작자 설명대로 입력하세요.

    • LOCAL_HOST 모델 엔드포인트 URL. 로컬 또는 자체 네트워크에 있어야 합니다. openai 백엔드에 필요합니다.
      영어 원문 보기Model endpoint URL; must be local or on your own network. Required for the openai backend

    설명은 자동 번역이며 변수 이름은 원문 그대로입니다. 확실하지 않으면 원문을 확인하세요.

  3. 이 버튼으로 Cursor 열기

    Cursor에서 열기

    Cursor가 설치를 확인하면 Install을 누르세요

  4. 키 입력

    Ollama / vLLM Bridge 설정에서 LOCAL_HOST가 비어 있어요. 내 키를 넣고 저장하세요

  5. Cursor에서 AI 채팅을 Agent 모드로 열기

  6. 해 보기

    Ollama / vLLM Bridge을 써서 나에게 무엇을 해 줄 수 있는지 알려 주고, 하나 해 봐

    ✓ Cursor가 Ollama / vLLM Bridge을 쓰고 있다고 하거나 답에 Ollama / vLLM Bridge 도구 이름이 나오면 연결된 거예요

추가 설정 6개 (입력하지 않아도 사용 가능)

위 명령은 이 값들 없이도 동작합니다. 바꾸고 싶을 때만 제작자 설명대로 추가하세요.

  • LOCAL_BACKEND Backend to use: ollama, vllm or openai · 기본값 ollama
  • LOCAL_API_KEY 선택적 bearer token. openai 백엔드에만 해당하며, 헤더로 전송되고 로그에 기록되지 않습니다.
    영어 원문 보기Optional bearer token, openai backend only; sent as a header, never logged
  • LOCAL_TIMEOUT 읽기 타임아웃(초)
    영어 원문 보기Read timeout in seconds
    · 기본값 600
  • LOCAL_EMBED_MODEL 기본 임베딩 모델
    영어 원문 보기Default embedding model
    · 기본값 nomic-embed-text
  • LOCAL_EMBED_PATH 선택 사항, openai 백엔드 전용: 임베딩 엔드포인트 경로
    영어 원문 보기Optional, openai backend only: embedding endpoint path
    · 기본값 /v1/embeddings
  • LOCAL_SCHEMA_MODE 선택 사항, openai 백엔드 전용: auto, response_format 또는 none
    영어 원문 보기Optional, openai backend only: auto, response_format or none
    · 기본값 auto

설명은 자동 번역이며 변수 이름은 원문 그대로입니다. 확실하지 않으면 원문을 확인하세요.

메뉴 이름은 2026년 11월 11일에 Cursor 도움말에서 확인 · 앱 버전에 따라 화면이 조금 다를 수 있어요

VS Code에 연결할 수 있지만 먼저 준비가 필요해요

설정 1개 입력 필요 (LOCAL_HOST) · 먼저 컴퓨터에 Python (uv)를 설치하세요 (한 번만)

AI에게 설치 맡기기

이 메시지를 VS Code 채팅에 붙여 넣으세요. AI가 컴퓨터를 확인하고 어떤 파일을 바꿀지 알려 준 뒤 매번 동의를 기다립니다.

이 컴퓨터의 VS Code에 MCP server Ollama / vLLM Bridge을 설치해 주세요. 순서대로: 1) uv --version로 uv가 있는지 확인. 없으면 https://docs.astral.sh/uv/getting-started/installation/에서 설치하라고 알려 주고 직접 설치하지 마세요. 2) 이 설정만 사용하세요(PopNx MCP 확인 완료): { "servers": { "ollama-vllm": { "type": "stdio", "command": "uvx", "args": [ "mcp-ollama-vllm" ], "env": { "LOCAL_HOST": "your-value" } } } } 3) 바꿀 파일의 전체 경로나 실행할 명령을 알려 주고 제 동의를 기다리세요. 4) LOCAL_HOST에는 "your-value"를 그대로 두고, 실제 값은 제가 파일이나 앱 입력란에 직접 붙여 넣도록 안내하세요. 채팅에 키를 입력하라고 하지 마세요. 5) 합의한 대로 실행한 뒤 Ollama / vLLM Bridge의 도구가 실제로 보이는지 확인하세요.

이 메시지에는 키가 없습니다. 키가 필요하면 AI가 파일이나 앱 입력란에 직접 붙여 넣으라고 안내합니다.

  1. uv 설치 (아직 없다면)

    이미 설치했나요? 먼저 확인 · 터미널을 열고 이 명령을 입력한 뒤 Enter

    uv --version
    • 버전 번호(예: uv …)가 나오면 설치된 것입니다. 이 단계는 건너뛰세요
    • "command not found"(Windows는 "is not recognized")가 나오면 아직 설치하지 않았거나, 방금 설치해서 터미널을 닫았다가 다시 열어야 합니다
    터미널 여는 법

    Mac: ⌘ + Space를 누르고 Terminal 입력 후 Enter

    Windows: 시작 메뉴를 열고 Windows PowerShell 입력 후 "열기"

    아직 설치하지 않았다면: uv에는 클릭형 설치 파일이 없습니다. uv 공식 페이지에서 내 시스템(macOS 또는 Windows)용 한 줄 명령을 복사해 터미널에 붙여 넣으세요 · Python을 따로 설치할 필요 없이 uv가 필요할 때 자동으로 내려받습니다

    uv 다운로드 페이지 열기 ↗

    설치가 끝나면 터미널을 닫았다가 다시 열고 같은 명령을 실행하세요. 버전 번호가 나와야 합니다: uv --version

    한 번 설치하면 uv가 필요한 모든 도구에서 쓸 수 있습니다

  2. 설정 1개 입력

    이것은 프로그램 설정이며 키가 아닙니다. 가입할 필요 없이 제작자 설명대로 입력하세요.

    • LOCAL_HOST 모델 엔드포인트 URL. 로컬 또는 자체 네트워크에 있어야 합니다. openai 백엔드에 필요합니다.
      영어 원문 보기Model endpoint URL; must be local or on your own network. Required for the openai backend

    설명은 자동 번역이며 변수 이름은 원문 그대로입니다. 확실하지 않으면 원문을 확인하세요.

  3. 이 버튼으로 VS Code 열기

    VS Code에서 열기

    VS Code가 설치를 확인하면 Install을 누르세요

  4. 키 입력

    Ollama / vLLM Bridge 설정에서 LOCAL_HOST가 비어 있어요. 내 키를 넣고 저장하세요

  5. VS Code에서 AI 채팅을 Agent 모드로 열기

  6. 해 보기

    Ollama / vLLM Bridge을 써서 나에게 무엇을 해 줄 수 있는지 알려 주고, 하나 해 봐

    ✓ VS Code가 Ollama / vLLM Bridge을 쓰고 있다고 하거나 답에 Ollama / vLLM Bridge 도구 이름이 나오면 연결된 거예요

추가 설정 6개 (입력하지 않아도 사용 가능)

위 명령은 이 값들 없이도 동작합니다. 바꾸고 싶을 때만 제작자 설명대로 추가하세요.

  • LOCAL_BACKEND Backend to use: ollama, vllm or openai · 기본값 ollama
  • LOCAL_API_KEY 선택적 bearer token. openai 백엔드에만 해당하며, 헤더로 전송되고 로그에 기록되지 않습니다.
    영어 원문 보기Optional bearer token, openai backend only; sent as a header, never logged
  • LOCAL_TIMEOUT 읽기 타임아웃(초)
    영어 원문 보기Read timeout in seconds
    · 기본값 600
  • LOCAL_EMBED_MODEL 기본 임베딩 모델
    영어 원문 보기Default embedding model
    · 기본값 nomic-embed-text
  • LOCAL_EMBED_PATH 선택 사항, openai 백엔드 전용: 임베딩 엔드포인트 경로
    영어 원문 보기Optional, openai backend only: embedding endpoint path
    · 기본값 /v1/embeddings
  • LOCAL_SCHEMA_MODE 선택 사항, openai 백엔드 전용: auto, response_format 또는 none
    영어 원문 보기Optional, openai backend only: auto, response_format or none
    · 기본값 auto

설명은 자동 번역이며 변수 이름은 원문 그대로입니다. 확실하지 않으면 원문을 확인하세요.

메뉴 이름은 2026년 11월 11일에 VS Code 도움말에서 확인 · 앱 버전에 따라 화면이 조금 다를 수 있어요

Windsurf, Zed, Gemini CLI 같은 다른 MCP 앱은 추가 방법이 저마다 달라요. 앱 목록에서 확인하세요

MCP를 쓰는 앱 모두 보기 →

JSON 설정은 아래 “개발자용”에 있어요

막혔나요? Ollama / vLLM Bridge을 쓰는 사람에게 물어보세요💬 토론 →
개발자용: 터미널 명령과 JSON 설정

컴퓨터에 설치

Claude Code

claude mcp add --scope user ollama-vllm --env LOCAL_HOST=your-value -- uvx mcp-ollama-vllm

Claude Desktop (claude_desktop_config.json)

{
  "mcpServers": {
    "ollama-vllm": {
      "command": "uvx",
      "args": [
        "mcp-ollama-vllm"
      ],
      "env": {
        "LOCAL_HOST": "your-value"
      }
    }
  }
}

Cursor (~/.cursor/mcp.json)

{
  "mcpServers": {
    "ollama-vllm": {
      "command": "uvx",
      "args": [
        "mcp-ollama-vllm"
      ],
      "env": {
        "LOCAL_HOST": "your-value"
      }
    }
  }
}

VS Code (mcp.json)

{
  "servers": {
    "ollama-vllm": {
      "type": "stdio",
      "command": "uvx",
      "args": [
        "mcp-ollama-vllm"
      ],
      "env": {
        "LOCAL_HOST": "your-value"
      }
    }
  }
}

직접 입력할 값

  • LOCAL_BACKEND env
    Backend to use: ollama, vllm or openai
  • LOCAL_HOST 필수 env
    모델 엔드포인트 URL. 로컬 또는 자체 네트워크에 있어야 합니다. openai 백엔드에 필요합니다.
    영어 원문 보기Model endpoint URL; must be local or on your own network. Required for the openai backend
  • LOCAL_API_KEY 비밀 env
    선택적 bearer token. openai 백엔드에만 해당하며, 헤더로 전송되고 로그에 기록되지 않습니다.
    영어 원문 보기Optional bearer token, openai backend only; sent as a header, never logged
  • LOCAL_TIMEOUT env
    읽기 타임아웃(초)
    영어 원문 보기Read timeout in seconds
  • LOCAL_EMBED_MODEL env
    기본 임베딩 모델
    영어 원문 보기Default embedding model
  • LOCAL_EMBED_PATH env
    선택 사항, openai 백엔드 전용: 임베딩 엔드포인트 경로
    영어 원문 보기Optional, openai backend only: embedding endpoint path
  • LOCAL_SCHEMA_MODE env
    선택 사항, openai 백엔드 전용: auto, response_format 또는 none
    영어 원문 보기Optional, openai backend only: auto, response_format or none

설명은 자동 번역이며 변수 이름은 원문 그대로입니다. 확실하지 않으면 원문을 확인하세요.

이 설정은 제작자의 레지스트리 정보로 만들었어요. README와 다르면 README를 따르세요.

한눈에 보기

주간 다운로드i
61/주
연결 방식
내 컴퓨터에서 실행
최신 버전i
1.0.6
카테고리i
개발자 도구
레지스트리 공개i
2026년 10월 22일
코드 마지막 변경i
2026년 10월 22일
제작자
setheerwagen
패키지
pypi: mcp-ollama-vllm
레지스트리 상태
활성

어떤 앱에서 쓸 수 있나요

이 서버의 연결 방식과 각 앱의 공식 문서를 바탕으로 했어요. 2026년 11월 10일 확인.

내 컴퓨터에서 실행하는 앱

ClaudeGooseLM StudioMsty StudioCherry StudioCursorVS Code + GitHub CopilotVisual StudioWindsurf (Devin Desktop)ZedKiroClineContinueJetBrains AI AssistantClaude CodeCodex CLIGemini CLIOpenCodenodecodeWarpLibreChatRaycast

모든 앱과 장단점 →

할 수 있는 일

내 컴퓨터에서 실행돼요. 설치하면 AI 앱에 도구 목록이 나타나요.

기본 점검i

누구나 볼 수 있는 정보를 점검했고, 코드는 읽지 않았어요. 해당하지 않는 항목은 개수에서 뺐어요. · 2026년 11월 19일 점검

  • ✓ 통과

    제작자와 저장소 일치

    레지스트리 이름이 GitHub 계정 setheerwagen 기준으로 확인되었고, 이 계정이 저장소를 소유하고 있어요

  • ✓ 통과

    계속 관리되고 있음

    코드 마지막 변경: 28일 전

  • ✓ 통과

    라이선스 있음

    MIT 사용

  • – 해당 없음

    엔드포인트 응답

    내 컴퓨터에서 실행되는 서버라 인터넷 엔드포인트가 없어요

  • – 해당 없음

    OAuth로 로그인

    내 컴퓨터에서 실행되며, 대신 로컬 설정을 사용해요

  • … 아직 점검 안 함

    도구 설명에 숨겨진 지시 없음

    내 컴퓨터에서 실행돼요. 도구 목록은 인터넷 엔드포인트가 있는 서버에서만 읽을 수 있어요

공개된 취약점 (OSV.dev)

OSV.dev에 mcp-ollama-vllm@1.0.6 항목이 없습니다

이 버전의 패키지 자체만 확인하며 모든 의존성은 아닙니다 · 확인 2026년 11월 16일

우리가 확인하는 것 → · JSON

제작자: 재확인 요청 또는 잘못된 정보 신고
제작자용: README에 배지 달기

제작자라면 이 코드를 README에 붙여 넣으세요. 배지는 이 페이지로 연결됩니다.

[![Featured on PopNx MCP](https://mcp.popnx.com/badge/setheerwagen-mcp-ollama-vllm.svg)](https://mcp.popnx.com/en/servers/setheerwagen-mcp-ollama-vllm)

토론

질문하고, 팁을 나누고, 안 되는 점을 알려 주세요. "도움이 됨"이 많은 순서예요.

아직 글이 없어요. 처음으로 질문하거나 공유해 보세요.

이곳의 글은 사용자가 쓴 것으로, PopNx 팀의 글이 아니에요.

로그인하고 글쓰기

사용자 리뷰

아직 리뷰가 없어요

로그인하고 리뷰 쓰기

개발자 도구 카테고리의 다른 서버와 비교i

  • 이 카테고리의 다른 서버 6136개 중 0%보다 스타가 많아요
  • 이 카테고리의 다른 서버 6136개 중 53%보다 최근에 레지스트리에 공개됐어요
  • 기본 점검 결과가 이 카테고리의 다른 서버 6136개 중 99%와 같거나 더 좋아요

레지스트리에서 이 카테고리의 활성 서버 전체와 비교했어요. 스타는 게시자가 저장소를 소유한 경우에만 세요.

자주 묻는 질문

Ollama / vLLM Bridge, 안전한가요?

해당하는 기본 점검 3개 중 3개를 통과했어요. 코드는 읽지 않았어요. 키나 토큰을 넣기 전에 서버가 어떤 권한을 요구하는지 확인하고, 꼭 필요한 권한만 있는 키를 쓰세요.

어떤 키나 코드가 필요한가요?

레지스트리에 필수 키가 나와 있지 않아요. 다만 처음 쓸 때 로그인을 요구하는 서버도 있어요.

내 컴퓨터에서 실행되나요, 클라우드에서 실행되나요?

내 컴퓨터에서 실행돼요. AI 앱이 필요할 때 실행하고, 데이터는 제작자의 서버를 거치지 않아요(서버 자체가 온라인 서비스를 호출하는 경우는 제외).

아직 관리되고 있나요?

GitHub 저장소는 마지막으로 28일 전 변경됐고, 최신 버전(1.0.6)은 28일 전 레지스트리에 올라왔어요.

어떤 앱에서 쓸 수 있나요?

Claude Desktop, Claude Code, Cursor, VS Code처럼 MCP를 지원하는 앱에서 쓸 수 있어요. 내 컴퓨터에 Python (uv)도 있어야 해요.

대신 쓸 수 있는 건 뭐가 있나요?

같은 카테고리에는: GitDiagram, Appllama, Cloudflare MCP, Omnara, Repowise

비슷하게 동작하는 다른 것

같은 카테고리, 다른 제작자, 명령 확인 완료. 공식이 먼저, 그다음 스타 순.

카드 보는 법:↓ 주간 다운로드i★ GitHub 스타i세 기둥: 리뷰 · 점검 · 사용 정도i업데이트 = 최신 버전을 레지스트리에 공개한 날i

GitDiagram

Architecture diagrams, explanations and Mermaid source for public GitHub repositories.

제작자: ahmedkhaleel2004널리 사용됨★ 1.9만2개월 전 업데이트

클라우드에서 실행✓ 서비스 회사 · gitdiagram.comPopNx 팀이 직접 써 봄

Appllama

Study screens, flows and paywalls from top-earning iOS apps, then build from what wins.

제작자: Appllama널리 사용됨★ 5.2천3개월 전 업데이트

클라우드에서 실행✓ 서비스 회사 · appllama.io

Omnara

Deploy durable AI agents with Omnara, an open-source managed-agent platform.

제작자: omnara-ai널리 사용됨★ 3.4천2개월 전 업데이트

클라우드에서 실행✓ 서비스 회사 · omnara.com

Repowise

Codebase intelligence for AI coding agents: graph, git history, docs, decisions, code health.

제작자: repowise-dev널리 사용됨↓ 6.5천/주★ 8.2천 저장소 전체의 별6일 전 업데이트

컴퓨터 또는 클라우드✓ 서비스 회사 · repowise.dev
비슷한 항목과 비교
이 항목
Ollama / vLLM Bridge
GitDiagramAppllamaCloudflare MCPOmnaraRepowise
실행 위치컴퓨터에 설치 필요클라우드에서 동작, 설치 불필요클라우드에서 동작, 설치 불필요클라우드에서 동작, 설치 불필요클라우드에서 동작, 설치 불필요클라우드 또는 컴퓨터 설치 모두 가능
키 필요아니요아니요아니요아니요아니요아니요
Claude에서 +로 추가아니요아니요아니요예아니요아니요
기본 점검3/34/44/44/44/45/5
라이선스MITMITMITApache-2.0Apache-2.0AGPL-3.0
가격등록 정보에 비용 없음등록 정보에 비용 없음등록 정보에 비용 없음등록 정보에 비용 없음등록 정보에 비용 없음등록 정보에 비용 없음

제작자의 README

README 열기

제작자의 저장소에서 쓰인 그대로 가져왔어요. PopNx MCP가 검토하거나 보증한 내용이 아니에요. HTML, 이미지, 스크립트는 제거했어요. 링크를 누르면 이 사이트를 벗어나요.

mcp-ollama-vllm

An MCP server that lets an MCP client such as Claude Code talk to local language models directly. The backend is wired up at startup: Ollama, vLLM, or a generic OpenAI-compatible endpoint (set once via LOCAL_BACKEND, see below). The third, openai, is not a plugin loader for arbitrary tools; it is one more fixed backend implementation, covering servers such as LM Studio, the llama.cpp server, LocalAI, TGI, koboldcpp, SGLang or Jan, which all expose the same OpenAI-compatible /v1 endpoints as vLLM but are not vLLM itself.

Why this one

The one thing this server does that a plain Ollama/vLLM call does not: schema-validated JSON output, checked with its own dependency-free validator and automatically retried on a violation (up to 3 attempts total, feeding the concrete violations back to the model), the same way, with the same tool call, regardless of which of the two backends is configured. Both Ollama's format and vLLM's response_format steer the model toward JSON, but neither guarantees that the result actually matches your schema; this server checks that independently instead of trusting the backend's word for it.

Before / after (illustrative, not a real run):

// Backend's own schema enforcement alone (Ollama "format" / vLLM "response_format"):

// looks like valid JSON, but a required field went missing under load and nobody // checked it against the schema before handing it onward. {"amount": 42.10, "currency": "EUR"}

// local_structured: the same case, but validated against the schema and // automatically retried with the concrete violation fed back to the model. {"amount": 42.10, "currency": "EUR", "total": 42.10} // -> attempts: 2, valid_on_first_try: false, outcome already re-validated

Known limits, stated on purpose:

  • With vLLM the model listing reports less metadata than Ollama: no size or quantization, those fields read unknown/0 instead of a made-up value.
  • With the generic `openai` backend the model listing usually reports even less: most such servers answer /v1/models with only id (and owned_by), so parameter_size/quantization read unknown, sizes read 0, there is no adapter signal, and max_context is only included when the endpoint genuinely reports it. The top-level metadata_reported field (see list_models below) makes this "not reported" honestly visible.
  • The think parameter (reasoning trace) has no effect on vLLM or `openai`; it is only wired up for Ollama. See "The think parameter" below.

Operating systems: CI runs the self-tests on Linux, and the mock-backed setup self-test selftest_vllm.py on Windows too; the server is pure Python with no OS-specific calls, and its live backend path was additionally exercised once on Windows on 2026-08-07. Needs a running backend service (Ollama or vLLM); the setup self-test selftest_vllm.py uses a mock and needs no real service. macOS is not separately tested.

Purpose

A large part of an AI agent's work is pure language processing: writing, summarizing, classifying, extracting structured data from text. These parts can be offloaded to a local model, while searching, reading, writing and the orchestration stay with the calling client.

This is explicitly about a model call, not an agent. The local model receives text and returns text. It has no tools, no file access, and it does not work in multiple steps.

Security properties

These limits are part of the design, not just the docs:

  • No file access. The server exposes no tool that reads or writes files. It reads only its own configuration from environment variables.
  • No shell execution. There is no path to subprocess, os.system or anything comparable.
  • Local machine or local network only. The server process itself makes no outbound calls other than to its configured backend endpoint, and that endpoint's address is checked both at startup and again on every call; if it points to the internet, the server refuses to start (or the call is rejected). Names are resolved for this, and all addresses behind them must be local, otherwise the guard could be bypassed via DNS; the resolved address is then pinned for the actual connection so a later re-resolution to a public address cannot slip past the check. Loopback and private networks (RFC 1918) are allowed, so a vLLM box on the local network is reachable; public addresses are rejected.
  • Two direct dependencies: mcp and httpx. mcp in turn pulls in several further packages transitively (among others anyio, pydantic, starlette, uvicorn, jsonschema, pyjwt). The full resolved tree is pinned in uv.lock; CI checks with uv lock --check that the lock still matches pyproject.toml, then installs the exact locked tree for the tests, so a drifted lock fails CI. A separate, advisory pip-audit job checks the locked tree for known vulnerabilities on every push to main and pull request and again weekly; it does not block a pull request.

These properties bound what this server does; they are not a claim about the AI tool that drives it. The model you call runs locally, but the Claude/ChatGPT session that decides to call it is a separate hosted service and sees the calls it makes, like any MCP call. Drive the server with a local model if that matters.

See SECURITY.md for the trust boundaries this covers (the model as an oracle rather than an agent, prompt injection via model output, DNS rebinding pinning) and what it does not.

Installation

Replace /path/to/mcp-ollama-vllm below with the directory you extracted/cloned this project into.

Python 3.10 or newer is required. There are two equivalent ways to set up a virtual environment; use whichever tool you have.

With the standard venv module and pip:

cd /path/to/mcp-ollama-vllm

python3 -m venv .venv .venv/bin/pip install -r requirements.txt

If python3 -m venv fails (on some distributions the python3-venv package is missing), either install that package or take the route with uv:

cd /path/to/mcp-ollama-vllm

uv venv .venv --seed .venv/bin/pip install -r requirements.txt

(--seed makes sure pip lands in the environment. Alternatively, without --seed, install with uv pip install --python .venv/bin/python -r requirements.txt.)

The modules live under src/mcp_ollama_vllm/ (a src layout, so the package name does not collide with other MCP servers' top-level modules). Either of the above gives you a checkout that runs via PYTHONPATH=src (see "Entry for the MCP configuration" below), or install the package itself with .venv/bin/pip install ., which additionally provides the mcp-ollama-vllm console script and needs no PYTHONPATH.

A reachable Ollama or vLLM backend is a prerequisite for running:

  • Ollama: install locally (see https://ollama.com), start it with ollama serve and pull at least one model (e.g. ollama pull llama3.2:3b); check with ollama list. For local_embed additionally pull an embedding model, e.g. ollama pull nomic-embed-text.
  • vLLM: an OpenAI-compatible vLLM endpoint on this machine or one on your local network. The backend is switched only through the environment variables described below; the server itself does not change.

Entry for the MCP configuration

In ~/.claude.json, or the mcpServers section of your Claude Code config:

{

"mcpServers": { "local-models": { "command": "/path/to/mcp-ollama-vllm/.venv/bin/python", "args": ["-m", "mcp_ollama_vllm.server"], "env": { "PYTHONPATH": "/path/to/mcp-ollama-vllm/src", "LOCAL_BACKEND": "ollama", "LOCAL_HOST": "http://localhost:11434", "LOCAL_TIMEOUT": "600" } } } }

Replace /path/to/mcp-ollama-vllm with the absolute path you extracted this project into. Alternatively via CLI:

claude mcp add local-models --env PYTHONPATH=/path/to/mcp-ollama-vllm/src -- \

/path/to/mcp-ollama-vllm/.venv/bin/python -m mcp_ollama_vllm.server

By default, claude mcp add binds the server to the current working directory; for global visibility across all directories, append --scope user.

Alternatively, after .venv/bin/pip install . (see "Installation" above), the PYTHONPATH entry is not needed and args can be ["-m", "mcp_ollama_vllm.server"] as is, or the installed console script can be used directly as command: /path/to/mcp-ollama-vllm/.venv/bin/mcp-ollama-vllm with no args.

First call

Restart your MCP client so it picks up the new server, then call list_models with no arguments. A response with your models proves the server starts, finds the backend and talks to it correctly, all in one step.

Environment variables
VariableDefaultMeaning
LOCAL_BACKENDollamaBackend: ollama, vllm or openai
LOCAL_HOSTper backendEndpoint; must be local or on your own network
LOCAL_TIMEOUT600Read timeout in seconds
LOCAL_EMBED_MODELnomic-embed-text (Ollama)Default embedding model
LOCAL_API_KEY-Optional; openai only. Sent as a Bearer header, never logged
LOCAL_EMBED_PATH/v1/embeddingsOptional; openai only. Embedding endpoint path
LOCAL_SCHEMA_MODEautoOptional; openai only. auto, response_format or none (see local_structured below)

The default for LOCAL_HOST is http://localhost:11434 for Ollama and http://localhost:8000 for vLLM. For openai there is no default: the generic backend has no sensible port to guess, so LOCAL_HOST is required and the server refuses to start without it.

The old names OLLAMA_HOST, OLLAMA_TIMEOUT and OLLAMA_EMBED_MODEL are still read so existing configurations do not break. If both are set, the LOCAL_ name wins.

Switching to a remote vLLM endpoint

The vLLM box on the local network is addressed through only two variables; the server itself does not change:

{

"mcpServers": { "local-models": { "command": "/path/to/mcp-ollama-vllm/.venv/bin/python", "args": ["-m", "mcp_ollama_vllm.server"], "env": { "PYTHONPATH": "/path/to/mcp-ollama-vllm/src", "LOCAL_BACKEND": "vllm", "LOCAL_HOST": "http://192.168.x.x:8000", "LOCAL_TIMEOUT": "600", "LOCAL_EMBED_MODEL": "BAAI/bge-m3" } } } }

Both backends can also be registered in parallel, under different names (e.g. local-models and local-models-server), so both are available in the same session.

Registering the same server multiple times

There is nothing wrong with registering the same server under several names at once, each with its own LOCAL_BACKEND/LOCAL_HOST. That way different backends can be addressed in the same session, for example:

  • one entry for a local Ollama (http://localhost:11434),
  • another for a vLLM on a different machine on your network,
  • a third for an Ollama on that same remote machine.

All three are then instances of one and the same server, just configured differently. Give them descriptive names and check before use which entry hits the intended machine and backend, rather than relying on the name alone.

The openai backend works the same way, no new routing mechanism: two generic-server entries on different ports, for example LM Studio on http://localhost:1234 and a llama.cpp server on http://localhost:8080:

{

"mcpServers": { "local-models-lmstudio": { "command": "/path/to/mcp-ollama-vllm/.venv/bin/python", "args": ["-m", "mcp_ollama_vllm.server"], "env": { "PYTHONPATH": "/path/to/mcp-ollama-vllm/src", "LOCAL_BACKEND": "openai", "LOCAL_HOST": "http://localhost:1234" } }, "local-models-llam

앞부분만 보여 드려요. 나머지는 저장소에서 읽어 보세요