ต้นแบบ · รุ่นทดลอง: มีทุก server ในทะเบียนทางการ อัปเดตทุก 30 นาที เข้าสู่ระบบด้วย Google เพื่อเขียนรีวิวได้แล้วต้นแบบ · อัปเดตทุก 30 นาที
PopNx MCPที่รวม MCP สำหรับคนใช้ AI · วิธีติดตั้งภาษาไทยทุกตัว

Ollama / vLLM Bridge

โดย setheerwagenรุ่น 1.0.6i★ 0iรันบนเครื่องหน้า repo ↗
ชื่อใน registryio.github.setheerwagen/mcp-ollama-vllm

วิธีติดตั้ง

ใช้ทำอะไรได้

ยังไม่มีคำอธิบายภาษาไทย ดูข้อเท็จจริงด้านล่าง หรือเปิดคำอธิบายต้นฉบับจากผู้ทำ

  • ต่อแบบ ติดตั้งในเครื่อง
  • บัญชีหรือคีย์ ไม่ต้องใส่คีย์ · ต้องกรอกค่าตั้ง 1 ช่อง (LOCAL_HOST)
  • หมวด เครื่องมือนักพัฒนา
คำอธิบายต้นฉบับจากผู้ทำ (อังกฤษ)
Call your local Ollama or vLLM model over MCP with schema-validated JSON output

ใช้คู่กับ

Skill ที่สอน AI ทำงานแบบนี้ ใช้ร่วมกับตัวนี้ได้

rea

rea เป็นเครื่องมือเสริมสำหรับ AI agent ใช้ทำ reverse engineering กับสิ่งต่าง ๆ ตั้งแต่พฤติกรรมของแอปพลิเคชันไปจนถึงไบนารีระดับ native

โดย morluto★ 467,2351 skill

Skill · คู่มือ

andrej-karpathy-skills

andrej-karpathy-skills เป็นไฟล์ CLAUDE.md ไฟล์เดียวที่ใช้ปรับพฤติกรรมของ Claude Code ให้ดีขึ้น โดยอ้างอิงจากข้อสังเกตของ Andrej Karpathy เกี่ยวกับข้อผิดพลาดที่พบบ่อยเมื่อ LLM เขียนโค้ด

โดย multica-ai★ 234,1251 skill

Skill · คู่มือไม่ระบุสัญญาอนุญาต

graphify

graphify เป็นเครื่องมือที่แปลงโค้ด เอกสาร สคีมา SQL คอนฟิก และไฟล์ PDF ให้เป็นกราฟความรู้ที่ค้นหาได้ ทำงานแบบ local ผ่านการแยกโครงสร้าง AST และใช้ได้กับ Claude Code, Cursor, Codex และ Gemini CLI

โดย Graphify-Labs★ 149,8731 skill

Skill · คู่มือ

ทำไมอยู่อันดับนี้

หน้ารายการเรียงด้วยคะแนนการใช้งาน (เต็ม 100) จากส่วนเหล่านี้

ความนิยม0/80ดาว GitHub หรือยอดดาวน์โหลดต่อสัปดาห์ ค่ามากนับ 60 ค่าน้อยนับ 20
ความสด12/12ออกรุ่นหรือแก้โค้ดใน 30 วัน ได้เต็ม
ระบบยังตอบ0/8endpoint บนคลาวด์ตอบตอนตรวจล่าสุด
คะแนนการใช้งาน12/100

คุณภาพ: ผลตรวจเบื้องต้นผ่าน 3/3 ข้อ (แสดงให้ดู ไม่ได้ใช้เรียง) · ความมาแรง: ยังไม่มีข้อมูล (ใช้เรียงเฉพาะแท็บมาแรง)

ติดตั้ง

เลือกโปรแกรม AI ที่คุณใช้ แล้วคัดลอกค่าตั้งไปวาง

ให้ AI ติดตั้งให้ด้วยประโยคเดียว

ติดตั้ง Ollama / vLLM Bridge ให้หน่อย ทำตาม https://mcp.popnx.com/i/setheerwagen-mcp-ollama-vllm.md แสดงคำสั่งให้ฉันดูและรอฉันตกลงก่อนรัน

คัดลอกไปวางในแชตของ AI ที่ทำงานในเครื่องคุณได้ (เช่น Claude Code, Cursor) · AI จะอ่านขั้นตอนจากเรา แสดงคำสั่งให้ดู และรอคุณตกลงก่อน · ไม่ต้องใช้คีย์ ไม่ต้องสมัคร · ดูข้อความเต็มที่ AI จะอ่าน

ผลตรวจผ่าน 3/3 · ทำงานบนเครื่องคุณ · ✓ ตรวจคำสั่งแล้ว 14 พ.ย. 2569

ขั้นแรก: คุณใช้ AI ตัวไหน

เลือกแอปที่คุณใช้ ขั้นตอนจะขึ้นด้านล่าง

ต่อกับ Claude ได้ แต่ต้องเตรียมก่อน

ต้องกรอกค่าตั้ง 1 ช่อง (LOCAL_HOST) · ต้องลง Python (uv) ในเครื่องก่อน (ทำครั้งเดียว) · ใช้ได้เฉพาะแอป Claude บนคอม (Windows หรือ Mac) ไม่ใช่บนเว็บหรือมือถือ

ให้ AI ติดตั้งให้

คัดลอกข้อความนี้ไปวางในแชตของ Claude AI จะเช็กเครื่อง บอกว่าจะแก้ไฟล์ไหน และรอคุณตกลงก่อนทุกครั้ง

ช่วยติดตั้ง MCP server ชื่อ Ollama / vLLM Bridge ให้ Claude ในเครื่องนี้ ทำตามลำดับ 1) เช็กว่ามี uv ด้วยคำสั่ง uv --version ถ้าไม่มี ให้บอกฉันไปลงจาก https://docs.astral.sh/uv/getting-started/installation/ ห้ามลงเอง 2) ใช้คอนฟิกนี้เท่านั้น (ผ่านตัวตรวจของ PopNx MCP แล้ว): { "mcpServers": { "ollama-vllm": { "command": "uvx", "args": [ "mcp-ollama-vllm" ], "env": { "LOCAL_HOST": "ใส่ค่าของคุณ" } } } } 3) บอก path เต็มของไฟล์ที่จะแก้ หรือคำสั่งที่จะรัน แล้วรอฉันตกลงก่อน 4) ช่อง LOCAL_HOST ให้คงคำว่า "ใส่ค่าของคุณ" ไว้ก่อน แล้วบอกให้ฉันวางค่าจริงเองในไฟล์หรือช่องของแอป ห้ามขอให้ฉันพิมพ์คีย์ในแชต 5) ทำตามที่ตกลง แล้วตรวจว่าเครื่องมือของ Ollama / vLLM Bridge ขึ้นจริง

ข้อความนี้ไม่มีคีย์ของคุณ ถ้าต้องใช้คีย์ AI จะบอกให้คุณวางเองในไฟล์หรือช่องของแอป

  1. ลง uv ในเครื่อง (ถ้ายังไม่มี)

    ลงไว้แล้วหรือยัง? เช็กก่อน · เปิด Terminal แล้วพิมพ์คำสั่งนี้ กด Enter

    uv --version
    • ขึ้นเลขรุ่น เช่น uv … = ลงแล้ว ข้ามขั้นนี้ได้
    • ขึ้นว่า "command not found" (Windows ขึ้นว่า "is not recognized") = ยังไม่ได้ลง หรือเพิ่งลงแต่ยังไม่ได้ปิดแล้วเปิด Terminal ใหม่
    เปิด Terminal ยังไง

    Mac: กด ⌘ + Space พิมพ์ Terminal แล้วกด Enter

    Windows: เปิดเมนู Start พิมพ์ Windows PowerShell แล้วกด Open

    ยังไม่ได้ลง: uv ไม่มีตัวติดตั้งแบบกดเอง คัดลอกคำสั่งหนึ่งบรรทัดของเครื่องคุณ (macOS หรือ Windows) จากหน้าทางการของ uv ไปวางใน Terminal · ไม่ต้องลง Python แยก uv ดาวน์โหลดให้เองเมื่อต้องใช้

    เปิดหน้าดาวน์โหลด uv ↗

    ลงเสร็จแล้ว ปิด Terminal เปิดใหม่ แล้วพิมพ์คำสั่งเดิมอีกครั้ง ต้องขึ้นเลขรุ่น: uv --version

    ลงครั้งเดียว ใช้ได้กับทุกตัวที่ต้องใช้ uv

  2. กรอกค่าตั้ง 1 ช่อง

    ค่าเหล่านี้เป็นค่าตั้งของโปรแกรม ไม่ใช่คีย์ ไม่ต้องสมัครอะไร ใส่ตามที่ผู้ทำอธิบาย

    • LOCAL_HOST URL ของ endpoint โมเดล ต้องอยู่ในเครื่องหรือในเครือข่ายของคุณเอง จำเป็นสำหรับแบ็กเอนด์ openai
      ดูต้นฉบับภาษาอังกฤษModel endpoint URL; must be local or on your own network. Required for the openai backend

    คำอธิบายแปลอัตโนมัติ ชื่อตัวแปรคงตามต้นฉบับ ถ้าไม่แน่ใจให้ดูต้นฉบับ

  3. เปิดไฟล์ตั้งค่าของแอป Claude บนคอม

    SettingsDeveloperEdit Config

  4. วางค่าตั้งนี้แล้วบันทึกไฟล์

    {
      "mcpServers": {
        "ollama-vllm": {
          "command": "uvx",
          "args": [
            "mcp-ollama-vllm"
          ],
          "env": {
            "LOCAL_HOST": "ใส่ค่าของคุณ"
          }
        }
      }
    }
  5. ปิดแอป Claude แล้วเปิดใหม่

  6. ลองเลย

    ใช้ Ollama / vLLM Bridge บอกหน่อยว่าทำอะไรให้ฉันได้บ้าง แล้วลองทำให้ดูหนึ่งอย่าง

    ✓ ถ้า Claude บอกว่ากำลังใช้ Ollama / vLLM Bridge หรือมีชื่อเครื่องมือของ Ollama / vLLM Bridge ขึ้นในคำตอบ แปลว่าต่อสำเร็จ

ค่าตั้งเพิ่มเติม 6 ช่อง (ไม่ต้องกรอกก็ใช้ได้)

คำสั่งด้านบนใช้ได้เลยโดยไม่ต้องใส่ค่าเหล่านี้ ถ้าอยากปรับค่อยเพิ่มเองตามคำอธิบายของผู้ทำ

  • LOCAL_BACKEND Backend to use: ollama, vllm or openai · ค่าเริ่มต้น ollama
  • LOCAL_API_KEY bearer token แบบไม่บังคับ ใช้เฉพาะ backend openai; ส่งเป็น header และไม่มีการบันทึกใน log
    ดูต้นฉบับภาษาอังกฤษOptional bearer token, openai backend only; sent as a header, never logged
  • LOCAL_TIMEOUT เวลารอสูงสุดในการอ่านเป็นวินาที
    ดูต้นฉบับภาษาอังกฤษRead timeout in seconds
    · ค่าเริ่มต้น 600
  • LOCAL_EMBED_MODEL โมเดลฝังข้อมูลเริ่มต้น
    ดูต้นฉบับภาษาอังกฤษDefault embedding model
    · ค่าเริ่มต้น nomic-embed-text
  • LOCAL_EMBED_PATH ไม่บังคับ เฉพาะแบ็กเอนด์ openai: พาธของจุดสิ้นสุด embedding
    ดูต้นฉบับภาษาอังกฤษOptional, openai backend only: embedding endpoint path
    · ค่าเริ่มต้น /v1/embeddings
  • LOCAL_SCHEMA_MODE ไม่บังคับ ใช้เฉพาะ backend openai เท่านั้น: auto, response_format หรือ none
    ดูต้นฉบับภาษาอังกฤษOptional, openai backend only: auto, response_format or none
    · ค่าเริ่มต้น auto

คำอธิบายแปลอัตโนมัติ ชื่อตัวแปรคงตามต้นฉบับ ถ้าไม่แน่ใจให้ดูต้นฉบับ

ชื่อเมนูตรวจกับหน้าช่วยเหลือของ Anthropic เมื่อ 11 พ.ย. 2569 · หน้าจอของคุณอาจต่างเล็กน้อยตามรุ่นของแอป

ChatGPT ยังต่อ Ollama / vLLM Bridge ไม่ได้

Ollama / vLLM Bridge ต้องติดตั้งในเครื่องคุณ แต่ ChatGPT ต่อได้เฉพาะตัวที่ทำงานบนเว็บ

คุณทำแบบนี้แทนได้

ก · ใช้แอปที่ต่อ Ollama / vLLM Bridge ได้

  • ต้องกรอกค่าตั้ง 1 ช่อง (LOCAL_HOST) · ต้องลง Python (uv) ในเครื่องก่อน (ทำครั้งเดียว) · ใช้ได้เฉพาะแอป Claude บนคอม (Windows หรือ Mac) ไม่ใช่บนเว็บหรือมือถือ
  • ต้องกรอกค่าตั้ง 1 ช่อง (LOCAL_HOST) · ต้องลง Python (uv) ในเครื่องก่อน (ทำครั้งเดียว)
  • ต้องกรอกค่าตั้ง 1 ช่อง (LOCAL_HOST) · ต้องลง Python (uv) ในเครื่องก่อน (ทำครั้งเดียว)
  • ต้องกรอกค่าตั้ง 1 ช่อง (LOCAL_HOST) · ต้องลง Python (uv) ในเครื่องก่อน (ทำครั้งเดียว)

ข · ตัวอื่นในหมวด เครื่องมือนักพัฒนา ที่ต่อกับ ChatGPT ได้

เลือกจากตัวที่ใช้มากในหมวดเดียวกัน เฉพาะตัวที่ต่อด้วยที่อยู่ได้โดยไม่ต้องใส่คีย์

ต่อกับ Claude Code ได้ แต่ต้องเตรียมก่อน

ต้องกรอกค่าตั้ง 1 ช่อง (LOCAL_HOST) · ต้องลง Python (uv) ในเครื่องก่อน (ทำครั้งเดียว)

ให้ AI ติดตั้งให้

คัดลอกข้อความนี้ไปวางในแชตของ Claude Code AI จะเช็กเครื่อง บอกว่าจะแก้ไฟล์ไหน และรอคุณตกลงก่อนทุกครั้ง

ช่วยติดตั้ง MCP server ชื่อ Ollama / vLLM Bridge ให้ Claude Code ในเครื่องนี้ ทำตามลำดับ 1) เช็กว่ามี uv ด้วยคำสั่ง uv --version ถ้าไม่มี ให้บอกฉันไปลงจาก https://docs.astral.sh/uv/getting-started/installation/ ห้ามลงเอง 2) ใช้คอนฟิกนี้เท่านั้น (ผ่านตัวตรวจของ PopNx MCP แล้ว): claude mcp add --scope user ollama-vllm --env LOCAL_HOST='ใส่ค่าของคุณ' -- uvx mcp-ollama-vllm 3) บอก path เต็มของไฟล์ที่จะแก้ หรือคำสั่งที่จะรัน แล้วรอฉันตกลงก่อน 4) ช่อง LOCAL_HOST ให้คงคำว่า "ใส่ค่าของคุณ" ไว้ก่อน แล้วบอกให้ฉันวางค่าจริงเองในไฟล์หรือช่องของแอป ห้ามขอให้ฉันพิมพ์คีย์ในแชต 5) ทำตามที่ตกลง แล้วตรวจว่าเครื่องมือของ Ollama / vLLM Bridge ขึ้นจริง

ข้อความนี้ไม่มีคีย์ของคุณ ถ้าต้องใช้คีย์ AI จะบอกให้คุณวางเองในไฟล์หรือช่องของแอป

  1. ลง uv ในเครื่อง (ถ้ายังไม่มี)

    ลงไว้แล้วหรือยัง? เช็กก่อน · เปิด Terminal แล้วพิมพ์คำสั่งนี้ กด Enter

    uv --version
    • ขึ้นเลขรุ่น เช่น uv … = ลงแล้ว ข้ามขั้นนี้ได้
    • ขึ้นว่า "command not found" (Windows ขึ้นว่า "is not recognized") = ยังไม่ได้ลง หรือเพิ่งลงแต่ยังไม่ได้ปิดแล้วเปิด Terminal ใหม่
    เปิด Terminal ยังไง

    Mac: กด ⌘ + Space พิมพ์ Terminal แล้วกด Enter

    Windows: เปิดเมนู Start พิมพ์ Windows PowerShell แล้วกด Open

    ยังไม่ได้ลง: uv ไม่มีตัวติดตั้งแบบกดเอง คัดลอกคำสั่งหนึ่งบรรทัดของเครื่องคุณ (macOS หรือ Windows) จากหน้าทางการของ uv ไปวางใน Terminal · ไม่ต้องลง Python แยก uv ดาวน์โหลดให้เองเมื่อต้องใช้

    เปิดหน้าดาวน์โหลด uv ↗

    ลงเสร็จแล้ว ปิด Terminal เปิดใหม่ แล้วพิมพ์คำสั่งเดิมอีกครั้ง ต้องขึ้นเลขรุ่น: uv --version

    ลงครั้งเดียว ใช้ได้กับทุกตัวที่ต้องใช้ uv

  2. กรอกค่าตั้ง 1 ช่อง

    ค่าเหล่านี้เป็นค่าตั้งของโปรแกรม ไม่ใช่คีย์ ไม่ต้องสมัครอะไร ใส่ตามที่ผู้ทำอธิบาย

    • LOCAL_HOST URL ของ endpoint โมเดล ต้องอยู่ในเครื่องหรือในเครือข่ายของคุณเอง จำเป็นสำหรับแบ็กเอนด์ openai
      ดูต้นฉบับภาษาอังกฤษModel endpoint URL; must be local or on your own network. Required for the openai backend

    คำอธิบายแปลอัตโนมัติ ชื่อตัวแปรคงตามต้นฉบับ ถ้าไม่แน่ใจให้ดูต้นฉบับ

  3. เปิด Terminal

    Mac: กด Command+Space พิมพ์ Terminal · Windows: เปิด PowerShell

  4. วางคำสั่งนี้แล้วกด Enter

    claude mcp add --scope user ollama-vllm --env LOCAL_HOST='ใส่ค่าของคุณ' -- uvx mcp-ollama-vllm
  5. พิมพ์ /mcp ใน Claude Code

    ต้องเห็น Ollama / vLLM Bridge ในรายการและขึ้นว่าเชื่อมต่อแล้ว

  6. ลองเลย

    ใช้ Ollama / vLLM Bridge บอกหน่อยว่าทำอะไรให้ฉันได้บ้าง แล้วลองทำให้ดูหนึ่งอย่าง

    ✓ ถ้า Claude Code บอกว่ากำลังใช้ Ollama / vLLM Bridge หรือมีชื่อเครื่องมือของ Ollama / vLLM Bridge ขึ้นในคำตอบ แปลว่าต่อสำเร็จ

ค่าตั้งเพิ่มเติม 6 ช่อง (ไม่ต้องกรอกก็ใช้ได้)

คำสั่งด้านบนใช้ได้เลยโดยไม่ต้องใส่ค่าเหล่านี้ ถ้าอยากปรับค่อยเพิ่มเองตามคำอธิบายของผู้ทำ

  • LOCAL_BACKEND Backend to use: ollama, vllm or openai · ค่าเริ่มต้น ollama
  • LOCAL_API_KEY bearer token แบบไม่บังคับ ใช้เฉพาะ backend openai; ส่งเป็น header และไม่มีการบันทึกใน log
    ดูต้นฉบับภาษาอังกฤษOptional bearer token, openai backend only; sent as a header, never logged
  • LOCAL_TIMEOUT เวลารอสูงสุดในการอ่านเป็นวินาที
    ดูต้นฉบับภาษาอังกฤษRead timeout in seconds
    · ค่าเริ่มต้น 600
  • LOCAL_EMBED_MODEL โมเดลฝังข้อมูลเริ่มต้น
    ดูต้นฉบับภาษาอังกฤษDefault embedding model
    · ค่าเริ่มต้น nomic-embed-text
  • LOCAL_EMBED_PATH ไม่บังคับ เฉพาะแบ็กเอนด์ openai: พาธของจุดสิ้นสุด embedding
    ดูต้นฉบับภาษาอังกฤษOptional, openai backend only: embedding endpoint path
    · ค่าเริ่มต้น /v1/embeddings
  • LOCAL_SCHEMA_MODE ไม่บังคับ ใช้เฉพาะ backend openai เท่านั้น: auto, response_format หรือ none
    ดูต้นฉบับภาษาอังกฤษOptional, openai backend only: auto, response_format or none
    · ค่าเริ่มต้น auto

คำอธิบายแปลอัตโนมัติ ชื่อตัวแปรคงตามต้นฉบับ ถ้าไม่แน่ใจให้ดูต้นฉบับ

ชื่อเมนูตรวจกับหน้าช่วยเหลือของ Anthropic เมื่อ 11 พ.ย. 2569 · หน้าจอของคุณอาจต่างเล็กน้อยตามรุ่นของแอป

ต่อกับ Cursor ได้ แต่ต้องเตรียมก่อน

ต้องกรอกค่าตั้ง 1 ช่อง (LOCAL_HOST) · ต้องลง Python (uv) ในเครื่องก่อน (ทำครั้งเดียว)

ให้ AI ติดตั้งให้

คัดลอกข้อความนี้ไปวางในแชตของ Cursor AI จะเช็กเครื่อง บอกว่าจะแก้ไฟล์ไหน และรอคุณตกลงก่อนทุกครั้ง

ช่วยติดตั้ง MCP server ชื่อ Ollama / vLLM Bridge ให้ Cursor ในเครื่องนี้ ทำตามลำดับ 1) เช็กว่ามี uv ด้วยคำสั่ง uv --version ถ้าไม่มี ให้บอกฉันไปลงจาก https://docs.astral.sh/uv/getting-started/installation/ ห้ามลงเอง 2) ใช้คอนฟิกนี้เท่านั้น (ผ่านตัวตรวจของ PopNx MCP แล้ว): { "mcpServers": { "ollama-vllm": { "command": "uvx", "args": [ "mcp-ollama-vllm" ], "env": { "LOCAL_HOST": "ใส่ค่าของคุณ" } } } } 3) บอก path เต็มของไฟล์ที่จะแก้ หรือคำสั่งที่จะรัน แล้วรอฉันตกลงก่อน 4) ช่อง LOCAL_HOST ให้คงคำว่า "ใส่ค่าของคุณ" ไว้ก่อน แล้วบอกให้ฉันวางค่าจริงเองในไฟล์หรือช่องของแอป ห้ามขอให้ฉันพิมพ์คีย์ในแชต 5) ทำตามที่ตกลง แล้วตรวจว่าเครื่องมือของ Ollama / vLLM Bridge ขึ้นจริง

ข้อความนี้ไม่มีคีย์ของคุณ ถ้าต้องใช้คีย์ AI จะบอกให้คุณวางเองในไฟล์หรือช่องของแอป

  1. ลง uv ในเครื่อง (ถ้ายังไม่มี)

    ลงไว้แล้วหรือยัง? เช็กก่อน · เปิด Terminal แล้วพิมพ์คำสั่งนี้ กด Enter

    uv --version
    • ขึ้นเลขรุ่น เช่น uv … = ลงแล้ว ข้ามขั้นนี้ได้
    • ขึ้นว่า "command not found" (Windows ขึ้นว่า "is not recognized") = ยังไม่ได้ลง หรือเพิ่งลงแต่ยังไม่ได้ปิดแล้วเปิด Terminal ใหม่
    เปิด Terminal ยังไง

    Mac: กด ⌘ + Space พิมพ์ Terminal แล้วกด Enter

    Windows: เปิดเมนู Start พิมพ์ Windows PowerShell แล้วกด Open

    ยังไม่ได้ลง: uv ไม่มีตัวติดตั้งแบบกดเอง คัดลอกคำสั่งหนึ่งบรรทัดของเครื่องคุณ (macOS หรือ Windows) จากหน้าทางการของ uv ไปวางใน Terminal · ไม่ต้องลง Python แยก uv ดาวน์โหลดให้เองเมื่อต้องใช้

    เปิดหน้าดาวน์โหลด uv ↗

    ลงเสร็จแล้ว ปิด Terminal เปิดใหม่ แล้วพิมพ์คำสั่งเดิมอีกครั้ง ต้องขึ้นเลขรุ่น: uv --version

    ลงครั้งเดียว ใช้ได้กับทุกตัวที่ต้องใช้ uv

  2. กรอกค่าตั้ง 1 ช่อง

    ค่าเหล่านี้เป็นค่าตั้งของโปรแกรม ไม่ใช่คีย์ ไม่ต้องสมัครอะไร ใส่ตามที่ผู้ทำอธิบาย

    • LOCAL_HOST URL ของ endpoint โมเดล ต้องอยู่ในเครื่องหรือในเครือข่ายของคุณเอง จำเป็นสำหรับแบ็กเอนด์ openai
      ดูต้นฉบับภาษาอังกฤษModel endpoint URL; must be local or on your own network. Required for the openai backend

    คำอธิบายแปลอัตโนมัติ ชื่อตัวแปรคงตามต้นฉบับ ถ้าไม่แน่ใจให้ดูต้นฉบับ

  3. กดปุ่มนี้เพื่อเปิด Cursor

    เปิดใน Cursor

    Cursor จะถามยืนยันการติดตั้ง ให้กด Install

  4. ใส่คีย์ในช่องที่ว่างไว้

    ในค่าตั้งของ Ollama / vLLM Bridge ช่อง LOCAL_HOST ยังว่าง ใส่คีย์ของคุณแล้วบันทึก

  5. เปิดแชตของ AI ใน Cursor โหมด Agent

  6. ลองเลย

    ใช้ Ollama / vLLM Bridge บอกหน่อยว่าทำอะไรให้ฉันได้บ้าง แล้วลองทำให้ดูหนึ่งอย่าง

    ✓ ถ้า Cursor บอกว่ากำลังใช้ Ollama / vLLM Bridge หรือมีชื่อเครื่องมือของ Ollama / vLLM Bridge ขึ้นในคำตอบ แปลว่าต่อสำเร็จ

ค่าตั้งเพิ่มเติม 6 ช่อง (ไม่ต้องกรอกก็ใช้ได้)

คำสั่งด้านบนใช้ได้เลยโดยไม่ต้องใส่ค่าเหล่านี้ ถ้าอยากปรับค่อยเพิ่มเองตามคำอธิบายของผู้ทำ

  • LOCAL_BACKEND Backend to use: ollama, vllm or openai · ค่าเริ่มต้น ollama
  • LOCAL_API_KEY bearer token แบบไม่บังคับ ใช้เฉพาะ backend openai; ส่งเป็น header และไม่มีการบันทึกใน log
    ดูต้นฉบับภาษาอังกฤษOptional bearer token, openai backend only; sent as a header, never logged
  • LOCAL_TIMEOUT เวลารอสูงสุดในการอ่านเป็นวินาที
    ดูต้นฉบับภาษาอังกฤษRead timeout in seconds
    · ค่าเริ่มต้น 600
  • LOCAL_EMBED_MODEL โมเดลฝังข้อมูลเริ่มต้น
    ดูต้นฉบับภาษาอังกฤษDefault embedding model
    · ค่าเริ่มต้น nomic-embed-text
  • LOCAL_EMBED_PATH ไม่บังคับ เฉพาะแบ็กเอนด์ openai: พาธของจุดสิ้นสุด embedding
    ดูต้นฉบับภาษาอังกฤษOptional, openai backend only: embedding endpoint path
    · ค่าเริ่มต้น /v1/embeddings
  • LOCAL_SCHEMA_MODE ไม่บังคับ ใช้เฉพาะ backend openai เท่านั้น: auto, response_format หรือ none
    ดูต้นฉบับภาษาอังกฤษOptional, openai backend only: auto, response_format or none
    · ค่าเริ่มต้น auto

คำอธิบายแปลอัตโนมัติ ชื่อตัวแปรคงตามต้นฉบับ ถ้าไม่แน่ใจให้ดูต้นฉบับ

ชื่อเมนูตรวจกับหน้าช่วยเหลือของ Cursor เมื่อ 11 พ.ย. 2569 · หน้าจอของคุณอาจต่างเล็กน้อยตามรุ่นของแอป

ต่อกับ VS Code ได้ แต่ต้องเตรียมก่อน

ต้องกรอกค่าตั้ง 1 ช่อง (LOCAL_HOST) · ต้องลง Python (uv) ในเครื่องก่อน (ทำครั้งเดียว)

ให้ AI ติดตั้งให้

คัดลอกข้อความนี้ไปวางในแชตของ VS Code AI จะเช็กเครื่อง บอกว่าจะแก้ไฟล์ไหน และรอคุณตกลงก่อนทุกครั้ง

ช่วยติดตั้ง MCP server ชื่อ Ollama / vLLM Bridge ให้ VS Code ในเครื่องนี้ ทำตามลำดับ 1) เช็กว่ามี uv ด้วยคำสั่ง uv --version ถ้าไม่มี ให้บอกฉันไปลงจาก https://docs.astral.sh/uv/getting-started/installation/ ห้ามลงเอง 2) ใช้คอนฟิกนี้เท่านั้น (ผ่านตัวตรวจของ PopNx MCP แล้ว): { "servers": { "ollama-vllm": { "type": "stdio", "command": "uvx", "args": [ "mcp-ollama-vllm" ], "env": { "LOCAL_HOST": "ใส่ค่าของคุณ" } } } } 3) บอก path เต็มของไฟล์ที่จะแก้ หรือคำสั่งที่จะรัน แล้วรอฉันตกลงก่อน 4) ช่อง LOCAL_HOST ให้คงคำว่า "ใส่ค่าของคุณ" ไว้ก่อน แล้วบอกให้ฉันวางค่าจริงเองในไฟล์หรือช่องของแอป ห้ามขอให้ฉันพิมพ์คีย์ในแชต 5) ทำตามที่ตกลง แล้วตรวจว่าเครื่องมือของ Ollama / vLLM Bridge ขึ้นจริง

ข้อความนี้ไม่มีคีย์ของคุณ ถ้าต้องใช้คีย์ AI จะบอกให้คุณวางเองในไฟล์หรือช่องของแอป

  1. ลง uv ในเครื่อง (ถ้ายังไม่มี)

    ลงไว้แล้วหรือยัง? เช็กก่อน · เปิด Terminal แล้วพิมพ์คำสั่งนี้ กด Enter

    uv --version
    • ขึ้นเลขรุ่น เช่น uv … = ลงแล้ว ข้ามขั้นนี้ได้
    • ขึ้นว่า "command not found" (Windows ขึ้นว่า "is not recognized") = ยังไม่ได้ลง หรือเพิ่งลงแต่ยังไม่ได้ปิดแล้วเปิด Terminal ใหม่
    เปิด Terminal ยังไง

    Mac: กด ⌘ + Space พิมพ์ Terminal แล้วกด Enter

    Windows: เปิดเมนู Start พิมพ์ Windows PowerShell แล้วกด Open

    ยังไม่ได้ลง: uv ไม่มีตัวติดตั้งแบบกดเอง คัดลอกคำสั่งหนึ่งบรรทัดของเครื่องคุณ (macOS หรือ Windows) จากหน้าทางการของ uv ไปวางใน Terminal · ไม่ต้องลง Python แยก uv ดาวน์โหลดให้เองเมื่อต้องใช้

    เปิดหน้าดาวน์โหลด uv ↗

    ลงเสร็จแล้ว ปิด Terminal เปิดใหม่ แล้วพิมพ์คำสั่งเดิมอีกครั้ง ต้องขึ้นเลขรุ่น: uv --version

    ลงครั้งเดียว ใช้ได้กับทุกตัวที่ต้องใช้ uv

  2. กรอกค่าตั้ง 1 ช่อง

    ค่าเหล่านี้เป็นค่าตั้งของโปรแกรม ไม่ใช่คีย์ ไม่ต้องสมัครอะไร ใส่ตามที่ผู้ทำอธิบาย

    • LOCAL_HOST URL ของ endpoint โมเดล ต้องอยู่ในเครื่องหรือในเครือข่ายของคุณเอง จำเป็นสำหรับแบ็กเอนด์ openai
      ดูต้นฉบับภาษาอังกฤษModel endpoint URL; must be local or on your own network. Required for the openai backend

    คำอธิบายแปลอัตโนมัติ ชื่อตัวแปรคงตามต้นฉบับ ถ้าไม่แน่ใจให้ดูต้นฉบับ

  3. กดปุ่มนี้เพื่อเปิด VS Code

    เปิดใน VS Code

    VS Code จะถามยืนยันการติดตั้ง ให้กด Install

  4. ใส่คีย์ในช่องที่ว่างไว้

    ในค่าตั้งของ Ollama / vLLM Bridge ช่อง LOCAL_HOST ยังว่าง ใส่คีย์ของคุณแล้วบันทึก

  5. เปิดแชตของ AI ใน VS Code โหมด Agent

  6. ลองเลย

    ใช้ Ollama / vLLM Bridge บอกหน่อยว่าทำอะไรให้ฉันได้บ้าง แล้วลองทำให้ดูหนึ่งอย่าง

    ✓ ถ้า VS Code บอกว่ากำลังใช้ Ollama / vLLM Bridge หรือมีชื่อเครื่องมือของ Ollama / vLLM Bridge ขึ้นในคำตอบ แปลว่าต่อสำเร็จ

ค่าตั้งเพิ่มเติม 6 ช่อง (ไม่ต้องกรอกก็ใช้ได้)

คำสั่งด้านบนใช้ได้เลยโดยไม่ต้องใส่ค่าเหล่านี้ ถ้าอยากปรับค่อยเพิ่มเองตามคำอธิบายของผู้ทำ

  • LOCAL_BACKEND Backend to use: ollama, vllm or openai · ค่าเริ่มต้น ollama
  • LOCAL_API_KEY bearer token แบบไม่บังคับ ใช้เฉพาะ backend openai; ส่งเป็น header และไม่มีการบันทึกใน log
    ดูต้นฉบับภาษาอังกฤษOptional bearer token, openai backend only; sent as a header, never logged
  • LOCAL_TIMEOUT เวลารอสูงสุดในการอ่านเป็นวินาที
    ดูต้นฉบับภาษาอังกฤษRead timeout in seconds
    · ค่าเริ่มต้น 600
  • LOCAL_EMBED_MODEL โมเดลฝังข้อมูลเริ่มต้น
    ดูต้นฉบับภาษาอังกฤษDefault embedding model
    · ค่าเริ่มต้น nomic-embed-text
  • LOCAL_EMBED_PATH ไม่บังคับ เฉพาะแบ็กเอนด์ openai: พาธของจุดสิ้นสุด embedding
    ดูต้นฉบับภาษาอังกฤษOptional, openai backend only: embedding endpoint path
    · ค่าเริ่มต้น /v1/embeddings
  • LOCAL_SCHEMA_MODE ไม่บังคับ ใช้เฉพาะ backend openai เท่านั้น: auto, response_format หรือ none
    ดูต้นฉบับภาษาอังกฤษOptional, openai backend only: auto, response_format or none
    · ค่าเริ่มต้น auto

คำอธิบายแปลอัตโนมัติ ชื่อตัวแปรคงตามต้นฉบับ ถ้าไม่แน่ใจให้ดูต้นฉบับ

ชื่อเมนูตรวจกับหน้าช่วยเหลือของ VS Code เมื่อ 11 พ.ย. 2569 · หน้าจอของคุณอาจต่างเล็กน้อยตามรุ่นของแอป

โปรแกรมอื่นที่ใช้ MCP ได้ เช่น Windsurf, Zed หรือ Gemini CLI มีวิธีเพิ่มต่างกัน ดูวิธีของแต่ละตัวในหน้ารวมโปรแกรม

ดูโปรแกรมที่ใช้ MCP ทั้งหมด →

ค่าตั้งแบบไฟล์ JSON อยู่ในหัวข้อ “สำหรับคนเขียนโค้ด” ด้านล่าง

ติดตรงไหน? ถามคนที่ใช้ Ollama / vLLM Bridge อยู่💬 พูดคุย →
สำหรับคนเขียนโค้ด: คำสั่ง Terminal และค่าตั้ง JSON

ติดตั้งในเครื่อง

Claude Code

claude mcp add --scope user ollama-vllm --env LOCAL_HOST='ใส่ค่าของคุณ' -- uvx mcp-ollama-vllm

Claude Desktop (claude_desktop_config.json)

{
  "mcpServers": {
    "ollama-vllm": {
      "command": "uvx",
      "args": [
        "mcp-ollama-vllm"
      ],
      "env": {
        "LOCAL_HOST": "ใส่ค่าของคุณ"
      }
    }
  }
}

Cursor (~/.cursor/mcp.json)

{
  "mcpServers": {
    "ollama-vllm": {
      "command": "uvx",
      "args": [
        "mcp-ollama-vllm"
      ],
      "env": {
        "LOCAL_HOST": "ใส่ค่าของคุณ"
      }
    }
  }
}

VS Code (mcp.json)

{
  "servers": {
    "ollama-vllm": {
      "type": "stdio",
      "command": "uvx",
      "args": [
        "mcp-ollama-vllm"
      ],
      "env": {
        "LOCAL_HOST": "ใส่ค่าของคุณ"
      }
    }
  }
}

ค่าที่ต้องใส่เอง

  • LOCAL_BACKEND env
    Backend to use: ollama, vllm or openai
  • LOCAL_HOST จำเป็น env
    URL ของ endpoint โมเดล ต้องอยู่ในเครื่องหรือในเครือข่ายของคุณเอง จำเป็นสำหรับแบ็กเอนด์ openai
    ดูต้นฉบับภาษาอังกฤษModel endpoint URL; must be local or on your own network. Required for the openai backend
  • LOCAL_API_KEY ความลับ env
    bearer token แบบไม่บังคับ ใช้เฉพาะ backend openai; ส่งเป็น header และไม่มีการบันทึกใน log
    ดูต้นฉบับภาษาอังกฤษOptional bearer token, openai backend only; sent as a header, never logged
  • LOCAL_TIMEOUT env
    เวลารอสูงสุดในการอ่านเป็นวินาที
    ดูต้นฉบับภาษาอังกฤษRead timeout in seconds
  • LOCAL_EMBED_MODEL env
    โมเดลฝังข้อมูลเริ่มต้น
    ดูต้นฉบับภาษาอังกฤษDefault embedding model
  • LOCAL_EMBED_PATH env
    ไม่บังคับ เฉพาะแบ็กเอนด์ openai: พาธของจุดสิ้นสุด embedding
    ดูต้นฉบับภาษาอังกฤษOptional, openai backend only: embedding endpoint path
  • LOCAL_SCHEMA_MODE env
    ไม่บังคับ ใช้เฉพาะ backend openai เท่านั้น: auto, response_format หรือ none
    ดูต้นฉบับภาษาอังกฤษOptional, openai backend only: auto, response_format or none

คำอธิบายแปลอัตโนมัติ ชื่อตัวแปรคงตามต้นฉบับ ถ้าไม่แน่ใจให้ดูต้นฉบับ

ค่าตั้งนี้สร้างจากข้อมูลใน registry ของผู้ทำ ถ้าไม่ตรงกับ README ให้เชื่อ README

สรุป

ดาวน์โหลดต่อสัปดาห์i
61/สัปดาห์
การเชื่อมต่อ
รันบนเครื่อง
รุ่นล่าสุดi
1.0.6
ส่งเข้า registryi
22 ต.ค. 2569
แก้โค้ดล่าสุดi
22 ต.ค. 2569
ผู้ทำ
setheerwagen
แพ็กเกจ
pypi: mcp-ollama-vllm
สถานะใน registry
ใช้งานอยู่

ใช้กับโปรแกรมไหนได้

ดูจากแบบการต่อของ server ตัวนี้ และเอกสารของผู้ทำโปรแกรมแต่ละตัว ตรวจเมื่อ 10 พ.ย. 2569

ติดตั้งบนเครื่องได้ใน

ClaudeGooseLM StudioMsty StudioCherry StudioCursorVS Code + GitHub CopilotVisual StudioWindsurf (Devin Desktop)ZedKiroClineContinueJetBrains AI AssistantClaude CodeCodex CLIGemini CLIOpenCodenodecodeWarpLibreChatRaycast

ดูโปรแกรมทั้งหมดพร้อมข้อดีข้อเสีย →

คู่มือที่เกี่ยวข้อง

ทำอะไรได้บ้าง

รันในเครื่องคุณ รายการเครื่องมือจะขึ้นในแอป AI หลังติดตั้ง

ผลตรวจเบื้องต้นi

เราตรวจจากข้อมูลที่ใครก็เปิดดูได้ ยังไม่ได้อ่านโค้ด ข้อที่ไม่เกี่ยวกับตัวนี้ไม่นับในตัวหาร · ตรวจเมื่อ 19 พ.ย. 2569

  • ✓ ผ่าน

    ตัวตนผู้ทำตรงกับ repo

    ชื่อใน registry ยืนยันด้วยบัญชี GitHub setheerwagen ซึ่งเป็นเจ้าของ repo

  • ✓ ผ่าน

    ยังมีคนดูแล

    มีการแก้โค้ดล่าสุด 28 วันที่ผ่านมา

  • ✓ ผ่าน

    มีสัญญาอนุญาต (license)

    ใช้ MIT

  • – ไม่เกี่ยว

    endpoint ตอบ

    ตัวนี้รันบนเครื่องคุณ ไม่มี endpoint บนอินเทอร์เน็ต

  • – ไม่เกี่ยว

    ล็อกอินแบบ OAuth

    ตัวนี้รันบนเครื่อง ใช้ค่าที่ตั้งในเครื่องแทน

  • … ยังไม่ตรวจ

    คำอธิบายเครื่องมือไม่มีคำสั่งแอบแฝง

    รันในเครื่องคุณ เราอ่านรายการเครื่องมือได้เฉพาะตัวที่มี endpoint บนอินเทอร์เน็ต

ช่องโหว่ที่เปิดเผยแล้ว (OSV.dev)

ไม่พบรายการใน OSV.dev สำหรับ mcp-ollama-vllm@1.0.6

ตรวจเฉพาะตัวแพ็กเกจรุ่นนี้ ไม่ใช่ทุก dependency · ตรวจเมื่อ 16 พ.ย. 2569

เราตรวจอะไรบ้าง → · JSON

ผู้ทำ: ขอให้ตรวจใหม่ หรือแจ้งข้อมูลผิด
สำหรับผู้ทำ: ติดป้ายใน README

ถ้าคุณเป็นผู้ทำตัวนี้ คัดลอกโค้ดนี้ไปวางใน README ได้เลย ป้ายลิงก์กลับมาที่หน้านี้

[![แนะนำบน PopNx MCP](https://mcp.popnx.com/badge/setheerwagen-mcp-ollama-vllm.svg?lang=th)](https://mcp.popnx.com/th/servers/setheerwagen-mcp-ollama-vllm)

พูดคุย

ถาม แชร์เคล็ดลับ หรือแจ้งว่าใช้ไม่ได้ เรียงตามที่คนกดว่ามีประโยชน์

ยังไม่มีใครโพสต์ ถามหรือแชร์เป็นคนแรกได้เลย

ข้อความในส่วนนี้เขียนโดยผู้ใช้ ไม่ใช่ทีม PopNx

เข้าสู่ระบบเพื่อโพสต์

รีวิวจากผู้ใช้

ยังไม่มีรีวิว

เข้าสู่ระบบเพื่อเขียนรีวิว

เทียบกับตัวอื่นในหมวด เครื่องมือนักพัฒนาi

  • ดาวมากกว่า 0% ของอีก 6116 ตัวในหมวดนี้
  • ส่งรุ่นใหม่เข้า registry ล่าสุดกว่า 53% ของอีก 6116 ตัวในหมวดนี้
  • ผลตรวจเบื้องต้นดีกว่าหรือเท่ากับ 99% ของอีก 6116 ตัวในหมวดนี้

เทียบกับทุก server ที่ยังใช้งานในหมวดนี้ทั้งทะเบียน ดาวนับเฉพาะเมื่อผู้ลงทะเบียนเป็นเจ้าของ repo

คำถามที่พบบ่อย

Ollama / vLLM Bridge ปลอดภัยไหม?

จากการตรวจเบื้องต้นของเรา ผ่าน 3 จาก 3 ข้อที่ตรวจได้ เรายังไม่ได้อ่านโค้ด ก่อนใส่กุญแจหรือ token ให้ดูว่า server ขอสิทธิ์อะไร และเลือกกุญแจที่ทำได้เท่าที่จำเป็น

ต้องใช้กุญแจหรือรหัสอะไรบ้าง?

registry ไม่ได้ระบุว่าต้องใช้กุญแจ แต่บางตัวจะขอให้ล็อกอินตอนใช้ครั้งแรก

ตัวนี้รันบนเครื่องหรือบนคลาวด์?

รันบนเครื่องของคุณ โปรแกรม AI จะเปิด server ขึ้นมาเองเมื่อใช้ ข้อมูลไม่ต้องผ่านเซิร์ฟเวอร์ของผู้ทำ (ยกเว้นตัวที่ไปเรียกบริการออนไลน์ต่อ)

ยังมีคนดูแลอยู่ไหม?

repo บน GitHub มีการแก้โค้ดล่าสุด 28 วันที่ผ่านมา และส่งรุ่นล่าสุด (1.0.6) เข้า registry 28 วันที่ผ่านมา

ใช้กับโปรแกรมไหนได้บ้าง?

โปรแกรมที่รองรับ MCP เช่น Claude Desktop, Claude Code, Cursor และ VS Code ตัวนี้ต้องมี Python (uv) ในเครื่องด้วย

มีตัวไหนใช้แทนได้บ้าง?

ในหมวดเดียวกันมี GitDiagram, Appllama, Cloudflare MCP, Omnara, Repowise

ตัวอื่นที่ทำงานคล้ายกัน

หมวดเดียวกันจากผู้ทำคนอื่น ผ่านตัวตรวจคำสั่งแล้ว ตัวทางการขึ้นก่อน แล้วเรียงตามดาว

อ่านการ์ด:↓ ดาวน์โหลดต่อสัปดาห์i★ ดาว GitHubiสามเสา: รีวิว · ผลตรวจ · การใช้งานiอัปเดต = วันที่ส่งรุ่นล่าสุดเข้า registryi

GitDiagram

Architecture diagrams, explanations and Mermaid source for public GitHub repositories.

โดย ahmedkhaleel2004ใช้กันมาก★ 19Kอัปเดต 2 เดือนที่ผ่านมา

รันบนคลาวด์✓ เจ้าของบริการ · gitdiagram.comทีม PopNx ลองใช้จริงแล้ว

Appllama

Study screens, flows and paywalls from top-earning iOS apps, then build from what wins.

โดย Appllamaใช้กันมาก★ 5.2Kอัปเดต 3 เดือนที่ผ่านมา

รันบนคลาวด์✓ เจ้าของบริการ · appllama.io

Cloudflare MCP

Cloudflare MCP servers

โดย cloudflareใช้กันมาก★ 4.5Kอัปเดต 14 เดือนที่ผ่านมา

รันบนคลาวด์✓ เจ้าของบริการ · mcp.cloudflare.comทีม PopNx ลองใช้จริงแล้ว

Omnara

Deploy durable AI agents with Omnara, an open-source managed-agent platform.

โดย omnara-aiใช้กันมาก★ 3.4Kอัปเดต 2 เดือนที่ผ่านมา

รันบนคลาวด์✓ เจ้าของบริการ · omnara.com

Repowise

Codebase intelligence for AI coding agents: graph, git history, docs, decisions, code health.

โดย repowise-devใช้กันมาก↓ 6.5K/สัปดาห์★ 8.2K ดาวรวมทั้งรีโปอัปเดต 6 วันที่ผ่านมา

บนเครื่องหรือคลาวด์✓ เจ้าของบริการ · repowise.dev
เทียบกับตัวที่คล้ายกัน
ตัวนี้
Ollama / vLLM Bridge
GitDiagramAppllamaCloudflare MCPOmnaraRepowise
ทำงานที่ไหนต้องลงในเครื่องใช้บนคลาวด์ ไม่ต้องลงเครื่องใช้บนคลาวด์ ไม่ต้องลงเครื่องใช้บนคลาวด์ ไม่ต้องลงเครื่องใช้บนคลาวด์ ไม่ต้องลงเครื่องมีทั้งบนคลาวด์และแบบลงเครื่อง
ต้องใส่คีย์ไม่ไม่ไม่ไม่ไม่ไม่
กด + ใน Claude ได้ไม่ไม่ไม่ใช่ไม่ไม่
ผลตรวจเบื้องต้น3/34/44/44/44/45/5
สัญญาอนุญาตMITMITMITApache-2.0Apache-2.0AGPL-3.0
ราคาไม่พบค่าใช้จ่ายในทะเบียนไม่พบค่าใช้จ่ายในทะเบียนไม่พบค่าใช้จ่ายในทะเบียนไม่พบค่าใช้จ่ายในทะเบียนไม่พบค่าใช้จ่ายในทะเบียนไม่พบค่าใช้จ่ายในทะเบียน

README จากผู้ทำ

เปิดอ่าน README

ส่วนนี้คัดจาก repo ของผู้ทำตามต้นฉบับ PopNx MCP ไม่ได้ตรวจหรือรับรองเนื้อหา ตัด HTML รูปภาพ และสคริปต์ออกแล้ว ลิงก์จะพาออกนอกเว็บ

mcp-ollama-vllm

An MCP server that lets an MCP client such as Claude Code talk to local language models directly. The backend is wired up at startup: Ollama, vLLM, or a generic OpenAI-compatible endpoint (set once via LOCAL_BACKEND, see below). The third, openai, is not a plugin loader for arbitrary tools; it is one more fixed backend implementation, covering servers such as LM Studio, the llama.cpp server, LocalAI, TGI, koboldcpp, SGLang or Jan, which all expose the same OpenAI-compatible /v1 endpoints as vLLM but are not vLLM itself.

Why this one

The one thing this server does that a plain Ollama/vLLM call does not: schema-validated JSON output, checked with its own dependency-free validator and automatically retried on a violation (up to 3 attempts total, feeding the concrete violations back to the model), the same way, with the same tool call, regardless of which of the two backends is configured. Both Ollama's format and vLLM's response_format steer the model toward JSON, but neither guarantees that the result actually matches your schema; this server checks that independently instead of trusting the backend's word for it.

Before / after (illustrative, not a real run):

// Backend's own schema enforcement alone (Ollama "format" / vLLM "response_format"):

// looks like valid JSON, but a required field went missing under load and nobody // checked it against the schema before handing it onward. {"amount": 42.10, "currency": "EUR"}

// local_structured: the same case, but validated against the schema and // automatically retried with the concrete violation fed back to the model. {"amount": 42.10, "currency": "EUR", "total": 42.10} // -> attempts: 2, valid_on_first_try: false, outcome already re-validated

Known limits, stated on purpose:

  • With vLLM the model listing reports less metadata than Ollama: no size or quantization, those fields read unknown/0 instead of a made-up value.
  • With the generic `openai` backend the model listing usually reports even less: most such servers answer /v1/models with only id (and owned_by), so parameter_size/quantization read unknown, sizes read 0, there is no adapter signal, and max_context is only included when the endpoint genuinely reports it. The top-level metadata_reported field (see list_models below) makes this "not reported" honestly visible.
  • The think parameter (reasoning trace) has no effect on vLLM or `openai`; it is only wired up for Ollama. See "The think parameter" below.

Operating systems: CI runs the self-tests on Linux, and the mock-backed setup self-test selftest_vllm.py on Windows too; the server is pure Python with no OS-specific calls, and its live backend path was additionally exercised once on Windows on 2026-08-07. Needs a running backend service (Ollama or vLLM); the setup self-test selftest_vllm.py uses a mock and needs no real service. macOS is not separately tested.

Purpose

A large part of an AI agent's work is pure language processing: writing, summarizing, classifying, extracting structured data from text. These parts can be offloaded to a local model, while searching, reading, writing and the orchestration stay with the calling client.

This is explicitly about a model call, not an agent. The local model receives text and returns text. It has no tools, no file access, and it does not work in multiple steps.

Security properties

These limits are part of the design, not just the docs:

  • No file access. The server exposes no tool that reads or writes files. It reads only its own configuration from environment variables.
  • No shell execution. There is no path to subprocess, os.system or anything comparable.
  • Local machine or local network only. The server process itself makes no outbound calls other than to its configured backend endpoint, and that endpoint's address is checked both at startup and again on every call; if it points to the internet, the server refuses to start (or the call is rejected). Names are resolved for this, and all addresses behind them must be local, otherwise the guard could be bypassed via DNS; the resolved address is then pinned for the actual connection so a later re-resolution to a public address cannot slip past the check. Loopback and private networks (RFC 1918) are allowed, so a vLLM box on the local network is reachable; public addresses are rejected.
  • Two direct dependencies: mcp and httpx. mcp in turn pulls in several further packages transitively (among others anyio, pydantic, starlette, uvicorn, jsonschema, pyjwt). The full resolved tree is pinned in uv.lock; CI checks with uv lock --check that the lock still matches pyproject.toml, then installs the exact locked tree for the tests, so a drifted lock fails CI. A separate, advisory pip-audit job checks the locked tree for known vulnerabilities on every push to main and pull request and again weekly; it does not block a pull request.

These properties bound what this server does; they are not a claim about the AI tool that drives it. The model you call runs locally, but the Claude/ChatGPT session that decides to call it is a separate hosted service and sees the calls it makes, like any MCP call. Drive the server with a local model if that matters.

See SECURITY.md for the trust boundaries this covers (the model as an oracle rather than an agent, prompt injection via model output, DNS rebinding pinning) and what it does not.

Installation

Replace /path/to/mcp-ollama-vllm below with the directory you extracted/cloned this project into.

Python 3.10 or newer is required. There are two equivalent ways to set up a virtual environment; use whichever tool you have.

With the standard venv module and pip:

cd /path/to/mcp-ollama-vllm

python3 -m venv .venv .venv/bin/pip install -r requirements.txt

If python3 -m venv fails (on some distributions the python3-venv package is missing), either install that package or take the route with uv:

cd /path/to/mcp-ollama-vllm

uv venv .venv --seed .venv/bin/pip install -r requirements.txt

(--seed makes sure pip lands in the environment. Alternatively, without --seed, install with uv pip install --python .venv/bin/python -r requirements.txt.)

The modules live under src/mcp_ollama_vllm/ (a src layout, so the package name does not collide with other MCP servers' top-level modules). Either of the above gives you a checkout that runs via PYTHONPATH=src (see "Entry for the MCP configuration" below), or install the package itself with .venv/bin/pip install ., which additionally provides the mcp-ollama-vllm console script and needs no PYTHONPATH.

A reachable Ollama or vLLM backend is a prerequisite for running:

  • Ollama: install locally (see https://ollama.com), start it with ollama serve and pull at least one model (e.g. ollama pull llama3.2:3b); check with ollama list. For local_embed additionally pull an embedding model, e.g. ollama pull nomic-embed-text.
  • vLLM: an OpenAI-compatible vLLM endpoint on this machine or one on your local network. The backend is switched only through the environment variables described below; the server itself does not change.

Entry for the MCP configuration

In ~/.claude.json, or the mcpServers section of your Claude Code config:

{

"mcpServers": { "local-models": { "command": "/path/to/mcp-ollama-vllm/.venv/bin/python", "args": ["-m", "mcp_ollama_vllm.server"], "env": { "PYTHONPATH": "/path/to/mcp-ollama-vllm/src", "LOCAL_BACKEND": "ollama", "LOCAL_HOST": "http://localhost:11434", "LOCAL_TIMEOUT": "600" } } } }

Replace /path/to/mcp-ollama-vllm with the absolute path you extracted this project into. Alternatively via CLI:

claude mcp add local-models --env PYTHONPATH=/path/to/mcp-ollama-vllm/src -- \

/path/to/mcp-ollama-vllm/.venv/bin/python -m mcp_ollama_vllm.server

By default, claude mcp add binds the server to the current working directory; for global visibility across all directories, append --scope user.

Alternatively, after .venv/bin/pip install . (see "Installation" above), the PYTHONPATH entry is not needed and args can be ["-m", "mcp_ollama_vllm.server"] as is, or the installed console script can be used directly as command: /path/to/mcp-ollama-vllm/.venv/bin/mcp-ollama-vllm with no args.

First call

Restart your MCP client so it picks up the new server, then call list_models with no arguments. A response with your models proves the server starts, finds the backend and talks to it correctly, all in one step.

Environment variables
VariableDefaultMeaning
LOCAL_BACKENDollamaBackend: ollama, vllm or openai
LOCAL_HOSTper backendEndpoint; must be local or on your own network
LOCAL_TIMEOUT600Read timeout in seconds
LOCAL_EMBED_MODELnomic-embed-text (Ollama)Default embedding model
LOCAL_API_KEY-Optional; openai only. Sent as a Bearer header, never logged
LOCAL_EMBED_PATH/v1/embeddingsOptional; openai only. Embedding endpoint path
LOCAL_SCHEMA_MODEautoOptional; openai only. auto, response_format or none (see local_structured below)

The default for LOCAL_HOST is http://localhost:11434 for Ollama and http://localhost:8000 for vLLM. For openai there is no default: the generic backend has no sensible port to guess, so LOCAL_HOST is required and the server refuses to start without it.

The old names OLLAMA_HOST, OLLAMA_TIMEOUT and OLLAMA_EMBED_MODEL are still read so existing configurations do not break. If both are set, the LOCAL_ name wins.

Switching to a remote vLLM endpoint

The vLLM box on the local network is addressed through only two variables; the server itself does not change:

{

"mcpServers": { "local-models": { "command": "/path/to/mcp-ollama-vllm/.venv/bin/python", "args": ["-m", "mcp_ollama_vllm.server"], "env": { "PYTHONPATH": "/path/to/mcp-ollama-vllm/src", "LOCAL_BACKEND": "vllm", "LOCAL_HOST": "http://192.168.x.x:8000", "LOCAL_TIMEOUT": "600", "LOCAL_EMBED_MODEL": "BAAI/bge-m3" } } } }

Both backends can also be registered in parallel, under different names (e.g. local-models and local-models-server), so both are available in the same session.

Registering the same server multiple times

There is nothing wrong with registering the same server under several names at once, each with its own LOCAL_BACKEND/LOCAL_HOST. That way different backends can be addressed in the same session, for example:

  • one entry for a local Ollama (http://localhost:11434),
  • another for a vLLM on a different machine on your network,
  • a third for an Ollama on that same remote machine.

All three are then instances of one and the same server, just configured differently. Give them descriptive names and check before use which entry hits the intended machine and backend, rather than relying on the name alone.

The openai backend works the same way, no new routing mechanism: two generic-server entries on different ports, for example LM Studio on http://localhost:1234 and a llama.cpp server on http://localhost:8080:

{

"mcpServers": { "local-models-lmstudio": { "command": "/path/to/mcp-ollama-vllm/.venv/bin/python", "args": ["-m", "mcp_ollama_vllm.server"], "env": { "PYTHONPATH": "/path/to/mcp-ollama-vllm/src", "LOCAL_BACKEND": "openai", "LOCAL_HOST": "http://localhost:1234" } }, "local-models-llam

ตัดมาแค่ช่วงต้น อ่านต่อใน repo