Self Hosted AI

Name: Self Hosted AI
Author: cipherfoxie

von cipherfoxieVersion 1.0.0i★ 3 (Sterne gehören zu einem anderen Repo)iLäuft in der Cloud

Name in der Registryorg.sovgrid/self-hosted-ai

So installierst du es

What it does

Engineering log of self-hosted AI on NVIDIA DGX Spark (GB10/SM121A). 60+ articles indexed.

Connects Läuft in der Cloud
Account or key No key needed
Category Sonstiges

Installation

Wähle die KI-App, die du nutzt, und kopiere die Einstellungen.

4/5 Prüfungen bestanden · Was du fragst, läuft über den Server des Anbieters (mcp.sovgrid.org)

Zuerst: Welche KI nutzt du?

ClaudeWeb · App · HandyChatGPTWebClaude CodeTerminalCursorCode-EditorVS CodeCode-EditorAndereAndere Apps

Wähle deine App, dann erscheinen die Schritte unten.

Klappt mit Claude · etwa 2 Min.

Kein Schlüssel, nichts zu installieren · Einmal auf claude.ai oder in der Desktop-App einrichten, dann im Chat nutzen · kostenlose Konten können 1 hinzufügen · bei Team/Enterprise fügt ein Owner ihn hinzu

Öffne die Connectors-Seite von Claude
CustomizeConnectors
Erledigt
Klicke „+ Add“ → „Add custom connector“ und fülle diese 2 Felder aus
Kopiere jeden Wert in das gleichnamige Feld in Claude und klicke Continue
Name · NameSelf Hosted AI
Remote MCP server URL · Adressehttps://mcp.sovgrid.org/self-hosted-ai?ref=mcp-io
Authentication so lassen, wie Claude es erkannt hat, dann Add klicken
Erledigt
Im Chat einschalten
+ConnectorsSelf Hosted AI
Erledigt
Ausprobieren
Nutze Self Hosted AI und sag mir, was du für mich tun kannst; zeig mir dann eine Sache
✓ Wenn Claude sagt, dass es Self Hosted AI nutzt, oder ein Werkzeug von Self Hosted AI in der Antwort zeigt, bist du verbunden

Menünamen am 11. Nov. 2026 mit der Hilfe von Anthropic abgeglichen · dein Bildschirm kann je nach App-Version leicht abweichen

Klappt mit ChatGPT nur in Firmen-Tarifen

ChatGPT Business, Enterprise oder Edu im Web, hinzugefügt von Admin oder Inhaber des Workspace · Mit Free, Plus oder Pro: Dein ChatGPT-Tarif kann MCP noch nicht selbst verbinden

In ChatGPT im Web die Seite zum Hinzufügen von MCP öffnen
Plugins+Add custom MCP server
Erledigt
Name und Adresse eintragen
Namen eingeben, Adresse unter Connection einfügen, Risikohinweis abhaken und Create as a plugin klicken
Name · NameSelf Hosted AI
Connection · Adressehttps://mcp.sovgrid.org/self-hosted-ai?ref=mcp-io
Erledigt
Self Hosted AI im Chat auswählen
Neuen Chat öffnen und vor dem Tippen Self Hosted AI aus deinen Plugins wählen
Erledigt
Ausprobieren
Nutze Self Hosted AI und sag mir, was du für mich tun kannst; zeig mir dann eine Sache
✓ Wenn ChatGPT sagt, dass es Self Hosted AI nutzt, oder ein Werkzeug von Self Hosted AI in der Antwort zeigt, bist du verbunden

Menünamen am 11. Nov. 2026 mit der Hilfe von OpenAI abgeglichen · dein Bildschirm kann je nach App-Version leicht abweichen

Klappt mit Claude Code · etwa 2 Min.

Kein Schlüssel, nichts zu installieren

Terminal öffnen
Mac: Command+Leertaste drücken und Terminal tippen · Windows: PowerShell öffnen
Erledigt

Diesen Befehl einfügen und Enter drücken

claude mcp add --transport http --scope user self-hosted-ai 'https://mcp.sovgrid.org/self-hosted-ai?ref=mcp-io'

Erledigt

/mcp in Claude Code eingeben
Self Hosted AI sollte in der Liste als verbunden erscheinen
Erledigt
Ausprobieren
Nutze Self Hosted AI und sag mir, was du für mich tun kannst; zeig mir dann eine Sache
✓ Wenn Claude Code sagt, dass es Self Hosted AI nutzt, oder ein Werkzeug von Self Hosted AI in der Antwort zeigt, bist du verbunden

Menünamen am 11. Nov. 2026 mit der Hilfe von Anthropic abgeglichen · dein Bildschirm kann je nach App-Version leicht abweichen

Klappt mit Cursor · etwa 2 Min.

Kein Schlüssel, nichts zu installieren

Mit diesem Button Cursor öffnen
In Cursor öffnen
Cursor fragt nach einer Bestätigung; klicke Install
Erledigt
KI-Chat in Cursor im Agent-Modus öffnen
Erledigt
Ausprobieren
Nutze Self Hosted AI und sag mir, was du für mich tun kannst; zeig mir dann eine Sache
✓ Wenn Cursor sagt, dass es Self Hosted AI nutzt, oder ein Werkzeug von Self Hosted AI in der Antwort zeigt, bist du verbunden

Menünamen am 11. Nov. 2026 mit der Hilfe von Cursor abgeglichen · dein Bildschirm kann je nach App-Version leicht abweichen

Klappt mit VS Code · etwa 2 Min.

Kein Schlüssel, nichts zu installieren

Mit diesem Button VS Code öffnen
In VS Code öffnen
VS Code fragt nach einer Bestätigung; klicke Install
Erledigt
KI-Chat in VS Code im Agent-Modus öffnen
Erledigt
Ausprobieren
Nutze Self Hosted AI und sag mir, was du für mich tun kannst; zeig mir dann eine Sache
✓ Wenn VS Code sagt, dass es Self Hosted AI nutzt, oder ein Werkzeug von Self Hosted AI in der Antwort zeigt, bist du verbunden

Menünamen am 11. Nov. 2026 mit der Hilfe von VS Code abgeglichen · dein Bildschirm kann je nach App-Version leicht abweichen

Andere Apps mit MCP, etwa Windsurf, Zed oder Gemini CLI, fügen Server unterschiedlich hinzu. Sieh in der App-Liste nach

Alle Apps mit MCP ansehen →

Adresse für Apps, die über das Web verbinden

Adressehttps://mcp.sovgrid.org/self-hosted-ai?ref=mcp-io

JSON-Einstellungen stehen unten unter „Für Entwickler“

Hängst du fest? Frag Leute, die Self Hosted AI nutzen💬 Diskussion →

Für Entwickler: Terminal-Befehle und JSON-Einstellungen

Über das Web

Claude Code

claude mcp add --transport http --scope user self-hosted-ai 'https://mcp.sovgrid.org/self-hosted-ai?ref=mcp-io'

Cursor (~/.cursor/mcp.json)

{
  "mcpServers": {
    "self-hosted-ai": {
      "url": "https://mcp.sovgrid.org/self-hosted-ai?ref=mcp-io"
    }
  }
}

VS Code (mcp.json)

{
  "servers": {
    "self-hosted-ai": {
      "type": "http",
      "url": "https://mcp.sovgrid.org/self-hosted-ai?ref=mcp-io"
    }
  }
}

Diese Einstellungen werden aus dem Registry-Eintrag des Entwicklers erzeugt. Wenn in der README etwas anderes steht, folge der README.

Auf einen Blick

GitHub-Sterne i: 3 (Sterne gehören zu einem anderen Repo)
Dieser Eintrag verweist auf das Repo einer anderen Person, daher zählen die Sterne nicht in Ranglisten
Downloads pro Wochei: Nicht auf npm/PyPI
Bestätigte Domain: ✓ sovgrid.org
Lizenz i: MIT
Verbindung: Läuft in der Cloud
Transport: streamable-http
Neueste Versioni: 1.0.0
Kategoriei: Sonstiges
In der Registry veröffentlichti: 6. Mai 2026
Code zuletzt geänderti: 10. Okt. 2026
Entwickler: cipherfoxie
Repo: Sovgrid/sovereign-mcp
Website: sovgrid.org
Registry-Status: Aktiv

Welche Apps ihn nutzen können

Basierend darauf, wie sich dieser Server verbindet, und auf der eigenen Doku jeder App, geprüft am 10. Nov. 2026.

Verbinden sich über das Internet in

Claude ChatGPT Goose LM Studio Msty Studio Cherry Studio Cursor VS Code + GitHub Copilot Visual Studio Windsurf (Devin Desktop)Zed Kiro Cline Continue JetBrains AI Assistant Claude Code Codex CLI Gemini CLI OpenCode nodecode Warp LibreChat Open WebUI Raycast

Alle Apps, mit Vor- und Nachteilen →

Was er kann

Tool-Namen und -Beschreibungen genau so, wie der Server sie am 11. Nov. 2026 gemeldet hat. Geschrieben hat sie der Entwickler, nicht wir; wir zeigen sie als reinen Text.

search_blog
Search the Sovereign AI Blog for articles matching a natural language query, optionally filtered by tag and sorted by relevance or date. Behaviour matrix: - query='', sort=* -> list newest-first, optionally tag-filtered - query!='', sort=relevance -> TF-IDF ranked, optionally tag
list_articles
List all blog articles. No TF-IDF computation — pure database listing. Use to browse the full corpus, paginate through articles, or filter by tag. For full-text semantic search use search_blog instead.
get_article
Retrieve the full content of a blog article by its slug. Returns the article body (Markdown) plus metadata. If the slug does not match any article, returns an Article with `error='article_not_found'` and other fields at their defaults.
diagnose_sglang
Validate an SGLang configuration for NVIDIA DGX Spark (GB10/SM121A). Pure pattern-matching against known failure modes documented in the Sovereign AI Blog. No inference, no external calls. Returns critical issues, non-fatal warnings, and a recommended baseline config. All paramet
list_tags
List all topic tags used across the Sovereign AI Blog corpus, with article counts. Use this to browse the topic space before calling search_blog with a tag filter.

Basischecksi

Wir prüfen Informationen, die jeder sehen kann; den Code haben wir nicht gelesen. Checks, die nicht zutreffen, werden nicht mitgezählt. · Geprüft am 12. Nov. 2026

! Vorsicht
Entwickler passt zum Repo
Der Herausgeber (sovgrid.org) ist nicht der Repo-Inhaber (Sovgrid); vielleicht hat jemand anderes ihn eingetragen
✓ Bestanden
Wird noch gepflegt
Code zuletzt geändert: vor 33 Tagen
✓ Bestanden
Hat eine Lizenz
Nutzt MIT
✓ Bestanden
Endpunkt antwortet
Antwort in 1282 ms (HTTP 200)
– Nicht zutreffend
Anmeldung mit OAuth
Keine Anmeldung nötig
✓ Bestanden
Keine versteckten Anweisungen in Tool-Beschreibungen
Wir haben 5 Tool-Beschreibungen gelesen und keine versteckten Anweisungen an die KI gefunden

Diskussion

Fragen, Tipps teilen oder melden, dass etwas nicht geht. Sortiert nach „hilfreich“.

Noch keine Beiträge. Stell die erste Frage oder teile einen Tipp.

Beiträge hier stammen von Nutzern, nicht vom PopNx-Team.

Mit Google anmelden, um zu posten

Nutzerbewertungen

Noch keine Bewertungen

Mit Google anmelden, um zu bewerten

Im Vergleich mit anderen in Sonstigesi

Mehr Sterne als 0 % der anderen 19304 Server in dieser Kategorie
Neuer in der Registry veröffentlicht als 6 % der anderen 19304 Server in dieser Kategorie
Basischecks gleich gut wie oder besser als bei 49 % der anderen 19304 Server in dieser Kategorie

Verglichen mit allen aktiven Servern dieser Kategorie in der Registry. Sterne zählen nur, wenn dem Herausgeber das Repo gehört.

Häufige Fragen

Ist Self Hosted AI sicher?

Er hat 4 von 5 zutreffenden Basischecks bestanden. Den Code haben wir nicht gelesen. Bevor du einen Schlüssel oder Token hinzufügst, sieh nach, welche Zugriffe der Server verlangt, und nutze einen Schlüssel, der nur die Berechtigungen hat, die du brauchst.

Welche Schlüssel oder Codes braucht er?

Die Registry nennt keinen erforderlichen Schlüssel, manche Server bitten dich aber bei der ersten Nutzung, dich anzumelden.

Läuft er auf meinem Computer oder in der Cloud?

Er läuft in der Cloud des Entwicklers. Du verbindest dich übers Internet, ohne etwas zu installieren, aber was du sendest, läuft über die Server des Entwicklers.

Wird er noch gepflegt?

Das GitHub-Repo wurde zuletzt vor 33 Tagen geändert, und die neueste Version (1.0.0) kam vor 6 Monaten in die Registry.

Welche Apps können ihn nutzen?

Apps, die MCP unterstützen, etwa Claude Desktop, Claude Code, Cursor und VS Code. Er verbindet sich per URL und funktioniert daher auch in Apps mit Remote-MCP, etwa ChatGPT Business und höher.

Was kann ich stattdessen nutzen?

In derselben Kategorie: World Monitor, Claude Flow, Windmill

Andere in derselben Kategorie

Server derselben Kategorie von anderen Entwicklern, sortiert nach Sternen.

So liest du eine Karte:↓ Downloads pro Wochei★ GitHub-SterneiDrei Säulen: Bewertungen · Checks · NutzungiAktualisiert = neueste Version in der Registry veröffentlichti

World Monitor

Real-time global intelligence on conflict, markets, energy, trade, shipping and cyber. 102 tools.

von koala73Weit verbreitet★ 90.489Aktualisiert heute

Läuft in der Cloud✓ vom Dienst · worldmonitor.app

Installieren

Claude Flow

AI orchestration with hive-mind swarms, neural networks, and 87 MCP tools for enterprise dev.

von ruvnetWeit verbreitet↓ 13.513/Wo.★ 81.473Aktualisiert vor 14 Monaten

Läuft auf deinem Computer

Installieren

Windmill

Run Windmill scripts and flows and manage jobs, schedules, resources and variables.

von windmill-labsWeit verbreitet★ 18.530Aktualisiert heute

Läuft in der Cloud

Installieren

README vom Entwickler

README öffnen

Unverändert aus dem Repo des Entwicklers übernommen. PopNx MCP hat den Inhalt weder geprüft noch empfiehlt es ihn. HTML, Bilder und Skripte wurden entfernt. Links führen von dieser Website weg.

Sovereign AI MCP

MCP server exposing the Sovereign AI Blog to AI agents. The blog is a hands-on engineering log of self-hosted AI on NVIDIA DGX Spark (GB10/SM121A).

Live endpoint: https://mcp.sovgrid.org/self-hosted-ai Transport: Streamable HTTP (FastMCP) Auth: none (free tier, 60 req/min/IP)

Why use it

Training data on niche hardware (GB10, SM121A, SGLang on ARM64) is sparse and stale. This MCP gives agents direct, structured access to 180+ articles documenting actual setups, fixes, and benchmarks. If you're building or debugging on similar stacks, your agent can pull verified, version-current information instead of hallucinating.

The corpus covers SGLang and vLLM patches for GB10, voxtral and TTS pipelines on ARM64, KV-cache and quantization tradeoffs, podcast-grade audio generation, MCP server design, knowledge-base construction, and the operational side of running it all on a hardened European VPS.

Tools

Tool	Purpose
`search_blog(query, tag?, sort?, n?)`	TF-IDF full-text search. Optional `tag` filter, `sort` by relevance or `date_desc`. Empty `query` lists newest articles. Returns ranked `SearchResult` items with quality score, style, slug, and excerpt.
`list_articles(tag?, sort?, limit?, offset?)`	Direct article listing with pagination, no TF-IDF overhead. Filter by tag, sort by `date_desc`, `date_asc`, `title_asc`, or `quality_desc`. Returns `ArticleSummary` items.
`list_tags(sort?)`	List all topic tags across the corpus with article counts. Sort by `count_desc` (default) or `alpha`. Use to discover the topic space before filtering `search_blog`.
`get_article(slug)`	Fetch full article body and frontmatter by slug. Returns markdown content plus tags, quality score, publish date.
`diagnose_sglang(error_message)`	Pattern-match a runtime error against a curated rule set for SGLang on GB10/SM121A. Returns matched fixes with links to setup articles.

All tools are read-only, idempotent, and declared with ToolAnnotations so MCP clients can calibrate retry policy and trust signals. Inputs use Pydantic Annotated[type, Field(description=...)] so parameter docs reach agents through introspection. Outputs are typed BaseModel shapes — schemas are real, not vacuous dicts.

Quick start

With Claude Code

claude mcp add sovereign-ai --transport http https://mcp.sovgrid.org/self-hosted-ai

Verify:

claude mcp list | grep sovereign-ai

With Cline / Continue / other MCP clients

Add to your client's MCP server config:

"sovereign-ai": { "type": "http", "url": "https://mcp.sovgrid.org/self-hosted-ai" } }

Run locally

From source (uv)

git clone https://github.com/cipherfoxie/sovereign-mcp.git

cd sovereign-mcp uv sync uv run uvicorn src.main:app --host 127.0.0.1 --port 8002

Docker

git clone https://github.com/cipherfoxie/sovereign-mcp.git

cd sovereign-mcp docker build -t sovereign-mcp . docker run -p 8002:8002 sovereign-mcp

The repo ships a placeholder data/knowledge-base.json (zero articles, valid schema) so the server starts and answers MCP introspection cleanly out-of-the-box. To populate it with real content, generate from the sovgrid.org blog source using scripts/generate_knowledge_base.py, or build your own KB matching the schema in src/knowledge.py. Or just use the live endpoint at https://mcp.sovgrid.org/self-hosted-ai.

A walk-through of the same KB pattern (Markdown plus JSON index, no vector store) is documented in Build a Self-Hosted Knowledge Base with Plain Text and LLMs.

Architecture

FastMCP 1.27+ with Streamable HTTP transport at path /self-hosted-ai
DNS rebinding protection via TransportSecuritySettings: only allows requests with Host: mcp.sovgrid.org (or localhost for healthchecks)
Health endpoint at /health returns article count and KB generation timestamp
Knowledge base is a flat JSON file generated from blog Markdown content; loaded at startup, queried via TF-IDF for search_blog

The server is stateless. All blog content is already public (CC BY-SA 4.0). No PII, no auth tokens, no secrets.

Operations

Live deployment runs on a privacy-focused European VPS via Docker, fronted by Caddy with TLS. Server logs flow into a privacy-respecting analytics pipeline (Caddy JSON access logs, no client-side tracking, no JS pixels).

License

Server code: MIT, see LICENSE
Blog content (returned by tools): CC BY-SA 4.0, see creativecommons.org/licenses/by-sa/4.0/

Contact

Blog: sovgrid.org
Nostr: cipherfox@sovgrid.org (NIP-05) — npub1ndrjgfcwkc0y4753zyj3p7qjf795pvjq2dn4m7y7f72vmu7t0nrs6y363u
Bug reports / questions: open an issue

Self Hosted AI

What it does

Installation

Öffne die Connectors-Seite von Claude

Klicke „+ Add“ → „Add custom connector“ und fülle diese 2 Felder aus

Im Chat einschalten

Ausprobieren

In ChatGPT im Web die Seite zum Hinzufügen von MCP öffnen

Name und Adresse eintragen

Self Hosted AI im Chat auswählen

Ausprobieren

Terminal öffnen

Diesen Befehl einfügen und Enter drücken

/mcp in Claude Code eingeben

Ausprobieren

Mit diesem Button Cursor öffnen

KI-Chat in Cursor im Agent-Modus öffnen

Ausprobieren

Mit diesem Button VS Code öffnen

KI-Chat in VS Code im Agent-Modus öffnen

Ausprobieren

Über das Web

Auf einen Blick

Welche Apps ihn nutzen können

Was er kann

Basischecksi

Entwickler passt zum Repo

Wird noch gepflegt

Hat eine Lizenz

Endpunkt antwortet

Anmeldung mit OAuth

Keine versteckten Anweisungen in Tool-Beschreibungen

Diskussion

Nutzerbewertungen

Im Vergleich mit anderen in Sonstigesi

Häufige Fragen

Andere in derselben Kategorie

World Monitor

Claude Flow

Windmill

README vom Entwickler

Sovereign AI MCP

Why use it

Tools

Quick start

With Claude Code

With Cline / Continue / other MCP clients

Run locally

From source (uv)

Docker

Architecture

Operations

License

Contact