LLM Latency Tracker

Name: LLM Latency Tracker
Author: mazamaka

von mazamakaVersion 1.1.0i★ –iLäuft in der Cloud

Name in der Registrydev.llmlatency/llm-latency-tracker

Installieren

Überblick

Beschreibung vom Entwickler (englisches Original)

Measured latency, time to first token and uptime for ~45 AI inference APIs, by region.

Die drei Säulen von PopNx MCP

Diese drei werden nie zu einer Punktzahl zusammengefasst: Meinungen, Messungen und Beliebtheit sind verschiedene Dinge.

Stimmen der NutzeriNoch keine BewertungenBewertungen starten in einem späteren Schritt zusammen mit Benutzerkonten
Unsere Basischecksi1 von 1 bestandenAnhand öffentlicher Informationen geprüft; Code noch nicht gescannt
NutzungiGanz neu★ –

Was du damit machen kannst

Für diesen Server haben wir noch keine Zusammenfassung in einfacher Sprache geschrieben. Unten stehen die Fakten, die wir aus der Registry gelesen haben.

Verbindung: Läuft in der Cloud
Transport: Streamable HTTP
Kategorie: Suche & KI-Gedächtnis

Installation

Wähle die KI-App, die du nutzt, und kopiere die Einstellungen.

Bevor du installierst

Basischecks: 1 von 1 bestanden
Läuft auf dem Server des Entwicklers: Was du fragst, läuft über dessen Server.
Die Registry nennt keinen Schlüssel zum Eintragen.

Du brauchst

Läuft in der CloudNichts zu installieren; die Verbindung läuft übers Internet

Welche App nutzt du?

ClaudeClaude CodeCursorVS CodeChatGPT

Wähle oben deine App. Wir merken sie uns, damit der Button beim nächsten Mal „In … installieren“ anzeigt.

Funktioniert in Claude im Web, auf dem Desktop und auf dem Handy:

Öffne Settings → Connectors
Tippe auf Add custom connector
Füge die Adresse unten ein und tippe auf Add
Wenn eine Anmeldung verlangt wird, melde dich beim Dienst des Entwicklers an

https://llmlatency.dev/mcp

Führe das in deinem Terminal aus

claude mcp add --transport http llm-latency-tracker https://llmlatency.dev/mcp

In Cursor öffnen

Oder kopier die Einstellungen selbst

In .cursor/mcp.json in deinem Projekt oder in ~/.cursor/mcp.json einfügen

{
  "mcpServers": {
    "llm-latency-tracker": {
      "url": "https://llmlatency.dev/mcp"
    }
  }
}

Dein Browser fragt, ob er die App öffnen darf, dann zeigt die App die Einstellungen und bittet dich um Bestätigung. Schlüsselwerte bleiben leer, damit du sie selbst einträgst.

In VS Code öffnen

Oder kopier die Einstellungen selbst

In .vscode/mcp.json in deinem Projekt einfügen

{
  "servers": {
    "llm-latency-tracker": {
      "type": "http",
      "url": "https://llmlatency.dev/mcp"
    }
  }
}

Dein Browser fragt, ob er die App öffnen darf, dann zeigt die App die Einstellungen und bittet dich um Bestätigung. Schlüsselwerte bleiben leer, damit du sie selbst einträgst.

ChatGPT verbindet sich nur mit Servern im Internet:

Öffne ChatGPT im Web → Settings → Connectors (Apps)
Tippe auf Create oder Add (bei manchen Tarifen musst du zuerst Developer mode unter Advanced einschalten)
Füge die Adresse unten ein, gib ihr einen Namen und speichere
Wenn eine Anmeldung verlangt wird, melde dich beim Dienst des Entwicklers an

https://llmlatency.dev/mcp

Menünamen können sich je nach Tarif und mit der Zeit leicht unterscheiden.

Deine Auswahl bleibt in einem Cookie auf diesem Gerät; kein Konto nötig.

Diese Einstellungen werden aus dem Registry-Eintrag des Entwicklers erzeugt. Wenn in der README etwas anderes steht, folge der README.

Was er kann

Die Tool-Liste dieses Servers haben wir noch nicht gelesen; wir prüfen die Endpunkte reihum.

Basischecksi

Wir prüfen Informationen, die jeder sehen kann; den Code haben wir nicht gelesen. Checks, die nicht zutreffen, werden nicht mitgezählt. · Geprüft am 8. Nov. 2026

✓ Bestanden
Entwickler passt zum Repo
Der Registry-Name wurde über die Domain llmlatency.dev bestätigt (die Registry prüft, wem die Domain gehört)
… Noch nicht geprüft
Wird noch gepflegt
Dieses Repo haben wir noch nicht von GitHub gelesen
… Noch nicht geprüft
Hat eine Lizenz
Dieses Repo haben wir noch nicht von GitHub gelesen
… Noch nicht geprüft
Endpunkt antwortet
Noch nicht geprüft; wir prüfen die Endpunkte reihum
… Noch nicht geprüft
Anmeldung mit OAuth
Noch nicht geprüft; wir prüfen die Endpunkte reihum
… Noch nicht geprüft
Keine versteckten Anweisungen in Tool-Beschreibungen
Noch nicht geprüft; wir lesen die Tool-Liste, wenn wir den Endpunkt prüfen

Im Vergleich mit anderen in Suche & KI-Gedächtnisi

Mehr Sterne als 0 % der anderen 5696 Server in dieser Kategorie
Neuer in der Registry veröffentlicht als 31 % der anderen 5696 Server in dieser Kategorie
Basischecks gleich gut wie oder besser als bei 100 % der anderen 5696 Server in dieser Kategorie

Verglichen mit allen aktiven Servern dieser Kategorie in der Registry. Sterne zählen nur, wenn dem Herausgeber das Repo gehört.

Häufige Fragen

Ist LLM Latency Tracker sicher?

Er hat 1 von 1 zutreffenden Basischecks bestanden. Den Code haben wir nicht gelesen. Bevor du einen Schlüssel oder Token hinzufügst, sieh nach, welche Zugriffe der Server verlangt, und nutze einen Schlüssel, der nur die Berechtigungen hat, die du brauchst.

Welche Schlüssel oder Codes braucht er?

Die Registry nennt keinen erforderlichen Schlüssel, manche Server bitten dich aber bei der ersten Nutzung, dich anzumelden.

Läuft er auf meinem Computer oder in der Cloud?

Er läuft in der Cloud des Entwicklers. Du verbindest dich übers Internet, ohne etwas zu installieren, aber was du sendest, läuft über die Server des Entwicklers.

Wird er noch gepflegt?

Das GitHub-Repo wurde zuletzt – geändert, und die neueste Version (1.1.0) kam vor 3 Monaten in die Registry.

Welche Apps können ihn nutzen?

Apps, die MCP unterstützen, etwa Claude Desktop, Claude Code, Cursor und VS Code. Er verbindet sich per URL, also funktionieren auch Apps, die Remote-MCP-Server akzeptieren, zum Beispiel ChatGPT im Entwicklermodus.

Was kann ich stattdessen nutzen?

In derselben Kategorie: Context7, Codebase Memory, Exa

Alternativen

Server derselben Kategorie von anderen Entwicklern, sortiert nach Sternen.

So liest du eine Karte:↓ Downloads pro Wochei★ GitHub-SterneiDrei Säulen: Bewertungen · Checks · NutzungiAktualisiert = neueste Version in der Registry veröffentlichti

Context7

Up-to-date docs for AI agents

von upstashWeit verbreitet↓ 972.664/Wo.★ 64.224Aktualisiert vorgestern

Computer oder Cloud

Installieren

Codebase Memory

Codebase knowledge graph for AI agents — 162 languages, sub-ms queries, 99% fewer tokens.

von DeusDataWeit verbreitet↓ 17.962/Wo.★ 48.148Aktualisiert vor 22 Tagen

Läuft auf deinem Computer

Installieren

Exa

Connect AI agents to Exa for web search, content fetching, and multi-step research.

von exa-labsWachsend★ 5213Aktualisiert vor 2 Monaten

Läuft in der Cloud✓ exa.ai

Installieren

README vom Entwickler

README öffnen

Unverändert aus dem Repo des Entwicklers übernommen. PopNx MCP hat den Inhalt weder geprüft noch empfiehlt es ihn. HTML, Bilder und Skripte wurden entfernt. Links führen von dieser Website weg.

📊 LLM Latency Tracker

Measure AI API latency and uptime across regions, and publish the results as open data.

🌐 [Live rankings](https://llmlatency.dev) · [JSON API](https://llmlatency.dev/api/rankings.json) · [MCP endpoint](https://llmlatency.dev/mcp)

⚡ What it does

🌍 Regional measurements — compare provider response times and availability from distributed probe nodes.
⏱️ Two probe types — network time to first byte (TTFB) and optional inference time to first token (TTFT).
📈 Open dataset — daily rankings, historical snapshots and regional p50 / p95 statistics.
🤖 Agent access — JSON API, MCP, Markdown pages and an llms.txt index.
🗓️ Model lifecycle — a deprecation calendar with links to provider announcements.

🔧 Built for measurement

Python standard-library core for edge probes; provider keys are needed for inference probes.
SQLite storage and regional aggregation, with remote nodes shipping measurements to a central node.
Static publishing for the website and JSON datasets.
CI checks for tests and linting; published snapshots include their measurement date.

Reading the results: edge TTFB measures network/API responsiveness, not model generation speed. Compare it separately from inference TTFT; results depend on region, probe type and time window.

🚀 Quick start

Use the public data without installing anything:

curl https://llmlatency.dev/api/rankings.json

Or run edge probes locally with Python 3.12+:

git clone https://github.com/mazamaka/llm-latency-tracker.git

cd llm-latency-tracker REGION=local python3 run.py python3 aggregate.py --region local

For a local stdio MCP server over the published API (stdlib only, no keys):

python3 mcp_server.py

Tools: get_ai_api_latency (provider leaderboard per region), get_provider_latency (one provider across regions), get_model_deprecations (model shutdown calendar), get_coding_agent_health (Claude Code / Codex speed and accuracy drift). All read-only.

[Inference probes, API access & site generation →](docs/USAGE.md) · [Deployment →](deploy/)

🧪 Contributing

Add a provider, bring a new probe region, or improve the measurement code. See [CONTRIBUTING.md](CONTRIBUTING.md) for setup and checks.

Python · SQLite · JSON API · MCP · Cloudflare Pages

[Code: MIT](LICENSE) · Data: CC-BY-4.0, with attribution to llmlatency.dev.

📈 Latest daily snapshot

Daily snapshot — 2026-11-06

Measured latency across 46 AI inference providers in 4 regions. Method: distributed edge (DNS→TCP→TLS→TTFB) + inference (TTFT) probes, last 24h. License: CC-BY-4.0.

Region	Fastest provider (p50)	p50	p95	Uptime
Asia (Tokyo)	fireworks	21 ms	66 ms	100%
Europe (Germany)	fireworks	15 ms	95 ms	100%
South America (São Paulo)	openrouter	60 ms	86 ms	100%
US (Central)	fireworks	29 ms	74 ms	100%

Full dataset: data/rankings/2026-11-06.json (latest)
Citable archive (DOI): 10.5281/zenodo.23388429 — daily aggregates, CC-BY-4.0
Hugging Face dataset: https://huggingface.co/datasets/llmlatency/llm-latency-tracker
Kaggle dataset: https://www.kaggle.com/datasets/llmlatency/llm-latency-tracker
Archived in Software Heritage: swh:1:snp:2778cbabd72a70a629ee35fbd5ac536d1ccb7a9a
Python client: https://pypi.org/project/llmlatency/
Live rankings and methodology: https://llmlatency.dev
Machine-readable API: https://llmlatency.dev/api/rankings.json
Model deprecation calendar: https://llmlatency.dev/deprecations

_Snapshot generated 2026-11-06T07:46:48Z — this table is regenerated daily._

LLM Latency Tracker

Überblick

Die drei Säulen von PopNx MCP

Was du damit machen kannst

Installation

Bevor du installierst

Was er kann

Basischecksi

Entwickler passt zum Repo

Wird noch gepflegt

Hat eine Lizenz

Endpunkt antwortet

Anmeldung mit OAuth

Keine versteckten Anweisungen in Tool-Beschreibungen

Im Vergleich mit anderen in Suche & KI-Gedächtnisi

Häufige Fragen

Alternativen

Context7

Codebase Memory

Exa

README vom Entwickler

📊 LLM Latency Tracker

⚡ What it does

🔧 Built for measurement

🚀 Quick start

🧪 Contributing

Daily snapshot — 2026-11-06