Angriffe auf KI-Systeme · 18. November 2026 · Preprint, nicht begutachtet
Studie prüft fünf KI-Clients auf Auswahl von Angreifer-Tools
Eine Studie zeigt, dass KI-Agenten in MCP-Umgebungen ein Tool eines Angreifers statt des vorgesehenen Tools auswählen können.1
Datenbasis
Die Studie prüfte fünf LLM-basierte Clients in einer kontrollierten MCP-Umgebung.1
Beleg · arXiv
We formulate tool provider misbinding as an attacker-controlled tool-selection optimization problem and evaluate it in a controlled MCP environment across five LLM-based clients.
Einschränkung
Im untersuchten Szenario betreibt der Angreifer einen eigenen MCP-Server, kompromittiert aber weder Host noch Modell, legitimen Server oder Netzwerkkanal.1
Beleg · arXiv
The attacker does not compromise the host, LLM, legitimate server, or network channel; it only operates another MCP server that advertises tools with chosen metadata.

Der Verlauf · 1 Min.
Untersucht
Die Studie betrachtet eine Lücke bei der Tool-Auswahl über das Model Context Protocol (MCP): Die Metadaten eines Tools sind nicht zwingend an eine geprüfte Anbieteridentität gebunden.1
Beleg · arXiv
However, tool metadata used for discovery and selection is not, by itself, necessarily bound to a verified provider identity.
Auch ohne identischen Namen konnten autoritativ wirkende Beschreibungen mit kompatiblem Schema zur Ausführung beim falschen Anbieter oder zu ungeklärter Anbieterzuordnung führen.1
Beleg · arXiv
authority-enhanced descriptions with compatible schema can also cause wrong-provider execution or unresolved provider ambiguity without name collision.
Die Modelle reagierten unterschiedlich: Manche wählten einen vom Angreifer kontrollierten Anbieter, andere fragten nach oder ordneten Anbieter uneinheitlich zu.1
Beleg · arXiv
Different models expose the same provider-binding weakness differently, including attacker-controlled provider selection, clarification requests, and unstable or inconsistent provider resolution.
Quellen
1 Quelle · 6 Stellen- 1When Tool Names Are Not Identities: Measuring Provider Misbinding in MCP-Based AI Agents
6 Belegstellen
This paper studies this gap as tool-provider misbinding: a failure in which a request intended for a legitimate provider is instead resolved to an attacker-controlled tool.
We formulate tool provider misbinding as an attacker-controlled tool-selection optimization problem and evaluate it in a controlled MCP environment across five LLM-based clients.
The attacker does not compromise the host, LLM, legitimate server, or network channel; it only operates another MCP server that advertises tools with chosen metadata.
However, tool metadata used for discovery and selection is not, by itself, necessarily bound to a verified provider identity.
authority-enhanced descriptions with compatible schema can also cause wrong-provider execution or unresolved provider ambiguity without name collision.
Different models expose the same provider-binding weakness differently, including attacker-controlled provider selection, clarification requests, and unstable or inconsistent provider resolution.