Befund

Microsoft Research untersucht versteckte Hintertüren in KI-Agenten.1 Berichtet von Microsoft und The Hacker News.

Microsoft Research berichtet, dass sich ein KI-Agentenmodell durch die Bearbeitung von weniger als zehn Neuronen in einen Schläfer verwandeln lässt.1 Erscheint eine auslösende Zeichenfolge im Kontext, führt der Agent laut Microsoft einen Befehl des Angreifers aus, obwohl er alle Bewertungen besteht.1 Der Angreifer muss die Modellgewichte verändern können, berichtet The Hacker News.2 Microsoft hat nach eigenen Angaben bislang keine Angreifer beobachtet, die diese Technik einsetzen.1

Mehr lesenWeniger anzeigen
  • Die Forscher nennen die Methode laut The Hacker News Lazarus. Jedes bearbeitete Neuron erzwingt ein Token des Befehls in der Modellausgabe.2
  • Der Auslöser kann laut The Hacker News in einer Nutzeranfrage oder später in der Ausgabe eines Werkzeugs stehen.2
  • Für den Angriff reicht laut Microsoft Research die Rechenleistung aus, die zum Ausführen des Modells erforderlich ist.1
  • Bei Nemotron-Terminal-8B bearbeitete das Team laut The Hacker News sieben Neuronen anhand von 23 Beispielsitzungen. In Testsitzungen mit Auslöser gab das Modell den Befehl mindestens zu 98,8 Prozent aus.2
  • Ein auf solche Veränderungen trainierter Detektor erkannte laut Forschungsarbeit 91,4 Prozent der bearbeiteten Testdateien ohne Original zum Vergleich. Er markierte auch 9,7 Prozent der unveränderten Dateien fälschlich.2
  • Claude Code mit Opus 4.5 entdeckte laut Microsoft Research den größten Teil der Angriffstechnik autonom.1

Quellen und Belegstellen

Die kleinen Zahlen im Text verweisen auf diese Quellen. Darunter steht jeweils die Stelle, auf die sich unser Satz stützt.

  1. 1Detecting sleeper agents hiding in AI model neurons

    Microsoft · Primärquelle · veröffentlicht am 11.11.2026

    Microsoft Research has released new threat research detailing how a capable agent model could be turned into a sleeper agent by editing fewer than 10 neurons to inject a short payload.
    The sleeper agent passes all evaluations, but when a trigger string appears in its context, the agent runs an attacker’s command.
    Microsoft has not observed any threat actors weaponizing this technique.
    The attack needs inference-only compute. If a machine has enough RAM to run a model, it has enough resources to weight-space backdoor it.
    Claude Code with Opus 4.5 discovered most of this threat autonomously.
  2. 2Microsoft Researchers Show AI Agents Can Be Backdoored by Editing Fewer Than 10 Neurons

    The Hacker News · Fachpresse · veröffentlicht am 11.11.2026

    The attacker must be able to change the model's weights.
    The researchers call the method Lazarus. Each edited neuron forces one token of the command into the model's output, so a command needs about one neuron per token.
    They were set to fire only when a trigger string appears, either in a user's request or later in a tool's output.
    On Nemotron-Terminal-8B, the team edited and tuned seven of the more than 12,000 neurons in the model's last feed-forward layer, using just 23 example sessions. The edited model output the command in at least 98.8% of test sessions that contained the trigger
    In the paper, a detector trained on examples of this method's edits flagged 91.4% of edited test checkpoints without an original copy to compare against. It also wrongly flagged 9.7% of clean ones.

Jede Ausgabe per E-Mail

Die Meldungen des Tages, sobald die Redaktion die Ausgabe freigegeben hat. Kostenlos, abmelden mit einem Klick.

Hinweis

Dieser Newsletter berichtet über Veröffentlichungen Dritter und verlinkt sie. Er ist keine Sicherheits-, Rechts- oder Anlageberatung und gibt keine Handlungsempfehlungen. Jede Aussage stützt sich auf die genannte Quelle; für deren Inhalt sind die jeweiligen Herausgeber verantwortlich. Empfehlungen geben wir nur wieder, wenn eine benannte Behörde oder der Hersteller sie ausgesprochen hat, und nennen sie als deren Aussage. Für Richtigkeit, Vollständigkeit und Aktualität übernehmen wir keine Gewähr. Bitte prüfen Sie Maßnahmen für Ihre Umgebung mit den Originalquellen und fachkundiger Unterstützung. Alle Bilder sind Symbolbilder und mit KI erstellt. Mehr dazu