Angriffe auf KI-Systeme
9 Meldungen aus allen Ausgaben, die neueste zuerst.
-
Laut Cursor könnte schädliche Claude-Code-Erweiterung bis zu 5.000 Nutzer erreicht haben
Mehr lesenWeniger anzeigen
- Betroffen: Cursor zufolge könnten höchstens 5.000 Nutzer die schädliche Claude-Code-Erweiterung von Anthropic erhalten haben. Sie hatten am 29. Oktober bestimmte zwischengespeicherte Versionen angefordert.1
- Cursor rät: Cursor rät Kunden, die die manipulierte Erweiterung installiert haben, die Schritte im Sicherheitshinweis zu befolgen; eine Deinstallation allein reicht möglicherweise nicht.1
- Stand: Cursor geht davon aus, dass der Vorfall eingedämmt ist. Die letzte beobachtete Aktivität des Angreifers am 1. November wurde blockiert.1
Quellen: Cursor (Primärquelle)
-
Angreifer attackieren Mittwald laut Unternehmen mit automatisierter KI
Mehr lesenWeniger anzeigen
Quellen: heise, Golem.de
-
Ein erfundener Artikel beeinflusste laut Studie KI-Prognosen
Mehr lesenWeniger anzeigen
- Ergebnis: Laut Studie kehrte ein erfundener Artikel 74 bis 82 Prozent der ihm widersprechenden LLM-Prognosen um, sobald er im Modellkontext stand.1
- Datenbasis: Die Forschenden prüften Aktienfragen und reale Fragen aus Prognosemärkten.1
- Einschränkung: Die untersuchten Abwehrmethoden stoppten laut Studie den Angriff mit einem Artikel, ließen sich aber umgehen.1
Quellen: arXiv (Primärquelle)
-
Forschende hebeln Sicherheitsausrichtung eines Sprachmodells für 20 US-Dollar aus
Mehr lesenWeniger anzeigen
- Ergebnis: Laut den Forschenden lässt sich die Sicherheitsausrichtung eines Sprachmodells über einen agentischen Reinforcement-Learning-Dienst bereits für 20 US-Dollar aushebeln.1 Ihr Abwehransatz Bait begrenzte in Experimenten das Lernen aus einer schädlichen Reward-Funktion.1
- Kontext: Ein so geschwächtes Modell könnte den Forschenden zufolge beim Ausnutzen von Softwarelücken helfen.1
Quellen: arXiv (Primärquelle)
-
Laut Microsoft testeten Forschende 90 manipulierte Beispiele für Coding-Agents
Mehr lesenWeniger anzeigen
- Ergebnis: Microsofts Forschende erreichten mit manipulierten Trainingsdaten auf bekannten Harnesses rund 78 Prozent Angriffserfolg. Bei manipulierten Modellgewichten lag der Durchschnitt auf unbekannten Repositories zwischen 84,1 und 94,8 Prozent.1
- Datenbasis: Microsoft Defender Research mischte für den Trainingsdatenversuch 90 manipulierte Beispiele in rund 9.000 Terminal-Agent-Gespräche.1
- Einschränkung: Im Trainingsdatenversuch übertrug sich das Verhalten auf einen unbekannten Harness mit 11,0 Prozent Erfolg, auf einen zweiten mit 0 Prozent.1
Quellen: Microsoft (Primärquelle)
-
Angreifer nutzten laut Railway Zugangsdaten für KI-Dienste für rund 740.000 US-Dollar
Mehr lesenWeniger anzeigen
- Betroffen: Bei Railway waren laut Anbieter höchstens rund 100.000 Workspaces potenziell betroffen. Auch Tokens verknüpfter Konten von 1.852 Nutzern wurden offengelegt.1
- Railway rät: Railway empfiehlt, sensible Variablen zu widerrufen und zu ersetzen, die vor dem 21. Oktober auf der Plattform gespeichert waren.2
- Stand: Railway hat die Angreifer nach eigenen Angaben am 21. Oktober vollständig entfernt und die ausgenutzten Schwachstellen behoben.1
Quellen: BleepingComputer, The Hacker News, Railway (Primärquelle)
-
Bei Fireworks AI wurden laut Notion Chats aus Notion AI offengelegt
Mehr lesenWeniger anzeigen
- Betroffen: Laut Notion sind weniger als ein Prozent seiner Nutzer betroffen.1 Bei den Workspaces sind es laut Notion weniger als ein Prozent.2
- Notion rät: Notion rät betroffenen Nutzern, Passwörter, API Keys und andere Zugangsdaten aus betroffenen Chats zu wechseln.1 Notion hat die Insights-Funktion deaktiviert.2
Quellen: BleepingComputer, The Hacker News
-
Microsoft Research untersucht versteckte Hintertüren in KI-Agenten
Mehr lesenWeniger anzeigen
- Die Forscher nennen die Methode laut The Hacker News Lazarus. Jedes bearbeitete Neuron erzwingt ein Token des Befehls in der Modellausgabe.2
- Der Auslöser kann laut The Hacker News in einer Nutzeranfrage oder später in der Ausgabe eines Werkzeugs stehen.2
- Für den Angriff reicht laut Microsoft Research die Rechenleistung aus, die zum Ausführen des Modells erforderlich ist.1
- Bei Nemotron-Terminal-8B bearbeitete das Team laut The Hacker News sieben Neuronen anhand von 23 Beispielsitzungen. In Testsitzungen mit Auslöser gab das Modell den Befehl mindestens zu 98,8 Prozent aus.2
- Ein auf solche Veränderungen trainierter Detektor erkannte laut Forschungsarbeit 91,4 Prozent der bearbeiteten Testdateien ohne Original zum Vergleich. Er markierte auch 9,7 Prozent der unveränderten Dateien fälschlich.2
- Claude Code mit Opus 4.5 entdeckte laut Microsoft Research den größten Teil der Angriffstechnik autonom.1
Quellen: Microsoft (Primärquelle), The Hacker News
-
Claroc findet 35.578 offene Grok-Apps, teils mit persönlichen Daten
Mehr lesenWeniger anzeigen
Quellen: The Hacker News, heise
Weitere Themen
Jede Ausgabe per E-Mail
Die Meldungen des Tages, sobald die Redaktion die Ausgabe freigegeben hat. Kostenlos, abmelden mit einem Klick.








