Befund

Angriffe auf KI-Systeme

9 Meldungen aus allen Ausgaben, die neueste zuerst.

  1. Ausgabe vom 16. November 2026

    Laut Cursor könnte schädliche Claude-Code-Erweiterung bis zu 5.000 Nutzer erreicht haben

    Laut Cursor platzierte ein Angreifer mit gestohlenen Zugangsdaten schädliche Kopien von Anthropics Claude-Code-Erweiterung im Cache des Cursor-Marktplatzes.1

    Mehr lesenWeniger anzeigen
    • Betroffen: Cursor zufolge könnten höchstens 5.000 Nutzer die schädliche Claude-Code-Erweiterung von Anthropic erhalten haben. Sie hatten am 29. Oktober bestimmte zwischengespeicherte Versionen angefordert.1
    • Cursor rät: Cursor rät Kunden, die die manipulierte Erweiterung installiert haben, die Schritte im Sicherheitshinweis zu befolgen; eine Deinstallation allein reicht möglicherweise nicht.1
    • Stand: Cursor geht davon aus, dass der Vorfall eingedämmt ist. Die letzte beobachtete Aktivität des Angreifers am 1. November wurde blockiert.1

    Quellen: Cursor (Primärquelle)

  2. Ausgabe vom 14. November 2026

    Angreifer attackieren Mittwald laut Unternehmen mit automatisierter KI

    Laut Mittwald griffen Angreifer den Webhoster erneut mit automatisierten KI-Systemen an, woraufhin das Unternehmen seine Website vorsorglich vom Netz nahm.12

    Mehr lesenWeniger anzeigen
    • Betroffen: Bei Webhoster Mittwald waren SSH, mStudio und das Kundencenter erneut nicht zugänglich.1 Laut Unternehmen waren gehostete Websites und E-Mail-Postfächer nicht betroffen.2
    • Stand: Mittwald erwartete, Kundencenter und mStudio am 13. November bis spätestens 11 Uhr freizugeben.2

    Quellen: heise, Golem.de

  3. Ausgabe vom 14. November 2026

    Ein erfundener Artikel beeinflusste laut Studie KI-Prognosen

    Laut Studie kehrte ein erfundener Nachrichtenartikel im Modellkontext 74 bis 82 Prozent der ihm widersprechenden LLM-Prognosen um.1

    Mehr lesenWeniger anzeigen
    • Ergebnis: Laut Studie kehrte ein erfundener Artikel 74 bis 82 Prozent der ihm widersprechenden LLM-Prognosen um, sobald er im Modellkontext stand.1
    • Datenbasis: Die Forschenden prüften Aktienfragen und reale Fragen aus Prognosemärkten.1
    • Einschränkung: Die untersuchten Abwehrmethoden stoppten laut Studie den Angriff mit einem Artikel, ließen sich aber umgehen.1

    Quellen: arXiv (Primärquelle)

  4. Ausgabe vom 14. November 2026

    Forschende hebeln Sicherheitsausrichtung eines Sprachmodells für 20 US-Dollar aus

    Forschende zeigen, dass sich die Sicherheitsausrichtung eines Sprachmodells über einen Reinforcement-Learning-Dienst für 20 US-Dollar aushebeln lässt.1

    Mehr lesenWeniger anzeigen
    • Ergebnis: Laut den Forschenden lässt sich die Sicherheitsausrichtung eines Sprachmodells über einen agentischen Reinforcement-Learning-Dienst bereits für 20 US-Dollar aushebeln.1 Ihr Abwehransatz Bait begrenzte in Experimenten das Lernen aus einer schädlichen Reward-Funktion.1
    • Kontext: Ein so geschwächtes Modell könnte den Forschenden zufolge beim Ausnutzen von Softwarelücken helfen.1

    Quellen: arXiv (Primärquelle)

  5. Ausgabe vom 13. November 2026

    Laut Microsoft testeten Forschende 90 manipulierte Beispiele für Coding-Agents

    Microsofts Forschende erzielten laut Microsoft mit manipulierten Trainingsdaten bei Coding-Agents auf bekannten Harnesses rund 78 Prozent Angriffserfolg.1

    Mehr lesenWeniger anzeigen
    • Ergebnis: Microsofts Forschende erreichten mit manipulierten Trainingsdaten auf bekannten Harnesses rund 78 Prozent Angriffserfolg. Bei manipulierten Modellgewichten lag der Durchschnitt auf unbekannten Repositories zwischen 84,1 und 94,8 Prozent.1
    • Datenbasis: Microsoft Defender Research mischte für den Trainingsdatenversuch 90 manipulierte Beispiele in rund 9.000 Terminal-Agent-Gespräche.1
    • Einschränkung: Im Trainingsdatenversuch übertrug sich das Verhalten auf einen unbekannten Harness mit 11,0 Prozent Erfolg, auf einen zweiten mit 0 Prozent.1

    Quellen: Microsoft (Primärquelle)

  6. Ausgabe vom 12. November 2026

    Angreifer nutzten laut Railway Zugangsdaten für KI-Dienste für rund 740.000 US-Dollar

    Bei einem Angriff auf Railway erbeuteten Angreifer Zugangsdaten und nutzten sie für KI-Dienste im Wert von rund 740.000 US-Dollar.1

    Mehr lesenWeniger anzeigen
    • Betroffen: Bei Railway waren laut Anbieter höchstens rund 100.000 Workspaces potenziell betroffen. Auch Tokens verknüpfter Konten von 1.852 Nutzern wurden offengelegt.1
    • Railway rät: Railway empfiehlt, sensible Variablen zu widerrufen und zu ersetzen, die vor dem 21. Oktober auf der Plattform gespeichert waren.2
    • Stand: Railway hat die Angreifer nach eigenen Angaben am 21. Oktober vollständig entfernt und die ausgenutzten Schwachstellen behoben.1

    Quellen: BleepingComputer, The Hacker News, Railway (Primärquelle)

  7. Ausgabe vom 11. November 2026

    Bei Fireworks AI wurden laut Notion Chats aus Notion AI offengelegt

    Laut Notion wurden bei einem Sicherheitsvorfall beim KI-Infrastrukturanbieter Fireworks AI Chat-Transkripte aus Notion AI offengelegt.1

    Mehr lesenWeniger anzeigen
    • Betroffen: Laut Notion sind weniger als ein Prozent seiner Nutzer betroffen.1 Bei den Workspaces sind es laut Notion weniger als ein Prozent.2
    • Notion rät: Notion rät betroffenen Nutzern, Passwörter, API Keys und andere Zugangsdaten aus betroffenen Chats zu wechseln.1 Notion hat die Insights-Funktion deaktiviert.2

    Quellen: BleepingComputer, The Hacker News

  8. Ausgabe vom 11. November 2026

    Microsoft Research untersucht versteckte Hintertüren in KI-Agenten

    Microsoft Research berichtet, dass sich ein KI-Agentenmodell durch die Bearbeitung von weniger als zehn Neuronen in einen Schläfer verwandeln lässt.1 Erscheint eine auslösende Zeichenfolge im Kontext, führt der Agent laut Microsoft einen Befehl des Angreifers aus, obwohl er alle Bewertungen besteht.1 Der Angreifer muss die Modellgewichte verändern können, berichtet The Hacker News.2

    Mehr lesenWeniger anzeigen

    Microsoft hat nach eigenen Angaben bislang keine Angreifer beobachtet, die diese Technik einsetzen.1

    • Die Forscher nennen die Methode laut The Hacker News Lazarus. Jedes bearbeitete Neuron erzwingt ein Token des Befehls in der Modellausgabe.2
    • Der Auslöser kann laut The Hacker News in einer Nutzeranfrage oder später in der Ausgabe eines Werkzeugs stehen.2
    • Für den Angriff reicht laut Microsoft Research die Rechenleistung aus, die zum Ausführen des Modells erforderlich ist.1
    • Bei Nemotron-Terminal-8B bearbeitete das Team laut The Hacker News sieben Neuronen anhand von 23 Beispielsitzungen. In Testsitzungen mit Auslöser gab das Modell den Befehl mindestens zu 98,8 Prozent aus.2
    • Ein auf solche Veränderungen trainierter Detektor erkannte laut Forschungsarbeit 91,4 Prozent der bearbeiteten Testdateien ohne Original zum Vergleich. Er markierte auch 9,7 Prozent der unveränderten Dateien fälschlich.2
    • Claude Code mit Opus 4.5 entdeckte laut Microsoft Research den größten Teil der Angriffstechnik autonom.1

    Quellen: Microsoft (Primärquelle), The Hacker News

  9. Ausgabe vom 11. November 2026

    Claroc findet 35.578 offene Grok-Apps, teils mit persönlichen Daten

    Claroc fand 35.578 ohne Anmeldung zugängliche, mit Grok erstellte Apps, von denen rund jede zehnte interne Geschäfts- oder persönliche Daten enthielt.1

    Mehr lesenWeniger anzeigen
    • Betroffen: Claroc fand 35.578 ohne Anmeldung zugängliche Grok-Apps, darunter 24 von Mitarbeitern von SpaceXSI und X.1
    • Stand: Laut den Forschern nahm SpaceXSI die 24 Apps seiner Mitarbeiter und der von X offline, nicht aber die Apps anderer Nutzer.1

    Quellen: The Hacker News, heise

Weitere Themen

Jede Ausgabe per E-Mail

Die Meldungen des Tages, sobald die Redaktion die Ausgabe freigegeben hat. Kostenlos, abmelden mit einem Klick.