Befund

KI und Cybersecurity. Für alle mit 47 offenen Tabs.

Mach sie zu. Wir haben alles gelesen und fassen nur das Bestätigte zusammen.

Für diese Ausgabe: 473 Beiträge aus 29 Quellen gelesen, 6 Meldungen bestätigt.

Ausgabe aus dem Archiv

11. November 2026

  1. Angriffe auf KI-Systeme

    Bei Fireworks AI wurden laut Notion Chats aus Notion AI offengelegt

    Laut Notion wurden bei einem Sicherheitsvorfall beim KI-Infrastrukturanbieter Fireworks AI Chat-Transkripte aus Notion AI offengelegt.1

    Mehr lesenWeniger anzeigen
    • Betroffen: Laut Notion sind weniger als ein Prozent seiner Nutzer betroffen.1 Bei den Workspaces sind es laut Notion weniger als ein Prozent.2
    • Notion rät: Notion rät betroffenen Nutzern, Passwörter, API Keys und andere Zugangsdaten aus betroffenen Chats zu wechseln.1 Notion hat die Insights-Funktion deaktiviert.2

    Quellen: BleepingComputer, The Hacker News

  2. Angriffe auf KI-Systeme

    Microsoft Research untersucht versteckte Hintertüren in KI-Agenten

    Microsoft Research berichtet, dass sich ein KI-Agentenmodell durch die Bearbeitung von weniger als zehn Neuronen in einen Schläfer verwandeln lässt.1 Erscheint eine auslösende Zeichenfolge im Kontext, führt der Agent laut Microsoft einen Befehl des Angreifers aus, obwohl er alle Bewertungen besteht.1 Der Angreifer muss die Modellgewichte verändern können, berichtet The Hacker News.2

    Mehr lesenWeniger anzeigen

    Microsoft hat nach eigenen Angaben bislang keine Angreifer beobachtet, die diese Technik einsetzen.1

    • Die Forscher nennen die Methode laut The Hacker News Lazarus. Jedes bearbeitete Neuron erzwingt ein Token des Befehls in der Modellausgabe.2
    • Der Auslöser kann laut The Hacker News in einer Nutzeranfrage oder später in der Ausgabe eines Werkzeugs stehen.2
    • Für den Angriff reicht laut Microsoft Research die Rechenleistung aus, die zum Ausführen des Modells erforderlich ist.1
    • Bei Nemotron-Terminal-8B bearbeitete das Team laut The Hacker News sieben Neuronen anhand von 23 Beispielsitzungen. In Testsitzungen mit Auslöser gab das Modell den Befehl mindestens zu 98,8 Prozent aus.2
    • Ein auf solche Veränderungen trainierter Detektor erkannte laut Forschungsarbeit 91,4 Prozent der bearbeiteten Testdateien ohne Original zum Vergleich. Er markierte auch 9,7 Prozent der unveränderten Dateien fälschlich.2
    • Claude Code mit Opus 4.5 entdeckte laut Microsoft Research den größten Teil der Angriffstechnik autonom.1

    Quellen: Microsoft (Primärquelle), The Hacker News

  3. KI-gestützte Angriffe

    KI-Pentesting-Infrastruktur von AntiFox stand mit mehreren Einbrüchen in Verbindung

    Laut Arctic Wolf stand Infrastruktur der KI-gestützten Pentesting-Plattform AntiFox mit mehreren Einbrüchen in Verbindung, bei denen Angreifer teils auf Produktionsgeheimnisse in AWS zugriffen.12

    Mehr lesenWeniger anzeigen
    • Betroffen: Laut Arctic Wolf betrafen die Angriffe internetseitig erreichbare Webdienste und zugehörige AWS-Umgebungen.2
    • Stand: Laut Amazon wurden AWS-Dienste nicht kompromittiert; die Angreifer nutzten Zugangsdaten aus kompromittierten Kundenanwendungen.2

    Quellen: The Hacker News, BleepingComputer

  4. Angriffe auf KI-Systeme

    Claroc findet 35.578 offene Grok-Apps, teils mit persönlichen Daten

    Claroc fand 35.578 ohne Anmeldung zugängliche, mit Grok erstellte Apps, von denen rund jede zehnte interne Geschäfts- oder persönliche Daten enthielt.1

    Mehr lesenWeniger anzeigen
    • Betroffen: Claroc fand 35.578 ohne Anmeldung zugängliche Grok-Apps, darunter 24 von Mitarbeitern von SpaceXSI und X.1
    • Stand: Laut den Forschern nahm SpaceXSI die 24 Apps seiner Mitarbeiter und der von X offline, nicht aber die Apps anderer Nutzer.1

    Quellen: The Hacker News, heise

  5. Schwachstellen in KI-Produkten

    Fehlende Authentifizierung in Azure OpenAI ermöglicht Rechteausweitung

    Laut CVE-Eintrag können nicht autorisierte Angreifer wegen fehlender Authentifizierung in Azure OpenAI ihre Rechte über ein Netzwerk ausweiten.1

    Mehr lesenWeniger anzeigen
    • Betroffen: Azure OpenAI ist laut CVE-Eintrag von einer fehlenden Authentifizierung für eine kritische Funktion betroffen.1
    • Kontext: Der NVD führt CVE-2026-119990 mit einem CVSS-3.1-Basiswert von 9,8.1

    Quellen: NVD (Behörde)

  6. Forschung

    Autoren simulieren 2,2 Millionen Programme und zeigen Grenzen für KI-Gatekeeper

    Die Autoren zeigen, dass ein Gatekeeper für Programme eines KI-Assistenten mit festen Regeln und maschinell prüfbaren Belegen nicht jedes Programm vollständig einstufen kann.1

    Quellen: arXiv (Primärquelle)

Meldungen nach Thema

Jede Ausgabe per E-Mail

Die Meldungen des Tages, sobald die Redaktion die Ausgabe freigegeben hat. Kostenlos, abmelden mit einem Klick.

So arbeiten wir

Methode und Quellen

Hinweis

Dieser Newsletter berichtet über Veröffentlichungen Dritter und verlinkt sie. Er ist keine Sicherheits-, Rechts- oder Anlageberatung und gibt keine Handlungsempfehlungen. Jede Aussage stützt sich auf die genannte Quelle; für deren Inhalt sind die jeweiligen Herausgeber verantwortlich. Empfehlungen geben wir nur wieder, wenn eine benannte Behörde oder der Hersteller sie ausgesprochen hat, und nennen sie als deren Aussage. Für Richtigkeit, Vollständigkeit und Aktualität übernehmen wir keine Gewähr. Bitte prüfen Sie Maßnahmen für Ihre Umgebung mit den Originalquellen und fachkundiger Unterstützung. Alle Bilder sind Symbolbilder und mit KI erstellt. Mehr dazu