Angriffe auf KI-Systeme · 11. November 2026 · berichtet von 2 Redaktionen
Bei Fireworks AI wurden laut Notion Chats aus Notion AI offengelegt

Laut Notion wurden bei einem Sicherheitsvorfall beim KI-Infrastrukturanbieter Fireworks AI Chat-Transkripte aus Notion AI offengelegt.1
- Betroffen: Laut Notion sind weniger als ein Prozent seiner Nutzer betroffen.1 Bei den Workspaces sind es laut Notion weniger als ein Prozent.2
- Notion rät: Notion rät betroffenen Nutzern, Passwörter, API Keys und andere Zugangsdaten aus betroffenen Chats zu wechseln.1 Notion hat die Insights-Funktion deaktiviert.2
Die ganze Geschichte
Ablauf
Notion erhielt von Fireworks zunächst eine Warnung zu einem Datensatz, der nur synthetische Testdaten enthalten sollte. Später bestätigte Fireworks den Zugriff auf Kundendaten, darunter Daten von Notion-Nutzern.1 Laut Fireworks AI führte ein nicht autorisierter Workload auf Entwicklungsmaschinen zu weiteren Auswirkungen auf Kundendaten.2
Nicht betroffen
Laut Notion ließen sich die Chats für die große Mehrheit der betroffenen Workspaces weder Autoren noch Workspaces zuordnen. Die Transkripte enthielten keine Ergebnisse von Tool-Aufrufen.1 Fireworks AI zufolge waren keine Kreditkartennummern betroffen. Das Unternehmen speichert sie nicht.2
Reaktion
Notion stoppte den Datenverkehr zu Fireworks und beendete Trainingsläufe. Zudem löschte das Unternehmen seine Daten aus den Systemen des Anbieters.1 Fireworks AI widerrief und erneuerte Zugangsdaten, isolierte betroffene Systeme und verschärfte Zugriffskontrollen. Auch Logging und Monitoring wurden verbessert.2
Redaktionell bearbeitet.
Quellen und Belegstellen
2 Quellen, 13 Stellen
Die kleinen Zahlen im Text verweisen auf diese Quellen. Darunter stehen die Stellen, auf die sich unsere Aussagen stützen, in der Sprache der Quelle.
1Notion says Fireworks breach exposed customer AI chat transcripts
Notion, the digital workspace platform, disclosed that a security breach at its AI infrastructure provider, Fireworks AI, exposed Notion AI chat transcripts in a small number of workspaces.
According to the company, less than 1% of its users are impacted by the incident.
Notion advises affected users to rotate any passwords, API keys, or other credentials entered into affected chats.
Notion learned about the exposed chat transcripts after receiving an alert from Fireworks on November 2 about an exposed dataset that contained only synthetic test data.
However, Fireworks confirmed on November 8 that customer data had been accessed, including that of Notion users.
Upon analysis of the dataset Fireworks AI gave us on November 8, we discovered that it included Notion AI chat transcripts used for the Insights feature, which for the vast majority of impacted workspaces were unattributable
Unattributable means the chats weren't labeled with who wrote them or which workspace they came from, and the transcripts did not contain tool call results.
Notion responded by cutting off traffic to Fireworks, deleting all data from the vendor's systems, and halting training runs by November 3.
2Fireworks AI Confirms Wider Breach Affecting Customer Datasets, Model Weights and Notion AI Chats
Popular productivity and note-taking application Notion has disclosed that the security incident targeting Fireworks AI impacted "fewer than 1% of Notion workspaces."
The Insights feature has since been disabled as it continues to investigate the breach and the company is no longer serving open-weight models through Fireworks.
On October 24, the unauthorized third party used it to reach Fireworks development machines and then run an unauthorized workload that led to additional customer data impact
Fireworks AI said payment card numbers are not stored by the company and were not impacted by the security incident.
credential revocation and rotation; isolating affected systems to prevent further unauthorized activity and lateral movement; tightening access controls; and improving its logging and monitoring systems.
Jede Ausgabe per E-Mail
Die Meldungen des Tages, sobald die Redaktion die Ausgabe freigegeben hat. Kostenlos, abmelden mit einem Klick.
Hinweis
Dieser Newsletter berichtet über Veröffentlichungen Dritter und verlinkt sie. Er ist keine Sicherheits-, Rechts- oder Anlageberatung und gibt keine Handlungsempfehlungen. Jede Aussage stützt sich auf die genannte Quelle; für deren Inhalt sind die jeweiligen Herausgeber verantwortlich. Empfehlungen geben wir nur wieder, wenn eine benannte Behörde oder der Hersteller sie ausgesprochen hat, und nennen sie als deren Aussage. Für Richtigkeit, Vollständigkeit und Aktualität übernehmen wir keine Gewähr. Bitte prüfen Sie Maßnahmen für Ihre Umgebung mit den Originalquellen und fachkundiger Unterstützung. Alle Bilder sind Symbolbilder und mit KI erstellt. Mehr dazu