Befund

Angriffe auf KI-Systeme · 14. November 2026 · Preprint, nicht begutachtet

Ein erfundener Artikel beeinflusste laut Studie KI-Prognosen

Laut Studie kehrte ein erfundener Nachrichtenartikel im Modellkontext 74 bis 82 Prozent der ihm widersprechenden LLM-Prognosen um.1

  • Ergebnis: Laut Studie kehrte ein erfundener Artikel 74 bis 82 Prozent der ihm widersprechenden LLM-Prognosen um, sobald er im Modellkontext stand.1
  • Datenbasis: Die Forschenden prüften Aktienfragen und reale Fragen aus Prognosemärkten.1
  • Einschränkung: Die untersuchten Abwehrmethoden stoppten laut Studie den Angriff mit einem Artikel, ließen sich aber umgehen.1

Quellen und Belegstellen

1 Quelle, 4 Stellen

Die kleinen Zahlen im Text verweisen auf diese Quellen. Darunter stehen die Stellen, auf die sich unsere Aussagen stützen, in der Sprache der Quelle.

  1. 1One Fabrication Is Enough: A Fake News Article Changes the Forecasts of LLM Forecasting Systems

    arXiv · Primärquelle · veröffentlicht am 13.11.2026

    Once the article is in the model's context, it reverses 74% to 82% of the forecasts that opposed it, on every frontier model we tested.
    We study the weakest attacker of this kind, who knows only the forecasting question and publishes fabricated news articles, with no access to the model, the retriever or its queries.
    We evaluate how far this attack reaches on stock questions and real prediction-market questions.
    Each stops the one-article attack but is bypassed by a one-prompt change to the attack.

Jede Ausgabe per E-Mail

Die Meldungen des Tages, sobald die Redaktion die Ausgabe freigegeben hat. Kostenlos, abmelden mit einem Klick.

Hinweis

Dieser Newsletter berichtet über Veröffentlichungen Dritter und verlinkt sie. Er ist keine Sicherheits-, Rechts- oder Anlageberatung und gibt keine Handlungsempfehlungen. Jede Aussage stützt sich auf die genannte Quelle; für deren Inhalt sind die jeweiligen Herausgeber verantwortlich. Empfehlungen geben wir nur wieder, wenn eine benannte Behörde oder der Hersteller sie ausgesprochen hat, und nennen sie als deren Aussage. Für Richtigkeit, Vollständigkeit und Aktualität übernehmen wir keine Gewähr. Bitte prüfen Sie Maßnahmen für Ihre Umgebung mit den Originalquellen und fachkundiger Unterstützung. Alle Bilder sind Symbolbilder und mit KI erstellt. Mehr dazu