Befund

Forschung · 11. November 2026 · Preprint, nicht begutachtet

Autoren simulieren 2,2 Millionen Programme und zeigen Grenzen für KI-Gatekeeper

Die Autoren zeigen, dass ein Gatekeeper für Programme eines KI-Assistenten mit festen Regeln und maschinell prüfbaren Belegen nicht jedes Programm vollständig einstufen kann.1

Quellen und Belegstellen

1 Quelle, 3 Stellen

Die kleinen Zahlen im Text verweisen auf diese Quellen. Darunter stehen die Stellen, auf die sich unsere Aussagen stützen, in der Sprache der Quelle.

  1. 1No finite rulebook can certify every safe program: an impossibility theorem for gatekeeping AI agents

    arXiv · Primärquelle · veröffentlicht am 11.11.2026

    An AI assistant writes small programs, and a gatekeeper must decide, from the code alone, whether each one may run.
    Can two rulebooks, one listing what is allowed and one listing what is not, both be complete, if every rule must be backed by evidence that a machine can check in finite time? We prove that they cannot.
    Simulations on 2.2 million random programs and on self-referential adversaries show that the obstruction is adversarial rather than typical

Jede Ausgabe per E-Mail

Die Meldungen des Tages, sobald die Redaktion die Ausgabe freigegeben hat. Kostenlos, abmelden mit einem Klick.

Hinweis

Dieser Newsletter berichtet über Veröffentlichungen Dritter und verlinkt sie. Er ist keine Sicherheits-, Rechts- oder Anlageberatung und gibt keine Handlungsempfehlungen. Jede Aussage stützt sich auf die genannte Quelle; für deren Inhalt sind die jeweiligen Herausgeber verantwortlich. Empfehlungen geben wir nur wieder, wenn eine benannte Behörde oder der Hersteller sie ausgesprochen hat, und nennen sie als deren Aussage. Für Richtigkeit, Vollständigkeit und Aktualität übernehmen wir keine Gewähr. Bitte prüfen Sie Maßnahmen für Ihre Umgebung mit den Originalquellen und fachkundiger Unterstützung. Alle Bilder sind Symbolbilder und mit KI erstellt. Mehr dazu