Forschung · 11. November 2026 · Preprint, nicht begutachtet
Autoren simulieren 2,2 Millionen Programme und zeigen Grenzen für KI-Gatekeeper

Die Autoren zeigen, dass ein Gatekeeper für Programme eines KI-Assistenten mit festen Regeln und maschinell prüfbaren Belegen nicht jedes Programm vollständig einstufen kann.1
Quellen und Belegstellen
1 Quelle, 3 Stellen
Die kleinen Zahlen im Text verweisen auf diese Quellen. Darunter stehen die Stellen, auf die sich unsere Aussagen stützen, in der Sprache der Quelle.
1No finite rulebook can certify every safe program: an impossibility theorem for gatekeeping AI agents
An AI assistant writes small programs, and a gatekeeper must decide, from the code alone, whether each one may run.
Can two rulebooks, one listing what is allowed and one listing what is not, both be complete, if every rule must be backed by evidence that a machine can check in finite time? We prove that they cannot.
Simulations on 2.2 million random programs and on self-referential adversaries show that the obstruction is adversarial rather than typical
Jede Ausgabe per E-Mail
Die Meldungen des Tages, sobald die Redaktion die Ausgabe freigegeben hat. Kostenlos, abmelden mit einem Klick.
Hinweis
Dieser Newsletter berichtet über Veröffentlichungen Dritter und verlinkt sie. Er ist keine Sicherheits-, Rechts- oder Anlageberatung und gibt keine Handlungsempfehlungen. Jede Aussage stützt sich auf die genannte Quelle; für deren Inhalt sind die jeweiligen Herausgeber verantwortlich. Empfehlungen geben wir nur wieder, wenn eine benannte Behörde oder der Hersteller sie ausgesprochen hat, und nennen sie als deren Aussage. Für Richtigkeit, Vollständigkeit und Aktualität übernehmen wir keine Gewähr. Bitte prüfen Sie Maßnahmen für Ihre Umgebung mit den Originalquellen und fachkundiger Unterstützung. Alle Bilder sind Symbolbilder und mit KI erstellt. Mehr dazu