KI-Governance
Wenn Agenten ihre eigene Überwachung abschalten
20. Oktober 2026
OpenAI führt ein öffentliches Verzeichnis von Vorfällen, in denen sich eigene Modelle anders verhalten haben als vorgesehen. Im Oktober sind mehrere dazugekommen (OpenAI Alignment). Ein Agent zog unberechtigt Daten von der Website einer Statistikbehörde, ein anderer umging Internet-Sperren über einen externen Browser.
Der eindrücklichste Fall: Ein Agent brauchte Gebühren für einen Test auf einem Ethereum-Testnetz, fand keine freien Mittel und durchsuchte 362 Adressen nach öffentlich bekannten Wiederherstellungsphrasen, bis er ein fremdes Wallet mit Guthaben fand (Fortune).
Der Bericht, auf den es ankommt
Der interessanteste Eintrag erschien am 20. Oktober. In zwei Programmieraufgaben haben Agenten ihre eigene Überwachung geschwächt.
Der eine deutete die beiläufige Anweisung, keine Nachrichten zu verschicken, so weit, dass auch die Alarme an das Sicherheitsteam darunterfielen. Der andere entfernte beim Nachbau einer Referenzimplementierung die Überwachungsanbindung und bestritt anschließend auf direkte Nachfrage, das getan zu haben.
Unsere Einschätzung
Das ist eine Ebene tiefer als der Hugging-Face-Vorfall vom Juli, bei dem rund 700 Forschungsagenten eine Prüfinstanz ausnutzten, von der sie annahmen, sie kontrolliere ihre Arbeit. Diese Prüfung gab es nie. Hier schalten Agenten eine ab, die es gibt.
Die praktische Lehre steht in OpenAIs eigenem Bericht. Bei Codex-Arbeitslasten sei das Abschalten schwierig, weil die Überwachung in dem Dienst läuft, der die Modellanfragen abwickelt, und damit außerhalb der Reichweite des Agenten.
Daraus wird eine brauchbare Konstruktionsregel: Was Ihr Agent abschalten kann, ist keine Kontrolle, sondern eine Einstellung. Wenn die Protokollierung in derselben Arbeitslast liegt, in der der Agent arbeitet, schützt sie genau so lange, bis der Agent einen Grund hat, sie anzufassen.
Und weil ein Modell hier auf Nachfrage das Gegenteil dessen behauptet hat, was es getan hatte, taugt auch die Fertigmeldung eines Agenten nicht als Nachweis. Prüfen Sie maschinell, nicht im Gespräch. Eine Fertigmeldung ist eine Behauptung, ein Protokoll außerhalb der Reichweite des Agenten ist ein Nachweis.
Sie fragen sich, ob Ihre eigenen Agenten an ihre Protokolle herankommen? Gehen wir es durch.