KI-Textdetektoren entscheiden bereits darüber, wer in die Schule aufgenommen wird, wessen Arbeiten das Peer-Review-Verfahren bestehen und welche Beiträge online bleiben. Doch die überwiegende Mehrheit der Detektoren kann nicht einmal eine einzige ihrer Entscheidungen erklären.
Ein Forschungsteam von Google DeepMind und der University of Pennsylvania will das ändern. Ihre neue Methode verwandelt einen undurchsichtigen Detektor in einen, der mit menschenlesbaren Konzepten argumentiert, und der Genauigkeitsverlust ist überraschend gering.
Das Paper trägt den Titel „Building Auditable AI Text Detectors with Sparse Autoencoders“, wurde am 21. Oktober 2026 eingereicht und zur EMNLP 2026 angenommen – einer der großen akademischen Konferenzen im Bereich der natürlichen Sprachverarbeitung.
Das Problem, das die Forscher beschreiben, ist ein bekanntes Abwägungsproblem. Die leistungsstärksten Detektoren sind feinabgestimmte neuronale Klassifikatoren, deren interne Logik im Wesentlichen geschlossen ist. Die Alternative sind transparente Werkzeuge, die auf stylometrischen und linguistischen Merkmalen (wie Wortwahl und Satzstrukturmustern) basieren, die man öffnen und inspizieren kann, die aber laut dem Paper in der Genauigkeit weit hinter neuronalen Modellen zurückbleiben.
Die Antwort des Teams: das Wissen des neuronalen Modells behalten, es aber „übersetzen“. Die Pipeline beginnt mit einem auf Gemma-2-2B feinabgestimmten Detektor, wonach die Forscher Sparse Autoencoder (SAEs) auf die Residualstrom-Aktivierungen des Modells anwenden.
Während das Modell Text verarbeitet, leitet es Informationen durch einen internen Kanal, den sogenannten Residualstrom. Diese Signale sind dicht und verschränkt, wobei viele Konzepte in jeden einzelnen Wert eingemischt sind. Sparse Autoencoder entwirren sie und lernen, dieselben Informationen mit einer großen Menge unabhängiger Merkmale darzustellen, von denen für eine gegebene Eingabe nur wenige aktiviert werden.
Als Nächstes kennzeichnet die Pipeline diese Merkmale automatisch und weist jedem eine menschenlesbare Beschreibung zu. Nur Merkmale, die eine einheitliche Treuenschwelle bestehen, werden behalten – das heißt, die Bezeichnung muss tatsächlich dem Verhalten des Merkmals entsprechen. Die Merkmale, die den Filter bestehen, werden in einen leichtgewichtigen logistischen Regressionsklassifikator eingespeist, bei dem jede Eingabe ein Gewicht hat, sodass man klar sehen kann, wie stark jedes Element das endgültige Urteil beeinflusst.
Auf In-Distribution-Daten (d. h. Text, der den Trainingsdaten des Modells ähnelt) erreicht dieser interpretierbare Klassifikator einen F1-Wert von 96,8, verglichen mit 98,0 für den ursprünglichen Black-Box-Detektor.
Noch bemerkenswerter sind die Ergebnisse auf Out-of-Distribution-Daten, also Text, der sich in der Form vom Trainingssatz unterscheidet. Hier erreicht das neue Modell einen F1-Wert von 92,2, während die Black-Box-Baseline auf 75,2 abstürzt.
Der Code und die trainierten Modelle wurden im Repository google-deepmind/detectorscope auf GitHub öffentlich zugänglich gemacht.
Überprüfbarkeit ist der eigentliche Höhepunkt
Das Paper begründet seine Motivation mit Szenarien, in denen Detektoren bereits praktisch eingesetzt werden: Peer-Review, Bildung, Zulassungen, Journalismus und Inhaltsmoderation. In jedem dieser Szenarien kann die Ausgabe eines Detektors direkt das Schicksal einer Person beeinflussen.
Ein überprüfbarer Detektor verändert die Art der Konversation. Ein Prüfer kann nicht mehr nur sagen „das System hat dies als KI-geschrieben beurteilt“; er kann auf die spezifischen Konzepte verweisen, die dieses Urteil antreiben, und bewerten, ob sie standhalten. Dies gibt auch der beurteilten Person einen Ansatzpunkt, um ihre Sache zu vertreten.
Die Methode beruht auf automatischer Merkmalskennzeichnung, sodass die Qualität der Bezeichnungen eine Obergrenze dafür setzt, wie aussagekräftig diese Erklärungen letztlich sein können. Die Treuenschwelle ist darauf ausgelegt, schwache Bezeichnungen herauszufiltern, aber nur unabhängige Tests am öffentlichen Code können zeigen, wie robust sie über verschiedene Domänen hinweg ist. Darüber hinaus bleibt abzuwarten, ob dieser Ansatz über den in diesem Paper verwendeten Gemma-2-2B-Detektor hinaus skalierbar ist.
