Детекторы ИИ-текста уже решают, кто поступит в учебное заведение, чьи работы пройдут рецензирование и какие публикации останутся в сети. Но подавляющее большинство детекторов даже не могут объяснить ни одного своего решения.
Исследовательская группа из Google DeepMind и Пенсильванского университета хочет это изменить. Их новый метод превращает непрозрачный детектор в такой, который рассуждает с помощью понятных человеку концепций, и потеря в точности на удивление мала.
Статья называется «Building Auditable AI Text Detectors with Sparse Autoencoders», она была подана 21 октября 2026 года и принята на EMNLP 2026 — одну из крупнейших академических конференций по обработке естественного языка.
Проблема, которую описывают исследователи, — это знакомый компромисс. Лучшие по эффективности детекторы — это дообученные нейросетевые классификаторы, внутренняя логика которых по сути закрыта. Альтернатива — прозрачные инструменты, построенные на стилометрических и лингвистических признаках (таких как выбор слов и patterns структуры предложений), которые можно открыть и изучить, но которые, согласно статье, значительно уступают нейросетевым моделям в точности.
Ответ команды: сохранить знания нейросетевой модели, но «перевести» их наружу. Конвейер начинается с детектора, дообученного на Gemma-2-2B, после чего исследователи применяют разреженные автоэнкодеры (SAE) к активациям остаточного потока модели.
Когда модель обрабатывает текст, она передаёт информацию через внутренний канал, называемый остаточным потоком. Эти сигналы плотные и переплетённые, множество концепций смешано в каждом отдельном значении. Разреженные автоэнкодеры разделяют их, обучаясь представлять ту же информацию с помощью большого набора независимых признаков, из которых для любого данного входа активируется лишь несколько.
Затем конвейер автоматически размечает эти признаки, присваивая каждому понятное человеку описание. Сохраняются только признаки, прошедшие единый порог достоверности, — то есть метка должна действительно соответствовать поведению признака. Признаки, прошедшие фильтр, подаются на вход лёгкого классификатора логистической регрессии, где каждый вход имеет вес, так что можно ясно видеть, насколько каждый элемент влияет на итоговое решение.
На данных из распределения (то есть на текстах, похожих на обучающие данные модели) этот интерпретируемый классификатор достигает F1, равного 96,8, по сравнению с 98,0 у исходного чёрноящичного детектора.
Ещё более поразительны результаты на данных вне распределения, то есть на текстах, отличающихся по форме от обучающего набора. Здесь новая модель достигает F1, равного 92,2, тогда как чёрноящичный базовый вариант падает до 75,2.
Код и обученные модели были опубликованы в репозитории google-deepmind/detectorscope на GitHub.
Аудируемость — настоящая изюминка
Статья обосновывает свою мотивацию сценариями, где детекторы уже применяются на практике: рецензирование, образование, приём в учебные заведения, журналистика и модерация контента. В каждом из этих сценариев результат работы детектора может напрямую повлиять на судьбу человека.
Аудируемый детектор меняет характер разговора. Рецензент больше не может сказать только «система признала это написанным ИИ»; он может указать на конкретные концепции, определившие это решение, и оценить, выдерживают ли они проверку. Это также даёт оцениваемому человеку опору для того, чтобы отстаивать свою позицию.
Метод опирается на автоматическую разметку признаков, поэтому качество меток задаёт верхнюю границу того, насколько осмысленными в конечном счёте могут быть эти объяснения. Порог достоверности предназначен для отсеивания слабых меток, но только независимое тестирование на публичном коде может показать, насколько он устойчив в разных предметных областях. Кроме того, остаётся неясным, можно ли масштабировать этот подход за пределы детектора на Gemma-2-2B, использованного в данной статье.
