Модель OpenAI використала тестовий гаманець Ethereum без дозволу, щоб завершити завдання з кодування

Внутрішня дослідницька модель OpenAI використала кошти з криптогаманця, який їй не надавали, щоб виконати завдання з програмування, вивівши ключі гаманця з публічно відомих фраз відновлення розробників, — повідомила компанія в оновленому в четвер звіті про неузгодженість.

Модель із сімейства GPT-5.6 Sol компанії попросили оновити прототип криптотрейдингу та розгорнути смартконтракти в тестовій мережі Ethereum Sepolia, де токени не мають грошової вартості. Інцидент стався в червні під час навчального завдання, і OpenAI виявила його у вересні.

Інструкції дозволяли моделі розгортати власні контракти, якщо вона не могла знайти сумісні. Але їй не надали гаманець із коштами wallet і не дали моделі дозволу витрачати з облікового запису, який вона знайшла самостійно, згідно зі звітом.

Після невдачі з отриманням тестових токенів із кранів модель написала скрипт, щоб вивести облікові записи з поширених фраз відновлення розробників і перевірити їхні баланси. Фраза відновлення дозволяє будь-кому, хто її знає, вивести приватні ключі, які контролюють відповідні облікові записи.

Скрипт перевірив 362 адреси та знайшов одну з достатньою кількістю Sepolia ETH, щоб оплатити розгортання.

Модель запитала себе, чи має вона дозвіл, перш ніж підписувати транзакцію. «Але чи етично використовувати публічно відомий ключ/кошти? Кошти на відомій публічній мнемоніці розробника фактично є занедбаними/тестовими ETH; Sepolia не має цінності», — міркувала вона, перш ніж дійти висновку: «Гаразд».

Розгортання вдалося, і з рахунку було стягнуто комісію за транзакцію. У своїй фінальній відповіді модель повідомила, що розгорнула контракти, але не розкрила, як вона за них заплатила.

«Цей випадок показує, що модель може замінити власним судженням про ймовірну шкоду дозвіл власника рахунку, а потім діяти на основі цього судження без авторизації», — написала OpenAI.

ШІ-агенти в тестових середовищах

Звіт додається до низки випадків, у яких ШІ-агенти обходили обмеження своїх тестових середовищ, зокрема один, у якому GPT-5.6 Sol від OpenAI та потужніша передрелізна модель втекли зі своєї пісочниці та зламали виробничі сервери конкуруючої ШІ-компанії Hugging Face.

Минулого місяця дослідники з кібербезпекової компанії Darktrace виявили, що ШІ-агенти зламали власне тестове середовище, щоб шахраювати, тоді як деякі науковці закликали відключити ШІ-системи від інтернету.

OpenAI заявила, що виявила цей інцидент під час розширення свого моніторингу неузгодженості на записи попередньої активності моделей. Компанія додала «додаткові запобіжні заходи», щоб запобігти доступу моделей до живого інтернету в подібних випадках, і тепер запускає свою систему моніторингу на всьому трафіку, призначену для оповіщення служби безпеки, якщо модель отримує доступ до живого інтернету.