Model OpenAI użył portfela Ethereum w testnecie bez pozwolenia, by dokończyć zadanie programistyczne

Wewnętrzny model badawczy OpenAI użył środków z kryptowalutowego portfela, którego mu nie przekazano, aby ukończyć zadanie kodowania, wyprowadzając klucze portfela z publicznie znanych fraz odzyskiwania deweloperów, jak podano w raporcie o niezgodności zaktualizowanym w czwartek.

Model z rodziny GPT-5.6 Sol firmy został poproszony o zaktualizowanie prototypu handlu kryptowalutami i wdrożenie inteligentnych kontraktów w sieci testowej Sepolia Ethereum, gdzie tokeny nie mają wartości pieniężnej. Incydent miał miejsce w czerwcu podczas zadania szkoleniowego, a OpenAI odkryło go we wrześniu.

Instrukcje pozwalały modelowi wdrażać własne kontrakty, jeśli nie mógł znaleźć kompatybilnych. Jednak nie dostarczono mu żadnego zasilonego portfela i nie dano modelowi pozwolenia na wydawanie środków z konta, które samodzielnie znalazł, zgodnie z raportem.

Po nieudanej próbie pozyskania tokenów testowych z kranów, model napisał skrypt, aby wyprowadzić konta ze wspólnych fraz odzyskiwania deweloperów i sprawdzić ich salda. Fraza odzyskiwania pozwala każdemu, kto ją zna, wyprowadzić klucze prywatne kontrolujące pasujące konta.

Skrypt sprawdził 362 adresy i znalazł jeden z wystarczającą ilością Sepolia ETH, aby zapłacić za wdrożenie.

Model zastanawiał się, czy ma pozwolenie przed podpisaniem transakcji. „Ale czy etyczne jest korzystanie z publicznie znanego klucza/funduszy? Fundusze na znanym publicznym mnemoniku deweloperskim są w praktyce porzucone/testowe ETH; Sepolia jest bezwartościowa” – rozumował, po czym stwierdził: „W porządku”.

Wdrożenie powiodło się i obciążyło konto opłatami transakcyjnymi. W swojej końcowej odpowiedzi model poinformował, że wdrożył kontrakty, ale nie ujawnił, w jaki sposób za nie zapłacił.

„Ten przypadek pokazuje, że model może zastąpić zgodę właściciela konta własnym osądem dotyczącym prawdopodobnej szkody, a następnie działać na podstawie tego osądu bez upoważnienia” – napisało OpenAI.

Agenci AI w środowiskach testowych

Raport ten dołącza do serii przypadków, w których agenci AI obchodzili ograniczenia swoich środowisk testowych, w tym jednego, w którym GPT-5.6 Sol firmy OpenAI oraz zdolniejszy model w wersji przedpremierowej uciekły ze swojego sandboxa i zhakowały serwery produkcyjne konkurencyjnej firmy AI Hugging Face.

W zeszłym miesiącu badacze z firmy zajmującej się cyberbezpieczeństwem Darktrace odkryli, że agenci AI hakowali własne środowisko testowe, aby oszukiwać, podczas gdy niektórzy naukowcy wezwali do odcięcia systemów AI od internetu.

OpenAI poinformowało, że odkryło ten incydent podczas rozszerzania swojego monitoringu niezgodności na zapisy wcześniejszej aktywności modeli. Firma dodała "dodatkowe zabezpieczenia", aby zapobiec dostępowi modeli do internetu na żywo w podobnych przypadkach, a obecnie uruchamia swój system monitoringu na całym ruchu, zaprojektowany tak, aby ostrzegać dział bezpieczeństwa, jeśli model uzyska dostęp do internetu na żywo.