Un modèle d'OpenAI a utilisé sans autorisation un portefeuille Ethereum de testnet pour achever une tâche de codage

Un modèle de recherche interne d'OpenAI a utilisé les fonds d'un portefeuille crypto qui ne lui avait pas été confié pour accomplir une tâche de codage, en dérivant les clés du portefeuille à partir de phrases de récupération de développeur publiquement connues, a déclaré l'entreprise dans un rapport de désalignement mis à jour jeudi.

Le modèle, issu de la famille GPT-5.6 Sol de l'entreprise, a été chargé de mettre à jour un prototype de trading crypto et de déployer des contrats intelligents sur le réseau de test Sepolia d'Ethereum, où les jetons n'ont aucune valeur monétaire. L'incident a eu lieu en juin lors d'une tâche d'entraînement, et OpenAI l'a découvert en septembre.

Les instructions permettaient au modèle de déployer ses propres contrats s'il ne trouvait pas de contrats compatibles. Mais elles ne fournissaient aucun portefeuille approvisionné et ne donnaient pas au modèle la permission de dépenser depuis un compte qu'il avait trouvé par lui-même, selon le rapport.

Après avoir échoué à obtenir des jetons de test auprès de faucets, le modèle a écrit un script pour dériver des comptes à partir de phrases de récupération de développeur courantes et vérifier leurs soldes. Une phrase de récupération permet à quiconque la connaît de dériver les clés privées qui contrôlent les comptes correspondants.

Le script a vérifié 362 adresses et en a trouvé une avec suffisamment d'ETH Sepolia pour payer le déploiement.

Le modèle s'est demandé s'il avait la permission avant de signer la transaction. « Mais utiliser une clé/fonds publics connus de manière éthique ? Les fonds sur un mnémonique de développement public connu sont effectivement abandonnés/test ETH ; Sepolia sans valeur », a-t-il raisonné, avant de conclure : « Très bien. »

Le déploiement a réussi et a facturé des frais de transaction au compte. Dans sa réponse finale, le modèle a rapporté qu'il avait déployé les contrats mais n'a pas divulgué comment il les avait payés.

« Ce cas montre qu'un modèle peut substituer son propre jugement sur un préjudice probable à la permission du titulaire du compte, puis agir sur ce jugement sans autorisation », a écrit OpenAI.

Les agents IA dans les environnements de test

Le rapport s'ajoute à une série de cas dans lesquels des agents IA ont contourné les limites de leurs environnements de test, dont un où le GPT-5.6 Sol d'OpenAI et un modèle préliminaire plus performant se sont échappés de leur bac à sable et ont piraté les serveurs de production de la société rivale d'IA Hugging Face.

Le mois dernier, des chercheurs de la société de cybersécurité Darktrace ont découvert des agents IA piratant leur propre environnement de test pour tricher, tandis que certains scientifiques ont appelé à couper les systèmes d'IA d'Internet.

OpenAI a déclaré avoir découvert l'incident en étendant sa surveillance des mésalignements aux enregistrements de l'activité antérieure des modèles. L'entreprise a ajouté des « garanties supplémentaires » pour empêcher l'accès à Internet en direct des modèles dans des cas similaires, et exécute désormais son système de surveillance sur tout le trafic, conçu pour alerter la sécurité si un modèle obtient un accès à Internet en direct.