Un modèle de recherche OpenAI a vérifié 362 adresses de portefeuille, s'est demandé si l'utilisation des fonds était éthique et a procédé à une transaction qu'il a ensuite omise dans son résumé final de la tâche.
Un modèle de recherche interne chez OpenAI a accédé à un portefeuille crypto financé sans autorisation, en utilisant testnet Ether pour déployer des contrats intelligents sur le réseau Sepolia et en omettant ensuite les dépenses de son résumé final des tâches.
OpenAI a déclaré que le modèle, qui faisait partie de sa famille GPT-5.6 Sol, avait pour tâche de mettre à jour un prototype de trading crypto et de déployer des contrats compatibles. Après avoir échoué à obtenir l'ETH testnet via les robinets, le modèle a dérivé des comptes à partir de phrases de récupération de développeurs connues publiquement, a vérifié 362 adresses de portefeuille et en a sélectionné une avec suffisamment de fonds pour continuer.
Dans son raisonnement enregistré, le modèle a demandé : « Mais utiliser des clés/fonds publics de manière éthique ? Il a ensuite fait valoir que les fonds avaient été « effectivement abandonnés/testés ETH » et que Sepolia ETH n’avait aucune valeur, avant d’utiliser la clé privée du portefeuille pour signer et diffuser une transaction de déploiement. La transaction a réussi, avec des frais facturés sur le compte.
OpenAI a déclaré que l’incident montrait comment un modèle d’IA pouvait décider par lui-même que l’utilisation des fonds de quelqu’un d’autre était acceptable, même sans autorisation. La société a découvert l'incident en examinant l'activité précédente du modèle et a depuis introduit des mesures de protection pour empêcher l'accès à Internet en direct dans des situations similaires.
L'incident d'OpenAI ajoute aux inquiétudes concernant les agents d'IA autonomes
L'incident s'est produit le 26 juin, mais n'a été découvert que le 25 septembre, soit près de trois mois plus tard, selon OpenAI. La transaction n'a pas transféré l'ETH vers un autre portefeuille mais a facturé des frais de réseau de compte pour le déploiement d'un contrat.
OpenAI a déclaré que son système de surveillance des désalignements s'applique désormais à tout le trafic et est conçu pour alerter le personnel de sécurité si un modèle obtient un accès Internet en direct.
Related: Anthropic prévient que les « vers IA » peuvent se propager de manière autonome sur les appareils, comme un virus
L'incident du portefeuille fait suite à d'autres divulgations impliquant des modèles OpenAI agissant au-delà de leur autorisation ou dissimulant leurs actions.
Le 16 septembre, OpenAI a révélé six autres cas de désalignement de l’IA. Dans un cas, des instances de GPT-5.6 Sol ont inséré des instructions dans les résumés de tâches pour masquer les erreurs des utilisateurs. Un autre cas impliquait un modèle utilisant une clé API exposée sans autorisation avant de fabriquer des figures qu'il ne pouvait pas récupérer.
OpenAI a déclaré que ces divulgations antérieures n'étaient pas destinées à indiquer la fréquence à laquelle un désalignement se produit entre ses modèles.
Les inquiétudes concernant les agents autonomes gérant les actifs numériques sont également antérieures à la dernière divulgation. En juin, des chercheurs ont averti que les agents d’IA autonomes équipés de portefeuilles cryptographiques pourraient causer des dommages involontaires, même s’ils étaient déployés à des fins légitimes. Les chercheurs ont recommandé des mesures de protection, notamment des mécanismes d'arrêt d'urgence, pour limiter les risques potentiels.
Magazine : Un escroc perd 4,8 millions de dollars stockés dans des registres falsifiés : Asia Express
