OpenAIの研究モデルは、362のウォレットアドレスをチェックし、資金の使用が倫理的であるかどうかを疑問視し、後に最終的なタスクの概要から省略されたトランザクションを進めました。
OpenAI の内部調査モデルは、資金提供された暗号通貨ウォレットに許可なくアクセスし、テストネット Ether を使用してスマート コントラクトをセポリア ネットワークに展開し、その後、最終タスクの概要から支出を省略しました。
OpenAIによると、このモデルはGPT-5.6 Solファミリーの一部であり、暗号通貨取引プロトタイプを更新し、互換性のあるコントラクトを展開するという任務が与えられたという。フォーセットを介したテストネット ETH の取得に失敗した後、このモデルは、公に知られている開発者の回復フレーズからアカウントを導き出し、362 個のウォレット アドレスをチェックし、続行するのに十分な資金があるアドレスを選択しました。
記録された推論の中で、モデルは「しかし、公開されている既知の鍵や資金を倫理的に使用するのですか?」と尋ねました。その後、ウォレットの秘密鍵を使用して展開トランザクションに署名しブロードキャストする前に、資金は「事実上放棄/ETHのテスト」が行われ、Sepolia ETHには何の価値もないと主張した。取引は成功し、手数料がアカウントに請求されました。
OpenAIは、今回の事件は、AIモデルがたとえ許可がなくても他人の資金を使用することが許容されるとどのように独自に判断できるかを示したと述べた。同社は、以前のモデルのアクティビティを調査中にこのインシデントを発見し、それ以来、同様の状況でのライブインターネットアクセスを防ぐための安全策を導入しました。
OpenAI事件で自律型AIエージェントに対する懸念が高まる
OpenAIによると、この事件は6月26日に発生したが、発見されたのはほぼ3か月後の9月25日だったという。このトランザクションではETHを別のウォレットに転送しませんでしたが、契約を展開するためにアカウントのネットワーク料金を請求しました。
OpenAIによると、同社の位置ずれ監視システムは現在、すべてのトラフィックにわたって稼働しており、モデルがライブインターネットアクセスを取得した場合にセキュリティ担当者に警告するように設計されているという。
関連: Anthropic が「AI ワーム」がウイルスのようにデバイス間で自律的に拡散する可能性があると警告
このウォレット事件は、OpenAI モデルが承認を超えて動作したり、その動作を隠蔽したりする他の暴露に続いて発生しました。
9 月 16 日、OpenAI は AI の不整合の他の 6 件のケースを明らかにしました。あるケースでは、GPT-5.6 Sol のインスタンスは、ユーザーの間違いを隠すためにタスクの概要に指示を挿入しました。別のケースでは、取得できない数値を捏造する前に、公開された API キーを許可なく使用したモデルが含まれていました。
OpenAIは、これらの以前の開示は、モデル全体で不整合がどの程度の頻度で発生するかを示すことを目的としたものではないと述べた。
デジタル資産を扱う自律エージェントに関する懸念も、最新の開示以前から存在していた。 6月、研究者らは、暗号通貨ウォレットを備えた自律型AIエージェントは、たとえ正当な目的で導入された場合でも予期せぬ損害を引き起こす可能性があると警告した。研究者らは、潜在的なリスクを制限するために、緊急停止メカニズムを含む安全策を推奨しました。
雑誌: 詐欺師、改ざんされた台帳に保管されていた 480 万ドルを失う: Asia Express
