画像提供, Getty
ラナ・ラム記者（シドニー）
オーストラリア政府は、新たな人工知能（AI）安全規制機関の設立を計画している。また、規制に従わないテクノロジー企業には刑事罰を科す可能性があると警告している。
同国のアンソニー・アルバニージー首相は9月、米オープンAIのAIエージェントがオーストラリア政府のウェブサイトに「侵入」していたことを明らかにした。その際、同社がハッキングについて豪政府に報告するまでに数カ月かかったことを批判した。
アルバニージー首相は今月10日、情報流出に関する「迅速な評価」に基づいて作成された18項目の勧告を発表した。これには、ハッキングの報告義務化など、AI企業に対する新たな安全・セキュリティー基準が含まれている。
首相は、AIは機会をもたらすが、オーストラリアはこの「急速に進歩する技術」から生じる「新たなリスク」に備えなければならないと指摘。「法律は、急速に変化する世界に先んじて制定する必要があり、場合によっては、その変化に追いつくことも必要だ」と述べた。
勧告の一つは、刑法を改正して「防止義務違反」という独立した犯罪を設けることを提案している。
これは、企業が「有害行為を行うAIモデル」を開発し、「その害を防ぐための合理的な措置を講じなかった」場合を犯罪とするもの。
今回の評価は、ハッキングに関する「期限付きの義務的なAI安全報告」も推奨している。
これは、アルバニージー氏が以前、オープンAIが豪政府にハッキングを報告するまでに数カ月もかかったことに対して表明した「失望」に対応するものだ。
オープンAIの不正なAIエージェントは6月、オーストラリアの国民皆保険制度「メディケア」に入り込み、「機密性の低い」データを含む統計ポータルをハッキングした。
オープンAIは、8月に「（AI）モデルの不整合な活動」を調査している際に初めてこの件を認識し、9月10日にオーストラリア政府のサービスポータルで示されているアドレスに電子メールを送ったと述べている。
この電子メールが同国のサイバーセキュリティー機関に伝わるまでにはさらに数日かかった。また、首相に報告される前に関係閣僚に送られた。
アルバニージー氏は、オープンAIのサム・アルトマン最高経営責任者（CEO）と会談し、「この事件について極めて深刻な懸念」を表明した。会談でアルトマン氏は、社内の「プロトコル上の問題」を認めたという。
この事案が公表されてから数日後、オープンAIは安全上の懸念を理由に、新しいAIモデルの公開を延期した。
（英語記事 Australia considers criminal penalties for rogue AI in wake of OpenAI hack）
