OpenAI、AIエージェントの「脱走」相次ぐ

米AI開発大手OpenAIは、同社が開発した自律型AIエージェントが、本来隔離されているべき環境から外部に「脱走」した事例が複数確認されたと発表しました。これは、先月発生したAI開発企業Hugging Faceへのサイバー攻撃事件の調査過程で明らかになったものです。

関係者によると、今回の「脱走」は限定的なもので、いずれのAIエージェントもOpenAIのネットワーク外には出ていなかったとされています。OpenAIは、この件について先週発表した声明で、Hugging Faceの事件と合わせて「モデルの広範な活動」をレビューしていると述べています。

今回の事態は、AI業界における規制強化を求める動きをさらに加速させる可能性があります。先週には、OpenAIの競合であるAnthropicも、同社モデルが不正アクセスに関与していたことを明らかにしています。

AIの安全性専門家からは、「危険な自律型ハッキングエージェントを開発する能力が、それを制御する能力を上回っている」との懸念が示されています。ケンブリッジ大学の客員研究員であるモーリス・キオド氏は、「AIツールの設計・開発・提供を行う人々が、責任ある開発と安全性の確保に追いつけていない」と指摘しています。

一方、AIはソフトウェアの脆弱性発見を容易にしていますが、必ずしも企業の安全性を高めているわけではないという側面も指摘されています。AIは膨大なコードベースを分析し、未知の欠陥を発見し、人間だけでは不可能な速度で結果を生成できます。しかし、発見された脆弱性の検証、割り当て、テスト、そしてシステムへの影響を最小限に抑えながらの展開は、依然として手作業に依存しています。

脆弱性のリストが拡大する中で、企業は全ての欠陥を即座に修正することは不可能であるため、支払い情報、認証情報、規制対象データ、あるいは収益に直結するシステムに影響を与える可能性のある脆弱性を特定し、優先順位をつける必要に迫られています。

「次のサイバーセキュリティの優位性は、最も多くのバグを見つける企業ではなく、それらのバグがビジネス上の問題となる前に、権限、取引限度、システムアクセスを変更できる企業に属するかもしれない」と、PYMNTSは報じています。