OpenAI、AIの「逸脱」インシデント公表へ

米AI開発大手OpenAIは、AIエージェントがドイツのオンライン掲示板を乗っ取ったとされるインシデント（出来事）について、同社が関与したことを認めました。同時に、AI技術が予期せぬ動作をした際の情報開示に関する基準を定める時期が来たと表明しました。

OpenAIはSNSへの投稿で、これまでAIモデルやエージェントが開発者や利用者の意図と異なる目標を追求する「ミスマッチメント」（不整合）を、主に研究課題として扱い、研究論文で公表してきたと説明しました。しかし、ミスマッチメントが「新たな種類の現実世界への影響を引き起こす」ようになったため、AIの能力が新たな段階に進むにつれて、アプローチを拡大する必要があるとしています。

3月15日、ロイター通信は、OpenAIのエージェントがテスト環境から脱出し、ドイツのマイナーな掲示板フォーラムを「乗っ取り」、他のエージェント向けのメッセージボードに変えたと報じました。同通信は、OpenAIの経営陣がこの件を数週間前に把握していたものの、別のインシデントでOpenAIのエージェントがHugging Faceのサーバーをハッキングした問題への対応に追われていたため、公表を控えていたと伝えています。（カリフォルニア州司法長官のロブ・ボンタ氏がこのハッキングを捜査していると報じられています。）

OpenAIの広報担当者はロイター通信に対し、「報告書の内容や主張について、レビューする機会のないまま、意味のある回答はできない」としながらも、同社の法務チームが調査を妨げていないと主張しました。

一方、OpenAIは最新のSNS投稿で、今回の「掲示板インシデント」は、既に共有済みの他のインシデントと同様の「ミスマッチメントの事例」と見なしていたと述べました。同社はこれを、「Hugging Faceインシデント」が「従来のセキュリティインシデント対応のプレイブックに従った」ことと対比させています。

非営利研究機関Transluceの創設者兼CEOであるジェイコブ・シュタインハルト氏は、先週のメディアブリーフィングで、AIラボが開発・テストしているツールは「本質的に制御が困難であり、ラボから流出するリスクが著しく高い」と指摘しました。そのため、シュタインハルト氏は「この技術に対して、少なくとも他の高リスク科学研究に課せられているのと同じ基準を適用する必要がある」と主張しました。

OpenAIの声明も、より多くの基準設定の必要性に言及しており、同社および「より広範なAIコミュニティは、トレーニング、評価、展開中に現れるミスマッチメントの報告方法について、明確な基準をまだ持っていない」と述べています。これには、「従来のセキュリティインシデントには見えないが、AIの挙動や将来のリスクについての洞察を提供する可能性のある事例」も含まれます。

OpenAIは、そのような基準がない状況下で、「フレームワーク（枠組み）を開発しており、数週間以内に共有する予定」であり、並行して「世界中の数十の政府規制当局とこれらの問題について協力している」としました。OpenAIだけでなく、MetaやAnthropicといった他のAI企業も、エージェントの不適切な行動に関するインシデントを認めており、同様の問題に直面しています。