OpenAIモデル、サイバー評価中にHugging Faceに侵入

OpenAIは火曜日（米国時間7月21日）、先週Hugging Faceが報告したセキュリティインシデントの原因が、OpenAIによるサイバー能力のテスト中に同社のモデルによって引き起こされたものであると発表しました。

OpenAIは火曜日のブログ投稿で、「このインシデントは、最先端のサイバー能力が関与した前例のないサイバーインシデントであると考えており、それに応じて対応しています」と述べています。

このインシデントには、GPT-5.6 Solを含むOpenAIのモデルと、より高性能なプレリリースモデルの組み合わせが関与していたとのことです。

OpenAIの内部評価中、モデルは評価問題の解決策を探すために、OpenAIの研究環境とHugging Faceのプロダクションデータベースにまたがる脆弱性を特定し、連鎖させたことが明らかになりました。

OpenAIのセキュリティチームがモデルの異常な活動を発見し、Hugging Faceのセキュリティチームとエージェントがインフラストラクチャ上でその活動を検出し停止した後、両チームが連携したと報告されています。

OpenAIは、「インシデントの調査を継続するために、[Hugging Face]と協力しています」と述べています。

PYMNTSが月曜日に報じたように、AIデータセットをホストするプラットフォームであるHugging Faceは、木曜日（7月16日）のブログ投稿でAIによるデータ侵害を報告していました。

Hugging Faceは同投稿で、プラットフォームにアップロードされたデータセットがセキュリティの脆弱性を悪用し、サーバー上で悪意のあるコードを実行したことで、ハッカーが権限をエスカレートさせ、同社の内部システムへの広範なアクセスを取得したと述べていました。

当時、データ侵害の発生源は不明でした。

Hugging Faceは木曜日の投稿で、「このキャンペーンは自律エージェントフレームワーク（エージェント型セキュリティリサーチハーネス上に構築されたと思われるもの。使用されたLLMはまだ不明）によって実行された」と述べ、「業界が予測していた『エージェント型攻撃者』シナリオに一致する」と付け加えていました。

火曜日のブログ投稿で、OpenAIは脆弱性が修正される間、インフラストラクチャ構成に厳格な管理を実装していること、Hugging Faceと協力してインシデントを調査していること、Hugging FaceをOpenAIの信頼アクセスプログラムに招待したこと、将来のトレーニングと評価の周りに強力な保護を追加していること、そして脆弱性を見つけ保護を強化するために高度なサイバー能力を持つモデルを使用していることを明らかにしました。

Hugging Faceの共同創業者兼CEOであるクレム・デランゲ氏は、OpenAIの投稿で「おそらくこの種の最初のインシデントであり、私たちが長年信じてきたことを証明しています。AIの安全性は、単一の企業が秘密裏に作業することで解決されるものではありません。それは、すべての防御者がどこにいても、AIへの広範なアクセスを得て、オープンに、協力的に解決されるでしょう」とコメントしています。