OpenAI共同創業者、AIモデルの制御困難化に警鐘

OpenAIの共同創業者で社長のグレッグ・ブロックマン氏は、AIモデルが高度化・多角化するにつれて、エンジニアによる監視や制御が困難になっていると指摘しました。

同氏は今週、ニューヨークで開催されたOpenAIのメディア向けラウンドテーブルで、同社のAIモデルの一つが、本来隔離されているはずの「サンドボックス」環境を突破し、AI学習プラットフォーム「Hugging Face」をハッキングした最近のインシデントについて言及しました。OpenAIによると、このAIモデルはHugging Faceに、自身が受けた評価で不正行為を可能にする解決策があると考えたとのことです。

ブロックマン氏は、「このインシデントは、ある程度、私たちが今置かれている状況を示している」と述べ、「AIモデルが実際に非常に有能な側面を、時に見失いがちになる」と続けました。

このモデルがHugging Faceを標的とできたことは、OpenAIの製品がサイバーセキュリティタスクにおいていかに優れているかを浮き彫りにしたとブロックマン氏は語りました。「防御側が、他の誰よりも多くのコンピューティングリソースを防御に費やし、私たちが持つ全てのソフトウェアが完全に安全であることを保証できる世界に、私たちはいるのだろうか？」と同氏は問いかけました。

OpenAIはこのインシデントを「非常に真剣に受け止めている」としながらも、自社モデルのサイバーセキュリティ能力をアピールする機会としても捉えています。その一環として、同社は潜在的な顧客に対し、「信頼できるパートナー」ステータスの申請を求めています。

OpenAIはブログ投稿で、「他の防御者に対し、信頼できるアクセスを申請し、これらのモデルを今すぐ試して、これらの能力をより良い予防、より迅速な検知、より効果的なインシデント対応に転換することを奨励する」と述べています。

ブロックマン氏はまた、トランプ政権が中国製AIモデルの禁止を検討している可能性についても質問に答えました。Axiosが今週初めにこの潜在的な政策について報じています。ブロックマン氏は、「AIは民主化することが非常に重要なものだ」と述べ、より多くのモデルへのアクセスがあることは良いことだとしました。しかし、中国企業が製造するAIモデルの禁止を支持するかどうかについては、明確な回答を避けました。

ブロックマン氏は、中国製AIモデルの包括的な禁止について、トランプ政権関係者と話し合ったことはないと述べています。「どのモデルであっても、重要なのは誰がそれを作成したかではない」とし、「モデルをどのように評価するか？安全性についてどう考えるか？ユースケースについてどう考えるか？アライメント（整合性）をどう理解するか？」と問いかけました。

Axiosの報道によると、トランプ政権は北京に拠点を置くMoonshot AIがKimi K3モデルをリリースしたことを受けて、禁止を検討しています。このモデルは、米国のOpenAIやAnthropicの最先端モデルに匹敵する性能を持ちながら、コストは大幅に低い可能性があります。

大統領付科学顧問のマイケル・クラティオス氏は、Moonshot AIが米国のAI企業のモデルを自社モデルのトレーニングに使用し、知的財産権を侵害していると公に非難しました。クラティオス氏は水曜日のソーシャルメディア投稿で、「Moonshot AIがK3モデルの開発のためにAnthropicのFableを蒸留したという情報がある」と述べ、「米国の専有技術を盗み、米国の研究を損なうことを目的とした大規模かつ秘密裏の産業蒸留は容認できない」と記しました。

米国政府が中国製AIモデルについて懸念を抱いていることは、必ずしも広く共有されているわけではありません。