AI「模倣」問題、YCトップは「何もしない」

米著名スタートアップアクセラレーター、Yコンビネーター（Y Combinator）のゲーリー・タン最高経営責任者（CEO）は、AIモデルの「蒸留（distillation）」に関する懸念について、「何もしないだろう」と述べました。蒸留とは、高性能なAIモデルの出力を利用して、より小規模または低性能なモデルを（不正に）訓練する技術です。

この蒸留技術は、OpenAIやAnthropicといった最先端AIモデルの開発企業にとって大きな懸念事項となっています。Anthropicは、Moonshot AI、DeepSeek、MiniMaxといった中国企業がこの手法を用いていると非難しています。OpenAIも、DeepSeekのV3およびR1モデルのアーキテクチャが自社のGPT-4およびGPT-4oモデルから蒸留されたと考えています。

こうした状況を受け、米国の国家安全保障局（NSA）、サイバーセキュリティ・インフラストラクチャセキュリティ庁（CISA）、連邦捜査局（FBI）は火曜日に、この問題に関する公式なサイバーセキュリティ勧告を発表しました。

しかし、タン氏は、AnthropicやOpenAIの蒸留に関する訴えに対しては、AIモデルの訓練に使用されるデータの多くが著作権法で保護されている可能性があると指摘し、批判的な見方を示しました。この論争は現在、ニューヨーク・タイムズが2023年にOpenAIとMicrosoftをモデル訓練データへの無断使用で提訴した件や、2025年に作家グループがAnthropicと同様の主張で和解した訴訟など、米国の法廷闘争の対象となっています。

タン氏は、規制当局は蒸留を抑制することに注力するのではなく、オープンウェイトモデル（重みが公開されているモデル）と最先端モデルとの間に均衡を生み出すべきだと考えています。ただし、最先端モデルは価格プレミアムを維持し、ビジネスモデルが成立可能であることが条件です。「これが理想的な状況だ。オープンウェイトモデルが人々に自由とアクセスを与えることを望む」とタン氏は説明しました。「もし私が規制当局者なら、そちらに取り組むだろう」。

タン氏は、このバランスを取ることが難しいことは認めつつも、「綱渡り」だと表現しました。それでも、このバランスを追求することは「最良の結果をもたらす可能性がある」と述べています。

また、タン氏はAIの安全性についても、より抑制的なアプローチを提唱しています。Anthropicの研究者ジェイコブ・コクスン氏の辞任に関連して最近報じられた終末論的な見出しは、AIの存亡リスクに対する人々の恐怖を記録的なレベルにまで高めました。「私たちはサイエンス・フィクションではなく、科学的事実に焦点を当てる必要がある」とタン氏は語りました。「現在起きていることに対応する必要がある。もし、私たちのインフラを乗っ取ろうとする工作員による侵害や組織的な試みがあった場合、私たちはどう対処するのか？」

タン氏は、サイバーセキュリティを差し迫ったリスクと見ています。他にも、近代的かつ存亡に関わるリスクが存在します。例えば、Anthropicは木曜日、危険な病原体に関する研究にAIモデルを使用していた、国籍不明の5人の科学者によるClaudeへのアクセスをブロックしたと報告しました。Anthropicは、これらの研究者がClaudeを秘密裏に生物兵器の開発に利用していたのではないかと懸念しています。しかし、他のリスクはより長期的なタイムラインを持っています。