Anthropic、データ保持ポリシーを一部緩和へ

AI開発企業Anthropic（アンソロピック）は、6月に発表したデータ保持ポリシーを一部変更する方針であることが分かりました。Bloombergが8月20日、匿名の情報源からの情報として報じました。

同社は、最先端のAIモデルを利用する法人顧客に対し、引き続き30日間のデータ保持を求めるものの、そのデータを顧客自身のクラウドインフラ上で保持することを認めるとしています。この新しいシステムは年内に導入される予定です。Anthropicは、規制の厳しい業界の顧客と数ヶ月にわたり協力し、この選択肢を開発してきたとのことです。

Anthropicは6月9日、AIモデル「Claude 3」および同等以上の性能を持つモデルについて、30日間のデータ保持ポリシーを導入すると発表していました。このポリシーは、自社および第三者のサービスに適用され、ほとんどの場合、30日後にデータが削除されるとしていました。同社は、このデータ保持が「複雑で新しい攻撃（新しいジェイルブレイクや複数リクエストにまたがる攻撃を含む）に対する防御に役立ち、誤検知の特定と削減にも貢献する」と説明していました。

しかし、この発表の翌日（6月10日）には、MicrosoftがAnthropicのデータ保持要件の変更について法務チームが評価する間、従業員による「Claude 3」の使用を制限していると報じられました。報道によると、Anthropicのデータ保持ポリシーには、同社の利用規約に違反すると判断されたプロンプト（指示）と出力が、最長2年間保持される場合が含まれるとのことです。

こうした動きを受け、企業経営層やCFO（最高財務責任者）の間では、「エンタープライズAIシステムを流れるデータが正確にどう扱われ、どれだけ保持され、どのような責任が生じるのか」という疑問が浮上していました。

競合であるOpenAIも、8月19日に、複数のやり取りを通じてのみ明らかになる深刻な安全上のリスクを特定する安全システム「Private Safety Processing」のテストを開始したと発表しています。同社は、対象となるAPI顧客には引き続き「ゼロデータ保持」を提供するとしており、このシステムは9月に展開予定です。