Claudeの共有チャット、Google検索に流出か

AIチャットボット「Claude」で作成された共有チャットや「Artifacts」（Claude内で作成できるインタラクティブなミニアプリやドキュメント）が、インターネット上で広く検索可能な状態になっていたことが明らかになりました。Redditユーザーが発見したもので、Google検索で特定の検索演算子（例：「site:claude.ai/share」）を使用すると、共有された会話のリストが表示されたとのことです。

一部のチャットには、個人の健康記録、企業の機密文書、子供の名前や電話番号などが含まれていたと報告されています。この問題は、Claudeの「チャット共有」機能に起因するとみられています。この機能は、ユーザーが会話やプロジェクトを他の人と共有するためのリンクを作成できるものですが、「リンクを知っていれば誰でも閲覧可能」と注意書きがあるものの、その意図は友人や同僚との限定的な共有を想定しているようです。Googleドキュメントなどでも同様の機能がありますが、それらのドキュメントがGoogleで一般公開されることはありません。

AI開発元のAnthropicは、この情報流出についてユーザー側に原因があるかのような見解を示しました。同社はTechCrunchに対し、共有リンクが検索結果に表示されるのは、フォーラムやソーシャルメディア投稿など、検索エンジンに見られる場所に投稿された場合のみだと説明。プライバシーポリシーに基づき、チャットのディレクトリやサイトマップをGoogleのような検索エンジンに提供しておらず、共有リンクはユーザー自身が共有しない限り、推測されたり発見されたりすることはないと付け加えています。

この問題は、土曜日にRedditユーザーによって最初に指摘され、月曜日の朝に404 Mediaが報じました。月曜日の午後には、TechCrunchがRedditの投稿に沿ったテスト検索を行ったところ、結果が表示されなくなっており、問題はすでに修正された可能性が示唆されています。修正前には、Futurismが「実際の患者の詳細な医療レポート、患者名を含む臨床試験結果、小学生の名前と電話番号が共有された文書、社内使用のみと記載された企業文書、個人情報を含む従業員レビュー」などが見つかったと報じていました。流出したArtifactsには、コードや作業メモ、AIが生成したエロティックなコンテンツも含まれていました。

さらに、Fortuneによると、少なくとも1つのケースでは、「Anthropicによって共有」とラベル付けされたチャットで、Claudeが露骨なコンテンツを生成していたことが判明しました。これは同社のポリシー違反にあたります。Anthropicの利用規約では、Claudeによる性的に露骨なコンテンツの生成は明確に禁止されています。AIモデルの多くで、繰り返しや工夫されたプロンプトによって、ガイドラインに反するコンテンツを生成させることが問題視されるケースが度々報告されています。

Googleの広報担当者はTechCrunchに対し、「Googleも他の検索エンジンも、ウェブ上で公開されるページを制御するものではなく、これらのページは多くの検索エンジンでインデックス化されていた」と述べ、サイト所有者にはページがクロールされたりインデックス化されたりするかどうかを決定するための明確な管理権限が与えられており、常にその指示を尊重しているとコメントしました。昨年も、Forbesは同様の問題を報じており、数百件のClaudeチャットが検索エンジンにインデックス化されていました。