AnthropicのAI透かし機能、誤解を解く

米AI企業Anthropic（アンソロピック）が提供する大規模言語モデル「Claude（クロード）」に搭載された、AI生成テキストの透かし（ウォーターマーク）機能について、一部で誤解が生じていることが明らかになりました。同社はこの新機能について、AIが生成する文章に人間には検出困難な隠し透かしを埋め込むことで、AIによって作成されたコンテンツであることを識別可能にすると説明しています。

しかし、この透かし機能の仕組みや、どのような操作で透かしが付与されるのかについて、正確な理解が進んでいないのが現状です。特に、AIに文章の校正や誤字脱字の修正を依頼した場合に、元の文章に透かしが付与されてしまうのではないか、という懸念が広がっています。

透かし機能の仕組み

Anthropicの透かし機能は、AIが文章を生成する際に、単語の選択に微細な変更を加えることで実現されます。具体的には、AIは文章を単語ごとに生成していく過程で、複数の候補の中から特定の単語を選択します。この選択の際に、あらかじめ定められたアルゴリズムに基づいて、特定の単語が選ばれやすくなったり、逆に選ばれにくくなったりするように調整されます。これにより、人間が読んだ際には自然な文章に見えつつも、Anthropicが開発した専用ツールを使えば、その文章がAIによって生成されたものであることを識別できる、という仕組みです。

この透かしは、文章をコピー＆ペーストしても基本的に保持されます。しかし、文章を編集する過程で透かしが解除される可能性も指摘されています。一般的に、文章が長ければ長いほど、透かしはより強固になり、解除が困難になると考えられています。

校正や誤字脱字修正と透かしの関係

ここで重要なのは、AIに校正を依頼した場合の挙動です。Anthropicの説明によると、AIが生成した文章にのみ透かしが付与されるとのことです。つまり、人間が作成した元の文章をAIに校正させたとしても、AIが元の文章の内容を大きく変更しない限り、元の文章自体に透かしが付与されることはありません。

例えば、AIに誤字脱字の修正を依頼する際に、単にスペルミスを修正するだけで、意図された単語を変更しない場合は、透かしは埋め込まれません。しかし、AIが単語の選択肢を提案し、ユーザーがそれを受け入れて単語を置き換えるような場合、その置き換えられた部分に透かしが付与される可能性があります。

誤解が生じやすい点

この機能に関する誤解は、「AIが関与した時点で、その文章はすべて透かしが付与される」という短絡的な考え方から生じているようです。しかし、実際には、AIが文章を「生成」するプロセスにおいて、その生成結果に透かしが埋め込まれるという点が重要です。校正や編集の依頼は、AIが文章を生成するのではなく、既存の文章に対して何らかの処理を加える行為と見なされるため、透かしが付与されないケースが多いのです。

Anthropicのこの透かし技術は、AI生成コンテンツの普及に伴う偽情報対策や、著作権保護の観点から注目されています。しかし、その仕組みを正確に理解し、誤解なく活用することが、今後のAI技術との付き合い方において重要となるでしょう。