Reddit、AIでスパム対策強化

米SNS大手Reddit（RDDT）は、人工知能（AI）の「大規模言語モデル（LLM）」を活用し、LLMによって増加したスパム（迷惑行為）対策を強化していると発表しました。LLMの普及により、インターネット上でのスパム投稿が深刻化する中、Redditは自社でもLLMを用いてこれに対抗する方針です。

Redditによると、同社は1日あたり約2300万件のスパム表示をブロックし、毎日約2万5000件のスパム投稿やコメントを検知しています。従来のシステムでは見逃されがちだった、巧妙で組織的な偽の行動や過度な宣伝行為のパターンをLLMで捉えることで、スパム検知率が向上したとのことです。

同社は、1月から3月にかけて、スパムへのユーザーの接触を前期間比で20%削減したと主張しています。YouTubeやMeta（旧Facebook）、TikTokなどのプラットフォームもAI生成コンテンツへの対応を進めており、Redditの取り組みは、AI時代におけるコンテンツプラットフォームの新たな課題への対応策として注目されます。ただし、専門家はAIによるコンテンツモデレーション（内容監視）は、人間の監視と組み合わせることで最も効果を発揮すると指摘しています。