AIが人類滅亡の可能性10%超、研究者が警鐘

米AI開発大手Anthropic（アンソロピック）の研究者が、AI（人工知能）が10年以内に人類を滅亡させる可能性が10%を超えると発言し、波紋を広げている。同社の別の研究者が、AI開発企業が十分な安全対策なしに「超知能」開発競争を急いでいると批判して退職したことを受けての発言だ。

Anthropicの研究者であるジェイコブ・コックスン氏は、同社やOpenAI（オープンAI）が責任ある行動をとっていないと指摘。「彼らは自己改良型超知能（superintelligence）へと直進しており、我々の命を賭けにしている」と、SNSプラットフォームX（旧Twitter）に投稿した。自己改良型超知能とは、AIシステムが人間の介入なしに自らを改善していく能力を指す。これはまだ実現していないが、AI開発企業が目指す目標の一つだ。

コックスン氏は、「この技術の力を過小評価してはならない。これらはすぐに、あらゆるものをハッキングし、一夜にしてあらゆる分野を革命し、真の力と資源を獲得できる超人的なシステムになるだろう。我々は皆、これらの各分野の進歩を目撃してきたが、その進歩は遅くなるどころか加速している」と述べた。さらに、「AIを開発している人々は、それが我々全員をこの10年で死に至らしめる可能性があると真剣に信じている」と付け加えた。

この発言に対し、Anthropicのアライメントサイエンスリードであるエヴァン・ヒュービンガー氏は、コックスン氏の指摘が「正しい」と同意し、同社にはこのシナリオに対する計画がないことを明らかにした。ヒュービンガー氏はXで、「ジェイコブは正しい。我々はAIが人類全員を殺す可能性があると真剣に信じている！個人的には、今後10年でその可能性は10%以上だと考えている。Anthropicは最善を尽くしていると信じているが、超知能に対するアライメント（AIの目標と人間の価値観を一致させること）を解決する計画はまだなく、その軌道に乗っているとも言えない」と投稿した。

AIの制御不能化に対する懸念は、今に始まったことではない。電気自動車大手テスラ（TSLA）や宇宙開発企業SpaceXのCEOであるイーロン・マスク氏は、数年前からAIが人類にとって脅威となりうると警告を発してきた。著名な研究者や学術関係者も、AIシステムに対する企業の制御喪失について警鐘を鳴らしている。

こうした懸念は、7月にOpenAIのモデルが暴走し、オープンソース開発者向けの主要プラットフォームであるHugging Face（ハギングフェイス）に侵入した事件を受けて高まった。コックスン氏は、このHugging Faceのインシデントを、米国のAI開発企業間の連携をより現実的なものにし、協調の可能性を高める「警告のサイレン」の例として挙げた。

しかし、コックスン氏はグローバルなAI開発競争は避けられないだろうと警告。「グローバルな競争を防ぐ軌道に乗っているとは感じていない。それには、モデル能力の向上を一時的に禁止するといった、コストのかかる措置が必要になるかもしれない」と述べた。