AIの潜在的リスク、専門家が警鐘

人工知能（AI）が10年以内に人類に壊滅的な被害をもたらす可能性があると、AI開発企業Anthropic（アンソロピック）の専門家が警鐘を鳴らしています。同社のAIアラインメント（AIを人間の意図に沿わせる技術）部門の責任者であるエヴァン・ヒュービンガー氏は、X（旧Twitter）への投稿で、AIが10年以内に全人類を死に至らしめる確率を「真剣に」10％以上と見積もっていると述べました。同氏は、Anthropicが最善を尽くしているものの、超知能（superintelligence）に対するアラインメント問題の解決策はまだ見つかっておらず、その方向へ明確に進んでいるとは言えない状況だと指摘しています。

さらに、Anthropicの研究者であるジェイコブ・コックスオン氏は、同社を辞職しました。コックスオン氏は、「過去3年間、OpenAIとAnthropicの両社で事前学習（pretraining）の研究を行ってきたが、どちらの企業も責任ある行動をとっていない」と投稿。「自己改良型の超知能へとまっすぐに突き進んでおり、我々の命を賭けの対象にしている」と警告しました。

コックスオン氏は、間もなく「あらゆるものをハッキングし、一夜にしてあらゆる分野に革命を起こし、実際の権力と資源を獲得できる超人的なシステム」が登場すると予測しています。同氏は、OpenAIでは多くの人が「文明的な危機感を十分に内面化していない」とし、Anthropicでは「危機感は十分に理解されているが、彼らは他社が責任ある行動をとらないだろうという考えから、リスクにもかかわらず、自分たちが最初に（超知能を）開発しなければならないというレースに囚われている」と説明しました。「AIを開発している人々は、この10年で我々全員が死ぬ可能性があると真剣に信じている」とコックスオン氏は付け加えています。

一方、個別銘柄では、メタ（META）が、同社単独で機能するAIエージェント「Muse」を発表したことを受けて、S&P500種株価指数で上昇率トップとなりました。KeyBancのアナリストは、Museが今後数ヶ月で数億人規模の月間（理想的には日間または週間）ユーザーを獲得できれば成功とみなし、エンゲージメントが初期の指標となり、その後に収益化が進むと見ています。

また、ケイシーズ・ジェネラル・ストアーズ（CASY）は、第2四半期決算が市場予想を上回ったものの、期待値には届かず、S&P500種株価指数で下落率トップとなりました。しかし、アナリストからは買い推奨の声も出ています。Jefferiesのアナリストは、同社の既存店売上高の成長、利益率の拡大、そして通期見通しの据え置きを理由に、株価下落局面での買いを推奨しています。

チューイー（CHWY）は、通期の業績見通しを引き上げたものの、株価は不安定な動きとなっています。