AI企業幹部、安全軽視に警鐘

OpenAIとAnthropic（アンソロピック）という、AI（人工知能）開発をリードする2社で、幹部が相次いで退職し、安全性を軽視した開発競争に警鐘を鳴らしています。Anthropicの元研究員は、両社が「我々の命を危険に晒している」と批判しました。

退職した研究員は、OpenAIの元研究員でもあり、両社が「人類の存続を危険に晒す」ようなAI開発を進めていると指摘しています。具体的には、AIの安全性よりも、より強力なAIモデルの開発を優先する姿勢が問題視されています。

近年、AI技術は目覚ましい進歩を遂げており、その応用範囲は急速に拡大しています。しかし、その一方で、AIが社会に与える影響や、潜在的なリスクについても懸念が高まっています。特に、汎用人工知能（AGI）と呼ばれる、人間と同等かそれ以上の知能を持つAIの開発は、その影響の大きさと制御の難しさから、慎重な議論が求められています。

今回、両社の内部から安全性を懸念する声が上がったことは、AI開発における倫理的な課題を改めて浮き彫りにしました。今後、AI開発企業は、技術革新と安全性の確保という、二つの重要なバランスをどのように取っていくのか、社会全体で注視していく必要があります。