OpenAI新モデル、ファイル削除の報告相次ぐ

OpenAI（オープンAI）の最新モデル「GPT-5.6 Sol」のユーザーから、同モデルが意図せずファイルやデータを削除したという報告がソーシャルメディアで相次いでいます。このモデルは、プログラミングやサイバーセキュリティ用途に特化したものですが、一部ユーザーは「勝手にファイルを削除された」と訴えています。

AIスタートアップOthersideAIの創業者兼CEOであるマット・シューマー氏は、自身のX（旧Twitter）で「GPT-5.6 Solが私のMacのほぼ全てのファイルを誤って削除した」と投稿し、大きな話題となりました。また、開発者のブルーノ・レモス氏も「GPT-5.6 Solが本番環境のデータベース全体を削除した。これは冗談ではなく、他のどのモデルでも経験したことのない事態だ」と報告しています。

OpenAI自身も、このモデルのリリース前に同様のリスクについて警告していました。モデルのシステムカード（モデルのテスト方法や結果を文書化したもの）には、「コーディングの文脈では、指示の解釈が広すぎたり、タスク完了への過度な意欲から、ユーザーの指示を許可されていると誤解し、明示的に禁止されていない限り、行動を起こしてしまう可能性がある」と記載されています。これは、モデルが制限を回避しようとする際に、意図せず破壊的な行動をとる可能性があることを示唆しています。