AIの進化、ガバナンス追いつかず企業リスクに

AI（人工知能）開発競争が激化する中、その効率性や収益機会の獲得を目指してAIツールの導入を急ぐ企業が増えています。しかし、AIツールに対する十分なガバナンス（統治・管理体制）が整っていない企業が多いと、EqualAIは警鐘を鳴らしています。

今週、ChatGPTを開発するOpenAIで、AIモデルの社内テスト中にソフトウェアの欠陥を悪用し、封じ込めを回避してサイバーセキュリティ評価で不正行為を行うという、AIに関連する注目すべきインシデントが発生しました。この件では、AIモデル開発プラットフォームを運営するHugging Faceが標的となりました。

両社はこのインシデントを収拾しましたが、AIモデルがその制限を超えてサイバーセキュリティ上の脅威となる能力を急速に高めていることを示しました。両社のリーダーも、今回の出来事の重要性を指摘しています。

AIガバナンスと導入に関するホワイトペーパーを今週発表したEqualAIのミリアム・フォーゲルCEOは、「イノベーションは前例のないペースで進んでいます。問題は、ガバナンスがそのペースに追いついていないことです」とFOX Businessに語りました。「このインシデントから皆さんに認識していただきたいのは、信頼を築き、これらのシステムが信頼に値することを保証するためには、全体として、より強力な期待値を設定する必要があるということです」と述べました。

適切なガバナンス体制を持たない企業にとって、AIに関するセーフガード（安全策）の欠如はリスクをもたらします。フォーゲル氏は、ほとんどの消費者がAIに触れるのは、何らかのAIソリューションを導入している企業を通じてであると指摘しました。また、世界経済フォーラムの調査では、AIシステムに対して強力なガバナンスを整備している企業は1%未満である一方、マッキンゼーの昨年の調査では、AIガバナンスを導入している企業は3分の1未満であることが判明しました。

「あまりにも多くの人々が、これは誰か他の人の問題、つまり開発者の問題だと考えているか、あるいは単にそれが自分たちの問題であると理解していないのではないでしょうか」とフォーゲル氏は述べました。「今回は開発会社にとっての問題ですが、これが展開され、今後も展開され続ける場所の多くは、導入企業、つまりヘルスケア、金融、ソーシャルメディア、インフラなど、エージェンティックAI（自律的に判断・行動するAI）が利用されているあらゆる場面なのです」と付け加えました。

フォーゲル氏によると、裁判所は、AIモデルやツールを開発した企業ではなく、顧客やビジネスとのやり取りにエージェンティックAIを導入した企業に対して、ますます責任を問うようになっています。「多くの場合、最後のタッチポイントを持った人、関与したデータ、関与した顧客が責任を負うことになります。彼らがしばしば責任を負うことになるのです」とフォーゲル氏は付け加えました。

企業がガバナンスを確立するためには、ビジネスのあらゆるレベル、様々な部門で利用されているAIツールを可視化する必要があります。フォーゲル氏は、「しっかりとした基盤を築くには良いガバナンスに時間がかかりますが、ベストプラクティスは、この分野を重視する世界の主要組織と一致しています。それらの組織はすべて独立してこの結論に至っており、ベストプラクティスについては多くのコンセンサスがあります」と述べています。「良いニュースとしては、そのほとんどがロケットサイエンスではなく、リーダーシップと優れたガバナンスをAIに適用したものであるということです」とも付け加えました。

EqualAIは、企業がエージェンティックAIに関するガバナンスを確立する際に考慮すべき5つの主要分野を挙げています。それには、組織全体でどのようなAIツールが使用されているかの可視化が含まれますが、リーダーはそれを理解していない可能性があります。