第2部、ガバナンスとリスク管理
ソブリンAIと企業リスクの低減
Mark Beccue氏、プリンシパルアナリスト、AI
急速に進化するAI環境において、主権(ソブリンティ)は世界中の企業にとって重要な関心事として浮上しています。ソブリンAI―特定の戦略的利益と価値観に基づいてAIシステムを独自に開発、展開、統治する能力であり、通常は地政学的要因によって推進されています―は、国境の内外でAIと自社データがどのように使用されるかについて管理を維持しようとする企業にとって、もはや譲れない要件となっています。
ビジネス上の必須要件
オムディア(Omdia)の最新調査レポート「エンタープライズ対応AIにおける構築vs購入の動向分析(Navigating Build-versus-Buy Dynamics for Enterprise-Ready AI)」では、350社の適格な企業回答者を対象に調査を実施しました。この調査により、企業のほぼ半数が、事前構築されたAIソリューションはデータ主権を維持しなければならないと強く同意していることが明らかになりました。また、同調査では、企業の35%が現在、データ主権、プライバシー、コンプライアンスを「エンタープライズ対応」AI実装における必須要件と考えていることが示されています。
ソブリンAIの中核構成要素
ソブリンAIの成功的な実装は、4つの柱に基づいています。
データ主権とローカライゼーション
モデルの所有権と透明性
独立したAIインフラストラクチャ
AI技術と関連データに対する統制
実装における課題
その重要性にもかかわらず、企業はソブリンAIを実装する際に重大な障壁に直面しています。AIを本番環境に移行する際の最大の課題として、セキュリティとコンプライアンスが挙げられています(企業の49%が指摘)。パブリッククラウドサービスを利用しながら地域ごとのデータレジデンシー規制を満たすことは、特に複数の法域にまたがって事業を展開する多国籍企業にとって、さらなる複雑性をもたらします。
企業は、サードパーティのAIモデルやインフラストラクチャを使用する際のセキュリティとコンプライアンスの境界について懸念を抱いています。つまり、イノベーションを犠牲にすることなく主権を維持する戦略的な構築vs購入の意思決定を行いながら、インフラストラクチャ要件と規制コンプライアンスのニーズを慎重にバランスさせる必要があるということです。
AIがビジネスオペレーションにおいてますます中心的な役割を果たすようになる中、これらの主権に関する課題を適切に乗り越えた企業は、より強固な統制力、コンプライアンス対応力、そして自社固有の市場ニーズと価値観との整合性を通じて、競争優位性を獲得することになります。
エージェンティックAIの時代において、企業はAIの革新的な能力を活用することと、その導入時に生じるリスクを軽減することの間でバランスを取る必要があります。データプライバシー、サプライチェーンセキュリティ、意図しない結果などの課題に対処しながら、AIをエクスポージャー管理プロセスに統合することで、企業は安全性やコンプライアンスを損なうことなく、サイバーセキュリティ態勢を強化できます。綿密に計画された実装とヒューマン・イン・ザ・ループによる監視体制により、エージェンティックAIが長期的により多くの問題を引き起こすことなく、リスクを低減できるようになります。
Tyler Shields氏、プリンシパルアナリスト、サイバーセキュリティAMER
エージェンティックAIの導入は、歴史上のあらゆる基盤技術の転換よりも速いペースで加速しています。オムディア(Omdia)の調査によると、組織の3分の1を大きく超える企業がAIエージェントを積極的に展開しており、さらに3分の1がパイロット段階にあることが明らかになっています。(図1参照)。この急速な導入は重大なリスクをもたらしており、リーダーは脅威とエクスポージャー管理へのアプローチを再考する必要があります。防御的セキュリティは、エクスポージャーの発見と修復のスピードと精度を高めるために、AI機能を統合しなければなりません。
リスク低減へのAI活用 - エージェンティックAIによるセキュリティ
効果的なリスクとエクスポージャーの低減は、堅牢な資産発見、脆弱性分析、リスクの優先順位付け、修復機能に依存しています。攻撃者はエージェンティックAIを活用して攻撃技術を加速させており、セキュリティチームが脅威を軽減するための時間を短縮しています。これに対抗するため、企業はエージェンティックAIをエクスポージャー管理に適用し、既存のプロセスを強化することで、以下の方法により企業のセキュリティを強化すべきです。
資産発見 - 継続的な資産発見、資産の状態とポスチャーデータの取り込み、そしてエージェント間通信との統合によるデータ収集の自動化により、デジタルエコシステムに関する常に最新のコンテキストを実現します。資産、脅威、エクスポージャーデータの正規化は、最適な精度と効率性を実現するため、商用のサイバーセキュリティデータファブリック内で実施されるべきです。
エクスポージャー分析とリスクの優先順位付け - データファブリック内で適切なデータ収集、重複排除、正規化がすべて完了すると、AIエージェントが新たに作成されたコンテキストとエクスポージャーの詳細をレビューします。AIに支えられたプロセスの成果は、継続的に最新の状態に保たれ、可能な限り最も豊富なデータセットに基づいて構築された、コンテキスト化され優先順位付けされた企業セキュリティリスクのビューです。
リスク低減 - 分析と優先順位付けが完了すると、エージェンティックAIシステムは、ヒューマン・イン・ザ・ループによる自動化された修復プロセスの実行を通じて、リスク低減を実行します。AI駆動型プロセスは、「人間の規模」での手動によるリスク低減が遅すぎて、時間の経過とともに追加のエクスポージャーの発見に追いつけないという問題を解決します。
状況を悪化させないために - エージェンティックAIのセキュリティ
エージェンティックAIを活用してリスク低減プログラムの有効性を高めることは、企業のサイバーセキュリティを向上させる優れた方法ですが、エージェントとAI技術の追加は、新たで独特な危険をもたらします。調査データによると、エージェンティックAIの展開に伴う最大のリスクには、エージェントがデータ使用について独立した判断を下すことによるデータ漏洩とデータプライバシー、エージェンティックシステム自体へのサイバー攻撃への露出、そしてコンプライアンスと規制要件の遵守における困難が含まれます。企業環境にエージェンティックAIを展開する際、セキュリティ部署は、以下の要因を考慮することで、セキュリティポスチャーを悪化させないようにしなければなりません。
入力検証と出力のサニタイゼーション - セキュリティチームは、すべての入力を信頼できないものとして扱うと同時に、すべての出力の安全性とセキュリティを検証し確認する必要があります。エージェンティックAIシステムが完全に信頼できるようになるまでは、すべての重要またはリスクの高いアクションの実行において、ヒューマン・イン・ザ・ループが必要とされるべきです。
データプライバシーと機密性 - データの最小化を考慮し、エージェントには明確に定義されたタスクを達成するために必要な特定のデータへのアクセスのみを提供します。不透明なプロセスを排除し、個人情報とプライベート情報のセキュリティを確保するために、エージェントが使用するすべてのデータをログに記録し監査します。
AIサプライチェーンの脆弱性 - すべてのサードパーティ製モデル、ライブラリ、MCPサーバー、APIを徹底的にテストし評価します。すべての通信と接続が転送中および保存時に保護されていることを確認し、可能な限りすべてのプロバイダーからセキュリティ部品表を要求します。
過度なエージェンシーと意図しない結果 - 明確に述べられた目標を使用して、エージェントの目的を定義する必要があります。意図しない結果のリスクを軽減するために、極めて明確な定義と制約を実装しなければなりません。