GenAIインシデント重大度マトリックス：サイバーセキュリティ対応のためのカスタムスコアリングモデル

情報技術（IT）インシデント：

ITインシデントとは、ITサービスの品質における計画外の中断または低下のことです。インシデントは、アプリケーションの遅延などの軽微な問題から、サーバーの停止などの重大な障害まで様々です。インシデント管理（IM）は、これらのインシデントを効果的に処理し、ITサービスが迅速に復旧することを目的としています。

サイバーインシデント：

情報または情報システムの機密性、完全性、可用性を危険にさらす可能性がある、またはセキュリティポリシーやセキュリティ手順に対する脅威となる出来事。

サイバーインシデント対応と重大度レベル：

インシデント対応（IR）は、組織がセキュリティインシデントから回復するために従う体系的なプロセスです。サイバーセキュリティインシデント対応プログラムの主な目的は、セキュリティ侵害による被害を制限し、コストと回復時間を削減し、ビジネスの継続性を確保し、システムとデータの完全性を保持することです。

\ すべてのイベントがビジネスに同じ影響を与えるわけではないため、インシデントには異なる重大度レベルが必要です。重大度レベルの割り当ては、対応に専念するリソースの速度と範囲を決定する重要なステップです。

GenAIインシデントと重大度マトリックス：

生成型事前学習トランスフォーマー（GPT）システムにおける技術的進歩により、生成型AI（GenAI）や大規模言語モデル（LLM）を含む人工知能（AI）手法の個人的および専門的活動への一般的な使用が可能になりました。GenAIアプリケーションは新たなセキュリティリスクを生み出し、情報セキュリティチームはこれらのシステムに対する保護責任を拡大する必要があります。

\ 発生する可能性のあるインシデントの種類には、チャットボットによる顧客の誤誘導、AIエージェントによるデータ漏洩など多くがあります。セキュリティオペレーションセンター（SOC）とインシデント対応（IR）チームは、AI関連イベントの実際の影響と重大度レベルを決定する標準化されたシステムを作成するために、AIインシデントに対する適用された重大度マトリックスを必要としています。

\ 記事で説明されているツールは、適切なIRリソース配分のためにインシデントの重大度レベルを決定する機能を持っています。新しいシステムは、マトリックスベースの評価方法を使用して、数値データと人間の評価要素を統合しています。

\ マトリックスには、AI機能、データ整合性、運用可用性、評判、修復努力への影響を評価する5つの「影響次元」が含まれています。

\ このツールは、低（1）、中（2）、高（3）、または重大（4）のスコアを持つことができるスコアリングシステムを通じて、各次元の評価を可能にします。

インシデント宣言前に考慮すべき要素：

AIインシデントを宣言する前に予備評価が必要な理由は、実質的なリソースと即時のトリアージ手順の必要性を確立するのに役立つからです。AIシステムは、他のすべてのシステムと区別する独特の特性を持っています。

\ 評価では、インシデントに関与したAIシステムを特定し、運用安全性とビジネス運営に対するそれらの重要性を判断する必要があります。システムの例としては、チャットボット、コンピュータビジョンモデル、レコメンダーシステム、カスタムエージェントなどがあります。機能的影響の評価には、AIシステムが敵対的攻撃に遭遇した場合の運用設計の変化を分析する必要があります。

\ システムは、精度と速度に影響を与える軽微なパフォーマンス問題から、システム障害や危険または不公平な結果をもたらす重大な問題まで、さまざまなレベルの誤動作を示します。一部のパフォーマンス問題は、モデルからの応答の精度低下や遅延増加に関連している可能性があります。

\ システムはATLASフレームワークに従って2つのことを特定する必要があります：検出された異常の性質と、それが敵対的攻撃またはシステム誤動作に起因するかどうか。MITRE ATLAS（MITRE、2025）を使用すると、ユーザーは特定の攻撃技術（例：LLMプロンプトインジェクション、トレーニングデータの毒入れ、AIサービスの拒否）を特定でき、攻撃目標とそれに対応する分類の両方を示します。

\ 評価には、トレーニングまたは検証データと機密情報（PII、PHI、独自モデルIP）の侵害と流出をチェックすることによるデータの整合性と機密性の検証が含まれます。評価プロセスでは、AIシステムの出力が、その結果に依存する運用およびシステム的なビジネスサービス要素にどの程度影響するかを判断する必要があります。物理的な危険性とビジネスへの財務的損失の程度についても判断する必要があります。

宣言されたインシデントの重大度の計算

宣言されたインシデントの評価には、適切な対応手順を確立するための標準化された方法が必要です。インシデントの重大度評価は、正確な評価を達成するために、数値データポイントと人間の判断の両方をマトリックスベースのシステムを通じて必要とします。インシデントの重大度レベルは、関連する影響カテゴリから最大値に達し、これにより重大な要素が全体のインシデントをより高い優先度ステータスに引き上げることができます。

各関連次元（A-E）のスコアリングシステムは1から4まで実行され、組織のインシデント重大度を決定します。インシデントの重大度評価は、評価されたすべての次元から最大スコアとなり、完全な重大度レベルを決定します。機能的影響スコアが「2」であっても、データ影響が「4」に達し、他の次元が「1」から「2」の範囲である場合、インシデントは「重大」ステータスに達する可能性があります。構造化された評価プロセスにより、組織は標準化された結果を得ながら評価プロセスを迅速化することができます。

\ 組織は、このフレームワークをそのまま実装するか、AIインシデントの重大度レベルを確立するために既存の計算システムに合わせた独自のバージョンを作成するかを選択する必要があります。

AIインシデントの重大度に基づくリスクの優先順位付け：

重大度レベルの計算は、インシデント対応チームが対応を計画しリソースを割り当てる際に、どのリスクに即時の注意を払う必要があるかを決定するのに役立ちます。重大なインシデントへの対応には、サイバーセキュリティの専門家、AI/MLエンジニア、データサイエンティスト、法律の専門家、PRの代表者からなる専門チームの即時展開が必要です。重大度の低いインシデントへの対応には、それらを管理するためのより少ない人員が必要です。

\ 重大なインシデントでは、経営幹部や取締役会メンバー、法務チーム、規制機関、および公共の利害関係者への即時通知が必要ですが、重大度の低いインシデントでは限られた内部情報共有のみを受けるべきです。システムのシャットダウンとAPIの切断は、重大度の高いインシデントが広がるのを防ぐ最初の防御メカニズムとして機能します。重大度の低いインシデントの封じ込めプロセスは、主要な運用中断が発生するのを防ぐ必要があります。