AI TRiSMとは何ですか？

AI TRiSM（AIの信頼性、リスク、セキュリティ管理の略）は、組織がAIシステムのライフサイクル全体を通して、AIシステムを統制し、保護するために使用するフレームワークです。これは、AIのガバナンス、リスク管理、信頼性、セキュリティを統合し、協調的な取り組みへと導くものです。

組織が運用面および競争面での優位性を得るためにAIシステムの導入を急ぐ一方で、適切な監視と安全対策の整備は導入に追いつかないことが多い。ガートナーのデータによると、AIセキュリティ市場は2027年には約48億ドルに達し、2026年から約69%増加する見込みだ。AIセキュリティへの投資が急増したことは、企業がより強力な監視体制をいかに緊急に必要としているかを示している。AI TRiSMは、組織のAI投資を最新の動向に合わせて保護しつつ、信頼関係を維持するための体系的なアプローチを提供します。

AI TRiSMが重要な理由とは？

従来のガバナンスとセキュリティ対策は、従来型のソフトウェア向けに設計されているため、AIによってもたらされるリスクを見落としてしまう。モデルのずれ、データの汚染、および自律的な意思決定は、従来のフレームワークでは検出するように設計されていなかった盲点を生み出す。

同時に、AIの導入は加速しており、セキュリティチームはそれに追いつくのに苦労している。各部署は、IT部門やセキュリティ部門の承認を得ずに、非公式なAIツールを使用している。サードパーティ製のモデルが、適切な審査なしにアプリケーションに組み込まれている。最先端のAIアプリケーションと自律エージェントは、監視が追いつけないほどの速さで、複数のステップからなるワークフローを実行します。

「AIには諸刃の剣です。現状では、攻撃力が防御力よりも速いペースで増大しています」と、Illumioのパートナーマーケティングディレクターであるジャクリン・ウッドワードは警告する。「攻撃件数が増加している理由は、参入障壁が急激に低下したためです」と彼女は付け加えた。

AI TRiSMは、これらの脆弱性や脅威に対抗するための枠組みを提供する。これは、組織の方針を、組織が日々の業務においてすべてのAIシステムをどのように運用するかを規定する技術的な制御に直接組み込むものです。

このアプローチには大きなメリットがある。AI TRiSMは、組織がAIを安全かつ確実に、そして責任ある方法で導入できるよう支援します。同時に、組織が進化するコンプライアンス要件に対応し続けるのにも役立ちます。

AI TRiSMの中核となる柱とは何ですか？

AI TRiSMの基盤は、互いに連携し、独立して機能するのではなく、協調して機能する柱から成り立っています。以下に、各基本柱の詳細なレビューを示します。

説明可能性

説明可能性は、AIシステムの結果に対する説明責任を確保する。これにより、エンドユーザー、監査担当者、規制機関などの個人は、AIシステムがどのように、そしてなぜ意思決定を行ったのかを理解できるようになります。AIシステムがどのようにして結論に至ったのかを明らかにすることで、ユーザーコミュニティ内での信頼が構築され、悪影響が生じる前に潜在的な問題を特定することができる。

モデル操作

モデル運用は、AIシステムの導入と監視から、モデルのずれの特定、バージョンと更新の追跡、そして最終的なモデルの廃止まで、AIシステムのライフサイクル全体を網羅します。モデルを生きている資産として扱うには、パフォーマンスの低下を検知して修正し、許容できない精度低下や新たなリスクの発生を防ぐための継続的な管理が必要です。

AIセキュリティ

AIセキュリティは、組織のモデル、アプリケーション、エージェント、データ、プロンプト、API、インフラストラクチャへの不正アクセスや悪意のある使用から保護します。システム間の自律性と相互接続性が高まるにつれ、AIは脅威アクターにとってますます魅力的な標的となる。その結果、専用のセキュリティ対策が必須となった。

プライバシー

プライバシーは、AIシステムのライフサイクル全体（トレーニングから検索、保存、推論まで）にわたって機密データを保護します。AIシステムは大量の個人データや企業秘密データを処理するため、これらのデータをあらゆる利用段階で保護するには、強固なプライバシー管理が不可欠です。

規制遵守

適切な規制遵守とは、適切な方針と手順を維持し、十分な文書化を行い、正確な監査証跡を残すことで、組織が監査の精査に備えることを意味します。AIを規制する世界的な規則は絶えず変化しているため、規制遵守の証拠をすぐに利用できるようにしておくことは、監査調査に伴う時間とリスクを大幅に削減することにつながります。

AI TRiSMはどのように機能するのか？

「AIを活用した攻撃者が、自社のハイブリッドおよびマルチクラウド環境を実際にどのように移動するかを予測できるチームはごくわずかです」とウッドワード氏は述べています。「攻撃者がたどる経路が見えなければ、攻撃者が行く前にそれを遮断することはできない。」

AI TRiSMは、これらの動きやパターンを明確にするために活動しています。以下の手順は、構造化されたAI TRiSMライフサイクルの概要と、それが継続的にどのように機能するかを示しています。

1. 完全なインベントリを作成する：社内のすべてのAIモデル、アプリケーション、エージェント、データセット、統合、および所有者を文書化する。承認なしに運用されているシャドウAIも含める。
2. リスクの評価と分類：データの機密性、自律性、潜在的なビジネスへの影響に基づいて、どのAIシステムが高リスクであるかを判断します。事業にとって最も重大な脅威となるものを監視することに重点を置く。
3. ポリシーの定義： AI導入の全範囲において、許容される使用方法、データアクセス、セキュリティ管理、および必要な人的関与に関する基準を策定する。
4. 継続的な性能評価：モデルのパフォーマンス、信頼性、およびコンプライアンスを継続的に監視し、動作の変化や劣化の兆候を早期に発見して、深刻な問題を未然に防ぎます。
5. 実行時アクティビティ検査：この手順を使用して、AIシステムが動作中に監視し、安全でない動作や不正な動作が検出された時点で直ちにポリシーを適用します。

これらの手順を組み合わせることで、組織の目標が変化するにつれて、AIシステムの責任、セキュリティ、および目標との整合性を維持する反復的なサイクルが形成される。

AI TRiSMはどのようなリスクに対処するのか？

AIの利用は、複数の分野にわたって様々な種類のリスクを生み出す。これらは、セキュリティ、プライバシー、信頼性、ガバナンス、運用リスクの6つのカテゴリーに分類でき、AI TRiSMはこれらの各カテゴリーに特化して対応しています。

セキュリティ上の脅威

攻撃者は、即時注入、データ汚染、モデル窃盗、エージェントの不正使用などの手法を用いてAIを悪用する。攻撃者は、AIが入力データと訓練データを利用して有害な出力を生成する仕組みを悪用する。AI TRiSMには、攻撃者がAIの正常な動作を妨害するために用いる手法に対処するために特別に構築されたセキュリティ制御機能が含まれています。

プライバシーリスク

プライバシーリスクは2つの方向から発生します。1つはAIの出力を通じて機密性の高い個人データが漏洩すること、もう1つはトレーニングや推論中に専有データへの不正アクセスが発生することです。AI TRiSMは、個人情報および機密情報がAIの開発段階からシステムの最終展開に至るまで、漏洩を防ぐための安全対策を実施しています。これにより、AIとのあらゆる接触点において、意図しない情報漏洩から保護されます。

信頼性リスク

幻覚、モデルのずれ、不正確な出力は、時間の経過とともにAIシステムへの信頼を損なう。AI TRiSMは、モデルの動作とパフォーマンスを継続的に監視し、劣化の兆候を早期に検知することで、出力結果が正確かつ信頼できる状態を維持し、それを利用する人々にとって有益な情報となるよう努めます。

ガバナンスリスク

AIシステムの意思決定における偏りは、特に組織が意思決定の経緯を説明できない場合、重大な評判リスクと法的責任を生み出す。AI TRiSMは、責任を明確に定義し、透明性を高め、偏った決定や説明のつかない決定が生じる可能性を最小限に抑えるガバナンスの枠組みを開発します。

運用上のリスク

シャドウAIの緩やかな蓄積、検証されていないサードパーティモデル、規制違反などは、組織全体で発生している盲点の増加の例である。AI TRiSMはこうした盲点を特定し、正式な管理体制が存在しない可能性のある領域に構造と監視を提供します。

AI TRiSMは、AIガバナンスやAIセキュリティとどのように異なるのでしょうか？

AIガバナンスとは、組織がAIをどのように利用するかについてのガイドラインと枠組みを定めるものです。ガバナンスとは、組織の方針を概説し、AI利用に関する役割と責任を定義し、許容されるAI利用の基準を設定するものです。

AIリスク管理は、組織のAIシステムに関連するリスクを特定、評価、優先順位付けすることで、ガバナンスを補完する役割を果たします。これにより、潜在的なリスクが最も高い領域を可視化し、限られたリソースを組織にとって最も影響力の大きいリスクに集中させることができます。

AIセキュリティは、モデル、アプリケーション、インフラストラクチャなど、AIの技術的な側面を、攻撃、不正アクセス、悪意のある使用から保護します。これは、攻撃者がAIシステムに内在する脆弱性を悪用することを防ぐ。

AI TRiSMは、これら3つの分野を1つの運用フレームワークに統合します。組織がガバナンス、リスク管理、セキュリティをそれぞれ独立した分野として扱う場合、AI TRiSMはこれらを単一の運用フレームワークに統合し、組織のAI環境全体にわたってポリシーを強制力のある技術的制御に変換します。

AI TRiSMを支える技術とは？

AI TRiSMを理論から実装へと移行するには、組織は連携して機能するための適切な技術的構成要素を備えている必要がある。AI TRiSMを支える基盤技術の一部を以下に示します。

• AIインベントリとレジストリ：組織は、シャドウAIが生み出す脆弱性を効果的に管理するために、使用中のすべてのAI資産の明確な記録を保持する必要があります。モデルレジストリ、エージェントカタログ、AI部品表は、そののに役立つツールです。
• データツール： AIライフサイクル全体を通して機密情報を保護するためには、データ発見、分類、データ系統追跡、およびセキュリティ態勢管理をサポートするツールが基本要件となります。
• Model Assurance Platforms: Accuracy and reliability remain consistent over time with the support of continuous evaluation, observability, and drift detection running in the background.
• 実行時保護：入力検証とポリシー適用により、AIの動作をリアルタイムで監視し、危険な動作を検出して、さらなる被害が発生する前に阻止します。
• セキュリティインフラストラクチャ： IDセキュリティ、 ネットワークセグメンテーション、脅威検出といった実績のある制御機能は、AI環境にも自然に拡張され、モデルやエージェントを直接標的とする脅威を封じ込めます。

これらのツールはどれも単独では機能しません。これらは連携して、組織が日々の業務を遂行するために必要な高度な脅威インテリジェンスと技術的な基盤となるAI TRiSMを提供します。

AI TRiSMのメリットとは？

AI TRiSMを正しく導入した組織は、事業運営全体を通して、具体的で測定可能なメリットを実現できる。期待できる主なメリットは以下のとおりです。

• より強力で信頼性の高いAI：セキュリティ、信頼性、そして信用性が向上し、チームメンバーや顧客が、自分たちの代わりに意思決定を行うAIシステムに対する信頼感を高めます。
• リスクと混乱の軽減： AI TRiSMが開発および展開の各段階で継続的な監視役を務めることで、データ漏洩、不正使用、規制違反、および運用上の混乱が減少します。
• 説明責任の軽減： AIによる意思決定と制御は、説明、レビュー、監査が容易になるため、規制当局や経営陣から質問を受けた際の時間を節約できます。
• リスクの早期発見：モデル、アプリケーション、エージェントに関連するリスクを早期に特定できるため、組織は問題が重大なインシデントに発展する前に、対策を講じることができます。
• イノベーションの余地：組織は、潜在的な制御喪失を防ぎながら、AIを通じて新たな可能性を追求することができます。

つまり、AI TRiSMは、組織が説明責任を放棄することなく、その野心を追求することを可能にする。 

ゼロトラストはAI TRiSMをどのようにサポートするのか？

ゼロトラストセキュリティは、信頼を前提として自動的にアクセスを許可するのではなく、すべてのユーザー、ワークロード、アプリケーション、およびAIエージェントの正当性を継続的に検証することで、AI TRiSMを強化します。その検証は最小権限アクセスにも及び、単一の組織がアクセスできるモデル、機密データ、ツール、インフラストラクチャを制限する。

セグメンテーションは、AIワークロードを隔離されたゾーンに分割し、不要な接続を削減し、攻撃者が悪用できる経路を縮小することで、中心的な役割を果たします。継続的な監視により、通信内容に不審な動きがないかを確認し、潜在的な横方向の移動が環境全体に広がる前に検知します。

シャドウAIは、不正なツールが従来の監視を完全にすり抜けてしまうことが多いため、このアプローチを特に価値あるものにする。ゼロトラストは、認可されているか否かを問わず、あらゆるAIシステムに対して一貫した検証とアクセス制御を適用することで、シャドウAIのリスクを解決します。

ゼロトラストは、AI TRiSMのセキュリティ層を強化します。モデルのガバナンスと評価は、それぞれ独立した分野として並行して機能し、より大きな枠組みの中でそれぞれが不可欠な役割を果たしている。

IllumioはAI TRiSMをどのようにサポートしていますか？

Illumio strengthens the security and resilience side of AI TRiSM. Its breach containment platform provides visibility into communications between AI workloads, applications, and data stores, while Illumio's Zero Trust solutions apply segmentation policies that limit AI systems to only the resources they truly need. This approach reduces the attack surface and stops unauthorized lateral movement in its tracks. When an AI-related incident does occur, Illumio contains the compromised workload immediately, keeping the disruption isolated instead of letting it spread further.

AI TRiSMに関するよくある質問

AI TRiSMとは何ですか？

AI TRiSMとは、AIの信頼性、リスク、セキュリティ管理の略称です。ガートナー社はこの用語を、組織がAIシステムの開発・導入から継続的な監視、そして最終的な廃止に至るまでのライフサイクル全体を通して、AIシステムのガバナンス、セキュリティ確保、そして信頼性の維持を支援するフレームワークを説明するために考案しました。

AI TRiSMとは、簡単に言うとどういうものですか？

AI TRiSMは、お客様のAIシステムが高いレベルの信頼性、完全性、およびセキュリティのベストプラクティスへの準拠をもって動作することを保証するための継続的な取り組みです。この分野は、ガバナンス、リスク管理、セキュリティの要素を組み合わせ、問題を早期に予防・検出し、機密情報を保護し、攻撃者がAIインフラストラクチャに対してサイバー攻撃を成功させる可能性を低減します。

AI TRiSMの中核となる柱とは何ですか？

AI TRiSMは、説明可能性、モデル運用、AIセキュリティ、プライバシー、規制遵守という5つの主要な柱に基づいています。それぞれの柱はAIライフサイクルの異なる側面に対応し、連携してAIシステムの透明性、正確性、保護性を維持し、進化する法的基準や業界標準に準拠させる。

AI TRiSMはAIガバナンスとどう違うのか？

AIガバナンスとは、ポリシーを作成し、責任を割り当て、AIの許容される利用方法を確立することである。AI TRiSMは、この概念に基づき、ガバナンスとAIリスク管理、AIセキュリティを統合することで、最終的にポリシーを現実世界の執行メカニズムへと変換します。AIガバナンスはルールブックのようなもので、AI TRiSMはそれらのルールを実際に執行する仕組みである。

AI TRiSMはフレームワークなのか、それともテクノロジープラットフォームなのか？

AI TRiSMはフレームワークです。しかし、このフレームワークをサポートする技術は数多く存在し、例えばモデルレジストリ、 エンドポイント検出・対応ツール、ランタイムガードレールなどがあり、これらを組み合わせて組織のAI環境の日常的な運用におけるガバナンス、リスク管理、セキュリティに活用することができる。

ゼロトラストはAI TRiSMをどのようにサポートするのか？

ゼロトラストは、すべてのユーザー、ワークロード、およびAIエージェントに対して継続的な検証を提供し、不要なアクセスを阻止することで、AI TRiSMのセキュリティ層を強化します。ゼロトラストは、強力な侵害封じ込め対策と組み合わせることで、侵害されたAIワークロードを迅速に隔離し、あらゆるインシデントの深刻度を軽減する効果を発揮します。