AIエージェントシステムの安全な運用を支援！セキュリティ技術を学ぶ実践ハンズオントレーニング提供開始

三井物産セキュアディレクション株式会社と株式会社ChillStackは、大規模言語モデル（LLM：大量のテキストデータから学習し、人間のような自然な文章を生成できるAI）を推論エンジンとする「AIエージェント」および「マルチAIエージェント」システムを安全に設計・開発・運用するためのハンズオントレーニング「《実践》AIエージェントセキュリティハンズオン」を共同開発し、提供を開始しました。本トレーニングは、AIエージェントシステム導入を検討・推進する企業の情報システム担当者やDX推進担当者にとって、不可欠なセキュリティ知識と実践スキルを提供します。

AIエージェントシステムが直面する新たなセキュリティ課題

近年、LLMの活用はチャットボットに留まらず、自律的に行動するAIエージェント、さらには複数のAIエージェントが連携するマルチAIエージェントシステムへと急速に拡大しています。これにより、複雑な処理の自動化や柔軟な実行が可能になる一方で、従来のシステムにはなかった新たなセキュリティ脅威が多数生まれています。

例えば、AIエージェントが記憶するユーザーの好みなどに不正な指示を注入する「メモリ汚染」攻撃や、AIエージェントが利用する外部ツールへの細工、悪意のあるAIエージェントの混入などが挙げられます。これらの脅威は、既存の情報システムを対象とした攻撃とは原理が異なる場合が多く、従来のセキュリティ技術だけでは十分な対処が困難です。そのため、AIエージェントシステムに特化した新たな視点での対策が求められています。

「《実践》AIエージェントセキュリティハンズオン」で習得できること

本トレーニングは、AIエージェントシステム特有の攻撃手法と防御手法を体系的かつ実践的に学べるよう、以下の3つのパートで構成されています。

Part1. AIエージェントセキュリティ入門

AIエージェントおよびマルチAIエージェントの動作原理や活用事例を整理し、運用リスク・セキュリティリスクを多角的に解説します。実際のインシデント事例や攻撃シナリオを通じて、現場で想定される具体的な脅威を理解できます。

Part2. セキュリティ実践ハンズオン

AIエージェントシステムに対する攻撃とその対策を一貫して実践的に学びます。本トレーニング独自の検証環境を使用し、国際的なWebセキュリティの団体であるOWASPが提唱する「OWASP Agentic AI」（AIエージェント特有の脅威と対策ガイドライン）をベースとした脅威を確認します。これにより、攻撃者と防御者双方の視点から脅威構造を深く理解し、以下の主要な脅威に対する攻撃と対策を実践的に学習します。

AIエージェントにおける直接/間接プロンプトインジェクション
メモリ汚染（長期/短期記憶の書き換えによるAIエージェント挙動の操作など）
外部ツールの細工（悪意あるMCPサーバーを利用した攻撃など）
悪意あるAIエージェントの混入（A2A：AIエージェント同士の連携を介した攻撃など）

Part3. 運用・ガバナンス実践ハンズオン

AIエージェントシステムのセキュアな運用に不可欠な「可視化」「追跡」「制御」の3つの観点から、運用リスクとその管理手法を実践的に学びます。AIエージェント間の依存関係やデータフローの可視化、意思決定過程やツール実行の流れの追跡を通じて、予期しないタスク実行や異常な挙動を早期に発見できるようになります。また、AIエージェントの挙動制御（ポリシー逸脱の検知）やメモリ汚染の検知、悪意あるMCPサーバーの検知といった実践的な対策手法を習得し、異常行動の早期抑止や安全なタスク実行の方法を学びます。

これにより、AIエージェントシステムの「セキュリティ面」と「運用面」の両方から、安心・安全なAIエージェント活用に必要な知識とスキルを習得することが可能です。