AIエージェントのセキュリティ課題：なぜ従来のルールでは不十分なのか
AIエージェントは、コードの記述や実行、企業データの処理、ビジネスワークフローの完了など、多岐にわたるタスクを自律的にこなします。しかし、悪意あるプロンプト（指示）や個々の不正なペイロード（データ）だけでなく、エージェントの一連の行動が予期せぬ結果を招くケースが増えています。問題となる行動は、単一のアクションだけでは正当に見えても、複数のアクションが組み合わさることで有害な結果につながる可能性があるため、従来の「定義済みのルール」や「シグネチャ（特徴的なパターン）」に基づくセキュリティでは検知が困難でした。
コンテキストベースのAI保護機能とは？
チェック・ポイントが提供する新しい保護機能は、AIエージェントの活動全体を「コンテキスト」（文脈）として継続的に評価します。具体的には、以下の要素をリアルタイムで関連付けて分析します。
-
ユーザーの当初の意図
-
エージェントが参照した情報
-
これまでに実行したアクション
-
適用される企業ポリシー
-
次に実行しようとしているアクション
これにより、単体では問題のないアクションでも、全体の文脈から見て有害、許可されていない、または意図されたタスクと矛盾すると判断された場合、そのアクションを実行前に阻止します。
どのような課題を解決し、どのようなメリットをもたらすか
1. 機密データの漏えいを未然に防ぐ
例えば、本番環境を扱うコーディングエージェントが、正当なタスクとして本番ログにアクセスし、その情報を作業用変数に格納した後、一般公開されているシステムでチケットを作成する際にその変数を使用しようとしたとします。個々のアクションは問題ありませんが、これらが組み合わさることで機密データが外部に流出するリスクが生じます。この保護機能は、これらのアクションの関連性を把握し、機密情報が流出する最終ステップをブロックします。
2. ユーザーの意図しない自律的な行動を阻止
自律型コーディングエージェントが、ユーザーが要求していないにもかかわらず、直接S3バケットにファイルをアップロードしようとした実例があります。この場合、S3へのファイルアップロード自体は危険な行為とは限りませんが、想定された開発プロセスではGitLabを経由する必要があり、ユーザーの意図に沿わないものでした。この保護機能は、あらかじめ定義されたルールに依存することなく、タスク全体のコンテキストからこの不一致を認識し、アップロード実行前に阻止しました。
3. 間接的なプロンプトインジェクションから防御
攻撃者がメールやドキュメント、ウェブページなどに隠した指示によって、AIエージェントに認証情報の取得や情報のエクスポートなどを実行させようとする「間接的なプロンプトインジェクション」に対しても防御層を提供します。ユーザーが求めたタスクと実行されようとしているアクションの不一致を検知し、タスクに含まれない認証情報の取得や情報送信を阻止します。
4. 不正な権限昇格や企業ポリシー違反を防止
エージェントが自身のタスクと関連性のない破壊的なコマンドを実行しようとしたり、必要な承認なしに広範な権限を付与しようとしたり、企業ポリシーに違反する宛先へ機密情報を送信しようとしたりする際にも、コンテキストに基づいてアクションを阻止し、セキュリティを強化します。
高速かつ広範なAIエージェントに対応
リアルタイムでの意思決定
この保護機能は、約50ミリ秒という高速な判断で、自律型AIエージェントの速度と生産性を維持しながらリアルタイムに保護を適用します。これにより、機密情報を環境内に留め、許可されていないアップロードや破壊的な操作、予期せぬ権限変更を未然に防ぎます。
あらゆる自律型AIに適用可能
この保護機能は、コーディングエージェントだけでなく、電子メールやドキュメントを閲覧し、機密性の高い業務データにアクセスし、SaaSアプリケーションを操作する企業向けエージェントにも対応します。さらに、複数のAIエージェントが連携するマルチエージェントシステムにおいても、一貫したセキュリティを提供し、AIエージェントの行動の自由度を高めつつ、その結果に対するコントロールを維持します。
提供形態と導入について
この保護機能はすでに本番環境で稼働しており、Check Point AI Securityをご利用のお客様向けに段階的に展開が進められています。導入形態としては、Workforce AI Security、ネイティブAI Gatewayとの統合、ダイレクトAPIやプラグインなど、多様な方法で利用が可能です。
AIエージェントの導入を検討している、または既に活用している企業にとって、この新しい保護機能は、AI活用におけるセキュリティリスクを大幅に軽減し、より安全なDX推進を支援する強力なソリューションとなるでしょう。詳細については、チェック・ポイント・ソフトウェア・テクノロジーズにお問い合わせください。
チェック・ポイント・ソフトウェア・テクノロジーズについて
チェック・ポイント・ソフトウェア・テクノロジーズは、世界各国の10万を超える組織を保護するグローバルなサイバーセキュリティのリーダー企業です。企業の安全なAIトランスフォーメーションを支援することをミッションとしており、防止優先のアプローチとオープンエコシステムアーキテクチャを基盤に、リスクを低減し、業務を簡素化し、イノベーションを推進できるよう支援しています。同社の統合セキュリティアーキテクチャは、ハイブリッドネットワーク、クラウド環境、デジタルワークスペース、AIシステムを保護し、進化する脅威や拡大するAI攻撃対象領域に継続的に適応します。
