JFrog（ジェイフロッグ）、エンタープライズソフトウェアサプライチェーンにおけるAI導入の潜在的なセキュリティーリスクを報告

大手ソフトウェア企業であるJFrog（ジェイフロッグ）は、エンタープライズソフトウェアサプライチェーンにおけるAIエージェントの導入に伴う潜在的なリスクを報告した。同社は、AIモデルを社内システムに統合するために設計されたオープンな接続規格であるモデルコンテキストプロトコル（MCP）が、機密資産への高レベルのアクセスを意図せず付与してしまう可能性があると指摘している。MCPサーバーに対するガバナンスの欠如は生産性の向上につながる可能性があるが、同時にソフトウェア開発環境を潜在的な脅威にさらすことになる。

JFrogが特定した最も重大な脅威の一つは、間接プロンプトインジェクションだ。これは、MCPサーバーで動作するAIエージェントが、コンテンツ内に隠された悪意のあるペイロードに遭遇した場合に発生する。MCPサーバーから権限を付与されたAIエージェントは、この悪意のあるコードを知らないうちに実行し、重大な内部脅威をもたらす。この脅威が特に懸念されるのは、開発者が知らないうちに実行される可能性があるためです。開発者は、エージェントが単に定型的なタスクを実行しているだけだと信じてしまう可能性がある。

JFrogが指摘するもう一つのリスクは、MCPツールの過剰な権限付与だ。利便性を重視して設計されたこれらのツールは、AIエージェントに広範なアクセス権限を付与することがよくある。AIエージェントがプロンプトを誤って解釈し、有害なコマンドを実行した場合、潜在的な災害につながる可能性がある。きめ細かなツールレベルの制御がなければ、組織はこれらの潜在的な脅威に対して脆弱な状態に置かれる。

JFrogは、検証されていないMCPサーバーの危険性についても警告している。これらのサーバーは、不正なゲートウェイとして機能し、セキュリティー対策を回避して正規のトラフィックを装う可能性がある。そのため、侵害されたMCPサーバーから機密情報が漏洩した場合、その検知が困難になる。さらに、MCPサーバーの明確な保管管理体制が欠如していると、出所の特定が困難になり、組織が潜在的な脅威にさらされる可能性がある。

これらのリスクに対処するため、JFrogはMCPサーバーを安全なエンタープライズグレードのソフトウェアサプライチェーンプラットフォーム内の管理対象アーティファクトとして扱うことを提唱している。このアプローチには、MCPサーバーの集中管理されたレジストリーとスキャンシステム、潜在的に有害なコマンドを制限するための手術器具の制御、そして安全ポリシーのリアルタイム適用が含まれる。これらの対策を実施することで、組織はソフトウェアサプライチェーンのセキュリティーを損なうことなく、AIの生産性向上のメリットを享受できる。

出典：JFrog