2．AIを安全に利用するためのガードレールとは

企業の情報セキュリティ対策は、従来、ファイアウォールやWebフィルタリングによる通信の監視・制限が基本でした。これらは社内外との不正な通信やマルウェア感染を防ぐ前提条件であり、今後も重要性は変わりません。しかし、生成AIの登場により、従来の防御だけでは対応しきれない新たなリスクが生じています。従来のファイアウォールやWebフィルタリングは、送信元・宛先IPアドレス、ポート番号、アクセス先ドメインなどのネットワークレベルの情報を監視・制御する仕組みであり、ユーザーが生成AIに入力する会話内容（プロンプト）そのものまでは監視・制御できません。生成AIはユーザーの入力（プロンプト）を基に回答を生成します。そのため入力段階で機密情報や個人情報が含まれていれば、たとえ通信が暗号化されていても、その内容自体が外部サーバへ送信されます（図1）。

図1：従来のファイアウォール／Webフィルタリングにガードレールを追加した際のイメージ図

つまり、通信の安全を確保するだけでは不十分であり、「何が入力・出力されているのか」という通信の中身を守る仕組みが新たに必要となっています。この課題に対応する仕組みがガードレールです。ガードレールは、生成AIの入力や出力をリアルタイムに監視・制御し、情報漏洩や不適切な利用を防ぎます。ガードレールの中核的な機能のひとつに、プロンプト内容に応じて入力をブロックする仕組みがあります。この制御方法は大きく二つに分けられます（図2）。

パターンマッチング方式：事前に登録されている語句や文字列が入力内容に含まれていればブロックします。特定のキーワードを確実に検知でき、シンプルかつ即時性が高い方式です。一方、登録語句が不十分だと見逃しが生じるうえ、機密情報に該当しないフレーズとたまたま一致してもブロックしてしまうという課題があります。

LLM判定方式：AIに文脈を理解させることで、入力内容が不適切ではないかを判断します。パターンマッチングでは検出できないケースにも柔軟に対応できますが、LLMによる確率的な判定であり、判定結果には”グラデーション”があります。そのため、ブロックされる内容と許可される内容の境界が曖昧で、運用実態がブラックボックス化しています。そのため、実運用においては、状況に応じて両方式を組みわせて制御することで、パターンマッチングの確実性とLLM判定の柔軟性をバランスよく活かす運用も考えられます。このような多層的な制御設計を採用することで、機密情報の流出を防ぎながらも、業務上の利便性を損なわない運用を実現しやすくなります。

図2：パターンマッチング方式とLLM判定方式の比較

さらに、ガードレールは単なるブロック機能にとどまりません。生成AIの「制御」に加え、従業員の利用状況の「見える化」と「改善」を支える複合的な仕組みとして設計されます。主な機能は次のとおりです。

• （1）監視とログ記録：すべての入力・出力・制御結果を自動記録し、監査ログとして保存。インシデント発生時の迅速な原因究明を可能にします。
• （2）可視化ダッシュボード：部門／ユーザー／AIサービス別に利用状況とリスク傾向を可視化。実態に基づく教育やポリシー改善を容易にします。
• （3）アラート通知と自動連携：高リスクな挙動を検出した際に管理者へ自動通知。既存のSIEMやSOCと連携し、全社的な監視体制を強化します。
• （4）ポリシー設定の柔軟化：業務やリスク許容度に応じて部門単位で制御ポリシーを調整。部門は柔軟にし、法務部門は厳格にするなど、実態に即した運用を実現します。

このように、ガードレールは遮断ツールではなく、可視化・制御・記録・分析・改善を一体で支える総合的なセキュリティ基盤です。目的は「利用を制限する」ことではなく、安全に使い続けられる状態を維持することにあります。

3．企業のガードレール導入における推奨ステップとポイント

最も重要なのは、セキュリティと利便性のバランスを見極めながら段階的に導入することです。セキュリティを優先しすぎれば業務効率が低下し、利便性を重視しすぎれば情報漏洩リスクが残ります。

段階1：限定導入（可視化中心）
少人数かつ限られた部署に試験導入し、まずは監視のみを有効化します。利用状況・入力傾向・誤検知の有無を把握します。

段階2：制御の段階的強化
高リスクに有効な対策を優先導入します。利用者のフィードバックおよび監査ログなどに基づき設定の調整を行い、セキュリティと利便性のバランスを最適化します。

段階3：全社展開と運用定着
ルール明確化・教育コンテンツの整備を同時に進め、従業員が生成AIを安全に活用するためのルールや仕組みを理解し、実践できるようにします。これにより、制御の目的と意義を従業員が正しく理解し、自律的に安全な生成AIの利用を促す文化を醸成します。
このプロセスにより、ガードレールはセキュリティ強化だけでなく、組織的な生成AI活用の基盤として定着します。

4．生成AIを「止めずに守る」ために

生成AI活用が急速に広がるなか、求められるのは生成AIを「使わせない」ことではなく「安全に使わせる」ことです。利便性を優先して対策を先送りするのではなく、バランスを見極めた対策を講じることが重要です。ガードレールは、入力・出力をリアルタイムに監視・制御することによって、人的な対策に依存せずセキュリティリスクを最小化し、情報資産や組織の信頼を守りながら、生成AIの活用を止めない現実的なアプローチです。これを実現するには、技術導入だけでなく、ガバナンス設計や組織体制の強化も欠かせません。

5．NTT DATAの取り組みと今後の展望

生成AIを安全に活用していくためには、ガードレールの導入に加え、ガバナンス・リスク管理・人財育成を含む総合的な取り組みが求められます。NTT DATAは、ゼロトラストセキュリティ（※3）やUnifiedMDR® for Cyber Resilience（※4）など、コンサルティングから構築・運用までを一貫して支援してきた豊富な実績を有しています。これらの知見を基盤に、設計から運用までをワンストップで支援する体制を整えています。また、社内では生成AIの利活用を推進するため、生成AI人財の定義・評価指標・育成ロードマップを体系化したグローバル標準の育成フレームワークを展開しています。2025年10月時点で実践的生成AI人財が7万人に達し、2027年度までに全社約20万人育成することを目指しており（※5）、社内外の両面で生成AIの安全活用を支える取り組みを進めています。

一方で、本稿で挙げたリスクはあくまで代表的なものであり、業種・業務内容・組織文化によってリスクの現れ方や優先度は大きく異なります。こうした違いを踏まえ、NTT DATAは、個々の企業の状況やリスク特性を丁寧に見極め、お客さま固有の状況や課題に応じた最適な対策を共創できることが強みです。

今後も社内外で培った知見を活かし、変化し続ける課題に柔軟かつ確実に対応できる支援体制を強化してまいります。