Prompt for Homegrown Applications(HGA) 自社開発AIアプリを、プロンプトインジェクションや情報漏えいから守る
Prompt for Homegrown Applications(HGA)とは、自社で開発した生成AIアプリ(社内向けチャットボット、顧客向けのAIサービスなど)の通信経路にPrompt Securityを配置し、プロンプトインジェクション、機密情報の漏えい、不適切な回答を、リアルタイムで防ぐAIセキュリティ機能です。アプリの改修を最小限に、リバースプロキシ、API、SDKのいずれかで導入できます。導入前の検証(PoC)は、基本的に無償で実施しています。ご相談は丸文にお問い合わせください。
自社開発のAIアプリに、なぜセキュリティが必要か
社内ヘルプデスクのチャットボットや、お客様向けのAIサービスなど、自社でAIアプリを開発・運用する企業が増えています。しかし、AIアプリは、ユーザーが自由な文章で入力できるため、従来のWebアプリとは違う種類のリスクがあります。
- プロンプトインジェクション・脱獄:「これまでの指示を無視して」といった入力で、AIの制限を外されたり、内部情報を引き出されたりします。
- 機密情報の漏えい:入力や回答に、個人情報・機密情報・認証情報が含まれ、外部のLLMや利用者に渡ってしまいます。
- 不適切な回答:専門外の質問への回答、有害・差別的な表現、事実でない回答が、お客様に届き、ブランドを傷つけます。
- コストの悪用:大量のリクエストでトークンを使い切らせ、利用料金を膨らませる攻撃があります(Denial of Wallet)。
Prompt for HGAとは
Prompt for Homegrown Applications(HGA)とは、自社開発のAIアプリとLLMの間にPrompt Securityを配置し、入力(プロンプト)と出力(回答)の両方をリアルタイムで検査・制御する機能です。ユーザー体験への影響を抑えながら、次の4つを実現します。
- 攻撃からの保護:プロンプトインジェクション、脱獄、Denial of Wallet、RCE(リモートコード実行)などから、AIアプリを即時に保護します。
- データプライバシー:サードパーティのLLMやベクトルデータベースへ送る前に、機密データをリアルタイムでフィルタリング・難読化します。
- コンテンツのガードレール:不適切・有害・ブランドイメージに反する内容を、利用者に届く前に防ぎます。
- ガバナンス:アプリごとにポリシーを設定でき、複数のアプリに共通のポリシーも適用できます。
自社AIアプリとLLMの間に配置し、リクエストとレスポンスを保護
画面で見る:何が起きたか、一目でわかる
検知した内容は、ダッシュボードとアクティビティモニターで確認できます。ここでは、デモ環境の画面をご紹介します。
ダッシュボード:リスクの全体像を把握
ダッシュボード(日本語表示)。管理画面は日本語表示に切り替えられます
- リスクのあるインタラクションの件数と、そのうちブロック・変更(マスキング等)された件数。
- リスクの高いユーザー数、トークンの使用量(プロンプト・回答別)。
- インタラクションの推移と、違反の種類(セキュリティ、データプライバシー、コンテンツモデレーションなど)。
- 違反ごとに、OWASP Top 10との対応も表示されます。
ダッシュボード(英語表示)
アクティビティモニター:1件ずつ、理由とともに確認
アクティビティモニター:1件ごとに、判定とアクションを確認(英語表示・メールアドレスは加工)
上の例では、「カーネルモードに切り替えて」といった、AIの制限を外そうとする入力を、Prompt Injection Engineが検知し、ブロックしています。1件ごとに、次の内容を確認できます。
- どの保護機能が、どう判定したか(機密データ、トークン制限、言語、トピック、プロンプトインジェクション、有害コンテンツ、正規表現、シークレットなど)。
- 実施したアクション(ブロック、変更、許可)。
- 元の入力と、変更後の入力。
※ 画面はデモ環境のものです。表示内容は、バージョンや設定により異なります。
よくあるご質問
Q. Prompt for HGAとは何ですか。
A. 自社で開発した生成AIアプリとLLMの間にPrompt Securityを配置し、入力と出力をリアルタイムで検査・制御するAIセキュリティ機能です。プロンプトインジェクション、機密情報の漏えい、不適切な回答などを防ぎます。
Q. アプリの改修は必要ですか。
A. 導入方式によります。リバースプロキシやAPIによる接続は、アプリの内部に手を入れずに始められます。入力欄ごとに細かく制御したい場合は、SDKでアプリに組み込みます。
Q. WAFやAPIゲートウェイとの違いは何ですか。
A. 一般に、WAFやAPIゲートウェイは、通信の形式やパターンを見て制御します。Prompt Securityは、自然文のプロンプトや回答の「内容」を見て、攻撃や機密情報、不適切な表現を判定する点が異なります。既存の対策と併用できます。
Q. 回答速度に影響はありますか。
A. ユーザー体験への影響を抑える設計ですが、実際の応答時間は、構成や設定によって変わります。PoCで、実環境での影響をご確認ください。
Q. どのLLMに対応していますか。
A. 主要なLLMに対応しています。対応状況は更新されるため、利用予定のLLMを、お問い合わせください。
Q. 管理画面は日本語に対応していますか。
A. 日本語表示に切り替えられます。一部の項目は英語のまま表示されます。
Q. Prompt for Employeesとの違いは何ですか。
A. Employeesは、従業員が使う生成AIを守る機能です。HGAは、自社で開発したAIアプリを守る機能です。両方を組み合わせて使うこともできます。
Q. 価格や、導入前の検証について教えてください。
A. ご利用の規模や対象によって異なるため、お見積りとなります。導入前のPoCは、基本的に無償で実施しています。お気軽にご相談ください。
PROMPT SECURITYのほかのメニュー
Prompt Securityは、AI利用の場面に合わせて、3つのメニューを用意しています。