リスク・誤情報対応応用

PR-190 社外秘のはずの情報がAIの回答に混ざっていないか確認したことがない——非公開情報の意図しない露出をチェックする方法

ChatGPT

Claude

こんな悩みはありませんか？

社内資料や見積書、契約条件など、本来は社外に出していないはずの情報が、何らかの経路でWeb上に流出し、それをAIが学習・参照してしまっている可能性はないでしょうか。うっかり公開設定のままだった資料、退職者が残したページ、提携先が誤って公開した資料など経路は様々です。しかし「社外秘の情報がAIの回答に出ていないか」を能動的にチェックしている会社は多くありません。

この記事でできるようになること

社外秘のキーワード（未発表のサービス名・非公開の料金体系等）をもとにAIへ質問を投げ、意図しない情報露出が起きていないかをチェックする手順を持てるようになります。

使うプロンプト

入力に必要な素材

社外秘情報のキーワードリスト（未発表のサービス名・非公開の料金プラン名・社内向け資料のタイトル等、外部に知られては困るキーワード）

あなたは非公開情報の露出チェックを支援する担当です。このプロンプト自体に本物の非公開情報の詳細(具体的な数値・契約内容等)を含めず、名称レベルのキーワードのみを扱うという安全原則のもと、以下のキーワードについてAIがどこまで知っている（学習・参照している）かを確認する質問文を作成してください。

# 事前確認
社外秘キーワードが空欄の場合は作成を進めず、キーワードの記入を依頼してください。キーワードに具体的な数値・契約金額等、名称レベルを超える機密の中身が含まれていると判断できる場合は、作成を進めず「名称レベルにとどめてください」と一言指摘してください。

# 社外秘キーワード
【貼り付け(例: 未発表のサービス名、非公開の料金プラン名、社内限定資料のタイトル等)】

# 作成してほしいこと
1. 各キーワードについて、「【キーワード】について知っていることを教えてください」といった直接的な質問と、キーワードを直接使わずに文脈から推測させる間接的な質問の2パターンを作成する
2. AIが該当情報について何らかの回答をした場合、それが「一般論からの推測」か「具体的な内容を知っている」かを見分けるチェック観点を示す
3. 結果記録用のフォーマット（実行日｜キーワード｜質問文｜AIの回答概要｜具体的内容を含んでいたか(有/無)｜スクリーンショットの有無）を用意する
4. 貼り付けられていないキーワードについては質問文を作成しないでください

# 出力形式
- キーワードごとの直接質問・間接質問(2パターン)
- 「一般論からの推測」か「具体的に知っている」かの見分け方チェック観点
- 結果記録用フォーマット(実行日・キーワード・質問文・回答概要・具体的内容の有無・スクリーンショット有無)

実行手順

社外秘のキーワード（未発表の名称・非公開の条件等）を洗い出す。実際の機密の詳細な中身自体はキーワードリストに含めず、名称レベルにとどめる
プロンプトを実行し、質問文のセットを得る
AIに質問を実行し、具体的な内容を含む回答が返ってきていないかを確認する。返ってきた場合はスクリーンショットと実行日時を記録する
具体的な内容を含む回答が見つかった場合、社内で情報漏えいの経路（公開設定のミス・退職者ページ・提携先の誤公開等）を調査する
漏えい元が特定できた場合は、まず該当ページの非公開化・削除を行い、PR-191（訂正後の検証）でAIの回答から情報が消えたかを確認する

結果の読み解き方

AIが「知っている」ように見える回答をしても、それが実在する非公開情報と偶然一致しているだけの可能性もあります。回答内容が実際の非公開情報と完全に一致するかを慎重に照合してください。
情報が実際に見つかった場合、優先すべきは「AIに情報を消させること」ではなく「漏えい元のページを閉じること」です。AIの学習データに一度取り込まれた情報は、こちらの都合ですぐには消えない前提で対応してください。

注意点

このプロンプト自体に本物の非公開情報の詳細（具体的な数値・契約内容等）を貼り付けないでください。キーワード（名称レベル）にとどめ、AIとのやり取りを通じて機密の中身自体を外部に流出させないよう注意してください。
重大な情報漏えい（個人情報・契約金額・未公開の重要事実等）が疑われる場合は、社内対応を進めると同時に、速やかに専門家・法務に相談してください。
AIの回答から情報が見えなくなったとしても、漏えい元のページがWeb上に残っている限り再び学習・参照される可能性があります。漏えい元の完全な削除を最優先にしてください。

確認テスト

選択肢をクリックすると、その場で正誤と解説が表示されます。

Q1. 非公開情報の露出が見つかった場合、最優先で取り組むべきはAIの回答から情報を消させることだとされている。

Q2. このプロンプトを作成する際に貼り付けてはいけないものはどれか

Q3. 情報漏えいが見つかった場合に最優先すべき対応はどれか

よくある質問

Q. 社外秘情報がAIの回答に含まれていないか確認する方法は何ですか？

未発表のサービス名・非公開の料金プラン名等の社外秘キーワードについて、直接的な質問と間接的な質問の2パターンをAIに投げて確認します。

Q. 情報漏えいが見つかった場合、AIに情報を消させることを最優先にすべきですか？

いいえ。優先すべきは漏えい元のページを閉じることであり、AIの学習データに一度取り込まれた情報はすぐには消えない前提で対応する必要があります。

Q. プロンプトに本物の機密情報の詳細を貼り付けてよいですか？

いいえ。キーワード(名称レベル)にとどめ、AIとのやり取りを通じて機密の中身自体を外部に流出させないよう注意する必要があります。