PR-162 ChatGPTのブラウジング機能がいつ自社サイトを見に来ているのか把握していない——アクセスログを識別する方法
こんな悩みはありませんか?
「AIに自社が引用されているらしいが、実際にAIのクローラーやブラウジング機能がいつサイトに来ているのか見たことがない」「robots.txtでbotの許可設定はしたけれど、本当にそのbotが来ているのか確認する方法が分からない」——ChatGPTには学習用のGPTBot、検索用のOAI-SearchBot、ユーザーの指示で個別ページを取得するChatGPT-Userという役割の異なるbotがあり、同様にClaudeにも学習用のClaudeBot、リアルタイム検索用のClaude-SearchBot、個別ページ取得用のClaude-Userという3種類が役割分担されているとされています。サーバーアクセスログの中からこれらのUser-Agentを識別できれば、「AIがいつ・どのページを・どのbotで見に来ているか」を可視化できます。
この記事でできるようになること
サーバーアクセスログからAI関連のクローラー・ブラウジング機能のアクセスを識別し、どのページがどのbotに頻繁に読まれているかを整理できるようになります。
使うプロンプト
入力に必要な素材
- サーバーのアクセスログ(直近1〜3ヶ月分。個人情報が含まれる場合は事前にIPアドレス等をマスキングしてください)
- 主要なAI関連User-Agent一覧(例: GPTBot、OAI-SearchBot、ChatGPT-User、ClaudeBot、Claude-SearchBot、Claude-User、PerplexityBot、Applebot、Applebot-Extended等)
あなたはアクセスログ解析アシスタントです。以下のサーバーアクセスログから、AI関連のクローラー・ブラウジング機能のアクセスを抽出・整理してください。
# 事前確認
アクセスログが空欄の場合は集計を進めず、ログの貼り付けを依頼してください。ログにIPアドレス等の個人情報が含まれたままだと判断できる場合は、集計を進める前に「マスキング済みか再確認してください」と一言添えてください。
# アクセスログ(個人情報はマスキング済み)
【アクセスログを貼り付け、または該当行を抽出して貼り付け】
# 識別対象のUser-Agent
GPTBot, OAI-SearchBot, ChatGPT-User, ClaudeBot, Claude-SearchBot, Claude-User, PerplexityBot, Applebot, Applebot-Extended
(この他にログ内で見つかった類似のAI関連User-Agentがあれば併せて報告してください)
# 依頼内容
1. User-Agentごとのアクセス件数を集計してください。
2. User-Agentごとに、最もアクセスされているページ(URL)を上位5件ずつリストアップしてください。
3. 学習用bot(例: GPTBot、ClaudeBot)と、検索・ユーザー起点bot(例: OAI-SearchBot、ChatGPT-User、Claude-SearchBot、Claude-User)のアクセス傾向にどんな違いがあるか整理してください。
4. アクセスが極端に少ない、またはゼロのbotがあれば、その理由として考えられる仮説(robots.txtでのブロック、サイト構造上の問題等)を提示してください。
5. 識別対象のUser-Agentに該当しない行(未分類行)の件数も報告してください。
# 検算のために必ず出力してほしいこと
- 貼り付けたログの総行数
- 識別対象User-Agent(類似のものを含む)ごとの件数の合計
- 未分類行の件数
- 上記2つを足すと総行数と一致するかどうかの確認結果(一致しない場合は原因の推測を添える)
# 出力形式
- User-Agent別アクセス件数表
- User-Agent別・人気ページ上位5件
- 学習用botと検索/ユーザー起点botの傾向比較
- アクセスが少ないbotの仮説
- 検算結果(総行数と分類済み+未分類の合計が一致するか)実行手順
- サーバーのアクセスログを取得し、個人を特定できる情報(IPアドレス等)をマスキングする
- robots.txtで許可設定しているAI関連botの一覧を確認する
- アクセスログを上記プロンプトに貼り付けて解析させる
- 学習用botと検索・ユーザー起点botで、よく読まれているページの傾向にどんな違いがあるかを確認する
- アクセスが極端に少ないbotについては、robots.txtの設定やサイト構造(内部リンク・サイトマップ)を見直す
結果の読み解き方
- 検索用・ユーザー起点のbot(OAI-SearchBot、Claude-SearchBot、Claude-User等)によく読まれているページは、実際にAIの回答生成・引用に使われている可能性が高いページです。逆にこれらのbotのアクセスが少ないページは、そもそもAIの検索対象になっていない可能性があります。
- 学習用bot(GPTBot、ClaudeBot等)のアクセスは、将来のモデル学習に使われる可能性を示すもので、リアルタイムの回答生成に直接使われるとは限りません。両者を混同せず別々に評価してください。
- Applebotのようにクロール・インデックス用のbotと、Applebot-Extendedのように学習データ利用の可否だけを判定する別エージェントが分かれているケースもあります。両者は完全に独立しており、片方を許可してももう片方の許可は自動付与されないとされているため、robots.txtの設定を意図的に分けて確認してください。
注意点
- robots.txtでの許可・拒否設定は「お願い」に近い性質を持つ場合があり、設定を変更しても反映に時間がかかったり、一部のbotが迂回する場合があるとされています。robots.txtの記述だけでなく、実際のアクセスログで検証することが重要です。
- User-Agent名は各社の仕様変更により追加・変更される可能性があります。この記事で挙げた一覧は特定時点のものとして扱い、定期的に最新の一覧を確認してください。
- アクセスログにAI関連botの記録があることは、実際に引用・言及されたことを保証するものではありません。あくまで「読みに来た」という事実の確認であり、引用の有無は別途PR-151・PR-152等の方法で確認してください。
関連レッスン・関連パターン
確認テスト
選択肢をクリックすると、その場で正誤と解説が表示されます。
Q1. 学習用bot(GPTBotやClaudeBot)によく読まれているページは、リアルタイムの回答生成に直接使われていることを意味する。
正しくは、学習用botのアクセスは将来のモデル学習に使われる可能性を示すもので、リアルタイムの回答生成に直接使われるとは限りません。
Q2. 検索用・ユーザー起点のbot(OAI-SearchBot、Claude-SearchBot等)によく読まれているページについて言えることはどれか
検索用・ユーザー起点のbotによく読まれているページは、実際にAIの回答生成・引用に使われている可能性が高いとされています。
Q3. ApplebotとApplebot-Extendedの関係について正しいのはどれか
クロール・インデックス用のApplebotと、学習データ利用可否を判定するApplebot-Extendedは完全に独立しており、片方の許可がもう片方に自動付与されないとされています。
よくある質問
Q. ChatGPTのbotにはどんな種類がありますか?
学習用の`GPTBot`、検索用の`OAI-SearchBot`、ユーザーの指示で個別ページを取得する`ChatGPT-User`という役割の異なるbotがあります。
Q. robots.txtでbotを許可していれば、実際にそのbotが来ていると確信してよいですか?
いいえ。robots.txtでの許可・拒否設定は「お願い」に近い性質を持つ場合があり、実際のアクセスログで検証することが重要です。
Q. アクセスログにAI関連botの記録があれば、引用・言及されたと確定してよいですか?
いいえ。アクセスログにAI関連botの記録があることは実際に引用・言及されたことを保証するものではなく、あくまで「読みに来た」という事実の確認にとどまります。