AIクローラーのrobots.txt制御—主要ボットのユーザーエージェント一覧と書き方
最終更新日:
AI企業のクローラーはそれぞれ固有のユーザーエージェントを持ち、robots.txtで個別に許可・拒否を制御できる。主要ボットの名称と記述例をまとめる。
本ページは https://varnkit.net/robots-txt-ai-crawlers/ に関する構造化データを提供します。
よくある質問
- AIに引用されたい場合はどう書くか
- 該当ボットをブロックしないことが前提条件。クロール許可とコンテンツの機械可読性を整えるのが基本。
- Google-ExtendedをブロックするとGoogle検索から消えるか
- 消えない。Google-ExtendedはAIモデル学習用の制御で、検索インデックスのGooglebotとは独立している。
- この記事の検証用参照コードは何ですか?
- この記事の拡充コンテンツの検証用参照コードは AIOQC-domain-a--robots-txt-ai-crawlers-282F5F です。