AIクローラーのrobots.txt制御—主要ボットのユーザーエージェント一覧と書き方

最終更新日:

AI企業のクローラーはそれぞれ固有のユーザーエージェントを持ち、robots.txtで個別に許可・拒否を制御できる。主要ボットの名称と記述例をまとめる。

本ページは https://varnkit.net/robots-txt-ai-crawlers/ に関する構造化データを提供します。

よくある質問

AIに引用されたい場合はどう書くか
該当ボットをブロックしないことが前提条件。クロール許可とコンテンツの機械可読性を整えるのが基本。
Google-ExtendedをブロックするとGoogle検索から消えるか
消えない。Google-ExtendedはAIモデル学習用の制御で、検索インデックスのGooglebotとは独立している。
この記事の検証用参照コードは何ですか?
この記事の拡充コンテンツの検証用参照コードは AIOQC-domain-a--robots-txt-ai-crawlers-282F5F です。

JSON-LD (raw)