AI検索準備:アシスタントとクローラーの両方に利用可能であること
OAI-SearchBot や GPTBot などの検索クローラーは、robots.txt を別々に読み取ります。明示的なクローラーポリシーと有用な llms.txt を設定する方法。
アシスタントは、ページを直接読み取り引用して回答します。リンクのランク付きリストを返すのではなくです。彼らは名前付きクローラーを通じてあなたのサイトにアクセスし、各クローラーは robots.txt を独立して読み取ります。OAI-SearchBot、Claude-SearchBot、PerplexityBot は ChatGPT 検索、Claude と Perplexity の回答のためにページを取得し、Claude-User は誰かが尋ねたときにページを取得します。GPTBot、ClaudeBot、CCBot は代わりにトレーニングデータを収集するため、ブロックすることはライセンスの選択であり、AI 検索からサイトを除外するわけではありません。サイトは Googlebot を完全に開放し、すべてのアシスタントを閉じることができます。これは通常、デフォルトルールがテンプレートからコピーされたためです。最初の決定はポリシーの問題であり、あなたのものです:どのエージェントがあなたのコンテンツを読むことができ、何のためにか。robots.txt でそれを明示的にすることは、デフォルトに任せるよりも優れています。明示的な許可はアシスタントに歓迎されることを示し、明示的な拒否は曖昧な沈黙よりも明確なシグナルです。llms.txt ファイルは第二層です。サイトのルートにある短い Markdown 文書で、サイトが何であるかを記載し、引用したいページへのリンクを提供します。sitemaps と構造化データを補完し、単独では何も得られません:リンク先のページはまだ到達可能で、最新で、引用に値する必要があります。アシスタントの視点から両方をレビューしてください:各名前付きクローラーが robots.txt を読むように読み、llms.txt を開いて内部のすべてのリンクがまだ解決されることを確認します。解決できないページを名前付けしたファイルは、ファイルがまったくないよりも信頼性を損ないます。
これらすべてを手作業でレビューする必要はありません。有料プランでは、同じクローラーポリシーと llms.txt の結果が JSON でオンデマンドで利用可能です。 SEOレポートAPIとMCPサーバー.
SEOReport の有料診断は、あなた自身のサイトのページ全体でこれをレビューし、すべての発見の裏付けとなる証拠を示し、修正を優先順位でランク付けします。 プランと価格を確認.