جاهزية البحث بالذكاء الاصطناعي: أن تكون قابلة للاستخدام للمساعدين وكذلك للروبوتات
الزواحف البحثية مثل OAI‑SearchBot والزواحف التدريبية مثل GPTBot تقرأ robots.txt بشكل منفصل. كيف تُحدد سياسة زاحف صريحة ومفيدة llms.txt.
المساعدات تجيب على الأسئلة بقراءة الصفحات مباشرة ونسخها، بدلاً من إرجاع قائمة مرتبة من الروابط. يصلون إلى موقعك عبر زواحف مسماة، وكل واحد يقرأ robots.txt بشكل مستقل. OAI‑SearchBot، Claude‑SearchBot و PerplexityBot يجيبون للبحث ChatGPT، إجابات Claude و Perplexity، و Claude‑User يجيب عندما يطلب شخص ما. GPTBot، ClaudeBot و CCBot يجمعون بيانات تدريب بدلاً من ذلك، لذا حظرهم هو خيار ترخيص لا يخرج الموقع من البحث الذكي. يمكن أن يكون الموقع مفتوحًا على Googlebot ومغلقًا لكل مساعد، عادةً لأن قاعدة افتراضية تم نسخها من تمبليت. القرار الأول هو سياسة، وهو لك: أي وكيل قد يقرأ محتواك، ولما. جعل ذلك صريحًا في robots.txt يفوق تركه افتراضيًا، في أي اتجاه. إتاحة صريحة تخبر المساعد أنه مرحب به؛ حظر صريح هو إشارة واضحة بدلاً من صمت غامض. ملف llms.txt هو الطبقة الثانية. هو وثيقة Markdown قصيرة في جذر موقعك تُذكر ما هو الموقع وتربط إلى الصفحات التي تريد أن تُقتبس أكثر. يكمل خريطة الموقع والبيانات المهيكلة، ولا يحقق أي شيء بمفرده: الصفحات التي يربطها لا تزال يجب أن تكون قابلة للوصول، حديثة، وتستحق الاقتباس. راجع كلاهما من وجهة نظر المساعد: اقرأ robots.txt كما يفعل كل زاحف مسمى، ثم افتح llms.txt وتأكد أن كل رابط داخله لا يزال يُحل. ملف يطلق صفحات لم تعد تُحل يكلف مزيدًا من المصداقية من عدم وجود ملف على الإطلاق.
لا يلزم مراجعة هذا يدويًا. في خطة مدفوعة، نفس نتائج سياسة الزاحف وllms.txt متاحة عند الطلب كـ JSON، عبر واجهة API لتقارير SEO وخادم MCP.
مراجعة SEOReport المدفوعة تُراجع هذا عبر صفحات موقعك الخاص، تُظهر الأدلة وراء كل اكتشاف، وتُرتّب الإصلاحات حسب الأولوية. راجع الخطط والأسعار.
احصل على التشخيص الكامل لموقعك
تقرير مدعوم بالأدلة وخطة عمل مرتبة حسب الأولوية، ضمن خطة بأرصدة شهرية.