ตรวจสอบ Robots.txt

ตัวตรวจสอบนโยบาย robots

ดึง robots.txt ของไซต์, แยกวิเคราะห์การจัดกลุ่ม User-agent, และตรวจสอบทันทีว่าเส้นทางได้รับอนุญาตให้เรียกดูหรือไม่

ตรวจสอบ robots.txt ออนไลน์ ดูทันทีว่าเส้นทางใดครอว์ลได้หรือไม่

คำแนะนำที่เกี่ยวข้อง

กรณีการใช้งาน

  • เมื่อหน้าไม่ถูกเก็บเข้าดัชนีเป็นเวลานาน ตรวจสอบก่อนว่า robots.txt บล็อกเส้นทางที่เกี่ยวข้องหรือไม่
  • ยืนยันกฎครอว์ลเลอร์ใหม่มีผลตามคาดหลังแก้ไขเว็บไซต์ หลีกเลี่ยงกฎเก่าค้างอยู่
  • ทดสอบว่าเส้นทาง URL ที่ระบุอนุญาตให้ครอว์ลเลอร์เป้าหมายครอว์ลหรือไม่ ยืนยันการกำหนดค่า Allow/Disallow
  • แยกคำประกาศ Sitemap ยืนยันว่าที่อยู่แผนผังเว็บไซต์กำหนดค่าถูกต้อง ช่วยให้เครื่องมือค้นพบ

วิธีการใช้งาน

  1. ป้อนชื่อโดเมนเว็บไซต์หรือ URL แบบเต็มของ robots.txt
  2. เครื่องมือดึงและแยกวิเคราะห์เนื้อหากฎ robots.txt โดยอัตโนมัติและแสดงแบบมีโครงสร้าง
  3. ป้อนเส้นทางที่ต้องการทดสอบเพื่อดูว่าอนุญาตให้ครอว์ลเลอร์เป้าหมายครอว์ลหรือไม่
  4. ดูคำประกาศ Sitemap และโครงสร้างกฎแบบเต็มสำหรับการเพิ่มประสิทธิภาพ SEO และการตรวจสอบ

คุณสมบัติ

  • ตัดสินได้โดยตรงว่าเส้นทางที่ระบุอนุญาตหรือไม่: ไม่ต้องคาดเดากฎด้วยมือ
  • เหมาะตรวจสอบการเก็บเข้าดัชนีผิดปกติ: ไดเรกทอรีถูกบล็อกผิด, กฎผิดง่ายถูกมองข้าม
  • ดูคำประกาศ Sitemap ได้พร้อมกัน: ตรวจสอบกฎการครอว์ลและข้อมูลแผนผังเว็บไซต์พร้อมกัน
  • คุ้มค่าตรวจสอบหลังแก้ไข: อัปเดต CMS, ปรับไดเรกทอรี, เปลี่ยนกฎสามารถค้นพบปัญหาได้ทันที

คำถามที่พบบ่อย

จะตัดสินได้อย่างไรว่าหน้าใดถูก robots.txt ห้ามครอว์ล?

ป้อนที่อยู่เป้าหมายและเส้นทาง จะตัดสินได้ว่าครอว์ลเลอร์ที่ระบุอนุญาตให้เข้าถึงหรือไม่ตามกฎปัจจุบัน ซึ่งเสถียรกว่าการอ่านกฎด้วยตาเปล่า

หน้าไม่ถูกเก็บเข้าดัชนี เป็นไปได้จริงหรือว่าเกิดจาก robots.txt?

เป็นไปได้ หาก robots.txt ห้ามไดเรกทอรีหรือเส้นทางที่เกี่ยวข้อง เครื่องมือค้นหาอาจไม่สามารถครอว์ลเนื้อหาหน้าได้ การตรวจสอบกฎว่าผิดหรือไม่เป็นสิ่งที่จำเป็น

สามารถแยก Sitemap หรือคำประกาศอื่นได้หรือไม่?

ได้นอกจากกฎการครอว์ลแล้ว robots.txt หลายแห่งยังประกาศที่อยู่ Sitemap ซึ่งมีประโยชน์ต่อการตรวจสอบเว็บไซต์และการวินิจฉัย SEO

เหมาะสำหรับการตรวจสอบเป็นประจำหลังเว็บไซต์เปิดใช้งานหรือไม่?

เหมาะโดยเฉพาะหลังแก้ไขเว็บไซต์, ปรับไดเรกทอรี, อัปเดต CMS แนะนำให้ตรวจสอบกฎ robots ใหม่ว่ามีการเปลี่ยนแปลงที่ไม่คาดคิดหรือไม่