ตรวจสอบ Robots.txt
ตัวตรวจสอบนโยบาย robots
ดึง robots.txt ของไซต์, แยกวิเคราะห์การจัดกลุ่ม User-agent, และตรวจสอบทันทีว่าเส้นทางได้รับอนุญาตให้เรียกดูหรือไม่
ตรวจสอบ robots.txt ออนไลน์ ดูทันทีว่าเส้นทางใดครอว์ลได้หรือไม่
คำแนะนำที่เกี่ยวข้อง
กรณีการใช้งาน
- เมื่อหน้าไม่ถูกเก็บเข้าดัชนีเป็นเวลานาน ตรวจสอบก่อนว่า robots.txt บล็อกเส้นทางที่เกี่ยวข้องหรือไม่
- ยืนยันกฎครอว์ลเลอร์ใหม่มีผลตามคาดหลังแก้ไขเว็บไซต์ หลีกเลี่ยงกฎเก่าค้างอยู่
- ทดสอบว่าเส้นทาง URL ที่ระบุอนุญาตให้ครอว์ลเลอร์เป้าหมายครอว์ลหรือไม่ ยืนยันการกำหนดค่า Allow/Disallow
- แยกคำประกาศ Sitemap ยืนยันว่าที่อยู่แผนผังเว็บไซต์กำหนดค่าถูกต้อง ช่วยให้เครื่องมือค้นพบ
วิธีการใช้งาน
- ป้อนชื่อโดเมนเว็บไซต์หรือ URL แบบเต็มของ robots.txt
- เครื่องมือดึงและแยกวิเคราะห์เนื้อหากฎ robots.txt โดยอัตโนมัติและแสดงแบบมีโครงสร้าง
- ป้อนเส้นทางที่ต้องการทดสอบเพื่อดูว่าอนุญาตให้ครอว์ลเลอร์เป้าหมายครอว์ลหรือไม่
- ดูคำประกาศ Sitemap และโครงสร้างกฎแบบเต็มสำหรับการเพิ่มประสิทธิภาพ SEO และการตรวจสอบ
คุณสมบัติ
- ตัดสินได้โดยตรงว่าเส้นทางที่ระบุอนุญาตหรือไม่: ไม่ต้องคาดเดากฎด้วยมือ
- เหมาะตรวจสอบการเก็บเข้าดัชนีผิดปกติ: ไดเรกทอรีถูกบล็อกผิด, กฎผิดง่ายถูกมองข้าม
- ดูคำประกาศ Sitemap ได้พร้อมกัน: ตรวจสอบกฎการครอว์ลและข้อมูลแผนผังเว็บไซต์พร้อมกัน
- คุ้มค่าตรวจสอบหลังแก้ไข: อัปเดต CMS, ปรับไดเรกทอรี, เปลี่ยนกฎสามารถค้นพบปัญหาได้ทันที
คำถามที่พบบ่อย
จะตัดสินได้อย่างไรว่าหน้าใดถูก robots.txt ห้ามครอว์ล?
ป้อนที่อยู่เป้าหมายและเส้นทาง จะตัดสินได้ว่าครอว์ลเลอร์ที่ระบุอนุญาตให้เข้าถึงหรือไม่ตามกฎปัจจุบัน ซึ่งเสถียรกว่าการอ่านกฎด้วยตาเปล่า
หน้าไม่ถูกเก็บเข้าดัชนี เป็นไปได้จริงหรือว่าเกิดจาก robots.txt?
เป็นไปได้ หาก robots.txt ห้ามไดเรกทอรีหรือเส้นทางที่เกี่ยวข้อง เครื่องมือค้นหาอาจไม่สามารถครอว์ลเนื้อหาหน้าได้ การตรวจสอบกฎว่าผิดหรือไม่เป็นสิ่งที่จำเป็น
สามารถแยก Sitemap หรือคำประกาศอื่นได้หรือไม่?
ได้นอกจากกฎการครอว์ลแล้ว robots.txt หลายแห่งยังประกาศที่อยู่ Sitemap ซึ่งมีประโยชน์ต่อการตรวจสอบเว็บไซต์และการวินิจฉัย SEO
เหมาะสำหรับการตรวจสอบเป็นประจำหลังเว็บไซต์เปิดใช้งานหรือไม่?
เหมาะโดยเฉพาะหลังแก้ไขเว็บไซต์, ปรับไดเรกทอรี, อัปเดต CMS แนะนำให้ตรวจสอบกฎ robots ใหม่ว่ามีการเปลี่ยนแปลงที่ไม่คาดคิดหรือไม่
- เครื่องมือสร้าง Authentication Header
- เครื่องมือวิเคราะห์ Cache-Control
- เครื่องมือวิเคราะห์ Content-Disposition
- เครื่องมือสร้าง CORS Header
- เครื่องมือตรวจสอบ CORS
- CSP Builder
- ตัวแปลง cURL เป็นโค้ด
- ตรวจสอบการแพร่กระจาย DNS ทั่วโลก
- ค้นหา DNS
- Forwarded Header Parser
- เครื่องมือสร้าง Hreflang Tag
- HSTS Analyzer
- ตัวแยกวิเคราะห์คุกกี้ HTTP
- HTTP Headers Checker
- HTTP Request Runner
- ค้นหารหัสสถานะ HTTP
- ค้นหา IP
- ตัวแปลง IPv4
- เครื่องมือขยายช่วง IPv4
- เครื่องมือจัดการที่อยู่ IPv6
- ตัวแยกวิเคราะห์ส่วนหัว Link
- ค้นหา MX Record
- ตรวจสอบพอร์ต
- สร้างพารามิเตอร์ URL
- ตัวแยกวิเคราะห์ส่วนหัว Rate Limit
- เครื่องมือตรวจสอบห่วงโซ่การเปลี่ยนเส้นทาง
- เครื่องมือสร้าง Robots.txt
- ตรวจสอบ Robots.txt
- ตรวจสอบส่วนหัวความปลอดภัย
- สร้าง Security.txt
- ตัวแยกวิเคราะห์ Set-Cookie
- ตรวจสอบเครือข่ายเว็บไซต์
- เครื่องมือสร้าง Sitemap
- ตรวจสอบ Sitemap
- ตัวตรวจสอบใบรับรอง SSL
- เครื่องคำนวณซับเน็ต
- ตัวแยกวิเคราะห์ URL
- ตัวแยกวิเคราะห์ User-Agent
- ตัวสร้างลิงก์ UTM
- ทดสอบ WebSocket
- What Is My IP?
- ค้นหา WHOIS