Co je robots.txt
Soubor v prostém textu v kořeni hostitele, na adrese /robots.txt, který prohledávačům říká, o které cesty URL smějí žádat. Jde o pokyn k procházení, nikoli o řízení přístupu: soubor je veřejný a prohledávač, který jej ignoruje, technicky nic neporušuje. V RFC 9309 jsou standardizovány jen čtyři direktivy - User-agent, Allow, Disallow a Sitemap.


