Mohon petunjuk dari para suhu webmaster, saya masih bingung mengenai sitemaps n robot.txt....???itu tuh sebenarnya buat apa sich ??? truz fungsinya buat apa?? truz kalo bisa mohon di describe juga mengenai jenis-jenisnya.... hatur nuhun
buat membolehkan atau melarang crawler ke site kita..dengan robots.txt kita bisa mengatur manaj aja yang boleh dicrawl and yang tidak.