Cara Setting Robot.txt dan Robot Header Tags

Robots.txt adalah Sebuah file dengan fungsi untuk membatasi akses robot mesin pencari yang sedang menjelajahi situs web . 

Sebelum mereka mengakses halaman web, mereka memeriksa untuk melihat apakah sebuah fileRobots.txt ada / tidak , dan di dalam robots.txt ada perintah yang mencegah mereka mengakses halaman tertentu.

Meskipun Google / Mesin pencari lainnya tidak akan meng-crawl atau mengindeks konten halaman yang diblokir oleh robots.txt, masih mungkin URL kita di index , hal ini terjadi karena URL kita di temukan di situs lain. Akibatnya, URL kita berpotensi menjadi informasi publik & dapat muncul dalam hasil pencarian.

CARA MENGAKTIFKAN DAN SETTING ROBOT.TXT

1. Log in ke blogger dengan akun blogger anda.
2. Klik Settings Lalu > klik Search Preference.

3. Lalu pilih Custom Robots.txt dan Edit.

4. Masukkan kode ini :

User-agent: *
Disallow: /search?*
User-agent: Mediapartners-Google
Allow:/
Sitemap: http://kemalseo.blogspot.com/feeds/posts/default?orderby=updated
Sitemap: http://kemalseo.blogspot.com/sitemap.xml

5. Lalu Save changes.

Keterangan:
Kelompok baris pertama merupakan informasi user agent milik google menandakan bahwa blog ini adalah partner dari google, hal ini memudahkan bagi anda yang ingin menggunakan jasa google adsense agar iklan yang nantinya ditampilkan relevan dengan isi blog anda, juga memberitahukan bahwa blog kita bisa diakses melalui mesin pencari.

Kelompok baris kedua adalah informasi untuk semua mesin crawler search engine. Disana dituliskan disallow:/search yag menandakan semua robot mesin pencari tidak boleh mengindeks page label. 
yang ini berguna untuk menegah duplikasi artikel yang sangat tidak disukai oleh google.
Kelompok baris ketiga merupakan sitemap yang berfungsi memudahkan mesin pencari mengindeks blog anda

Tanda "/" adalah tanda home page anda jadi jangan hanya meletakkan tanda ini pada kolom disallow karena berakibat mesin pencari tidak bisa mengindex home anda.

CARA SETTING ROBOT HEADER TAGS

1. Masih di menu setting Search preferences / Preferensi penelusuran.
2. Dibagian paling bawah ada menu Custom Robots header tags. Klik edit.
3. Pilih yes.
4. Akan muncul kotak settingan, samakan setingan seperti gambar dibawah ini.

5. Ceklis Sperti gambar di atas lalu save changes.