View Single Post
Old 16th August 2015, 11:30 PM   #1
Sek. RT
 
Join Date: 2 Jul 2015
Userid: 4032
Posts: 27
Likes: 0
Liked 3 Times in 3 Posts
Default Setting robot txt

Robots.txt merupakan sebuah file yang terdapat dalam directory root dari suatu situs yang berguna untuk mengontrol halaman-halaman tertentu agar diindex oleh spider mesin pencari, atau untuk mengatur bagian-bagian tertentu supaya tidak diindex oleh search engine.

Mulai dari pengaturan yang semakin mudah dan tentunya berbagai macam kelebihan dalam hal SEO. Bagi anda yang masih menginginkan berbagai macam pengaturan dalam proses indexing google bisa anda lakukan lewat robot.txt. Robot.txt ini bisa anda gunakan sebagai acuan bagian mana saja yang boleh diindex/ dirayapi google dan nama yang tidak. Hal ini juga berguna bagi anda yang masih mempunyai bandwidth pas-pasan atau memang blog anda yang sudah sangat ramai dan menginginkan untuk melakukan penghematan bandwidth hosting.
Robots.txtDengan memblokir direktori atau file tertentu yang memang tidak perlu diindex, ini juga salah satu cara agar blog atau website menjadi lebih SEO, kenapa bisa begitu, karena waktu yang dibutuhkan search engine saat mendatangi blog kita tidaklah lama. Jadi dengan dicegahnya search engine merayapi direktori tertentu maka kesempatan mesin pencari untuk merayapi dan mengindex seluruh konten atau halaman web yang memang perlu ditampilkan (diindex) menjadi lebih besar (lebih diprioritaskan).
Secara default (jika dalam direktori blog atau web tidak ada file robots.txt maka akan memberikan informasi pada Search Engine bahwa seluruh bagian dari blog atau situs dapat dijelajahi dan dimasukkan dalam index-nya. Dan tidak semua bagian sebuah blog atau web itu perlu didatangi search engine, sebagai contoh untuk pengguna wordpress dengan hosting sendiri bagian folder atau direktori wp-admin, wp-content/cache, wp-content/plugins, wp-includes dll tidak perlu diindex, karena tidak ada gunanya, sebaliknya kalau direktori tersebut ikut diindex malah akan merugikan karena akan boros bandwidth dan juga mungkin mengandung data-data penting yang tidak boleh jadi konsumsi publik
buatblog is offline   Reply With Quote
Sponsored Links