हम पिछली पोस्ट में देख चुके है blogger custom robots header tag setting कैसे करते है. जिस से साईट का SEO improve होता है. आज हम देखेंगे robots.txt file blogger me kaise add kare.
इससे भी site का seo सही होता है.
पर robots.txt के गलत इस्तेमाल से आपके site का seo ख़राब भी हो सकता है इसलिए कुछ भी करने से पाहिले इस article को ध्यान से पढ़े.
यदि आप ब्लॉग्गिंग में नये हो तो आपके मन में सवाल आया होगा robots.txt क्या है?
Robots.txt ये वो file है जो आपके site पर जब search engine bot crawl करता है तब सबसे पहले ये file उसे direction देने का काम करती है.
Mainly ये file page exclude यानि किसी विशेष page या path को index ना करने के लिए किया जाता है.
या फिर किसी विशिष्ट bot को crawl होने से रोकने के लिए इसका इस्तेमाल किया जाता है.
और तीसरा इसका काम है sitemap के जरिए अपने post,images index करवाना.
Contents
Blogger Me Robots.txt File Kis Kaam Aati hai?
जैसे मैंने उपर तीन कारन बताये जिसके लिए robots.txt का इस्तेमाल हम करते है.
पर क्या हमे ये तीनो चीजो के लिए robots.txt blogger में add करना है?
जवाब है नहीं!
दरसल किसी path को या page को noindex करने के लिए blogger ने हमे custom robots header tag का option दिया है कोई post आपको noindex करनी हो तो आप इस header tag से करे.
तो blogger में robots.txt kyu add karna चाहिए?
इसका सीधा जवाब है sitemap के जरिये अपनी सभी post को search engine (google,yahoo,bing,etc) में index करवाना. जिस से site का seo improve करने में आपको मदत मिलेगी.
इससे पहले की कोनसी robots.txt file आपको blogger में लगनी है हम robots.txt के बारे में थोड़ी detail में जानकारी लेते है.
Robots.txt Ki Complete Jankari Meanings Ke Sath
Blogger में ब्लॉग बनाने के बाद automatically robots.txt file generate हो जाती है. वो file देखने का तरीका है.
www.yoursite.com/robots.txt
or
example.blogspot.in/robots.txt
ये url से आपको एक default file मिलेगी जो कुछ इस तरह दिखती है.
User-agent: Mediapartners-Google
Disallow:
User-agent: *
Disallow: /search
Allow: /
Sitemap:
चलिए देखते है इसका meaning क्या है.
Meanings
User-agent: Mediapartners-Google
Disallow:
इसका मतलब है bot जो आपके pages को crawl करने वाला है.
यहाँ ‘Mediapartners-Google’ दिया है यह adsense का bot है. और उसके निचे में Disallow: है.
में आपको बतादू Allow: / और Disallow: का मतलब एक ही है यानि bot को crawl करने की permission देना क्यों के Disallow के आगे कोई path नहीं दिया है..
याद रखे Disallow: / इसका मतलब है पूरी site को crawl ना करना.
और Disallow: /search इसका मतलब है /search और search के through जाने वाले सभी url.
For example- /search/lable/smartphones, /search/lable/cloths , ये सभी url bot crawl नहीं कर पाएगा.
user agent: *
यहाँ ‘*’ का मतलब होता है सभी bots जैसे googlebot, Mediapartners-Google, yahoo, etc.
‘*’ wild card entry मानी जाती है.
Sitemap
Sitemap: https://www.yoursite.com/sitemap.xml
Sitemap में blog के सभी url रहते है जिसको robots.txt में add करने से ब्लॉग के सारे पोस्ट crawl होते है और search engine में index होने में मदत मिलती है.
Best Robots.txt File Blogger Me Kaise Add Kare
निचे बताया गया code seo frendly है आप अपने blog में इस्तमाल कर सकते है.
User-agent: Mediapartners-Google Disallow: User-agent: * Disallow: /search Sitemap: https://www.yoursite.com/sitemap.xml
Step 1
सबसे पहले यह कोड copy कर ले और example.com को अपने domain name से बदल ले.
Step 2
Blogger में login करे >> blog चुने >> settings में जाये >> Search preference पर क्लीक करे.
Step 3
Custom robots.txt को enable कर ने के लिए edit पर click करे और ‘Yes’ वाला radio button चुने.
Step 4
अब step 1 के उपर में जो code copy किया है वो पेस्ट कर के Save Changes पर क्लिक कर दे.
अब आप देख सकते है आपकी new robots.txt file browser में www.yoursite.com/robots.txt type करे और देखे कुछ इस तरह दिखेगा.
Final Words
तो इस post में मैंने blogger me robots.txt kaise add karte hai ये बताया है. और robots.txt में use होने वाले codes के बारे में भी बताया है.
ध्यान रखे अगर आप अपने आप से कोई code edit रहे है कुछ extra lines add कर रहे है.तो उसके बारे में आपको पता होना जरुरी है.
वरना आपकी site का seo ख़राब हो सकता है.
इस विषय के बारे में कोई समस्या या सवाल हो तो comment में पूछे में आपकी पूरी सहयता करूँगा.
Thanks for sharing knowledge
ब्लाग में रोबोटtxt का प्रयोग करने में निश्चित रूप से नए ब्लागर से गलतियां होती हैं। आपकी यह पोस्ट उन्हें बहुत ज्यादा मददगार साबित होगी।