किसी भी वेब पेज (ब्लॉग/वेबसाइट) को सर्च इंजन में तब तक इंडेक्स नहीं किया जा सकता जब तक कि उसे गूगल रोबोट द्वारा क्रॉल नहीं किया जाता। दुनिया भर में Google को अनुक्रमित करने के लिए वेबसाइटों को क्रॉल करने वाले बॉट को Google बॉट कहा जाता है। आज के लेख में हम जानेंगे कि Google bot क्या है और यह कैसे काम करता है।

What is Google Bot and how does it work?

GoogleBot एक वेब क्रॉलर सॉफ़्टवेयर है जिसका उपयोग Google द्वारा Google खोज इंजन के लिए खोज योग्य अनुक्रमणिका बनाने के लिए वेब से जानकारी एकत्र करने के लिए किया जाता है। यह Google के वेब क्रॉलर का एक सामान्य नाम है। यह नाम वास्तव में दो अलग-अलग प्रकार के वेब क्रॉलर को संदर्भित करने के लिए उपयोग किया जाता है।


  • डेस्कटॉप क्रॉलर

  • मोबाइल क्रॉलर


डेस्कटॉप क्रॉलर कंप्यूटर पर उपयोगकर्ता की नकल करता है, और मोबाइल क्रॉलर मोबाइल डिवाइस पर उपयोगकर्ता की नकल करता है।


बॉट एक प्रकार का सॉफ्टवेयर है, जिसे सॉफ्टवेयर रोबोट या स्पाइडर के नाम से भी जाना जाता है। आर्टिफिशियल इंटेलिजेंस और मशीन लर्निंग की मदद से बॉट बनाए गए हैं। इसका मुख्य कार्य किसी भी वेब पेज पर मौजूद सभी विवरणों को सर्च इंजन में इंडेक्स/क्रॉल करना है। Google ने अपने विभिन्न क्रॉल सिस्टम को अनुक्रमित करने के लिए कई प्रकार के Google बॉट विकसित किए हैं। जिसे हम GoogleBot Family के नाम से भी जानते हैं।


अलग-अलग तरह के GoogleBots अलग-अलग तरीके से काम करते हैं। जैसा कि आप देख सकते हैं, हर बार जब आप Google में कोई कीवर्ड खोजते हैं, तो आपके सामने विभिन्न Google मेनू आ जाते हैं। जैसे:- समाचार, चित्र, वीडियो, शॉपिंग, मानचित्र, पुस्तकें आदि। इन सभी विभागों के कार्य अलग-अलग हैं।


गूगलबॉट कैसे काम करता है? How does GoogleBot work?


सभी सर्च इंजन में अलग-अलग सर्च कंसोल होते हैं, जिन्हें वेबमास्टर टूल्स के नाम से भी जाना जाता है। इसी तरह, Google के पास एक सर्च कंसोल टूल है। जब भी आप अपने ब्लॉग के किसी पेज, पोस्ट या पूरी वेबसाइट को सर्च कंसोल पर क्रॉल करते हैं, तो GoogleBot परिवार एक समूह के रूप में आपके ब्लॉग पर आ जाता है। जैसा कि हम आपको पहले भी बता चुके हैं कि गूगल ने कई तरह के बॉट बनाए हैं जो अलग तरह से काम करते हैं। जब यह googlebot आपके ब्लॉग पर आता है तो यह check करता है की इस ब्लॉग में किस तरह की जानकारी दी गयी है. उदाहरण के लिए, यदि आपने अनुरोध किया है कि आपका लेख Google खोज कंसोल में जोड़ा जाए, तो सभी Google बॉट आपके ब्लॉग पर आएंगे और देखेंगे कि पाठ, चित्र, ऑडियो, वीडियो, समाचार आदि सहित किस प्रकार की सामग्री शामिल है। इस पोस्ट में।


GoogleBot मूल रूप से आपके ब्लॉग से डेटा कॉपी करता है और इसे अपने सर्वर पर संग्रहीत करता है। जब GoogleBot हो जाता है, तो GoogleBot आपका ब्लॉग छोड़ देता है। एक बार Google बॉट हो जाने के बाद, आपके ब्लॉग पोस्ट का URL Google खोज इंजन द्वारा अनुक्रमित किया जाता है। फिर जब भी कोई यूजर कीवर्ड टाइप करके गूगल पर सर्च करता है तो गूगल आपकी वेबसाइट की रैंकिंग के अनुसार सर्च रिजल्ट में आपका कंटेंट दिखाता है।

GoogleBot कितने प्रकार के होते हैं? What are the types of GoogleBot?


Google ने अब तक कई तरह के bots बनाए हैं, जो Google search results के लिए अलग तरह से काम करते हैं। नीचे आप देख सकते हैं कि Google बॉट कितने प्रकार के होते हैं और किस प्रकार के बॉट काम करते हैं


गूगलबॉट डेस्कटॉप GoogleBot Desktop


Google का डेस्कटॉप बॉट किसी भी वेब पेज को डेस्कटॉप संस्करण के रूप में क्रॉल करता है, खोज इंजन में कोई भी परिणाम दिखाता है और उपयोगकर्ता अनुभव को बढ़ाता है। यह बॉट केवल डेस्कटॉप पर वेब पेजों को क्रॉल करता है।


मोबाइल गूगलबॉट Mobile GoogleBot


इंटरनेट का सबसे अधिक उपयोग मोबाइल ब्राउज़र से किया जाता है। गूगल का मोबाइल बॉट किसी भी ब्लॉग को मोबाइल फ्रेंडली बनाने का काम करता है, जिससे मोबाइल यूजर्स को मदद मिल सके।


इमेज गूगलबॉट Image GoogleBot

जब भी आप अपने ब्लॉग पोस्ट में कोई इमेज जोड़ते हैं, तो Google का इमेज बॉट उस इमेज को कॉपी करता है और उसे Google खोज परिणामों में अनुक्रमित करता है और उपयोगकर्ता को परिणाम दिखाता है।


Videos GoogleBot


मूल रूप से, जब YouTube वीडियो या अन्य स्रोतों से वीडियो सामग्री को ब्लॉग पोस्ट में जोड़ा जाता है, तो Google का वीडियो बॉट इन वीडियो को क्रॉल करता है और उन्हें Google वीडियो अनुभाग में प्रदर्शित करता है।


News GoogleBot


यदि आपका ब्लॉग समाचार से संबंधित है और आपने अपना ब्लॉग Google समाचार को सबमिट कर दिया है। फिर जब भी उपयोगकर्ता यह जानना चाहेगा कि किस प्रकार की खबर है और यदि उसकी वांछित पोस्ट आपके समाचार ब्लॉग पर पहले ही प्रकाशित हो चुकी है, तो आपका ब्लॉग पोस्ट Google समाचार अनुभाग में परिणाम के रूप में प्रदर्शित होगा। और ये समाचार संबंधित ब्लॉग पोस्ट News GoogleBot द्वारा क्रॉल किए जाते हैं।


ऐडसेंस गूगलबॉट Adsense GoogleBot


यह गूगल के ऐडसेंस बॉट का काम है जो किसी खास पोस्ट में आपके ब्लॉग में किसी भी तरह का कंटेंट रखता है। तदनुसार, यह ऐडसेंस स्वीकृति ब्लॉगों पर विज्ञापन प्रदर्शित करता है।


ऐडवर्ड्स गूगलबॉट Adword GoogleBot


ऐडवर्ड्स गूगल की विज्ञापन सेवा है जो ब्लॉग पर ऐडसेंस के साथ विज्ञापनों को जोड़ती है। ऐडवर्ड्स बॉट का काम उस प्रकार के परिणामों के अनुसार विज्ञापन प्रदर्शित करना है जो इस ब्लॉग पर आने वाले उपयोगकर्ता को पसंद है।


Book GoogleBot

यदि आपने अपने ब्लॉग पोस्ट में किसी पुस्तक का उल्लेख किया है या डाउनलोड लिंक प्रदान किया है, तो आप Google पुस्तक मेनू अनुभाग में पुस्तक के परिणाम प्रदर्शित करने के लिए इस बॉट का उपयोग कर सकते हैं।


Google अलग-अलग प्रकार के बॉट्स के साथ कई अलग-अलग काम करता है। उपयोगकर्ता अनुभव को बेहतर बनाने के लिए GoogleBot लगातार विकसित हो रहा है।

GoogleBot को कैसे ब्लॉक करें How to block GoogleBot


अगर आप नहीं चाहते कि GoogleBot आपके ब्लॉग के कुछ निजी पेजों को सर्च इंजन में क्रॉल करे, तो आप उन्हें robots.txt से ब्लॉक कर सकते हैं। परिणामस्वरूप, Google बॉट आपके पृष्ठों को अनुक्रमित नहीं कर पाएंगे।


जिसका एक उदाहरण नीचे दिए गए कोड में दिया गया है,


यदि आप नहीं चाहते कि Google Bot आपकी वेबसाइट को क्रॉल करे, तो User-Agent: * और Disallow: को अपनी वेबसाइट की robots.txt फ़ाइल में जोड़ें।


जिसका एक उदाहरण नीचे दिए गए कोड में दिया गया है,


User-agent: *

Disallow: /cgi-bin/

Disallow: /wp-admin/

Disallow: /recommends/ (Affiliate links are disallowed)

Disallow: /comments/feed/

Disallow: /trackback/

Disallow: /index.php

Disallow: /xmlrpc.php

User-agent: NinjaBot

Allow: /

User-agent: Mediapartners-Google*

Allow: /

User-agent-Googlebot-Image

Allow: /wp-content/uploads (Only we are allowing some specific folders for image indexing)

User-agent: Adsbot-Google

Allow: /

User-agent: Googlebot-Mobile

Allow: /


यदि आप नहीं चाहते कि Google Bot आपकी वेबसाइट को क्रॉल करे, तो User-Agent: * और Disallow: को अपनी वेबसाइट की robots.txt फ़ाइल में जोड़ें।


अंतिम शब्द


तो आप देखते हैं कि Googlebot आपके ब्लॉग को सर्च इंजन में कैसे क्रॉल करता है और यह कैसे काम करता है। एक बात का ध्यान रखें, अगर आप एक निश्चित समय पर अपने ब्लॉग पर कोई पोस्ट पब्लिश करते हैं, तो Google Bots उसे तुरंत सर्च इंजन में इंडेक्स कर देगा और आपकी वेबसाइट की रैंकिंग बढ़ाने में भी मदद करेगा। इस लेख में आप जानेंगे कि GoogleBot क्या है, इसके कितने प्रकार हैं और यह कैसे काम करता है। यदि आपके पास लेख के बारे में कोई प्रश्न या टिप्पणी है, तो कृपया टिप्पणी करें।