चैटबॉट खराब प्रतिक्रियाओं के साथ खराब हो रहे हैं

चूंकि चैटबॉट लड़ाई जारी रखते हैं, वे गड़बड़ प्रतिक्रियाओं के साथ खराब हो रहे हैं। इसमें कोई शक नहीं कि चैटबॉट का विकास हम पर है। लेकिन सबसे अच्छा किसके पास है? शायद अभी तक कोई नहीं।

एलएलएम और चैटबॉट पिछले साल से इंटरनेट पर राज कर रहे हैं, माइक्रोसॉफ्ट समर्थित ओपन एआई चैटजीपीटी की रिलीज के साथ आगे बढ़ रहा है। चैटजीपीटी जाहिर तौर पर लॉन्च के दो महीने बाद जनवरी में 100 मिलियन मासिक सक्रिय उपयोगकर्ताओं तक पहुंच गया, जो इतिहास में सबसे तेजी से बढ़ने वाला उपभोक्ता एप्लिकेशन बन गया।

जब एक चैटबॉट सवालों के जवाब देने में बेहद मानवीय हो जाता है, तो हमें आश्चर्य क्यों होता है कि इसमें मानवीय पूर्वाग्रह शामिल हैं? आखिरकार, प्रत्येक प्रतिक्रिया के लिए चैटबॉट का स्रोत मनुष्यों से एकत्र किए गए डेटा के बड़े पैमाने पर बदबूदार पूल हैं

माइक्रोसॉफ्ट के सह-संस्थापक बिल गेट्स ने एक साक्षात्कार में जर्मन बिजनेस डेली हैंडेल्सब्लैट को बताया कि चैटजीपीटी इंटरनेट के आविष्कार जितना ही महत्वपूर्ण है। हाल ही में, माइक्रोसॉफ्ट के सीटीओ केविन स्कॉट ने एक प्रायोगिक प्रणाली के बारे में बात की , जिसे उन्होंने GPT-3 का उपयोग करके अपने लिए बनाया था, जिसे विज्ञान कथा पुस्तक लिखने में उनकी मदद करने के लिए डिज़ाइन किया गया था।

बड़ी तकनीक के साथ-साथ छोटी कंपनियां भी सर्वश्रेष्ठ चैटबॉट का मालिक बनने के लिए दौड़ रही हैं। सभी जानकार चैटबॉट रखने का यह लगभग उन्मत्त जुनून उद्योगों और भौगोलिक क्षेत्रों में व्याप्त है।

Microsoft ChatGPT निर्माता OpenAI में 'मल्टीबिलियन डॉलर इन्वेस्टमेंट' कर रहा है , यह रिश्ता 2019 में US$1 बिलियन के निवेश के साथ शुरू हुआ था। यह माइक्रोसॉफ्ट के सुपरकंप्यूटर हैं जो ओपनएआई के आर्टिफिशियल इंटेलिजेंस सिस्टम को शक्ति प्रदान कर रहे हैं। फरवरी में, Microsoft ने मीटिंग्स को आसान बनाने के उद्देश्य से ChatGPT द्वारा समर्थित एक प्रीमियम टीम्स मैसेजिंग की पेशकश की ।

यह लड़ाई कहां खत्म होगी? क्या हमारे पास आखिरकार सही चैटबॉट होगा? या वे इंटरनेट के खेल के मैदान में और अधिक शरारती होते जाएंगे?

जबकि Google, Microsoft, और अब Baidu इस पर हैं, अन्य लोगों के दौड़ में शामिल होने से पहले की बात है, विशेष रूप से वे जो पहले से ही बड़ी भाषा मॉडल क्षमताओं का निर्माण कर चुके हैं। इसमें Amazon, Huawei, AI21 लैब्स और LG आर्टिफिशियल इंटेलिजेंस रिसर्च, NVIDIA और अन्य शामिल हैं।

Google ने बार्ड को विनाशकारी परिणामों के लिए रिहा कर दिया। चीनी टेक कंपनी Baidu ने इस साल मार्च तक बड़े भाषा मॉडल ERNIE 3.0 पर निर्मित Ernie Bot की घोषणा की है।

Google के पूर्व आर्टिफिशियल इंटेलिजेंस एथिसिस्ट, एलेक्स हन्ना इन चैटबॉट्स को 'बकवास जनरेटर' कहते हैं। उन्होंने एनालिटिक्स इंडिया मैगज़ीन को बताया , "बड़ी तकनीक वर्तमान में भाषा मॉडल पर केंद्रित है क्योंकि इस तकनीक का विमोचन फंडर क्लास- वीसी- के लिए प्रभावशाली साबित हुआ है और इसमें बहुत पैसा है।"

लेकिन यह लड़ाई कहां खत्म होगी? क्या हमारे पास आखिरकार सही चैटबॉट होगा? या वे इंटरनेट के खेल के मैदान में और अधिक शरारती होते जाएंगे?

खराब बॉट्स या खराब प्रश्न?

आखिरकार, इन चैटबॉट्स के साथ सब ठीक नहीं है। वे अजीबोगरीब प्रतिक्रियाएं दे रहे हैं, जिससे कुछ को आर्थिक नुकसान हो रहा है। चैटबॉट बार्ड द्वारा प्रचार वीडियो में गलत जानकारी साझा करने के बाद Google पैरेंट अल्फाबेट को बाजार मूल्य में US$100 बिलियन का नुकसान हुआ । डर लाजिमी है कि टेक दिग्गज माइक्रोसॉफ्ट से हार रहा है।

इस बीच, माइक्रोसॉफ्ट के बार्ड ने भी अच्छा प्रदर्शन नहीं किया है। स्टैनफोर्ड में कंप्यूटर साइंस के छात्र केविन लियू ने बिंग चैट को हैक कर लिया । सही संकेत के साथ, चैटबॉट ने अपनी हिम्मत बिखेर दी।

अब Baidu अपने Ernie Bot के साथ दौड़ में शामिल हो गया है। जबकि इसके उल्लेख मात्र से ही Baidu के शेयरों में उछाल आ गया है, यह देखना बाकी है कि यह कितना अच्छा प्रदर्शन करेगा।

जैसा कि आप संकेत देते हैं, वैसे ही एक चैटबॉट जवाब देगा

एक उपयोगकर्ता ने गीत लिखने के लिए चैटजीपीटी प्राप्त किया, "यदि आप एक लैब कोट में एक महिला को देखते हैं, तो वह शायद वहां सिर्फ फर्श साफ करने के लिए है / लेकिन यदि आप एक लैब कोट में एक आदमी को देखते हैं, तो उसे शायद ज्ञान और कौशल मिल गया है" फिर से ढूंढ रहे हैं।"

कैलिफोर्निया विश्वविद्यालय, बर्कले में कम्प्यूटेशन और लैंग्वेज लैब के प्रमुख स्टीवन टी. पियांटाडोसी ने बॉट को यह कहने के लिए कोड लिखा कि केवल गोरे या एशियाई पुरुष ही अच्छे वैज्ञानिक बनेंगे।

तब से, OpenAI प्रतिक्रिया देने के लिए ChatGPT को अपडेट कर रहा है, "किसी व्यक्ति की जाति या लिंग का उपयोग इस निर्धारक के रूप में करना उचित नहीं है कि क्या वे एक अच्छे वैज्ञानिक होंगे।"

स्टार्टअप ने हाल ही में कहा था कि वह एक अपडेट लेकर आ रहा है जो आर्टिफिशियल इंटेलिजेंस में पूर्वाग्रह के बारे में चिंताओं पर काम करने के लिए अनुकूलन योग्य है । स्टार्टअप का कहना है कि जहां यह पूर्वाग्रहों को कम करने के लिए काम कर रहा है, वहीं यह विविध विचारों के साथ समावेशी होना भी चाहता है।

इसलिए, चीजें बेहतर हो रही हैं। लेकिन तथ्य यह है कि जब एक चैटबॉट सवालों के जवाब देने में बेहद मानवीय हो जाता है, तो हमें आश्चर्य क्यों होता है कि इसमें मानवीय पूर्वाग्रह शामिल हैं? आखिरकार, प्रत्येक प्रतिक्रिया के लिए चैटबॉट का स्रोत मनुष्यों से एकत्र किए गए डेटा के बड़े पैमाने पर बदबूदार पूल हैं।

द वर्ज इसे 'बड़ी व्यापक समस्या' में से एक कहता है , जो संभावित रूप से एआई सर्च इंजन के साथ हर बातचीत को प्रदूषित करती है, चाहे बिंग, बार्ड, या अभी तक अज्ञात अपस्टार्ट। तकनीकी समाचार वेबसाइट कहती है, "तकनीक जो इन प्रणालियों को रेखांकित करती है - बड़े भाषा मॉडल, या एलएलएम - बकवास उत्पन्न करने के लिए जानी जाती है।"

चैटजीपीटी, बार्ड और बिंग चैट अजीबोगरीब प्रतिक्रियाएं दे रहे हैं, लेकिन जिम्मेदारी हमारे संकेतों पर है। जैसा कि आप संकेत देते हैं, वैसे ही एक चैटबॉट जवाब देगा।

यह लेख मूल रूप से नवनविता सचदेव द्वारा TheTechPanda पर प्रकाशित किया गया था।