ओपनएआई ने एआई डिटेक्शन टूल बनाया है, तो फिर वह इसे जारी क्यों नहीं कर रहा है?

नवंबर 2022 में ChatGPT जारी करके, OpenAI रातोंरात एक घरेलू नाम बन गया, कम से कम तकनीकी हलकों में। व्यवसायों और व्यक्तियों ने जल्दी से इसके उपकरणों को अपनाया और दैनिक कार्यों को स्वचालित करने के लिए उनका उपयोग करना शुरू कर दिया।

AI द्वारा निर्मित टेक्स्ट और छवियों के साथ एक समस्या यह है कि वे मौजूदा कार्यों को प्रतिबिंबित कर सकते हैं। कुछ लोगों ने सॉफ़्टवेयर पर साहित्यिक चोरी का आरोप लगाया है, जबकि अन्य लोगों को लगता है कि यह मानव निर्मित कार्य जितना विस्तृत नहीं है। हर जगह नियोक्ता लक्षित दर्शकों की ज़रूरतों को पूरा करने और प्रौद्योगिकी का उपयोग करने का सबसे अच्छा समय जानने के लिए AI उपयोग का पता लगाने के बेहतर तरीके चाहते हैं।

ओपन एआई ने एआई डिटेक्शन टूल बनाकर जवाब दिया, लेकिन अभी तक इसे जारी नहीं किया है। कई लोग जानना चाहते हैं कि देरी का कारण क्या है और क्या इसे कभी जनता के लिए उपलब्ध कराया जाएगा।

ओपनएआई अपना टूल जारी करने में क्यों हिचकिचा रहा है?

टेकक्रंच ने ओपनएआई के डिटेक्शन टूल के बारे में बताते हुए एक लेख प्रकाशित किया, जिसका उद्देश्य उन छात्रों को पकड़ना है जो कंप्यूटर प्रोग्राम से अपने पेपर लिखवाकर धोखा देते हैं। कंपनी ने इसे जारी करने के बजाय इसे दबाए रखा, जिससे कुछ लोगों ने सवाल उठाया कि ऐसा क्यों किया गया। ओपनएआई के एक प्रतिनिधि ने कहा कि कंपनी इस पर विचार कर रही है उपकरण के व्यापक प्रभाव और अपना समय ले रहा है.

कई अन्य पहचान उपकरण अप्रभावी रहे हैं, कई बार गलत सकारात्मक परिणाम देते हैं और कई बार AI द्वारा उत्पन्न पाठ का पता लगाने में विफल रहते हैं। OpenAI का उत्पाद मुख्य रूप से ChatGPT द्वारा वॉटरमार्क किए गए पाठ का पता लगाने पर ध्यान केंद्रित करेगा। इसे जारी न करने का एक कारण यह डर है कि यह गैर-देशी अंग्रेजी बोलने वालों पर नकारात्मक प्रभाव डाल सकता है। यह उपकरण ChatGPT को वॉटरमार्क किए गए शब्दों को जोड़ते समय अपने काम करने के तरीके को बदलने के लिए भी मजबूर करता है।

उपकरण के व्यापक उपयोग

यद्यपि यह जांच सॉफ्टवेयर शोध-पत्र लिखने के लिए एआई का उपयोग करने वाले छात्रों को पकड़ने के लिए है, लेकिन इसका उपयोग कई अन्य स्थितियों में भी किया जा सकता है, विशेष रूप से बड़े स्तर पर धोखाधड़ी से निपटने में।

उदाहरण के लिए, विचार करें कि साइबर अपराधियों द्वारा इस्तेमाल किए जाने वाले कंप्यूटर-जनरेटेड टेक्स्ट को पकड़ने में AI डिटेक्टर टूल कितना उपयोगी हो सकता है। अकेले 2023 में, रैनसमवेयर भुगतान पिछले वर्ष से दोगुना 1 बिलियन डॉलर से अधिक हो गई है, और यह संख्या उम्मीद है कि इसमें वृद्धि जारी रहेगी एआई के प्रचलन के साथ नाटकीय रूप से वृद्धि हुई है। चूंकि उपभोक्ता और कंपनियां डेटा उल्लंघनों से निपटने के लिए काम कर रही हैं, इसलिए एआई कंप्यूटर-जनरेटेड टेक्स्ट को पहचानना आसान बना सकता है।

कई घोटालों में किसी व्यक्ति की भावनाओं को झकझोरने या उसे डराने के लिए इस्तेमाल की जाने वाली धाराप्रवाह शब्दावली शामिल होती है। जब यह सुनिश्चित नहीं होता कि कोई संदेश वैध है या नहीं, तो लोग यह देखने के लिए डिटेक्शन टूल के ज़रिए टेक्स्ट चला सकते हैं कि इसे बनाने के लिए AI का इस्तेमाल किया गया था या नहीं। यह काफी मूल्यवान हो सकता है क्योंकि कई घोटालों में रोबोट द्वारा लिखा गया टेक्स्ट शामिल होता है।

जांच उपकरणों के उपयोग के विरुद्ध तर्क

अब तक, AI डिटेक्शन टूल बहुत सटीक नहीं रहे हैं। उन्होंने मूल सामग्री को AI द्वारा जनित बताकर गलत तरीके से चिह्नित किया है और छात्रों को अपने ग्रेड और कभी-कभी अपने शैक्षणिक करियर के लिए संघर्ष करना पड़ा है। विश्वविद्यालय और नियोक्ता साहित्यिक चोरी को गंभीरता से लेते हैं, इसलिए एक झूठा आरोप किसी के भविष्य या आजीविका को नष्ट कर सकता है।

ये उपकरण तब भी अप्रभावी हो सकते हैं जब उपयोगकर्ता उपयोग में आसान और बहुमुखी सॉफ्टवेयर में प्लग करें जो उन्हें AI डिटेक्शन को बायपास करने में मदद करता है, जैसे कि HumanizeAI और RealWriter। लोगों को AI का उपयोग उन तरीकों से करना सीखना चाहिए जो उन्हें बिना किसी जानकारी की चोरी किए विचार-मंथन करने और नए विचार उत्पन्न करने की अनुमति देते हैं। हालाँकि, वे डिटेक्टर द्वारा फ़्लैग किए जाने के डर से किसी भी प्रकार के सॉफ़्टवेयर का उपयोग करने से कतराते हैं।

सॉफ़्टवेयर के विरोधियों को डर है कि यह डिटेक्टर को ट्रिगर करने के डर से लोगों को कम रचनात्मक बना सकता है। StealthAI जैसे प्रोग्राम AI द्वारा उत्पन्न पाठ को पुनः लिखें अधिक मानवीय लगने के लिए। वे यह भी कहते हैं कि लोग चैटजीपीटी जैसे आम तौर पर इस्तेमाल किए जाने वाले टूल से दूर हो जाएंगे और बिना वॉटरमार्क वाले टूल की तलाश करेंगे, जिससे डिटेक्टर टूल बेकार हो जाएगा।

लोग इस बात पर भी चिंता व्यक्त करते हैं कि खराब खिलाड़ी इस टूल का उपयोग कोड को रिवर्स इंजीनियर करने और ऐसा कुछ बनाने के लिए कर रहे हैं जो डीप फेक वीडियो बनाने के लिए एआई का उपयोग करें या DDoS हमले। साइबर अपराधी पहले से ही चालाक हैं। कोई भी उन्हें लोगों को अपना निजी डेटा साझा करने के लिए मूर्ख बनाने के और तरीके नहीं देना चाहता।

एआई डिटेक्शन टूल के लाभ

एआई डिटेक्शन टूल के खिलाफ़ तर्क जल्द ही एक विवादास्पद मुद्दा बन सकते हैं। जबकि लोगों ने गैर-देशी अंग्रेजी बोलने वालों के पीछे छूट जाने पर चिंता व्यक्त की, सॉफ्टवेयर डेवलपर्स समय बीतने के साथ भाषा अवरोध की समस्याओं को ठीक कर लेंगे।

कई लोगों का मानना है कि ओपनएआई जल्द ही अपना टूल जारी करेगा। रिपोर्ट्स बताती हैं आंतरिक बहस चल रही है सॉफ़्टवेयर की उपयोगिता बनाम समावेशिता के बारे में चिंताओं के बारे में लगभग दो साल तक चर्चा हुई। कुछ लोग विश्वविद्यालयों और नियोक्ताओं द्वारा AI-डिटेक्शन टूल के उपयोग से लाभ देखते हैं।

जैसे-जैसे एआई डिटेक्टर का विकास बढ़ता है, उम्मीद है कि इसका उपयोग निम्नलिखित चीजों के लिए किया जाएगा:

• राजनीतिक अभियानों में प्रयुक्त फर्जी वीडियो की पहचान करना

• गलत सूचना का पता लगाना और उसे अन्य बॉट्स की तुलना में अधिक सटीकता से चिह्नित करना

• नैतिक सामग्री तैयार करना

  
  

इस टूल को जारी करने से अन्य ब्रांडों को अपने स्वयं के कार्यक्रम बनाने की प्रेरणा मिल सकती है और एआई पहचान की सफलता दर में वृद्धि हो सकती है।

एआई के उपयोग का भविष्य

चाहे आप इसे पसंद करें या न करें, AI हमेशा के लिए यहाँ रहने वाला है - हालाँकि कंपनियाँ इसे अपनाने में पहले की अपेक्षा थोड़ी धीमी रही हैं। MIT ने एक रिपोर्ट जारी की है जिसमें दिखाया गया है कि यह तकनीक अलग-अलग दरों पर अपनाया गया क्षेत्रों के आधार पर। उदाहरण के लिए, AI को अपनाने वाले अधिकांश व्यवसाय विनिर्माण और स्वास्थ्य सेवा क्षेत्र में थे।

जैसे-जैसे विपणन विभाग एआई के काम करने के तरीके और इसे लागू करने के तरीकों के बारे में अधिक जान रहे हैं, उम्मीद है कि अधिक ब्रांड इसका उपयोग करेंगे और गोपनीयता संबंधी मुद्दों और नकल को रोकने के लिए डिटेक्टर टूल की तलाश करेंगे।

जो लोग कुछ समय के लिए AI का उपयोग करते हैं, वे ऐसे पैटर्न को नोटिस करना शुरू कर देते हैं जिन्हें सॉफ़्टवेयर की मदद के बिना पहचाना जा सकता है। उदाहरण के लिए, लगभग हर लेख के परिचय में एक जैसी भाषा होती है। लेआउट, गति और विवरण एक जैसे होते हैं। थोड़े अभ्यास के साथ, अधिकांश लोग AI द्वारा उत्पन्न लेख को काफी सटीकता से पहचान सकते हैं।

लोगों को अब इस टूल की आवश्यकता क्यों है

AI द्वारा जनित सामग्री का सही तरीके से पता लगाने के तरीके के बिना, लोग ऑनलाइन पढ़ी गई बातों पर भरोसा नहीं कर सकते हैं। अन्य स्थितियों में, उन्हें संदेह हो सकता है कि किसी ने बिना बताए AI का इस्तेमाल किया है, लेकिन इसे साबित करना असंभव है। श्रमिकों पर झूठा आरोप लगाया जा सकता है या वे अपनी नौकरी और डिग्री खो सकते हैं, जबकि वे दोषी नहीं हैं।

यह उपकरण उन विद्यार्थियों की समस्या का समाधान करेगा जो बहुत कम मेहनत करते हैं और अपनी पढ़ाई में फीके रहते हैं, लेकिन फिर भी किसी और की कड़ी मेहनत, पसीने और आंसुओं के आधार पर उन्नत डिग्री प्राप्त कर लेते हैं।

ओपनएआई के उत्पाद का सबसे ज़्यादा असर शिक्षा क्षेत्र में होने की संभावना है। हालाँकि, कंपनियाँ इसका उपयोग यह सुनिश्चित करने के लिए भी कर सकती हैं कि वे अद्वितीय, अत्यधिक लक्षित सामग्री तैयार करें जिसे ग्राहक पढ़ना चाहते हैं।

एक जटिल समस्या

ओपनएआई द्वारा अपने डिटेक्शन टूल को बंद करने का निर्णय इस बात पर आधारित है कि वह एआई तकनीक के विकास और नैतिक चिंताओं के बढ़ने के साथ ही सर्वश्रेष्ठ कार्य करना चाहता है। यह संभवतः किसी समय सॉफ्टवेयर जारी करेगा, जिससे दुनिया भर के शिक्षकों को राहत मिलेगी। अन्य उद्योग इसका किस तरह उपयोग करेंगे, यह देखना अभी बाकी है।

एआई प्रोग्राम विकसित करने वाली सभी कंपनियों को अपने द्वारा पेश की जाने वाली प्रत्येक सुविधा के फायदे और नुकसान को संतुलित करना चाहिए। तभी एआई एक अपरिहार्य उपकरण बन पाएगा जो प्रगति को बढ़ावा देगा।