क्या हम नैतिक रूप से एआई को अपनाने के लिए बाध्य हैं?

पांच साल पहले, फ्रैंक चेन ने एक सवाल पूछा था जो तब से हर दिन मेरे साथ रहता है। सवाल यह था, "अगर सेल्फ-ड्राइविंग कारें 51% सुरक्षित हैं, तो क्या हमें उन्हें अपनाने के लिए नैतिक रूप से बाध्य नहीं होना चाहिए?" मैंने पिछले पांच सालों में यह सवाल कई बार पूछा है, और आमतौर पर, एक झटके में की गई प्रतिक्रिया एक दिलचस्प बहस की ओर ले जाती है। इस सवाल को इतना बढ़िया बनाने वाली बात है चाकू की धार - यह 99% सुरक्षित नहीं है, यह 70% सुरक्षित नहीं है, यह केवल 51% सुरक्षित है।

इसे संदर्भ में रखें। राष्ट्रीय राजमार्ग सुरक्षा प्रशासन ने बताया है कि 2022 में, अनुमानित 42,795 यातायात दुर्घटनाएँ हुईं। 42,795 का 50% 21,398 लोग हैं, और 51% 21,825 लोग हैं।

इसका मतलब यह है कि अगर सेल्फ-ड्राइविंग कारें 51% सुरक्षित हैं, तो उनके इस्तेमाल से हर साल 427 लोगों की जान बच सकती है। यह यात्रियों से भरे 1.5 बोइंग 777 विमानों के बराबर है।

क्या 427 लोगों की जान बचाना गोद लेने के पक्ष में एक नैतिक तर्क है?

पिछले पाँच सालों से मैं यह सवाल साझा कर रहा हूँ, जवाब कभी भी सरल नहीं होते। वे हमेशा "क्या होगा अगर" से भरे होते हैं। लेकिन भले ही जवाबों में स्पष्टता न हो, मुझे लगता है कि सवाल अविश्वसनीय रूप से महत्वपूर्ण है। आंशिक रूप से इसलिए क्योंकि यह हमारे जीवन और काम के कई पहलुओं में एआई अपनाने की नैतिक अनिवार्यता पर एक व्यापक - और समान रूप से महत्वपूर्ण - बहस को खोलता है। क्योंकि, आखिरकार, ऐसी तकनीक से बचना जो जीवन बचा सकती है, उतनी ही नैतिक रूप से समस्याग्रस्त हो सकती है जितनी कि तकनीक को बहुत जल्दबाजी में अपनाना,

एआई अपनाने की नैतिक अनिवार्यता

मुझे हमेशा से लगता रहा है कि स्वायत्त वाहनों के इर्द-गिर्द होने वाली बहस एआई पर व्यापक चर्चा का एक आदर्श सूक्ष्म रूप है। अगर हमारे पास ऐसी तकनीक है जो सांख्यिकीय रूप से मानव-संचालित वाहनों से ज़्यादा सुरक्षित है, तो क्या नैतिक विकल्प स्पष्ट नहीं है?

इस पर विचार करो: अध्ययन करते हैं दिखाया गया है कि मानव चालकों के दुर्घटना की दर स्व-चालित (AI-संचालित) कारों की तुलना में अधिक थी, जिसमें चोट लगने का जोखिम अधिक था। विशेष रूप से, मानव चालकों ने प्रति मिलियन मील (IPMM) 0.24 चोटें और प्रति मिलियन मील (FPMM) 0.01 मौतें कीं, जबकि स्व-चालित कारों ने 0.06 IPMM और 0 FPMM का कारण बना।

और याद रखें, ये संख्याएँ सिर्फ़ आँकड़े नहीं हैं। ये वास्तविक जीवन को दर्शाती हैं जिन्हें AI तकनीक अपनाकर बचाया जा सकता है।

लेकिन स्वायत्त वाहनों तक ही क्यों सीमित रहें? सुरक्षा, दक्षता और सटीकता बढ़ाने के लिए AI की क्षमता चिकित्सा, सार्वजनिक स्वास्थ्य, खाद्य सुरक्षा, कृषि, साइबर सुरक्षा, अपराध रोकथाम और सैन्य विज्ञान जैसे क्षेत्रों में फैली हुई है। अगर AI मानव डॉक्टरों की तुलना में अधिक सटीकता के साथ बीमारियों का निदान कर सकता है, खाद्य आपूर्ति को नष्ट करने से पहले फसल की विफलता की भविष्यवाणी कर सकता है, या हमारे डेटा को भंग करने से पहले साइबर हमलों को विफल कर सकता है, तो क्या हमारा नैतिक दायित्व नहीं है कि हम उन तकनीकों का भी उपयोग करें?

बेशक, ये नाटकीय उदाहरण हैं, लेकिन तर्क जीवन-मृत्यु परिदृश्यों से परे है। हमारे दैनिक जीवन की गुणवत्ता को बेहतर बनाने की AI की क्षमता भी उतनी ही आकर्षक है। चाहे सांसारिक कार्यों को सरल बनाना हो या सूचना और सेवाओं को अधिक सुलभ और न्यायसंगत बनाना हो, AI थकान को समाप्त कर सकता है और हमारे दैनिक जीवन की गुणवत्ता को बढ़ा सकता है। AI को अपनाने की नैतिक अनिवार्यता केवल नुकसान या मृत्यु को रोकने के बारे में नहीं है; यह इस बारे में है कि क्या हम मानव कल्याण में योगदान करने के लिए बाध्य हैं, यदि हम कर सकते हैं।

चुनाव और सुरक्षा की दुविधा

तो क्या हम मानव-संचालित वाहनों (या मानव-नेतृत्व वाली प्रक्रियाओं) को यह जानते हुए चुनते हैं कि वे अपने AI समकक्षों की तुलना में कम सुरक्षित या कम कुशल हैं? सिर्फ़ इसलिए क्योंकि वे ज़्यादा मानवीय हैं?

मानव-संचालित प्रणालियों और एआई-संवर्धित विकल्पों के बीच चुनाव का सामना करते हुए, मेरा विचार है कि निर्णय स्पष्ट रूप से सुरक्षा और दक्षता पर आधारित होना चाहिए, न कि "मानव" क्या है और क्या नहीं, इस अस्पष्ट विचार पर आधारित होना चाहिए।

एआई को अपनाने का अर्थ मानवीय मूल्य या इनपुट की उपेक्षा करना नहीं है; बल्कि, इसका अर्थ यह स्वीकार करना है कि मानवीय गुण स्वाभाविक रूप से श्रेष्ठ नहीं हैं - और ईमानदारी से कहें तो, विशिष्ट संदर्भों में अक्सर काफी निम्नतर होते हैं।

अब कृपया पिचफोर्क्स बाहर न निकालें, मैं टीम रोबोट ओवरलॉर्ड में शामिल नहीं हो रहा हूँ। मैं बहुत से लोगों की चिंता को समझता हूँ कि एआई पहले से ही उनकी नौकरियों और सामाजिक परिवर्तन में व्यवधान पैदा कर रहा है जो निस्संदेह हमारे रास्ते में आ रहा है। मुझे बस आश्चर्य है कि क्या एआई की दक्षता और जीवन की गुणवत्ता के लाभ, लंबे समय में, उन व्यवधानों के प्रभाव से अधिक हो सकते हैं।

एआई को अपनाने में हमारी कुछ अनिच्छा संज्ञानात्मक पूर्वाग्रहों और भय से प्रेरित है। अपनी अनुकूलन क्षमता के लिए प्रसिद्ध प्रजाति के लिए, हम मनुष्य परिवर्तन को पसंद नहीं करते हैं।

संज्ञानात्मक पूर्वाग्रह एआई को अपनाने में हमारी हिचकिचाहट में महत्वपूर्ण भूमिका निभाते हैं। संज्ञानात्मक पूर्वाग्रह मनोवैज्ञानिक पैटर्न हैं जो होमो सेपियंस के रूप में हमारे शुरुआती वर्षों से चले आ रहे हैं। वे ऐसी आदतें हैं जो हमारे दिमाग में आ जाती हैं - संज्ञानात्मक शॉर्टकट जो शिकारियों से भागते समय उपयोगी हो सकते हैं लेकिन निश्चित रूप से हमारी आधुनिक धारणा और निर्णय को विकृत करते हैं।

इस मामले में, इन पूर्वाग्रहों को पहचानना और उनका समाधान करना, AI अपनाने के लिए अधिक तर्कसंगत, नैतिक दृष्टिकोण की ओर बढ़ने में महत्वपूर्ण है। यहाँ कुछ ऐसे हैं जो मुझे लगता है कि AI तकनीकों के प्रति हमारे संदेह, विश्वास या स्वीकृति को प्रभावित कर सकते हैं।

• मानवरूपी पूर्वाग्रह: लोग एआई या रोबोट को मानवीय विशेषताओं का श्रेय देते हैं, जिससे उनका भरोसा और अपेक्षाएँ प्रभावित होती हैं। इससे एआई सिस्टम की क्षमताओं के बारे में अवास्तविक धारणाएँ बन सकती हैं या बुरे इरादों का आरोप लग सकता है।
  
  
• उपलब्धता अनुमानी: यह पूर्वाग्रह व्यक्तियों को यादगार या ज्वलंत घटनाओं से जुड़ी घटनाओं की संभावना को अधिक आंकने के लिए प्रेरित करता है। AI विफलताओं या सफलताओं के बारे में सनसनीखेज मीडिया रिपोर्ट को अनुपात से बाहर किया जा सकता है और AI विश्वसनीयता और सुरक्षा की धारणाओं को असंगत रूप से प्रभावित कर सकता है।
  
  
• पुष्टिकरण पूर्वाग्रह: बाकी सभी लोग क्या कर रहे हैं? लोग ऐसी जानकारी की तलाश कर सकते हैं या उसकी व्याख्या कर सकते हैं जो AI के बारे में उनकी पहले से मौजूद मान्यताओं या परिकल्पनाओं की पुष्टि करती है। यह पूर्वाग्रह AI प्रौद्योगिकियों और उनके संभावित लाभों या जोखिमों के वस्तुनिष्ठ मूल्यांकन में बाधा डाल सकता है।
  
  
• FOMO: लोग लाभकारी तकनीकों को खोना नहीं चाहते हैं, लेकिन उनके निहितार्थों की समझ की कमी हो सकती है। यह पूर्वाग्रह आलोचनात्मक मूल्यांकन को प्रभावित कर सकता है और समय से पहले अपनाने की ओर ले जा सकता है। यह पूर्वाग्रह बैंडवैगन प्रभाव से संबंधित है (उदाहरण के लिए, हर किसी के द्वारा किए जाने वाले या प्रभावशाली लोगों द्वारा किए जाने वाले कामों को करने या उन पर विश्वास करने की प्रवृत्ति। लोग AI तकनीकों पर केवल इसलिए भरोसा या अविश्वास कर सकते हैं क्योंकि ऐसा लगता है कि यह लोकप्रिय भावना है।

• यथास्थिति पूर्वाग्रह: लोग मौजूदा स्थिति को बनाए रखना पसंद करते हैं, जिसके कारण संभावित लाभ या सिद्ध श्रेष्ठता की परवाह किए बिना एआई जैसी किसी नई चीज़ को अपनाने के खिलाफ प्रतिरोध होता है। यह पूर्वाग्रह नवाचार और संभावित रूप से जीवन को बेहतर बनाने वाली तकनीकों को अपनाने की प्रक्रिया को धीमा कर सकता है।

• हानि से बचने की प्रवृत्ति: यह पूर्वाग्रह किसी चीज को खोने के दर्द को, समान मूल्य की किसी चीज को पाने की खुशी से अधिक शक्तिशाली बनाता है। एआई के लिए, इसका मतलब है कि नौकरी छूटने या नियंत्रण खोने का डर सुरक्षा/दक्षता/सुविधा के लाभों को पीछे छोड़ देता है।
  
  
• अति आत्मविश्वास पूर्वाग्रह: किसी चीज़ को नियंत्रित करने या समझने की अपनी क्षमता का अति आकलन। AI के लिए, इसका मतलब है AI से जुड़े जोखिमों को ज़्यादा या कम आंकना।

• एल्गोरिदम से विमुखता/भरोसा: संख्याएँ डरावनी होती हैं! लोग एल्गोरिदम के प्रति पक्षपाती होते हैं, उनका मानना है कि मानवीय निर्णय लेना बेहतर है, भले ही सबूत कुछ और ही बताते हों। दूसरी ओर, कुछ लोगों को एआई के निर्णयों पर बिना किसी सवाल के भरोसा हो सकता है, वे एआई सिस्टम में त्रुटियों या पूर्वाग्रहों की संभावना को अनदेखा कर देते हैं।
  
  

आर्थिक तर्कसंगतता

दिलचस्प है, है न? लेकिन सच तो यह है कि यह सब अकादमिक है। हो सकता है कि हम अंत में यह निर्णय न ले पाएं। कंपनियाँ पहले से ही यह निर्णय ले रही हैं।

ढेरों निगम एआई एकीकरण के साथ आगे बढ़ रहे हैं - मुख्यतः इसलिए क्योंकि ROI अक्सर नैतिक बहसों से ज़्यादा ज़ोर से बोलता है। अमेज़न इसका एक प्रमुख उदाहरण है, स्वचालन की ओर इसके महत्वपूर्ण बदलाव के साथ। दक्षता और आर्थिक लाभ मूर्त और मापने योग्य हैं, और ठोस नकदी के सामने, नैतिक और सामाजिक आलोचनाएँ अचानक अधिक अकादमिक लगती हैं।

फिर भी, यह केवल पत्थर दिल पूंजीवाद के बारे में नहीं है; यह अस्तित्व और अनुकूलन के बारे में है। व्यवसायों को हर दिन नैतिक और ईएसजी जिम्मेदारियों के साथ तकनीकी अपनाने को संतुलित करने की चुनौती का सामना करना पड़ता है। रोजगार और मानव कल्याण पर एआई का प्रभाव एक बाद का विचार नहीं हो सकता है। हजारों लोगों के लिए, वित्तीय स्थिरता और कैरियर कल्याण इन निर्णयों पर निर्भर करता है। यह कुछ ऐसा है जिससे बहुत सारे उद्यम जूझ रहे हैं।

और यहीं पर नैतिक अनिवार्यता का सवाल और भी जटिल हो जाता है। अगर AI संचालन को सरल बना सकता है, लागत कम कर सकता है और नए अवसर भी पैदा कर सकता है, तो क्या हम इन तकनीकों की खोज के लिए नैतिक रूप से भी जिम्मेदार नहीं हैं?

चाल यह होगी कि हम नैतिक दिशा-निर्देश को अपने पास रखें और यह सुनिश्चित करें कि जैसे-जैसे हम एआई की दक्षताओं को अपनाते हैं, हम आजीविका को अनुचित रूप से बाधित करने की इसकी क्षमता के खिलाफ भी सुरक्षा करते हैं।

हम एक संक्रमण काल में हैं

किसी भी तरह से, हमें अपने कदमों पर नज़र रखने की ज़रूरत है। हम एक नए युग की कगार पर खड़े हैं, और एक ठोस धक्का हमें मुक्त पतन की ओर ले जा सकता है। AI अब भविष्य की कल्पना नहीं रह गई है; यह हमारे दैनिक जीवन और काम में पूरी तरह से समाहित हो गई है। यह रोमांचक है - और नरक जैसा डरावना भी।

हमारे सामने सबसे महत्वपूर्ण चुनौतियों में से एक है पहुँच या तकनीक का अंतर। AI में तकनीक का लोकतंत्रीकरण करने की क्षमता है, जिससे शक्तिशाली उपकरण व्यापक दर्शकों के लिए उपलब्ध हो सकते हैं। हालाँकि, अभी, AI का वादा मुख्य रूप से उन लोगों द्वारा देखा जा रहा है जिनके पास पहले से ही एक निश्चित स्तर की पहुँच है, इसलिए यह भी संभावना है कि AI मौजूदा असमानताओं को कम करने के बजाय उन्हें बढ़ा देगा।

यह समायोजन का दौर है, इसलिए यह सुनिश्चित करने के लिए धैर्य, शिक्षा और सक्रिय उपायों की आवश्यकता होगी कि AI के लाभ व्यापक रूप से वितरित हों। हमारे पास खेल के मैदान को समतल करने की क्षमता है ताकि AI की क्षमता को सभी के लिए खोला जा सके, न कि केवल कुछ विशेषाधिकार प्राप्त लोगों के लिए।

सहयोग की पहेली

ठीक है, तो यह एक विरोधाभास है: एआई को मनुष्यों के साथ बेहतर ढंग से काम करने के लिए, कुछ कार्यों में हमसे बेहतर होना चाहिए। लेकिन यह बहुत ही श्रेष्ठता मानवीय भूमिकाओं को विस्थापित करने की धमकी देती है, जिससे हम मनुष्यों के बीच प्रतिरोध और भय को बढ़ावा मिलता है।

यह विरोधाभास AI के लिए एक कठिन "पुश-पुल" बनाता है; यही कारण है कि हम नैतिकता के बारे में इतनी गरमागरम बहस देख रहे हैं। मेरा मानना है कि समाधान उभरते हुए डिज़ाइन दर्शन और प्रौद्योगिकियों का एक समूह हो सकता है जिसका उद्देश्य नैतिक तरीके से AI और मानव सहयोग के बीच की खाई को पाटना है। मैं उन्हें नीचे सूचीबद्ध करूँगा। वे ChatGPT से पूछने लायक हैं:

• मानव-केंद्रित एआई डिजाइन (एचसीएआई): यह सुनिश्चित करता है कि एआई प्रणालियों को मानवीय आवश्यकताओं और मूल्यों को ध्यान में रखकर विकसित किया जाए।
  
  
• व्याख्यात्मक एआई (एक्सएआई): यह एआई निर्णयों को रहस्यपूर्ण बनाता है, तथा उन्हें मनुष्यों के लिए समझने योग्य और पारदर्शी बनाता है।
  
  
• नैतिक एआई फ्रेमवर्क: मानव अधिकारों और मूल्यों का सम्मान करते हुए एआई प्रणालियों के विकास और परिनियोजन का मार्गदर्शन करें।
  
  
• अनुकूली/प्रतिक्रियाशील एआई: मानवीय प्रतिक्रिया से सीखता है और उसके अनुसार ढल जाता है, जिससे सहक्रियात्मक संबंध सुनिश्चित होता है।
  
  
• सहभागी डिजाइन: एआई विकास प्रक्रिया में अंतिम उपयोगकर्ताओं को शामिल किया जाता है, तथा यह सुनिश्चित किया जाता है कि उनकी आवश्यकताओं और चिंताओं का समाधान किया जाए।
  
  
• संवर्धित बुद्धिमत्ता: मानव क्षमताओं को प्रतिस्थापित करने के बजाय उन्हें बढ़ाने में एआई की भूमिका पर जोर देती है।
  
  
• विश्वसनीय एआई: विश्वसनीयता, सुरक्षा और नैतिक आश्वासन के माध्यम से एआई प्रणालियों में विश्वास पैदा करता है।
  
  

स्वयं-चालित कारें चलायें या स्वयं-चालित कारें न चलायें?

अंत में, मैं एक रुख अपनाऊंगा। मुझे लगता है कि AI को अपनाना एक नैतिक अनिवार्यता है। मेरे विचार में, जीवन बचाने, हमारे जीवन की गुणवत्ता को बढ़ाने और यहां तक कि लंबे समय से चली आ रही असमानताओं को दूर करने की क्षमता इतनी महत्वपूर्ण है कि इसे नज़रअंदाज़ नहीं किया जा सकता। हालाँकि, इसका मतलब यह नहीं है कि हमें बिना सोचे-समझे इसमें कूद पड़ना चाहिए। मेरी राय में, हमें AI को उत्साह और सावधानी के मिश्रण के साथ अपनाने की ज़रूरत है - इसकी संभावनाओं का पता लगाने के लिए उत्साहित रहना चाहिए लेकिन नैतिक, सामाजिक और आर्थिक प्रभावों के प्रति सचेत रहना चाहिए।

विचारशील विचार, मजबूत नैतिक ढांचे और कठोर शासन, एआई की क्षमता को जिम्मेदारी से अनलॉक करने की कुंजी हैं।

मैं अभी भी इस विषय पर बहस के लिए तैयार हूँ। इसलिए, मैं आपसे सवाल पूछता हूँ। यहाँ या मेरे ब्लॉग पर उत्तर दें। लिंक्डइन थ्रेड और मुझे बताइए कि मैं गलत क्यों हूँ — या सही। मैं इस जटिल मुद्दे पर आपके विचार और टिप्पणियाँ आमंत्रित करता हूँ।

क्या हम एआई को उस नैतिक गंभीरता के साथ अपनाने के लिए तैयार हैं जिसकी वह मांग करता है?

क्या आप अपनी अगली सड़क यात्रा स्वचालित कार से करने के लिए तैयार हैं?