एआई की गलतफहमी फैलाने की क्षमता चिंताजनक नई ऊंचाइयों तक पहुंच रही है - शायद सबसे चिंताजनक रूप गहरे धोखाधड़ी के माध्यम से इसके हथियारों का उपयोग करना है. हाल ही में, स्कार्लेट जोहन्सन ने एक वीडियो के बाद गहरे धोखाधड़ी की तकनीक पर प्रतिबंध लगाने की मांग की है जिसमें एक एआई द्वारा उत्पन्न संस्करण शामिल है. वीडियो में अन्य यहूदी अभिनेताओं जैसे जेरी सेनफेल्ड और मिली कुनीस भी शामिल हैं, जो सभी "कैनी" शब्द के साथ टी-शर्ट पहनते हैं और इसके केंद्र में डेविड स्टार पहनने वाले मध्य उंगली की एक छवि।
के“... मैं यह भी दृढ़ता से मानता हूं कि एआई द्वारा गुणात्मक भाषण की संभावना किसी भी व्यक्ति की तुलना में बहुत बड़ा खतरा है जो इसके लिए ज़िम्मेदारी लेता है. हम एआई के दुरुपयोग को चिह्नित करना चाहिए, इससे कोई फर्क नहीं पड़ता कि इसका संदेश है, या हम वास्तविकता को खोने का जोखिम उठाते हैं,” अभिनेत्री ने लोगों पत्रिका को बताया।
के
“... मैं यह भी दृढ़ता से मानता हूं कि एआई द्वारा बढ़ाई गई नफरत की भाषण की क्षमता किसी भी व्यक्ति की तुलना में बहुत बड़ा खतरा है जो इसके लिए जिम्मेदार है. हम एआई के दुरुपयोग को चिह्नित करना चाहिए, इससे कोई फर्क नहीं पड़ता कि इसका संदेश है, या हम वास्तविकता को खोने का जोखिम उठाते हैं,” अभिनेत्रीबताते हैंकेलोगों की पत्रिका.
लोग अक्सर चीजों को तेजी से करने के लिए एआई का उपयोग कर रहे हैं, या संवेदना पैदा कर रहे हैं, विशेष रूप से मीडिया उद्योग में।पकड़े गएनकली उद्धरणों और कहानियों का निर्माण करने के लिए एआई का उपयोग करना. एआई की मदद से शानदार कहानियों का निर्माण पहले से ही खतरनाक साबित हो गया है. ब्रिटेन में विरोधी प्रवासी हिंसाजन्म सेऑनलाइन गलत जानकारी
ब्रिटेन में तीन लड़कियों की घटना के बाद, विद्रोहियों ने एआई से उत्पन्न छवियों का निर्माण किया जो घृणा को उत्तेजित करते हैं और हानिकारक स्टेरॉयटिप्स फैलाते हैं।गार्डनएलआई संगीत जनरेटरों का उपयोग करने के लिए, अवरोधक समूहों ने भी जातीयतावादी सामग्री के साथ गाने बनाने के लिए किया. इस सामग्री को प्रभावी सिफारिश एल्गोरिथ्म के माध्यम से टेकटोक जैसे ऑनलाइन ऐप्स में फैलाया गया था.
गार्डन
पिछले साल अक्टूबर के मुताबिकवायरलगूगल, माइक्रोसॉफ्ट और Perplexity जैसे आईए-आधारित खोज इंजनों को खोज परिणामों में वैज्ञानिक नस्लवाद को बढ़ावा देने के लिए पाया गया था।
वायरल
याद है जब इलोन मस्क के xAI ने ग्रोक-2 जारी किया, एक छवि जनरेटर जो फ्लोक्स का उपयोग करता है और लगभग कोई सुरक्षा प्रदान नहीं करता है?उपराष्ट्रपति कैमाला हैरिस और डोनाल्ड ट्रम्पएक जोड़े के रूप में, गहरी चिंताओं को उत्तेजित करना, यह हैअनगिनत रचनात्मक स्वतंत्रता, या लोकतंत्र और सार्वजनिक भाषण की अखंडता के लिए एक खतरनाक खतरा?
टेलर स्विफ्ट, महिला राजनेताओं और बच्चों के गहरे फैक्ट्स जो पिछले साल वायरल हो गए हैं, तकनीकी कंपनियों को बैठने और नोटिस लेने के लिए मजबूर कर रहे हैं।एल्गोरिदम, "हम एक बदलाव के बिंदु पर हैं जहां कानूनकारों और उपभोक्ताओं के बीच जागरूकता से दबाव इतना बड़ा है कि तकनीकी कंपनियां अब इस समस्या को अनदेखा नहीं कर सकती हैं।
के"हम एक बदलाव के बिंदु पर हैं जहां कानून बनाने वालों और उपभोक्ताओं के बीच जागरूकता का दबाव इतना बड़ा है कि तकनीकी कंपनियां अब इस समस्या को अनदेखा नहीं कर सकती हैं।
के
“We are at an inflection point where the pressure from lawmakers and awareness among consumers is so great that tech companies can’t ignore the problem anymore.”– हेनरी एजर, जीन एआई विशेषज्ञ।
"हम एक बदलाव के बिंदु पर हैं जहां कानूनकारों और उपभोक्ताओं के बीच जागरूकता का दबाव इतना बड़ा है कि तकनीकी कंपनियां अब इस समस्या को अनदेखा नहीं कर सकती हैं।"हम एक बदलाव के बिंदु पर हैं जहां कानूनकारों और उपभोक्ताओं के बीच जागरूकता का दबाव इतना बड़ा है कि तकनीकी कंपनियां अब इस समस्या को अनदेखा नहीं कर सकती हैं।
उदाहरण के लिए, Google ने कहा कि यहस्पष्ट deepfakes रखने के लिए कदम उठाएंखोज परिणामों में प्रकट होने से बचें. वाटरमार्क और सुरक्षात्मक शील्ड वास्तव में अब तक काम नहीं कर रहे हैं. लेकिन विनियम बढ़ाया जा रहा है. उदाहरण के लिए, ब्रिटेन ने गैर-सामान्य स्पष्ट गहरे फैक्स के निर्माण और वितरण दोनों को प्रतिबंधित किया है. यूरोपीय संघ के पास अपना एआई अधिनियम है और संयुक्त राज्य अमेरिका ने डिफेंस अधिनियम को धक्का दिया है.
स्टार्टअप जैसेSynthesia पूरे शरीर के साथ हाइपररेलिस्टिक डीपफैक्स का वादा करता हैजो आंदोलन और हाथ जो लहरें हैं. डीपफेक्स बस बहुत अधिक यथार्थवादी हो रहे हैं. हम इस के बुरे पक्ष को कैसे रोकेंगे?
AI is Aiding in Financial Fraud
वित्तीय धोखाधड़ी में मदद मिलेगीसोशल मीडिया पर फैलने वाली झूठी खबरेंबैंकों के दौरे के जोखिम को बढ़ाना, एक नए ब्रिटिश अध्ययन के अनुसार जो कहता है कि ऋणदाताओं को निगरानी में सुधार करना चाहिए ताकि यह पता लगाया जा सके कि जब डिज़नेशन जोखिम ग्राहक व्यवहार को प्रभावित करता है।
Juniper अनुसंधानपूर्वानुमानईकॉमर्स धोखाधड़ी का मूल्य 2024 में 44,3 बिलियन डॉलर से 2029 में 107 बिलियन डॉलर तक बढ़ेगा, 141% की वृद्धि होगी।
यह सब एआई के लिए धन्यवाद है, जो ईकॉमर्स पारिस्थितिकी तंत्र पर हमलों की परिष्कृतता को बढ़ावा दे रहा है, जिसमें आईआई का उपयोग करके बनाए गए गहरे फैक का उपयोग सत्यापन प्रणालियों को हराने के लिए एक प्रमुख खतरा बन रहा है. यह खतरा, "अनुकूल धोखाधड़ी" के बढ़ते स्तर के साथ जोड़ा गया है, जहां ग्राहक खुद धोखाधड़ी करते हैं, जैसे कि रिफंड धोखाधड़ी, व्यापारी की लाभदायकता को तेजी से धमका रहा है।
एआई धोखाधड़ी को सुरक्षा उपायों से आगे रहने और बड़े पैमाने पर परिष्कृत हमलों को करने में मदद कर रहा है. एआई भी विश्वसनीय संदेशों और सिंथेटिक पहचानों का निर्माण करके उच्च गुणवत्ता वाले हमलों को एक अभूतपूर्व आवृत्ति पर संभव बना रहा है.
Should AI be as open as the internet?
क्या AI इंटरनेट के रूप में खुले होना चाहिए?मेटा के प्रमुख एआई, Yann LeCun, नेजल्दबाजीकि एआई इंटरनेट के रूप में खुले होना चाहिए क्योंकि अंततः, डिजिटल दुनिया के साथ हमारे सभी बातचीत एआई सहायकों द्वारा मध्यस्थ किए जाएंगे. LeCun ने समझाया कि चैटजीपीटी और लामा जैसे प्लेटफॉर्म सभी मानव ज्ञान और संस्कृति का एक भंडारण बनाएंगे, आज इंटरनेट की तरह एक साझा बुनियादी ढांचा बनाएंगे।
वहकहते हैंहम दुनिया भर के प्रत्येक नागरिक के डिजिटल आहार को नियंत्रित करने वाले एक छोटे से संख्या में एआई सहायक (OpenAI के चैटजीपीटी और इसी तरह) नहीं कर सकते हैं. "यह विचार की विविधता के लिए, लोकतंत्र के लिए, लगभग हर चीज के लिए बेहद खतरनाक होगा," उन्होंने कहा।
जैसा कि एआई अधिक से अधिक मानव जैसा हो जाता है, हमें यह याद रखना चाहिए कि यह अभी भी मानव नहीं है।Bloomberg तकनीकएआई सॉफ्टवेयर है और यह मानव बुद्धि को प्रदर्शित नहीं करता है।
Bloomberg तकनीक
"यह बुद्धि है यदि आप उसे उस नाम देना चाहते हैं, लेकिन यह मेरे पास वैसी बुद्धि नहीं है," वह कहता है।
Navanwita Bora Sachdev, संपादक, The Tech Panda
केNavanwita Bora Sachdev, Editor, The Tech Panda
