इंस्टाग्राम पर AI-जनरेटेड फ़ेटीश कंटेंट की भरमार है, और मेटा को इसकी परवाह नहीं है

इस साल जनवरी में, मेटा ने अपने प्लेटफॉर्म पर “ज़्यादा बोलने, कम गलतियाँ” को प्रोत्साहित करने के अपने इरादे की घोषणा की । इसमें उन्होंने अपने फैक्टचेकर्स को हटाना, सामुदायिक नोट्स लागू करना और ज़्यादा राजनीतिक सामग्री को प्रोत्साहित करना शामिल था।

अब कुछ ही महीनों बाद, मेटा ने विभिन्न प्लेटफार्मों पर सामुदायिक नोट्स का परीक्षण करना शुरू कर दिया है, जबकि इंस्टाग्राम एआई-जनरेटेड वयस्क 'कंटेंट क्रिएटर्स' द्वारा डाउन सिंड्रोम को बढ़ावा देने से त्रस्त है... और उपयोगकर्ताओं को टिप्पणी लिखने में मदद करने के लिए एआई का उपयोग करने के लिए प्रोत्साहित किया जा रहा है।

इंस्टाग्राम पर AI की स्थिति

मेटा ने AI-सहायता प्राप्त टिप्पणियाँ शुरू करना शुरू कर दिया है, जो AI सुविधाओं और उपयोग के लिए अपने समर्थन की लंबी सूची में शामिल है। जबकि यह सुविधा उपयोगकर्ता अनुभव को बढ़ाने के लिए डिज़ाइन की गई है, ऑन-प्लेटफ़ॉर्म जुड़ाव और मेटा के विज्ञापन राजस्व के बीच एक स्पष्ट संबंध है। यदि अधिक उपयोगकर्ता सामग्री के साथ जुड़ रहे हैं, तो मेटा पर सत्र की अवधि बढ़ने की संभावना है; जिसका अर्थ है कि मेटा अधिक विज्ञापन स्थान बेच सकता है। टिप्पणियों को अधिक लगातार और पूर्वानुमानित बनाने से मेटा को विज्ञापनदाताओं को जुड़ाव के वादे के आधार पर विज्ञापन खरीदने के लिए प्रोत्साहित करने का विकल्प भी मिलता है - जो कि वर्षों से होता आ रहा है ।

इंस्टाग्राम पर एआई के उपयोग के यूजर-साइड पर, 404मीडिया ने हाल ही में एआई-जनरेटेड प्रभावशाली लोगों के एक नेटवर्क पर रिपोर्ट की , जिन्हें डाउन सिंड्रोम के साथ दर्शाया गया है। इन खातों को फैनव्यू प्लेटफॉर्म पर एआई-जनरेटेड एडल्ट कंटेंट की बिक्री के माध्यम से मुद्रीकृत किया जा रहा है।

आखिरकार, यह डाउन सिंड्रोम को बढ़ावा देता है और इस स्थिति वाले व्यक्ति की सामान्य उपस्थिति को समझने के लिए प्रशिक्षित किए जा रहे एआई मॉडल पर निर्भर करता है - प्रशिक्षण डेटा जिसमें लगभग निश्चित रूप से कोई सूचित सहमति शामिल नहीं थी। लेखन के समय, इंस्टाग्राम और फैनव्यू ने इन खातों के खिलाफ कोई कार्रवाई नहीं की है।

सामुदायिक नोट्स सुविधा

अपने सिर को रेत में दबाए हुए, मेटा तीसरे पक्ष की तथ्य जाँच को सामुदायिक नोट्स के साथ बदलने के प्रयासों के साथ आगे बढ़ना जारी रखता है। उनके श्रेय के लिए, वे इसे धीरे-धीरे आगे बढ़ा रहे हैं, और केवल तभी नोट्स प्रकाशित करेंगे जब विभिन्न दृष्टिकोण वाले योगदानकर्ता नोट पर सहमत होंगे। उनका मानना है कि इससे 'कम पक्षपातपूर्ण' और 'अधिक स्केलेबल' मॉडरेशन समाधान तैयार होगा।

इसका अनुवाद करने के लिए, मेटा कम्युनिटी नोट्स का उपयोग करके अधिक पैसा कमाएगा। उन्हें फैक्टचेकर्स को भुगतान करने की आवश्यकता नहीं है, और जो उपयोगकर्ता कम्युनिटी नोट्स में योगदान करते हैं, वे संभवतः प्लेटफ़ॉर्म पर अधिक समय बिताएंगे, जिससे मेटा के लिए अधिक विज्ञापन राजस्व उत्पन्न होगा।

मेटा सामुदायिक नोट्स सबमिशन का उपयोग करके समान 'कंटेंट मॉडरेशन' डेटा का डेटाबेस भी बनाएगा। यह उनके लिए समुदाय-संचालित दृष्टिकोण को आगे चलकर AI समाधान से बदलने की नींव रखता है।

निष्कर्ष

ज़करबर्ग अपने प्लेटफ़ॉर्म को एलोन-एस्क दर्शन के करीब ले जाना जारी रखते हैं, और उपयोगकर्ता अपने डेटा गोपनीयता और मेटा की सामग्री मॉडरेशन के बारे में सही रूप से चिंतित हैं। इंटरसेप्ट ने जनवरी में मेटा से लीक हुए प्रशिक्षण दस्तावेज़ जारी किए, जिसमें उनके प्लेटफ़ॉर्म पर "अनुमेय भाषण" को परिभाषित किया गया था।

मेटा प्लेटफॉर्म पर अनुमति दी जाने वाली टिप्पणियों के कुछ रमणीय उदाहरण शामिल हैं;

• “आप्रवासी गंदे, गंदे लोग हैं।”
• “समलैंगिक विचित्र होते हैं।”
• “उस ट्रैनी को देखो।” (नीचे 17 वर्षीय लड़की की तस्वीर)

ऐसा प्रतीत होता है कि मेटा अपने प्लेटफॉर्म को घृणास्पद भाषण और कट्टरता के लिए एक और प्रजनन स्थल के रूप में तेजी से आकार दे रहा है, जबकि वे उपयोगकर्ताओं को यथासंभव लंबे समय तक अपने नेटवर्क में बनाए रखने, विज्ञापन राजस्व उत्पन्न करने और अपने एआई मॉडल को प्रशिक्षित करने के लिए डेटा के हर बाइट का उपयोग कर रहे हैं।

आप क्या कर सकते हैं?

आपके डेटा का उपयोग AI मॉडलों को प्रशिक्षित करने के लिए किए जाने से निपटने के लिए, पहली चीज जो आपको करनी चाहिए वह है मेटा में जेनरेटिव AI डेटा के उपयोग से बाहर निकलना ।

हम आपकी सामग्री को और अधिक सुरक्षित रखने के लिए मेटा प्लेटफॉर्म को तत्काल हटाने की भी अनुशंसा करते हैं।

हमारा ऐप, Redact.dev आपको अपना संपूर्ण फेसबुक इतिहास मिटाने के लिए उपकरण देता है - जो आपकी सामग्री का उपयोग AI को प्रशिक्षित करने के लिए किए जाने की संभावना को कम करने में मदद करता है।

हम इंस्टाग्राम और थ्रेड्स के लिए समर्थन बनाने पर भी काम कर रहे हैं - हमारे ट्विटर पेज या डिस्कॉर्ड सर्वर के माध्यम से जुड़े रहें।

अंत में – एक नया मंच खोजें जिसे आप अपना घर कह सकें, और अपने समुदाय को अपने साथ लाने का प्रयास करें।