कृत्रिम सामग्री और सोशल मीडिया

संपादकीय { गहरी खोज }: कृत्रिम सामग्री से होने वाले नुकसान से उपयोगकर्ताओं को बचाने के लिए इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय ने आईटी नियम, 2021 में संशोधन का मसौदा पेश किया है। प्रस्तावित बदलावों का उद्देश्य ‘एआई के जरिये कृत्रिम रूप से तैयार सामग्री’ (सिंथेटिक कंटेंट) की स्पष्ट पहचान करना और बड़े सोशल मीडिया मंचों की जवाबदेही को बढ़ाना है। मंत्रालय ने कहा कि जनरेटिव एआई टूल का इस्तेमाल बढ़ने से अब गलत जानकारी पेश करना और नकली वीडियो एवं ऑडियो क्लिप तैयार करना आसान हो गया है। ऐसी स्थिति में इन पर नियंत्रण पाने के लिए सूचना प्रौद्योगिकी नियम, 2021 में कुछ बदलावों का मसौदा पेश किया जा रहा है। मंत्रालय ने कहा कि हाल ही में डीपफेक वीडियो के बहुप्रचारित होने की घटनाओं ने दिखाया है कि जनरेटिव एआई की मदद से ऐसे व्यक्ति के कथन या कृत्य दिखाए जा सकते हैं जो वास्तव में उनके नहीं थे। ऐसा होने से गलत सूचना फैल सकती है, प्रतिष्ठा को नुकसान पहुंच सकता है, चुनावों को प्रभावित किया जा सकता है या धोखाधड़ी भी हो सकती है। प्रस्तावित नियमों के तहत 50 लाख या उससे अधिक उपयोगकर्ताओं वाले बड़े सोशल मीडिया मंचों को यह सुनिश्चित करना होगा कि अपलोड की गई सामग्री कृत्रिम तो नहीं है। इसकी पुष्टि के लिए तकनीकी उपाय अपनाने होंगे और इस सामग्री को प्रमुखता से चिह्नित करना अनिवार्य होगा। संशोधित नियमों में ‘कृत्रिम रूप से निर्मित जानकारी’ को ऐसी सामग्री के रूप में परिभाषित किया गया है, जिसे कंप्यूटर के जरिये कृत्रिम या गणना पद्धति (एल्गोरिद्म) के इस्तेमाल से निर्मित, संशोधित या वास्तविक लगने वाला रूप दिया गया हो। चिह्नांकन मानकों में वीडियो एवं ऑडियो संकेत शामिल होंगे, जो वीडियो सामग्री के कम-से-कम 10 प्रतिशत या ऑडियो कंटेंट की शुरुआती 10 प्रतिशत अवधि तक दिखाई या सुनाई देंगे। इसी तरह कृत्रिम सामग्री बनाने या संशोधित करने वाले मंच को स्थायी विशिष्ट मेटाडाटा या पहचान-चिह्न डालना होगा, जिसे हटाना या बदलना मना होगा। सूचना प्रौद्योगिकी मंत्रालय ने कहा कि इन संशोधनों का उद्देश्य उपयोगकर्ताओं में जागरूकता बढ़ाना, पहचान को सुनिश्चित करना और जिम्मेदारी तय करना है। इसके अलावा एआई प्रौद्योगिकी में नवाचार को भी प्रोत्साहित करना इसका मकसद है। इन नियमों के मसौदे पर सुझाव एवं टिप्पणियां छह नवंबर, 2025 तक भेजी जा सकती हैं। सरकार का यह मसौदा प्रस्ताव वैश्विक स्तर पर ऐसे कृत्रिम एवं छेड़छाड़ कर बनाए गए वीडियो, तस्वीरों एवं ऑडियो को लेकर बढ़ती चिंता के बीच जारी किया गया है। इसके पीछे सोच यह है कि नियामकीय निगरानी से उपयोगकर्ताओं को नुकसान कम करने में मदद मिलेगी।
एआई के बढ़ते इस्तेमाल और इसके साथ-साथ उसके गलत इस्तेमाल के बढ़ते मामलों को देखते हुए केंद्र सरकार का आईटी नियम 2021 में संशोधन कर उपयोगकर्ताओं के हितों को सुरक्षित करने और बड़े सोशल मीडिया मंचों की जिम्मेवारी व जवाबदेही बढ़ाने के लिए संशोधन करने का प्रस्ताव स्वागतयोग्य है। पिछले दिनों पंजाब के मुख्यमंत्री भगवंत मान संबंधित एक नकली वीडियो वायरल हुई थी, जारीकर्ताओं के विरुद्ध मुकद्दमा दर्ज हो गया है। लेकिन ऐसी नकली वीडियो द्वारा युवा लड़के व लड़कियों सहित प्रसिद्ध हस्तियों की छवि खराब करने का सिलसिला जो शुरू हुआ है, उस पर रोक लगाने के लिए तथा कृत्रिम सामग्री द्वारा समाज में जो नफरत के बीज बो रहे हैं उनके विरुद्ध सख्त से सख्त कार्रवाई हो, यह बात केंद्र सरकार को सुनिश्चित करनी चाहिए। एआई इंसान की मदद के लिए है, उसके विरुद्ध इस्तेमाल करने या समाज को तोड़ने के लिए यह बात सभी उपयोगकर्ताओं को समझनी होगी।