Strict Government Action Against AI Deepfakes: New Legal Framework and Compliance Rules for Social Media

यह इमेज एआई डीपफेक के खतरे और सरकार की नई कानूनी कार्रवाई को दर्शाती है। बाईं ओर, एक व्यक्ति का चेहरा डिजिटल रूप में बिखरते हुए दिखाया गया है, जो डीपफेक द्वारा पहचान की चोरी और हेरफेर के खतरे का प्रतीक है। दाईं ओर, भारत सरकार के प्रतीक वाला एक ढाल और एक 'स्टॉप' का निशान, एआई-जनरेटेड सामग्री के खिलाफ सख्त सरकारी नियमों और अनुपालन (IT Rules Compliance) का प्रतिनिधित्व करता है। सबसे आगे एक स्मार्टफोन स्क्रीन दिखाई गई है, जो स्पष्ट रूप से एआई-जनरेटेड कंटेंट के लेबलिंग (Labeling) का उदाहरण देती है।

         

 
 हाल के दिनों में आर्टिफिशियल इंटेलिजेंस (AI) और जनरेटिव तकनीक के दुरुपयोग से जुड़े मामलों में तेजी से बढ़ोतरी हुई है। सोशल मीडिया प्लेटफॉर्म्स पर फर्जी वीडियो, मॉर्फ्ड तस्वीरें और डीपफेक कंटेंट धड़ल्ले से शेयर किए जा रहे हैं, जिससे समाज में भ्रम की स्थिति पैदा होती है और कई बार प्रतिष्ठित हस्तियों या आम नागरिकों की छवि को भी भारी नुकसान पहुंचता है। इस गंभीर समस्या से निपटने के लिए सरकार ने अपने कानूनी और विधिक ढांचे को बेहद सख्त कर दिया है।

नए नियमों और कानूनी प्रावधानों के मुख्य बिंदु:

मध्यस्थों (Intermediaries) की जवाबदेही: भारत में 50 लाख या उससे अधिक रजिस्टर्ड यूजर बेस वाले सोशल मीडिया प्लेटफॉर्म्स (SSMIs) के लिए यह अनिवार्य कर दिया गया है कि वे ऐसे अवैध या भ्रामक एआई-जनरेटेड कंटेंट को अपने प्लेटफॉर्म पर फैलने से रोकें।

सुरक्षित harbor (Safe Harbour) के नियम: सरकार ने स्पष्ट कर दिया है कि एआई सेवाओं और जेनरेटिव प्लेटफॉर्म्स को मिलने वाली कानूनी सुरक्षा (Safe Harbour) पूरी तरह से इस बात पर निर्भर करेगी कि वे अपनी सेवाओं के जरिए किस तरह का कंटेंट परोस रहे हैं। यदि वे गैरकानूनी या डीपफेक सामग्री को रोकने में विफल रहते हैं, तो उन्हें कानूनी कार्रवाई का सामना करना पड़ेगा।   

अनिवार्य लेबलिंग (Mandatory Labeling): नए नियमों के तहत सोशल मीडिया मध्यस्थों के लिए यह जरूरी है कि वे अनुमति योग्य एआई-जनरेटेड या सिंथेटिक कंटेंट की स्पष्ट रूप से पहचान करें और उस पर सही लेबल लगाएं, ताकि आम यूजर्स आसानी से समझ सकें कि क्या असली है और क्या कृत्रिम रूप से तैयार किया गया है।

सख्त कानूनी शिकंजा: फर्जी दस्तावेजों, वायरल फेक लेटर या डीपफेक वीडियो के जरिए अफवाह फैलाने वालों पर अब आईटी नियमों की धाराओं के तहत सीधी नजर रखी जा रही है। प्रशासन ऐसे क्रिएटर्स और अकाउंट्स की पहचान कर रहा है जो गलत मंशा से इस तरह की सामग्री सोशल मीडिया पर अपलोड करते हैं।

 क्यों उठाया गया यह कदम?

यह कड़ा कदम उन लोगों और क्रिएटर्स के लिए एक स्पष्ट चेतावनी और सबक है जो व्यूज या किसी अन्य स्वार्थ के लिए भ्रामक और फर्जी वीडियो बनाकर इंटरनेट पर छोड़ देते हैं। डिजिटल स्पेस को सुरक्षित, पारदर्शी और जिम्मेदार बनाने के लिए सरकार की यह पहल देश में फेक न्यूज और डिजिटल धोखाधड़ी पर लगाम लगाने में मील का पत्थर साबित होगी।

Read more update Click here 

Disclaimer:

This content is for informational and educational purposes only. It is based on official Press Information Bureau (PIB) updates and recent government policy guidelines regarding artificial intelligence and digital safety. The views and interpretations shared here aim to promote digital awareness and responsible social media usage. Readers are advised to verify information from official sources before sharing or acting upon any content found online.