AI कंटेंट पर सरकार सख्त, बच्चों के शोषण वाले मैटेरियल पर लगाया बैन, अब लेबलिंग जरूरी

केंद्र सरकार ने AI से बने कंटेंट पर नियम नोटिफ़ाई कर दिए हैं। इन नियमों का सीधा असर सोशल मीडिया प्लेटफॉर्म्स और डिजिटल कंपनियों पर पड़ेगा। अब इंटरनेट पर जो भी कंटेंट AI टूल्स से बनेगा, उसे साफ तौर पर लेबल करना जरूरी हो गया है। सरकार ने सूचना प्रौद्योगिकी (मध्यस्थ दिशा-निर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 में संशोधन किया है। नए संशोधनों के तहत डीपफेक और AI से तैयार सामग्री को लेकर स्पष्ट दिशानिर्देश जारी किए, जिनका पालन सोशल मीडिया प्लेटफॉर्म्स को करना होगा। ये बदलाव 20 फरवरी 2026 से लागू होगा।

दरअसल, पिछले कुछ समय में डीपफेक वीडियो, फर्जी तस्वीरें और नकली ऑडियो तेजी से फैलते दिखे हैं। आम यूजर के लिए असली और नकली में फर्क करना मुश्किल हो गया है। सरकार का मानना है कि इसी वजह से गलत जानकारी, बदनामी और धोखाधड़ी के मामले बढ़े हैं। नए नियमों में इसी खतरे को कंट्रोल करने की कोशिश की गई है।

डीपफेक वीडियो पर लगेगा लगाम

अब सोशल मीडिया प्लेटफॉर्म्स और डिजिटल मीडिया संस्थाओं के लिए एआई कंटेंट को स्पष्ट रूप से लेबल करना जरूरी होगा। वहीं यूजर्स की सुरक्षा के प्रति अधिक पारदर्शिता बरतना भी जरूरी होगा। यह कदम उभरती हुई एआई टेक्नोलॉजी के दुरुपयोग को रोकने और नागरिकों के डिजिटल अधिकारों की रक्षा करने की दिशा में एक महत्वपूर्ण मील का पत्थर साबित होगा।

AI कंटेंट के दुरुपयोग को लेकर सरकार सख्त

सरकार की ओर से जारी नए दिशानिर्देशों के मुताबिक अब ‘सिंथेटिकली जेनरेटेड इंफॉर्मेशन’ यानी कृत्रिम या एल्गोरिद्म के जरिए तैयार ऑडियो, वीडियो, फोटो या अन्य दृश्य सामग्री को स्पष्ट रूप से परिभाषित किया गया है। ऐसे कंटेंट में वह सामग्री शामिल होगी जो वास्तविक दिखती हो और किसी व्यक्ति या घटना को इस तरह पेश करती हो कि उसे असली समझा जा सके। हालांकि सरकार ने स्पष्ट किया है कि सामान्य एडिटिंग, रंग सुधार, टेक्निकल सुधार, अनुवाद या दस्तावेज तैयार करने जैसे कार्यों को सिंथेटिक कंटेंट नहीं माना जाएगा, बशर्ते वे भ्रामक या नकली रिकॉर्ड तैयार न करें।

3 घंटों में हटेगा फेक कंटेंट

नए नियमों के तहत अगर किसी सोशल मीडिया प्लेटफॉर्म को अवैध या भ्रामक एआई कंटेंट की जानकारी मिलती है तो उसे तीन घंटे के भीतर हटाना या उसकी पहुंच रोकना जरूरी होगा। पहले इसके लिए 36 घंटे का समय दिया जाता था। इसके अलावा कानून व्यवस्था से जुड़ी सूचना केवल डीआईजी या उससे ऊपर के स्तर के अधिकारी द्वारा ही दी जा सकेगी। सरकार ने यह भी तय किया है कि सोशल मीडिया कंपनियों को हर तीन महीने में यूजर्स को नियमों की जानकारी देनी होगी। यूजर्स को साफ बताया जाएगा कि AI से बना गैरकानूनी या आपत्तिजनक कंटेंट शेयर करने पर IT एक्ट, नए क्रिमिनल कानून, POCSO और दूसरे कानूनों के तहत कार्रवाई हो सकती है।

बढ़ेगी सोशल मीडिया कंपनियों की जिम्मेदारी

अब सोशल मीडिया कंपनियों की जिम्मेदारी भी बढ़ गई है। यूजर जब कोई पोस्ट डालेगा, तो उसे बताना होगा कि कंटेंट AI से बना है या नहीं। प्लेटफॉर्म को यह सिर्फ भरोसे पर नहीं छोड़ना है। कंपनियों को टेक्निकल तरीके से यह भी चेक करना होगा कि यूजर सच बोल रहा है या नहीं। अगर प्लेटफॉर्म नियमों का पालन नहीं करता, तो उसकी कानूनी सुरक्षा खत्म हो सकती है। यानी सरकार अब सीधे प्लेटफॉर्म्स को जवाबदेह बना रही है।