Grok AI restrictions: दुनिया के सबसे अमीर शख्स एलन मस्क की कंपनी X (पहले ट्विटर) इन दिनों एक गंभीर विवाद की वजह से सुर्खियों में बना हुआ है। सुर्खियों में बने रहने की वजह आर्टिफीसियल इंटेलिजेंस (AI) के गलत इस्तेमाल है। हाल ही में X के AI चैटबॉट ग्रोक (Grok) को लेकर ढेर सारी शिकायतें सामने आईं, जिसके बाद अब कंपनी को कड़े कदम उठाने पड़े हैं। दरअसल, कई यूजर्स इस ग्रोक का इस्तेमाल करके महिलाओं की तस्वीरों को अश्लील या आपत्तिजनक रूप में बदल रहे थे। जब यह मामला बढ़ा और महिलाओं ने अपनी तस्वीरों के गतल इस्तेमाल की शिकायतें दर्ज कराईं, तो X की सुरक्षा टीम ने एक बड़ा ऐलान किया। अब ग्रोक के जरिए असली व्यक्तियों की ऐसी तस्वीरें नहीं बनाई जा सकेंगी जिनमें उन्होंने रिवीलिंग या छोटे कपड़े पहने हों।
प्रीमियम यूजर्स पर भी पाबंदी
ग्रोक की सुरक्षा टीम ने यह भी साफ किया है कि यह पाबंदी सिर्फ फ्री यूजर्स के लिए नहीं है, बल्कि X के प्रीमियम सब्सक्रिप्शन वाले यूजर्स पर भी लागू होगी। कंपनी ने कहा कि इस कदम से महिलाओं और बच्चों के प्रति होने वाले डिजिटल क्राइम को रोकने में मदद मिलेगी। अब अगर कोई व्यक्ति ग्रोक का इस्तेमाल करके कोई कश्लील कंटेंट बनाता है, तो उसे सीधे तौर पर जिम्मेदार ठहराया जा सकेगा।
सरकार की सख्ती के बाद कंपनी ने लिया एक्शन
बता दें कि विवाद बढ़ने के बाद भारत के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने इस पर कड़ा संज्ञान लिया। मंत्रालय के साइबर कानून विभाग ने X को साफ निर्देश दिए थे कि वे बिना किसी देरी के ऐसी तमाम सामग्रियों को हटाएं जो भारतीय कानूनों का उल्लंघन करती हैं। भारत सरकार की इसी सख्ती के बाद X को अपनी एक्शन टेकन रिपोर्ट पेश करनी पड़ी।
X से हटे 3,500 अश्लील कंटेंट
इस रिपोर्ट के आंकड़े चौंकाने वाले हैं। X ने भारत में ग्रोक से बनाई गई लगभग 3,500 अश्लील सामग्रियों और तस्वीरों को अपने प्लेटफॉर्म से हटा दिया है। इसके साथ ही X ने उन 600 यूजर्स को भी चिन्हित कर ब्लॉक कर दिया है जो इस चैटबॉट का गलत इस्तेमाल कर अश्लील कंटेंट बना रहे थे। सरकार ने साफ कर दिया है कि डिजिटल प्लेटफॉर्म्स को 'आईटी नियम 2021' का सख्ती से पालन करना होगा।
