एलन मस्क के ‘Grok’ पर बड़ा एक्शन: इंडोनेशिया और मलेशिया में लगा प्रतिबंध, डीपफेक और अश्लील कंटेंट बना बड़ी वजह

नई दिल्ली। एलन मस्क की आर्टिफिशियल इंटेलिजेंस कंपनी xAI का चर्चित चैटबॉट Grok एक बार फिर विवादों के घेरे में आ गया है। फर्जी और अश्लील डीपफेक तस्वीरें तैयार करने के आरोपों के चलते इंडोनेशिया और मलेशिया की सरकारों ने इस एआई टूल को अस्थायी रूप से बैन कर दिया है। दोनों देशों ने इसे महिलाओं और बच्चों की सुरक्षा के लिए गंभीर खतरा बताया है। उल्लेखनीय है कि इससे पहले भारत सरकार भी एक्स (X) के एआई टूल Grok से फैल रहे आपत्तिजनक कंटेंट पर चिंता जता चुकी है।

नियमन के बिना एआई पर बढ़ता खतरा

इंडोनेशिया और मलेशिया का यह कदम संकेत देता है कि अब एआई तकनीक को बिना सख्त नियमों के काम करने की छूट नहीं दी जाएगी। मलेशियाई संचार और मल्टीमीडिया आयोग MCMC की जांच में सामने आया कि Grok की तकनीक का दुरुपयोग अश्लील और पोर्नोग्राफिक कंटेंट बनाने में किया जा रहा था। सबसे गंभीर पहलू यह रहा कि यह सामग्री पीड़ितों की सहमति के बिना तैयार की गई, जिससे उनकी निजता, गरिमा और सुरक्षा पर सीधा असर पड़ा।

नोटिस के बावजूद नहीं हुए ठोस सुधार

नियामकों का आरोप है कि एक्स और xAI ने चेतावनियों को गंभीरता से नहीं लिया। मलेशियाई नियामक के अनुसार 3 और 8 जनवरी को कंपनी को नोटिस जारी कर तकनीकी सुरक्षा उपाय लागू करने को कहा गया था, लेकिन ‘डीपफेक जनरेशन’ जैसी मूल समस्या को रोकने के लिए कोई प्रभावी कदम नहीं उठाया गया। कंपनी ने केवल यूजर रिपोर्टिंग सिस्टम पर निर्भरता दिखाई, जिसे अपर्याप्त माना गया। इसके बाद ही Grok को ब्लॉक करने का निर्णय लिया गया।

नागरिकों की गरिमा सर्वोपरि

इंडोनेशिया की संचार और डिजिटल मंत्री मेउत्या हफीद ने इस मामले को मानवाधिकारों और डिजिटल सुरक्षा का गंभीर उल्लंघन बताया। उन्होंने स्पष्ट कहा कि नागरिकों, विशेषकर महिलाओं और बच्चों की गरिमा से कोई समझौता नहीं किया जाएगा और इस मुद्दे पर एक्स से तत्काल जवाब मांगा गया है।

विशेषज्ञों के मुताबिक एआई द्वारा तैयार की जा रही वास्तविक जैसी नकली तस्वीरें और वीडियो लोगों की पहचान और सामाजिक छवि को भारी नुकसान पहुंचा सकती हैं। भारत और यूरोपीय संघ पहले ही इस खतरे को लेकर चिंता जता चुके हैं। अब वैश्विक दबाव के बीच यह देखना अहम होगा कि एलन मस्क की कंपनी सुरक्षा मानकों और एआई नियंत्रण को लेकर क्या ठोस कदम उठाती है।