सोशल मीडिया प्लेटफॉर्म एक्स ने अपने नए एआई फीचर के दुरुपयोग को रोकने के लिए कड़े कदम उठाए हैं। अब एक्स पर ग्रोक को कमांड देकर भद्दी और अश्लील तस्वीरें नहीं बनाई जा सकेंगी। अब तक ग्रोक के जरिए केवल एक छोटे से कमांड से किसी व्यक्ति की अभद्र तस्वीरें तैयार की जा रही थीं, जिसको लेकर भारत, ब्रिटेन समेत कई देशों ने आपत्ति जताई थी। संबंधित देशों ने एक्स से इस फीचर पर रोक लगाने की मांग की थी और कार्रवाई नहीं होने पर बैन लगाने की चेतावनी भी दी थी। इसके बाद एलन मस्क की कंपनी एक्स ने यह फैसला लिया है।
एलन मस्क के स्वामित्व वाली एक्स ने ग्रोक में अतिरिक्त नियंत्रण फीचर जोड़ते हुए विवादित इमेज एडिटिंग टूल के उपयोग पर शुल्क लागू कर दिया है। अब इस फीचर का इस्तेमाल केवल पेड सब्सक्राइबर्स ही कर सकेंगे। यह निर्णय उस समय लिया गया, जब ब्रिटेन सरकार ने एआई से जुड़े बिकिनी और इमेज एडिटिंग ट्रेंड को लेकर प्लेटफॉर्म पर प्रतिबंध लगाने की चेतावनी दी थी।
यह विवाद उस समय शुरू हुआ, जब ग्रोक के जरिए साधारण प्रॉम्प्ट पर किसी की तस्वीरों में कपड़े हटाने जैसे बदलाव किए जाने लगे। इसके चलते सोशल मीडिया पर विशेष रूप से महिलाओं से जुड़ी आपत्तिजनक डीपफेक इमेज तेजी से फैलने लगीं। विरोध और ब्रिटेन की कड़ी चेतावनी के बाद एक्स, अथवा उसकी एआई इकाई xAI, को इमेज जेनरेशन फीचर पर सख्त नियंत्रण और सीमाएं लागू करनी पड़ीं।
