टेक डेस्क: एलन मस्क के सोशल मीडिया प्लेटफॉर्म X ने अपने एआई चैटबॉट Grok AI के दुरुपयोग को रोकने के लिए एक बड़ा कदम उठाया है। अब दुनिया भर के यूजर्स ग्रोक का इस्तेमाल करके किसी भी असली व्यक्ति (Real People) की अश्लील या आपत्तिजनक फोटो नहीं बना पाएंगे। यह फैसला एआई के जरिए महिलाओं और बच्चों की तस्वीरों के साथ होने वाली छेड़छाड़ की बढ़ती शिकायतों के बाद लिया गया है।
महिलाओं और बच्चों की सुरक्षा सर्वोपरि
X के आधिकारिक Safety Account ने गुरुवार को इस प्रतिबंध की जानकारी दी। कंपनी ने बताया कि तकनीकी स्तर पर Grok के एल्गोरिदम में ऐसे बदलाव किए गए हैं जो असली लोगों की बिना कपड़ों वाली तस्वीरें बनाने के रिक्वेस्ट को सीधे ब्लॉक कर देंगे।
नई पाबंदियों की मुख्य बातें:
- फुल बैन: अब किसी भी असली इंसान की ऐसी फोटो जेनरेट नहीं की जा सकेगी जिसमें उसे आपत्तिजनक स्थिति या कम कपड़ों में दिखाया गया हो।
- नो एडिटिंग: कंपनी ने बिकिनी जैसे कपड़ों वाली फोटो एडिटिंग पर भी पूरी तरह रोक लगा दी है।
- सभी के लिए नियम: यह प्रतिबंध X के पेड (Premium) और अनपेड दोनों तरह के यूजर्स पर समान रूप से लागू होगा।
क्यों लिया गया यह फैसला?
पिछले कुछ समय से डीपफेक (Deepfake) और एआई पावर्ड इमेज जेनरेटर का इस्तेमाल करके सेलिब्रिटीज़ और आम लोगों की फर्जी अश्लील तस्वीरें बनाने के मामले तेजी से बढ़े हैं। X ने स्पष्ट किया है कि:
- यह बदलाव किसी की निजता (Privacy) का उल्लंघन होने से बचाने के लिए किया गया है।
- कंपनी यह सुनिश्चित करना चाहती है कि उसके एआई टूल का इस्तेमाल किसी को मानसिक रूप से परेशान या अपमानित करने के लिए न किया जाए।
एक्सपर्ट कमेंट: “एआई के बढ़ते खतरों के बीच एलन मस्क का यह कदम डिजिटल सेफ्टी की दिशा में एक सकारात्मक पहल है। इससे डीपफेक अश्लीलता के बढ़ते ग्राफ पर लगाम लग सकेगी।”
About the Author
