नई दिल्ली
Elon Musk की AI कंपनी के एक फीचर के बाद से सोशल मीडिया पर बवाल मचा है. एक्सपर्ट्स कह रहे हैं कि इससे देश में एडल्ट कंटेंट बढ़ेंगे और Sextortion जैसे क्राइम को भी हवा मिलेगी. सिर्फ एक फोटो से xAI का ये फीचर किसी की भी अश्लील फोटो तैयार कर देगा.
Grok AI पर इस फीचर को Spicy Mode नाम दिया है, जिसने आते ही कई लोगों की चिंता बढ़ा दी है. हैरानी की बात ये है कि ये फीचर एवेलेबल करा दिया गया है और 700 रुपये की मंथली सब्सक्रिप्शन भी है. 700 रुपये में GrokAI का पेड सब्सक्रिप्शन मिलता है.
Spicy Mode असल में Grok Imagine फीचर का हिस्सा है और यह एक AI-पावर्ड इमेज और वीडियो जनरेशन टूल है. यह फीचर SuperGrok या X Premium+ सब्सक्रिप्शन के साथ iOS ऐप पर दिया गया है.
Grok के Spicy Mode फीचर को लेकर उठने वाली चिंताएं लाज़मी हैं. असल में इस फीचर की मदद से यूजर्स ना सिर्फ प्रॉम्प्ट देकर एडल्ट कंटेंट बनाने की सुविधा मिलेगी बल्कि किसी पुरानी फोटो या किसी दूसरे शख्स की फोटो का भी गलत इस्तेमाल कर सकेंगे.
Deepfake जैसा खतरनाक Spicy Mode
दरअसल, बीते साल Deepfake फोटो और वीडियो की वजह से कई लोगों को परेशानी का सामना करना पड़ा था. यहां तक कि ये मामले सेलिब्रिटी तक पहुंच गए थे, जहां रश्मिका मंदाना का एक फेक वीडियो काफी सुर्खियों में रहा था.
क्या Grok Spicy Mode भारत में उपलब्ध है?
हां, भारत में Grok Spicy Mode मौजूद है, लेकिन इसका इस्तेमाल शर्तों के साथ करना होगा. अब अगर कोई शख्स Spicy Mode की मदद से किसी लड़की का फोटो अपलोड करता है और उसको Spicy Mode में कंवर्ट करने को कहता है तो यह पूरी तरह से गैर कानूनी काम है.
प्राइवेसी का उल्लंघन
जानकारी के लिए बता देते हैं कि इस एडल्ट कंटेंट जनरेट करना उस व्यक्ति की प्राइवेसी का उल्लंघन है और गैर कानूनी भी है. विक्टिम चाहे तो फोटो या वीडियो बनाने वाले के खिलाफ पुलिस कंप्लेंट भी दर्ज करा सकते हैं. xAI ने क्लियर कर दिया है कि Spicy Mode का मिसयूज कानूनी कार्रवाई का कारण बन सकता है.
xAI की पॉलिसी लेकिन बहुत सीमित
xAI ने Spicy Mode में कुछ मॉडरेशन लगाए हैं, जैसे पब्लिक फिगर्स यानी सेलिब्रिटी आदि का एक्सप्लिसिट कंटेंट जनरेट नहीं होता. हालांकि प्राइवेट इंडिविजुअल्स के फोटो अपलोड किए जा सकते हैं, जिससे इस फीचर के मिसयूज होने का खतरा है.
प्राइवेसी को सेफ रखने का क्या है तरीका?
xAI में फेस रिकग्निशन और आईडेंटिटी वेरिफिकेशन टूल्स का यूज किया जा रहा है. इससे पब्लिक फिगर्स की फोटो को एडल्ट कंटेंट में कंवर्ट नहीं कर पाएंगे. यहां यूजर्स चाहें तो कंटेंट की रिपोर्ट भी कर सकते हैं. इसके लिए xAI ने एक टीम तैयार की है, जो इन शिकायतों को सुनेगी और सॉल्व करेगी.
ग्लोबल पॉलिसी होने की वजह से परेशानी
xAI दुनिया के कई देशों में काम करता है और सभी देशों के अपने अलग-अलग नियम और कानून है. ऐसे में xAI के लिए ग्लोबल लेवल पर पॉलिसी लागू करना मुश्किल हो जाता है. हालांकि अगर कोई देश या स्थानीय अथॉरिटी कंप्लेंट करती हैं तो X उस पर एक्शन लेता है.
Spicy Mode बड़े खतरे में डाल सकता है
भारत में किसी की मर्जी के खिलाफ जाकर उसकी फोटो को एडल्ट तस्वीर में बदलना गैरकानूनी है. भारत में इसके लिए कई नियम-कानून भी हैं. भारतीय न्याय संहिता (BNS) 2023 के तहत धारा 354C और धारा 509 के तहत केस दर्ज किया जा सकता है. साथ ही सूचना प्रौद्योगिकी अधिनियम (IT Act), 2000 की धारा 66E, धारा 67, धारा 67A के तहत केस दर्ज कराया जा सकता है.