दरअसल पिछले कुछ सालों में AI डीपफेक और फर्जी इंटीमेट तस्वीरों का मामला तेजी से बढ़ा है. कई लोगों की तस्वीरों को मॉर्फ करके अश्लील फोटो और वीडियो बनाए गए.
सरकार सख्त, लेकिन कंपनियां अब भी कर रहीं हैं लापरवाही!
खासकर महिलाओं और लड़कियों को इसका सबसे ज्यादा नुकसान हुआ. कई मामलों में ब्लैकमेलिंग, ऑनलाइन ट्रोलिंग और मानसिक उत्पीड़न तक की शिकायतें सामने आईं. AI टूल्स की वजह से अब किसी की तस्वीर लेकर कुछ ही मिनटों में नकली वीडियो या फोटो बनाना आसान हो गया है.
इसी खतरे को देखते हुए भारत सरकार ने 2026 में आईटी रूल्स को और सख्त किया. नए नियमों के तहत अगर कोई यूजर किसी प्लेटफॉर्म पर गैर-सहमति वाली इंटीमेट फोटो या डीपफेक कंटेंट की शिकायत करता है, तो सोशल मीडिया कंपनियों को बहुत तेजी से कार्रवाई करनी होगी.
कई मामलों में 2 घंटे के अंदर कंटेंट हटाने की बात कही गई है, जबकि सरकारी या कोर्ट ऑर्डर वाले मामलों में 3 घंटे के अंदर एक्शन लेना पड़ सकता है. ET की एक रिपोर्ट के मुताबिक सराकरी ऑफिशियल्स ने कहा है कि अब करीब 75% ऐसे कंटेंट को शिकायत मिलने के दो घंटे के अंदर हटाया जा रहा है. पहले यही प्रक्रिया कई बार 24 घंटे से लेकर कई दिनों तक चलती थी.
अब प्लेटफॉर्म्स को तेज मॉडरेशन सिस्टम, AI डिटेक्शन टूल और इमरजेंसी रिस्पॉन्स टीम बनानी पड़ रही है.
सरकार ने AI कंटेंट पर लेबल भी किया था मैंडेटरी
नए नियम सिर्फ कंटेंट हटाने तक सीमित नहीं हैं. सरकार चाहती है कि AI से बने कंटेंट को साफ तौर पर लेबल भी किया जाए ताकि लोग समझ सकें कि फोटो या वीडियो असली नहीं है. कई नियमों में यह भी कहा गया है कि सिंथेटिक या AI जनरेटेड मीडिया पर मार्किंग जरूरी होगी.
एक बड़ा बदलाव यह भी है कि अब प्लेटफॉर्म्स पर जिम्मेदारी पहले से ज्यादा बढ़ गई है. अगर कोई कंपनी शिकायत के बाद भी ऐसे कंटेंट को हटाने में लापरवाही करती है, तो उसके खिलाफ कार्रवाई हो सकती है.
भारत सरकार का फोकस अब पहले हटाओ, बाद में जांच करो वाले मॉडल पर दिख रहा है क्योंकि डीपफेक कंटेंट बहुत तेजी से वायरल हो जाता है.
रिपोर्ट में इलेक्ट्रॉनिक्स और आईटी मंत्रालय (MeitY) के अधिकारियों के हवाले से कहा गया है कि पुराने नियमों में दिया गया समय बहुत लंबा था और तब तक ऐसा कंटेंट तेजी से वायरल हो जाता था.
रिपोर्ट के मुताबिक नए नियमों के बाद इंस्टाग्राम, फेसबुक, एक्स और दूसरे प्लेटफॉर्म्स ने अपनी मॉडरेशन टीम और AI सिस्टम को और मजबूत किया है ताकि डीपफेक, मॉर्फ्ड फोटो और रिवेंज पोर्न जैसे कंटेंट को जल्दी पकड़ा जा सके. सरकार का फोकस खासतौर पर महिलाओं और बच्चों को निशाना बनाने वाले कंटेंट पर है.
अधिकारियों ने यह भी माना कि सिर्फ AI पर भरोसा करना आसान नहीं है क्योंकि कई मामलों में गलत तरीके से भी कंटेंट फ्लैग हो सकता है. इसलिए कुछ मामलों में मानव समीक्षा भी की जाती है, जिससे थोड़ी देरी हो सकती है. लेकिन सरकार चाहती है कि ज्यादातर मामलों में तुरंत कार्रवाई हो ताकि पीड़ित को कम से कम नुकसान पहुंचे.
ब्रिटेन में कंपनियों पर जुर्माना का प्रोविजन
सिर्फ भारत ही नहीं, दुनिया के कई देश अब इस तरह के कंटेंट पर सख्ती बढ़ा रहे हैं. ब्रिटेन में भी सरकार ने टेक कंपनियों को चेतावनी दी है कि अगर रिवेंज पोर्न या डीपफेक इंटीमेट कंटेंट को तय समय में नहीं हटाया गया तो भारी जुर्माना या प्लेटफॉर्म ब्लॉक तक हो सकता है.
एक और बड़ी चिंता यह है कि AI टूल्स अब आम लोगों तक पहुंच चुके हैं. रिसर्च में सामने आया है कि हजारों ऐसे मॉडल इंटरनेट पर मौजूद हैं जिनसे किसी की फर्जी तस्वीरें बनाई जा सकती हैं. कई टूल इतने आसान हो चुके हैं कि बिना टेक्निकल जानकारी वाला व्यक्ति भी इन्हें इस्तेमाल कर सकता है.
यही वजह है कि सरकारें अब सोशल मीडिया कंपनियों से सिर्फ शिकायत सुनने की उम्मीद नहीं कर रहीं, बल्कि पहले से ऐसे कंटेंट को पकड़ने वाली टेक्नोलॉजी लगाने का दबाव बना रही हैं. आने वाले समय में इंस्टाग्राम, फेसबुक और दूसरे प्लेटफॉर्म पर AI आधारित मॉनिटरिंग और ज्यादा बढ़ सकती है.
हालांकि इस पर बहस भी शुरू हो गई है. कुछ एक्सपर्ट्स का कहना है कि बहुत तेजी से कंटेंट हटाने के नियम का गलत इस्तेमाल भी हो सकता है और इससे फ्री स्पीच पर असर पड़ सकता है.
लेकिन दूसरी तरफ साइबर एक्सपर्ट्स मानते हैं कि डीपफेक और गैर-सहमति वाले इंटीमेट कंटेंट को रोकने के लिए सख्त कदम जरूरी हैं क्योंकि इस