नई दिल्ली
डिजिटल दौर में जहां बच्चे और टीनेजर्स आर्टिफिशियल इंटेलिजेंस (AI) चैटबॉट्स से अपनी निजी बातें शेयर करने लगे हैं. ऐसे में उनकी मानसिक सेहत (Mental Health) को लेकर चिंताएं भी काफी बढ़ गई हैं. इसी दिशा में सोशल मीडिया दिग्गजों में शामिल Meta ने एक बेहद संवेदनशील AI Safety Feature पेश किया है।
अब अगर कोई टीनेजर्स Meta AI से बातचीत के दौरान खुद को नुकसान पहुंचाने या सुसाइड से जुड़ी कोई भी बात करेगा, तो AI सिस्टम तुरंत सतर्क हो जाएगा और उनके माता-पिता को प्रोएक्टिव अलर्ट भेजकर इसकी जानकारी देगा।
कैसे काम करेगा Meta का यह नया AI सेफ्टी फीचर?
पहले के नियमों के तहत, अगर कोई किशोर Meta AI से सेल्फ हार्म से जुड़े विचार शेयर करता था, तो AI केवल संकटकालीन हेल्पलाइन नंबर बताता था. लेकिन अब Meta ने इसे एक कदम और आगे बढ़ाते हुए ज्यादा मददगार बनाते हुए इसमें बच्चे को माता-पिता को अलर्ट भेजने का फीचर जोड़ दिया, यानी अब बच्चा जैसे ही सुसाइड या खुद को नुकसान पहुंचाने वाली बात एआई से करेगा तो मेटा एआई तुरंत इसकी जानकारी उसके माता-पिता के दे देगा, जिससे माता-पिता बच्चों के परेशानी को जानकर सही समय पर उसे समझाने के साथ ही दूसरे जरूरी कदम उठा सकेंगे।
मेटा AI बीरीक संकेतों की भी कर लेता है पहचान
बाल सुरक्षा विशेषज्ञों और माता-पिता के सहयोग से तैयार यह AI सिस्टम बारीक से बारीक संकेतों को भी समझ सकता है, जब कोई टीनेजर खुद को नुकसान पहुंचाने का जिक्र करता है, तो मैनुअल रिव्यू के बाद ही ये एआई अलर्ट भेजेगा. दरअसल, गलतफहमी या बेवजह की घबराहट से बचने के लिए Meta ने सख्त रिव्यू प्रोसेस बनाया है. यानी AI की ओर से फ्लैग की गई हर बातचीत की समीक्षा पहले एक इंसानी टीम की ओर से की जाएगी, जिसके बाद ही माता-पिता को नोटिफिकेशन भेजा जाएगा.अगर समीक्षा के बाद भी टीनेजर की मंशा पूरी तरह स्पष्ट नहीं होती है, तो कंपनी जोखिम न उठाते हुए सावधानी के तौर पर पेरेंट्स को अलर्ट भेजना ही सही समझेगी।
मेटा के कदम को विशेषज्ञों ने सराहा
Connect Safely के सीईओ और सहसंस्थापक लैरी मैगिड ने Meta के इस कदम का स्वागत करते हुए कहा है कि टीनेजर्स को भी निजता का अधिकार है, लेकिन मेरा मानना है कि यदि कोई किशोर खुद को नुकसान पहुंचाने के जोखिम में है, तो उसके माता-पिता को इसकी जानकारी होना बेहद जरूरी है. Meta ने गोपनीयता बनाए रखने और पेरेंट्स को सही समय पर जानकारी देने के बीच एक बेहतरीन संतुलन बनाया है।
किन देशों में शुरू हुआ यह फीचर और भारत में कब होगा रोल आउट?
फिलहाल Meta AI का यह नया पैरेंटल अलर्ट फीचर अमेरिका, ब्रिटेन, ऑस्ट्रेलिया और कनाडा में Instagram के पैरेंटल सुपरविज़न टूल्स का उपयोग करने वाले माता-पिता के लिए उपलब्ध करा दिया गया है. कंपनी का कहना है कि वे इस फीचर को इस साल के अंत तक वैश्विक स्तर पर लागू करने की योजना बना रहे हैं, जिससे भारत सहित दुनिया भर के माता-पिता अपने बच्चों की ऑनलाइन गतिविधियों और मानसिक स्थिति को लेकर अधिक निश्चिंत हो सकेंगे।