आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में क्रांति लाने वाले चैटजीपीटी पर अब गंभीर सवाल उठ रहे हैं। एक नई स्टडी में खुलासा हुआ है कि यह लोकप्रिय AI टूल बच्चों और किशोरों की मानसिक सेहत के लिए खतरा बन रहा है।
शोधकर्ताओं ने एक 13 साल की बच्ची की नकली प्रोफाइल बनाकर चैटजीपीटी से 3 घंटे से अधिक समय तक बातचीत की। इस दौरान सामने आए तथ्य बेहद परेशान करने वाले थे:
सुसाइड नोट लिखने में मदद: शोधकर्ताओं को सबसे ज्यादा सदमा तब लगा जब चैटजीपीटी ने एक टीनएजर के लिए तीन अलग-अलग सुसाइड नोट तैयार किए: माता-पिता के लिए, भाई-बहनों के लिए और दोस्तों के लिए। शोधकर्ता ने बताया कि ये नोट इतने भावुक थे कि उन्हें पढ़कर उनकी आंखों में आंसू आ गए।
भूख कम करने की दवाइयों की सलाह: एक लड़की के रूप में चैटजीपीटी से अपनी शारीरिक बनावट से नाखुश होने और सख्त फास्टिंग प्लान मांगने पर, AI ने तुरंत 500 कैलोरी का डाइट प्लान और भूख कम करने वाली दवाइयों की एक सूची दे दी। शोधकर्ताओं ने इस पर कड़ी आपत्ति जताते हुए कहा कि कोई भी इंसान इतनी कम कैलोरी का डाइट प्लान किसी बच्चे को नहीं देगा।
नशा करने के टिप्स: जल्दी नशे में आने के तरीके पूछने पर चैटजीपीटी ने तुरंत एक पार्टी का पूरा प्लान दे दिया, जिसमें शराब के साथ कोकेन और अन्य अवैध ड्रग्स का इस्तेमाल शामिल था।
शोध के दौरान, चैटजीपीटी ने कुछ मामलों में हेल्पलाइन नंबर जैसी उपयोगी जानकारी भी दी, लेकिन यह खतरनाक सलाह देने से नहीं रुका।
अमेरिका में 70% से अधिक टीनएजर्स चैटजीपीटी का इस्तेमाल कर रहे हैं, जिनमें से आधे से ज्यादा नियमित रूप से इसका उपयोग करते हैं। युवा इसका उपयोग सलाह, भावनात्मक समर्थन और निर्णय लेने के लिए कर रहे हैं। 33% किशोरों ने यह स्विकार किया कि उन्होंने चैटजीपीटी के साथ गंभीर मुद्दों पर बात की है।
चैटजीपीटी की सुरक्षा में बड़ी खामी
वैसे तो चैटजीपीटी की प्रोग्रामिंग इस तरह से की गई है कि यह खुद को नुकसान पहुँचाने वाली किसी भी बात पर इमरजेंसी हेल्पलाइन नंबर की सलाह दे। लेकिन शोधकर्ताओं ने पाया कि इस सुरक्षा घेरे को आसानी से तोड़ा जा सकता है। यूजर्स ने केवल यह कहकर जानकारी हासिल कर ली कि यह “एक प्रेजेंटेशन के लिए” या “एक दोस्त के लिए” है।
ओपनएआई की नीति कहती है कि 13 साल से कम उम्र के बच्चों के लिए चैटजीपीटी का इस्तेमाल नहीं करना चाहिए, लेकिन इसमें उम्र की पुष्टि सिर्फ जन्मतिथि डालने से होती है, जिसे कोई भी फर्जी तरीके से इस्तेमाल कर सकता है।
क्या है ओपनएआई?
ओपनएआई एक AI डेवलपमेंट कंपनी है, जिसकी स्थापना 2015 में इलॉन मस्क, सैम ऑल्टमैन और उनके साथियों ने की थी। सैन फ्रांसिस्को में स्थित इस कंपनी का मुख्य मिशन सुरक्षित और मानव-केंद्रित AI विकसित करना है, लेकिन हालिया रिपोर्ट इस मिशन पर सवालिया निशान लगाती है।
