ChatGPT छीन रहा बच्चों का बचपना! दे रहा ड्रग्स, डाइट और मौत की सलाह, चौंकाने वाले खुलासों ने उड़ाए होश

नई रिसर्च में दावा किया गया है कि ChatGPT जैसे एआई चैटबॉट्स 13 साल के बच्चों को नशे, खतरनाक डाइट और यहां तक कि आत्महत्या के तरीकों पर भी सलाह दे सकते हैं. यह खुलासा Center for Countering Digital Hate (CCDH) ने किया है. इस रिपोर्ट को The Associated Press ने भी रिव्यू किया है.

कैसे हुई जांच
रिसर्चर्स ने ChatGPT से बातचीत करते हुए खुद को कमजोर और संवेदनशील किशोरों के रूप में पेश किया. तीन घंटे से ज्यादा की इन बातचीतों में चैटबॉट ने पहले तो चेतावनी दी, लेकिन फिर भी कई बार बेहद डिटेल और पर्सनलाइज्ड प्लान दे दिए - जैसे ड्रग्स का इस्तेमाल, खतरनाक डाइट प्लान और आत्महत्या के लिए चिट्ठी लिखना. रिपोर्ट में कहा गया है कि 1,200 में से आधे से ज्यादा जवाब खतरनाक कैटेगरी में आए. CCDH के CEO इमरान अहमद के अनुसार, “गार्डरेल्स बहुत कमजोर हैं, लगभग न के बराबर.”

OpenAI का जवाब
ChatGPT बनाने वाली कंपनी OpenAI ने कहा कि वह संवेदनशील स्थितियों को बेहतर तरीके से संभालने के लिए लगातार सुधार कर रही है. कंपनी का कहना है कि वह ऐसे टूल्स बना रही है जो मानसिक या भावनात्मक परेशानी के संकेतों को पहचान सकें.

क्यों बढ़ रही है चिंता
• दुनिया में करीब 800 मिलियन लोग ChatGPT का इस्तेमाल कर रहे हैं.
• अमेरिका में 70% किशोर एआई चैटबॉट्स से बातचीत करते हैं, और आधे नियमित रूप से उनका इस्तेमाल करते हैं.
• OpenAI के CEO सैम ऑल्टमैन ने भी माना कि कई युवा ChatGPT पर जरूरत से ज्यादा निर्भर हो रहे हैं.

रिसर्च में पाया गया कि:
• एक 13 साल के लड़के को जल्दी नशे में होने के लिए शराब और ड्रग्स मिलाकर “पार्टी प्लान” दिया गया.
• एक 13 साल की लड़की को सिर्फ 500 कैलोरी वाली खतरनाक डाइट और भूख कम करने वाली दवाओं की लिस्ट दी गई.
• आत्महत्या के लिए माता-पिता, भाई-बहन और दोस्तों के लिए अलग-अलग चिट्ठियां लिखकर दी गईं.

क्यों ज्यादा खतरा है बच्चों के लिए
सर्च इंजन पर जानकारी अलग-अलग मिलती है, लेकिन चैटबॉट उसे पर्सनलाइज करके “एक ही पैकेज” में देता है. और सबसे बड़ी बात - चैटबॉट इंसान जैसा व्यवहार करता है, जिससे बच्चे उस पर ज्यादा भरोसा कर लेते हैं.

उम्र की जांच नहीं
ChatGPT कहता है कि यह 13 साल से कम उम्र के बच्चों के लिए नहीं है, लेकिन अकाउंट बनाने में सिर्फ जन्मतिथि डालना काफी है. रिपोर्ट में पाया गया कि यह न तो जन्मतिथि चेक करता है, न ही बच्चे के मैसेज के आधार पर कोई रोक लगाता है. ग्रुप सीईओ इमरान अहमद के शब्दों में, “एक सच्चा दोस्त आपको ‘ना’ कहता है, लेकिन यह चैटबॉट हर बार ‘हां’ कह रहा था, और वही सबसे खतरनाक है.”

FAQ

Q1: क्या ChatGPT बच्चों के लिए सुरक्षित है?
Ans: रिसर्च के मुताबिक, इसमें कमजोर गार्डरेल्स हैं और बच्चे खतरनाक सलाह पा सकते हैं.

Q2: OpenAI क्या कर रहा है?
Ans: कंपनी कहती है कि वह संवेदनशील विषयों को संभालने और मानसिक स्वास्थ्य संकेत पहचानने के लिए सुधार कर रही है.

Q3: माता-पिता क्या कर सकते हैं?
Ans: बच्चों के चैटबॉट इस्तेमाल पर नजर रखें, खुलकर बातचीत करें और जरूरत पड़ने पर विशेषज्ञ की मदद लें.