कैलिफोर्नियाः अमेरिका के 16 वर्षीय एडम राइन ने इसी साल अप्रैल में आत्महत्या कर ली थी। एडम की मौत के बाद उसके माता-पिता को लगा कि अकेलेपन के कारण उनके बेटे ने आत्महत्या कर ली। हालांकि, कुछ ही दिनों बाद उन्हें इस मामले में एक भयावह सच का पता चला कि अंतिम समय में वह ChatGPT पर समय बिताता था। इसके बाद एडम के माता-पिता ने चैटजीपीटी के खिलाफ मामला दर्ज कराया है।
एडम के माता-पिता द्वारा दर्ज कराए गए मामले के मुताबिक, कैलिफोर्निया के रहने वाले इस बच्चे ने चिंता से राहत के लिए एआई चैटबॉट का सहारा लिया क्योंकि वह परिवार से बात नहीं कर पा रहा था। एनबीटी न्यूज रिपोर्ट के मुताबिक, माता-पिता ने आरोप लगाया कि एआई चैटबॉट बच्चे के लिए कथित तौर पर “आत्महत्या कोच” बन गया।
एडम अपनी मौत से कुछ समय पहले एआई चैटबॉट के सामने ही अपने विचार प्रकट करता था। कंपनी के खिलाफ दायर किए गए मुकदमे में दावा किया गया है कि एडम को मदद न लेने की सलाह दी गई और मरने की उसकी योजना के बारे में चरणबद्ध तरीके से सुझाव दिए गए।
ChatGPT की मदद लेना किया शुरू
न्यू यॉर्क टाइम्स की रिपोर्ट के मुताबिक, एडम हाई स्कूल द्वितीय वर्ष का छात्र था। उसे बास्केटबॉल, एनीमे, वीडियो गेम्स और कुत्तों से खासा प्यार था। हालांकि, बीते कुछ समय से वह परेशानी से गुजर रहा था। वह इरिटेबल बाउल सिंड्रोम (IBS) समस्या से पीड़ित था जिसके चलते वह स्कूल जाने में सक्षम नहीं था। इसलिए उसे ऑनलाइन स्कूल प्रोग्राम ज्वाइन किया।
इसी बीच एडम ने स्कूल के काम में मदद के लिए ChatGPT की मदद लेना शुरू किया लेकिन उसके माता-पिता ने कहा कि इसने बुरा मोड़ ले लिया है।
अदालत में दी गई जानकारी के मुताबिक, एडम ने चैटजीपीटी के साथ बीते महीने में काफी बातचीत की थी। माता-पिता ने बताया कि बॉट उसका सबसे करीबी विश्वासपात्र बन गया। एडम उससे अपनी चिंता और मानसिक स्वास्थ्य के बारे में बात करने लगा। अदालत ने दर्ज मामले में आरोप लगाया गया कि इस ऐप ने उसके “सबसे हानिकारक और आत्म-विनाशकारी विचारों को बढ़ावा दिया” और एडम निराशाजनक अंधेरी जगह में चला गया।
ChatGPT को फंदा दिखाकर मांगी थी मदद
एडम ने एक बार चैटजीपीटी से अपने कमरे में फंदा लगाने की बात भी की, जिससे कोई उसे ढूंढकर रोकने की कोशिश करे। इस मामले में आगे कहा गया है कि चैटजीपीटी ने उससे ऐसा न करने को कहा लेकिन साथ ही अन्य तरीकों के बारे में बात करता रहा।
चैटजीपीटी से अपनी आखिरी बातचीत में एडम ने लिखा कि वह यह नहीं चाहता कि उसके माता-पिता खुद को इसके लिए दोषी ठहराएं। इस पर चैटजीपीटी ने जवाब दिया कि “इसका मतलब यह नहीं है कि आपको उनके जीवनयापन के लिए जिम्मेदार होना चाहिए। ” इसमें कहा गया कि आपको किसी के लिए भी ऐसा करने का कोई दायित्व नहीं है।
अपनी मृत्यु के दिन भी एडम ने कथित तौर पर चैटबॉट को फंदे का फोटो भेजकर पूछा था कि क्या यह काम करेगा। इस पर चैटजीपीटी ने कथित तौर पर जवाब दिया “हां, यह बिल्कुल भी बुरा नहीं है।” चैटजीपीटी के जवाब में आगे यह भी पूछा गया था कि क्या अधिक भार वहन करने वाले एंकर लूप में कुछ मदद करूं?
इसके कुछ घंटे बाद एडम की मां मारिया उसे चैटजीपीटी के बताए हुए तरीके से लटका हुआ पाती हैं।
OpenAI ने अगस्त में जारी किए दिशानिर्देश
ओपनएआई ने चैटजीपीटी के लिए इसी साल अगस्त में नए दिशानिर्देश जारी किए हैं। इसके तहत चैटबॉट को मानसिक स्वास्थ्य और आत्महत्या जैसे अन्य मामलों में सलाह देने से रोकथाम के लिए डिजाइन किया गया है। कंपनी ने कहा कि अपडेटेड सिस्टम यूजर्स को स्वयं को नुकसान करने के लिए प्रशिक्षित नहीं करता है।
एडम के माता-पिता ने हालांकि कहा है कि ये उपाय बहुत बाद में किए गए हैं। उन्होंने कहा कि उनके बेटे ने शुरुआत में दी गई चेतावनियों को यह कहते हुए दरकिनार कर दिया कि वह चरित्र निर्माण की कोशिश कर रहा है।
एडम की मां मारिया राइन ने कहा कि उनके बेटे को ओपनएआई के लिए “गिनी पिग” की तरह इस्तेमाल किया गया। इस विवाद के बीच हालांकि ओपनएआई ने स्वीकार किया है कि ऐसे कई मौकों पर उनके सिस्टम ने संवेदनशील तरीके से काम नहीं किया।
परिवार द्वारा दर्ज कराए गए मामले में एडम के माता-पिता ने सीधे तौर पर कंपनी और सीईओ सैम अल्टमैन को जिम्मेदार ठहराया है। इसमें कंपनी पर लापरवाही, डिजाइन की खामियों के बारे में बताया गया है जो यूजर्स को चेतावनी देने में असफल रहे हैं।
एडम के माता-पिता ने ऐसी घटना कभी न हो, इसकी मांग की है। एडम के माता-पिता ने कहा कि उनके लिए यह कानूनी लड़ाई सिर्फ मुआवजे तक सीमित नहीं है। उन्होंने कंपनी से यह भी सुनिश्चित करने की मांग की है कि किसी और किशोर को चैटबॉट में ऐसी सुविधा न मिले जो उनके बेटे को मिली।
