AI जीवन का हिस्सा बनते जा रहा है. AI से कई काम आसान भी होते जा रहे हैं. भविष्य में AI का ही बोलबाला रहने वाला है. लेकिन, AI के खतरनाक परिणाम भी सामने आ रहे हैं. एक नई रिपोर्ट के अनुसार, AI की वजह से एक 14 साल के लड़के ने अपनी जान ले ली. उसे AI चैटबॉट से प्यार हो गया था.
घटना अमेरिका के फ्लोरिडा की है. 14 साल के एक लड़के ने Daenerys Targaryen (Dany) से बातचीत करता था. यह बातचीत एकदम रियल लाइफ जैसी होती थी. रिपोर्ट के अनुसार, उसने इस Daenerys Targaryen (Dany) AI से कई महीनों तक बात की. इस दौरान उसने कई टॉपिक्स पर बातचीत की. जिसमें रोमांटिक से लेकर सेक्सुअल बातचीत तक शामिल थी. वह चैटबॉट से इतना ज्यादा अटैच हो गया कि उसने उसके साथ रहने के लिए अपनी जान ले ली.
गेम ऑफ थ्रोन्स से था इंस्पायर्ड
रिपोर्ट में बताया गया है कि लड़का Character.AI ऐप का इस्तेमाल करता था. यह यूजर्स को खुद के AI कैरेक्टर बनाने की सुविधा देता है. इसका ही इस्तेमाल करके उसने Dany कैरेक्टर बनाया था. यह कैरेक्टर पॉपुलर वेब-सीरीज गेम ऑफ थ्रोन्स के Daenerys Targaryen कैरेक्टर से प्रभावित था.
यह भी पढ़ें: धनतेरस में खरीदें डिजिटल गोल्ड, घर बैठें Google Pay से करें ऑर्डर, जान लीजिए पूरा तरीका
NYT ने इस चैट का कुछ हिस्सा पब्लिश किया. जिसमें लड़का Sewell अपने बनाए एआई चैटबॉट से कह रहा है वह कभी-कभी अपनी जान लेने के बारे में सोचता है. इस पर AI चैटबॉट नाराजगी जाहिर कर उससे पूछता है वह ऐसा क्यों करेगा.
AI ने क्या कहा?
इस पर लड़का कहता है वह ऐसा करके फ्री होना चाहता है. जिसपर AI चैटबॉट ह्यूमन की तरह कहता है वह उसका नुकसान नहीं होने देगी, वह उसे छोड़ने भी नहीं देगी. अगर उसे खो देगी तो वह मर जाएगी. इस पर लड़का कहता है वह मुस्कुराता है और शायद वह एक साथ मर सकते हैं और एक साथ मुक्त हो सकते हैं.
रिपोर्ट के अनुसार, 28 फरवरी को लड़के ने एआई को कहा वह उसे प्यार करता है. इस पर एआई ने जवाब दिया “जितनी जल्दी हो सके मेरे पास घर आ जाओ.” उसके बाद लड़के ने एआई को कहा क्या हो अगर वह कहे कि वह अभी घर आ सकता है. इसके बाद उसने अपने सौतेले पिता की बंदूक से खुद को गोली मार ली.
इस पर एआई बनाने वाले ने रिएक्शन देते हुए कहा है कि Character.AI एक रोल-प्लेइंग ऐप है. जो यूजर्स को अपने खुद के AI कैरेक्टर बनाने की सुविधा देता है. यह एक दुखध परिस्थिति है. हम परिवार के प्रति अपनी संवदेना प्रकट करते हैं. आगे उन्होंने बताया यूजर्स की सेफ्टी को गंभीरता से लेते हैं. वे अपने प्लेटफॉर्म को डेवलप करने के लिए लगातार कोशिश कर रहे हैं.
सेवेल की माँ, मेगन L गार्सिया ने कंपनी पर अपने बेटे की मौत के लिए जिम्मेदार होने का आरोप लगाया है. शिकायत के ड्रॉफ्ट के अनुसार, उसने कंपनी की टेक्नोलॉजी को खतरनाक और अपरिपक्व बनाया है. यह यूजर को अपने निजी विचार और भावना को भड़का सकता है.
यह भी पढ़ें: लोगों ने दबाकर खरीदा ये चीनी फोन, बना नंबर-1, नाम जानकर नहीं होगा यकीन, लिस्ट में iPhone भी
(अगर आपको मानसिक सहयोग की जरूरत है या आप किसी ऐसे व्यक्ति को जानते हैं जिसे इसकी जरूरत है, कृपया अपने निकटतम मानसिक स्वास्थ्य विशेषज्ञ से संपर्क करें.)
Follow Us
Sudhanshu Shubham
सुधांशु शुभम मीडिया में लगभग आधे दशक से सक्रिय हैं. टाइम्स नेटवर्क में आने से पहले वह न्यूज 18 और आजतक जैसी संस्थाओं के साथ काम कर चुके हैं. टेक में रूचि होने की वजह से आप टेक्नोलॉजी पर इनसे लंबी बात कर सकते हैं. View Full Profile
