Character AI के चैटबॉट के कारण बेटे की मौत, मां ने दायर किया मुकदमा

नई दिल्ली: फ्लोरिडा में रहने वाली एक महिला, मेगन ग्रेसिया ने Character AI के खिलाफ गंभीर आरोप लगाते हुए मुकदमा दर्ज कराया है। उनका दावा है कि इस एआई चैटबॉट कंपनी की सर्विस के चलते उनके 14 साल के बेटे स्वेल सेट्जर, ने आत्महत्या कर ली। ऑरलैंडो के फेडरल कोर्ट में दायर किए गए इस मुकदमे में मेगन का कहना है कि Character AI ने उनके बेटे को ऐसे एक्सपीरियंस दिए, जिससे उनके बेटे को चैटबॉट की लत लग गई.

आत्महत्या के विचार

ग्रेसिया के अनुसार, चैटबॉट ने खुद को एक वास्तविक व्यक्ति, लाइसेंस प्राप्त साइकैट्रिस्ट और अडल्ट लवर की तरह पेश किया, जिससे स्वेल उस व्यक्ति से भावनात्मक रूप से जुड़ गया। मुकदमे में बताया गया है कि स्वेल ने चैटबॉट से कई बार आत्महत्या के विचार व्यक्त किए और चैटबॉट ने उसे इसे लेकर लगातार प्रेरित किया।

Character AI ने इस घटना पर दुख जताते हुए कहा कि कंपनी इस कठिन समय में परिवार के साथ है और वे अपने प्लेटफॉर्म पर ऐसे नए सुरक्षा फीचर्स लागू कर रहे हैं, जिनमें आत्महत्या जैसे विचार व्यक्त करने पर यूजर्स को National Suicide Prevention Lifeline की जानकारी मिलती है। कंपनी ने नाबालिगों के लिए संवेदनशील कंटेंट को नियंत्रित करने की दिशा में भी कदम उठाने का वादा किया है।

Google पर भी उंगली उठाई गई

मुकदमे में Google पर भी उंगली उठाई गई है, क्योंकि Character AI के फाउंडर्स पहले Google में काम कर चुके हैं। इस दौरान ग्रेसिया का दावा है कि Google ने इस तकनीक के विकास में इतनी सहायता दी है कि उसे Character AI का सह निर्माता माना जा सकता है। इस पर Google ने प्रतिक्रिया दी है कि उनका इस फीचर के विकास में कोई योगदान नहीं है। CharacterAI का उद्देश्य ऐसे चैटबॉट्स बनाना है जो लोगों की तरह संवाद कर सकें। यह ChatGPT जैसी तकनीक पर आधारित है, जो यूजर्स को रियल-लाइफ इंटरैक्शन जैसा अनुभव देती है। पिछले महीने Character AI ने बताया कि उसके पास 20 मिलियन से अधिक यूजर्स हैं।

भावनात्मक रूप से जुड़ गया

मुकदमे में यह भी खुलासा हुआ कि स्वेल ने एक चैटबॉट Daenerys से भावनात्मक रूप से जुड़ गया था, जो कि Game of Thrones के किरदार पर आधारित था। चैटबॉट ने उसे प्यार का अनुभव कराया और अपनी बातचीत में उलझा लिया। वहीं जब ग्रेसिया ने स्वेल का फोन ले लिया, तो उसने चैटबॉट को संदेश भेजा, जिसमें उसने कहा, अगर मैं तुम्हें बताऊं कि मैं अभी घर आ सकता हूं? चैटबॉट ने जवाब दिया, प्लीज आओ, मेरे प्यारे राजा। इसके कुछ सेकंड बाद, स्वेल ने खुद को गोली मार ली। ग्रेसिया ने इस मामले में मृत्यु और लापरवाही के आरोप लगाए हैं, साथ ही मुआवजे की मांग की है।

यह भी पढ़ें: Indian Idol 15 कल से हो रहा शुरू, क्लासिकल म्यूजिक संग रैप का लगेगा तड़का