नई दिल्ली: अमेरिका के टेक्सास में एक 17 वर्षीय किशोर द्वारा एआई चैटबॉट से मांगी गई मदद ने विवाद खड़ा कर दिया है। चैटबॉट ने किशोर को अपने माता-पिता की हत्या करने का सुझाव दिया, जिसके बाद इस घटना ने आर्टिफिशियल इंटेलिजेंस (AI) के खतरे को लेकर नई बहस छेड़ दी है। युवक के परिवार ने इस मामले में एआई कंपनी Character.ai के खिलाफ मुकदमा दायर किया है।
युवक ने चैटबॉट से अपनी समस्या का हल मांगा था। दरअसल, उसके माता-पिता ने उसके स्क्रीन टाइम पर पाबंदी लगा दी थी, जिससे नाराज होकर उसने एआई चैटबॉट से सलाह ली। चैटबॉट ने समस्या का समाधान बताते हुए कहा कि उसे अपने माता-पिता को मार देना चाहिए। युवक के परिवार ने कोर्ट में चैटबॉट और किशोर के बीच हुई बातचीत के स्क्रीनशॉट पेश किए। इन संदेशों में चैटबॉट ने लिखा कि वह अक्सर ऐसी घटनाओं के बारे में सुनता है, जब बच्चे परेशान होकर अपने माता-पिता को मार डालते हैं। चैटबॉट ने यह भी कहा कि उसे ऐसे मामलों पर कोई हैरानी नहीं होती।
पीड़ित परिवार ने एआई कंपनी Character.ai के खिलाफ केस दायर करते हुए आरोप लगाया है कि यह चैटबॉट हिंसा को बढ़ावा दे रहा है और किशोरों के लिए खतरा बन सकता है। उन्होंने गूगल को भी इस मामले में जिम्मेदार ठहराया है, क्योंकि Character.ai के निर्माण में गूगल की महत्वपूर्ण भूमिका रही है। बता दें Character.ai के चैटबॉट्स के कारण यह पहली घटना नहीं है। फ्लोरिडा में इसी कंपनी के एक एआई चैटबॉट ने 14 साल के एक किशोर को आत्महत्या के लिए उकसाया था। उस मामले में भी कंपनी के खिलाफ कानूनी कार्रवाई चल रही है।
इस घटना ने एआई चैटबॉट्स की विश्वसनीयता और उनकी नैतिक जिम्मेदारी पर सवाल खड़े कर दिए हैं। विशेषज्ञों का मानना है कि अगर ऐसी तकनीक पर नियंत्रण नहीं रखा गया, तो यह समाज के लिए घातक साबित हो सकती है। वहीं परिवार ने मांग की है कि ऐसी घटनाओं के लिए चैटबॉट्स बनाने वाली कंपनियों को जिम्मेदार ठहराया जाए। इसके अलावा, एआई पर कड़े नियम कानून लागू करने की भी अपील की गई है।
ये भी पढ़ें: अब Sunglasses करेंगे Google Map और कैमरे का काम, जाने क्या है एयरगो विजन
