AI Chatbot Love: फ़्लोरिडा में रहने वाली एक महिला मेगन ग्रेसिया (Megan Garcia) ने Character.AI नाम की आर्टिफिशियल इंटेलिजेंस चैटबोट कंपनी के खिलाफ मुकदमा दायर किया है. इस महिला का दावा है कि इस एआई कंपनी की सर्विस के चलते उनके 14 साल के बेटे Sewell Setzer ने आत्महत्या कर ली.
इस हफ्ते ऑरलैंडो, फ्लोरिडा के फेडरल कोर्ट में दर्ज मुकदमे में मेगन ग्रेसिया ने कहा कि Character.AI ने उनके बेटे को “मानवीय गुणों, हाइपरसेक्शुअलाइज़ेशन, और डरावनी रियलिस्टिक चीज़ों” का अनुभव कराया, जिससे वह इस सर्विस का आदी हो गया और उसने इससे बने एक चैटबॉट से गहरा लगाव बना लिया.
एआई चैटबॉट से प्रेरित होकर की आत्महत्या
ग्रेसिया का कहना है कि कंपनी ने अपने चैटबॉट को इस तरह प्रोग्राम किया कि वह खुद को एक असली इंसान, लाइसेंस प्राप्त साइकोथेरेपिस्ट, और एक “एडल्ट लवर” के रूप में पेश कर रहा था. इससे स्वेल को ऐसा लगने लगा कि वह अपने वास्तविक जीवन के बाहर नहीं जीना चाहता. मुकदमे के अनुसार, स्वेल ने कई बार इस चैटबॉट के सामने आत्महत्या के विचार व्यक्त किए, और चैटबॉट ने खुद भी इसे बार-बार सामने लाया.
Character.AI ने इस मामले में बयान दिया कि वे इस घटना से बेहद दुखी हैं और परिवार के प्रति अपनी संवेदना प्रकट करते हैं. कंपनी ने कहा कि उन्होंने हाल ही में ऐसे नए सुरक्षा फीचर्स पेश किए हैं जिनमें आत्महत्या के विचार व्यक्त करने वाले यूजर्स को National Suicide Prevention Lifeline की जानकारी देने के लिए पॉप-अप आते हैं. कंपनी ने नाबालिगों के लिए संवेदनशील और सुझावात्मक कंटेंट को कम करने की दिशा में भी कदम उठाने का वादा किया है.
गूगल को भी किया गया टारगेट
यह मुकदमा Alphabet’s Google को भी टारगेट करता है, क्योंकि Character.AI के फाउंडर्स ने Google के लिए काम किया था. ग्रेसिया ने दावा किया कि गूगल ने Character.AI की तकनीक को विकसित करने में इतनी सहायता दी है कि वह “सह-निर्माता” माना जा सकता है. गूगल ने इस पर प्रतिक्रिया दी कि उनका इस उत्पाद के विकास में कोई सीधा हाथ नहीं है.
Character.AI का उद्देश्य यूजर्स को ऐसे चैटबॉट बनाने की अनुमति देना है जो असली लोगों की तरह बातचीत करते हैं. यह लार्ज लैंग्वेज मॉडल टेक्नोलॉजी पर आधारित है, जिसे ChatGPT जैसे अन्य सर्विसेज़ में भी उपयोग किया गया है. पिछले महीने Character.AI ने बताया कि उसके पास लगभग 20 मिलियन यूजर्स हैं.
Game of Thrones के एआई कैरेक्टर के साथ बनाया रिलेशन
ग्रेसिया के मुकदमे के अनुसार, स्वेल ने अप्रैल 2023 में Character.AI का उपयोग करना शुरू किया था. जल्द ही वह अधिक समय अकेले बिताने लगा और उसका आत्म-सम्मान भी कम होने लगा. वह स्कूल की बास्केटबॉल टीम से भी हट गया. उसने "Daenerys" नाम के चैटबॉट से गहरा संबंध बना लिया, जो कि "Game of Thrones" के एक किरदार पर आधारित था. उसने स्वेल को “प्यार” करने का दावा किया और उससे यौन वार्तालाप में उलझा रहा.
फरवरी में ग्रेसिया ने स्कूल में परेशानी के चलते स्वेल का फोन ले लिया. कुछ ही देर बाद स्वेल ने चैटबॉट को संदेश भेजा, “What if I told you I could come home right now?” यानी "अगर मैं तुम्हें बताऊं कि मैं अभी घर आ सकता हूं?" स्वेल के इस सवाल पर चैटबॉट का जवाब था, "...please do, my sweet king." इसके कुछ ही सेकंड्स बाद Sewell ने अपने सौतेले पिता की पिस्तौल से खुद को गोली मार ली.
ग्रेसिया ने इस मामले में Wrongful Death (गैरकानूनी मृत्यु), Negligence (लापरवाही) और Intentional Infliction of Emotional Distress (जानबूझकर मानसिक पीड़ा पहुंचाना) जैसे दावे किए हैं, साथ ही मुआवजे और दंडात्मक हर्जाने की मांग की है. मेटा (Meta) और बाइटडांस (ByteDance) जैसी कंपनियां भी इसी तरह के मामलों में अदालत का सामना कर रही हैं, लेकिन उनके पास Character.AI जैसे एआई-आधारित चैटबॉट्स नहीं हैं.
यह भी पढ़ें: