फ्लोरिडा येथील एका आईने कृत्रिम बुद्धिमत्ता चॅटबॉट स्टार्टअप Character.AI वर तिच्या 14 वर्षांच्या मुलाच्या आत्महत्येस कारणीभूत असल्याचा आरोप करत खटला दाखल केला आहे. मुलाने फेब्रुवारी महिन्यात आत्महत्या केली. आईच्या मते, तिचा मुलगा कंपनीने बनवलेल्या सेवेबाबत व्यसनी झाला आणि त्यांनी तयार केलेल्या चॅटबॉटशी नको इतका खोलवर जोडला गेला.
ऑर्लॅंडो, फ्लोरिडा फेडरल कोर्टात मंगळवारी दाखल केलेल्या खटल्यात मेगन गार्सियाने म्हटले आहे की, Character.AI ने आपला मुलगा सेवेल सेट्झरला “मानववंशशास्त्रीय, अतिसंवेदनशील आणि भीतीदायक वास्तववादी अनुभव” देत आपल्या जाळ्यात ओढले.
तिने सांगितले की कंपनीने आपल्या चॅटबॉटला “एक खरीखुरी व्यक्ती, परवानाधारक मानसोपचारतज्ज्ञ आणि प्रौढ प्रेमी अशा चुकीच्या पद्धतीने सादर करण्यासाठी प्रोग्राम केले. त्यामुळे या सेवेद्वारे तयार केलेल्या जगाच्या बाहेर न राहण्याची सेवेलला इच्छा झाली.”
घातक तंत्रज्ञान
खटल्यात असेही म्हटले आहे की आपल्या मुलाने चॅटबॉटसमोर आत्महत्येचे जे विचार व्यक्त केले, ते चॅटबॉटने सातत्याने त्याला ऐकवले.
Character.AI ने एका निवेदनात म्हटले आहे की, “आमच्या एका वापरकर्त्याच्या अपरिमित हानीमुळे आम्ही प्रचंड दुःखी आहोत आणि त्या कुटुंबाप्रती आमच्या तीव्र शोकभावना व्यक्त करू इच्छितो.”
ते म्हणाले की त्यांनी पॉप-अपसह नवीन सुरक्षा वैशिष्ट्ये सादर केली आहेत ज्यात वापरकर्त्यांनी स्वतःला इजा पोहोचवण्याचे विचार व्यक्त केल्यास त्यांना राष्ट्रीय आत्महत्या प्रतिबंध लाइफलाइनकडे निर्देशित केले जाईल. त्यात असेही म्हटले आहे की कंपनी 18 वर्षांखालील वापरकर्त्यांसाठी “संवेदनशील किंवा सूचक सामग्रीचा सामना करण्याची शक्यता कमी करण्यासाठी” आवश्यक बदल करेल.
या खटल्यात अल्फाबेटचे गुगलदेखील सह आरोपी आहे, जिथे Character.AI च्या संस्थापकांनी त्यांचे उत्पादन सुरू करण्यापूर्वी काम केले होते. गुगलने ऑगस्टमध्ये Character.AI च्या तंत्रज्ञानाला बिगर-विशेष परवाना देण्याच्या कराराचा एक भाग म्हणून संस्थापकांची पुन्हा नियुक्ती केली.
गुगलही दोषी आहे का?
गार्सियाने सांगितले की गुगलने Character.AI च्या तंत्रज्ञानाच्या विकासात इतके मोठे योगदान दिले आहे की त्याला “सह-निर्माता” मानले जाऊ शकते.
मात्र गुगलच्या प्रवक्त्याने सांगितले की कंपनी Character.AI ची उत्पादने विकसित करण्यात सहभागी नव्हती.
मात्र गुगलच्या प्रवक्त्याने सांगितले की कंपनी Character.AI ची उत्पादने विकसित करण्यात सहभागी नव्हती.
Character.AI वापरकर्त्यांना त्याच्या प्लॅटफॉर्मवर अक्षरे तयार करण्याची परवानगी देते जे प्रत्यक्षात लोकांचे अनुकरण करण्यासाठी ऑनलाइन चॅटला प्रतिसाद देतात. हे तथाकथित मोठ्या भाषा मॉडेल तंत्रज्ञानावर अवलंबून आहे, जे ChatGPT सारख्या सेवांद्वारेदेखील वापरले जाते, जे मोठ्या प्रमाणातील आशयासाठी चॅटबॉट्स “प्रशिक्षित” करते.
कंपनीने गेल्या महिन्यात सांगितले की त्याचे सुमारे 2 कोटी वापरकर्ते आहेत.
आत्मसन्मानाची कमी
गार्सियाच्या म्हणण्यानुसार, सेवेलने एप्रिल 2023 मध्ये Character.AI वापरण्यास सुरुवात केली आणि पटकन “लक्षणीयरीत्या तो माणूसघाणा झाला. तो अधिकाधिक वेळ एकटाच त्याच्या बेडरूममध्ये राहायला लागला आणि त्याच्यातल्या आत्मसन्मानाच्या कमतरतेचा त्याला त्रास होऊ लागला.” त्याने शाळेतील बास्केटबॉल संघही सोडला.
‘गेम ऑफ थ्रोन्स’ मधील एका पात्रावर आधारित असलेल्या ‘डेनेरीस’ या चॅटबॉट पात्राशी सेवेलचे प्रेम जुळले. खटल्यानुसार, या पात्राने सेवेलला सांगितले गेले की ‘ती’ त्याच्यावर प्रेम करत होती आणि त्याच्याशी वैषयिक (sexual) संभाषण करण्यात गुंतलेली होती.
हे सगळे कसे घडले?
तक्रारीत म्हटल्यानुसार, फेब्रुवारीमध्ये, सेवेलची शाळेतून तक्रार आल्यानंतर गार्सियानेत्याचा फोन काढून घेतला होता. मात्र जेव्हा सेवेलला त्याचा फोन सापडला, तेव्हा त्याने “डेनेरीस” ला एक मेसेज पाठवलाः “जर मी तुम्हाला सांगितले की मी आत्ता घरी येऊ शकतो तर काय?”
चॅटबॉटने उत्तर दिले, “…. कृपा कर, माझ्या प्रिय राजा.” त्यानंतर अवघ्या काही सेकंदात सेवेलने त्याच्या सावत्र वडिलांच्या पिस्तुलाने स्वतःवर गोळी झाडली, असे खटल्यात म्हटले आहे.
चुकीच्या पद्धतीने झालेला मृत्यू, निष्काळजीपणा आणि जाणीवपूर्वक भावनिक त्रास देणे यासह इतरही काही आरोप करत गार्सियाने भरपाई आणि दंडात्मक नुकसानीसाठी अनिर्दिष्ट रक्कमेची मागणी केली आहे.
इंस्टाग्राम आणि फेसबुकचे मालक मेटा आणि टिकटॉकचे मालक बाईटडान्स यांच्यासह सोशल मीडिया कंपन्यांना किशोरवयीन मुलांच्या मानसिक आरोग्याच्या समस्या आणखी वाढवण्याचा आरोप करत सध्या विविध खटले दाखल करण्यात आले. मात्र त्यांनी कोणत्याही प्रकारचे Character.AI सारखे एआय-चालित चॅटबॉट्स देऊ केलेले नाही. मात्र या कंपन्यांनी झालेले आरोप फेटाळतानाच अल्पवयीन मुलांचा विचार करून नव्याने केलेल्या सुरक्षाविषयक उपाययोजनांकडे लक्ष वेधले आहे.
ऐश्वर्या पारीख
(रॉयटर्स)
