युक्रेनियन विद्यार्थिनी ओल्गा लोइक सोशल मिडियावर आपले फॉलोअर्स वाढावेत यासाठी प्रयत्नशील होती. पण तिच्या इनबॉक्समध्ये मिळालेल्या संदेशांमुळे तिला लवकरच आश्चर्याचा धक्का बसला. याबद्दल नेमके काय झाले हे सांगताना ओल्गा म्हणाली, “मी माझे यूट्यूब चॅनेल सुरू केल्यानंतर सुमारे एक महिन्यानंतर, ऑनलाइन असताना मी मंदारिन (चीनमध्ये सर्वाधिक बोलली जाणारी भाषा) भाषेत कशी काय बोलते असे मला लोकांकडून संदेश येऊ लागले. त्यांना ही खात्री होती की समोर दिसणारी मुलगी मी नाही, कोणीतरी माझी ओळख चोरत आहे”. 21 वर्षीय ओल्गा म्हणते की तिची प्रतिमा कृत्रिम बुद्धिमत्तेद्वारे तयार करून ती व्हायरल केली गेली. जेणेकरून चिनी सोशल मीडिया प्लॅटफॉर्मवर एक वेगळीच व्यक्ती निर्माण होईल.
ओल्गा तिचे डिजिटल डोपेलगँजर्सना (डुप्लिकेट) बघण्यासाठी अनेक पोस्ट स्क्रोल करते, त्यात नताशा नावाच्या तिच्या डुप्लिकेटचा समावेश आहे. ती अस्खलितपणे चिनी बोलते आणि रशियाला पाठिंबा दिल्याबद्दल चीनचे आभार मानू इच्छिते. “मी पाहिले की ती अक्षरशः माझ्याचसारखा चेहरा असणारी पण मंदारिन भाषेत बोलणारी आहे. पार्श्वभूमीला, क्रेमलिन आणि मॉस्को पाहत असताना मी रशिया आणि चीन किती महान आहेत यासारख्या गोष्टींबद्दल बोलत आहे. याशिवाय माझे प्रतिरूप वेगवेगळ्या रशियन उत्पादनांची जाहिरात करतानाही दिसत असल्याचे ओल्गाने आश्चर्यचकित सुरात सांगितले.
लोइकची प्रतिमा असलेल्या या बनावट खात्यांचे चीनमध्ये लाखो फॉलोअर्स आहेत, जे प्रत्यक्षातील (खऱ्या) लोइकपेक्षा खूप जास्त आहेत. या डुप्लिकेट ओल्गाने दहा हजार डॉलर्सची उत्पादने देखील विकली आहेत. ओल्गाचा चेहरा चिनी सोशल नेटवर्कवरील तरुण रशियन महिलांच्या वाढत्या संख्येचा प्रतिनिधी बनला आहे. यावर काहीच कारवाई झाली नाही का? यापैकी कोणतेही डोपेलगँजर प्रत्यक्षात अस्तित्वात नाहीत.
तज्ञांचे म्हणणे आहे की ऑनलाइन सापडलेल्या प्रत्यक्षातील महिलांच्या क्लिप्सचा वापर करून एआय तंत्रज्ञानाचा वापर करून असे डुप्लिकेट तयार केले जातात. अनेकदा प्रत्यक्षातील व्यक्तीला त्याची माहितीही नसते. अर्थात काही पोस्टमध्ये एआय तंत्रज्ञानाचा वापर करून ती तयार केली गेली असावी असे सांगणारे डिस्क्लेमरदेखील समाविष्ट असते. ओल्गासारखे अवतार, चीनबद्दलचे त्यांचे प्रेम व्यक्त करतात आणि त्यांना त्यांच्या मातृभूमीतून उत्पादने विकून युद्धात रशियाला पाठिंबा द्यायचा आहे अशी वक्तव्ये करताना दिसतात. त्यापैकी एक डुप्लिकेट म्हणते-‘चीन आणि रशिया हे चांगले शेजारी आहेत. चीन आणि रशियाची मैत्री कायमस्वरूपी टिकणारी आहे. ‘आणि मग ती तिच्या रशियन कँडीजची जाहिरात करण्यासाठी पुढे येते आणि तुम्ही खरोखर येथे जाऊ शकता आणि ती जाहिरात करत असलेल्या कँडीज तुम्ही खरेदी करू शकता.
तज्ज्ञांचे म्हणणे आहे की अशा बनावट अवतारांचा वापर करणारे व्हिडिओ अनेकदा एकट्या चिनी पुरुषांना उत्पादने विकण्यासाठी वापरले जातात. “जर एखाद्या क्लोनला रशियन स्त्री म्हणून चित्रित केले गेले तर ती कदाचित अशा गोष्टी सांगेल की, मला खरोखरच एक चिनी पती शोधायचा आहे, आणि मला खरोखरच चीनला जायचे आहे आणि माझे उर्वरित आयुष्य तेथे राहायचे आहे आणि तेथे एक कुटुंब हवे आहे कारण, हा देश इतका महान आहे.” तिने व्हिडिओद्वारे यासंदर्भात भरपूर प्रपोगंडा कसा पाहिला आहे हे देखील ती स्पष्ट करते.
जिम चाई हे एक्सएमओव्हीचे सीईओ आहेत. ही अत्यंत प्रगत एआय तंत्रज्ञान विकसित करणारी कंपनी आहे. पण ओल्गाचे अवतार तयार करण्यात त्यांचा सहभाग नाही. ते म्हणतात की असे डीपफेक तयार करणारे तंत्रज्ञान चीनमध्ये “खूप सामान्य” आहे. “उदाहरणार्थ, माझा स्वतःचा 2डी डिजिटल माणूस तयार करण्यासाठी, मला स्वतःचा फक्त 30 मिनिटांचा व्हिडिओ शूट करण्याची गरज आहे. तो शूट केल्यानंतर, मी व्हिडिओवर पुन्हा काम करतो. अर्थात, ते खूप नैसर्गिक दिसते आणि अर्थातच, जर तुम्ही भाषा बदलली, तर तुम्हाला त्याच्याशी जुळवून घ्यावी लागणारी एकमेव गोष्ट म्हणजे लिप सिंक करणे. (ओठांच्या हालचाली जुळवून घेणे)
ओल्गाची गोष्ट कृत्रिम बुद्धिमत्तेच्या संभाव्य बेकायदेशीर किंवा अनैतिक प्रयोगांमुळे तयार होणाऱ्या जोखमींवर प्रकाश टाकणारी आहे. डीपफेक तंत्रज्ञानाच्या वापरामुळे, एआयमुळे चुकीची माहिती, बनावट बातम्या आणि कॉपीराइटच्या समस्यांमध्ये भर घालू शकते याबद्दल चिंता वाढली आहे. जानेवारीमध्ये, चीनने एआय उद्योगाचे प्रमाणीकरण करण्यासाठी मार्गदर्शक तत्त्वांचा मसुदा जारी केला, ज्यामध्ये 2026 पर्यंत एआयसाठी 50 हून अधिक राष्ट्रीय आणि उद्योग क्षेत्रासाठी नियमावली तयार करण्याचा प्रस्ताव आहे. युरोपमध्ये, युरोपियन युनियनचा नवीन एआय कायदा उच्च-जोखीम असलेल्या एआय प्रणालींवर कठोर पारदर्शकतेच्या जबाबदाऱ्या लागू करतो. तरीही, जगभरातील अनेक सरकारे एआय संबंधित प्रयोगांच्या गतीशी जुळवून घेण्यासाठी धडपडत आहेत.
आणि काही ओल्गासारखे मध्यभागी अडकून राहतात. “तुम्हाला हवे ते वदवून घेण्यासाठी कोणीतरी दुसऱ्या कोणाच्या चेहऱ्याचा वापर करू शकते ही वस्तुस्थिती मला खरोखर आवडत नाही. याशिवाय मी माझ्या खऱ्या आयुष्यात ज्या गोष्टी कधीही बोलणार नाही त्या माझ्या अशा चेहऱ्याने बोलायला लावतात हे मला खरोखर आवडत नाही. याशिवाय माझा चेहरा पूर्णपणे वेगळी व्यक्ती म्हणून दर्शवला जातो ही गोष्टही मला फारशी रुचलेली नाही आणि कोणीही माझ्यावर (त्या रुपावर) विश्वास ठेवू नये अशी माझी इच्छा आहे.
केतकी आंग्रे
