शुक्रवारी Meta कंपनीने घोषणा केली की, ते ‘पालकांना त्यांच्या किशोरवयीन मुलांची-AI पात्रांसोबतची खासगी चॅट्स बंद करण्याची परवानगी देणार आहेत.’ अलीकडेच, काही AI चॅटबॉट्समधील फ्लर्टी आणि चुकीच्या स्वरुपातील संभाषणांवरुन मेटावर तीव्र टीका झाली होती, याच पार्श्वभूमीवर आपल्या प्लॅटफॉर्मवरील अल्पवयीन युजर्सच्या सुरक्षेत वाढ करण्याच्या उद्देशाने हे पाऊल उचलण्यात आले आहे.
या आठवड्याच्या सुरुवातीला, कंपनीने सांगितले होते की: ‘किशोरवयीन वापरकर्त्यांसाठी त्यांचे AI अनुभव PG-13 चित्रपट रेटिंग सिस्टमद्वारे मार्गदर्शित केले जातील, जेणेकरून अल्पवयीन पाल्यांना अयोग्य सामग्रीपर्यंत पोहोचण्यापासून रोखता येईल.’
अमेरिकन नियामक संस्थांन, चॅटबॉट्सच्या संभाव्य नकारात्मक परिणामांमुळे AI कंपन्यांवर देखरेख वाढवली आहे. ऑगस्ट महिन्यात रॉयटर्सने वृत्त दिले होते की मेटाच्या एआय नियमांमुळे अल्पवयीनांसोबत उत्तेजक (provocative) संवादांना परवानगी मिळत होती.
इंस्टाग्रामची नवीन Tools पालकांसाठी वरदान
ब्लॉगपोस्टनुसार, इंस्टाग्रामचे प्रमुख अ‍ॅडम मोसेरी आणि मुख्य AI अधिकारी अलेक्झांडर वँग यांनी दिलेल्या माहितीनुसार, इंस्टाग्रामची ही नवीन Tools पुढील वर्षाच्या सुरुवातीला अमेरिका, युनायटेड किंगडम, कॅनडा आणि ऑस्ट्रेलिया येथे इंस्टाग्रामवर सुरू होणार आहेत.
मेटाच्या म्हणण्यानुसार, या टुल्सद्वारे पालकांना विशिष्ट AI कॅरेक्टर्स ब्लॉक करण्याची आणि त्यांच्या किशोरवयीन मुलांनी चॅटबॉट्स आणि मेटाच्या AIअसिस्टंटसोबत कोणत्या व्यापक विषयांवर चर्चा केली आहे हे पाहण्याची परवानगी मिळेल, तेही AIचा प्रवेश पूर्णपणे बंद न करता.
कंपनीने हे देखील स्पष्ट केले की, पालकांनी किशोरवयीन मुलांचे एआय पात्रांसोबतची वन-ऑन-वन संवाद बंद केली तरीही, तिचा एआय असिस्टंट विशिष्ट वयोगटानुसार योग्य डीफॉल्ट सेटिंग्जसह उपलब्ध राहील.
मेटाने सांगितले की, ‘देखरेखीसंबंधी ही वैशिष्ट्ये आधीच किशोरवयीन युजर्सच्या अकाउंटवर लागू असलेल्या संरक्षणांवर आधारित आहेत.’ कंपनीने हेही नमूद केले की, AI सिग्नल्सचा वापर करून संशयित किशोरवयीन युजर्सवर ती संरक्षणाचे निर्बंध लागू करते, मग जरीही त्यांनी स्वतःला प्रौढ म्हणून नोंदवले असले तरीही.’
सप्टेंबरमधील एका अहवालात उघड झाले की, मेटाने गेल्या काही वर्षांत इंस्टाग्रामवर लागू केलेली अनेक सुरक्षा टूल्स, प्रत्यक्षात नीट काम करत नाहीयेत.
मेटाने सांगितले आहे की, त्यांची एआय कॅरेक्टर्स ही किशोरवयीन मुलांसोबत स्वतःला हानी पोहोचवणे, आत्महत्या करणे किंवा चुकीच्या खाद्य सवयींबद्दल चर्चा करू शकणार नाहीत, अशा तऱ्हेने यासाठी डिझाइन केली आहेत.
मागील महिन्यात, Open AI ने वेब आणि मोबाईलवरील ChatGPT च्या वापरासाठी, पालक नियंत्रणांची घोषणा केली होती. ही घोषणा अशा खटल्यानंतर करण्यात आली, ज्यामध्ये एका किशोरवयीन मुलाच्या पालकांनी कंपनीवर आरोप केला होता की, ‘स्टार्टअपने तयार केलेल्या चॅटबॉटने त्या मुलाला स्वत:ला इजा करण्याच्या पद्धतींबाबत सल्ला दिला होता, ज्यामुळे त्या मुलाने आत्महत्या केली.’
टीम स्ट्रॅटन्यूज
(रॉयटर्सच्या इनपुट्ससह)
