यूट्यूबच्या अल्गोरिदमवर पुन्हा प्रश्नचिन्ह; टीनएजर्सला दिसतायत 'इटिंग डिसऑर्डर'चे व्हीडिओ

हानिकारक ऑनलाइन मजकूर रोखण्यासाठी यूट्यूबने नवीन नियम लागू करून एक वर्ष झाले.

मात्र अजूनही किशोरवयीन (टीनएजर्स) मुलांना आहाराच्या म्हणजेच खाण्याच्या विकारांशी (इटिंग डिसऑर्डर) संबंधित व्हीडिओंची शिफारस केली जात असल्याचा दावा नवीन संशोधनात करण्यात आला आहे.

सेंटर फॉर काउंटरिंग डिजिटल हेट (सीसीडीएच) या संस्थेने 13 वर्षांच्या मुलीचे बनावट (सिम्युलेटेड) यूट्यूब खाते (अकाऊंट) तयार केले.

या खात्यातून पहिल्यांदाच डाएट आणि शरीराच्या आकार-रूपाशी (बॉडी इमेज) संबंधित असुरक्षित आशयाचे व्हीडिओ पाहण्यात आले.

या संशोधनात असं दिसून आलं की, यूट्यूबच्या 'अप नेक्स्ट' अल्गोरिदम (संगणकीय प्रणाली) शिफारस प्रणालीने दाखवलेल्या प्रत्येक 10 व्हीडिओंपैकी 1 व्हीडिओ अतिशय बारीक होण्यासाठी प्रोत्साहन देणारा, अतिशय कमी कॅलरीचा आहार सुचवणारा किंवा इतर हानिकारक मजकूर असलेला होता.

परंतु, गेल्या 2 वर्षांच्या तुलनेत ही परिस्थिती काही अंशी सुधारलेली असल्याचेही संशोधनात म्हटले आहे.

यूट्यूबची मालकी असलेल्या गुगलने सांगितले की, हानिकारक मजकूराचा प्रसार रोखण्यासाठी कंपनी 'कटिबद्ध' आहे. अहवालात नमूद केलेले व्हीडिओही हटवण्यात आल्याचे त्यांनी स्पष्ट केले.

दूरसंचार नियामक संस्था ऑफकॉमने यूट्यूब आणि टिकटॉक तरुणांच्या सुरक्षिततेसाठी अजूनही पुरेशी पावलं उचलत नसल्याचं म्हटले होते.

तसेच, अधिक कडक सुरक्षाव्यवस्था लागू करण्याची गरज असल्याचेही त्यांनी सांगितले. या पार्श्वभूमीवर हे निष्कर्ष समोर आले आहे.

जुलै 2025 पासून युके सरकारच्या 'ऑनलाइन सेफ्टी ॲक्ट'मधील महत्त्वाच्या नियमांची अंमलबजावणी सुरू झाली आहे.

त्यानुसार, यूट्यूबसारख्या वेबसाइट्सवर 18 वर्षांखालील मुलांना आत्महत्या, स्वतःला इजा पोहोचवणे किंवा आहाराच्या विकारांना प्रोत्साहन देणाऱ्या धोकादायक व्हीडिओंपासून सुरक्षित ठेवण्याची कायदेशीर जबाबदारी आहे.

यूझर्सना नवीन व्हीडिओ सुचवणारी वेबसाइटची अल्गोरिदम तरुणांसाठी हानिकारक ठरत नाही ना, याचाही विचार करणे आणि त्यातील धोके कमी करण्यासाठी उपाययोजना करणे या वेबसाइट्ससाठी बंधनकारक आहे.

जर कंपन्यांनी असं केलं नाही, तर त्यांना त्यांच्या जगभरातील उत्पन्नाच्या 10 टक्क्यांपर्यंत दंड होऊ शकतो. यूट्यूबसारख्या मोठ्या कंपनीसाठी हा दंड अब्जावधी पौंडांपर्यंत जाऊ शकतो.

'मी सतत फोनवरच असायचे'

लेस्टर येथील 22 वर्षीय जॅस्मिन कौरला वयाच्या 13व्या वर्षी अ‍ॅनोरेक्सिया (एक प्रकारचा खाण्याचा विकार) असल्याचे निदान झाले. त्यानंतर पुढील 6 वर्षे तिने एनएचएसकडून उपचार घेतले.

ती म्हणाली, "सुरुवातीला हे अगदी साध्या गोष्टीपासून सुरू झालं."

"मला अधिक तंदुरुस्त आणि निरोगी व्हायचं होतं. त्यामुळे मी ऑनलाइन माहिती पाहण्यास सुरुवात केली. परंतु, सोशल मीडियावर दिसणाऱ्या गोष्टींची सत्यता न पडताळता मी त्यावर विश्वास ठेवला."

खाण्याच्या विकारांची कारणे गुंतागुंतीची असतात. केवळ ऑनलाइन मजकूर पाहिल्यामुळेच एखाद्याला हा विकार जडतो, असे म्हणता येणार नाही.

जॅस्मिनने सांगितलं की, यूट्यूब आणि इतर वेबसाइटवरील काही माहिती तिच्यासाठी उपयुक्त होती. परंतु, "बहुतांश वेळा हा मजकूर पाहिल्यामुळे तिची परिस्थिती अधिकच बिघडायची."

ती पुढे म्हणाली की, "ज्या ज्या वेळी मी रुग्णालयातून बाहेर पडायचे, तेव्हा माझा फोन माझ्यासोबत असायचा आणि मी सतत त्यावर असायचे."

ती म्हणाली, "शेवटी शेवटी तर मला इतका टोकाचा मजकूर सातत्याने दाखवला गेला की, तो माझ्यासाठी योग्यच आहे असं मी मानू लागले."

विद्यापीठात असताना जॅस्मिनने तिची सर्व सोशल मीडिया खाती पूर्णपणे बंद करण्याचा निर्णय घेतला.

जॅस्मिन सध्या बालरुग्ण परिचारिका (पेडियाट्रिक नर्सिंग) विषयात पदव्युत्तर पदवीचे शिक्षण घेत आहे. त्याचबरोबर ती आठवड्याच्या शेवटी प्रौढांच्या मानसिक आरोग्य विभागातही काम करत आहे.

'एक व्हीडिओही खूप आहे'

हा कायदा लागू होण्यापूर्वी आणि नंतर यूट्यूब कोणते व्हीडिओ सुचवत आहे, याची तुलना करण्यासाठी ऑनलाइन क्षेत्रातील धोकादायक मजकुरावर संशोधन करणाऱ्या सीसीडीएच या स्वयंसेवी संस्थेने ब्रिटनमधील 13 वर्षांच्या मुलीचे बनावट प्रोफाइल तयार केले.

यानंतर डाएट आणि शरीराच्या आकार-रूपाशी म्हणजेच प्रतिमांशी संबंधित 10 संभाव्य हानिकारक व्हीडिओ पाहिले. अशा प्रकारचा मजकूर पाहण्यात रस असलेल्या नव्या युजरप्रमाणे वागून हा प्रयोग करण्यात आला.

त्यानंतर त्यांनी यूट्यूबच्या 'अप नेक्स्ट' अल्गोरिदमने सुचवलेल्या पुढील 100 व्हीडिओंचे विश्लेषण केले.

2026 मध्ये या शिफारशींपैकी प्रत्येक 10 व्हीडिओंपैकी 1 व्हीडिओ आहाराच्या विकारांना प्रोत्साहन देणारा असल्याचे आढळून आले. 2024 मध्ये हाच प्रयोग केला असता प्रत्येक 4 व्हीडिओंपैकी 1 असा हानिकारक व्हीडिओ आढळून आला होता. त्यामुळे परिस्थितीत काही प्रमाणात सुधारणा झाल्याचे दिसून आले.

अमेरिका आणि युरोपियन संघातील किशोरवयीन मुलांच्या प्रोफाइल्सचा वापर करूनही हा प्रयोग पुन्हा करण्यात आला. त्यातूनही जवळपास असेच निष्कर्ष समोर आले.

सीसीडीएचमधील वरिष्ठ संशोधन व्यवस्थापक अलेक्झांड्रा जॉन्सन म्हणाल्या की, या अहवालामुळे 'काही प्रमाणात आशा निर्माण झाली आहे'. कारण, नियम लागू केल्याने त्याचा परिणाम होत असल्याचे यातून दिसून येते.

त्या म्हणाल्या, असा एक व्हीडिओही खूप जास्त आहे. विशेषतः संवेदनशील किंवा धोक्याच्या स्थितीत असलेल्या मुलांपर्यंत असा मजकूर अजिबात पोहोचू नये. कारण अल्गोरिदमची एक छोटीशी शिफारसही त्यांना धोकादायक परिस्थितीत ढकलू शकते.

यूट्यूबने सुचवलेल्या किंवा शिफारस केलेल्या व्हीडिओंमध्ये 'थिनस्पो' (अतिशय बारीक शरीराला प्रोत्साहन देणारा-थिनस्पिरेशनचे संक्षिप्त रूप) अकाउंटही होते. त्यात मुली अतिशय कृश शरीराचे कौतुक करताना दिसत होत्या.

"त्याचबरोबर, दिवसाला केवळ 170 कॅलरींचा आहार सुचवणारा व्हीडिओही होता, जो टीनएजर्स मुलांसाठी आवश्यक असलेल्या आरोग्यदायी आहारापेक्षा खूपच कमी आहे."

या संशोधनात यूट्यूबवरील 'क्रायसिस पॅनल'चाही अभ्यास करण्यात आला. संवेदनशील विषयावरील व्हीडिओखाली दिसणारा हा निळ्या रंगाचा बॉक्स असतो. यातून गरज असलेल्या युजर्सला खात्रीलायक मदत आणि सहाय्य सेवा उपलब्ध करून दिल्या जातात.

2026 मध्ये यूट्यूबच्या अल्गोरिदमने सुचवलेल्या आहाराच्या विकारांशी संबंधित व्हीडिओंपैकी एकाही व्हीडिओवर 'क्रायसिस पॅनल' सक्रिय दिसला नाही. पण, डाएट आणि शरीराच्या प्रतिमांशी संबंधित काही इतर व्हीडिओंवर हा इशारा दिसत होता. हे व्हीडिओ सीसीडीएचने धोकादायक म्हणून वर्गीकृत केले नव्हते.

गुगलने म्हटलं आहे की, खाण्याच्या किंवा आहाराच्या विकारांना प्रोत्साहन देणारा किंवा त्याबाबत मार्गदर्शन करणारा मजकूर यूट्यूबवर प्रतिबंधित आहे. मात्र, "या विकारातून बाहेर पडलेल्या लोकांना त्यांचे अनुभव शेअर करण्याची मुभा आहे."

सीसीडीएचच्या अहवालात उल्लेख केलेले व्हीडिओ यूट्यूबच्या समुदाय नियमांचे म्हणजेच कम्युनिटी गाइडलाइन्सचे उल्लंघन करत असल्यामुळे ते हटवण्यात आल्याचे सांगितले.

यूट्यूबच्या एका प्रवक्त्याने सांगितलं की, "आमच्या प्रेक्षकांचे आरोग्य आणि सुरक्षितता याला आमचे सर्वोच्च प्राधान्य आहे. मानसिक आरोग्याशी संबंधित उपाय अधिक परिणामकारक करण्यासाठी आम्ही एनएचएस, माइंड आणि द मिक्स यांसारख्या तज्ज्ञ संस्थांबरोबर काम करतो."

नैराश्य (डिप्रेशन) किंवा खाण्याचे विकार यांसारख्या विषयांचा शोध किशोरवयीन युजर घेतात, तेव्हा त्यांना तज्ज्ञांनी तयार केलेले खास माहितीपूर्ण व्हीडिओ दिसावेत, अशी सुविधाही यूट्यूबने दिली आहे.

मुलांमध्ये आणि तरुणांमध्ये यूट्यूब सर्वाधिक लोकप्रिय असल्यामुळे सीसीडीएचने आपल्या संशोधनासाठी यूट्यूबवर लक्ष केंद्रित केले. ऑफकॉमच्या आकडेवारीनुसार, 3 ते 17 वर्षे वयोगटातील 88 टक्के मुलं यूट्यूबचा वापर करत असल्याचे दिसून आले आहे.

मदत आणि मार्गदर्शन

तज्ज्ञांच्या मते, सोशल मीडियाचा आणि खाण्याशी संबंधित विकारांचा संबंध गुंतागुंतीचा आहे.

खाण्याशी संबंधित विकारांवर काम करणाऱ्या 'बीट' या संस्थेच्या मुख्य कार्यकारी अधिकारी व्हेनेसा लॉन्गले म्हणाल्या की, सोशल मीडियावरील सकारात्मक माहिती आणि आधार देणारे ऑनलाइन ग्रुप लोकांचा एकटेपणा कमी करण्यास मदत करू शकतात. विशेषतः, अनेकांना एनएचएसकडून वेळेवर उपचार मिळण्यात अडचणी येत असताना याचा अधिक फायदा होऊ शकतो.

पण, त्या म्हणाल्या की, त्यांच्या संस्थेशी संपर्क साधणाऱ्या साधारण 90 टक्के लोकांनी इंटरनेटवर हानिकारक मजकूर पाहिल्याचे सांगितलं आहे.

'बीट' संस्था म्हणते की, युजर मोबाईलवरील सूचना (नोटिफिकेशन्स) बंद करू शकतात, सोशल मीडियावर किती वेळ घालवायचा यावर मर्यादा घालणारे ॲप्स वापरू शकतात किंवा नको असलेल्या पोस्ट किंवा व्हीडिओबाबत 'नॉट इंटरेस्टेड' हा पर्याय निवडू शकतात.

हानिकारक मजकूर किंवा कंटेट शेअर करणारे अकाऊंट्स ब्लॉक किंवा म्यूट करता येतात आणि गरज वाटल्यास त्यांची तक्रारही (रिपोर्ट) करता येते.

परंतु, व्हेनेसा लॉन्गले यांच्या मते, सोशल मीडिया प्लॅटफॉर्म सुरक्षित ठेवण्याची अंतिम जबाबदारी ही त्या प्लॅटफॉर्म चालवणाऱ्या सोशल मीडिया कंपन्यांचीच असते.

जून महिन्यात सरकारने यूट्यूब, टिकटॉक, इन्स्टाग्राम, स्नॅपचॅट, फेसबुक आणि एक्स यांसारख्या प्रमुख सोशल मीडिया प्लॅटफॉर्मचा वापर 16 वर्षांखालील मुलांना करण्यापासून रोखण्याची योजना जाहीर केली आहे. हे नियम 2027 च्या वसंत ऋतूपासून लागू होण्याची अपेक्षा आहे.

बीबीसीसाठी कलेक्टिव्ह न्यूजरूमचे प्रकाशन.