سال‌ها پس از اینکه منتقدان برای اولین بار نگرانی‌های خود را درباره این سیستم مطرح کردند، گزارش جدیدی نشان می‌دهد که الگوریتم توصیه YouTube همچنان طرفداران بازی‌های ویدیویی جوان را به مسیرهای تاریک محتوای خشونت‌آمیز و خطرناک هدایت می‌کند.
گزارش جدیدی از پروژه شفافیت فناوری (TTP)، یک سازمان غیرانتفاعی مستقر در واشنگتن، تأثیرات الگوریتم‌های توصیه سایت اشتراک‌گذاری ویدیو را بر گسترش حساب‌های شناسایی پسران 9 و 14 ساله مشاهده کرد.
محققان چهار “حساب کاربری” جعلی ایجاد کردند – دو مورد پسر نه ساله و دو نفر پسر 14 ساله – و از آنها برای تماشای ویدیوهای منحصراً مرتبط با بازی استفاده کردند، البته نه همیشه کاملاً مناسب سن. تلاشی برای ارائه یک مقطع دقیق از آنچه یک کودک و نوجوان واقعی به آن نگاه می کند.
برای این کودک نه ساله، شامل ویدئوهایی برای بازی‌هایی مانند Roblox و Lego Star Wars، و همچنین بازی ترسناک Five Nights at Freddy’s بود که در تقلید از رستوران‌های زنجیره‌ای Chuck E Cheese رخ می‌داد. برای این نوجوان 14 ساله، لیست پخش «در درجه اول از ویدیوهای بازی های تیراندازی اول شخص مانند Grand Theft Auto، Halo و Red Dead Redemption تشکیل شده است».
پس از استفاده از حساب‌ها برای تماشای محتوای بازی‌های ویدیویی، محققان ویدیوهایی را که الگوریتم توصیه می‌کرد ثبت و آنالیز کردند، به طوری که یکی از هر گروه به طور غیر فعال توصیه‌ها را دنبال می‌کرد و دیگری فعالانه روی آنها کلیک می‌کرد و آنها را مشاهده می‌کرد. با همه حساب‌ها، الگوریتم یوتیوب محتوای مرتبط با سلاح‌ها، تیراندازی‌ها و قاتلان را تحت فشار قرار می‌دهد، اما برای کسانی که فعالانه این مطالب را تماشا می‌کنند، چنین فیلم‌هایی را با حجم‌های بسیار بالاتر توصیه می‌کند.
TTP واضح بود که بازی های ویدیویی مقصر رفتار خشونت آمیز نیستند. در این گزارش آمده است: «بیش از دو دهه است که سیاستمداران به بازی‌های ویدیویی خشونت‌آمیز به‌عنوان علت اصلی تیراندازی‌های دسته‌جمعی در ایالات متحده اشاره می‌کنند، اگرچه محققان هیچ مدرکی برای حمایت از این ادعا پیدا نکرده‌اند». “اما مطالعه TTP وجود دارد است مکانیزمی که می‌تواند پسرانی را که بازی‌های ویدیویی بازی می‌کنند به دنیای تیراندازی‌های دسته جمعی و خشونت با اسلحه سوق دهد: الگوریتم توصیه YouTube.
مدیر اجرایی TTP، میشل کاپر اسمیت، گفت: «به اندازه کافی بد است که یوتیوب ویدیوهایی را که خشونت با اسلحه را تجلیل می کنند در دسترس کودکان قرار می دهد. اکنون، متوجه می شویم که این ویدیوها را به جوانان توصیه می کند. متأسفانه، این آخرین نمونه از الگوریتم‌های Big Tech است که بدترین‌ها را از بدترین‌ها می‌گیرد و آنها را به بچه‌ها در یک تعقیب بی‌پایان تعامل سوق می‌دهد.»
هر چهار حساب آزمایشی به عنوان حساب‌های کودکان، با تاریخ تولد ثابت و برای افراد زیر 13 سال، یک حساب مرتبط «والد» مطابق با خط‌مشی‌های سایت ویدیویی به YouTube فاش شد. با وجود این، الگوریتم توصیه به کاربران ویدیوهایی را نشان داد که نه تنها به شدت برای سن نامناسب بودند، بلکه ظاهراً به طور کلی شرایط خدمات YouTube را نقض می کردند.
در این گزارش آمده است: «بسیاری از این ویدیوها خط‌مشی‌های YouTube را نقض می‌کنند که نمایش «محتوای خشونت‌آمیز یا ترسناک با هدف شوکه کردن یا منزجر کردن بینندگان»، «اعمال مضر یا خطرناک مربوط به خردسالان» و «دستورالعمل‌هایی درباره نحوه تبدیل سلاح گرم به خودکار» را ممنوع می‌کند. ”
پس از ارتقاء خبرنامه
«YouTube هیچ اقدام آشکاری برای محدودیت سنی این ویدیوها انجام نداد، علی‌رغم اینکه می‌گوید این گزینه را با محتوایی که «بزرگسالان در فعالیت‌های خطرناک شرکت می‌کنند که خردسالان به راحتی می‌توانند تقلید کنند» را دارد، انجام دهد.»
سخنگوی یوتیوب در بیانیه‌ای گفت: «ما گزینه‌هایی را برای بینندگان جوان‌تر ارائه می‌دهیم، از جمله یک برنامه مستقل YouTube Kids و ابزارهای تجربه نظارت شده ما که برای ایجاد تجربه ایمن‌تر برای نوجوانان جوان و نوجوانانی طراحی شده‌اند که والدینشان تصمیم گرفته‌اند که آماده هستند. برای استفاده از برنامه اصلی YouTube. ما از تحقیق در مورد توصیه های خود استقبال می کنیم و در حال بررسی راه های بیشتری برای جذب محققان دانشگاهی برای مطالعه سیستم های ما هستیم.
اما در بررسی روش شناسی این گزارش، نتیجه گیری قوی برای ما دشوار است. به‌عنوان مثال، این مطالعه زمینه‌ای درباره تعداد کلی ویدیوهایی که به حساب‌های آزمایشی توصیه شده‌اند ارائه نمی‌کند، و همچنین بینشی درباره نحوه راه‌اندازی حساب‌های آزمایشی، از جمله اینکه آیا ابزارهای تجربه‌های نظارت شده YouTube به کار گرفته شده‌اند، ارائه نمی‌کند.