YouTubes algoritm fortsätter att rekommendera skadligt innehåll om ätstörningar till simulerade konton för 13-åriga flickor, säger ny rapport. Andelen har minskat sedan 2024, men forskarna varnar för att en enda skadlig rekommendation räcker för att skada en sårbar användare.
Center for Countering Digital Hate (CCDH), en brittisk-amerikansk organisation som forskar på skadligt innehåll online, publicerade den 14 juli en ny rapport med namnet ”Up Next. Anorexia Algorithm”.
Det är en uppföljning av en liknande studie från 2024, och undersöker vad YouTubes rekommendationssystem ”Up Next” föreslår till nya användare efter att de sett en video kopplad till ätstörningar.
Forskarna skapade simulerade konton som utgav sig för att tillhöra 13-åriga flickor i USA, Storbritannien och EU. Resultatet: andelen skadliga rekommendationer har sjunkit från ungefär var tredje video 2024 till var nionde video 2026, enligt CCDH.
Nedgången sammanfaller med att både Storbritanniens Online Safety Act och EUs Digital Services Act trätt i kraft, vilket forskarna menar visar att reglering faktiskt kan göra skillnad.
Men förbättringen är inte detsamma som att problemet är löst. Ingen av de 34 skadliga rekommendationer som forskarna hittade under den senaste testomgången visade den varningsruta med krisresurser som YouTube annars kan koppla till känsligt innehåll.
Istället dök varningarna upp vid videor som inte klassades som skadliga. Där varningssidor faktiskt visades gick de dessutom att klicka bort med ett enda klick.
Regleringens arbete kan ofta kännas långsamt och otydligt, men våra senaste resultat visar att när regler faktiskt efterlevs kan det göra verklig skillnad för att skydda användare, säger CCDHs vd Imran Ahmed, som samtidigt betonar att framsteg inte är detsamma som att problemet är löst.
Christine Peat, ordförande för Eating Disorders Coalition for Research, Policy & Action, är inne på samma linje. Hon menar att krisresurser som inte visas för det innehåll som är mest sannolikt att skada ett barn inte fungerar som ett skyddsnät, utan snarare blir en lucka i systemet.
Google, som äger YouTube, svarar att man har ett ”orubbligt” åtagande för att stoppa spridningen av skadligt innehåll, och att de videor som pekats ut i rapporten redan tagits bort.
För vår del är det EUs Digital Services Act som gäller. Där sägs det att rekommendationssystem som medför medel- eller hög risk för skadligt innehåll måste konfigureras så att sådant innehåll filtreras bort ur barns flöden.
Alla plattformar uppmanas dessutom att prioritera vad barn själva aktivt uttrycker intresse för, snarare än att låta algoritmen styras av beteendedata.
Annars finns det en risk att förstärka nedåtgående spiraler av samma typ av innehåll.
Även om EUs riktlinjer inte är juridiskt bindande har EU-kommissionen varit tydlig med att den kommer använda dem som måttstock när man bedömer t ex YouTube.
Om de olika plattformarna bryter mot riktlinjerna kan de få böter på upp till 6% av den globala omsättningen.
Inga kommentarer:
Skicka en kommentar