Kristijane C. (Christiane C:) nije mogla zamisliti da bi se išta loše moglo dogoditi dok je njena kćerka (10) zajedno s prijateljicom uploadala snimak koji ih prikazuje kako se igraju u bazenu u dvorištu.
Nekoliko dana kasnije njena je kćerka podijelila vijest da je video je imao hiljade pregleda, a ubrzo ih je bilo 400.000.
- Ponovno sam pogledala video i zgrozila se zbog broja pregleda - kaže Kristijane.
Imala je razloga biti zgrožena, za "The New York Times" pišu Maks Fišer (Max Fisher) i Amanda Taub.
YouTubeov automatski sistem preporuka, koji pokreće većinu od milijardi prikaza na ovoj platformi tako što korisnicima sugerira što da sljedeće pogledaju, počeo je prikazivati videozapis korisnicima koji su gledali druge zapise s pretpubertetskom i djelomično razodjevenom djecom, otkrila je ekipa istraživača.
YouTube je odabrao videozapise iz svoje arhive, ponekad uzevši inače neškodljive kućne snimke porodice nesvjesnih što se događa, kažu istraživači. U mnogim slučajevima, njegov algoritam preporučio je korisnicima takve zapise nakon što su gledali snimke sa seksualnim sadržajem. Rezultat je katalog videozapisa za koje stručnjaci kažu da seksualizira djecu.
- Te kanale povezuje YouTubeov algoritam. To je zastrašujuće - rekao je Džons Kajzer (Jonas Kaiser,) jedan od tri istraživača "Berkman Klein Centra za internet i društvo" pri Harvardu, koji je naišao na te videozapise dok je istraživao učinak YouTubea na Brazil.
Video Kristijanine kćerke YouTubeov je sistem promovirao mjesecima nakon što je kompanija upozorena da ima problem s pedofilima. U februaru su "Wired" i drugi mediji objavili da predatori koriste komentare ispod YouTube videa s djecom kako bi navodili druge pedofile. Tada je YouTube, nazvavši problem "duboko zabrinjavajućim", onemogućio komentare ispod mnogih videozapisa koji prikazuju djecu.
Snimke djece kao preporuka pedofilima
No sistem preporuka, koji i dalje funkcionira, prikupio je desetke takvih zapisa u novi i lako dostupan repozitorij, te ga pustio svekolikoj publici. YouTube nikad nije namjeravao služiti korisnicima sa seksualnim interesom prema djeci, ali na kraju im je njegov automatski sistem omogućio da gledaju takav sadržaj i to uz preporuku.
Korisnici uopće ne moraju tražiti snimke djece da bi završili gledajući takve zapise. Platforma ih može odvesti do njih kroz razvoj preporuka. Tako se korisnicima koji gledaju erotske videozapise može preporučiti da pogledaju zapise žena koje izgledaju upadljivo mlađe, a potom i žena koja provokativno poziraju u dječjoj odjeći. Na kraju, nekim korisnicima mogu biti ponuđeni zapisi djevojčica od 5 ili 6 godina, obučenih u kupaće kostime ili koje se oblače.
Nakon što je "The Times" upozorio YouTube da njegov sistem vrti porodični video ljudima koji su vjerojatno motivirani seksualnim interesom za djecu, kompanija je uklonila neke zapise, ali ostavila mnoge druge, među ostalima i one koji su učitani s naizgled lažnih računa. Sam sistem preporuka također je odmah promijenjen, tako da više ne grupira neke od otkrivajućih zapisa.YouTube kaže da je to vjerojatno posljedica rutinskih podešavanja algoritama, a ne namjerne prilagodbe pravila.
Međutim, YouTube nije proveo onu promjenu za koju istraživači kažu da bi mogla spriječiti ponavljanje takvih slučajeva, isključiti sistem preporuka na videozapise djece, iako platforma može automatski identificirati takve zapise. Kompanija kaže da su preporuke najveći generator prometa, te da bi njihovo uklanjanje pogodilo "kreatore" koji se oslanjaju na te klikove. YouTube je naglasio kako će ograničiti preporuke na snimke za koje se smatra da bi djecu mogli dovesti u rizik.
