YouTube, pur avendo fatto molto per il controllo dei contenuti discutibili (es. la norma anti sfide pericolose), è vittima del suo successo: con 400 video caricati ogni minuto, la sua intelligenza artificiale – pur coadiuvata da un team di 10 mila dipendenti – non riesce a controllare tutto quello che viene condiviso, e come ciò venga commentato o sfruttato. Normale, quindi, che sia nata una polemica relativa ai contenuti di pedofilia soft-core rivenuti sulla sua piattaforma e che, forse di conseguenza, sia stato aggiornato il sistema degli avvertimenti.
Un utente di Reddit, Matt Watson, ha scoperto – usando adeguatamente la ricerca per parole chiave e l’algoritmo di YouTube – come quest’ultima presenti una sorta di tunnel segreto, o “whormhole“, fatto di contenuti pedo-pornografici: i video in questione ritrarrebbero per lo più bambine intente a far ginnastica, a fare il bagno al mare o in piscina, a gustare un lecca-lecca, etc, e sarebbero contornati da commenti spesso equivoci (anche per le emoji usate) con timestamps (link a precisi istanti) in cui le vittime sarebbero intente in momenti ritenuti imbarazzanti, od osé. In più, i video in questione consentirebbero anche guadagni a chi li ha caricati, vista la presenza di diffusi annunci e banner pubblicitari.
Interpellata in merito da TechCrunch – che si è fatta portavoce della scoperta – YouTube ha ammesso di non poter fare molto nel caso specifico, visto che i video incriminati ritrarrebbero bambini inconsapevoli intenti, tra l’altro, in attività tipiche della loro età (giocare, divertirsi) senza alcuna malizia. Tuttavia, la piattaforma ha precisato che, nel rinvenire contenuti e commenti inappropriati, prende sempre le opportune contromisure (segnalazioni alle autorità, rimozione del contenuto, chiusura dell’account), e che severe normative regolano anche la pubblicazione delle inserzioni, che possono essere sospese o rimosse in seguito a violazioni.
Stranamente, però, a stretto giro, è arrivata la comunicazione di YouTube secondo cui, a decorrere dal 25 Febbraio, entrerà in vigore il nuovo regolamento della community, che norma quel che i creators possono o meno pubblicare, e cosa ne consegue in caso di violazioni. Nello specifico, in caso di una prima infrazione, il creator non verrà punito, se non con la rimozione del contenuto contestato, in modo che possa riflettere su quanto commesso, ed adeguarsi alle nuove norme. Sbagliando di nuovo, però, entra in azione un sistema a tre strike (avvertimenti) progressivi: col primo “strike”, il canale viene congelato (niente live o video caricati) per una settimana, mentre col secondo strike (nel caso vi sia stata un’altra violazione nei 90 giorni precedenti), la sospensione dura due settimane. Nell’eventualità che i 90 giorni successivi vedano l’utente commettere un’altra infrazione, il blocco del canale diverrà permanente.
Secondo quanto precisato da YouTube, che si è detta certa del successo del sistema (visto che già il 98% degli autori non viola le regole della community e chi lo fa, secondo i test condotti, dopo il primo strike, nel 94% non è recidivo), l’iniziativa riguarderà tutti i creators, indipendentemente dal successo di iscritti al proprio canale.