L'algoritmo di YouTube che mostra video horror ai bambini

L'intelligenza artificiale sta facendo negli ultimi tempi passi da gigante, purtroppo come ogni novità non sempre è possibile prevedere e controllare tutte le sue evoluzioni. A volte è ammesso sbagliare, proprio come farebbe una persona. Teoricamente in questo specifico caso di cui andremo a parlare l'essere umano non ha sbagliato nulla, ma la ''colpa'' sarebbe forse dell'algoritmo intelligente di YouTube. Ricordiamo brevemente cosa si intende per algoritmo.

L'algoritmo è una sequenza finita di operazioni (dette anche istruzioni), che consente di risolvere tutti i quesiti di una stessa classe. Un algoritmo deve essere: finito, cioè quando è costituito da un numero finito di istruzioni e presenta una fine; deterministico, cioè quando partendo dagli stessi dati in input, si ottengono i medesimi risultati in output; non ambiguo, le operazioni devono poter essere interpretate nello stesso modo da tutti anche se l'esecutore è differente; generale, cioè quando la soluzione è uguale per tutti i problemi della medesima classe. Il termine deriva dalla trascrizione latina del nome del matematico persiano al-Khwarizmi.

Quattro anni fa, Kris Straub ha pubblicato l'episodio della sua serie horror Show for children impostandolo chiaramente e consapevolemente come inappropriato per i minori e sottolineando ulteriormente a inizio descrizione che non si tratta di uno show per bambini.

Però, anni dopo, è successo che, invece, l'algoritmo di YouTube è tornato sul video e ha rimosso la restrizione per i maggiorenni impostata in origine. Lo screenshot pubblicato su Twitter da Straub mostra che il video adesso è contrassegnato Made for kids per una decisione di YouTube.;la protesta dell'autore sul social è arrivata all'account del team di YouTube che ha promesso di esaminare la questione.

Solo che passa del tempo dall'accaduto, eppure i tweet di Straub rimangono ancora lì e non ci sono novità, i commenti al video sono disattivati e nella descrizione dell'episodio horror Show for children, c'è un badge promozionale di YouTube for Kids, due indicatori del fatto che il video risulta ancora contrassegnato per i bambini.

Straub, dunque, ha provato invano ad intervenire per correggere l'abbaglio dell'algoritmo di YouTube impostando nuovamente la restrizione per età, e poi, parallelamente ai tweet di protesta che sono arrivati a destinazione, ma purtroppo senza produrre gli effetti sperati, così si è dovuto rivolgere nuovamente a YouTube, inoltrando richiesta di revisione. 

La risposta di YouTube è pressoché sconcertante, in quanto, consapevole del contenuto, afferma esplicitamente che tutto si evince dalla piattaforma stessa, è scritto chiaramente che l'episodio non è adatto ai bambini e c'è un indicazione precisa che evita fraintendimenti.

Concludendo, forse alla fine di tutta questa storia, una cosa è certa: nessun algoritmo probabilmente sarà mai perfetto. Quindi non sorprende che sbagli anche quello di un colosso come YouTube. E'bene sottolineare, però, che svolgendo un ruolo così delicato (in quanto potrebbe essere messa a rischio la sicurezza dei minori) si deve agire sempre con molta cautela nel modo più corretto possibile per evitare episodi di questo genere. 

Purtroppo nel corso degli anni, gli algoritmi di YouTube sono stati criticati varie volte, anche da parte di Mozilla per quanto riguarda la gestione dei siti consigliati. Quando, però, si fa riferimento a contenuti per bambini, sarebbe bene che si rimanesse pronti ad agire velocemente. 

Spesso, i bambini si trovano inconsapevoli a navigare su internet e si imbattono in siti pericolosi senza nemmeno rendersi conto del pericolo che potrebbero correre.

In generale, bisognerebbe proteggere i bambini dai pericoli di internet, senza però privarli della bellezza di scoprire il mondo digitale in tutte le sue sfaccettature. Navigare in sicurezza si può, se si conoscono bene le impostazioni di Privacy.