Tutti i prezzi sono validi al momento della pubblicazione. Se fai click o acquisti qualcosa, potremmo ricevere un compenso.

YouTube: l'allenamento dell'AI non distingue i contenuti sensibili per i minori

29 Dicembre 2017 46

YouTube sfrutta una AI dedicata al riconoscimento dei contenuti video, in modo da distinguere quelli di bassa qualità e inadatti al suo pubblico più giovane. Al fine di poter funzionare correttamente, l'AI ha bisogno di essere allenata per capire quali filmati possono essere approvati e quali scartati e per fare ciò Google ha messo in piedi una task force che conta ben 10.000 dipendenti che hanno il compito di valutare i contenuti per migliorare l'algoritmo che governa l'AI.

Stando a quanto emerso da un approfondimento di BuzzFeed, sembra però che i criteri e le linee guida assegnati ai revisori siano poco efficaci per contrastare la diffusione di contenuti poco adatti ad un pubblico giovane, motivo per cui tutto il processo di addestramento dell'AI potrebbe portare allo sviluppo di un algoritmo incapace di effettuare una classificazione corretta.

Secondo alcuni dipendenti a contratto, infatti, Google richiede che venga data priorità alla valutazione della qualità tecnica del video, premiando contenuti che presentano, ad esempio, un'ottima regia e un montaggio curato, rispetto al reale contenuto del filmato. Capita così che vengano approvati diversi video il cui contenuto tratti temi assolutamente diseducativi, tra cui l'utilizzo di violenza, droga o armi, solo per via dell'effettivo buon livello tecnico raggiunto nella produzione.

Google ha provato a migliorare le sue linee guida introducendo una valutazione apposita per classificare i contenuti adatti a bambini di età compresa tra i 9 e i 12 anni, tuttavia anche questo non sembra aver risolto la questione, dal momento che un video musicale potrebbe facilmente risultare inadatto, mentre filmati in cui viene attuata una leggera violenza sugli animali possono essere approvati senza problemi.

Stando alle dichiarazioni dei revisori, questo è causato da un conflitto di valori: da un lato la necessità di proteggere determinate fasce di pubblico, mentre dall'altro il bisogno di proporre contenuti che diventino facilmente virali, spingano l'utilizzo della piattaforma e ne incrementino i ricavi. Google dovrà sicuramente mettere nuovamente mano alle sue linee guida, in modo da non creare una AI votata esclusivamente alla massimizzazione dei ricavi. Sarà in grado di fare ciò?


46

Commenti

Regolamento Commentando dichiaro di aver letto il regolamento e di essere a conoscenza delle informazioni e norme che regolano le discussioni sul sito. Clicca per info.
Caricamento in corso. Per commentare attendere...
Simo foryou

Io utilizzo questo sito
http://pescarepesci.altervi... per i miei bambini, trovo cartoni animati completi e sono sicura che
filtrati, inoltre quando il cartone finisce come sicurezza non ne fa
vedere un altro in succedssione..

ale

Le AI esistono e vengono già usate, se mai sei te che hai l'idea di AI dei film di fantascienza, perché un AI dovrebbe essere dotata di autocoscienza ? Non ce ne può fregar di meno

Shimoto

Mancava la boiata del giorno effettivamente.

ermete74

Io per fortuna ho avuto una maestra elementare che ci spiegò con un certo tatto come vengono concepiti i bambini.
Iniziò dall'ape e il fiore arrivando all'atto sessuale tra un uomo e una donna, chiaramente utilizzando una terminologia adatta a dei bambini.

GeneralZod

Infatti c'è anche la questione culturale. Il problema è complesso, per questo non si riesce a definire una AI, anche se supervised.
Però io non capisco una cosa. Metto il tablet in mano al bambino e gli suggerisce un video che non reputo corretto. Lo escludo cliccando su "non sono interessato" (o una cosa del genere) e sistematicamente me lo ripresenta! Siamo di fronte ad una ben più complessa Ignoranza Artificiale.
Scherzi a parte, ci sono video per bambini diseducativi al 100%.

GeneralZod

E come le dovremmo chiamare? Il mio PC l'ho sempre chiamato Gustavo.

Fabrz

Guarda che AI non è collegato all'autocoscienza. E' una capacità di eseguire compiti complessi anche diversi da quelli già visti o previsti e imparare. AI non è un termine per niente sbagliato a meno che non venga preso nel senso fantascientifico del termine.

danieleg1

Un po' di colpa comunque è anche da dare agli utenti che li guardano quei video, è un po' un cane che si morde la coda.

Costantino

Si lo so che ci sono i blocker. La scoperta dell'acqua calda. Io mi riferisco al sondaggio che HDblog recentemente ha fatto e alla notizia che da gennaio ci saranno politiche SEO più severe per quanto riguarda le pubblicità invasive sui siti web. E nasce il consorzio Better ADS.

Vermillion

Scaricati adguard. Problema risolto.

I blogghers faranno una vita migliore della tua anche se non vedrai la loro pubblicita'.

Vermillion

Crediamo che l'AI sia il futuro, e faremo di tutto per implementare delle leggi per regolamentare al meglio questa tecnologia.

Google 2017.

Bestmark01

Ormai i genitori attuali fanno protesta per ogni cosa che si trova sul web per loro inadatta ai loro figli (che poi fanno cose ben peggiori alle loro spalle)

Quello che nessuno dice

Anche in Italia si spiega alle elementari, organi sessuali e tutto. E questo avveniva già 20 anni fa.

Piantatela di parlare a vanvera che siete parte del problema in Italia. Ciance e non combinate un cacchio

matteventu

"credo che forse ci dovremmo interessare più che ad un pisello e ad una patata alla valanga di contenuti pieni di ignor4nz4 che vengono trasmessi da tv giornali, siti web"

Parole sante...

matteventu

Ok ma era comunque il sito con piu' video.
Trovavi di tutto come lo trovi ora.

Ecco, forse era piu' questo: un semplice servizio di video sharing.
Ora si tende a trasformare tutto in "social network".

Quello che nessuno dice

Piantatela di chiamarle AI. Non esistono. E il cielo ce ne scampi. Solo un pazzo creerebbe una macchina cosciente di sé stessa. Vaglielo a spiegare perché dovrebbe servire l'uomo in eterno poi

Quello che nessuno dice

Siccome i genitori non educano più però, deve farlo la rete

Quello che nessuno dice

YouTube non era quello che potrebbe essere oggi. Solo 5 anni fa lo usavano MOLTE MOLTE meno persone. Ma anche 2-3 anni fa

Gios

Distinguere i contenuti sensibili da quelli non sensibili è sostanzialmente indecifrabile: un video delle iene è sensibile? Un discorso di Renzi è sensibile? Un discorso Di di Maio è sensibile? Un discorso di salvini è sensibile? Un discorso di un dietrologo è sensibile? Un video di come si usa un laser da 30W proteggendosi gli occhi con un paio di occhiali da sole è sensibile? Un video dove due IDlOTl spaccano una tv a tubo catodico senza mascherine in un parco pubblico o spaccano diversi vasi di vetro è sensibile?

Una notizia per Google.....basta scrivere in alto y_o_u_ e poi por_ viene da se. Se un bambino vuole vedere quelle cose impara in fretta come farlo.......credo che forse ci dovremmo interessare più che ad un pisello e ad una patata alla valanga di contenuti pieni di ignor4nz4 che vengono trasmessi da tv giornali, siti web etc etc...

Non ultimo il post su Facebook con la foto della tizia che ha scuoiato vivo un agnello al Carrefour.......... mi chiedo come la gente riesca credere a certe cazz4te

Breus

https://uploads.disquscdn.c...

Whommy

-chi non educa i bambini a navigare?
I genitori

-Perchè non lo fanno?
perchè non sono educati loro stessi a navigare per loro il mondo finisce dopo facebook e word, ciò almeno nel 98% delle famiglie

-Ma i genitori di oggi hanno stutiato "informatica" a scuola!
che ha insegnato a scrivere su word e fare graficini su excel
fatto pagare la patente europea del computer che vale come la carta igenica
il tutto spiegato da docenti ancora meno educati di loro ad insegnare

-allora è colpa della scuola
esattamete: ieri, oggi e domani
poi c'è il problema smartphone che ha dato in mano a tutti "grandi poteri" senza la minima preparazione

prendi adesso questo discorso
cambia i soggetti in lavoratori, imprese, stato, ecc..
ecco qua il quadro dell'italia in rovina

Costantino

Perchè qui sono ancora presenti pubblicità con video? Non avevate detto che l' avreste tolta questa tipologia di pubblicità?

Modho

"Secondo alcuni dipendenti a contratto, infatti, Google richiede che venga data priorità alla valutazione della qualità tecnica del video, premiando contenuti che presentano, ad esempio, un'ottima regia e un montaggio curato, rispetto al reale contenuto del filmato. Capita così che vengano approvati diversi video il cui contenuto tratti temi assolutamente diseducativi, tra cui l'utilizzo di violenza, droga o armi, solo per via dell'effettivo buon livello tecnico raggiunto nella produzione."

Questo perché si parte col presupposto che chi fa prodotti offensivi non ha le qualità per renderli tecnicamente belli da vedere, cosa che con youtube non funziona. I video di Toy Freaks non erano scadenti di regia, Howtobasic idem, FPS RUSSIA pure.
Stessa cosa i cartoni animati. Racist Mario supera di qualità tantissimi altri video neutrali presenti, e questo basta a eludere l'algoritmo, nel caso analizzasse anche i cartoni animati.
Poi ovviamente i videoclip degli artisti. L'animazione di Evolution dei Pearl Jam o DyE Fantasy sono di qualità, come son gestiti da una buona regia i video dei cantanti famosi che fanno twerking, o hanno allusioni sessuali, come Nicki Minaj.

Più che utilizzare la forza lavoro per sviluppare questa IA, prenderei degli utenti che sanno perfettamente come funziona youtube e la community (quindi che conoscono termini) per fargli analizzare i video con maggiori visualizzazioni, che possono attirare il pubblico minore (che segue i video popolari, pochi seguono quelli che hanno massimo 10000 visual) e creare il giusto ranking.

Flyn

Guarda che anche io come matte ho fatto ed. Sessuale alle elementari. Ho fatto le elementari tra la fine degli anni 90 e l'inizio del 2000, altro che progetto pilota, era il POF nazionale.

M_90®

HAHAHAHAHAHAHAHAHAHAH

matteventu

Io devo dire di essere stato abbastanza fortunato... anche i miei, anni fa quando ancora vivevo con loro, una sera dopo cena dissero a me ed i miei fratelli "la mamma ha comprato questi, li mettiamo di sopra dove ci sono le medicine, usateli se vi servono" con in mano una confezione di Durex lol

M_90®

E a quell'età è gia tanto sapere cosa sono, conosco genitori che fino ai 14/15 anni non voglio sentir parlare dai figli di ste cose.

xpy

Altro che un caso su 1000, era un caso unico in tutta Italia

matteventu

Devo dire che avevo una maestra bravissima... avevamo appeso di fianco alla lavagna una bustina di quelle di plastica con dentro un preservativo ed un assorbente LOL

Raffael

Assolutamente vero!

M_90®

I classici progetti pilota che fa 1 scuola su 1000.

matteventu

Per non parlare di cosa passa in TV lol

Midnight

I veri contenuti controeducativi hanno migliaia (se non milioni) di views anche se non contengono né s3sso né v1olenza

matteventu

Anche io alle elementari facevo educazione sessuale... in Italia... ed ho finito le elementari 12 anni fa...

ReArciù

a educare devono essere i genitori, youtube al limite è un passatempo

Pip

Se é per questo il loro algoritmo premia praticamentesolo video clickbait e inutili gameplay e demonetizza il 90% dei restanti video...
Hanno totalmente distrutto il concetto stesso di youtube

Gius

é un misto di entrambi

M_90®

nel nord europa già alle elementari si spiega ai bambini come si nasce e cosa sono gli organi sessuali, fanno addirittura pubblicità nelle fasce che noi chiamiamo "protette" su questi argomenti, qui invece non possiamo farlo, dobbiamo dire che i bambini vengono dai fagiani e che nascono dai fiori quando passano le api. tutto grazie alla chiesa... poi i preti sono i peggiori ped0fili e le cristiane fanno i migliori chinotti. baah

Raffael

Questo si, ma mi sembra che ce ne siano di più oggi! Anche perché ci sono pure più video!

Stefano Vago

chi lascia i bambini liberi di navigare nel webbe si merita questo ed altro

matteventu

Non che una volta non ci fossero...

matteventu

In realtà è stato più volte rivelato da Google ufficialmente che la AI che lavora dietro a YouTube è composta da scimmie.

Raffael

Molti contenuti però sono abbastanza controeducativi, quantomeno ad oggi

matteventu

Mah... Impiegassero quelle persone per fare controlli sulle app di Play Store.

Sono cresciuto con YouTube senza nessuna modalità bambini o protezione, e sono ancora vivo (e non sono un pazzo omicida/drogato).

Florence Hotzone

Secondo me la AI di YouTube assomiglia più a questa https://uploads.disquscdn.c...

Gius

Rara foto dell'ai di youtube https://uploads.disquscdn.c...

HDMotori.it

Mazda CX-60, un Diesel da 3.3 litri nel 2024? Per me è assolutamente sì!

Games

Recensione Asus ROG Swift OLED PG49WCD: che immersività!

Tecnologia

Recensione Ecovacs Deebot T30 Pro Omni: il più potente al mondo, a meno di 1000€

Articolo

Paramount+: tutti i film e le serie TV in arrivo ad aprile 2024