Google contro i contenuti d’odio, in 10mila lavorano per segnalarli

ROMA. – Google dichiara guerra all’odio online e schiera un esercito di 10mila ‘valutatori’ per segnalare i siti con contenuti offensivi che finiscono tra i risultati delle ricerche sul web. L’obiettivo è togliere visibilità a chi usa la rete per spargere insulti, violenza, razzismo e discriminazioni, grazie a modifiche degli algoritmi che decidono cosa mostrare all’utente quando cerca informazioni online.

La compagnia di Mountain View ha appena aggiornato le oltre 150 pagine di linee guida rivolte alle 10mila persone che nel mondo sono incaricate di valutare la qualità e la pertinenza dei risultati sul suo motore di ricerca, aggiungendo una sezione dedicata ai “contenuti sconvolgenti-offensivi”.

I valutatori di Google ora sono chiamati a segnalare “contenuti che promuovono l’odio o la violenza contro gruppi di persone basati su criteri quali la razza o l’etnia, la religione, il genere, la nazionalità o la cittadinanza, le disabilità, l’età, l’orientamento sessuale”, si legge nelle linee guida. Insulti razziali, informazioni sul come perpetrare attività nocive e “violenza esplicita, tra cui crudeltà sugli animali e abusi sui bambini”, rientrano nell’elenco.

Tra gli esempi si cita la ricerca online della “storia dell’olocausto”: se tra i risultati compare il forum Stormfront, che sostiene la supremazia bianca e nega la Shoah, questo va segnalato. Allo stesso modo, se cercando la frase “razzismo contro i neri” compare tra i risultati un articolo secondo cui gli africani sono geneticamente più simili alle scimmie bonobo che agli uomini bianchi, va contrassegnato come offensivo.

Le segnalazioni non hanno effetto immediato, ma saranno prese in considerazione sia dai dipendenti di Google incaricati degli algoritmi che determinano i risultati delle ricerche, sia dai sistemi di intelligenza artificiale, nello specifico di apprendimento automatico, usati dalla compagnia.

Proprio sull’apprendimento automatico si basa Perspective, un software che il mese scorso Google ha messo a disposizione dei media per stanare l’odio in rete, in particolare nei commenti dei lettori alle notizie. La tecnologia assegna ai commenti un punteggio di “tossicità” da 1 a 100, e può essere usata a vari livelli.

Per individuare i commenti da moderare, ad esempio, o anche per rimuoverli automaticamente. O ancora per sottolineare all’utente che ha scritto frasi offensive e magari, in questo modo, spingerlo a moderare le parole.

(di Laura Giannoni/ANSA)