Facebook mercoledì ha condiviso alcuni dei progressi nell'intelligenza artificiale che stanno contribuendo al colossale compito dell'azienda di far rispettare gli standard della comunità sulle sue piattaforme. Nuove tecniche e sistemi che Facebook ha rapidamente spostato dalla ricerca alla produzione, come il suo Reinforcement Integrity Optimizer (RIO), stanno aiutando a ridurre la quantità di incitamento all'odio e altri contenuti indesiderati che gli utenti di Facebook vedono, ha affermato la società.
“L'intelligenza artificiale è un campo incredibilmente in rapida evoluzione e molte delle parti più importanti dei nostri sistemi di intelligenza artificiale oggi si basano su tecniche come l'autocontrollo, che solo anni fa sembrava un futuro lontano”, Facebook Il CTO Mike Schroepfer ha detto ai giornalisti mercoledì.
Nel Rapporto sull'applicazione degli standard della comunità pubblicato mercoledì, Facebook ha affermato che la prevalenza di incitamento all'odio nel secondo trimestre del 2021 è diminuita per il terzo trimestre consecutivo. Ciò è dovuto ai miglioramenti nel rilevamento proattivo dell'incitamento all'odio e ai cambiamenti di classifica nel feed delle notizie di Facebook.
Nel secondo trimestre, secondo il rapporto, ci sono state cinque visualizzazioni di incitamento all'odio per ogni 10.000 visualizzazioni di contenuti. Questo è sceso da cinque a sei visualizzazioni per 10.000 visualizzazioni nel primo trimestre.
Nel frattempo, la società ha 31,5 milioni di contenuti di incitamento all'odio provenienti da Facebook nel secondo trimestre, rispetto ai 25,2 milioni del primo trimestre e ai 9,8 milioni di Instagram, rispetto ai 6,3 milioni del primo trimestre.
Sistemi come RIO, introdotti alla fine dello scorso anno, aiutano l'azienda a rilevare in modo proattivo l'incitamento all'odio.
L'approccio classico all'addestramento dell'IA utilizza un set di dati fisso per addestrare un modello che viene poi distribuito per prendere decisioni su nuovi contenuti. Rio, al contrario, guida un modello di intelligenza artificiale per imparare direttamente da milioni di contenuti attuali. Valuta costantemente quanto bene sta facendo il suo lavoro e apprende e si adatta per rendere le piattaforme Facebook più sicure nel tempo.
“Questo tipo di apprendimento end-to-end è incredibilmente prezioso per far rispettare gli standard della comunità”, ha affermato Schroepfer. “Poiché la natura del problema è in continua evoluzione insieme agli eventi attuali, quando emergono nuovi problemi, i nostri sistemi devono essere in grado di adattarsi rapidamente. Il Reinforcement Learning è un approccio potente per aiutare l'IA ad affrontare nuove sfide quando mancano dati di formazione validi. Ci aspettiamo che il nostro sistema RIO continui a ridurre la prevalenza di incitamento all'odio e altri contenuti indesiderati a lungo nel futuro, il che è molto incoraggiante per una nuova tecnologia così.”
Facebook sta anche sostituendo i sistemi su misura monouso con altri più generalizzati a un “ritmo sorprendente”, ha affermato Schroepfer. Ha anche detto che stanno vedendo “miglioramenti impressionanti” nei modelli di intelligenza artificiale multimodali, che possono funzionare in più lingue; molteplici modalità come testo, immagini e video; e in più aree politiche.
Inoltre, Schroepfer ha pubblicizzato i progressi che i ricercatori di Facbook hanno fatto nelle aree dell'apprendimento “zero shot” e “pochi shot”, che consente ai sistemi di intelligenza artificiale di riconoscere i contenuti violati, anche se non li hanno mai visti prima o hanno visto solo alcuni esempi di esso durante l'allenamento.
“L'apprendimento a zero colpi e pochi colpi è uno dei tanti domini di intelligenza artificiale all'avanguardia in cui abbiamo effettuato importanti investimenti nella ricerca e prevediamo di vedere risultati nel prossimo anno”, ha affermato Schroepfer.
I sistemi di intelligenza artificiale di Facebook completano il lavoro svolto da decine di migliaia di individui per far rispettare gli standard della comunità.
Argomenti correlati:
Social Enterprise Digital Transformation CXO Internet of Things Innovation Enterprise Software 