Google explique comment il protège les avis créés par les utilisateurs sur Google Maps contre la fraude et les abus dans un nouveau billet de blog et une vidéo d'accompagnement. Comme de nombreuses plates-formes traitant de la modération à grande échelle, Google affirme utiliser un mélange de systèmes d'apprentissage automatique automatisés ainsi que d'opérateurs humains.
Les détails viennent au milieu d'un examen croissant des avis des utilisateurs sur des sites comme Google Maps et Yelp, où les entreprises ont été frappées par de mauvaises critiques pour avoir mis en œuvre des mesures de santé et de sécurité liées au COVID (y compris le masque et besoins en vaccins) souvent hors de leur contrôle. D'autres critiques ont critiqué les entreprises pour les avoir prétendument amenées à contracter le COVID-19 ou pour ne pas avoir respecté les heures d'ouverture habituelles pendant une pandémie mondiale.
Plus tôt dans la journée, Yelp a signalé avoir supprimé plus de 15 500 avis entre avril et décembre de l'année dernière pour avoir enfreint ses directives de contenu COVID-19, une augmentation de 161% par rapport à la même période en 2020. Au total, Yelp dit avoir supprimé plus de 70 200 avis sur près de 1 300 pages en 2021, dont beaucoup résultent d'incidents dits de “bombardement d'avis” où des avis coordonnés sont soumis par des utilisateurs qui n'ont pas réellement fréquenté une entreprise.
“Nous avons besoin à la fois de la compréhension nuancée que les humains offrent et de l'échelle qui machines fournissent »
Google explique que chaque avis publié sur Google Maps est vérifié par son système d'apprentissage automatique, qui a été formé sur les politiques de contenu de l'entreprise pour éliminer les avis abusifs ou trompeurs. Ce système est formé pour vérifier à la fois le contenu des avis individuels, mais il recherche également des modèles plus larges – comme des pics soudains dans les avis une ou cinq étoiles – à la fois du compte lui-même, ainsi que d'autres avis sur l'entreprise.
Google affirme que la modération humaine entre en jeu pour le contenu qui a été signalé par les utilisateurs finaux et les entreprises elles-mêmes. Les avis offensants peuvent être supprimés et, dans les cas les plus graves, les comptes d'utilisateurs peuvent être suspendus et les litiges poursuivis. “Nous avons constaté que nous avons besoin à la fois de la compréhension nuancée offerte par les humains et de l'échelle fournie par les machines pour nous aider à modérer le contenu généré par les utilisateurs”, écrit Ian Leader, responsable produit de Google pour le contenu généré par les utilisateurs.
C'est un regard intéressant sur les mesures prises par Google pour que les avis Maps restent utilisables. Vous pouvez en savoir plus dans l'article de blog complet.