La plupart des discussions sur le harcèlement en ligne de début et de fin avec le Gamergate, mais le harcèlement en ligne des campagnes ont été bien entamée dans les années 1990. Ils ont évolué pour inclure la vie en danger de tactiques, y compris doxxing et les écraser. Caroline Sinders, un chercheur dans le domaine Numérique, de la Harvard Kennedy School et d’un spécialiste de l’apprentissage de la machine, les jointures de Nilay Patel et Casey Newton sur La Vergecast à parler des origines de harcèlement en ligne, comment les plateformes comme Twitter et Facebook peuvent être mieux conçu pour les combattre, et ce que nous en tant qu’individus peuvent faire pour atténuer ses effets.
Ci-dessous un bref transcription de leur conversation sur la façon de mieux les conceptions peuvent le contenu de l’aide aux modérateurs de faire appliquer les règles et de protéger les gens contre le harcèlement en ligne:
Caroline Sinders: Certains des outils que les gens sont donné à teneur modérée, à partir de ce que nous avons vu et les différentes fuites d’informations sur le contenu des modérateurs, est terrible. Ce qu’ils ont à travailler avec est vraiment, vraiment pas génial. Et c’est bouleversant quand vous pensez à ce sujet à partir d’un point de vue design, quand vous pensez à la façon dont les phares de design moderne dans les États-unis seront en conception de logiciels et ce sera à partir de plates-formes, que ce contenu modérateurs ont pour utilisation modérée des plates-formes est très hostile. En dehors du contenu qu’ils sont forcés à regarder, les outils qui leur sont donnés et les délais qu’ils reçoivent pour analyser le contenu est presque… je veux dire comme une violation des droits humains.
Casey Newton: Wow.
Ils ont moins de 10 secondes pour prendre une décision. Parfois, ce qu’ils regardent est extrêmement violent de contenu. Ils doivent regarder toute la journée, et ils ont des quotas qu’ils répondent souvent. Alors, comment voulez-vous construire contexte? Comment voulez-vous construire contexte de quelque chose comme une campagne de harcèlement qui se passe dans Steubenville?
Mm-hmm.
Comment voulez-vous construire en contexte pour qui? Ce que les gens ont souvent, c’est comme une liste de contrôle qu’ils ont à mémoriser. Il est basé sur la politique ce n’est pas une grande politique autour de la définition du harcèlement. Et ils ont à prendre une décision fraction de seconde. Et ils disposent d’outils où il n’y a pas assez montré à eux pour peut-être comprendre ce qu’ils regardent. Alors, quelles sont toutes les solutions ici? Les solutions sont peut-être la refonte de la façon dont le contenu, les modérateurs sont prise avec le contenu sur les plates-formes. Rendre l’expérience meilleure.