Im Mai habe ich hier geschrieben, dass das Problem der Kindersicherheit auf Technologieplattformen schlimmer ist, als wir wussten. Eine beunruhigende Studie der gemeinnützigen Organisation Thorn ergab, dass die Mehrheit der amerikanischen Kinder Apps schon Jahre vor ihrem eigentlichen Verwendungszweck nutzten – und ein ganzes Viertel von ihnen gab an, sexuell explizite Interaktionen mit Erwachsenen gehabt zu haben. Dadurch sind die Plattformen in der Pflicht, sowohl minderjährige Nutzer ihrer Dienste besser zu identifizieren als auch sie vor Missbrauch zu schützen, den sie dort finden könnten.
Instagram hat jetzt einige vielversprechende Schritte unternommen in diese Richtung. Gestern kündigte das Unternehmen an, dass es:
- Konten für Kinder unter 16 Jahren standardmäßig privat machen
- Konten von Teenagern ausblenden von Erwachsenen, die sich verdächtig verhalten haben, z. B. wiederholt von anderen Kindern blockiert worden sind
- Verhindern Sie, dass Werbetreibende mit interessenbezogenen Anzeigen auf Kinder abzielen. (Es gab Beweise dafür, dass Anzeigen für Rauchen, Gewichtsabnahme und Glücksspiel allen Teenagern gezeigt wurden.)
- Entwickeln Sie KI-Tools, um zu verhindern, dass sich minderjährige Nutzer anmelden, entfernen Sie vorhandene Konten von Kindern unter 13 , und neue Methoden zur Altersüberprüfung entwickeln
Das Unternehmen bekräftigte auch seinen Plan, eine Kinderversion von Instagram zu entwickeln, die von … vielen Leuten verurteilt wurde.< /p>Die meisten Plattformen haben sehr wenig getan, um minderjährige Benutzer zu identifizieren oder zu entfernen
Ein Teil davon fällt eindeutig in “Warte, das haben sie noch nicht gemacht?” Gebiet. Und die Hand von Instagram wurde wohl durch die zunehmende Aufmerksamkeit erzwungen, wie Kinder in der App gemobbt werden, insbesondere in Großbritannien. Aber wie der Bericht von Thorn gezeigt hat, haben die meisten Plattformen sehr wenig unternommen, um minderjährige Benutzer zu identifizieren oder zu entfernen – es ist technisch schwierige Arbeit, und Sie haben das Gefühl, dass einige Plattformen das Gefühl haben, es sei besser, es nicht zu wissen.
Also ein großes Lob an Instagram, dass Sie die Herausforderung ernst genommen und Systeme entwickelt haben, um sie zu bewältigen. Hier ist Olivia Solon von NBC News im Gespräch mit der Leiterin der öffentlichen Ordnung von Instagram, Karina Newton (keine Beziehung), über das, was das Unternehmen aufbaut:
„Das Alter der Menschen im Internet zu verstehen, ist eine komplexe Herausforderung“, sagte Newton. „Das Sammeln von Personalausweisen ist keine Lösung des Problems, da dies keine faire, gerechte Lösung ist. Der Zugang hängt stark davon ab, wo Sie wohnen und wie alt Sie sind. Und die Leute wollen nicht unbedingt ihre IDs an Internetdienste weitergeben.“
Newton sagte, Instagram nutzte künstliche Intelligenz, um das Alter besser zu verstehen, indem es nach textbasierten Signalen wie Kommentaren suchte über die Geburtstage der Benutzer. Die Technologie versucht nicht, das Alter zu bestimmen, indem sie die Gesichter von Personen auf Fotos analysiert, sagte sie.
Gleichzeitig ist es für Reporter immer noch peinlich, mit einer Handvoll einfacher Suchen Sicherheitsprobleme auf der Plattform zu identifizieren. Hier ist Jeff Horwitz heute im Wall Street Journal:
Ein Wochenendbericht des Wall Street Journal über die aktuellen KI-gesteuerten Empfehlungs- und Durchsetzungssysteme von Instagram zeigte die Herausforderungen auf, denen der automatisierte Ansatz gegenübersteht. Aufgefordert mit dem Hashtag #preteen empfahl Instagram Posts mit den Tags #preteenmodel und #preteenfeet, die beide manchmal grafische Kommentare von scheinbar erwachsenen männlichen Benutzern auf Bildern mit jungen Mädchen enthielten.
„Aufgefordert mit dem Hashtag #preteen empfahl Instagram Beiträge mit den Tags #preteenmodel und #preteenfeet, die beide manchmal grafische Kommentare von enthielten auf Bildern mit jungen Mädchen schienen erwachsene männliche Nutzer zu sein.“https://t.co/HRclDZnNBp
— Jeff Horwitz (@JeffHorwitz) 27. Juli 2021
Instagram hat die beiden letztgenannten Hashtags nach Anfragen aus dem Journal aus seiner Suchfunktion entfernt und erklärt, dass die unangemessenen Kommentare zeigen, warum es versucht hat, verdächtige Konten für Erwachsene für die Interaktion mit Minderjährigen zu blockieren.
Abgesehen von problematischen Hashtags ist es das Wichtigste, was Instagram für die Kindersicherheit tut, damit aufzuhören, so zu tun, als würden Kinder ihren Dienst nicht nutzen. Bei zu vielen Diensten ist diese Ansicht immer noch die Standardeinstellung – und sie hat blinde Flecken geschaffen, durch die sowohl Kinder als auch Raubtiere zu leicht navigieren können. Instagram hat nun einige davon identifiziert und sich öffentlich dazu verpflichtet, sie zu beseitigen. Ich würde gerne sehen, dass andere Plattformen hier nachziehen – und wenn nicht, sollten sie bereit sein, zu erklären, warum.
Das Wichtigste, was Instagram tut: Hören Sie auf, so zu tun, als würden Kinder ihren Dienst nicht nutzen
Natürlich würde ich mir auch wünschen, dass Instagram mehr tut. Wenn der erste Schritt für Plattformen darin besteht, anzuerkennen, dass sie minderjährige Benutzer haben, besteht der zweite Schritt darin, zusätzliche Schutzmaßnahmen für sie aufzubauen – solche, die über ihre physische und emotionale Sicherheit hinausgehen. Studien haben beispielsweise gezeigt, dass Teenager leichtgläubiger sind und eher falsche Geschichten glauben als Erwachsene, und dass sie möglicherweise eher Fehlinformationen verbreiten. (Dies könnte erklären, warum TikTok zu einem beliebten Zuhause für Verschwörungstheorien geworden ist.)
Angenommen, dies ist der Fall, würde eine für junge Leute wirklich sichere Plattform auch in die Gesundheit ihrer . investieren informationelle Umgebung. Als Bonus wäre eine gesündere Informationsumgebung auch für Erwachsene und unsere Demokratie besser.
„Wenn Sie für das schwächste Glied oder für die Schwächsten bauen, verbessern Sie sich was Sie für jede einzelne Person bauen“, sagte mir Julie Cordua, CEO von Thorn, im Mai. Indem Instagram die Realität anerkennt – und für das schwächste Glied aufbaut – ist Instagram ein gutes Beispiel für seine Kollegen.
Wir hoffen, dass sie diesem Beispiel folgen – und weiter gehen.
Diese Kolumne wurde gemeinsam mit Platformer veröffentlicht, einem täglichen Newsletter über Big Tech und Demokratie.