Når landet stadig er på jagt efter masseskyderierne i Uvalde, Texas, kæmper embedsmænd efter flere måder at stoppe masseskyderier på – og står over for hårde sandheder om, hvor ineffektive mange af vores eksisterende værktøjer virkelig er. Digital overvågningsteknologi er kommet under særlig granskning efter rapportering afslørede, at Uvalde skoledistrikt havde eksperimenteret med en tjeneste kaldet Social Sentinel, som hævder at identificere og advare skoler om trusler baseret på sociale mediers samtaler.
Det er en stadig mere almindelig tjeneste, efterhånden som skoler kæmper med de sociale mediers kaos, hvilket ofte rejser alvorlige bekymringer om privatliv og tale undervejs. Systemer som Social Sentinel lover at give ægte indsigt i den enorme mængde information, der offentliggøres på sociale medier hver dag, og analyserer signalet fra støjen, så undervisere kan informeres om trusler, før skade finder sted. For disse virksomheder kan det være en lukrativ forretning – men ofte henter de overfladisk indsigt fra tilgængelige data, hvilket giver få fordele, der opvejer skaderne på privatlivets fred.
For fortalere for privatlivets fred, manglende dokumentation for teknologiens effektivitet betyder, at der ikke er tilstrækkeligt grundlag for de potentielle krænkelser af privatlivets fred, der følger med dens brug. Hye Jung Han, en forsker ved Human Rights Watch med speciale i børns rettigheder, fortalte The Verge, at brug af overvågningsteknologi på børn kan forårsage uberettiget skade:
“Kunne du forestille dig, at skoler brugte giftige materialer til at bygge klasseværelser, selvom det ikke havde opfyldt nogen sikkerhedsstandarder? Nej,” sagde Han. “På samme måde udsætter det børn for en uacceptabel risiko for skade.”
Flere anmodninger om kommentarer er sendt uden først at kontrollere, om de er sikre at bruge. til Navigate360 – som erhvervede Social Sentinel i 2020 – modtog ikke et svar.
“Kunne du forestille dig, at skoler brugte giftige materialer til at bygge klasseværelser, selvom det ikke havde opfyldt nogen sikkerhedsstandarder? Ingen.”
Uvalde skoledistrikt blev bekræftet for at have købt overvågningskapacitet fra Social Sentinel i 2019-2020, selvom det er uklart, om abonnementet stadig var aktivt på tidspunktet for skyderiet. Men selvom det havde været det, ville teknologien næppe have markeret nogen af skyttens indlæg. Der er nu adskillige rapporter om bekymringer omkring skyttens onlineaktivitet: Han har angiveligt fremsat hyppige trusler mod unge kvinder og piger via chat-apps, sendt billeder af våben til bekendte og angiveligt diskuteret udførelsen af skoleskyderiet i en Instagram-chat. Men Social Sentinel er kun i stand til at overvåge offentlige indlæg og ville ikke have haft adgang til noget indhold delt i private beskeder.
Samtidig er der betydelige privatlivsproblemer med softwaren. I 2019 skitserede Brennan Center for Retfærdighed en række borger- og menneskerettighedsbekymringer, der stammer fra udvidet overvågning af sociale medier i grundskoler, blandt dem teknologiens tvivlsomme effektivitet i kombination med en tendens til uforholdsmæssigt at påvirke elever fra minoritetssamfund. Samme år dækkede rapportering fra Education Week også den dramatiske udvidelse af digital overvågning i skoler, hvilket fremhævede det store antal falske positiver genereret af Social Sentinels teknologi. (Alarmer blev angiveligt udløst af tweets om Mark Wahlberg-filmen, Shooter og fra en studerende, der var glad for, at deres kreditscore blandt andet “skød op”.)
Af alle amerikanske stater har Texas været den mest begejstrede for brugen af digital overvågning af skolebørn. En undersøgelse fra 2021 af The Dallas Morning News viste, at ingen stat har flere skoledistrikter, der indgår kontrakter med digitale overvågningsselskaber end Texas. Men af de Texas-distrikter, der tegnede disse kontrakter, var resultaterne tilsyneladende blandede: en række skoledistrikter, der havde betalt for Social Sentinel, fortalte Morning News, at de havde afvist at forny kontrakter, og beskrev en tjeneste, der gav få handlingsrettede advarsler eller markeret. for det meste irrelevant information.
Af alle amerikanske stater har Texas været den mest begejstrede for brugen af digital overvågning af skolebørn
Men mens Social Sentinel annoncerer for en evne til at overvåge en bred vifte af platforme, er der noget, der tyder på, at dets overvågningsmuligheder er dikteret mere af tilgængeligheden af datakilder end af deres betydning. En kundepræsentation fra virksomheden, som deles af EFF, viser en række sociale mediekilder til overvågning, herunder Instagram, YouTube, Vimeo, Flickr, Tumblr, WordPress og endda Meetup.
Data indhentet af BuzzFeed News bekræftede dette gennem data indhentet i henhold til Freedom of Information Act, som viste, at selskabet var stærkt skævt til Twitter-overvågning. Af de 1.206 Social Sentinel-advarsler, der blev givet til BuzzFeed, var 98 procent (1.180) relateret til tweets – selvom Instagram, YouTube og endda Facebook er mere udbredt af yngre demografiske grupper. Men Twitters konventioner – hvor langt de fleste indlæg er offentligt synlige, endda utilsigtet – betyder, at det er forholdsvis nemmere at overvåge, hvilket giver et væld af sociale mediedata på tryk, som kan assimileres af virksomheder, der ønsker at øge deres overvågningslegitimationsoplysninger.
I vid udstrækning kommer succesen med overvågningsprogrammer på sociale medier ned af, hvor få muligheder skolens embedsmænd har. Efterhånden som flere og flere af unges sociale liv strækker sig ind i den digitale verden, er skolens personale opmærksomme på, at de i det mindste har brug for en vis indsigt i deres elevers onlineaktiviteter for at kunne udføre deres omsorgspligt over for dem. At tackle cybermobning er anerkendt som en stor udfordring for lærere og blev for nylig noteret af FN som en stor bekymring for forældre, hvis børn bruger internettet. Fortalere for mental sundhed har længe fremhævet de negative virkninger af sociale medier på selvværd, mens andre online skader som hævnporno desværre også er en del af unge menneskers liv online.
Ind i dette landskab er kommet en række virksomheder, der lover at sikre børns og teenageres velbefindende gennem en række overvågningstjenester, der vil holde styr på deres digitale liv: Social Sentinel er en stor spiller, med Gaggle og Securly ofte nævnt som hovedalternativer.
Selvom effektiviteten af tjenester som Social Sentinel er anfægtet, har investorer støttet overvågningsvirksomheder på sociale medier med titusindvis af millioner dollars og satset på den lange levetid for digital overvågning som en del af uddannelsesprogrammet landskab. Trods kritikernes indvendinger har opfattelsen af social overvågning som en højteknologisk, relativt billig sikkerhedsløsning vist sig at være attraktiv for skoledistrikter over hele landet. Indtil skolerne kan gøres sikre med andre midler – som en desperat tiltrængt lovgivning om våbenkontrol – forekommer det sandsynligt, at udvidelsen af overvågningsteknologi vil fortsætte.