Twitter siger, at det permanent har suspenderet et “lille antal” falske konti, som det fejlagtigt har bekræftet kun få uger efter genstart af sit offentlige verifikationsprogram, rapporterer Daily Dot. Fejlen kom frem, efter at datavidenskabsmanden Conspirador Norteño opdagede seks verificerede konti, der var oprettet for nylig den 16. juni. Ingen af dem havde sendt et eneste tweet, og to brugte det, der syntes at være stockfotografier til profilbilleder.
“Vi har fejlagtigt godkendt verifikationsansøgningerne for et lille antal uautentiske (falske) konti,” fortalte Twitter Daily Dot i en erklæring. “Vi har nu permanent suspenderet de pågældende konti og fjernet deres bekræftede badge under vores platformmanipulerings- og spam-politik.”
Mød @aykacmis, @degismece, @anlamislar, @aykacti, @kayitlii og @donmedim, en sekstet af bekræftede Twitter-konti, der er oprettet den 16. juni 2021. Ingen har endnu tweetet, og alle har cirka 1000 tilhængere (og for det meste * samme * tilhængere).
cc: @ZellaQuixote pic.twitter.com/V82Wtu0SNr
— Conspirador Norteño (@ conspirator0) 12. juli 2021
Hændelsen antyder, at Twitters verificeringsproces har problemer og ikke fanger de slags åbenlyst uautentiske konti, der ikke burde være værdig til platformens eftertragtede blå badge. Twitter genstartede for nylig ansøgninger om offentlig verifikation med et opdateret sæt kvalificeringskriterier baseret på ideen om, at en konto skal være “autentisk, bemærkelsesværdig og aktiv” for at være værdig til verifikation. De identificerede konti var tydeligvis ingen af disse.
Som Norteño forklarer i en Twitter-tråd, havde de seks konti 976 mistænkelige tilhængere til fælles – alle oprettet mellem 19. juni og 20. juni – og et stort antal af disse brugte AI-genererede profilbilleder. I alt siger Norteño, at de var en del af et botnet bestående af mindst 1212 konti.
Disse 976 konti er en del af et astroturf botnet bestående af (mindst) 1212 konti. Netværket er opdelt i tilhængere, der følger de førnævnte verificerede konti såvel som andre medlemmer af botnet og følgere, der efterfølges af de andre bots. pic.twitter.com/wKKfC2PRX8
— Conspirador Norteño (@ conspirator0) 12. juli 2021
I skrivende stund har Twitter suspenderet fem ud af de seks verificerede konti, mens den sjette ser ud til at have deaktiveret sin egen profil. “Flertallet” af det understøttende botnet er også blevet fjernet, siger Norteño. Men hændelsen rejser spørgsmål om, hvordan kontiene i første omgang var i stand til at blive verificeret, og hvorfor Twitters processer ikke markerede dem, før de blev opdaget af en tredjepartsforsker.