TikToks meget roste videoalgoritme er designet omkring to ting: at få brugerne til at blive ved og få brugerne til at vende tilbage. Det fremgår af en rapport i The New York Times, som gennemgik en lækket kopi af et internt TikTok-dokument, der opsummerer, hvordan systemet fungerer. Rapporten giver et sjældent kig på en af de mest diskuterede algoritmer i teknologien lige nu, og den afslører nogle overvejelser – som at fastholde skabere og sikre, at de tjener penge – der måske ikke er oplagte valg, når man bygger et videofeed, der skal holde seerne orienteret .
For at holde brugerne til at se og vende tilbage, overvejer TikTok fire hovedmål ifølge Times: brugerværdi, langsigtet brugerværdi, skaberværdi og platformsværdi. En måde, der spiller ud, er algoritmen, der prioriterer en mangfoldighed af indhold frem for at overvælde brugere med et enkelt emne, de måske elsker.
“Hvis en bruger kan lide en bestemt slags video, men appen fortsætter med at skubbe den samme slags til ham, ville han hurtigt kede sig og lukke appen,” lyder det i dokumentet, ifølge Times. For at undgå det kan appen vise en “tvungen anbefaling” om at præsentere noget nyt.
Udlæseren var bekymret over videoer, der førte til selvskade
Dokumentet præsenterer, hvad der formodes at være en forenklet version af TikToks formel for, hvad folk kan lide, og hvad det skal spille. Det opdeles groft sagt til en kombination af likes, kommentarer, visningstid på en video, og om en video blev afspillet, ifølge rapporten. Der er nogle variabler i ligningen, som ikke er stavet ud, men min læsning på den er, at TikTok sandsynligvis vægter forskellige interaktioner, så nogle bliver værdsat mere end andre.
TikTok sætter også et reelt fokus på skabere, når de bedømmer værdien af dets For You-feed, ifølge et flowdiagram fra dokumentet, der blev genskabt af Times. Det viser, at TikTok overvejer “skabelseskvalitet”, som bedømmes efter udgivelseshastighed, fastholdelse af skabere og indtægtsgenerering. Der er ikke yderligere detaljer om, hvordan TikTok bedømmer fastholdelse af skabere og indtægtsgenerering, men det ser ud til at indikere, at hvorvidt skabere har succes, er en reel overvejelse, når man skal bestemme “kvaliteten af videoer” i For You-feedet. Når det er sagt, om skabere tjener penge er ikke et input til algoritmen, siger TikTok-talsmand Jamie Favazza til The Verge. I stedet er det et resultat af TikToks optimering for brugertilfredshed.
På sin side har TikTok ikke tidligere været helt uigennemsigtig omkring alt dette. I blogindlæg har virksomheden beskrevet det grundlæggende i, hvordan dets feed fungerer – kommentarer og hvilke konti, du følger, kan påvirke anbefalingerne – og det gav The Verge et kig inde i sit “Transparency and Accountability Center” sidste år, som talte til virksomhedens bekymringer om problemer som filterbobler.
Dagens rapport bør ikke fjerne bekymringer om filterbobler eller appen, der driver brugere mod problematisk indhold. Faktisk siger Times, at dokumentet blev lækket af en TikTok-medarbejder, der var bekymret over, at appen førte til selvskade. Tidligere har journalister set appen, der præsenterer brugergenereret indhold, der promoverer spiseforstyrrelser og diskuterer eller viser selvskade. Fordi appen er så finjusteret til at holde brugerne tunet ind med indhold, der ligner videoer, de allerede har set, er det nemt at se, hvor hurtigt netværket kan blive problematisk, hvis det ikke modereres ordentligt.
Favazza siger, at TikTok overvejer “en række engagementssignaler”, når de bestemmer, hvad de skal vise folk. “Vi fortsætter med at investere i nye måder at tilpasse indholdspræferencer, automatisk springe videoer over, der ikke er relevante eller alderssvarende, og fjerne overtrædelser af vores retningslinjer for fællesskabet,” sagde hun.
For det meste giver lækagen dog et fascinerende indblik i en af de mest diskuterede sorte bokse på internettet – hvordan TikTok beslutter, hvad der skal vise dig video efter video. De detaljer, der præsenteres her, ligesom anbefalingsformlen, er “meget forenklet,” siger dokumentet. Men det indikerer, at de komplicerede måder, store sociale platforme laver deres algoritmer på, kunne opdeles i klare mål og deles med offentligheden for i det mindste at give en fornemmelse af, hvorfor vi ser, hvad det end er, vi ser.