TikToks mycket hyllade videoalgoritm är designad kring två saker: att få användare att stanna kvar och få användare att komma tillbaka. Det är enligt en rapport i The New York Times, som granskade en läckt kopia av ett internt TikTok-dokument som sammanfattar hur systemet fungerar. Rapporten ger en sällsynt titt på en av de mest diskuterade algoritmerna inom tekniken just nu, och den avslöjar några överväganden – som att behålla kreatörer och se till att de tjänar pengar – som kanske inte är självklara val när man bygger ett videoflöde som är tänkt att hålla tittarna uppdaterade .
För att få användare att titta på och komma tillbaka överväger TikTok fyra huvudmål, enligt Times: användarvärde, långsiktigt användarvärde, skaparvärde och plattformsvärde. Ett sätt som utspelar sig är algoritmen som prioriterar en mångfald av innehåll snarare än att överväldiga användare med ett enda ämne de kanske älskar.
“Om en användare gillar en viss typ av video, men appen fortsätter att skicka samma typ till honom, skulle han snabbt bli uttråkad och stänga appen”, står det i dokumentet, enligt Times. För att undvika det kan appen visa en “tvingad rekommendation” för att presentera något nytt.
Läckaren var bekymrad över videor som leder till självskada
Dokumentet presenterar vad som ska vara en förenklad version av TikToks formel för vad folk gillar och vad den ska spela. Det bryts ungefär ner till en kombination av gilla-markeringar, kommentarer, visningstid på en video och om en video spelades upp, enligt rapporten. Det finns några variabler i ekvationen som inte är preciserade, men jag läser den är att TikTok sannolikt väger olika interaktioner så att vissa värderas mer än andra.
TikTok lägger också ett rejält fokus på skapare när de bedömer värdet av dess For You-flöde, enligt ett flödesschema från dokumentet som återskapades av Times. Det visar att TikTok överväger “skapande kvalitet”, vilket bedöms av publiceringsfrekvens, innehållsskapare och intäktsgenerering för skapare. Det finns inga ytterligare detaljer om hur TikTok bedömer innehållsskapande och intäktsgenerering, men det verkar tyda på att om kreatörer är framgångsrika är en riktig övervägande när man bestämmer “kvaliteten på videor” i For You-flödet. Som sagt, om kreatörer tjänar pengar är inte en input till algoritmen, säger TikToks talesperson Jamie Favazza till The Verge. Istället är det ett resultat av TikToks optimering för användarnöjdhet.
För sin del har TikTok inte varit helt ogenomskinlig om allt detta tidigare. I blogginlägg har företaget beskrivit grunderna för hur dess flöde fungerar – kommentarer och vilka konton du följer kan påverka rekommendationer – och det gav The Verge en titt i sitt “Transparency and Accountability Center” förra året, som talade till företagets oro. om problem som filterbubblor.
Dagens rapport bör inte skingra oro för filterbubblor eller appen som driver användare mot problematiskt innehåll. Faktum är att Times säger att dokumentet läcktes av en TikTok-anställd som var oroad över att appen skulle leda till självskada. Tidigare har reportrar sett appen som presenterar användargenererat innehåll som främjar ätstörningar och diskuterar eller visar självskada. Eftersom appen är så finjusterad för att hålla användarna uppdaterade med innehåll som liknar videor de redan har sett, är det lätt att se hur snabbt nätverket kan bli problematiskt om det inte modereras ordentligt.
Favazza säger att TikTok överväger “en rad engagemangssignaler” när de bestämmer vad de ska visa människor. “Vi fortsätter att investera i nya sätt att anpassa innehållspreferenser, automatiskt hoppa över videor som inte är relevanta eller åldersanpassade och ta bort överträdelser av våra riktlinjer för communityn”, sa hon.
Men mestadels ger läckan en fascinerande inblick i en av de mest diskuterade svarta rutorna på internet – hur TikTok bestämmer vad som ska visa dig video efter video. Detaljerna som presenteras här, som rekommendationsformeln, är “mycket förenklade”, säger dokumentet. Men det indikerar att de komplicerade sätten att skapa sina algoritmer på stora sociala plattformar skulle kunna delas upp i tydliga mål och delas med allmänheten för att åtminstone ge en känsla av varför vi ser vad det än är vi ser.