Rajiv är en journalist och filmskapare fokuserad på Indien.
Fullständig biografi publicerad i New Tech for Old India den 28 januari 2022 | Ämne: Teknik
Bild: Getty Images
Det är svårt att föreställa sig att landet som är synonymt med Gandhis icke-våld är på väg att begå folkmord mot muslimer.
Detta kan tyckas lite överdrivet men Gregory Stanton, grundare av Genocide Watch, en av världens främsta forskare i ämnet som varnade oss för folkmordet i Rwanda 1993 verkar inte tro det. Stanton säger att Indien är på god väg att skapa en, med tanke på landets nuvarande gemensamma bana.
Folkmord är mer en process än en händelse, säger experter. För att ett folkmord ska ske måste minst två villkor vara uppfyllda. En, direkta och tysta direktiv om att delta i massslakt av företrädare för majoritetsbefolkningen måste finnas. Två, ett obönhörligt utflöde av hat och propaganda riktat mot ett samhälle som sedan har avhumaniserats, allt med hjälp av en plattform med stor räckvidd.
Båda villkoren är nu lätt uppfyllda i Indien, vilket är det som har oroat Stanton.
Det handlar särskilt om uppmaningen förra månaden från några av de högsta hinduiska prästerskapen i Indien om att slakta muslimer. I form av tal handlade några av dessa samtal om den typ av vapen som skulle vara idealiska för att skicka ut muslimer. Andra tal fastställde under tiden ett minimipris som skulle spenderas på en personlig vapenförråd. Ett av de högsta prästerskapet förespråkade en snabb etnisk rensning som i Myanmar.
Och medan hälften av det andra villkoret som nämns ovan, angående förekomsten av hat och propaganda mot muslimer, för länge sedan har uppfyllts, är det först nyligen en plattform för att oupphörligt slå in budskapet att minoriteten är omänsklig har funnits.
I Nazityskland använde dåvarande propagandaministern, Joseph Goebbels, en mängd olika plattformar – affischer, konst, radio, film, broschyrer och högtalare från lastbilar – för att övertyga tyskarna om att judar behövde utplånas. 1993 använde hutuerna i Rwanda radion för att ständigt hamra på budskapet att tutsier var “kackerlackor” som behövde utrotas. I Indien är plattformen för hinduiska supremacister och hatförespråkare Facebook, nu omdöpt till Meta, åtminstone enligt hela mängden av företagsinsiders, whistleblowers, intern företagskommunikation och kritiker av sociala medieföretaget.
Med två stora delstatsval runt hörnet och offentlig hatspridning mot minoriteter som det etablerade mönstret för att uppvakta röster, är alla ögon nu riktade mot om Facebook kommer att fortsätta att polera sitt rykte som huvudspridare av hat eller agera mot det.
FACEBOOKS “AVGÖRANDE ROLL” I FOLKMORD
Alla ögon är riktade mot Facebook eftersom det redan har ett folkmord krediterat sitt namn.
Folkmordet i fråga ägde rum i Myanmar – tidigare Burma – 2017 när över 7 000 minoritetsmuslimer från rohingyasamfundet mördades i en samordnad attack av den buddhistiska majoritetens militär och tillmötesgående civila.
I slutändan flydde nära en miljon rohingyamuslimer till grannlandet Bangladesh där majoriteten av dem nu lever under bedrövliga förhållanden.
Men hur började folkmordsprocessen ens?
En majoritet av burmeserna hade hoppat in på internet 2013 tack vare Facebooks program “Free Basics”. Detta innebar att den första sidan som många burmesiska civila mötte skulle vara Facebooks. Sedan dess, under fyra år, började extremistiska buddhister och militären projektet att avhumanisera rohingya på den sociala medieplattformen.
En stadig tsunami av inlägg stämplade rohingya som brottslingar, utländska inkräktare, våldtäktsmän, grisar, hundar och olika andra epitet.
“Facebook-chefer var fullt medvetna om att inlägg som beordrade träffar från Myanmars regering om minoritetsmuslimska rohingyer spred sig vilt på Facebook”, sa en före detta Meta-anställd i de nyligen ägda rättegångarna på 150 miljarder dollar mot företaget för dess roll i folkmordet på rohingya.
“Det kunde inte ha presenterats tydligare för dem, och de vidtog inte de nödvändiga åtgärderna”, tillade David Madden, en teknikentreprenör som hade uppmanat Facebook att vidta omedelbara åtgärder när han besökte företagets kontor.
Som svar på dessa påståenden har Metas vd Mark Zuckerberg sa att dokument som släppts av whistleblower Frances Haugen relaterade till folkmordet på Rohingya har skapat en “falsk bild” av företaget. Men 2018 medgav Meta att dess Facebook-plattform användes för att uppmuntra splittring och uppvigla offlinevåld – även om detta erkännande bara inträffade efter att folkmordet på Rohingya redan hade inträffat.
Chefen för FN:s faktainsamlingsuppdrag i folkmordet, Marzuki Darusman, sa att Facebook spelade en “avgörande roll” i massakern.
SPRIDAR HAT I INDIEN
Men kunde Indien verkligen följa i Myanmars fotspår?
Varje folkmord är vanligtvis sanktionerat eller tyst uppmuntrat av ett lands högsta chefer. I det här fallet har indiska ledare gjort ett exemplariskt jobb med att göra den uppmuntran, där Indiens hindunationalistiska premiärminister Narendra Modi och hans hövdinginrikesminister Amit Shah aldrig har fördömt förövare om det växande våldet mot muslimer sedan de kom till makten för sju år sedan.
Denna tystnad har till och med fortsatt trots det tidigare nämnda uppmaningen till folkmord på muslimer i Haridwar av hinduiska religiösa ledare.
Istället har Modis regering Bharatiya Janata Party (BJP) antagit lagar som kritiker säger riktar sig mot muslimer, skapat ett brutalt tillslag mot Kashmir, orkestrerat ett sätt att frånta nära två miljoner indiska muslimska medborgare deras medborgarskap, sanktionerat fängslandet av ett stort antal oskyldiga muslimska män och ledde upplopp, lynchningar och en tirad av hatretorik mot det muslimska samfundet utan en övergående hänvisning till dem.
Så det är ingen överraskning då att hatisk propaganda i Indien har kunnat frodas på Facebook, med företaget som samtidigt väljer att inte göra någonting. I slutet av 2019 och 2020 ökade denna vitriol med 300 % till en virtuell torrent, säger Wall Street Journal. Avslöjandet kartlade hur Facebooks passivitet snart ledde till ett upplopp i Delhi, landets huvudstad, som dödade 53 medborgare som mestadels var muslimer.
Wall Street Journals avslöjanden bar ytterligare en bomb. Det avslöjade att Ankhi Das, Facebooks indiska chef för offentlig politik vid den tiden, hade förhindrat att hatinlägg från BJP-anslutna konton tas bort. Detta inkluderade inlägg från Raja Singh, en BJP-politiker från delstaten Telangana, som hade uttryckt en stor önskan att skjuta flyktingar från Bangladesh och Rohingya, som han kallade “muslimer förrädare” samtidigt som han krävde att deras moskéer skulle brännas.
Das, som arbetade nära Zuckerburg, hade tydligen förklarat för andra Facebook-anställda att de inte kunde förbjuda BJP-politiker eftersom det skulle skada företagets affärsmöjligheter. BJP spenderar sju gånger mer än sina konkurrenter på Facebook-placerade annonser.
Som svar på detta påstående sa Facebooks talesperson Andy Stone: “Das hade uttryckt oro över det politiska nedfallet som skulle bli resultatet av att utse Singh till en farlig individ, men sa att hennes motstånd inte var den enda faktorn i företagets beslut att låta Singh vara kvar på plattformen”.
Efter Facebooks ansträngningar att dämpa kritiken dök dock ett inlägg gjord av Das upp på nätet. I det inlägget kallade Das muslimer för “en degenererad gemenskap”. Inlägget avslöjade också att Das hade hjälpt Modi med hans debutkampanj som premiärminister. Das lämnade så småningom Facebook, men det i sig var för sent för att ångra blodbadet som redan hade inträffat.
Om man gräver djupare vill Facebook att folk ska tro att dess stöd till Das är en återspegling av Zuckerburgs offentliga ståndpunkt om innehåll: att innehållet ska vara fritt och fritt.
Men kritiker säger att det hela är ett missvisande sidoprogram. Enligt kritiker är Zuckerburg och Meta fulländade opportunister som har allierat sig med världens maktstrukturer som de tycker är lämpligt — yttrandefriheten var förbannad. I Vietnam, som Washington Post har beskrivit, berättade det regerande kommunistpartiet Meta att de var tvungna att strypa anti-regeringsposter eller bli stövlade ut ur landet. Med 1 miljard dollar årligen i intäkter på gränsen, började Meta, lite före partiets januarikongress 2020, blockera anti-regeringsposter i tre gånger den takt de hade varit.
ATT UNDVIKA SKÖLDET AV SEKTION 230
Observatörer av företaget säger att Zuckerburgs chutzpah drivs mindre av idén om yttrandefrihet och mer av en klausul som är inskriven i 1996 Communication Decency Act ( CDA), som har fungerat som företagets skyddsängel i många år.
Lagen skapades i slutet av 90-talet när internet fortfarande var nytt och skapades för att skydda en begynnande industri och dess ståndare som Compuserve och Prodigy från ansvar för allt som publiceras på dess sidor. Section 230 ring inhägnade dem från sådana irriterande problem.
Sedan dess har sociala medieföretag haft lite eller inget ansvar trots att de har kunnat locka till sig annonser för innehåll, vilket logiskt sett borde placera dem i samma kategori som en tidningsutgivare.
Som vi vet kommer allmännyttan inte alltid från privatfinansierade plattformar.
Om sektion 230 skulle ändras ens en smula, skulle Meta plötsligt finna sig själv utkämpa flera juridiska strider, och ännu värre, det skulle tvingas ändra sin kassako av en affärsmodell.
Nyligen kastade Zuckerburg en kurva genom att framstå som alltför angelägen om en ändring av lagen där företag ska hållas ansvariga för olagligt innehåll om de inte har system på plats för att identifiera det. Men kritiker har varit snabba med att påpeka att en sådan förändring lätt skulle stänga ute mindre företag eller konkurrenter som inte skulle ha Facebook-liknande resurser för att implementera en så kostsam mekanism.
Trots svårigheten att ha fördelarna att både stämma Meta och vinna, har rohingyaflyktingar runt om i världen lämnat in två grupptalan på 150 miljarder dollar – en i USA och en annan i Storbritannien – med planerade argument specifikt kring att kringgå sektion 230-skölden.
Rättegångarna har gjort detta genom att strukturera sina argument för att rikta in sig på något annat som är kärnan i hur Facebook tjänar sina pengar: dess algoritmer.
Det finns två typer av Facebook-algoritmer. En är företagets innehållsalgoritm som kritiker säger är mycket inriktad på att popularisera innehåll som har extrema känslor framför mer rationella eller objektiva.
Så finns det den andra typen – dess algoritm för hatretorik. Enligt Time, före de nationella valen i Indien 2019, och följande upplopp i Delhi, täcktes endast fyra av de 22 delstatsspråk som talades av 1,4 miljarder människor i Indien av Facebooks algoritmer för hatretorik.
Whistleblower Frances Haugen säger att det var en total “brist på hindi och bengaliska klassificerare”, samt klassificerare för andra språk, vid den här tiden. Ta bara fallet med assamiska, som talas i en stat med 22,5 miljoner människor i Indiens nordöstra del, som inte hade någon kod på plats för att övervaka hatretorik.
Genom att kombinera denna brist på klassificerare med den historiska spänningen i denna region, som uppstod från att muslimska flyktingar från Bangladesh strömmade över gränsen för att orsaka assamesiska hinduiska förbittring, blev Facebook 2019 en avloppsbrunn som innehöll inlägg som kallar bengaliska muslimer “parasiter”, “råttor”, ” våldtäktsmän” som var och en såg miljontals visningar.
Rohingya-processerna har alltså riktat sig mot algoritmerna istället för att korsa sektion 230-rutten med vetskapen om att den skulle vara avsedd för misslyckande. Genom att göra det hävdar stämningarna att Metas Facebook-produkt är defekt och företaget agerade försumligt genom att prioritera användarengagemang och tillväxt framför säkerhet.
“Kärnan i detta klagomål är insikten om att Facebook var villigt att byta ut rohingyafolkets liv mot bättre marknadspenetration i ett litet land i Sydostasien”, beskriver stämningsansökan [PDF].
Kan det fungera?
“Tidpunkten för dessa tillkännagivanden visar att rättegången är en väckarklocka”, sa Alternativa ASEAN Network om Burmas grundare Debbie Stothard i en rapport.
“Strategiska rättstvister som denna – man vet aldrig vart det kan ta vägen. På senare tid har vi sett klimatförändringstvister bli vanligare och få några vinster”, tillade hon.
“Baserat på prejudikatet borde det här fallet förlora”, säger Eric Goldman, professor i juridik vid Santa Clara University School of Law. “Men du har så mycket antipati mot Facebook nuförtiden – allt är möjligt.”
När stämningsansökan lämnades in förra månaden sa Mark Farmaner, chef för NGO Burma Campaign UK, att många av kontona kopplade till militären fortfarande var aktiva trots att det var år efter folkmordet.
“Jag var i diskussioner med Facebook för bara några veckor sedan om dessa sidor. De vägrade fortfarande bestämt att ta ner dem”, sa han. “De har hela tiden vetat att dessa sidor användes för att marknadsföra militära företag, för att samla in pengar för att hjälpa till att finansiera de brott som militären begår.”
När stämningsansökan lämnades in officiellt försvann dock sidorna.
Meta kom snart ut med följande uttalande: “Vi har byggt ett dedikerat team av burmesiska talare, förbjudit Tatmadaw (Myanmars militär), stört nätverk som manipulerar den offentliga debatten och vidtagit åtgärder mot skadlig desinformation för att hålla människor säkra. Vi har också investerat i burmesisk språkteknologi för att minska förekomsten av kränkande innehåll.”
KOMMER FACEBOOK FÖRÄNDRAS?
Indien är i kris. Graden av övergrepp, mord, offentliga förnedringar, hot, fängelser och oändliga vågor av hatretorik slår mot landet på ett aldrig tidigare skådat sätt som aldrig skådats sedan uppdelningen.
Och ändå, i denna komplexa postkoloniala nation med 22 språk, tusentals dialekter, kaster, språkliga identiteter och religiösa sprickor uthuggna av brittiskt styre, har Meta bedrivit sin handel med katastrofala konsekvenser.
Genom att göra det har Metas hövdingar, från talesperson Lena Pietsch till vicepresident för globala frågor Nick Clegg till Zuckerburg själv, alla upprepade gånger försäkrat oss om att Facebook är på topp.
När man vet vad som hände i Myanmar är det svårt att ta Facebook på ordet.
Relaterad bevakning
Giftigt och oetiskt: En natt med Facebooks Oculus Quest 2 räckte Meta stämd för över 150 miljarder dollar för sin roll i folkmordet på rohingya
Meta säger att det snart kommer att ha världens snabbaste AI-superdator
Facebook skickar ett upphörande-och-avstå-brev och ber om att avfölja allt för att skrotas
Hur kommer Zuckerbergs Meta-planer att påverka dess dominans över sociala medier 2022?
Reglering motvind stör Facebooks kryptovalutainitiativ
Indien