Kina planlegger å forstyrre amerikanske valg ved å bruke AI-generert innhold, hevder Microsoft

0
20
ai-ballot-election -box wildpixel/Getty Images

Den kinesiske regjeringen øker innsatsen med kunstig intelligens for å forstyrre valg rundt om i verden, har Microsofts trusseletterretningsteam advart. Microsoft hevder at en rekke kinesiske statsstøttede cyberkriminelle grupper planlegger å bruke AI for å forstyrre valget i 2024 i USA, India og Sør-Korea. Selskapets sikkerhetseksperter la til at Nord-Korea også deltar i innsatsen, som kan spenne over en rekke kanaler, inkludert sosiale medier.

"Kina bruker falske sosiale medier-kontoer for å spørre velgerne om hva som skiller dem mest for å skape splittelse og muligens påvirke utfallet av det amerikanske presidentvalget til deres fordel," Microsoft skrev i et blogginnlegg på fredag. "Kina har også økt bruken av AI-generert innhold for å fremme sine mål rundt om i verden."  

Også: Hvordan AI vil lure velgerne i 2024 hvis vi ikke gjør noe nå

Microsoft la til at det kinesiske kommunistpartiet (KKP) støtter nettkriminelle grupper som de siste månedene har forsøkt å splitte amerikanere på en rekke nylige hendelser, inkludert å hevde at den amerikanske regjeringen kan ha vært involvert i Kentucky-togavsporingen i november 2023, at USA med vilje forgifter utenlandske vannforsyninger, årsakene til narkotikabruk i USA, samt "innvandringspolitikk og rasemessige spenninger i landet."

Samtidig har Microsoft, som har overvåket gruppens kommunikasjon på tvers av kanaler, sa at “det er lite som tyder på at denne innsatsen har vært vellykket i å svaie opinion.”

Regjeringer over hele verden har alltid brukt teknologi mye for å påvirke opinionen, og spesielt i det siste tiåret. Rett etter det amerikanske valget i 2016 antydet flere rapporter at den russiske regjeringen aktivt forsøkte å spre feilinformasjon for å påvirke den amerikanske opinionen. Andre rapporter har antydet at Kina, USA og mange andre land på samme måte har engasjert seg i cyberteknikker som tar sikte på å overbevise folk over hele kloden til å stå på side med initiativene deres.

Men etter hvert som AI blir mer sofistikert, øker risikoen for å spre feilinformasjon bare. Med muligheten til å lage falske bilder, videoer og andre typer innhold, er det mulig for myndigheter og statlig støttede cyberkriminelle grupper å målrette mot mange flere mennesker med langt mer troverdig innhold.

Ifølge Microsoft dreier Nord-Koreas engasjement i innsatsen seg ikke nødvendigvis om svingende valg, men om å generere inntekter til landet. Nord-Korea driver allerede med å stjele kryptovalutamidler og angripe programvare for forsyningskjede.

"FN anslår at nordkoreanske cyberaktører har stjålet over 3 milliarder dollar i kryptovaluta siden 2017," sa Microsoft. “Heists på til sammen mellom $600 millioner og $1 milliard skjedde i 2023 alene.”  

Også: Tekniske giganter lover å bekjempe uredelig AI-innhold i et megavalgår

Når vi ser fremover, sa Microsoft at basert på Kinas aktiviteter så langt, er sjansene for at landet påvirker globale valg fortsatt lave. Det betyr imidlertid ikke at dette ikke kan endres i fremtiden.

"Vi vurderer at Kina som et minimum vil skape og forsterke AI-generert innhold for å være til fordel for sine interesser," sa Microsoft. “Til tross for at sjansene for at slikt innhold vil påvirke valgresultatene forblir lave, vil Kinas økende eksperimentering med å utvide memer, videoer og lyd sannsynligvis fortsette – og kan vise seg å være mer effektiv etter hvert."