Kina er bekymret for en AI våbenkapløb kan føre til utilsigtet krig

Eksperter og politikere i Kina er bekymret for, at et kapløb om at integrere kunstig intelligens til våben og militært udstyr kan ved et uheld føre til krig mellem nationer.

Ifølge en ny rapport offentliggjort af US national security tænketank Center for a New American Security (cna ‘ er), Kinesiske embedsmænd i stigende grad ser et “våbenkapløb” dynamisk i AI som en trussel mod global fred. Som lande slås for at høste fordelene af kunstig intelligens i forskellige domæner, herunder militære, frygten er, at de internationale normer forme, hvordan lande kommunikere vil blive forældet, hvilket fører til forvirring og potentielle konflikter.

“Den særlige situation, der er beskrevet for mig [af en anonym Kinesisk embedsmand] er utilsigtet optrapning, der er relateret til brugen af en drone,” Gregory C. Allen, adjungeret seniorforsker ved CNAS og forfatter af den nye rapport, fortæller The Verge.

Som Allen forklarer, drift af droner både store og små er blevet mere og mere automatiseret i de seneste år. I USA, droner er i stand til grundlæggende autopilot, der udfører simple opgaver som at flyve i en cirkel rundt om et mål. Men Kina er ved at blive “mere aggressive om at indføre en større grad af autonomi tættere på dødelig magtanvendelse,” siger han. Et eksempel er Blowfish A2 drone, som Kina eksporterer internationalt, og som, siger Allen, er annonceret som værende i stand til “fuldt selvstyre hele vejen op til målrettede angreb.”

Fordi droner er kontrolleret eksternt, militær har tendens til at være mere nonchalant om deres brug. Med ingen risiko for tab af menneskeliv, de er mere villige til at skyde dem ned, men også at implementere dem i anfægtede luftrum i første omgang. Denne holdning kan også ses i cyberwarfare, hvor de lande, der vil trænge sig på måder, de ikke nødvendigvis ville risikoen, hvis mennesker var involveret.

“der er ikke aftalt rammer for, hvad beskeden bliver sendt.”

“Den pointe for mig var, at det ikke er klart, hvordan hver side vil fortolke visse adfærd [involverer autonome udstyr],” siger Allen. “Den side, du sender ud en selvstændig drone vil synes, det er ikke en big deal, fordi der ikke er nogen tilskadekomne risiko, mens den anden side kunne skyde det ned af samme grund. Men der er ikke aftalt rammer for, hvad beskeden bliver sendt fra begge sider adfærd.”

De risici, der er i et sådant scenario bliver større, når factoring i avanceret autonomi. Hvis en drone eller robot brande en advarsel skud på fjendtlige tropper, for eksempel, hvordan vil denne handling blive fortolket? Vil tropper forstår det som en automatisk reaktion, eller vil de synes, det er en beslutning, som et menneske chef? Hvordan ville de vide, at i begge tilfælde?

I det væsentlige, siger Allen, lande rundt omkring i verden har endnu til at definere “de normer for væbnet konflikt” for autonome systemer. Og jo længere tid det fortsætter, jo større risiko for utilsigtet optrapning.”

“Jeg tror, det er en reel og legitim trussel,” siger Allen.

Resten af CNAS rapport, med titlen “Om Kina’ s AI-Strategi: Spor til Kinesiske Strategiske Tænkning på Kunstig Intelligens, og den Nationale Sikkerhed,” bemærker en række andre højt niveau bekymringer og holdninger i Kinas regering-led AI strategi.

De kinesiske myndigheder anerkender, for eksempel, at det og Amerika er de eneste to levedygtige AI supermagter. Begge lande har talent, finansiering, og den travle tech sektorer, der er nødvendige for at skubbe denne teknologi yderligere, men hver nation har sine egne særlige styrker og svagheder. Kina har adgang til flere data, for eksempel, og har potentiale til at springe Vestlig teknologi. (Mange Kinesiske borgere gik fra at have ingen telefon til en mobiltelefon, uden at få en fastnet i mellem, for eksempel). Amerika, i mellemtiden, har et betydeligt forspring i udviklingen af chip-teknologi — en vigtig komponent i behandlingen af de enorme datasæt, der power AI-programmer.

CNA ‘ s rapport påpeger, at Kina er særlig ivrig efter at lukke denne vigtige forskel. Kinesiske firmaer som Baidu, Alibaba, og Huawei har etableret nye projekter til at udvikle AI accelerator hardware; regeringen penge strømmer ind i disse initiativer, og industrien forsøger andre metoder til at få fat i udenlandsk ekspertise. Disse omfatter den seneste påtænkte erhvervelse af OS chip designer Qualcomm af Singapore firmaet Broadcom, som blev blokeret af Formand Trumf på nationale sikkerhedsgrunde.

Mens en vis grad af konkurrence mellem Kina og USA forventes det, Allen siger, at samarbejde er også nødvendigt — især når det kommer til disse militære spørgsmål.

Han bemærker, at mens de Kinesiske embedsmænd fortalte at han havde en god forståelse af moderne OS at tænke på spørgsmål som autonome krigsførelse, Amerikanske embedsmænd har tendens til at være mindre godt orienteret om deres Kinesiske kolleger, dels fordi mange Kinesiske politiske dokumenter er aldrig oversat til engelsk. Uden en korrekt forståelse af forskellige landes strategier inden for disse områder, siger Allen, chancerne for misforståelser og konflikter stigning.

“Der er helt sikkert lommer af fast ekspertise om dette emne [i USA], men der er ikke den udbredte forståelse, der er brug for,” siger han.