China is bezorgd een AI wapenwedloop zou kunnen leiden tot onbedoelde oorlog

Deskundigen en politici in China zijn bang dat het een rush te integreren kunstmatige intelligentie in wapens en militaire uitrusting kan per ongeluk leiden tot een oorlog tussen de naties.

Volgens een nieuw rapport gepubliceerd door het AMERIKAANSE national security denktank Center for a New American Security (CNAS), Chinese ambtenaren in toenemende mate een “wapenwedloop” dynamiek in AI als een bedreiging voor de vrede in de wereld. Als landen klauteren om te profiteren van de voordelen van kunstmatige intelligentie in verschillende domeinen, waaronder het leger, de angst is dat de internationale normen bepaalt hoe landen communiceren is verouderd, wat leidt tot verwarring en mogelijke conflicten.

“Het specifieke scenario beschreef mij [door een anonieme Chinese ambtenaar] onbedoelde escalatie in verband met het gebruik van een drone,” Gregory C. Allen, een adjunct senior fellow bij CNAS en auteur van het nieuwe rapport, vertelt De Berm.

Als Allen verklaart, van de werking van drones zowel groot en klein, steeds meer geautomatiseerd is in de afgelopen jaren. In de VS, drones in staat zijn van de basis van de automatische piloot, het uitvoeren van eenvoudige taken als het vliegen in een cirkel rond een doel. Maar China wordt “agressiever over het introduceren van een grotere autonomie dichter bij dodelijk geweld te gebruiken,” zegt hij. Een voorbeeld is de Blowfish A2 drone, die China exporteert wereldwijd en die, zegt Allen, wordt aangeprezen als zijnde in staat van “volledige autonomie helemaal up-to-gerichte stakingen.”

Omdat drones worden op afstand bediend, militairen hebben de neiging om meer cavalier over hun gebruik. Met geen risico van menselijke slachtoffers, ze zijn meer bereid om hen neer te schieten, maar ook het implementeren van hen in het bestreden luchtruimen in de eerste plaats. Deze houding kan ook worden gezien in cyberwarfare, waar landen zal het dringen op een manier die ze zou niet noodzakelijkerwijs risico als mensen betrokken waren.

“er is geen afgesproken kader op welk bericht wordt verzonden.”

“Het punt voor mij was dat het niet duidelijk is hoe beide kanten zal interpreteren van bepaalde gedragingen [waarbij autonome apparaten]”, zegt Allen. “De kant met het versturen van een autonome drone zal denken dat het niet een big deal, want er is geen gewonden risico, terwijl de andere kant kon schieten het af om dezelfde reden. Maar er is geen afgesproken kader op welk bericht wordt verzonden door een van beide zijden’ gedrag.”

De risico ‘ s in een dergelijk scenario worden groter wanneer rekening wordt gehouden met de geavanceerde autonomie. Als een drone of een robot vuurt een waarschuwing schot op het vijandelijke troepen, bijvoorbeeld, hoe zal de actie worden geïnterpreteerd? Zullen de troepen te begrijpen als een automatisch antwoord, of zullen ze denken dat het de beslissing van een mens, commandant? Hoe zou ze weten dat in beide gevallen?

In essentie zegt Allen, landen over de hele wereld hebben nog te definiëren “de normen van een gewapend conflict” is voor de autonome systemen. En hoe langer het voortduurt, hoe groter het risico voor de “onbedoelde escalatie.”

“Ik denk dat dat een echte en legitieme bedreiging”, zegt Allen.

De rest van de CNAS rapport, getiteld “Inzicht in China het AI-Strategie: Aanwijzingen voor Chinees Strategisch Denken over Kunstmatige Intelligentie en de Nationale Veiligheid”, stelt een aantal andere hoog niveau zorgen en attitudes in de regering van China-led-AI strategie.

Chinese ambtenaren erkennen, dat het bijvoorbeeld in Amerika en zijn de enige twee levensvatbare AI grootmachten. Beide landen hebben het talent, de financiering en de bruisende tech sectoren die nodig zijn om druk op deze technologie een stap verder, maar elk land heeft ook zijn eigen sterktes en zwaktes. China heeft toegang tot meer gegevens, bijvoorbeeld, en heeft de potentie om leapfrog Westerse technologie. (Velen Chinees burgers ging van het hebben van geen telefoon naar een mobiele telefoon, zonder het krijgen van een vaste lijn tussen, bijvoorbeeld). Amerika, ondertussen, heeft een aanzienlijke voorsprong in de ontwikkeling van de chip — technologie-een essentieel onderdeel bij het verwerken van de enorme datasets die macht AI-toepassingen.

CNAS het rapport merkt op dat China is vooral geïnteresseerd in het sluiten van dit belangrijke kloof. Chinese bedrijven als Baidu, Alibaba, en Huawei hebben geleid tot nieuwe projecten te ontwikkelen AI accelerator hardware; de overheid geld storten in deze initiatieven, en de industrie probeert op andere manieren in het bezit komen van buitenlandse expertise. Deze omvatten de recente acquisitie van ONS chip designer Qualcomm door Singapore bedrijf Broadcom, die werd geblokkeerd door President Troef van de nationale veiligheid tuin.

Terwijl een zekere mate van concurrentie tussen China en de VS is te verwachten, Allen zegt dat de samenwerking is ook nodig, vooral als het gaat om deze militaire vragen.

Hij merkt op dat, terwijl de Chinese ambtenaren sprak hij had een goed inzicht in de hedendaagse ONS denken aan zaken zoals het autonome oorlogvoering, Amerikaanse functionarissen hebben de neiging om minder goed op de hoogte zijn van hun Chinese collega ‘ s, mede omdat veel Chinese beleidsdocumenten zijn nooit vertaald in het engels. Zonder goed inzicht in de verschillende landen van de strategieën in deze domeinen, zegt Allen, de kansen van onbegrip en conflict.

“Er zijn zeker zakken van echte expertise op dit onderwerp [in de VS] maar er is niet wijdverspreid begrip dient er te worden”, zegt hij.