La chine s’inquiète d’une IA course aux armements pourrait conduire à accidentelle de la guerre

Les Experts et les politiques en Chine sont inquiets qu’un rush d’intégrer de l’intelligence artificielle dans les armes et le matériel militaire pourrait accidentellement provoquer une guerre entre les nations.

Selon un nouveau rapport publié par le US national security think tank Center for a New American Security (CNAS), les responsables Chinois de plus en plus à une “course aux armements” dynamique en AI comme une menace à la paix mondiale. À mesure que les pays se démener pour récolter les bénéfices de l’intelligence artificielle dans divers domaines, y compris l’armée, la crainte est que les normes internationales de façonner la manière dont les pays de communiquer deviendra obsolète, menant à la confusion et de conflit potentiel.

“Le scénario m’a décrit [par un anonyme officiel Chinois] est une escalade involontaire lié à l’utilisation d’un drone,” Gregory C. Allen, un auxiliaire senior fellow à la CNAS et auteur de le nouveau rapport, raconte Le Point.

Comme Allen explique le fonctionnement des drones à la fois petites et grandes est devenu de plus en plus automatisé au cours des dernières années. Aux états-unis, les drones sont capables de base du pilote automatique, l’exécution de tâches simples, comme voler en cercle autour d’une cible. Mais la Chine est en train d’être “plus agressif sur l’introduction des niveaux plus élevés d’autonomie de plus près à l’utilisation de la force létale de la force”, dit-il. Un exemple est le Blowfish A2 drone, la Chine exporte à l’international et qui, dit Allen, est annoncé comme étant capable de “pleine autonomie jusqu’à des frappes ciblées.”

Parce que les drones sont pilotés à distance, les militaires ont tendance à être plus cavalier à propos de leur utilisation. Avec aucun risque de pertes en vies humaines, ils sont plus disposés à les tirer vers le bas, mais aussi de les déployer dans le attaquée espaces aériens en premier lieu. Cette attitude peut aussi être vu dans cyberwarfare, où les pays pénètrent dans les voies qu’ils ne serait pas nécessairement de risque si les hommes étaient impliqués.

“il n’y a pas de cadre sur quel message est envoyé.”

“Le point faite pour moi était qu’il n’est pas clair comment de chaque côté, interpréter certains comportements [impliquant équipement autonome]”, dit Allen. “Du côté de l’envoi d’une autonome du drone pense que c’est pas une grosse affaire, car il n’y a aucun risque de dommages, tandis que l’autre pouvait tirer vers le bas pour la même raison. Mais il n’y a pas de cadre sur quel est le message envoyé par les deux côtés du comportement.”

Les risques dans un tel scénario devient plus grand quand la prise en compte des avancées de l’autonomie. Si un drone ou un robot tire un coup de semonce à des troupes ennemies, par exemple, quel sera l’action de l’interpréter? Va les troupes de la comprendre comme une réponse automatique, ou seront-ils pensent que c’est la décision d’un commandant de l’homme? Comment pourraient-ils savoir dans les deux cas?

En substance, dit Allen, pays à travers le monde n’ont pas encore défini “les normes de conflit armé” pour les systèmes autonomes. Et la plus continue, plus le risque de “caractère non intentionnel de l’escalade.”

“Je pense que c’est une réelle et légitime de la menace”, dit Allen.

Le reste de la CNAS rapport, intitulé “Comprendre la Chine d’IA de la Stratégie: des Indices pour les Chinois la Réflexion Stratégique sur l’Intelligence Artificielle et de la Sécurité Nationale”, fait remarquer un certain nombre de haut niveau, les préoccupations et les attitudes de la Chine menée par le gouvernement de IA stratégie.

Les fonctionnaires chinois à reconnaître, par exemple, qu’il et l’Amérique sont les deux seuls viables AI superpuissances. Les deux pays ont le talent, le financement et l’animation de secteurs de haute technologie nécessaire pour pousser cette technologie, bien que chaque nation a aussi ses propres forces et faiblesses. La chine a accès à plus de données, par exemple, et a le potentiel de faire l’impasse sur la technologie Occidentale. (Beaucoup de citoyens Chinois sont allés d’avoir pas de téléphone à un téléphone mobile, sans avoir une ligne fixe entre les deux, par exemple). L’amérique, quant à elle, possède une avance non négligeable dans le développement de la technologie à puce — un composant essentiel dans le traitement de l’énorme ensembles de données que le pouvoir de l’IA des applications.

CNAS du rapport note que la Chine est particulièrement aigu pour fermer cette lacune importante. Les entreprises chinoises, comme Baidu, Alibaba, et Huawei ont établi de nouveaux projets pour développer AI accélérateur matériel; l’argent du gouvernement est de verser dans ces initiatives; l’industrie est en train d’essayer d’autres méthodes pour obtenir une prise de l’expertise étrangère. Ces comprennent la récente acquisition proposée de NOUS concepteur de puce Qualcomm par Singapour cabinet Broadcom, qui a été bloqué par le Président de la Trompette sur des motifs de sécurité nationale.

Même si une certaine quantité de la concurrence entre la Chine et les états-unis sont à prévoir, Allen dit que la coopération est également nécessaire — surtout quand il s’agit de ces questions militaires.

Il note que, bien que les responsables Chinois, il a parlé à eu une bonne maîtrise de l’contemporain NOUS aident à réfléchir sur les questions de l’autonome de la guerre, les responsables Américains ont tendance à être moins bien informés au sujet de leurs homologues Chinois, en partie parce que beaucoup de Chinois, des documents de politique ne sont jamais traduits en anglais. Sans bien comprendre les différentes nations des stratégies dans ces domaines, dit Allen, les risques de malentendus et de conflits d’augmenter.

“Il y a certainement des poches d’une réelle expertise sur cette question [aux usa], mais il n’y a pas la généralisation de la compréhension de la il faut,” dit-il.