Cette belle carte montre tout ce que les pouvoirs Amazon Echo, à partir des données des mines pour des lacs de lithium

Que le monde moderne est un endroit complexe n’aura pas échappé à votre avis.

Nous sommes tous faiblement, unsettlingly conscience que nos vies sont empêtrés dans les systèmes que nous ne pouvons pas comprendre pleinement. Le dernier repas que vous avez mangé probablement contenu des produits cultivés dans un autre pays, qui a été récoltés, transformés, emballés, expédiés, puis vendue à vous. Le téléphone dans votre main est le produit final d’un même les plus complexes de la chaîne, qui s’appuie sur le travail humain et des mines en Afrique, lignes d’assemblage en Chine, et en étant un bureau à San Francisco.

Expliquer comment ces systèmes se connecter et l’effet qu’ils ont sur le monde n’est pas une tâche facile. Mais c’est ce que les professeurs Kate Crawford et Vladan Joler ont tenté de le faire dans une nouvelle œuvre d’art et essai, a dévoilé vendredi dernier, au Victoria & Albert Museum de Londres.

“Nous avons besoin d’une profonde et plus complexe de la conversation à propos de […] la construction de l’IA à l’échelle.”

La principale œuvre d’art est une carte énorme, de deux mètres de haut et de cinq mètres de diamètre, qui retrace les systèmes utilisés pour la puissance de la plupart des produits complexes de l’époque moderne: un IA-alimenté gadget, plus précisément, un Amazon Echo. C’est un gâchis de ramification lignes austères en noir et blanc, et ressemble plus à des schémas de principe d’un réacteur nucléaire, que le quotidien d’un gadget. L’impression est appelé Anatomie d’un système d’IA, mais son sous-titre explique son champ d’application: “L’Amazon Echo comme une anatomie de la carte de travail humain, les données et les ressources planétaires.”

Avant le dévoilement de La Verge en a parlé à Crawford, professeur à l’Université de New York et co-fondateur de l’IA Maintenant Institute, un organisme qui examine les implications sociales du développement de l’intelligence artificielle. Crawford et son collaborateur Joler, professeur à l’Académie des beaux-Arts à l’Université de Novi Sad, disent-ils créé l’Anatomie en raison de l’absence de prise de conscience des structures de soutien à la modernité, en particulier de l’IA.

“Nous avons besoin d’une profonde et plus complexe conversation sur les implications de la construction de l’intelligence artificielle à grande échelle”, dit Crawford. “Et avec [Anatomie] c’est vraiment quelque chose que vous pouvez regarder et à commencer à comprendre comme une partie d’une image beaucoup plus grande.”

Cette interview a été légèrement modifié pour plus de clarté et de concision. Cliquez ici pour voir l’ensemble de l’Anatomie d’un Système d’IA d’imprimer et de lire l’accompagnement essai.

Alors, tout d’abord, pourquoi avez-vous choisi un Amazon Echo que le but de ce projet?

J’étais vraiment intéressé par le très simples basés sur la voix interactions que nous avons avec ces systèmes. L’Écho se trouve dans votre maison, l’air très simple et petit, mais il a ces grosses racines qui se connectent à d’énormes systèmes de production: la logistique, l’exploration de données, capture de données, et la formation de l’IA des réseaux. C’est un ensemble d’infrastructures pile vous ne verrez jamais. Vous venez de donner une simple commande vocale — “Alexa, allumer les lumières” — et il se sent comme de la magie.

Mais en essayant de vraiment étudier et presque ne l’archéologie de la façon que la magie est le travail, c’est ce que ce projet est sur. L’Écho est puissant en raison de ce sentiment de confort, mais quand vous ouvrez le capot, vous pouvez voir l’intégralité du coût de celui-ci.

Certains diront que cela a toujours été le cas avec la technologie. Et dans votre dissertation vous montrer ce trop, quand vous parler de la nécessité de la récolte du latex naturel, afin d’isoler les câbles sous-marins dans le 19e siècle a conduit à la déforestation énorme. Ce qui est différent maintenant?

Nous avons été à travers beaucoup de la technologie de rampes avant de qui ont le concomitante d’extraction de ressources pour la rendre possible. C’est certainement une tendance. Mais je dirai que le tour de l’IA est différente pour les deux vraiment, vraiment grandes raisons. Tout d’abord, il fonctionne à un niveau qui commence à changer la façon dont la société elle-même fonctionne, parce que l’IA des systèmes sont en cours de construction dans les institutions qui sont le plus important pour nous, les soins de santé, de la justice pénale. Ces systèmes de changer la façon dont vous interagissez avec le monde sur chaque niveau, il y a donc cette différence d’échelle.

L’IA, les consommateurs sont également un produit à vendre

Et la deuxième, je pense qu’il y a la manière dont le consommateur est différent, ce qui est très particulier à l’IA. Par l’IA, les appareils, les consommateurs exister dans une forme hybride où ils sont quelqu’un qui achète un produit, mais aussi une ressource, en ce que leurs commandes vocales sont conservés et analysés dans le cadre d’un corpus de données d’entraînement. Ils sont également un travailleur à qui ils proposent des travail non rémunéré en donnant de la rétroaction dans le système. Leurs réponses aider à évaluer l’exactitude et l’utilité et de la qualité de l’IA. Et ils sont aussi un produit que l’ensemble de leurs intérêts [capturé par l’intermédiaire de ces interactions devenir] un profil que vous pouvez vendre à des annonceurs. Cette combinaison d’être un consommateur, travailleur, une ressource et un produit, c’est quelque chose qui est très nouveau.

Si les consommateurs sont utilisées de cette manière, en fournissant de travail non rémunéré, pensez-vous qu’il doit y avoir un mouvement de récupérer cette valeur? Devrait être en mesure de vendre leurs données d’une certaine manière, par exemple?

Tout d’abord, les gens ont besoin de comprendre ce qui se passe. Les gens commencent tout juste à comprendre que les sites de médias sociaux, par exemple, ne sont pas juste là pour partager vos photos et de vous connecter avec vos amis. Ils sont grands systèmes que sont l’extraction des formes complètement différentes de la valeur que vous pensez que vous donnez en disant bonjour à votre maman ou d’aimer une image d’un chat. Il y a ce changement conceptuel nécessaire pour comprendre que l’industrie elle-même a changé, et qu’il y a des formes de la valeur de l’extraction qui n’existait même pas sept ou huit ans.

La deuxième chose, c’est la réforme de notre idée de la responsabilité sociale de sorte qu’il corresponde à nos besoins. Et en termes de ce à quoi ça ressemble, c’est une grande question. C’est une des choses que l’IA a Maintenant été en se concentrant sur, et nous avons un très grand droit civil et politique contingent […] en travaillant avec des organisations comme l’american civil liberties union de travailler sur la façon dont nous pouvons tirer des lignes claires autour de ce qui est acceptable d’utiliser [de données], quelles sortes de technologies ont de graves inconvénients, et comment nous avons la responsabilité. Et c’est quelque chose que nous voyons comme un très grand projet de recherche.

Anatomie lui-même est divisé en trois grands systèmes, chacun de qui vous parlez comme un “processus d’extraction.” Il y a un processus d’extraction de ressources matérielles, l’un pour les données et une pour le travail humain. Pourquoi pensez-vous qu’il est utile à l’image de ces systèmes dans le de cette façon, comme “extractives”?

Tous ces processus extraire de la valeur de différentes façons. Quand vous pensez à des mines de charbon, pour prendre un exemple, vous pourriez penser à une industrie qui a conduit effrénée de la croissance, de profits élevés, mais qui a également produit les coûts qui ont été négligés et d’innombrables dans le système économique. La véritable image de l’exploitation minière peut prendre des décennies à émerger. Ne l’exploration de données de même, des coûts inconnus qui dépassent notre économique actuelle?

“Système d’intelligence artificielle à l’extraction de l’excédent de la valeur de tous les types d’activités humaines.”

Le Cambridge Analytica scandale est juste l’un des nombreux exemples de coûts pour les systèmes politiques et la société civile qui n’ont pas été pris en compte. Vous pouvez voir que le motif à répéter à plusieurs niveaux: de la main d’œuvre des pratiques de clickwork, de la masse de la récolte des données de l’utilisateur, à la les minéraux de terres rares nécessaires à la construction des consommateurs appareils de haute technologie. L’IA sont les systèmes d’extraction de l’excédent de la valeur de tous les types d’activités humaines à l’homme les émotions et les expressions du visage et les coûts sont souvent cachés de l’utilisateur final et prendre des années pour être pleinement compris.

Vous présenter l’Écho comme l’incarnation d’un certain type de gadget que nous ne pouvons pas ouvrir (parce que nous allons l’annulation de la garantie) et ne peut pas contrôler totalement (car le logiciel vit dans le nuage et est mis à jour sans notre autorisation). Comment ce paradigme affecter nos interactions avec la technologie? Ou avec la société?

Exactement. Le concept de l’algorithmique des boîtes noires est maintenant bien connue, grâce à l’important travail de chercheurs, comme Frank Pasquale. Notre projet a été intéressé par la façon qui se connecte avec d’autres sortes de boîtes noires. L’Écho lui-même est un type de boîte qui est extrêmement difficile à étudier: un utilisateur ne peut pas voir comment il fonctionne, comment il enregistre les données, ou la façon dont les algorithmes sont formés. Puis il y a le caché de la logistique autour de la façon dont les composants simples à l’intérieur de la récolte et de fondu et assemblés, à travers plusieurs couches de sous traitants, les distributeurs et les fabricants de composants en aval.

Dans l’essai nous écrire à propos de l’exemple de la façon dont il a pris Intel plusieurs années afin de comprendre sa propre chaîne d’approvisionnement assez bien pour être en mesure de garantir l’absence de tantale, du Congo a été contenue dans ses microprocesseurs. Imaginez une entreprise de ressources et avec des employés hautement qualifiés, ainsi qu’un ensemble de tenue de documents et de bases de données, et il a fallu des années pour comprendre ses propres habitudes d’achat!

Qui indique l’intensité de ces processus peuvent être d’étudier et d’analyser à partir de l’intérieur d’une entreprise, a fortiori, pour les chercheurs et les journalistes qui travaillent à l’extérieur. Mais que de raconter les histoires de la production est donc important et nécessaire: c’est la façon dont nous pouvons commencer à voir dans le tourbillon de la complexité de la production mondiale de produits de technologie.

Dans l’essai vous parler de l’accumulation et de la concentration de la richesse, et les terribles conditions de travail pour les personnes en bas de la chaîne. Pensez-vous AI naturellement exacerbe ce genre d’inégalité?

(Et, soit dit en passant, je dois dire que j’aime la façon dont il y a plusieurs “minces croûtes” dans votre carte, chaque de ce qui s’accumule valeur d’un autre type. Il y a le lithium sur les lacs de sel en Bolivie, les minéraux, a accumulées au cours de millions d’années. Et il y a la technologie d’élite dans la Silicon Valley, la collecte de la valeur de tout ce qui impayés clickwork par leurs clients.)

Exactement — les couches sont minces. Il y a quelques milliardaires, à la partie supérieure du système, qui en extraire le maximum de valeur, et plus vous vous allez en bas de la chaîne de production et de logistique, plus près de la matière première, la plus extrême, la disparité devient.

Jeff Bezos gagne autant un jour comme un enfant ouvrier n’en 700 000 ans

Par exemple, le PDG d’Amazon Jeff Bezos a fait une moyenne de 275 millions de dollars par jour pendant les cinq premiers mois de 2018, selon le Bloomberg Billionaires Index. C’est évidemment un grand nombre, mais il est difficile de réellement saisir jusqu’à ce que vous le mettez en contraste avec les autres travailleurs beaucoup plus loin en aval. Amnesty a publié un rapport de suivi du travail des enfants au congo dans les mines où le cobalt est suivie pour les batteries lithium-ion. Dans le contexte, un enfant dans l’une de ces mines de cobalt aurait besoin de travailler pour environ 700 000 ans non-stop pour gagner la même quantité comme un seul jour de Bezos le revenu.

Ces sortes d’inégalité répéter tout au long de l’histoire industrielle, et ne sont pas spécifiques à l’IA. Mais à grande échelle AI systèmes nécessitent une grande quantité de données, de l’infrastructure et de maintenance qu’il y a très peu d’entreprises qui sont en mesure de construire et d’exploiter. Penser à ce que cela signifie que plus de temps est important, si nous voulons être en mesure de régir ces systèmes.

Anatomie d’un Système d’IA par Kate Crawford et Vladan Joler peut être vu au Victoria and Albert Museum à Londres dans le cadre de l’intelligence artificielle de l’exposition. Vous pouvez également explorer la carte et lire l’accompagnement d’essai à l’Anatomie du site web.