Diese schöne Karte zeigt das alles, dass die Befugnisse eines Amazon Echo, aus Daten, die Gruben zu Seen lithium

Die moderne Welt ist ein komplexer Ort nicht entgangen.

Wir sind alle schwach, unsettlingly bewusst, dass unser Leben verstrickt ist, in Systemen können wir nicht vollständig verstehen. Die Letzte Mahlzeit, die Sie aßen wahrscheinlich enthielt produzieren gewachsen in einem anderen Land, geerntet, verarbeitet, verpackt, versendet, dann verkauft Sie. Das Telefon in Ihrer hand ist das Endprodukt einer noch mehr gewundenen Kette; eine, die sich auf die menschliche Arbeit von Minen in Afrika, Montagelinien in China, und stehpulte in San Francisco.

Zu erklären, wie diese Systeme verbinden und die Wirkung, die Sie auf der Welt ist keine leichte Aufgabe. Aber es ist das, was die Professoren Kate Crawford und Vladan Joler haben versucht, zu tun, in einem neuen artwork und essay, enthüllte am vergangenen Freitag im Victoria & Albert Museum in London.

“Wir brauchen eine Tiefe und komplexer Gespräch über […] baut die KI im großen Maßstab.”

Das wichtigste Kunstwerk ist eine riesige Karte, zwei Meter hoch und fünf Meter breit, die Spuren der Systeme verwendet werden, um die macht eines der komplexesten Produkte der moderne: AI-powered gadget, insbesondere, Amazon Echo. Es ist eine Schweinerei von verzweigten Linien im krassen schwarz-weiß und sieht eher aus wie der Schaltplan eines Kernreaktors als ein Alltags-gadget. Der print aufgerufen wird, die Anatomie von einem KI-system, aber der Untertitel erklärt, Ihren Geltungsbereich: “Der Amazon Echo als eine anatomische Landkarte der menschlichen Arbeits -, Daten-und Planeten-Mittel.”

Vor der Enthüllung Der Schwelle Sprach Crawford, professor an der New York University und co-Gründer der KI Nun Institute, eine Organisation, die untersucht die sozialen Auswirkungen der Entwicklung der künstlichen Intelligenz. Crawford und Ihre Mitarbeiter Joler, professor an der Akademie der bildenden Künste an der Universität von Novi Sad, sagen Sie erstellt Anatomie, weil der Mangel an Bewusstsein für die Strukturen, die Unterstützung von modernen gadgets, besonders AI.

“Wir brauchen eine Tiefe und komplexer Gespräch über die Auswirkungen der Bau-künstliche Intelligenz an der Waage”, sagt Crawford. “Und mit [Anatomie] es ist wirklich etwas, können Sie sehen und beginnen zu verstehen, als Teil eines viel größeren Bildes.”

Dieses interview wurde leicht bearbeitet für Klarheit und Kürze. Klicken Sie hier, um die gesamte Anatomie eines AI System drucken und Lesen Sie die begleitenden essay.

Also, zuerst einmal, warum wählen Sie eine Amazon Echo als Schwerpunkt in diesem Projekt?

Ich war wirklich daran interessiert, die sehr einfache voice-basierte Interaktionen, die wir mit diesen Systemen. Das Echo sitzt in Ihrem Haus, sieht sehr einfach und klein, aber hat diese große Wurzeln, die eine Verbindung zum großen Systeme der Produktion: die Logistik -, Bergbau -, Daten erfassen, und das training von KI-Netzwerken. Es ist eine gesamte Infrastruktur-stack, die Sie nie sehen. Geben Sie einfach einen einfachen voice command — “Alexa, schalten Sie die Lichter” — und es fühlt sich an wie Magie.

Aber Versuch wirklich zu untersuchen-und macht fast die Archäologie, wie die Magie funktioniert, was bei diesem Projekt. Das Echo ist sehr mächtig, weil dieses Gefühl von Komfort, aber wenn Sie öffnen Sie die Haube, die Sie sehen können, die vollen Kosten.

Einige würden sagen, dass dies schon immer der Fall mit der Technik. Und in Ihrem Aufsatz zeigen Sie dies auch, wenn Sie darüber sprechen, wie der Bedarf bis zur Ernte Natürliche latex zu isolieren Unterseekabel im 19 Jahrhundert kam es zu massiven Entwaldung. Was ist heute anders?

Wir haben durch viele Technologie-booms vor, die die gleichzeitige Gewinnung von Ressourcen machen es möglich. Dies ist sicherlich ein trend. Aber ich sage, dass die Reihe zu AI ist für zwei wirklich große Gründe. Erstens, es ist Betrieb auf einem Niveau, das beginnt sich zu ändern, wie die Gesellschaft selbst funktioniert, da KI-Systeme gebaut in den Institutionen, die für uns am wichtigsten sind, von der Gesundheitsversorgung zu criminal justice. Diese Systeme ändern, wie Sie interagieren mit der Welt auf jeder Ebene, so gibt es diesen Unterschied im Maßstab.

AI Verbraucher sind auch ein Produkt verkauft werden

Und zweitens, ich denke, es ist die Art und Weise, in dem der Verbraucher ist anders, ist etwas ganz besonderes, zu AI. Mit AI Geräte, die Konsumenten befinden sich in einem Hybriden Zustand, in dem Sie jemand sind, der kauft ein Produkt, sondern auch eine Ressource, die Sprach-Befehle werden gespeichert und analysiert, als Teil eines Korpus von Trainingsdaten. Sie sind auch ein Arbeiter, daß Sie die Bereitstellung von unbezahlter Arbeit durch feedback an das system. Ihre Antworten helfen, die Beurteilung der Genauigkeit und Nützlichkeit und Qualität der AI. Und Sie sind auch ein Produkt, dass alle Ihre Interessen [erfasst über diese Interaktionen] zu einem Profil, das Sie verkaufen können, an Werbetreibende weitergegeben. Diese Kombination, ein Verbraucher, ein Arbeiter, eine Ressource und ein Produkt, ist etwas sehr neues.

Wenn die Verbraucher in dieser Weise, indem es die unbezahlte Arbeit, denken Sie, dass es braucht, um eine Bewegung zu erfassen, Wert? Sollte in der Lage zu verkaufen Ihre Daten irgendwie, zum Beispiel?

Erstens müssen die Menschen begreifen, was vor sich geht. Die Menschen sind erst am Anfang zu verstehen, dass social-media-Websites, zum Beispiel, sind nicht nur da, um zu teilen Sie Ihre Fotos und verbinden mit Freunden. Sie sind große Systeme, die für das extrahieren von ganz unterschiedlichen Formen von Wert, als Sie denken, die Sie geben, indem Sie sagen Hallo zu deiner Mutter oder mögen ein Bild von einer Katze. Es ist dieser konzeptionellen Verschiebung, die erforderlich ist, um zu verstehen, dass die Industrie selbst hat sich verändert, und dass es Formen von Wert, die extrahiert wird, der gar nicht existieren sieben oder acht Jahren.

Die zweite Sache ist die reform unserer Idee der sozialen Verantwortung, damit es passt unsere Bedürfnisse. Und in Bezug auf was, dass aussieht, es ist eine große Frage. Es ist eines der Dinge, die AI Jetzt wurde konzentriert, und wir haben ein sehr großes bürgerliches Recht und Politik Kontingent […] die Zusammenarbeit mit Organisationen wie der ACLU zu arbeiten, wie können wir ziehen klare Linien um, was akzeptabel ist, verwenden Sie [data], welche Art von Technologien haben schwerwiegende Nachteile, und wie wir in der Verantwortung. Und das ist etwas, was wir als eine sehr große Forschungs-Projekt.

Anatomie gliedert sich in drei große Systeme, von denen jedes die Sie sich beziehen, als “extraktiven Prozess.” Es ist ein extraktives Verfahren für die materiellen Ressourcen, eine für Daten und eine für menschliche Arbeit. Warum denkst du, ist es sinnvoll, frame diese Systeme in dieser Weise als “extraktiv”?

Alle diese Prozesse extrahieren Wert in unterschiedlicher Weise. Wenn Sie denken, der Kohle-Bergbau, um ein Beispiel zu nehmen, denken Sie möglicherweise, dass die Branche fuhr zügellose Wachstum, hohe Gewinne, aber auch Kosten produziert, die zunächst übersehen und ungezählte innerhalb des ökonomischen Systems. Das wahre Bild-Ressource mining kann Jahrzehnte dauern, zu erscheinen. Macht data mining haben ebenfalls unbekannte Kosten, die über unsere aktuellen wirtschaftlichen Rahmen?

“KI-Systeme sind die Extraktion von Mehrwert aus allen Arten von menschlichen Aktivitäten.”

Die Cambridge Analytica-Skandal ist nur eines von vielen Beispielen für die Kosten der politischen Systeme und der Zivilgesellschaft, wurden nicht angerechnet. Sie können sehen, dass die Muster wiederholen sich auf vielen Ebenen: von der Arbeit Praktiken der clickwork, um die Masse der Ernte von user-Daten, um die seltenen Erden benötigt der Verbraucher zu stärken, tech-Geräte. KI-Systeme sind die Extraktion von Mehrwert aus allen Arten von menschlichen Aktivitäten — bis hin zu menschlichen Emotionen und mimik — und die Kosten sind oft überschattet von dem end-Benutzer und Jahre dauern, Sie vollständig verstanden werden.

Sie präsentieren die Echo als der Inbegriff einer bestimmten Art von gadget — eine, die wir nicht öffnen können (weil wir werden erlischt die Garantie) und können nicht vollständig kontrolliert werden (weil die software lebt in der cloud und wird aktualisiert ohne unsere Erlaubnis). Wie funktioniert dieses Paradigma Einfluss auf unsere Interaktion mit Technologie? Oder mit der Gesellschaft?

Genau. Das Konzept der algorithmischen black boxes ist nun gut bekannt, Dank der wichtigen Arbeit von Wissenschaftlern wie Frank Pasquale. Unser Projekt war daran interessiert, wie, das in Verbindung mit anderen Arten von black-Boxen. Das Echo selbst ist eine Art Kasten, der extrem schwer zu untersuchen: ein Benutzer kann nicht sehen, wie es funktioniert, wie es Aufzeichnungen, Daten, oder, wie seine algorithmen trainiert werden. Dann gibt es die versteckten Logistik, wie die einfachen Komponenten drin sind geerntet und schmolz und montiert, durch mehrere Ebenen von Lieferanten und downstream-Komponenten-Hersteller.

In dem Aufsatz wir schreiben über das Beispiel, wie es dauerte Intel mehrere Jahre, nur um zu verstehen, seine eigenen supply-chain-gut genug, um in der Lage sein, um sicherzustellen, dass kein Tantal aus dem Kongo enthalten war, in seine Mikroprozessoren. Stellen Sie sich ein Unternehmen, das gut ausgestattete, und mit hoch qualifizierten Mitarbeitern und einem gut etablierten Reihe von Aufzeichnungen und Datenbanken, und es hat Jahre gedauert, zu verstehen, seine eigenen Einkaufs-Muster!

Das zeigt, wie schwierig diese Prozesse zu untersuchen und zu analysieren, aus dem inneren eines Unternehmens, geschweige denn für die Forscher und Journalisten, die auf der Außenseite. Aber, dass der Prozess der Geschichten ist so wichtig und nötig: es ist, wie wir beginnen können, um zu sehen, in die schwindelerregende Komplexität der globalen Produktion von Technologie-Produkten.

In dem essay sprechen Sie über die Anhäufung und Konzentration von Reichtum, und die schrecklichen Arbeitsbedingungen für die Menschen am unteren Ende der Kette. Glaubst du, AI natürlich verschärft diese Art von Ungleichheit?

(Und, nebenbei, ich sollte sagen, ich Liebe die Art, es gibt mehrere “dünne Kruste” auf der Karte, von denen jeder sammelt Wert einer anderen Art. Dort ist die lithium auf den Salzseen in Bolivien, mineral, entstanden im Laufe von Millionen von Jahren. Und es gibt die tech-elite im Silicon Valley, das sammeln der Wert aller, die unbezahlte clickwork von Ihren Kunden.)

Genau diese Schichten Dünn sind. Es gibt ein paar Milliardäre an der Spitze des Systems, der Extrakt der maximale Wert, und je weiter Sie nach unten gehen die Ketten von Produktion und Logistik, näher auf die Rohstoffe, die noch extremer sind die Unterschiede, wird.

Jeff Bezos verdient wie viel am Tag, wie ein Kind-Arbeiter nicht in 700.000 Jahren

Zum Beispiel, Amazons CEO Jeff Bezos machte einen Durchschnitt von $275 Millionen pro Tag während der ersten fünf Monate des Jahr 2018, laut dem Bloomberg-Milliardäre’ Index. Das ist offensichtlich eine große Zahl, aber es ist schwer, wirklich zu begreifen, bis man es im Kontrast mit anderen Arbeitern viel weiter stromabwärts. Amnesty einen Bericht veröffentlicht, tracking-Kinderarbeit in den kongolesischen Minen, wo Kobalt verfolgt, für lithium-Ionen-Batterien. Im Kontext, ein Kind in einem dieser Kobalt-Minen arbeiten musste für etwa 700.000 Jahren non-stop verdienen die gleiche Menge wie ein einziger Tag von Bezos’ Einkommen.

Diese Art von Ungleichheit wiederholen, während der industriellen Geschichte, und sind nicht besonders an AI. Große KI-Systeme erfordern so viel Daten, Infrastruktur und Wartung, gibt es sehr wenige Unternehmen, die in der Lage sind, zu bauen und zu betreiben. Darüber nachzudenken, was das bedeutet, dass im Laufe der Zeit ist wichtig, wenn wir gehen, um in der Lage zu regieren, diese Systeme gut.

Anatomie eines KI-System von Kate Crawford und Vladan Joler kann man sich auf der Victoria-und-Albert-Museum in London als Teil der Künstlich Intelligente Ausstellung. Sie können auch entdecken Sie die Karte und Lesen Sie die begleitenden essay in der Anatomie-website.