Dette smukke kort, der viser alt, hvad der magter en Amazon Echo, fra data miner til søer af lithium

At den moderne verden er et sammensat sted, vil ikke have undgået din meddelelse.

Vi er alle svagt, urovækkende klar over, at vores liv er viklet ind i systemer, vi kan ikke fuldt ud forstå. Det sidste måltid, du spiste sandsynligvis indeholdt produkter, der er dyrket i et andet land, der blev høstet, forarbejdet, pakket, afsendt, derefter solgt til dig. Telefonen i hånden, er det endelige produkt af endnu mere indviklede kæde; en, der bygger på menneskelig arbejdskraft fra miner i Afrika, samlebånd i Kina, og stående skriveborde i San Francisco.

Forklare, hvordan disse systemer oprette forbindelse til, og den virkning, de har på verden er ikke en let opgave. Men det er, hvad professorerne Kate Crawford og Vladimir Joler har forsøgt at gøre i en ny kunst og essay, som blev afsløret sidste fredag på Victoria & Albert Museum i London.

“Vi er nødt til at have en dyb og mere komplekse samtale om […] opbygning af AI på skalaen.”

Den største kunst er et stort kort, to meter høj og fem meter på tværs, hvilket spor de systemer, der anvendes til magten er en af de mest komplekse produkter af den moderne dag: en AI-drevet gadget, specifikt, en Amazon Echo. Det er et rod af forgrenede linier i skarp sort og hvid, og ligner mere skematisk af en atomreaktor, end en dagligdags gadget. Print kaldes Anatomi af en AI-system, men dens undertitel forklarer dens anvendelsesområde: “Amazon Echo som en anatomisk kort over menneskers arbejdskraft, data og planetary resources.”

Forud for afsløringen Randen talte til Crawford, professor ved New York Universitet, og medstifter af AI Nu Institute, en organisation, der undersøger de sociale konsekvenser af at udvikle kunstig intelligens. Crawford og hendes samarbejdspartner Joler, en professor i filosofi ved Universitetet i Novi Sad, siger, at de er skabt Anatomi på grund af den manglende opmærksomhed på de strukturer, der understøtter moderne gadgets, især AI.

“Vi er nødt til at have en dyb og mere komplekse samtale om konsekvenserne af at bygge kunstig intelligens på højt plan,” siger Crawford. “Og med [Anatomi] det er virkelig noget, du kan kigge på og begynde at forstå som en del af et meget større billede.”

Dette interview er blevet let redigeret af hensyn til klarhed og overskuelighed. Klik her for at se hele Anatomi af en AI-System, udskrive og læse det vedlagte essay.

Så, først og fremmest, hvorfor du vælge en Amazon Echo da fokus i dette projekt?

Jeg var virkelig interesseret i det meget simpelt stemme-baserede interaktioner, vi har med disse systemer. Echo sidder i dit hus, ser meget simpelt og lille, men har disse store rødder at oprette forbindelse til store systemer af produktionen, logistik, minedrift, data opsamling, og uddannelse af AI-net. Det er hele infrastrukturen, der stak du aldrig får at se. Du skal bare give et enkelt stemmekommando — “Alexa, tænde lyset” — og det føles som magi.

Men at forsøge at virkelig undersøge og næsten gøre arkæologi på, hvordan magien fungerer, er hvad dette projekt handler om. Echo er stærk på grund af denne følelse af bekvemmelighed, men når du åbner motorhjelmen du kan se de fulde omkostninger ved det.

Nogle ville sige, at dette altid har været tilfældet med teknologi. Og i din stil, at du viser dette også, når du taler om, hvordan behovet for at høste naturlig latex til at isolere undersøiske kabler i det 19 århundrede førte til enorme skovrydning. Hvad er anderledes nu?

Vi har været igennem mange teknologi bomme, før der er samtidig udvinding af ressourcer, at gøre det muligt. Dette er helt sikkert en trend. Men jeg vil sige, at henvende sig til AI er forskellige for de to virkelig, virkelig store grunde. Det kræver for det første opererer på et niveau, som begynder at ændre den måde, vores samfund fungerer, fordi AI systemer er ved at blive bygget i de institutioner, der er mest vigtigt for os, fra sundhedspleje til strafferet. Disse systemer ændrer, hvordan du interagerer med verden på hvert niveau, så der er denne forskel i omfang.

AI forbrugerne er også et produkt, der skal sælges

Og for det andet, jeg tror det er den måde, hvorpå forbrugeren er forskellige, hvilket er meget specielt at AI. Med AI enheder, forbrugerne eksisterer i en hybrid tilstand, hvor de er en person, der køber et produkt, men også en ressource, i og med at deres stemme-kommandoer opbevares og analyseres som en del af et korpus af træningsdata. De er også en arbejdstager i, at de er at levere ulønnet arbejdskraft, ved at give feedback til systemet. Deres svar hjælpe med at vurdere rigtigheden og anvendeligheden og kvaliteten af AI. Og de er også et produkt i, at alle deres interesser [fanget via disse interaktioner] bliver en profil, som du kan sælge til annoncører. Denne kombination af at være en forbruger, en arbejdstager, en ressource og et produkt, der er noget, der er meget nye.

Hvis forbrugerne bliver brugt på denne måde, at levere ulønnet arbejdskraft, gøre du tror, der er behov for at være en bevægelse for at generobre denne værdi? Bør være i stand til at sælge deres data på en eller anden måde, for eksempel?

Første, folk har brug for at forstå, hvad der foregår. Folk er lige begyndt at forstå, at sociale medier sites, for eksempel, er ikke bare er der for at dele dine fotos og forbinde med dine venner. De er store systemer, der er udvinding af helt forskellige former for værdi, end du tror, du giver ved at sige hej til din mor og smag et billede af en kat. Der er denne begrebsmæssige skift, der er nødvendige for at forstå, at branchen selv har ændret sig, og at der er forskellige former for værdi, der udvindes, der ikke engang eksisterer syv eller otte år siden.

Den anden ting er at ændre vores idé om social ansvarlighed, så det matcher vores behov. Og i forhold til, hvad der ser ud som om, det er et stort spørgsmål. Det er en af de ting, AI Nu har været fokus på, og vi har en meget stor civil lovgivning og politik betinget [ … ], der arbejder med organisationer som ACLU til at arbejde ud af, hvordan vi kan trække klare linjer omkring, hvad der er acceptabelt at bruge [data], hvilke typer af teknologier, der har alvorlige ulemper, og hvordan vi har ansvarlighed. Og det er noget vi ser som en meget stor forsknings-projekt.

Anatomi i sig selv er opdelt i tre overordnede systemer, som hver kan du henvise til som en “udvindings processen.” Der er en udvindings processen for materielle ressourcer, én til data og én til menneskelig arbejdskraft. Hvorfor tror du, at det er nyttigt at ramme disse systemer på denne måde, som “anlæg”?

Alle disse processer udtrække værdi på forskellige måder. Når du tænker på kul, for at tage et eksempel, tror du måske af en industri, der kørte voldsom vækst, høj indtjening, men at der også produceret omkostninger, der i første omgang blev overset, og utallige inden for det økonomiske system. Det sande billede af ressource minedrift kan tage årtier at dukke op. Gør data mining har ligeledes ukendt omkostninger, der overstiger vores nuværende økonomiske ramme?

“AI-systemer er udvinde merværdi ud af alle former for menneskelige aktiviteter.”

Cambridge Analytica skandale er blot et af mange eksempler på omkostninger, som de politiske systemer, og det civile samfund, der ikke tegnede sig for. Du kan se, at mønsteret gentager på mange niveauer: fra arbejdsmarkedet praksis clickwork, til massen høst af brugerdata, at de sjældne jordarters mineraler er nødvendige for at opbygge forbruger-tech udstyr. AI systemer er udvinde merværdi ud af alle former for menneskelige aktiviteter — lige ned til menneskelige følelser og ansigtsudtryk — og de omkostninger er ofte skjult fra slutbrugeren og tage år at være fuldt forstået.

Du præsenterer Ekko som indbegrebet af en bestemt type gadget — en, som vi ikke kan åbne (fordi vi vil ugyldiggøre garantien), og kan ikke fuldt ud at kontrollere (fordi den software, der bor i sky og opdateres uden vores tilladelse). Hvordan dette paradigme påvirker vores interaktion med teknologien? Eller med samfundet?

Præcis. Begrebet algoritmisk sorte bokse er nu velkendt, tak for det vigtige arbejde, akademikere, som Frank Pasquale. Vores projekt var interesseret i, hvordan det forbinder sig med andre typer af sorte bokse. Echo i sig selv er en type boks, der er ekstremt svært at undersøge: en bruger ikke kan se, hvordan det virker, hvordan det registrerer oplysninger, eller hvordan dens algoritmer er uddannet. Så er der de skjulte logistik omkring, hvordan den simple komponenter inde det er høstet og smeltes og samlet gennem flere lag af underleverandører, distributører og downstream-komponent-producenter.

I essayet skriver vi om eksempel på, hvordan det tog Intel flere år bare for at forstå sin egen forsyningskæde godt nok til at være i stand til at sikre, at ingen tantal fra Congo var indeholdt i mikroprocessorer. Forestil dig en virksomhed, der veludrustet, og med højt kvalificerede medarbejdere, og et godt etableret sæt af registre og databaser, og det tog år at forstå sin egen indkøbsmønstre!

Det viser, hvor hårdt disse processer kan være at undersøge og analysere ud fra indersiden af et selskab, endsige for forskere og journalister, der arbejder på ydersiden. Men at processen med at fortælle historier om produktionen, er så vigtig, og det er nødvendigt: det er sådan, kan vi begynde at se ind i det svimlende kompleksiteten af den globale produktion af teknologiske produkter.

I essay, du taler om ophobning og koncentration af rigdom, og den forfærdelige arbejdsvilkår for dem længere nede i kæden. Tror du, at AI naturligvis forværrer denne form for ulighed?

(Og, som en sidebemærkning vil jeg sige, at jeg elsker den måde, der er flere “tynde skorper” på dit kort, som hver akkumulerer værdi af en anden slags. Der er lithium på salt søer i Bolivia; mineralske har optjent i løbet af millioner af år. Og der er tech elite i Silicon Valley, indsamling af værdien af alle, der ulønnet clickwork af deres kunder.)

Præcis — disse lag er tyndt. Der er et par milliardærer på toppen af det system, der udtrække den maksimale værdi, og jo længere du går ned kæder, logistik og produktion, tættere til de råvarer, de mere ekstreme forskellen bliver.

Jeff Bezos tjener så meget på en dag som barn arbejdsmand gør i 700.000 år

For eksempel Amazon ‘s CEO Jeff Bezos lavet et gennemsnit på $275 millioner om dagen i løbet af de første fem måneder af 2018, ifølge Bloomberg ‘s Billionaires” Indeks. Det er selvfølgelig et stort antal, men det er svært at fatte, indtil du sætter det i kontrast med andre arbejdstagere, som er meget længere nedstrøms. Amnesty har udgivet en rapport tracking børnearbejde i Congos miner, hvor kobolt er sporet til lithium-ion-batterier. I en sammenhæng, et barn i en af dem, kobolt miner ville være nødt til at arbejde for cirka 700.000 år non-stop for at tjene det samme beløb, som en enkelt dag af Bezos’ indkomst.

Disse former for ulighed gentage hele industrielle historie, og er ikke bestemt til AI. Men i stor skala AI systemer kræver så meget data, infrastruktur og vedligeholdelse, at der er meget få virksomheder, der er i stand til at opbygge og drive dem. At tænke over, hvad det betyder, at over tid er vigtig, hvis vi vil være i stand til at styre disse systemer.

Anatomi af en AI-System af Kate Crawford og Vladimir Joler kan ses på Victoria og Albert Museum i London som en del af den Kunstigt Intelligente udstilling. Du kan også udforske kort og læse det vedlagte essay i Anatomi hjemmeside.