Denna vackra karta visar allt som driver en Amazon Echo, data från gruvor till sjöar av litium

Att den moderna världen är en komplex plats kommer inte ha undgått er.

Vi är alla svagt, unsettlingly medvetna om att våra liv är insnärjd i de system som vi inte kan förstå. Den sista måltiden du åt förmodligen innehöll produkter som odlas i ett annat land som har avverkats, behandlas, förpackas, transporteras, säljs sedan till dig. Telefonen i din hand är slutprodukten av en ännu mer invecklad kedja; en som bygger på mänsklig arbetskraft från gruvor i Afrika, löpande band i Kina, och stående skrivbord i San Francisco.

Förklara hur dessa system anslut och den effekt de har på världen är inte en lätt uppgift. Men det är vad professorer Kate Crawford och Vladan Joler har försökt att göra i ett nytt konstverk och uppsats, som presenterades förra fredagen på Victoria & Albert Museum i London.

“Vi måste ha en djup och mer komplexa samtal om […] att bygga AI i stor skala.”

De viktigaste konstverk är en enorm karta, två meter hög och fem meter över, vilka spår de system som används för att driva en av de mest komplexa produkter av den moderna dagen: en AI-motordriven anordning, specifikt, en Amazon Echo. Det är en enda röra av förgrenade linjer i skarp svart och vitt, och ser mer ut som schemat av en kärnreaktor än en vardaglig gadget. Skriv ut kallas Anatomi av ett AI-system, men dess undertext förklarar dess räckvidd: “Amazon Echo som en anatomisk karta av mänsklig arbetskraft, data och planetens resurser.”

Före avtäckningen Gränsen talade till Crawford, professor vid New York University och en av grundarna av AI Nu Institute, en organisation som undersöker de sociala konsekvenserna av att utveckla artificiell intelligens. Crawford och hennes medarbetare Joler, professor vid Academy of Arts vid University of Novi Sad, säger att de skapat Anatomi på grund av bristande medvetenhet om strukturer som stöder moderna prylar, särskilt AI.

“Vi måste ha en djup och mer komplexa samtal om följderna av att bygga artificiell intelligens vid skala, säger Crawford. “Och med [Anatomi] det är verkligen något som du kan titta på och börja att förstå som en del av en större bild.”

Denna intervju har varit lätt redigerade för tydlighetens och enkelhetens skull. Klicka här för att se hela Strukturen av ett AI-System som är skriv och läs den bifogade uppsatsen.

Så, först av allt, varför gjorde du väljer en Amazon Echo som fokus för detta projekt?

Jag var verkligen intresserad av den mycket enkel röst-baserad samverkan vi har med dessa system. Ekot sitter i ditt hus, ser väldigt enkel och liten, men har dessa stora rötter som ansluter till enorma system av produktion: logistik -, gruv -, datafångst och utbildning av AI-nätverk. Det är en hel infrastrukturella stack du aldrig se. Du bara ge ett enkelt röstkommando — “Alexa, slå på belysningen” — och det känns som magi.

Men försöker att verkligen undersöka och göra nästan arkeologi om hur magi fungerar är vad det här projektet handlar om. Echo är kraftfulla på grund av denna känsla av bekvämlighet, men när du öppnar huven kan du se den totala kostnaden för det.

Vissa skulle säga att detta har alltid varit fallet med teknik. Och i din uppsats du visa detta också, när man talar om hur behovet av att skörda naturlig latex för att isolera sjökablar i den 19-talet ledde till stora avskogning. Vad är annorlunda nu?

Vi har varit igenom många tekniska bommar innan som har samtidig utvinning av resurser för att göra det möjligt. Detta är verkligen en trend. Men jag kan säga att tur att AI är olika för två riktigt, riktigt stora anledningar. För det första, den fungerar på en nivå som börjar förändra hur samhället fungerar, eftersom AI-system byggs in i de institutioner som är viktigast för oss, från hälso-och sjukvård för rättsväsendet. Dessa system ändrar hur du interagerar med världen på varje nivå, så det är denna skillnad i omfattning.

AI konsumenterna är också en produkt som ska säljas

Och för det andra, jag tror att det är det sätt på vilket konsumenten är olika som är mycket speciell AI. Med AI enheter, konsumenter finns i en hybrid stat där de är någon som köper en produkt utan också en resurs i att deras röstkommandon sparas och analyseras som en del av en samling av data utbildning. De är också en medarbetare i att de är att ge obetalda arbete genom att ge feedback till systemet. Deras svar hjälpa till att bedöma riktigheten och användbarheten och kvaliteten på AI. Och de är också en produkt i att alla deras intressen [fångas via dessa interaktioner] blivit en profil som du kan sälja till annonsörer. Denna kombination av att vara en konsument, en arbetstagare, en resurs och en produkt, är något som är väldigt nytt.

Om konsumenterna används på detta sätt, ger obetalda arbete, tror du att det måste finnas en rörelse för att återta detta värde? Ska kunna sälja sina data på något sätt, till exempel?

För det första, människor behöver för att förstå vad som händer. Människor är bara början för att förstå att sociala medier, till exempel, är inte bara där för att dela dina foton och ansluta med dina vänner. De är stora system som är extrahera helt olika former av värde än du tror du ger genom att säga hej till din mamma eller gillar en bild på en katt. Det är det här konceptuell förändring som behövs för att förstå att branschen i sig har förändrats, och att det finns former av värdet som utvinns som inte ens finns sju eller åtta år sedan.

Den andra saken är att reformera vår idé socialt ansvarstagande så att den matchar våra behov. Och i termer av vad som ser ut som, det är en stor fråga. Det är en av de saker AI Nu har varit att fokusera på, och vi har en mycket stor civil law and policy villkorade […] att arbeta med organisationer som ACLU för att räkna ut hur vi kan dra tydliga linjer kring vad som är acceptabelt att använda [data], vilka typer av teknik har allvarliga nackdelar, och hur vi har ansvar. Och det är något som vi ser som ett mycket stort forskningsprojekt.

Anatomin i sig är uppdelad i tre större system, som du refererar till som en “extractive processen.” Det är en utvinnings-processen för materiella resurser, en för data och en för mänsklig arbetskraft. Varför tror du att det är lämpligt att avgränsa dessa system på detta sätt, som “extractive”?

Alla dessa processer extrahera värde på olika sätt. När du tänker på kolbrytning, för att ta ett exempel, kanske du tänker på en industri som drev skenande tillväxt, höga vinster, men det produceras också kostnader som ursprungligen förbises och oberäkneliga inom det ekonomiska systemet. Den sanna bilden av resurs gruvdrift kan ta årtionden att växa fram. Gör data mining har på samma sätt okända kostnader som överstiger vårt nuvarande ekonomiska ram?

“AI-system är att utvinna mervärde från alla typer av mänskliga aktiviteter.”

Cambridge Analytica-skandalen är bara ett av många exempel på kostnader, politiska system och det civila samhället som inte stod för. Du kan se detta mönster upprepa på många nivåer: från arbetsmarknaden praxis clickwork, att massan skörd av användardata, till sällsynta jordartsmetaller som behövs för att bygga upp konsumenternas tech-produkter. AI-system är att utvinna mervärde från alla typer av mänskliga aktiviteter — rätt till mänskliga känslor och ansiktsuttryck — och kostnaderna är ofta skyms från slutanvändare och ta år att till fullo förstås.

Du presenterar Ekot som en symbol för en viss typ av anordning — en som vi inte kan öppna (eftersom vi kommer att göra garantin ogiltig) och kan inte fullt kontroll (eftersom programvaran liv i molnet och uppdateras utan vår tillåtelse). Hur fungerar detta paradigm påverkar vår interaktion med tekniken? Eller med samhället?

Exakt. Begreppet algoritmisk svarta lådor är nu väl känd, tack vare det viktiga arbetet för akademiker som Frank Pasquale. Vårt projekt var intresserad av hur det går ihop med andra typer av svarta lådor. Ekot i sig är en typ av laptop som är extremt svår att undersöka: en användare kan inte se hur det fungerar, hur man registrerar data, eller hur dess algoritmer är utbildade för. Sedan finns det dolda logistik kring hur enkla komponenter inuti den skördas och smälts och monteras, genom flera lager av entreprenörer, distributörer och nedströms komponent tillverkare.

I den uppsats vi skriver om exempel på hur det tog Intel flera år bara för att förstå sin egen supply chain tillräckligt bra för att kunna garantera att inga tantal från Kongo var innesluten i sin mikroprocessorer. Föreställ dig ett företag som med goda resurser, och med mycket kompetenta medarbetare, och en väl etablerad uppsättning av register och databaser, och det tog flera år att förstå sina egna inköp mönster!

Det visar hur svårt i dessa processer kan vara att undersöka och analysera från insidan av ett företag, än mindre för de forskare och journalister som arbetar på utsidan. Men att processen för att berätta historier om produktionen är så viktigt, och det behövs: det är hur vi kan börja se till de svindlande komplexitet av den globala produktionen av tekniska produkter.

I den uppsats du talar om ackumulation och koncentration av rikedom, och den fruktansvärda arbetsförhållanden för de som befinner sig lägre ner i kedjan. Tror du att AI naturligtvis förvärrar denna typ av ojämlikhet?

(Och, som en parentes, jag skulle säga att jag älskar sättet det finns flera “tunna skorpor” på din karta, som var och en ökar i värde av olika slag. Det är litium på salt sjöar i Bolivia; mineral har tillkommit under miljontals år. Och det är den tekniska eliten i Silicon Valley, samla värdet av allt att obetalda clickwork av sina kunder.)

Exakt de skikt är tunt. Det finns några miljardärer på toppen av systemet, som kan extrahera högsta värde, och ju längre du går ner kedjor av logistik och produktion, närmare råvaror, de mer extrema skillnaderna blir.

Jeff Bezos tjänar lika mycket per dag som ett barn arbetare gör i 700 000 år

Till exempel Amazons VD Jeff Bezos gjort i genomsnitt $275 miljoner per dag under de första fem månaderna av 2018, enligt Bloomberg Billionaires’ Index. Det är naturligtvis ett stort antal, men det är svårt att verkligen ta tag tills du sätta det i kontrast med andra arbetstagare mycket längre nedströms. Amnesty publicerade en rapport spårning av barn som arbetskraft i den Kongolesiska gruvor där kobolt är spårade för litium-jon-batterier. I ett sammanhang, ett barn i en av de kobolt gruvor skulle behöva arbeta för cirka 700 000 år non-stop för att tjäna lika mycket som en enda dag av Bezos’ inkomst.

Dessa typer av ojämlikhet upprepa hela industriella historia, och är inte särskilt AI. Men stora AI-system att kräva så mycket data, infrastruktur och underhåll att det är väldigt få företag som har möjlighet att bygga och driva dem. Funderar på vad det innebär att över tid är viktigt om vi ska kunna styra dessa system också.

Anatomi av ett AI-System av Kate Crawford och Vladan Joler kan ses på Victoria and Albert Museum i London som en del av Artificiellt Intelligenta utställning. Du kan också utforska kartan och läs den bifogade uppsats på Anatomi webbplats.