Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence • Door Kate Crawford • Yale University Press • 336 pagina's • ISBN: 978 -0-300-20957-0 • £20
“Vraag om vergeving, geen toestemming” is al lang een leidend principe in Silicon Valley. Er is geen technologisch gebied waarin dit principe meer is toegepast dan het machinaal leren in moderne AI, dat voor zijn bestaan afhankelijk is van gigantische databases, die bijna allemaal worden geschraapt, gekopieerd, geleend, gesmeekt of gestolen uit de gigantische stapels van gegevens die we allemaal dagelijks uitstoten, bewust of onbewust. Maar deze gegevens worden zelden rigoureus verkregen met toestemming van de proefpersonen.
“Omdat het kan”, zeggen twee sociologen tegen Kate Crawford in Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence, om te erkennen dat hun academische instellingen niet verschillen van technologiebedrijven of overheidsinstanties als het gaat om gegevens die zij vinden als de hunne voor het oprapen om algoritmen te trainen en te testen. Beelden worden infrastructuur. Dit is hoe machine learning wordt gemaakt.
Iedereen wil het hebben over waar AI goed of gevaarlijk voor is: gezichtsbeelden herkennen, spraakopdrachten interpreteren, autorijden (nog niet!). Velen willen ethiek over de AI van vandaag gieten, alsof het maken van regels de militaire financiering zou kunnen veranderen die de fundamentele aard ervan heeft bepaald. Weinigen willen de werkelijke kosten van AI bespreken. Kate Crawford, een senior onderzoeker bij Microsoft en een onderzoeksprofessor aan de University of Southern California, is de uitzondering.
In Atlas of AI begint Crawford met het deconstrueren van de beroemde bewering dat 'data de nieuwe olie is'. Normaal gesproken leidt dat ertoe dat mensen praten over de economische waarde van data, maar Crawford concentreert zich op het feit dat beide extractieve technologieën zijn. Winning is mijnbouw (zoals in 'datamining' of oliebronnen), en waar mijnbouw naartoe gaat, volgen milieuschade, menselijke uitbuiting en ingrijpende gevolgen voor de hele samenleving.
Crawford onderstreept dit door naar Silver Peak, Nevada te gaan om de enige werkende lithiummijn in de VS te bezoeken. Lithium is natuurlijk een cruciaal onderdeel in batterijpakketten voor alles van smartphones tot Tesla's. Crawford volgt dit op door rekening te houden met de steeds grotere implicaties van extractie voor arbeid, de gegevensbronnen, classificatie-algoritmen en het gedrag van de natiestaat waar dit allemaal aan ten grondslag ligt, om te eindigen met de machtsstructuren die mogelijk worden gemaakt door AI-as-we-know-it. Op deze manier ligt Project Maven en 'signature strikes' waarin, zoals voormalig CIA- en NSA-directeur Michael Hayden toegeeft, metadata mensen doden.
Slangenolie
Toch is een deel hiervan overduidelijk onjuist. Crawford traceert de beelddatasets waarop de nieuwste verontrustende slangenolie – emotieherkenning – is gebaseerd, en ontdekt dat ze zijn opgebouwd uit geposeerde foto's waarin de proefpersonen werd verteld overdreven voorbeelden van emotionele reacties te geven. In dit geval wordt 'AI' helemaal naar beneden gefabriceerd. Is er, zoals Tarleton Gillespie vroeg naar Twitter-trends, enige echte menselijke reflectie?
Terwijl andere technologieboeken een aantal onderwerpen van Crawford hebben behandeld (waarvan er hier te veel zijn besproken om op te noemen), komt haar geïntegreerde structurele benadering het dichtst in de buurt van The Costs of Connection van Nicholas Couldry en Ulises A. Mejias, waarin onze huidige technologische herconfiguratie wordt bekeken. als het begin van een nieuwe relatie tussen kolonialisme en kapitalisme.
'Elke voldoende geavanceerde technologie is niet te onderscheiden van magie', schreef Arthur C. Clarke. In navolging van Crawford lijkt dit meer op: “Elke technologie die op magie lijkt, verbergt iets.” Er liggen zoveel duistere geheimen in de manier waarop de worst wordt gemaakt.
RECENTE EN GERELATEERDE INHOUD
The Costs of Connection, boekbespreking: een bredere kijk op surveillancekapitalisme
De grootste investering in databasegeschiedenis, het grootste sociale netwerk ooit, en andere grafiekverhalen van Neo4j
Google gebruikt nu AI om chips te ontwerpen, veel sneller dan menselijke ingenieurs het werk kunnen doen
Drones met exoskeletten nemen het op in voetbaluitdaging
Bang, mens? Emotiedetectie AI ontmoet eye-tracking-technologie
Lees meer boekrecensies
Silicon Values, boekrecensie: Een geschiedenis van online censuur in het Big Tech-tijdperk The Hype Machine, boekrecensie: Inside the 'social media industrial complex'The Hidden Power of Systems Thinking, boekrecensie: Reinventing governanceAsk Your Developer, boekrecensie: Hoe te gedijen in een 'build or die'-bedrijfslandschapLurking, boekrecensie: A people's history of online culture
gerelateerde onderwerpen:
After Hours Digitale transformatie CXO Internet of Things Innovatie Enterprise Software 