Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence • Di Kate Crawford • Yale University Press • 336 pagine • ISBN: 978 -0-300-20957-0 • £ 20
“Chiedi perdono, non il permesso” è stato a lungo un principio guida nella Silicon Valley. Non c'è campo tecnologico in cui questo principio sia stato più praticato dell'apprendimento automatico nell'IA moderna, che dipende per la sua esistenza da giganteschi database, quasi tutti raschiati, copiati, presi in prestito, supplicati o rubati dalle enormi pile di dati che tutti emettiamo quotidianamente, consapevolmente o meno. Ma questi dati non sono quasi mai rigorosamente raccolti con il permesso dei soggetti.
“Perché possiamo”, dicono due sociologi a Kate Crawford in Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence, riconoscendo che le loro istituzioni accademiche non sono diverse dalle aziende tecnologiche o dalle agenzie governative per quanto riguarda i dati che trovare come loro da prendere per addestrare e testare algoritmi. Le immagini diventano infrastrutture. Ecco come nasce l'apprendimento automatico.
Tutti vogliono parlare di ciò per cui l'intelligenza artificiale è utile o pericolosa: identificare immagini facciali, interpretare comandi vocali, guidare automobili (non ancora!). Molti vogliono riversare l'etica sull'IA di oggi, come se fare regole potesse alterare il finanziamento militare che ne ha definito la natura fondamentale. Pochi vogliono discutere dei veri costi dell'IA. Kate Crawford, ricercatrice senior presso Microsoft e professore di ricerca presso la University of Southern California, è l'eccezione.
In Atlas of AI, Crawford inizia smontando la famosa tesi secondo cui “i dati sono il nuovo petrolio”. Normalmente, ciò porta le persone a parlare del valore economico dei dati, ma Crawford si concentra sul fatto che entrambe sono tecnologie estrattive. L'estrazione è l'estrazione mineraria (come nel “data mining” o nei pozzi petroliferi) e dove va l'estrazione mineraria, quindi segui i danni ambientali, lo sfruttamento umano e le profonde conseguenze a livello di società.
Crawford sottolinea questo punto dirigendosi a Silver Peak, in Nevada, per visitare l'unica miniera di litio operativa negli Stati Uniti. Il litio è, ovviamente, un componente cruciale nei pacchi batteria per qualsiasi cosa, dagli smartphone alle Tesla. Crawford segue questo considerando le crescenti implicazioni dell'estrazione per il lavoro, le fonti di dati, gli algoritmi di classificazione e il comportamento dello stato nazionale che tutto questo è alla base, finendo con le strutture di potere abilitate dall'intelligenza artificiale come la conosciamo. In questo modo si trovano il Progetto Maven e i “signature strikes” in cui, come ha ammesso l'ex direttore della CIA e della NSA Michael Hayden, i metadati uccidono le persone.
Olio di serpente
Eppure parte di ciò è palesemente falso. Crawford ripercorre i set di dati di immagini su cui si basa l'ultimo inquietante olio di serpente – il riconoscimento delle emozioni – e scopre che sono stati costruiti da immagini in posa in cui ai soggetti è stato detto di fornire esempi esagerati di reazioni emotive. In questo caso, “AI” viene prodotto fino in fondo. C'è, come ha chiesto Tarleton Gillespie sulle tendenze di Twitter, un vero riflesso umano?
Mentre altri libri di tecnologia hanno affrontato alcuni degli argomenti di Crawford (troppi dei quali sono stati recensiti qui per elencarli), il più vicino al suo approccio strutturale integrato è The Costs of Connection di Nicholas Couldry e Ulises A. Mejias, che esamina la nostra attuale riconfigurazione tecnologica come l'inizio di un nuovo rapporto tra colonialismo e capitalismo.
“Qualsiasi tecnologia sufficientemente avanzata è indistinguibile dalla magia”, scrisse Arthur C. Clarke. Seguendo Crawford, questo sembra più simile a: “Qualsiasi tecnologia che sembra magia nasconde qualcosa”. Tanti oscuri segreti risiedono nel modo in cui viene prodotta la salsiccia.
CONTENUTI RECENTI E CORRELATI
I costi della connessione, recensione del libro: una visione più ampia del capitalismo della sorveglianza
Il più grande investimento nella storia del database, il più grande social network di sempre e altri storie di grafici da Neo4j
Ora Google utilizza l'intelligenza artificiale per progettare chip, molto più velocemente di quanto gli ingegneri umani possano svolgere il lavoro
Droni con esoscheletri si affrontano in una sfida di calcio
Spaventato, umano? L'intelligenza artificiale per il rilevamento delle emozioni incontra la tecnologia di tracciamento oculare
Leggi altre recensioni di libri
Silicon Values, recensione di libri: una storia di censura online nell'era della Big TechThe Hype Machine, recensione di libri: All'interno del 'complesso industriale dei social media'The Hidden Potere del pensiero sistemico, recensione del libro: reinventare la governance Chiedi al tuo sviluppatore, recensione del libro: Come prosperare in un panorama aziendale “costruisci o muori” In agguato, recensione del libro: la storia di una cultura online di un popolo
Argomenti correlati:
After Hours Digital Transformation CXO Internet of Things Innovation Enterprise Software 