Immagine: Apple
Apple pensava chiaramente di essere vincente con il suo sistema di rilevamento di materiale pedopornografico (CSAM) e, molto probabilmente, si aspettava di più dei soliti elogi scroscianti a cui è abituato. Non è difficile immaginare Cupertino pensando di aver risolto l'intrattabile problema di CSAM nel modo più adatto a se stesso e ai suoi utenti.
Apple afferma che il suo sistema è più privato perché non scansiona o monitora attivamente le foto caricate sui suoi server, a differenza di quasi tutti gli altri nel settore, ma con il passare delle settimane, sembra sempre più che Apple abbia creato una macchina Rube Goldberg in fine di differenziarsi.
Le conseguenze di questo approccio unilaterale sono di vasta portata e avranno un impatto su tutti, non solo su quelli del giardino recintato di Apple.
I governi stanno spingendo da tempo affinché le grandi tecnologie creino capacità di decrittazione. Un modo per raggiungere un compromesso è disporre di un sistema crittografato ma non consentire agli utenti di crittografare i propri backup, consentendo così una certa visibilità sul contenuto, mentre un altro è disporre di un sistema crittografato end-to-end completo e ispezionare il contenuto quando è decrittografato sul dispositivo dell'utente per la visualizzazione.
Mentre il resto del settore ha optato per il primo, Apple ha cambiato corsia per il secondo.
Questo cambiamento si è verificato proprio mentre l'Australia ha trasmesso la sua serie di bozze di regole che definiranno il funzionamento dell'Online Safety Act.
“Se il servizio utilizza la crittografia, il fornitore del servizio adotterà misure ragionevoli per sviluppare e implementare processi per rilevare e indirizzare materiale o attività sul servizio che è o potrebbe essere illegale o dannoso”, la bozza stati.
Vedi anche: Apple metterà a punto il sistema CSAM per mantenere una soglia di disattivazione di falsi positivi di un trilione
Il Canada fa un passo avanti in una bozza simile. Nella sua iterazione, chiede il monitoraggio proattivo dei contenuti relativi a CSAM, terrorismo, incitamento alla violenza, incitamento all'odio e condivisione di immagini non consensuali e la creazione di un nuovo ruolo di Commissario per la sicurezza digitale per valutare se l'intelligenza artificiale utilizzata è sufficiente, secondo Professore di legge dell'Università di Ottawa Dr Michael Geist.
Se dovesse diventare legge, anche i servizi di comunicazione online in Canada avrebbero 24 ore di tempo per prendere una decisione su un contenuto dannoso.
Il modo in cui questa potenziale legge interagisce con la decisione di Apple di fissare una soglia di 30 immagini CSAM prima di iniettare gli esseri umani nel processo e ispezionare i metadati del contenuto sarà qualcosa da tenere d'occhio in futuro.
Mentre la proposta canadese è stata considerata una raccolta delle peggiori idee provenienti da tutto il mondo, anche India, Regno Unito e Germania stanno spingendo avanti con la regolamentazione di Internet.
Apple ha affermato che il suo sistema CSAM inizierà solo con gli Stati Uniti quando arriveranno iOS 15, iPadOS 15, watchOS 8 e macOS Monterey, il che significa che si potrebbe sostenere che Apple sarà in grado di evitare le normative di altre nazioni occidentali.
Ma non così velocemente. Il capo della privacy di Apple, Erik Neuenschwander, ha affermato in una recente intervista che l'elenco di hash utilizzato per identificare CSAM sarà integrato nel sistema operativo.
“Abbiamo un sistema operativo globale”, ha affermato.
Anche se Apple ha costantemente affermato che le sue politiche mirano a prevenire il superamento, l'uso da parte di regimi corrotti o false sospensioni, non è chiaro come Apple risponderà a una domanda molto importante: cosa succede quando ad Apple viene emessa un'ingiunzione del tribunale che va contro le sue politiche?
Non c'è dubbio che i legislatori non statunitensi avranno una visione debole se il tipo di sistemi che desiderano sono disponibili sui dispositivi Apple.
“Rispettiamo la legge ovunque operiamo”, ha dichiarato Tim Cook nel 2017 dopo che l'azienda ha ritirato le app VPN dal suo app store cinese.
Seguire la legge: Citizen Lab scopre che il processo di censura cinese di Apple sanguina a Hong Kong e Taiwan
Mentre ci sono molte preoccupazioni e domande degne sul sistema di Apple stesso, le conseguenze dell'esistenza di un tale sistema sono motivo di maggiore preoccupazione.
Per anni, Apple ha respinto le richieste delle autorità statunitensi di aiutare a sbloccare i telefoni di persone presumibilmente coinvolte in sparatorie di massa. Quando ha risposto alle richieste dell'FBI nel 2016, Cook ha scritto una lettera ai clienti che ha confutato i suggerimenti secondo cui sbloccare un telefono sarebbe stata la fine della questione e ha affermato che la tecnica potrebbe essere utilizzata più e più volte.
“In nelle mani sbagliate, questo software, che oggi non esiste, avrebbe il potenziale per sbloccare qualsiasi iPhone in possesso fisico di qualcuno”, ha affermato il CEO.
La chiave dell'argomentazione di Apple erano le parole tra i trattini, e ora nell'agosto 2021, mentre quella capacità esatta non esiste, una funzionalità sul dispositivo è impostata per apparire su tutti i suoi dispositivi, e questo è un motivo di preoccupazione sufficiente.
“Apple ha scelto unilateralmente di iscrivere i suoi utenti a un esperimento globale di sorveglianza di massa, apparentemente sottovalutando i potenziali costi che ciò potrebbe avere su individui che non sono coinvolti nella produzione o archiviazione di contenuti CSAM e esternalizzando tali costi su una base di utenti di oltre un miliardo di individui in tutto il mondo”, ha scritto Christopher Parson, senior research associate di Citizen Lab.
“Queste non sono le attività di un'azienda che ha riflettuto significativamente sul peso delle sue azioni ma, invece, riflettono un'azienda che è disposta a sacrificare i propri utenti senza bilanciare adeguatamente le loro esigenze di privacy e sicurezza”.
Per amor di discussione, diamo ad Apple un passaggio su tutte le sue affermazioni: forse il più grande dei giganti della tecnologia può resistere alla pressione legislativa e il sistema rimane fissato solo su CSAM negli Stati Uniti. Tuttavia, ciò richiederà un'eterna vigilanza da parte di Apple e dei sostenitori della privacy per garantire che ciò avvenga.
Il problema più grande è il resto del settore. Il pendio scivoloso esiste e Apple ha fatto il primo passo verso il basso. Forse ha stivali con impugnature per il ghiaccio e si è legato a un albero per assicurarsi che non possa scendere ulteriormente, ma pochi altri lo fanno.
Improvvisamente, la scansione sul dispositivo è diventata molto meno ripugnante perché se un un'azienda grande come Apple può farlo, e si promuovono sulla base della privacy e continuano a vendere milioni di dispositivi, deve quindi essere accettabile per gli utenti.
Basandosi su questo, le aziende losche che vogliono caricare dati sui propri server ora hanno potenzialmente una nomenclatura creata per loro da Apple. Non sono i dati dell'utente, sono buoni di sicurezza. Ciò che in precedenza avrebbe potuto essere considerato una forma di esfiltrazione, ora viene effettuato per proteggere gli utenti, rispettare gli ordini del governo e rendere il mondo un posto più sicuro.
È improbabile che i sistemi che seguono la scia di Apple si preoccupino della privacy degli utenti, delle competenze e delle risorse tecniche, della capacità di resistere agli ordini del tribunale o semplicemente delle buone intenzioni che Cupertino sembra avere.
Anche se Apple dovesse abbandonare i suoi piani domani, è troppo tardi. Il genio è ora fuori dalla bottiglia. I critici e coloro che vogliono perseguire un approccio sul dispositivo diranno semplicemente che Apple ha ceduto alle pressioni di sezioni estreme del dibattito sulla privacy se decide di cambiare idea.
Le aziende competeranno su chi può frugare meglio sui dispositivi, vantarsi di quanti dei loro utenti sono stati arrestati e di come ciò li renda più sicuri di altre scelte. A mancare in questo sarà senza dubbio il numero di errori commessi, casi limite che non vengono mai adeguatamente considerati o l'angoscia causata ad alcuni di coloro che pagano per i dispositivi. Non sarà carino.
Apple non sembra rendersi conto di aver trasformato il rapporto dell'utente con i suoi prodotti da un rapporto di proprietà a uno potenzialmente conflittuale.
Se il tuo dispositivo esegue la scansione del contenuto e lo carica da qualche parte e non puoi spegnerlo, chi è il vero proprietario? È una domanda a cui dovremo rispondere presto, soprattutto perché la scansione lato client non scomparirà.
L'APERTURA DEL LUNEDI' MATTINA DI ZDNET
L'apertura del lunedì mattina è la nostra salva di apertura per la settimana nel campo della tecnologia. Poiché gestiamo un sito globale, questo editoriale viene pubblicato lunedì alle 8:00 AEST a Sydney, in Australia, che sono le 18:00 Eastern Time di domenica negli Stati Uniti. È scritto da un membro del comitato editoriale globale di ZDNet, che comprende i nostri redattori principali in Asia, Australia, Europa e Nord America.
IN PRECEDENZA L'APERTURA DEL LUNEDI' MATTINA:
L'assunzione di sviluppatori è l'inizio, non la fine, della sfida delle tue competenze tecniche alla grande missione di Samsung: prendere i dispositivi pieghevoli – Galaxy Z Fold 3 e Z Flip 3 – mainstream
Hai bisogno di sviluppatori, project manager o CIO? Attenzione, perché le regole dell'assunzione di tecnologia stanno cambiando Incolpare la Cina è utile quando si cerca di tenere l'infrastruttura delle telecomunicazioni lontano da Pechino
Il ritorno al lavoro incontra l'ufficio ibrido: le 6 domande incombentiIl ransomware mostra la potenza e la debolezza del webSe lo strumento di compatibilità con Windows 11 non può funzionare, allora il mio viaggio con Windows on Arm è finitoCome Deluxe si è trasformato da assegni cartacei a fornire uno stack di pagamenti cloud per PMIIl lavoro da casa è qui per rimanere: le aziende devono adeguarsi per avere successo, afferma il Chief Customer and Partner Officer di ServiceNowHybrid cloud, i carichi di lavoro on-premise ottengono la loro giornata al sole, ma le previsioni sono ancora nuvolosoInnovazione Oz Style: prendi un kernel sicuro leader mondiale e lancialo al frenare
Argomenti correlati:
Apple Security TV Data Management CXO Data Center 