Bild: Apple
Apple trodde tydligt att det var en vinnare med sitt system för upptäckt av sexuellt övergrepp mot barn (CSAM) och mer än troligt förväntade det sig mer av de vanliga flödande lovsångerna det är van vid. Det är inte svårt att föreställa sig att Cupertino tror att det hade löst det svårlösliga problemet med CSAM på ett sätt som bäst passade sig själv och dess användare.
Apple hävdar att systemet är mer privat eftersom det inte aktivt skannar eller övervakar foton som laddas upp till sina servrar, till skillnad från i stort sett alla andra i branschen, men allt eftersom veckorna går ser det alltmer ut som att Apple har skapat en Rube Goldberg -maskin i för att skilja sig.
Konsekvenserna av detta ensidiga tillvägagångssätt är långtgående och kommer att påverka alla, inte bara dem i trädgården Apple.
Regeringar har drivit på för stor teknik för att skapa dekrypteringsförmåga under en tid. Ett sätt att nå en kompromiss är att ha ett krypterat system men inte tillåta användarna att kryptera sina egna säkerhetskopior och därigenom tillåta viss insyn i innehållet, medan ett annat är att ha ett fullständigt end-to-end-krypterat system och inspektera innehåll när det är dekrypteras på användarenheten för visning.
Medan resten av branschen bestämde sig för det förra har Apple bytt körfält till det senare.
Detta skifte inträffade precis som Australien överlämnade sin uppsättning utkast till regler som kommer att definiera hur dess onlinesäkerhetslag fungerar.
“Om tjänsten använder kryptering kommer tjänsteleverantören att vidta rimliga åtgärder för att utveckla och implementera processer för att upptäcka och adressera material eller aktivitet på tjänsten som är eller kan vara olagligt eller skadligt”, lyder utkastet stater.
Se även: Apple för att ställa in CSAM-systemet för att behålla en-i-en-biljon falsk positiv avaktiveringströskel
Kanada går ett steg längre i ett liknande utkast. I sin iteration kräver den proaktiv övervakning av innehåll som rör CSAM, terrorism, uppviglande av hat, yttrande från hat och bilddelning utan samtycke, och skapar en ny roll för digital säkerhetskommissionär för att bedöma om AI som används är tillräckligt, enligt Jurisprofessor vid University of Ottawa Dr Michael Geist.
Skulle det bli lagstiftning skulle onlinekommunikationstjänster i Kanada också ha 24 timmar på sig att fatta ett beslut om ett skadligt innehåll.
Hur den potentiella lagen interagerar med Apples beslut att sätta en tröskel på 30 CSAM -bilder innan människor injiceras i processen och inspekterar innehållets metadata kommer att vara något att titta på i framtiden.
Även om det kanadensiska förslaget har ansetts vara en samling av de sämsta idéerna från hela världen, driver Indien, Storbritannien och Tyskland också framåt med internetreglering.
Apple har sagt att dess CSAM -system bara kommer att börja med USA när iOS 15, iPadOS 15, watchOS 8 och macOS Monterey kommer, vilket innebär att man kanske kan argumentera för att Apple kommer att kunna undvika regler från andra västländer.
Men inte så snabbt. Apples sekretesschef Erik Neuenschwander sa i en intervju nyligen att hashlistan som används för att identifiera CSAM kommer att byggas in i operativsystemet.
“Vi har ett globalt operativsystem”, sa han.
Även om Apple konsekvent har angett att dess policy syftar till att förhindra överskridande, användning av korrupta regimer eller falska avstängningar, är det inte klart hur Apple kommer att svara på en mycket viktig fråga: Vad händer när Apple får ett domstolsbeslut som strider mot dess policy?
Det finns ingen tvekan om att icke-amerikanska lagstiftare kommer att ha en svag uppfattning om den typ av system de vill ha finns på Apple-enheter.
“Vi följer lagen var vi än gör affärer”, sa Tim Cook 2017 efter att företaget drog VPN -appar från sin kinesiska appbutik.
Efter lagen: Citizen Lab finner Apples Kina -censurprocess blöder in i Hong Kong och Taiwan
Även om det finns många värda bekymmer och frågor om Apples system i sig, är konsekvenserna av att det finns ett sådant system anledning till större oro.
I åratal har Apple skjutit tillbaka kraven från amerikanska myndigheter att hjälpa till att låsa upp telefoner till personer som påstås vara inblandade i massskjutningar. När han svarade på FBI -krav 2016 skrev Cook ett brev till kunder som motbevisade förslag om att låsa upp en telefon skulle vara slutet på saken och sa att tekniken kan användas om och om igen.
“In fel händer, skulle den här mjukvaran – som inte finns idag – ha potential att låsa upp vilken iPhone som helst i någons fysiska ägo ”, säger VD.
Nyckeln till Apples argument var orden mellan fläckarna, och nu i augusti 2021, medan den exakta funktionen inte finns, kommer en enhet på enheten att visas på alla dess enheter, och det är en tillräckligt bra anledning till oro.
“Apple har ensidigt valt att registrera sina användare i ett globalt experiment med massövervakning, till synes underskattat de potentiella kostnaderna detta kan ha för individer som inte är involverade i tillverkning eller lagring av CSAM -innehåll, och externa sådana kostnader till en användarbas av en miljard plus individer runt om i världen “, skriver medarbetare i Citizen Lab, Christopher Parson.
“Det här är inte ett företags verksamhet som på ett meningsfullt sätt har reflekterat över vikten av sina handlingar utan istället återspeglar ett företag som är villigt att offra sina användare utan att i tillräcklig utsträckning balansera deras integritets- och säkerhetsbehov.”
För argumentets skull, låt oss ge Apple ett överblick över alla sina påståenden – kanske den största av teknikjättarna kan motstå lagstiftningstryck och systemet förblir fixerat endast på CSAM i USA. Detta kommer dock att kräva evig vaksamhet från Apple och sekretessförespråkare för att säkerställa att det följer detta.
Det större problemet är resten av branschen. Den hala backen finns, och Apple har tagit det första steget. Kanske har den stövlar med isgrepp och har bundit sig till ett träd för att se till att det inte kan sjunka längre, men få andra gör det.
Plötsligt har skanning på enheten blivit mycket mindre motbjudande för om en Företag så stort som Apple kan göra det, och de marknadsför sig på grund av integritet och fortsätter att sälja miljarder enheter, måste det därför vara acceptabelt för användarna.
Med utgångspunkt i det har skumma företag som vill ladda upp data till sina egna servrar nu potentiellt en nomenklatur för Apple. Det är inte användarens data, det är säkerhetskuponger. Det som tidigare kunde ha ansetts vara en form av exfiltrering görs nu för att skydda användare, följa myndigheters order och göra världen till en säkrare plats.
De system som följer i kölvattnet av Apple kommer sannolikt inte att ha lika stor oro för användarnas integritet, tekniska expertis och resurser, förmåga att motstå domstolsbeslut eller bara släppa ut goda avsikter som Cupertino verkar ha.
Även om Apple skulle dumpa sina planer imorgon är det för sent. Genien är nu ur flaskan. Kritiker och de som vill fortsätta en enhet på enheten kommer helt enkelt att säga att Apple har böjt sig för press från extrema delar av integritetsdebatten om det bestämmer sig för att ändra åsikt.
Företag kommer att tävla om vem som bäst kan peta runt på enheter, skryta om hur många av deras användare som greps och hur det gör dem säkrare än andra val. Saknas i detta kommer utan tvekan att antalet misstag som gjorts, kantfall som aldrig övervägs ordentligt eller ångest orsakas av några av dem som betalar för enheter. Det kommer inte att bli vackert.
Apple verkar inte förstå att det har förvandlat användarens relation till sina produkter från ett ägande till en potentiellt kontradiktorisk.
Om din enhet skannar innehåll och laddar upp det någonstans och du inte kan stänga av det, vem är då den verkliga ägaren? Det är en fråga som vi snart måste svara på, särskilt eftersom skanning på klientsidan inte försvinner.
ZDNETS MÅNDAGSMORGONÖPPNARE
The Monday Morning Opener är vår öppningssalvo för veckan inom teknik. Eftersom vi driver en global webbplats publiceras denna redaktion på måndag klockan 08:00 AEST i Sydney, Australien, vilket är 18.00 Eastern Time på söndag i USA. Den är skriven av en medlem av ZDNets globala redaktion, som består av våra ledande redaktörer i Asien, Australien, Europa och Nordamerika.
FÖREGÅENDE PÅ MÅNDAGSMORGENÖPPNARE:
Att anlita utvecklare är början, inte slutet på din tekniska kompetensutmaning Samsungs stora uppdrag: Ta hopfällbara enheter -Galaxy Z Fold 3 och Z Flip 3 – mainstream
Behöver du utvecklare, projektledare eller CIO? Se upp, för reglerna för teknisk anställning förändras. Att skylla på Kina är praktiskt när du försöker hålla telekommunikationsinfrastrukturen borta från Peking
Återgå till jobbet möter hybridkontoret: De 6 hotande frågorna Ransomware visar kraften och svagheten på webben Om Windows 11 -kompatibilitetsverktyget inte kan köras, är min Windows on Arm -resa över Hur Deluxe omvandlas från papperskontroller till att tillhandahålla en SMB -molnbetalningsstack Arbete hemifrån är här att stanna: Företagen måste anpassa sig för att lyckas, säger ServiceNows chefskund och partnerofficerHybridmoln, lokala arbetsbelastningar får sin dag i solen, men prognosen är fortfarande grumlig Innovation Oz Style: Ta en världsledande säker kärna och sparka den till begränsa
Relaterade ämnen:
Apple Security TV Datahantering CXO-datacenter 