Billede: Apple
Apple troede klart, at det var på en vinder med sit system til registrering af seksuelt misbrug af børn (CSAM), og det forventede mere end sandsynligt mere af de sædvanlige sprudlende roser, den er vant til. Det er ikke svært at forestille sig, at Cupertino troede, at det havde løst det uhåndterlige problem med CSAM på en måde, der bedst passede sig selv og dets brugere.
Apple hævder, at dets system er mere privat, fordi det ikke aktivt scanner eller overvåger fotos, der er uploadet til sine servere, i modsætning til stort set alle andre i branchen, men efterhånden som ugerne går, ser det i stigende grad ud til, at Apple har oprettet en Rube Goldberg -maskine i for at differentiere sig selv.
Konsekvenserne af denne ensidige tilgang er vidtgående og vil påvirke alle, ikke kun dem i Apple-murede have.
Regeringer har presset på for at big tech skulle skabe dekrypteringsevner i nogen tid. En måde at nå et kompromis på er at have et krypteret system, men ikke lade brugerne kryptere deres egne sikkerhedskopier og derved give en vis synlighed i indholdet, mens en anden er at have et fuldt og ende-krypteret system og inspicere indhold, når det er dekrypteret på brugerenheden til visning.
Mens resten af branchen bosatte sig på førstnævnte, har Apple skiftet bane til sidstnævnte.
Dette skift skete, ligesom Australien afgav sit sæt udkast til regler, der vil definere, hvordan dets onlinesikkerhedslov fungerer.
“Hvis tjenesten anvender kryptering, vil udbyderen af tjenesten tage rimelige skridt til at udvikle og implementere processer til at opdage og adressere materiale eller aktivitet på tjenesten, der er eller kan være ulovlig eller skadelig,” lyder udkastet stater.
Se også: Apple til at indstille CSAM-system for at beholde one-in-a-trillion falsk positiv deaktiveringstærskel
Canada går et skridt videre i et lignende udkast. I sin iteration kræver den proaktiv overvågning af indhold, der vedrører CSAM, terrorisme, tilskyndelse til vold, hadefulde ytringer og billeddeling uden samtykke og opretter en ny rolle som digital sikkerhedskommissær for at vurdere, om AI, der bruges, er tilstrækkelig i henhold til Jurisprofessor ved University of Ottawa Dr. Michael Geist.
Skulle det blive lov, ville online kommunikationstjenester i Canada også have 24 timer til at træffe en beslutning om et stykke skadeligt indhold.
Hvordan den potentielle lov interagerer med Apples beslutning om at fastsætte en tærskel på 30 CSAM -billeder, inden mennesker injiceres i processen og inspiceres indholdets metadata, vil være noget at se i fremtiden.
Selvom det canadiske forslag er blevet anset for at være en samling af de værste ideer fra hele verden, går folk i Indien, Storbritannien og Tyskland ligeledes fremad med internetregulering.
Apple har sagt, at dets CSAM -system kun starter med USA, når iOS 15, iPadOS 15, watchOS 8 og macOS Monterey ankommer, hvilket betyder, at man måske kan argumentere for, at Apple vil være i stand til at undgå andre vestlige nationers regler.
Men ikke så hurtigt. Apples privatlivschef Erik Neuenschwander sagde i et interview for nylig, at hashlisten, der bruges til at identificere CSAM, vil blive indbygget i operativsystemet.
“Vi har et globalt operativsystem,” sagde han.
Selvom Apple konsekvent har udtalt, at dens politik sigter mod at forhindre overreach, brug af korrupte regimer eller falske suspensioner, er det ikke klart, hvordan Apple vil besvare et meget vigtigt spørgsmål: Hvad sker der, når Apple får en retskendelse, der strider imod dens politikker?
Der er ingen tvivl om, at ikke-amerikanske lovgivere vil se svagt ud, hvis den slags systemer, de ønsker, er tilgængelige på Apple-enheder.
“Vi følger loven, uanset hvor vi driver forretning,” sagde Tim Cook i 2017, efter at virksomheden trak VPN -apps fra sin kinesiske appbutik.
Følger loven: Citizen Lab finder, at Apples Kina -censurproces bløder ind i Hong Kong og Taiwan
Selvom der er masser af værdige bekymringer og spørgsmål om selve Apples system, er konsekvenserne af eksistensen af et sådant system grund til større bekymring.
I årevis har Apple skubbet tilbage fra krav fra amerikanske myndigheder om at hjælpe med at låse op telefoner til mennesker, der påstås at være involveret i masseskyderi. Da han svarede på FBI -krav i 2016, skrev Cook et brev til kunderne, der tilbageviste forslag om, at oplåsning af en telefon ville være enden på sagen, og sagde, at teknikken kunne bruges igen og igen.
“In de forkerte hænder, ville denne software – som ikke findes i dag – have potentiale til at låse enhver iPhone op i nogens fysiske besiddelse, ”sagde administrerende direktør.
Nøglen til Apples argument var ordene mellem emdashene, og nu i august 2021, mens den nøjagtige kapacitet ikke findes, er en on-device-kapacitet indstillet til at blive vist på alle dens enheder, og det er en god nok grund til bekymring.
“Apple har ensidigt valgt at tilmelde sine brugere i et globalt eksperiment med masseovervågning, tilsyneladende undervurderet de potentielle omkostninger, dette kan have for personer, der ikke er involveret i fremstilling eller lagring af CSAM -indhold, og eksternaliseret sådanne omkostninger til en brugerbase af en milliard plus individer rundt om i verden, “skrev Citizen Labs seniorforsker Christopher Parson.
“Det er ikke aktiviteterne i en virksomhed, der på en meningsfuld måde har reflekteret over vægten af sine handlinger, men i stedet afspejler en virksomhed, der er villig til at ofre sine brugere uden tilstrækkelig balance mellem deres privatliv og sikkerhedsbehov.”
Lad os for argumentets skyld give Apple et overblik over alle sine påstande – måske kan den største af tech -giganterne modstå lovgivningsmæssigt pres, og systemet forbliver kun fikseret på CSAM i USA. Dette vil dog kræve evig årvågenhed fra Apple og fortalere for fortrolighed for at sikre, at det følger med på dette.
Det større problem er resten af branchen. Den glatte hældning eksisterer, og Apple har taget det første skridt ned. Måske har den støvler med isgreb og har bundet sig til et træ for at sikre, at det ikke kan stige længere, men få andre gør det.
Pludselig er scanning på enheden blevet meget mindre frastødende, fordi hvis en virksomhed så stor som Apple kan gøre det, og de promoverer sig selv på grundlag af privatlivets fred og fortsætter med at sælge milliarder af enheder, skal det derfor være acceptabelt for brugerne.
Bygger på det, lyssky virksomheder, der ønsker at uploade data til deres egne servere nu potentielt har en nomenklatur bygget til dem af Apple. Det er ikke brugerens data, det er sikkerhedskuponer. Det, der tidligere kunne have været betragtet som en form for eksfiltrering, gøres nu for at beskytte brugerne, overholde regeringens ordrer og gøre verden til et mere sikkert sted.
De systemer, der følger i kølvandet på Apple, vil sandsynligvis ikke have så stor bekymring for brugernes privatliv, tekniske ekspertise og ressourcer, evnen til at modstå domstolsordre eller bare flade de gode intentioner ud, som Cupertino ser ud til at have.
Selvom Apple skulle dumpe sine planer i morgen, er det for sent. Genien er nu ude af flasken. Kritikere og dem, der ønsker at forfølge en tilgang på enheden, vil ganske enkelt sige, at Apple har bukket sig under pres fra ekstreme dele af fortrolighedsdebatten, hvis det beslutter sig for at ændre mening.
Virksomheder vil konkurrere om, hvem der bedst kan stikke rundt på enheder, prale af, hvor mange af deres brugere blev anholdt, og hvordan det gør dem mere sikre end andre valg. Mangler i dette vil uden tvivl være antallet af fejltagelser, kant sager, der aldrig overvejes ordentligt eller kvaler forårsaget af nogle af dem, der betaler for enheder. Det bliver ikke smukt.
Apple ser ikke ud til at forstå, at det har forvandlet sin brugers forhold til sine produkter fra en ejerskab til en potentielt modstridende.
Hvis din enhed scanner indhold og uploader det et sted, og du ikke kan slukke det, hvem er så den egentlige ejer? Det er et spørgsmål, vi snart skal besvare, især fordi scanning på klientsiden ikke forsvinder.
ZDNET'S MONDAY MORNING OPENER
The Monday Morning Opener er vores åbningssalve for ugen inden for teknologi. Da vi driver et globalt websted, udgives denne redaktion mandag kl. 8:00 AEST i Sydney, Australien, hvilket er 18.00 østtid søndag i USA. Det er skrevet af et medlem af ZDNets globale redaktion, som består af vores ledende redaktører i Asien, Australien, Europa og Nordamerika.
TIDLIGERE PÅ MANDAG MORGENÅBNER:
Ansættelse af udviklere er begyndelsen, ikke slutningen, på din udfordring inden for tekniske færdigheder Samsungs store mission: Tag foldbare enheder -Galaxy Z Fold 3 og Z Flip 3 – mainstream
Har du brug for udviklere, projektledere eller CIO'er? Pas på, fordi reglerne for teknisk ansættelse ændrer sig. At blamere Kina er praktisk, når man forsøger at holde teleinfrastrukturen væk fra Beijing
Tilbage til arbejdet møder hybridkontor: De 6 truende spørgsmål Ransomware viser webens magt og svaghed Hvis Windows 11 -kompatibilitetsværktøj ikke kan køre, så er min Windows on Arm -rejse overstået Hvordan Deluxe omdannes fra papirkontroller til at levere en SMB -cloud -betalingsstak Arbejde hjemmefra er her for at blive: Virksomheder skal tilpasse sig for at lykkes, siger ServiceNows Chief Customer og Partner OfficerHybrid cloud, lokale arbejdsbyrder får deres dag i solen, men prognosen er stadig uklar Innovation Oz Style: Tag en verdensledende sikker kerne og spark den til bremse
Relaterede emner:
Apple Security TV Datastyring CXO-datacentre 