Afbeelding: Apple
Apple dacht duidelijk dat het een winnaar was met zijn detectiesysteem voor materiaal voor seksueel misbruik van kinderen (CSAM) en, meer dan waarschijnlijk, verwachtte het meer van de gebruikelijke stromende lof die het gewend is. Het is niet moeilijk voor te stellen dat Cupertino dacht dat het het hardnekkige probleem van CSAM had opgelost op een manier die het beste bij hem en zijn gebruikers past.
Apple beweert dat zijn systeem meer privé is omdat het niet actief foto's scant of bewaakt die naar zijn servers zijn geüpload, in tegenstelling tot vrijwel iedereen in de industrie, maar naarmate de weken verstrijken, lijkt het er steeds meer op dat Apple een Rube Goldberg-machine heeft gemaakt in om zich te onderscheiden.
De gevolgen van deze eenzijdige aanpak zijn verstrekkend en zullen iedereen raken, niet alleen degenen in de ommuurde tuin van Apple.
Overheden dringen al geruime tijd aan op grote technologie om decoderingsmogelijkheden te creëren. Een manier om een compromis te bereiken is om een gecodeerd systeem te hebben, maar de gebruikers niet toe te staan hun eigen back-ups te coderen, waardoor enig inzicht in de inhoud wordt verkregen, terwijl een andere manier is om een volledig end-to-end versleuteld systeem te hebben en de inhoud te inspecteren wanneer het is gedecodeerd op het gebruikersapparaat om te bekijken.
Terwijl de rest van de industrie voor het eerste koos, is Apple overgestapt op het laatste.
Deze verschuiving vond plaats op het moment dat Australië zijn reeks conceptregels uitvaardigde die bepalen hoe de Online Safety Act werkt.
“Als de service encryptie gebruikt, zal de provider van de service redelijke stappen ondernemen om processen te ontwikkelen en te implementeren om materiaal of activiteit op de service te detecteren en aan te pakken die onwettig of schadelijk is of kan zijn,” het concept staten.
Zie ook: Apple stemt CSAM-systeem af om één-op-een-biljoen vals-positieve deactiveringsdrempel te behouden
Canada gaat een stap verder in een soortgelijk ontwerp. In zijn iteratie eist het proactieve monitoring van inhoud met betrekking tot CSAM, terrorisme, aanzetten tot geweld, haatzaaien en het niet-consensueel delen van afbeeldingen, en het creëren van een nieuwe rol van Digital Safety Commissioner om te beoordelen of de gebruikte AI voldoende is, volgens Professor in de rechten van de Universiteit van Ottawa, dr. Michael Geist.
Mocht het wet worden, dan zouden online communicatiediensten in Canada ook 24 uur de tijd hebben om een beslissing te nemen over een stukje schadelijke inhoud.
Hoe die potentiële wet interageert met het besluit van Apple om een drempel van 30 CSAM-afbeeldingen in te stellen voordat mensen in het proces worden geïnjecteerd en de metadata van de inhoud inspecteren, zal in de toekomst iets zijn om in de gaten te houden.
Hoewel het Canadese voorstel werd beschouwd als een verzameling van de slechtste ideeën van over de hele wereld, gaan ook landen als India, het Verenigd Koninkrijk en Duitsland door met internetregulering.
Apple heeft gezegd dat zijn CSAM-systeem pas met de Verenigde Staten zal starten wanneer iOS 15, iPadOS 15, watchOS 8 en macOS Monterey arriveren, wat betekent dat je zou kunnen beweren dat Apple de voorschriften van andere westerse landen zal kunnen omzeilen.
Maar niet zo snel. Apple-privacychef Erik Neuenschwander zei in een recent interview dat de hashlijst die wordt gebruikt om CSAM te identificeren, in het besturingssysteem zal worden ingebouwd.
“We hebben één wereldwijd besturingssysteem”, zei hij.
Zelfs als Apple consequent heeft verklaard dat zijn beleid erop gericht is overtreffen, gebruik door corrupte regimes of valse schorsingen te voorkomen, is het niet duidelijk hoe Apple een zeer belangrijke vraag zal beantwoorden: wat gebeurt er als Apple een gerechtelijk bevel krijgt dat indruist tegen zijn beleid?
Het lijdt geen twijfel dat niet-Amerikaanse wetgevers een zwak standpunt zullen innemen als het soort systemen dat ze willen beschikbaar zijn op Apple-apparaten.
“We volgen de wet overal waar we zaken doen”, zei Tim Cook in 2017 nadat het bedrijf VPN-apps uit de Chinese app store had gehaald.
De wet naleven: Citizen Lab constateert dat het censuurproces van Apple in China Hong Kong en Taiwan binnendringt
Hoewel er veel terechte zorgen en vragen zijn over het systeem van Apple zelf, zijn de gevolgen van het bestaan van zo'n systeem reden tot grotere bezorgdheid.
Apple heeft jarenlang de eisen van de Amerikaanse autoriteiten teruggedraaid om telefoons te ontgrendelen van mensen die naar verluidt betrokken waren bij massale schietpartijen. Toen hij in 2016 reageerde op de eisen van de FBI, schreef Cook een brief aan klanten waarin hij de suggestie weerlegde dat het ontgrendelen van één telefoon het einde van de zaak zou zijn, en zei dat de techniek steeds opnieuw zou kunnen worden gebruikt.
“In in de verkeerde handen zou deze software — die vandaag niet bestaat — het potentieel hebben om elke iPhone in iemands fysieke bezit te ontgrendelen”, aldus de CEO.
De sleutel tot Apple's argument waren de woorden tussen de emdashes, en nu, in augustus 2021, terwijl die exacte mogelijkheid niet bestaat, zal er een on-device-mogelijkheid op al zijn apparaten verschijnen, en dat is een goed genoeg reden voor bezorgdheid.
“Apple heeft er eenzijdig voor gekozen om zijn gebruikers in te schrijven voor een wereldwijd experiment van massasurveillance, heeft schijnbaar de potentiële kosten onderschat die dit zou kunnen hebben voor personen die niet betrokken zijn bij de productie of opslag van CSAM-inhoud, en heeft dergelijke kosten geëxternaliseerd naar een gebruikersbestand van meer dan een miljard individuen over de hele wereld', schreef Christopher Parson, senior onderzoeksmedewerker van Citizen Lab.
“Dit zijn niet de activiteiten van een bedrijf dat op een zinvolle manier heeft nagedacht over het gewicht van zijn acties, maar in plaats daarvan een weerspiegeling zijn van een bedrijf dat bereid is zijn gebruikers op te offeren zonder een adequaat evenwicht te vinden tussen hun privacy- en beveiligingsbehoeften.”
Laten we Apple ter wille van de discussie alle beweringen over de streep trekken — misschien kan de grootste van de techreuzen de druk van de wet weerstaan en blijft het systeem in de Verenigde Staten alleen gefixeerd op CSAM. Dit zal echter eeuwige waakzaamheid van Apple en privacyadvocaten vergen om ervoor te zorgen dat het hier gevolg aan geeft.
Het grotere probleem is de rest van de industrie. Het glibberige pad bestaat en Apple heeft de eerste stap naar beneden gezet. Misschien heeft hij laarzen met ijsgrepen en heeft hij zich aan een boom vastgebonden om ervoor te zorgen dat hij niet verder kan afdalen, maar weinig anderen doen dat.
Plotseling is scannen op het apparaat een stuk minder weerzinwekkend geworden, want als een bedrijf zo groot als Apple het kan, en ze promoten zichzelf op basis van privacy en blijven miljarden apparaten verkopen, het moet daarom acceptabel zijn voor gebruikers.
Daarop voortbouwend hebben duistere bedrijven die gegevens naar hun eigen servers willen uploaden nu mogelijk een nomenclatuur die door Apple voor hen is ontwikkeld. Het zijn niet de gegevens van de gebruiker, het zijn veiligheidsvouchers. Wat voorheen als een vorm van exfiltratie kon worden beschouwd, wordt nu gedaan om gebruikers te beschermen, te voldoen aan overheidsopdrachten en de wereld veiliger te maken.
De systemen die in het kielzog van Apple volgen, zullen waarschijnlijk niet zoveel aandacht hebben voor de privacy van gebruikers, technische expertise en middelen, het vermogen om gerechtelijke bevelen te weerstaan, of gewoon de goede bedoelingen die Cupertino lijkt te hebben.
Zelfs als Apple zijn plannen morgen zou laten vallen, is het te laat. De geest is nu uit de fles. Critici en degenen die een benadering op het apparaat willen nastreven, zullen eenvoudigweg zeggen dat Apple heeft toegegeven aan de druk van extreme delen van het privacydebat als het besluit van gedachten te veranderen.
Bedrijven gaan wedijveren over wie het beste op apparaten kan rondneuzen, opscheppen over hoeveel van hun gebruikers zijn gearresteerd en hoe dat hen veiliger maakt dan andere keuzes. Wat hierin ontbreekt, is ongetwijfeld het aantal gemaakte fouten, randgevallen die nooit goed worden overwogen, of de angst die wordt veroorzaakt door sommigen die voor apparaten betalen. Het wordt niet mooi.
Apple lijkt niet te begrijpen dat het de relatie van de gebruiker met zijn producten heeft veranderd van een eigendomsrelatie in een potentieel vijandige relatie.
Als uw apparaat inhoud scant en ergens uploadt, en u kunt het niet uitschakelen, wie is dan de echte eigenaar? Het is een vraag die we binnenkort moeten beantwoorden, vooral omdat scannen aan de clientzijde niet verdwijnt.
ZDNET'S MAANDAGOCHTENDOPENER
De maandagochtendopener is ons openingssalvo voor deze week in de techniek. Aangezien we een wereldwijde site hebben, wordt dit hoofdartikel gepubliceerd op maandag om 8:00 uur AEST in Sydney, Australië, wat op zondag 18:00 uur Eastern Time is in de VS. Het is geschreven door een lid van de wereldwijde redactieraad van ZDNet, die bestaat uit onze hoofdredacteuren in Azië, Australië, Europa en Noord-Amerika.
VOOR DE OPENER VAN MAANDAG:
Het inhuren van ontwikkelaars is het begin, niet het einde, van je uitdaging op het gebied van technische vaardigheden Samsung's grote missie: neem opvouwbare apparaten — Galaxy Z Fold 3 en Z Flip 3 — mainstream
Ontwikkelaars, projectmanagers of CIO's nodig? Pas op, want de regels voor het inhuren van technologie veranderen China beschuldigen is handig als je de telecominfrastructuur buiten Peking probeert te houden
Terug aan het werk ontmoet hybride kantoor: de 6 dreigende vragen Ransomware toont de kracht en zwakte van het webAls de Windows 11-compatibiliteitstool niet kan worden uitgevoerd, dan is mijn Windows on Arm-reis voorbijHoe Deluxe transformeerde van papieren cheques naar het verstrekken van een MKB-cloudbetalingsstapelWerk vanuit huis is hier om te blijven: bedrijven moeten zich aanpassen om te slagen, zegt ServiceNow's Chief Customer en Partner OfficerHybrid cloud, on-premises workloads krijgen hun dag in de zon, maar de voorspelling is nog steeds bewolkt curb
Verwante onderwerpen:
Apple Security TV Data Management CXO Datacenters 