Onderzoekers hebben een fout gevonden in de ingebouwde hashfunctie van iOS, waardoor nieuwe zorgen ontstaan over de integriteit van het CSAM-scansysteem van Apple. De fout treft het hashing-systeem, NeuralHash genaamd, waarmee Apple exacte overeenkomsten met bekende afbeeldingen van kindermisbruik kan controleren zonder de afbeeldingen te bezitten of informatie te verzamelen over niet-overeenkomende afbeeldingen.
Op dinsdag plaatste een GitHub-gebruiker, Asuhariet Ygvar genaamd, code voor een gereconstrueerde Python-versie van NeuralHash, die hij beweerde te hebben reverse-engineered van eerdere versies van iOS. Het GitHub-bericht bevat ook instructies voor het extraheren van de NeuralMatch-bestanden uit een huidige macOS- of iOS-build.
“Vroege tests tonen aan dat het formaat en compressie van afbeeldingen kan verdragen, maar niet bijsnijden of roteren”, schreef Ygvar op Reddit en deelde de nieuwe code. “Ik hoop dat dit ons zal helpen het NeuralHash-algoritme beter te begrijpen en de mogelijke problemen te kennen voordat het op alle iOS-apparaten wordt ingeschakeld.”
Onderzoekers produceerden een botsing: twee afbeeldingen die dezelfde hash genereren
Toen de code eenmaal openbaar was, werden er snel meer significante fouten ontdekt. Een gebruiker genaamd Cory Cornelius produceerde een botsing in het algoritme: twee afbeeldingen die dezelfde hash genereren. Als de bevindingen stand houden, zal dit een significante fout zijn in de cryptografie die ten grondslag ligt aan het nieuwe systeem van Apple.
Op 5 augustus introduceerde Apple een nieuw systeem om beelden van kindermisbruik op iOS-apparaten te stoppen. Onder het nieuwe systeem zal iOS lokaal opgeslagen bestanden controleren op hashes van afbeeldingen van kindermisbruik, zoals gegenereerd en onderhouden door het National Center for Missing and Exploited Children (NCMEC). Het systeem bevat tal van privacywaarborgen, het beperken van scans tot iCloud-foto's en het instellen van een drempel van maar liefst 30 gevonden overeenkomsten voordat een waarschuwing wordt gegenereerd. Toch blijven voorstanders van privacy bezorgd over de implicaties van het scannen van lokale opslag op illegaal materiaal, en de nieuwe bevinding heeft de bezorgdheid vergroot over hoe het systeem kan worden misbruikt.
Hoewel de aanvaring aanzienlijk is, zou het buitengewone inspanningen vergen om er in de praktijk gebruik van te maken. Over het algemeen stellen botsingsaanvallen onderzoekers in staat identieke inputs te vinden die dezelfde hash produceren. In het systeem van Apple zou dit betekenen dat er een afbeelding wordt gegenereerd die de CSAM-waarschuwingen activeert, ook al is het geen CSAM-afbeelding, omdat het dezelfde hash produceert als een afbeelding in de database. Maar het daadwerkelijk genereren van die waarschuwing zou toegang tot de NCMEC-hashdatabase vereisen, meer dan 30 botsende beelden genereren en ze vervolgens allemaal naar de telefoon van het doelwit smokkelen. Zelfs dan zou het alleen een waarschuwing voor Apple en NCMEC genereren, die de afbeeldingen gemakkelijk als valse positieven zouden identificeren.
Toch is het een gênante fout die alleen maar kritiek op de nieuwe meldsysteem. Een proof-of-concept-botsing is vaak desastreus voor crytografische hashes, zoals in het geval van de SHA-1-botsing in 2017, hoewel bekend is dat perceptuele hashes zoals NeuralHash vatbaarder zijn voor botsingen. Als gevolg hiervan is het onduidelijk of Apple het algoritme zal vervangen als reactie op de bevinding, of meer afgemeten wijzigingen zal aanbrengen om potentiële aanvallen te verminderen. Apple heeft niet onmiddellijk gereageerd op een verzoek om commentaar.
Meer in het algemeen zal de bevinding de roep voor Apple waarschijnlijk verhogen om af te zien van zijn plannen voor scans op het apparaat, die zijn blijven escaleren in de weken na de bekendmaking. Dinsdag lanceerde de Electronic Frontier Foundation een petitie waarin Apple werd opgeroepen het systeem te laten vallen, onder de titel “Tell Apple: Don't Scan Our Phones”. Op het moment van schrijven heeft het meer dan 1.700 handtekeningen verzameld.