Qualcomms nya alltid-på-smarttelefonkamera är en potentiell integritetsmardröm

“Din mobils främre kamera letar alltid efter ditt ansikte, även om du inte rör det eller höjer det för att väcka det.” Det var så Qualcomm Technologies vice vd för produkthantering Judd Heape introducerade företagets nya kamerafunktioner som alltid är på i Snapdragon 8 Gen 1-processorn som kommer att komma till Android-telefoner på översta hyllan i början av nästa år.

Beroende på vem du är kan det uttalandet antingen vara spännande eller skrämmande. För Qualcomm tror de att den här nya funktionen kommer att möjliggöra nya användningsfall, som att kunna väcka och låsa upp din telefon utan att behöva plocka upp den eller få den att låsa omedelbart när den inte längre ser ditt ansikte.

Men för de av oss som har någon känsla för hur modern teknik används för att kränka vår integritet, en kamera på vår telefon som alltid tar bilder även när vi inte använder den låter som mardrömmar och har en kostnad för vår integritet som uppväger vida eventuella bekvämlighetsfördelar.

En kamera som spelar in din bild även när du inte använder den

Qualcomms huvudpitch för den här funktionen är att låsa upp din telefon när du tittar på den, även om den bara sitter på ett bord eller står på ett stativ. Du behöver inte ta upp den eller trycka på skärmen eller säga ett röstkommando – den låses bara upp när den ser ditt ansikte. Jag kan se att detta är användbart om dina händer är röriga eller på annat sätt upptagna (i sin presentation använde Qualcomm exemplet att använda det när du lagar ett recept för att kontrollera nästa steg). Kanske har du din telefon monterad i din bil och du kan bara titta över på den för att se vägbeskrivningar utan att behöva ta händerna från ratten eller lämna skärmen på hela tiden.

Företaget snurrar det också som att göra din telefon säkrare genom att automatiskt låsa telefonen när den inte längre ser ditt ansikte eller upptäcker någon som tittar över din axel och snokar på din gruppchatt. Det kan också förhindra att privat information eller aviseringar dyker upp om du tittar på telefonen med någon annan. I grund och botten, om du inte tittar på den, är din telefon låst; om den kan se dig kommer den att låsas upp. Om den kan se dig och någon annan kan den automatiskt låsa telefonen eller dölja privat information eller aviseringar från att visas på skärmen.

Men även om de här funktionerna kan låta snygga och kanske till och med bekväma, är jag inte övertygad om att det är värt att ha en kamera som alltid är på.

Kamerafunktionerna som alltid är på diskuteras i timme tre av Qualcomms fyra timmar långa presentation som introducerar Snapdragon Gen 1-system-på-chip.

Qualcomm utformar alltid-på-kameran som liknar de alltid-på-mikrofoner som har funnits i våra telefoner i flera år. De används för att lyssna efter röstkommandon som “Hey Siri” eller “Hey Google” (eller lol, “Hej Bixby”) och sedan väcka telefonen och ge ett svar, allt utan att du behöver röra eller lyfta telefonen. Men skillnaden är att de lyssnar efter specifika vakna ord och är ofta begränsade med vad de kan göra tills du faktiskt tar upp telefonen och låser upp den.

Det känns lite annorlunda när det är en kamera som alltid söker efter en likhet.

En kamera som alltid är på är ett steg bortom de alltid påslagna mikrofonerna som redan finns i våra telefoner

Det är sant att smarta hemprodukter redan har funktioner som denna. Googles Nest Hub Max använder sin kamera för att känna igen ditt ansikte när du går fram till det och hälsar dig med personlig information som din kalender. Hemsäkerhetskameror och videodörrklockor är ständigt på och letar efter aktivitet eller till och med specifika ansikten. Men dessa enheter finns i ditt hem, inte alltid med dig vart du än går och har vanligtvis inte din mest privata information lagrad på dem, som din telefon gör. De har också ofta funktioner som fysiska slutare för att blockera kameran eller intelligenta lägen för att inaktivera inspelning när du är hemma och bara återuppta den när du inte är det. Det är svårt att föreställa sig att någon telefontillverkare sätter en fysisk slutare på framsidan av sin smala och eleganta flaggskeppssmartphone.

Slutligen har det förekommit många rapporter om säkerhetsintrång och sociala ingenjörshack för att aktivera smarta hemkameror när de inte ska vara på och sedan skicka det flödet till fjärrservrar, allt utan husägarens vetskap. Moderna smartphoneoperativsystem gör nu ett bra jobb med att tala om för dig när en app får åtkomst till din kamera eller mikrofon medan du använder enheten, men det är inte klart hur de skulle kunna informera dig om en oseriös app som använder den alltid -på kameran.

I sin presentation sa Heape att “alltid på kameradata lämnar aldrig det säkra avkänningsnavet medan det letar efter ansikten”, vilket antyder att data inte skickas till molnet och att appar på telefonen inte kommer att kunna komma åt det.

I ett uppföljningssamtal efter att denna artikel ursprungligen publicerades, förtydligade Heape ytterligare hur systemet fungerar på en teknisk nivå. Kameran som alltid är på är en del av en kedja som inkluderar en ny lågeffekts bildsignalprocessor (ISP) och ett maskininlärningssteg. Alla tre stegen – kameran, ISP:n och maskininlärningen – är “härdade”, enligt Heape säger han att det inte är möjligt att injicera kod i kedjan.

Kameran som alltid är på är begränsad till en VGA-upplösning (640 x 480 pixlar), även om den använder telefonens befintliga frontkamera och resten av telefonens system — huvudprocessorn, mobilradio, Wi-Fi, Bluetooth , etc — är avstängda. Heape sa att denna lågströms-ISP “inte kan ta bilder eller video” och “ingen bild eller video lagras” i denna process, den skannar bara för att upptäcka om det finns ett ansikte eller inte. Om maskininlärningsalgoritmen fastställer att ett ansikte detekteras, väcks resten av telefonens system för att autentisera användaren och låsa upp telefonen eller neka åtkomst till den. “Det är omöjligt i lågströmstillståndet att få ut en bild ur det”, säger Heape.

Systemet har inte ett sätt att informera dig om att kameran alltid är på löpning, som andra ansiktsigenkänningssystem använder. Heape sa att en OEM kunde välja att lägga till en indikator som en LED-lampa om de ville.

En annan Qualcomm Technologies vice vd för produktledning, Ziad Asghar, sa till min kollega Chaim Gartenberg att användare också kommer att kunna inaktivera funktionen för alltid-på-kamera eller möjligen till och med välja vilka funktioner de vill använda och vilka de inte gör. “Konsumenten har valet att kunna välja och vraka vad som är aktiverat och vad som inte är aktiverat,” sa han.

OnePlus 7 Pro gömde hela sitt kamerasystem i en motoriserad popup-modul. Kanske är det dags att ta tillbaka denna idé. Foto av Vjeran Pavic/The Verge

Det är också möjligt att smartphonetillverkarna som använder Snapdragon 8 Gen 1 inte ens kommer att aktivera den här funktionen på hårdvarunivå. Eftersom Qualcomm faktiskt inte får smarttelefonerna att gå in (utanför engångsnyheter som inte köps så ofta) kan företag som Samsung, OnePlus och Xiaomi anpassa vilka funktioner som är aktiverade på deras telefoner och vilka som inte är det . Heape sa att en OEM kan begära ett Snapdragon-chip med funktionen inaktiverad på hårdvarunivå. Vissa av dessa företag går redan förbi Qualcomms bildbehandlingskomponenter till förmån för sina egna lösningar – det är inte svårt att se dem bara hoppa över kritiken av integritetsproblem och även avstå från den här funktionen.

Ett oroande och obekvämt prejudikat

Men även om den inte finns i alla telefoner nästa år, betyder bara närvaron av funktionen att den kommer att användas av någon någon gång. Det skapar ett prejudikat som är oroande och obekvämt; Qualcomm kan vara först med den här kapaciteten, men det kommer inte att dröja länge innan andra företag lägger till den i jakten på att hänga med.

I slutändan handlar det om en nivå av förtroende — litar du på att Qualcomm har ställt in systemet på ett sätt som förhindrar att kameran alltid används för andra ändamål än vad som är avsett? Litar du på att OEM som använder Qualcomms chips inte kommer att göra saker för att störa systemet, vare sig för sin egen vinst eller för att tillfredsställa kraven från en statlig enhet?

Även om du har det förtroendet, det finns en viss nivå av komfort med en alltid påslagen kamera på din mest personliga enhet som går längre än där vi är för närvarande.

Vi kanske bara börjar behöva sätta tejp på våra smartphonekameror som vi redan gör med bärbara webbkameror.

Uppdatera , 17:15 ET, 2 december 2021: Efter att den här artikeln publicerats gav Qualcomms vicepresident för produktledning Judd Heape ytterligare information om hur kamerasystemet alltid fungerar på en teknisk nivå. Företaget klargjorde också att systemet inte identifierar ansiktena det upptäcker; som hanteras av telefonens befintliga autentiseringssystem för ansiktsidentifiering. Artikeln har uppdaterats med denna nya information och rubriken har ändrats.