La nouvelle caméra pour smartphone toujours allumée de Qualcomm est un cauchemar potentiel pour la confidentialité

“La caméra frontale de votre téléphone recherche toujours votre visage en toute sécurité, même si vous ne le touchez pas ou ne le soulevez pas pour le réveiller.” C'est ainsi que Judd Heape, vice-président de la gestion des produits de Qualcomm Technologies, a présenté les nouvelles capacités de caméra toujours allumées de l'entreprise dans le processeur Snapdragon 8 Gen 1 qui devrait arriver dans les téléphones Android haut de gamme au début de l'année prochaine.

Selon qui vous êtes, cette déclaration peut être excitante ou terrifiante. Pour Qualcomm, il pense que cette nouvelle fonctionnalité permettra de nouveaux cas d'utilisation, comme pouvoir réveiller et déverrouiller votre téléphone sans avoir à le ramasser ou le verrouiller instantanément lorsqu'il ne voit plus votre visage.

Mais pour ceux d'entre nous qui ont une idée de la façon dont la technologie moderne est utilisée pour violer notre vie privée, une caméra sur notre téléphone qui capture toujours des images même lorsque nous ne l'utilisons pas ressemble à des cauchemars et a un coût pour notre vie privée qui l'emporte de loin sur les avantages potentiels en termes de commodité.

Un appareil photo qui enregistre votre image même lorsque vous ne l'utilisez pas

L'argument principal de Qualcomm pour cette fonctionnalité est de déverrouiller votre téléphone chaque fois que vous le regardez, même s'il est simplement assis sur une table ou sur un support. Vous n'avez pas besoin de le ramasser ou d'appuyer sur l'écran ou de prononcer une commande vocale – il se déverrouille simplement lorsqu'il voit votre visage. Je peux voir que cela est utile si vos mains sont en désordre ou occupées (dans sa présentation, Qualcomm a utilisé l'exemple de son utilisation lors de la cuisson d'une recette pour vérifier les étapes suivantes). Peut-être que votre téléphone est installé dans votre voiture et que vous pouvez simplement y jeter un coup d'œil pour voir les instructions de conduite sans avoir à retirer vos mains du volant ou à laisser l'écran allumé tout le temps.

L'entreprise le fait également pour rendre votre téléphone plus sûr en verrouillant automatiquement le téléphone lorsqu'il ne voit plus votre visage ou détecte quelqu'un qui regarde par-dessus votre épaule et fouine sur votre discussion de groupe. Il peut également empêcher les informations privées ou les notifications d'apparaître si vous regardez le téléphone avec quelqu'un d'autre. Fondamentalement, si vous ne le regardez pas, votre téléphone est verrouillé ; s'il peut vous voir, il sera déverrouillé. S'il peut vous voir ainsi que quelqu'un d'autre, il peut automatiquement verrouiller le téléphone ou masquer les informations privées ou les notifications à l'écran.

Mais même si ces fonctionnalités peuvent sembler intéressantes et peut-être même pratiques, je ne suis pas convaincu qu'avoir une caméra toujours allumée vaut le compromis en matière de confidentialité.

Les fonctionnalités de caméra toujours allumées sont discutées à la troisième heure de la présentation de quatre heures de Qualcomm présentant le système sur puce Snapdragon Gen 1.

Qualcomm présente la caméra toujours allumée comme similaire aux microphones toujours allumés qui sont dans nos téléphones depuis des années. Ceux-ci sont utilisés pour écouter des commandes vocales telles que « Hey Siri » ou « Hey Google » (ou lol, « Salut Bixby »), puis réveiller le téléphone et fournir une réponse, le tout sans que vous ayez à toucher ou décrocher le téléphone. Mais la différence est qu'ils écoutent des mots de réveil spécifiques et sont souvent limités dans ce qu'ils peuvent faire jusqu'à ce que vous décrochez votre téléphone et le déverrouillez.

C'est un peu différent lorsqu'il s'agit d'un appareil photo qui recherche toujours une ressemblance.

Un appareil photo toujours allumé est une étape au-delà des microphones toujours allumés déjà dans nos téléphones

Il est vrai que les produits pour la maison intelligente ont déjà des fonctionnalités comme celle-ci. Le Nest Hub Max de Google utilise sa caméra pour reconnaître votre visage lorsque vous vous approchez et vous accueille avec des informations personnelles comme votre calendrier. Les caméras de sécurité à domicile et les sonnettes vidéo sont constamment allumées, à la recherche d'activités ou même de visages spécifiques. Mais ces appareils se trouvent chez vous, ne sont pas toujours emportés avec vous partout où vous allez et ne contiennent généralement pas vos informations les plus privées, comme le fait votre téléphone. Ils ont également fréquemment des fonctionnalités telles que des obturateurs physiques pour bloquer l'appareil photo ou des modes intelligents pour désactiver l'enregistrement lorsque vous êtes à la maison et ne le reprendre que lorsque vous ne l'êtes pas. Il est difficile d'imaginer un fabricant de téléphones mettre un obturateur physique à l'avant de son smartphone phare mince et élégant.

Enfin, il y a eu de nombreux rapports de failles de sécurité et de piratages d'ingénierie sociale pour activer les caméras domestiques intelligentes lorsqu'elles ne sont pas censées être allumées, puis envoyer ce flux à des serveurs distants, le tout à l'insu du propriétaire. Les systèmes d'exploitation modernes pour smartphones font désormais un bon travail pour vous dire quand une application accède à votre appareil photo ou à votre microphone pendant que vous utilisez l'appareil, mais on ne sait pas comment ils pourraient vous informer d'une application malveillante qui utilise toujours -sur la caméra.

Dans sa présentation, Heape a déclaré que « les données de la caméra en permanence ne quittent jamais le hub de détection sécurisé pendant qu'il recherche des visages », ce qui implique que les données ne sont pas envoyées vers le cloud et que les applications du téléphone ne pourront pas y accéder.

Dans une conversation de suivi après la publication initiale de cet article, Heape a clarifié le fonctionnement du système sur le plan technique. La caméra toujours allumée fait partie d'une chaîne qui comprend un nouveau processeur de signal d'image (ISP) à faible consommation et une étape d'apprentissage automatique. Les trois étapes – la caméra, le FAI et l'apprentissage automatique – sont “durcis”, selon Heape, il dit qu'il n'est pas possible d'injecter du code dans la chaîne.

La caméra toujours allumée est limitée à une résolution VGA (640 x 480 pixels), même si elle utilise la caméra frontale existante du téléphone et le reste des systèmes du téléphone – le processeur principal, les radios cellulaires, le Wi-Fi, le Bluetooth , etc — sont désactivés. Heape a déclaré que ce FAI à faible consommation “ne peut pas capturer de photos ou de vidéos” et “aucune image ou vidéo n'est stockée” dans ce processus, il scanne uniquement pour détecter s'il y a un visage ou non. Si l'algorithme d'apprentissage automatique détermine qu'un visage est détecté, les autres systèmes du téléphone sont réveillés pour authentifier l'utilisateur et déverrouiller le téléphone ou lui refuser l'accès. “Il est impossible dans l'état de faible consommation d'en tirer une image”, explique Heape.

Le système n'a pas de moyen de vous informer que sa caméra toujours allumée est en cours d'exécution, comme d'autres systèmes de reconnaissance faciale l'utilisent. Heape a déclaré qu'un OEM pouvait choisir d'ajouter un indicateur tel qu'un voyant LED s'il le souhaitait.

Un autre vice-président de la gestion des produits de Qualcomm Technologies, Ziad Asghar, a déclaré à mon collègue Chaim Gartenberg que les utilisateurs pourront également désactiver la fonction de caméra toujours allumée ou peut-être même sélectionner les fonctionnalités qu'ils souhaitent utiliser et celles qu'ils ne souhaitent pas utiliser. “Le consommateur a le choix de pouvoir choisir ce qui est activé et ce qui ne l'est pas”, a-t-il déclaré.

Le OnePlus 7 Pro a caché l'intégralité de son système de caméra dans un module contextuel motorisé. Il est peut-être temps de ramener cette idée. Photo de Vjeran Pavic/The Verge

Il est également possible que les fabricants de smartphones utilisant le Snapdragon 8 Gen 1 n'activent même pas cette fonctionnalité au niveau matériel. Étant donné que Qualcomm ne fabrique pas réellement les smartphones dans lesquels ses puces sont intégrées (en dehors des nouveautés ponctuelles qui ne sont pas largement achetées), des entreprises comme Samsung, OnePlus et Xiaomi peuvent personnaliser les fonctionnalités activées sur leurs téléphones et celles qui ne le sont pas. . Heape a déclaré qu'un OEM peut demander une puce Snapdragon avec la fonctionnalité désactivée au niveau matériel. Certaines de ces entreprises contournent déjà les composants de traitement d'image de Qualcomm au profit de leurs propres solutions. Il n'est pas difficile de les voir ignorer les critiques concernant les problèmes de confidentialité et renoncer également à cette fonctionnalité.

Un précédent troublant et inconfortable

Mais même si elle ne se trouve pas dans tous les téléphones l'année prochaine, la simple présence de la fonctionnalité signifie qu'elle sera utilisée par quelqu'un à un moment donné. Cela crée un précédent troublant et inconfortable ; Qualcomm est peut-être le premier à disposer de cette capacité, mais il ne faudra pas longtemps avant que d'autres entreprises l'ajoutent dans la course pour suivre le rythme.

En fin de compte, cela se résume à un niveau de confiance – croyez-vous que Qualcomm a configuré le système de manière à empêcher l'utilisation de la caméra toujours allumée à d'autres fins que celles prévues ? Croyez-vous que l'OEM utilisant les puces de Qualcomm ne fera rien pour interférer avec le système, que ce soit pour son propre profit ou pour satisfaire les exigences d'une entité gouvernementale ?

Même si vous ayez cette confiance, il y a un certain niveau de confort avec une caméra toujours allumée sur votre appareil le plus personnel qui va au-delà de l'endroit où nous sommes actuellement.

Peut-être que nous allons juste commencer à devoir mettre du ruban adhésif sur les caméras de nos smartphones comme nous le faisons déjà avec les webcams des ordinateurs portables.

Mise à jour , 17 h 15 HE, le 2 décembre 2021 : Après la publication de cet article, le vice-président de la gestion des produits de Qualcomm, Judd Heape, a donné de plus amples informations sur le fonctionnement technique du système de caméra toujours allumé. L'entreprise a également précisé que le système n'identifie pas les visages qu'il détecte ; qui est géré par les systèmes d'authentification d'identification faciale existants du téléphone. L'article a été mis à jour avec ces nouvelles informations et le titre a été modifié.