La vie après Alexa :rétablir la confiance du public dans l'IoT

La collecte massive de données est la norme depuis des années, mais le vent commence à tourner, les utilisateurs adoptant des outils et des services centrés sur la confidentialité en nombre record

Il y a quelques années à peine, les assistants domestiques intelligents étaient la dernière technologie «incontournable». Même s'ils avaient des fonctionnalités limitées, leur nouveauté, associée à un prix relativement bas (et à des réductions de prix stratégiques pendant les vacances), les rendait presque irrésistibles pour les consommateurs. Soudain, les entreprises technologiques ont eu accès à plus d'informations personnelles qu'elles ne savaient quoi en faire. En fait, depuis l'année dernière, il y avait des haut-parleurs intelligents dans plus d'un demi-milliard de foyers à travers le monde.

Voir aussi : La confidentialité, un problème clé qui bloque les grands projets de villes intelligentes

Plus récemment, cependant, ces appareils ont commencé à tomber en disgrâce auprès du public. Presque chaque semaine, il y a un nouveau scandale de confidentialité des données et, par conséquent, les gens commencent à se soucier davantage de savoir qui a accès à leurs informations personnelles. Pour beaucoup, l'idée d'avoir un assistant toujours actif et toujours à l'écoute n'est plus aussi attrayante.

Les entreprises technologiques ont perdu la confiance du public, mais les assistants intelligents ont encore beaucoup de potentiel, surtout compte tenu de l'utilité qu'ils pourraient devenir avec les futures avancées de l'apprentissage automatique. À l'avenir, il incombe aux fabricants d'enceintes intelligentes de prouver que leurs produits méritent une seconde chance, et la meilleure façon d'y parvenir est d'examiner depuis longtemps leur approche de la confidentialité des utilisateurs.

Quel type d'informations les assistants intelligents stockent-ils ?

Les données exactes collectées varient en fonction du fabricant de l'appareil et des capacités d'enregistrement (une unité avec une caméra intégrée, par exemple, peut enregistrer des clips vidéo ou signaler les niveaux de lumière ambiante à différents moments de la journée). Cependant, le principal problème, du moins pour l'instant, est l'audio. Plus précisément, combien est enregistré, pourquoi il est enregistré et ce qui est fait avec l'enregistrement une fois qu'il atteint les serveurs de l'entreprise.

Les assistants activés par la voix sont techniquement toujours à l'écoute, mais ils ne traiteront pas les demandes tant qu'ils n'auront pas entendu un mot déclencheur spécifique. Ces déclencheurs sont spécifiquement choisis pour être des séquences de syllabes inhabituelles (par exemple, "OK, Google" ou "Alexa") afin que l'orateur puisse les identifier plus facilement à partir de la conversation quotidienne.

Le problème est que les algorithmes ne sont pas infaillibles. En conséquence, les assistants intelligents peuvent mal entendre le mot déclencheur et commencer à enregistrer de l'audio à l'insu du propriétaire. Si l'algorithme ne sait pas si un mot déclencheur a été prononcé, il envoie le clip audio au personnel de vérification de l'entreprise, qui prend la décision finale. En théorie, ce type de supervision permet de réduire le nombre de faux positifs mais en pratique, cela signifie qu'à tout moment, des personnes pourraient écouter ce qui s'est passé chez vous quelques instants auparavant.

Le voyage de vos données ne s'arrête pas là, cependant. L'enregistrement est ensuite transcrit (et éventuellement annoté par le personnel) avant que les deux versions ne soient stockées sur les serveurs de l'entreprise (où elles restent indéfiniment, même si vous supprimez les conversations stockées localement sur votre appareil). Si vous avez fait une demande, les actions que votre assistant a prises en réponse peuvent également être enregistrées.

Est-il plus sûr de gérer individuellement les appareils IoT que d'utiliser un assistant intelligent ?

En théorie, le contrôle des ampoules, des prises et des thermostats intelligents à l'aide de leurs applications respectives empêche votre smartassistant de collecter des données sur vos autres appareils. Cela dit, il y a de fortes chances que ces appareils collectent également une certaine forme d'informations, et il est peu probable que des marques moins connues rendent publiques des informations détaillées sur la confidentialité, il est donc difficile de savoir avec certitude quelle option est la plus sûre.

Supposons que votre fabricant d'ampoules intelligentes puisse voir des informations de base sur vos habitudes d'utilisation en temps réel :la couleur de la lumière, son intensité de couleur actuelle et si la lumière est allumée ou non. Selon des chercheurs de l'Université du Texas à San Antonio, cela suffit pour identifier la chanson que vous écoutez (en supposant que vous ayez le genre d'ampoules qui changent de couleur en réponse à la musique). Cette expérience avait une portée assez limitée, mais si une entreprise de plusieurs milliards de dollars avec des millions d'heures de données vocales décidait de la reproduire, il est tout à fait possible qu'elle puisse écouter vos conversations sans même avoir besoin d'utiliser un microphone.

Même des appareils relativement simples comme les smartsockets collectent des informations. L'un des modèles les plus reconnus enregistre 45 jours de données, y compris vos niveaux d'utilisation quotidiens, la puissance de la connexion Wi-Fi, le coût de votre électricité par kWh et la durée de veille de l'appareil. C'est assez d'informations pour deviner raisonnablement si vous êtes employé ou non, combien de personnes vous accompagnent et (si vous avez plusieurs prises intelligentes), la disposition approximative de votre maison. Ce modèle spécifique comprend également un port micro-USB qui, selon le fabricant, pourrait être utilisé pour des capteurs supplémentaires à l'avenir.

Les géants de la technologie doivent reconsidérer leur approche de la confidentialité

Si le public veut continuer à adopter les assistants intelligents, il doit sentir que sa vie privée est respectée. Les organisations commencent à faire de petits pas dans cette direction, par exemple en ajoutant des caches d'appareil photo à leurs appareils, mais des gestes symboliques comme ceux-ci passent à côté de l'essentiel :les gens ne s'inquiètent pas de ce que leur appareil pourrait voir, ils craignent qu'il ne soit regarder du tout.

La technologie elle-même n'est pas le problème :après tout, les assistants à commande vocale peuvent être extrêmement utiles, en particulier pour les personnes à mobilité ou vision réduites. Au lieu de cela, le problème est que les entreprises qui créent ces appareils ont un état d'esprit de «tout collecter» qui n'est tout simplement pas compatible avec la confidentialité des utilisateurs. En adoptant l'approche en trois étapes axée sur la confidentialité décrite ci-dessous, les géants de la technologie peuvent apaiser les inquiétudes des utilisateurs de manière significative. Cela, à son tour, garantit que les clients existants continueront à utiliser le service et peut même encourager certains à effectuer une mise à niveau lorsque de nouveaux modèles sont lancés. .

1. Fini le secret

Les gens sont tellement habitués aux politiques de confidentialité problématiques qu'ils les acceptent automatiquement. Après tout, l'alternative n'est pas d'utiliser un appareil pour lequel vous avez déjà payé. À l'avenir, les assistants intelligents ne devraient collecter que les données strictement nécessaires à une tâche spécifique, et ces informations devraient être supprimées (à la fois localement et des archives du fabricant) une fois qu'elles ont atteint leur objectif. Les utilisateurs doivent également pouvoir désactiver certaines fonctionnalités s'ils n'acceptent pas de fournir les autorisations requises, comme vous pouvez le faire avec des applications sur un téléphone portable.

Comment cela fonctionnerait-il en pratique ? Supposons que vous souhaitiez obtenir l'itinéraire vers un restaurant en particulier. Votre assistant devra connaître à la fois votre position actuelle et votre destination. Il peut également vous demander votre temps de trajet prévu afin de trouver des informations sur les transports en commun et bientôt, mais ce ne sont pas des données critiques et ne doivent être prises en compte que si l'utilisateur les donne volontairement. Une fois que l'utilisateur arrive, ses données de destination ne sont plus nécessaires et peuvent être supprimées en toute sécurité (là encore, à moins que l'utilisateur n'ajoute spécifiquement un emplacement à un carnet d'adresses).

Dans l'exemple ci-dessus, l'utilisateur parvient à se rendre à destination sans aucun problème, malgré un minimum d'informations. En revanche, si vous deviez essayer cela avec des appareils actuels, votre assistant intelligent pourrait savoir non seulement où vous allez, mais aussi de quel type d'établissement il s'agit, à quelle fréquence vous le visitez et à quel point il est populaire auprès des autres dans votre région. . Cette fonctionnalité n'est pas utilisée pour améliorer votre expérience ; il est utilisé pour créer un profil publicitaire et, en tant que tel, peut être dispensé avec un impact non perceptible sur l'utilisateur.

2. Fournissez aux utilisateurs les outils dont ils ont besoin pour gérer leurs propres données

En termes simples, les utilisateurs ne devraient pas être punis pour être soucieux de leur vie privée. Si les gens veulent vraiment consentir à divulguer leurs renseignements personnels, ils doivent d'abord comprendre ce que cela signifie. Les entreprises ne doivent plus obscurcir leurs politiques de collecte de données dans des dizaines de pages de terminologie juridique ; les clients doivent pouvoir voir exactement quel type d'informations est enregistré. Plus important encore, ces informations doivent être présentées dans un format facilement compréhensible, exempt de demi-vérités sur les métadonnées ou les ensembles de données anonymisés. Les utilisateurs doivent également être informés de la raison pour laquelle chaque donnée est enregistrée et de la manière dont ils peuvent la supprimer, s'ils le souhaitent.

De nos jours, cela peut prendre des semaines pour découvrir quelles données une entreprise particulière détient sur vous. Certains sites Web rendent ce processus plus facile que d'autres, mais vous pouvez toujours vous attendre à attendre au moins quelques heures après avoir trouvé l'option appropriée dans un dédale de sous-menus.

Pourquoi consulter vos informations personnelles ne devrait-il pas être aussi simple que possible ? Les utilisateurs doivent pouvoir décider eux-mêmes si une entreprise mérite ou non d'accéder à leurs données. À l'avenir, l'affichage de vos données devra être beaucoup plus facile, mais il n'est pas nécessaire de s'arrêter là.

Par exemple, pour le moment, la plupart des assistants intelligents ne permettent pas aux utilisateurs de supprimer automatiquement les enregistrements vocaux ou d'afficher des statistiques détaillées telles que la fréquence à laquelle leurs clips audio ont été référés pour une vérification manuelle. Ce ne sont pas des fonctionnalités particulièrement avancées, mais elles contribueraient grandement à regagner la confiance du public et à se forger une réputation d'entreprise technologique transparente et soucieuse de la confidentialité.

3. Réduire au minimum l'intervention de tiers

Les assistants intelligents les plus connus fonctionnent depuis des années. Collectivement, ils ont accès à un plus large éventail de données vocales que quiconque, avec toutes sortes de langues et d'accents représentés. Si, après des millions de dollars d'investissement et des années de mise au point de l'algorithme, le personnel doit encore fréquemment intervenir manuellement juste pour voir si un mot déclencheur a été utilisé, les entreprises devront peut-être accepter que les méthodes actuelles ne fonctionnent tout simplement pas.

Il existe de nombreuses autres façons de réduire le nombre de faux positifs sans que les utilisateurs s'inquiètent de savoir qui écoute. les haut-parleurs permettent déjà aux utilisateurs de créer des routines personnalisées telles que la lecture de musique à une certaine heure chaque jour ; cette technologie pourrait presque certainement être étendue pour programmer des "moments calmes" (comme les premières heures du matin), où l'assistant ne répondra tout simplement pas aux commandes verbales.

Certains services ont récemment adopté la reconnaissance vocale individuelle, où l'assistant ne répondra qu'à des personnes spécifiques. Cependant, cela forme l'assistant en utilisant seulement une poignée de phrases (susceptibles de maximiser la commodité pour l'utilisateur). Cela pourrait conduire à des situations où il accepte des commandes de personnes qui ont simplement un accent ou un ton similaire à celui d'un utilisateur autorisé. En revanche, un plus grand nombre de phrases d'entraînement devrait aider l'assistant à comprendre ce qui rend vraiment la voix d'une personne unique, réduisant ainsi la gamme d'entrées acceptées et, par conséquent, le nombre de faux positifs.

Enfin, les assistants des foyers ayant un nombre anormalement élevé de faux positifs pourraient proposer une fonctionnalité qui enregistre le bruit de fond à plusieurs moments de la journée. Cela pourrait ensuite être utilisé pour adapter le modèle de reconnaissance vocale à des maisons particulières afin qu'il soit moins susceptible d'être déclenché par des facteurs environnementaux tels que la circulation à l'extérieur, les avions au-dessus de la tête ou les fréquences inaudibles.

Les pratiques actuelles de collecte de données ne peuvent pas durer

Le seul vrai problème que les gens ont avec les assistants intelligents est qu'ils ont l'impression d'être surveillés. Le problème c'est qu'ils ont raison. La collecte massive de données est la norme depuis des années, mais le vent commence à tourner, les utilisateurs adoptant en nombre record des outils et des services centrés sur la confidentialité. Les assistants intelligents ont un énorme potentiel, mais en fin de compte, si leurs créateurs ne parviennent pas à s'adapter à cette nouvelle attitude axée sur l'utilisateur, ils risquent d'être laissés pour compte.