Reconstruire la Confiance du Public dans l'IoT Après Alexa : Une Nouvelle Ère de Vie Privée

La collecte massive de données a été la norme pendant des années, mais la marée commence à tourner, les utilisateurs adoptant en nombre record des outils et services centrés sur la vie privée.

Il y a quelques années à peine, les assistants domestiques intelligents étaient la dernière technologie « must-have ». Même s'ils avaient une fonctionnalité limitée, leur nouveauté, couplée à un prix relativement bas (et des réductions stratégiques pendant les fêtes) les rendait quasi-irrésistibles pour les consommateurs. Soudain, les entreprises technologiques avaient accès à plus d'informations personnelles qu'elles ne savaient quoi en faire. En fait, l'année dernière, il y avait des enceintes intelligentes dans plus de 500 millions de foyers à travers le monde.

À lire aussi : La Vie Privée, un Enjeu Clé Bloquant les Projets Majeurs de Villes Intelligentes

Plus récemment, cependant, ces appareils ont commencé à perdre la faveur du public. Presque chaque semaine, il y a un nouveau scandale de confidentialité des données, et par conséquent, les gens commencent à se soucier davantage de qui a accès à leurs informations personnelles. Pour beaucoup, l'idée d'avoir un assistant toujours allumé, toujours à l'écoute, n'est plus tout à fait aussi attrayante.

Les entreprises technologiques ont perdu la confiance du public, mais les assistants intelligents ont encore beaucoup de potentiel, surtout compte tenu de leur utilité potentielle avec les futures avancées de l'apprentissage automatique. Pour l'avenir, l'obligation incombe aux fabricants d'enceintes intelligentes de prouver que leurs produits méritent une seconde chance, et la meilleure façon de le faire est avec un examen longtemps attendu de leur approche de la vie privée des utilisateurs.

Quel type d'informations les assistants intelligents stockent-ils ?

Les données exactes collectées varient selon le fabricant de l'appareil et ses capacités d'enregistrement (un appareil avec caméra intégrée, par exemple, pourrait enregistrer des clips vidéo ou signaler les niveaux de lumière ambiante à différents moments de la journée). Cependant, le principal problème, du moins pour l'instant, est l'audio. Plus précisément, combien est enregistré, pourquoi il est enregistré, et ce qui est fait de l'enregistrement une fois qu'il atteint les serveurs de l'entreprise.

Les assistants à activation vocale techniquement écoutent en permanence, mais ils ne traiteront les requêtes que lorsqu'ils entendront un mot déclencheur spécifique. Ces déclencheurs sont spécifiquement choisis pour être des séquences de syllabes peu communes (par exemple, « OK, Google », ou « Alexa ») afin que l'enceinte puisse plus facilement les identifier dans la conversation quotidienne.

Le problème est que les algorithmes ne sont pas infaillibles. En conséquence, les assistants intelligents peuvent mal entendre le mot déclencheur et commencer à enregistrer l'audio sans la connaissance du propriétaire. Si l'algorithme n'est pas sûr qu'un mot déclencheur a été dit, il envoie le clip audio au personnel de vérification de l'entreprise, qui prend la décision finale. En théorie, ce genre de supervision aide à réduire le nombre de faux positifs, mais en pratique, cela signifie qu'à tout moment, des gens pourraient écouter ce qui s'est passé dans votre maison quelques instants avant.

Le voyage de vos données ne s'arrête pas là. L'enregistrement est ensuite transcrit (et éventuellement annoté par le personnel) avant que les deux versions ne soient stockées sur les serveurs de l'entreprise (où ils restent indéfiniment, même si vous supprimez les conversations stockées localement sur votre appareil). Si vous avez fait une requête, les actions que votre assistant a entreprises en réponse peuvent également être enregistrées.

Est-il plus sûr de gérer individuellement les appareils IoT que d'utiliser un assistant intelligent ?

Hypothétiquement, contrôler des ampoules intelligentes, des prises et des thermostats à l'aide de leurs applications respectives empêche votre assistant intelligent de collecter des données sur vos autres appareils. Cela dit, il y a de bonnes chances que ces appareils collectent également une forme d'information, et les marques moins connues sont peu susceptibles de rendre des informations détaillées sur la vie privée publiques, il est donc difficile de savoir avec certitude quelle option est plus sûre.

Supposons que le fabricant de votre ampoule intelligente puisse voir des informations de base sur vos habitudes d'utilisation en temps réel : la couleur de la lumière, son intensité actuelle, et si la lumière est allumée ou non. Selon des chercheurs de l'Université du Texas à San Antonio, cela suffit pour identifier quelle chanson vous écoutez (en supposant que vous ayez le type d'ampoules qui changent de couleur en réponse à la musique). Cette expérience était assez limitée en portée, mais si une entreprise multi-milliards de dollars avec des millions d'heures de données vocales décidait de la reproduire, il est tout à fait possible qu'elle puisse écouter vos conversations sans même avoir besoin d'utiliser un microphone.

Même des appareils relativement simples comme les prises intelligentes collectent des informations. L'un des modèles les plus largement reconnus enregistre 45 jours de données, incluant vos niveaux d'utilisation quotidiens, la force de la connexion Wi-Fi, le coût de votre électricité par kWh, et combien de temps l'appareil a été en veille. C'est assez d'informations pour faire une supposition raisonnable sur si vous êtes employé ou non, combien de personnes sont avec vous, et (si vous avez plusieurs prises intelligentes), la disposition approximative de votre maison. Ce modèle spécifique inclut également un port micro-USB que le fabricant suggère pourrait être utilisé pour des capteurs supplémentaires à l'avenir.

Les géants de la tech doivent repenser leur approche de la vie privée

Si le public doit continuer à adopter les assistants intelligents, ils doivent sentir que leur vie privée est respectée. Les organisations commencent à prendre de petites mesures dans cette direction, par exemple en ajoutant des caches de caméra à leurs appareils, cependant, des gestes symboliques comme ceux-ci manquent le point : les gens ne s'inquiètent pas de ce que leur appareil pourrait voir, ils sont préoccupés par le fait qu'il regarde du tout.

La technologie elle-même n'est pas le problème : après tout, les assistants à activation vocale peuvent être extrêmement utiles, particulièrement pour les personnes à mobilité ou vision réduite. Au lieu de cela, le problème est que les entreprises créant ces appareils ont un état d'esprit « tout collecter » qui n'est tout simplement pas compatible avec la vie privée des utilisateurs. En adoptant l'approche en trois étapes « vie privée d'abord » décrite ci-dessous, les géants de la tech peuvent apaiser les préoccupations des utilisateurs de manière significative. Cela, à son tour, garantit que les clients existants continueront à utiliser le service et pourrait même en encourager certains à mettre à niveau lorsque de nouveaux modèles sortiront.

1. En finir avec le secret

Les gens sont tellement habitués aux politiques de confidentialité problématiques qu'ils les acceptent automatiquement. Après tout, l'alternative est de ne pas utiliser un appareil pour lequel vous avez déjà payé. À l'avenir, les assistants intelligents ne devraient collecter que les données strictement nécessaires pour une tâche spécifique, et ces informations devraient être supprimées (à la fois localement et des enregistrements du fabricant) une fois qu'elles ont servi leur but. Les utilisateurs devraient également pouvoir se désinscrire de certaines fonctionnalités s'ils n'acceptent pas de fournir les autorisations requises, un peu comme vous pouvez le faire avec les applications sur un téléphone portable.

Comment cela fonctionnerait-il en pratique ? Disons que vous vouliez obtenir des directions vers un restaurant particulier. Votre assistant aurait besoin de connaître à la fois votre position actuelle et votre destination. Il pourrait également demander votre heure de voyage prévue afin de trouver des informations sur les transports en commun, etc., mais ce ne sont pas des données critiques, et ne devraient être considérées que si l'utilisateur les donne volontairement. Une fois l'utilisateur arrivé, ses données de destination ne sont plus nécessaires et peuvent être supprimées en toute sécurité (à nouveau, à moins que l'utilisateur n'ajoute spécifiquement un emplacement à un carnet d'adresses).

Dans l'exemple ci-dessus, l'utilisateur parvient à sa destination sans aucun problème, malgré la fourniture d'informations minimales. En revanche, si vous essayiez cela avec les appareils d'aujourd'hui, votre assistant intelligent pourrait découvrir non seulement où vous allez, mais quel type d'établissement c'est, à quelle fréquence vous le visitez, et à quel point il est populaire auprès des autres dans votre région. Cette fonctionnalité n'est pas utilisée pour améliorer votre expérience ; elle est utilisée pour construire un profil publicitaire et, en tant que telle, peut être dispensée sans impact notable sur l'utilisateur.

2. Fournir aux utilisateurs les outils dont ils ont besoin pour gérer leurs propres données

Simplement, les utilisateurs ne devraient pas être punis pour être conscients de la vie privée. Si les gens doivent vraiment consentir à donner leurs informations personnelles, ils doivent d'abord comprendre ce que cela signifie. Les entreprises ne devraient plus obstruer leurs politiques de collecte de données dans des dizaines de pages de terminologie juridique ; les clients devraient être capables de voir exactement quel type d'information est enregistré. Plus important encore, cette information devrait être dans un format facilement compréhensible, exempt de demi-vérités sur les métadonnées ou les ensembles de données anonymisés. Les utilisateurs devraient également être informés pourquoi chaque pièce de données est enregistrée, et comment ils peuvent la supprimer, s'ils le choisissent.

De nos jours, il peut falloir des semaines pour découvrir quelles données une entreprise particulière détient sur vous. Certains sites web rendent ce processus plus facile que d'autres, mais vous pouvez toujours vous attendre à attendre au moins quelques heures après avoir trouvé l'option appropriée dans un labyrinthe de sous-menus.

Pourquoi la consultation de vos informations personnelles ne devrait-elle pas être aussi simple que possible ? Les utilisateurs devraient être capables de décider eux-mêmes si une entreprise mérite l'accès à leurs données ou non. À l'avenir, il doit être beaucoup plus facile de voir vos données, mais il n'y a pas besoin de s'arrêter là.

Par exemple, pour l'instant, la plupart des assistants intelligents ne permettent pas aux utilisateurs de supprimer automatiquement les enregistrements vocaux ou de consulter des statistiques détaillées telles que la fréquence à laquelle leurs clips audio ont été soumis à une vérification manuelle. Ce ne sont pas des fonctionnalités particulièrement avancées, mais elles iraient loin pour regagner la confiance du public et construire une réputation d'entreprise technologique transparente et consciente de la vie privée.

3. Réduire l'intervention tierce au minimum

Les assistants intelligents les plus connus fonctionnent depuis des années. Collectivement, ils ont accès à une gamme plus large de données vocales que quiconque, jamais, avec toutes sortes de langues et d'accents représentés. Si, après des millions de dollars d'investissement et des années d'affinage de l'algorithme, le personnel doit encore fréquemment intervenir manuellement juste pour voir si un mot déclencheur a été utilisé, les entreprises devront peut-être accepter que les méthodes actuelles ne fonctionnent tout simplement pas.

Il y a beaucoup d'autres façons de réduire le nombre de faux positifs sans faire en sorte que les utilisateurs s'inquiètent de qui écoute. Par exemple, en limitant les heures pendant lesquelles votre assistant est opérationnel, vous réduisez la chance que le bruit de fond soit mal identifié comme un mot déclencheur. De nombreuses enceintes intelligentes permettent déjà aux utilisateurs de créer des routines personnalisées comme jouer de la musique à une certaine heure chaque jour ; cette technologie pourrait presque certainement être étendue pour programmer des « moments calmes » (comme les petites heures du matin), où l'assistant ne répondra simplement pas aux commandes verbales.

Certains services ont récemment adopté la reconnaissance vocale individuelle, où l'assistant ne répondra qu'à des personnes spécifiques. Cependant, cela entraîne l'assistant en utilisant seulement une poignée de phrases (probablement pour maximiser la commodité pour l'utilisateur). Cela pourrait mener à des situations où il accepte des commandes de personnes qui ont simplement un accent ou un ton similaire à un utilisateur autorisé. En revanche, un plus grand nombre de phrases d'entraînement devrait aider l'assistant à se concentrer sur ce qui rend vraiment la voix d'une personne unique, réduisant ainsi la gamme d'entrées acceptées et, par conséquent, le nombre de faux positifs.

Enfin, les assistants dans les foyers avec un nombre anormalement élevé de faux positifs pourraient offrir une fonctionnalité qui enregistre le bruit de fond à plusieurs moments différents de la journée. Cela pourrait ensuite être utilisé pour adapter le modèle de reconnaissance vocale pour des maisons particulières afin qu'il soit moins susceptible d'être déclenché par des facteurs environnementaux tels que la circulation extérieure, les avions au-dessus, ou les fréquences inaudibles.

Les pratiques actuelles de collecte de données ne peuvent pas durer

Le seul vrai problème que les gens ont avec les assistants domestiques intelligents est qu'ils ont l'impression d'être surveillés. Le problème est qu'ils ont raison. La collecte massive de données a été la norme pendant des années, mais la marée commence à tourner, les utilisateurs adoptant en nombre record des outils et services centrés sur la vie privée. Les assistants intelligents ont un énorme potentiel, mais en fin de compte, si leurs créateurs ne s'adaptent pas à cette nouvelle attitude utilisateur d'abord, ils risquent d'être laissés pour compte.