Réaliser l'Internet de tout : contrôle piloté par l'IA pour la sécurité et la confidentialité

Un Internet de tout universel qui voit tout et sait tout nécessite un contrôle : comment permettre à la technologie d'examiner de plus près nos activités tout en évitant les écueils de la confidentialité et de la sécurité ? L'IA est presque certainement la seule voie pour y parvenir.

Imaginez que la technologie puisse vous aider à trouver ce que vous voulez acheter au prix le plus bas possible. Qu'elle puisse vous empêcher de vous faire percuter par une voiture en traversant la rue. Qu'elle rende les véhicules autonomes totalement efficaces et sûrs, qu'elle rende impossible de se perdre ou de ne pas reconnaître une personne ou un lieu. Et que tout cela puisse être réalisé par un ensemble unique d'initiatives exploitant ce que nous savons et utilisons déjà. Intéressé ? Impossible ? Oui pour la première question, sûrement, et NON pour la seconde… peut-être. Bienvenue dans l'Internet de tout.

Le concept d'« Internet des objets » est apparu officiellement dans une déclaration du MIT par Kevin Ashton : « …les gens ont un temps, une attention et une précision limités. Tout cela signifie qu'ils ne sont pas très doués pour capturer des données sur les choses du monde réel. Si nous avions des ordinateurs qui savaient tout ce qu'il y a à savoir sur les choses, en utilisant des données qu'ils auraient collectées sans aucune aide de notre part, nous pourrions tout suivre et tout compter, et réduire considérablement le gaspillage, les pertes et les coûts. Nous saurions quand les choses doivent être remplacées, réparées ou rappelées, et si elles sont fraîches ou périmées. »

Ce qui est important, selon moi, c'est qu'il ne s'agit pas des objets connectés limités que nous appelons IoT aujourd'hui, mais d'un Internet de tout universel qui voit tout, sait tout.

Nous avons du « sait-beaucoup », mais pas du « sait-tout », de nos jours. Il est certainement possible qu'une application sache ce que nous voulons acheter et où nous nous trouvons à l'instant T. Il serait possible qu'elle connaisse, c'est-à-dire qu'elle découvre, les prix des choses que nous voulons dans les lieux proches de notre application, mais cela impliquerait beaucoup de complexité et de coûts pour un bénéfice potentiellement marginal. Si nous pouvions faire les autres choses mentionnées au début, nous aider à entrer dans la bonne boutique serait un ajout à faible coût, mais nous ne pouvons pas vraiment le faire. Nous avons le « savoir » mais pas le « voir ».

Cette capacité de voir-et-savoir est importante car elle illustre le bon et le mauvais côté d'un Internet et d'applications pilotés par l'humain. Nous voyons et acquérons une compréhension en temps réel du monde réel. Les capteurs IoT… eh bien… sentent. Il est peut-être utile de connaître la température, la pression barométrique, la localisation et la vitesse relative, mais ce n'est pas comme regarder par la fenêtre de sa voiture, si l'on essaie de naviguer. En 1999, quand Ashton a fait ses commentaires, nous n'avions pas de moyen pratique d'imiter le sens visuel humain pour collecter des données du monde réel. Avec l'IA, nous avons maintenant cela dans l'« informatique spatiale », et nous pourrions réaliser tout ce que j'ai mentionné au premier paragraphe, et même plus.

D'accord, si « nous avons maintenant » ce dont nous avons besoin, pourquoi n'avons-nous pas toutes ces applications aujourd'hui ? J'ai dit qu'il y avait une sorte d'écart voir-et-savoir, mais n'est-ce pas incohérent avec l'idée que nous avons ce qu'il faut ? S'il n'y a pas d'avancée technique géante à rechercher pour débloquer cet avenir merveilleux, qu'est-ce qui le fera ? Réponse : la technologie n'est pas vraiment le problème, c'est le social.

« Big Brother vous regarde » est une phrase-type pour le risque de surveillance à grande échelle. Nous pourrions identifier des criminels marchant dans la rue grâce au déploiement généralisé de la vidéo, et la même technologie pourrait nous avertir avant de marcher dans la circulation. Mais les mêmes outils pourraient aider des gens à traquer d'autres personnes, à les espionner, et peut-être à révéler des secrets que nous préférerions garder cachés. Étant donné que la personne moyenne pense que tout peut être piraté, et que beaucoup pensent que le gouvernement essaie déjà de nous espionner, il n'est pas difficile de comprendre pourquoi les entreprises sont réticentes à promouvoir l'utilisation de la technologie qui voit-tout-sait-tout, même dans un usage restreint.

Usage restreint tel que quoi ? L'un de mes contacts réguliers est un avocat du travail assez connu. Je lui ai demandé ce qu'elle pensait de l'utilisation de la surveillance vidéo pour se prémunir contre les accidents du travail, et elle a répondu : « chaque syndicat aurait peur qu'elle soit détournée, et chaque employeur le nierait tout en sautant sur l'occasion pour la détourner. » Un autre contact m'a dit qu'une surveillance vidéo étendue pour faciliter l'utilisation sûre de véhicules autonomes ferait presque certainement face à des poursuites de la part de défenseurs de la vie privée, soutenus par des légions de personnes qui sont souvent là où elles ne devraient pas être.

La vie privée est importante pour nous tous. La sécurité, la santé, la vie le sont aussi. Nous atteignons peut-être un stade de l'évolution technologique qui nous obligera à décider comment nous équilibrons ces choses les unes par rapport aux autres. La peur que l'IA devienne folle est-elle un exemple de ce genre de préoccupation ? Je pense que oui. Et je pense que bien avant que l'IA ne puisse se dresser et nous menacer d'extinction, elle pourrait se dresser et nous sauver, ou nous exposer. Nous avons eu des pressions pour créer des garde-fous sur l'IA, mais ces pressions ont largement esquivé la plus large, la plus impactante et la plus immédiate — qui est la capacité de l'IA et de la vidéo combinées à laisser le monde réel, y compris chacun de nous, être surveillé par la technologie.

La réponse évidente à ce problème est la gouvernance, un ensemble de règles qui contraignent l'usage et la technologie pour les faire respecter. Le problème, comme c'est souvent le cas avec l'« évident », c'est que fixer les règles serait difficile et contraindre l'usage par la technologie serait difficile à faire, et probablement plus difficile encore à faire croire aux gens. Pensez aux Trois Lois de la robotique d'Asimov et au nombre de ses histoires qui portaient sur la façon dont les gens cherchaient à les contourner. Il y a deux décennies, un laboratoire de recherche a fait une expérience de collaboration vidéo qui impliquait une petite caméra dans les bureaux pour que les gens puissent communiquer à distance. La moitié de la main-d'œuvre a couvert leur caméra en arrivant. Je connais des gens qui couvrent systématiquement leur webcam quand ils ne sont pas en visioconférence programmée, et vous probablement aussi. Et si la lumière n'est pas allumée ? Quelqu'un a probablement piraté l'accès.

Les préoccupations sociales entrent inévitablement en collision avec les tentatives d'intégrer étroitement la technologie à notre façon de vivre. Avons-nous atteint un point où traiter ces préoccupations de manière convaincante est essentiel pour laisser la technologie améliorer notre travail, nos vies, davantage ?

Nous avons une surveillance vidéo généralisée, sinon universelle. Lors d'une promenade cette semaine, j'ai trouvé des sonnettes avec caméra ou d'autres caméras sur environ un quart des maisons que j'ai passées, et je parie qu'il y en a encore plus dans les zones commerciales. Je me demande combien de gens s'inquiètent que leurs sonnettes les regardent pendant qu'ils sont dans leur jardin. Moins, je parie, que ceux qui s'inquiètent de l'IA qui se dresse et les tue, et pourtant les sonnettes sont réelles et l'IA prédatrice ne l'est pas. Clairement, nous pouvons rejeter ce genre de réflexion, arrêter de couvrir nos webcams. Pourrions-nous devenir à l'aise avec une surveillance vidéo universelle ? Peut-être, mais il vaudrait mieux que nous trouvions une solution au dilemme de la gouvernance.

Ce qui pourrait bien être possible, avec l'IA, pour deux raisons.

Plus l'IA est puissante, plus son champ d'action est large, plus il serait difficile de contraindre la façon dont elle pourrait être utilisée. Je doute que qui que ce soit soit en désaccord avec cela. Compte tenu de cela, il serait vrai que des agents d'IA contenus, axés sur un sujet, experts, seraient plus faciles à contraindre. Vous pouvez sécuriser et gouverner une API, mais comment sécurisez-vous et gouvernez-vous une relation conversationnelle ? Nous revenons aux Trois Lois d'Asimov, la seconde étant l'obéissance. Donner de l'autonomie à quelque chose, y compris l'IA, c'est lui donner le potentiel d'intrusion. Dans le contexte de notre surveillance vidéo par IA, nous courons un plus grand risque en demandant à l'IA de chercher quelque chose qu'en créant un agent d'IA qui ne peut chercher que certaines choses.

Nous pourrions également utiliser des agents d'IA experts pour gouverner les applications d'IA. Il existe déjà une stratégie d'« IA adverse » dans l'apprentissage automatique en général, travaillant à détecter la manipulation des données pour tromper le modèle. La même approche pourrait être appliquée à la gouvernance de l'utilisation de l'IA, particulièrement si l'IA est conçue pour fournir uniquement des résultats spécifiques plutôt que de répondre à des questions générales. La reconnaissance faciale, par exemple, pourrait être limitée aux visages réellement présents sur un registre criminel gouvernemental. Cela pourrait-il être piraté ? Bien sûr, mais pas par votre harceleur ou conjoint soupçonneux moyen.

Réaliser l'« Internet de tout » est crucial si nous voulons continuer à faire progresser la façon dont la technologie renforce notre travail et améliore nos vies. Contrôler la façon dont nous créons un nouveau niveau de proximité avec la technologie, en évitant les pièges de la confidentialité et de la sécurité tout en donnant à la technologie un regard plus proche sur nos activités, est crucial pour réaliser l'Internet de tout, et l'IA est presque certainement la seule voie pour y parvenir. Cette mission pour l'IA est ce que nous devons formuler des politiques pour gouverner. Le risque que l'IA vienne nous conduire tous à l'extinction est bien plus petit que le risque qu'elle ne vienne pas à notre secours.