Réaliser l'Internet de tout :contrôle basé sur l'IA pour la sécurité et la confidentialité

Un Internet universel de tout qui voit et sait tout nécessite un contrôle :comment pouvons-nous permettre aux technologies d'examiner de plus près nos activités tout en évitant les pièges en matière de confidentialité et de sécurité ? L’IA est presque sûrement la seule voie pour parvenir à ce contrôle.

Supposons que la technologie puisse vous aider à trouver ce que vous souhaitez acheter au prix le plus bas possible. Supposons que la technologie puisse vous empêcher d’être heurté par une voiture en marchant. Supposons que la technologie puisse rendre les véhicules autonomes totalement efficaces et sûrs, qu’il soit impossible de se perdre ou de ne pas reconnaître une personne ou un point de repère. Supposons que tout cela puisse être réalisé par un ensemble d’initiatives exploitant ce que nous savons et utilisons déjà. Intéressé? Impossible? Oui au premier, sûrement, et NON au second… peut-être. Bienvenue sur l'Internet de tout.

Le concept d'"Internet des objets" est apparu officiellement dans une déclaration de Kevin Ashton au MIT :"... les gens ont peu de temps, d'attention et de précision. Tout cela signifie qu'ils ne sont pas très doués pour capturer des données sur les choses du monde réel. Si nous avions des ordinateurs qui savaient tout ce qu'il y avait à savoir sur les choses, en utilisant les données qu'ils ont recueillies sans aucune aide de notre part, nous serions en mesure de tout suivre et de tout compter et de réduire considérablement les déchets, les pertes et les coûts. Nous saurions quand les choses doivent être remplacées, réparées ou rappelées et si elles sont neuves ou si elles sont neuves ou si elles sont neuves ou si elles sont récentes. dépassé leur meilleur.

Ce qui est important à ce sujet, je pense, c'est qu'il ne s'agit pas de choses limitées que nous appelons aujourd'hui IoT, mais d'un Internet universel de tout qui voit tout et sait tout.

De nos jours, nous savons beaucoup de choses, mais nous ne savons pas tout. Il est sûrement possible qu’une application sache ce que nous voulons acheter et où nous en sommes en ce moment. Il lui serait possible de connaître, c'est-à-dire de découvrir, les prix des choses que nous voulons à des endroits proches de notre application, mais cela impliquerait beaucoup de complexité et de coût pour ce qui pourrait être un avantage assez marginal. Si nous pouvions faire les autres choses avec lesquelles j'ai débuté, alors nous aider à entrer dans le bon magasin pourrait être un ajout à faible coût, mais nous ne pouvons pas vraiment le faire. Nous avons le « savoir » mais pas le « voir ».

Ces éléments de vision et de connaissance sont importants car ils illustrent les avantages et les inconvénients d’un Internet et d’applications pilotés par l’humain. Nous voyons et acquérons une compréhension en temps réel du monde réel. Capteurs IoT… enfin… sens . Il est peut-être utile de connaître la température, la pression barométrique, l’emplacement et la vitesse relative, mais ce n’est pas comme regarder par la fenêtre de votre voiture si vous essayez de naviguer. En 1999, lorsque Ashton a fait ses commentaires, nous n’avions aucun moyen pratique d’imiter le sens visuel humain pour recueillir des données du monde réel. Avec l'IA, nous avons désormais cela dans « l'informatique spatiale », et nous pourrions réaliser tout ce que j'ai mentionné dans le premier paragraphe, et même plus.

OK, si « nous avons maintenant » ce dont nous avons besoin, pourquoi n’avons-nous pas toutes ces applications aujourd’hui ? J’ai dit qu’il y avait une sorte d’écart entre voir et savoir, mais n’est-ce pas incompatible avec l’idée selon laquelle nous avons ce dont nous avons besoin ? S’il n’y a pas de progrès technique géant que nous devrions rechercher pour débloquer ce merveilleux avenir, lequel le fera-t-il ? Réponse :La technologie n'est pas vraiment le problème, c'est le social.

« Grand frère vous surveille » est un slogan pour désigner le risque d'une surveillance à grande échelle. Nous pourrions identifier les criminels marchant dans la rue grâce au déploiement généralisé de la vidéo, et la même technologie pourrait nous avertir de ne pas entrer dans la circulation. Mais les mêmes choses pourraient aider les gens à traquer les autres, à espionner les gens et peut-être à révéler certains secrets que nous préférerions garder cachés. Étant donné que l’individu moyen pense que tout peut être piraté et que beaucoup pensent que le gouvernement essaie déjà de nous espionner, il n’est pas difficile de comprendre pourquoi les entreprises hésitent à promouvoir l’utilisation de la technologie « voir tout savoir tout », même dans un sens restreint.

Utilisation restreinte comme quoi ? L’un de mes contacts réguliers est un avocat spécialisé en droit du travail. Je lui ai posé des questions sur l’utilisation de la surveillance vidéo pour se prémunir contre les accidents du travail, et elle a répondu que « chaque syndicat aurait peur qu’elle soit utilisée à mauvais escient, et chaque employeur le nierait tout en se précipitant vers une utilisation abusive ». Un autre contact m'a dit qu'une surveillance vidéo étendue pour faciliter une utilisation sûre des véhicules autonomes entraînerait presque sûrement des poursuites de la part des défenseurs de la vie privée, soutenus par des légions qui se trouvent souvent là où ils ne sont pas censés être.

La confidentialité est importante pour nous tous. Il en va de même pour la sécurité, la santé et la vie. Nous arrivons peut-être à un stade d’évolution technologique qui exigera que nous décidions comment équilibrer ces éléments les uns par rapport aux autres. La peur d’une IA déchaînée est-elle un exemple de ce genre de préoccupation ? Je pense que oui. Et je pense que bien avant que l’IA puisse surgir et nous menacer d’extinction, elle pourrait surgir et nous sauver, ou nous exposer. Nous avons subi des pressions pour créer des garde-fous contre l'IA, mais ces pressions ont largement esquivé la plus large, la plus percutante et la plus immédiate :la capacité de l'IA et de la vidéo à se combiner pour permettre au monde réel, y compris chacun d'entre nous, d'être observé par la technologie.

La réponse évidente à ce problème est la gouvernance, un ensemble de règles qui limitent l’utilisation et la technologie pour les faire respecter. Le problème, comme c’est si souvent le cas avec « l’évidence », est qu’il serait difficile d’établir des règles et de contraindre l’utilisation par le biais de la technologie, et probablement plus difficile de faire croire aux gens. Pensez aux trois lois de la robotique d’Asimov et au nombre de ses histoires axées sur la façon dont les gens s’efforçaient de les contourner. Il y a vingt ans, un laboratoire de recherche a réalisé une expérience de collaboration vidéo impliquant une petite caméra dans les bureaux afin que les gens puissent communiquer à distance. La moitié des employés ont couvert leur caméra lorsqu'ils sont entrés. Je connais des gens qui couvrent régulièrement leur webcam lorsqu'ils ne participent pas à une conversation vidéo ou à une réunion programmée, et vous le faites probablement aussi. Et si la lumière n’est pas allumée ? Quelqu'un a probablement piraté.

Les préoccupations sociales se heurtent inévitablement aux tentatives visant à intégrer étroitement la technologie à notre façon de vivre. Avons-nous atteint un point où il est essentiel de répondre à ces préoccupations de manière convaincante pour permettre à la technologie d'améliorer davantage notre travail et nos vies ?

Nous disposons d’une surveillance vidéo répandue, voire universelle. Lors d’une promenade cette semaine, j’ai trouvé des caméras de sonnette ou d’autres caméras sur environ un quart des maisons que je suis passée devant, et je parierais qu’il y en a encore plus dans les zones commerciales. Je me demande combien de personnes craignent que leur sonnette les surveille lorsqu’elles sont dans leur jardin. Moins, je parierais, que de craindre que l’IA ne surgisse et ne les tue, et pourtant les sonnettes sont réelles et l’IA prédatrice ne l’est pas. Il est clair que nous pouvons rejeter ce genre de réflexion et arrêter de couvrir nos webcams. Pourrions-nous nous sentir à l’aise avec une surveillance vidéo universelle ? Peut-être, mais il vaudrait mieux que nous trouvions une solution au dilemme de la gouvernance.

Ce qui pourrait bien être possible, avec l'IA, pour deux raisons.

Plus l’IA est puissante et large, plus il sera difficile de limiter la manière dont elle pourrait être utilisée. Je doute que quiconque soit en désaccord avec cela. Compte tenu de cela, il serait vrai que les agents d’IA experts, confinés et axés sur un sujet, seraient plus faciles à contraindre. Vous pouvez sécuriser et gouverner une API, mais comment sécuriser et gouverner une relation conversationnelle ? Nous revenons aux Trois Lois d’Asimov, dont la seconde est l’obéissance. Donnez de l'autonomie à quelque chose, y compris à l'IA, et vous lui donnez le potentiel de s'immiscer. Dans le contexte de notre visionnage de vidéos IA, nous courons un plus grand risque de demander à l'IA de rechercher quelque chose que de créer un agent IA qui ne peut rechercher que certaines choses.

Nous pourrions également utiliser des agents experts en IA pour gouverner les applications d’IA. Il existe déjà une stratégie « d’IA contradictoire » dans l’apprentissage automatique en général, qui vise à détecter la manipulation des données pour tromper le modèle. La même approche pourrait être appliquée à la gouvernance de l’utilisation de l’IA, en particulier si l’IA est conçue pour produire uniquement des résultats spécifiques plutôt que pour répondre à des questions générales. La reconnaissance faciale, par exemple, pourrait être limitée aux visages réellement inscrits dans un registre criminel gouvernemental. Est-ce que ça pourrait être piraté ? Bien sûr, mais pas par votre harceleur moyen ou votre conjoint suspect.

Réaliser « l’Internet de tout » est essentiel si nous voulons continuer à faire progresser la manière dont la technologie renforce notre travail et améliore nos vies. Contrôler la façon dont nous créons un nouveau niveau de proximité avec la technologie, en évitant les pièges en matière de confidentialité et de sécurité tout en donnant à la technologie un examen plus approfondi de nos activités, est essentiel pour réaliser l'Internet des objets, et l'IA est presque sûrement la seule voie pour atteindre ce contrôle. Cette mission de l’IA est ce dont nous avons besoin pour formuler des politiques pour gouverner. Le risque que l’IA nous conduise tous à l’extinction est bien moindre que le risque qu’elle ne vienne pas à notre secours.

INSCRIVEZ-VOUS À NOTRE NEWSLETTER

De nos rédacteurs directement dans votre boîte de réception

Commencez en saisissant votre adresse e-mail ci-dessous.