IA externalisée et apprentissage en profondeur dans le secteur de la santé :la confidentialité des données est-elle menacée ?

Jonathan Martin d'Anomali

En tant que technologies émergentes, il est prouvé que l'intelligence artificielle (IA) et l'apprentissage en profondeur fournissent des informations commerciales puissantes. Cela est particulièrement vrai pour le secteur de la santé, déclare Jonathan Martin, directeur des opérations EMEA chez Anomali , où Freemium AI et les logiciels d'apprentissage automatique tels que theano, torch, cntk et tensorflow peuvent prédire efficacement des conditions médicales telles que le cancer, les crises cardiaques et de nombreux autres diagnostics basés sur l'image.

L'intégration de l'IA et de l'apprentissage en profondeur dans les pratiques médicales est donc une prochaine étape inévitable et critique pour le secteur de la santé, bien qu'une telle entreprise ne soit pas sans défis.

L'un des problèmes les plus urgents qui empêchent les organisations de tirer pleinement parti de ces technologies est le manque de personnel techniquement qualifié. De nombreux professionnels de la cybersécurité pourraient probablement répondre à la demande de talents techniques, mais avec une offre déjà limitée de professionnels dans l'industrie de la cybersécurité elle-même, il est peu probable que l'offre réponde à la demande de sitôt.

Pour compliquer davantage les choses pour le secteur de la santé, la mise en œuvre de ces technologies nécessite l'accès à des informations personnellement identifiables (PII), qui font partie des données les plus ciblées dans les cyberattaques en raison de leur nature sensible et donc lucrative.

La Société nationale de la santé (NHS) a choisi de contourner les problèmes de personnel et de confidentialité des données en s'associant à Deepmind , une société acquise par Alphabet/Google. Cela a permis à Deepmind d'accéder à 1,6 million de dossiers médicaux, qui comprenaient des informations sur les tests sanguins, les diagnostics médicaux, les dossiers historiques des patients et des données encore plus sensibles telles que le diagnostic du VIH et la consommation antérieure de drogues. Que ce soit ou non un risque approprié a été la source d'une certaine controverse dans l'industrie.

Comme nous l'avons vu lors de l'attaque WannaCry contre le NHS, une cyberattaque peut avoir des effets dévastateurs sur l'industrie. Cependant, cela ne devrait pas empêcher les organisations de partager et d'analyser de manière approfondie les informations. L'IA et d'autres technologies sont essentielles à la progression des soins de santé, et l'embauche de talents techniques est essentielle pour exploiter pleinement la puissance qu'elles détiennent de manière sécurisée qui élimine le besoin d'externaliser. Les organisations doivent également maintenir la cohérence des meilleures pratiques d'effort afin de minimiser les risques d'une organisation.

L'une de ces meilleures pratiques comprend la rédaction de toutes les informations personnellement identifiables. Toute organisation sous-traitant des données devrait plutôt utiliser des pseudonymes, où l'identifiant unique et les informations personnelles ne sont détenus que par l'entité de confiance. Les informations semi-sensibles qui auraient de la valeur pour le modèle d'apprentissage automatique devraient également être supprimées. La situation géographique d'un patient en est un parfait exemple.

Ces données peuvent être un indicateur puissant d'une maladie, mais les données brutes pourraient être utilisées pour effectuer une rétro-ingénierie des informations personnelles d'un patient donné. Jeter de telles informations est un compromis efficace entre renforcer le pouvoir de prédiction de l'IA et protéger la confidentialité des patients.

Ces stratégies du meilleur effort peuvent aider à atténuer la plupart des problèmes, cependant, ce n'est pas une méthode infaillible pour assurer la confidentialité. Pour le moment, il n'est pas possible de garantir que l'IA ne pourra pas reconstruire vos PII. Dans une étude de la CMU, les chercheurs ont découvert que les numéros de sécurité sociale étaient étonnamment prévisibles et que l'algorithme d'IA pouvait généralement reconstruire un numéro de sécurité sociale à partir d'informations telles que la date de naissance et le sexe.

À l'avenir, les organisations pourraient se tourner vers une technologie plus avancée pour sécuriser les efforts d'externalisation des données privées. Les développements récents de l'apprentissage fédéré pourraient accroître la flexibilité et permettre aux groupes de stocker des données sur site. Une autre technologie connexe de cryptage homomorphe est également en cours de développement. Avec le cryptage homomorphe, les calculs s'effectuent sur des données cryptées sans jamais avoir à décrypter les données, ce qui réduit considérablement les problèmes de sécurité.

À l'heure actuelle, nous sommes encore à des années de la technologie qui résout directement le problème de la confidentialité des données. Cependant, la promesse des avantages de l'IA est trop grande pour que le secteur de la santé attende. Dans un avenir proche, les industries doivent trouver un équilibre pour protéger les citoyens et éviter les vulnérabilités inutiles.

L'auteur de ce blog est Jonathan Martin, directeur des opérations EMEA chez Anomali