Comment la diversité des données et les pratiques éthiques favorisent une ingénierie responsable de l’IA

Le parcours d'ingénierie de Karen Panetta l'a amenée à identifier les préjugés critiques dans les systèmes de reconnaissance faciale et à défendre une technologie transparente qui protège le bien-être humain.

Par

• Esther Shittu, rédactrice de nouvelles
• Shaun Sutner, directeur principal de l'information

Publié :01 juillet 2025

Le cheminement vers le diplôme d'ingénieur de Karen Panetta a commencé avec le conseil de son père selon lequel ses habitudes de magasinage devaient être soutenues par une solide carrière financière.

Après avoir passé du temps à construire des ordinateurs et à concevoir des processeurs, le boursier de l'IEEE et doyen de la formation d'ingénieur de l'Université Tufts a cherché à entrer dans le monde universitaire. Cependant, elle s'est rendu compte qu'il y avait un gros problème dans le domaine de l'ingénierie.

"Ils ont dit :'Nous vous embauchons pour être un mentor pour les femmes', et puis quand je suis arrivé à mon premier cours, il n'y avait pas de femmes'", a raconté Panetta dans le dernier épisode du podcast Targeting AI d'Informa TechTarget. "C'est ainsi que je suis devenu par hasard un mentor, un promoteur et un champion pour amener un public inclusif à l'ingénierie."

Cette passion s'est ensuite transférée à la technologie de l'IA lorsqu'elle a commencé à travailler pour sauver les enfants de la traite des êtres humains.

"J'ai remarqué que tous les ensembles de données qui ont été formés pour la reconnaissance faciale étaient pris directement, les deux oreilles visibles", a déclaré Panetta. "La base de données provenait principalement de personnes de couleur et de bases de données criminelles. Donc c'était comme, OK, il y a un parti pris là."

En réponse, Panetta et son équipe ont créé une base de données diversifiée de personnes du monde entier, âgées de 3 à 78 ans. Les images montrent des personnes dans différents scénarios, soit avec des lunettes de soleil, des masques ou différentes rotations de la tête.

"L'IA entraînée avec des données très vierges ne fonctionnera pas dans le monde réel", a déclaré Panetta. "Le monde réel ne se traduit pas automatiquement en IA."

Panetta a ajouté que la technologie de l'IA doit également être éthique, ce qui signifie ne pas nuire aux personnes ni à leurs moyens de subsistance.

"Lorsque nous parlons d'IA éthique, nous parlons de la manière dont nous la collectons, des droits des personnes et de la manière dont nous allons l'utiliser", a-t-elle déclaré.

Parallèlement, une IA responsable consiste à être capable d'expliquer pourquoi le système d'IA a pris la décision qu'il a prise, a-t-elle déclaré.

Esther Shittu est rédactrice de nouvelles Informa TechTarget et animatrice de podcast couvrant les logiciels et systèmes d'IA. Shaun Sutner est directeur principal de l'information pour l'équipe de gestion de l'information d'Informa TechTarget, responsable de la couverture de l'IA, des technologies d'analyse et de gestion des données, ainsi que des grandes technologies et de la réglementation fédérale. C'est un journaliste chevronné avec plus de 30 ans d'expérience dans l'information. Ensemble, ils couvrent le podcast Targeting AI.

Approfondissez vos connaissances sur les technologies d'IA

• 11 exemples et cas d'utilisation réels d'IA agentique

  Par : Mary Pratt

• La vision de l'IA d'entreprise d'IBM pour la personnalisation et la collaboration

  Par : Esther Shittu

• Le PDG de Black Girls Code déclare que la diversité dans l'IA inclut tout le monde

  Par : Esther Shittu

• Comment Cerebras aborde la concurrence avec Nvidia

  Par : Esther Shittu