Comment des données diversifiées et des pratiques éthiques pilotent l'ingénierie IA responsable

Le parcours d'ingénieure de Karen Panetta l'a menée à identifier des biais critiques dans les systèmes de reconnaissance faciale et à défendre une technologie transparente protégeant le bien-être humain.

Par

• Esther Shittu, journaliste
• Shaun Sutner, directeur de l'information senior

Publié le : 1er juillet 2025

Le chemin vers le diplôme d'ingénieure de Karen Panetta a commencé avec le conseil de son père que son habitude de shopping devait être soutenue par une carrière financière solide.

Après avoir passé du temps à construire des ordinateurs et concevoir des CPU, la fellow IEEE et doyenne de l'éducation supérieure en ingénierie à l'Université Tufts a cherché à entrer dans le monde académique. Cependant, elle a réalisé qu'il y avait un gros problème dans le domaine de l'ingénierie.

"Ils ont dit : 'Nous vous engageons pour être un mentor pour les femmes', et quand je suis arrivée à ma première classe, il n'y avait pas de femmes", a raconté Panetta dans le dernier épisode du podcast Targeting AI d'Informa TechTarget. "C'est comme ça que je suis devenue une mentor accidentelle, une partisane et une championne pour amener des publics inclusifs dans l'ingénierie."

Cette passion s'est ensuite transposée à la technologie IA lorsqu'elle a commencé à travailler pour secourir des enfants de la traite humaine.

"J'ai remarqué que tous les jeux de données entraînés pour la reconnaissance faciale étaient pris de face, les deux oreilles visibles", a dit Panetta. "La base de données provenait principalement de personnes de couleur et de bases de données criminelles. Donc c'était genre, OK, il y a un biais là tout de suite."

En réponse, Panetta et son équipe ont créé une base de données diversifiée de personnes du monde entier, âgées de 3 à 78 ans. Les images montrent des personnes dans différents scénarios, avec lunettes de soleil, masques ou différentes rotations de tête.

"Une IA entraînée avec des données très pures ne fonctionnera pas dans le monde réel", a dit Panetta. "Le monde réel ne se traduit pas automatiquement en IA."

Panetta a ajouté que la technologie IA doit aussi être éthique, ce qui signifie ne pas nuire aux personnes ou à leur gagne-pain.

"Quand on parle d'IA éthique, on parle de comment on la collecte, des droits des gens et de comment on va l'utiliser", a-t-elle dit.

Pendant ce temps, l'IA responsable consiste à pouvoir expliquer pourquoi le système IA a pris la décision qu'il a prise, a-t-elle dit.

Esther Shittu est journaliste et animatrice de podcast chez Informa TechTarget, couvrant les logiciels et systèmes IA. Shaun Sutner est directeur de l'information senior pour l'équipe de gestion de l'information d'Informa TechTarget, pilotant la couverture de l'IA, de l'analytique et des technologies de gestion des données, ainsi que de la big tech et de la régulation fédérale. Il est journaliste vétéran avec plus de 30 ans d'expérience. Ensemble, ils couvrent le podcast Targeting AI.

Creuser davantage sur les technologies IA

• 11 exemples concrets d'IA agentique et cas d'usage

  Par : Mary Pratt

• La vision IA entreprise d'IBM pour la personnalisation, la collaboration

  Par : Esther Shittu

• La CEO de Black Girls Code dit que la diversité dans l'IA inclut tout le monde

  Par : Esther Shittu

• Comment Cerebras aborde la concurrence contre Nvidia

  Par : Esther Shittu