IA et Viztech : une nouvelle ère pour un contenu en ligne plus sûr

Les entreprises médias en ligne peinent à modérer le matériel extrémiste avant qu'il n'apparaisse en ligne. David Fulton, CEO de WeSee, argue que la technologie pilotée par l'IA peut repérer le contenu dangereux avant qu'il ne soit jamais mis en ligne.

Officiels gouvernementaux et universitaires débattent de la meilleure façon d'endiguer la montée du contenu terroriste en ligne. Alors que des plateformes comme Facebook, Twitter et YouTube font face à une pression réglementaire croissante — les législateurs allemands ont récemment adopté une loi exigeant des grandes firmes internet de supprimer le matériel « manifestement illégal » sous 24h sous peine d'amendes jusqu'à 57 millions $ — la confiance dans leurs capacités de modération actuelles reste faible.

En juin, l'Université Harvard a accueilli la conférence Harmful Speech Online: At the Intersection of Algorithms and Human Behaviour, co-organisée par le Berkman Klein Center, le Shorenstein Center, et l'Institute for Strategic Dialogue basé à Londres. L'événement a mis en lumière le fossé critique entre le problème croissant du discours nuisible et les outils disponibles pour le traiter.

Le discours d'ouverture a souligné comment le contenu extrémiste façonne l'opinion publique et le discours politique, notant les déficits sévères de ressources et recherche qui entravent les réponses efficaces.

Détection automatisée : l'appel urgent

En septembre, des leaders du UK, France, et Italie ont rencontré les grandes entreprises internet à l'Assemblée Générale de l'ONU à New York. La PM britannique Theresa May a averti que l'échec à détecter et supprimer le contenu terroriste sous deux heures pourrait déclencher de lourdes pénalités. Ce délai est significatif — la recherche montre que deux-tiers de la propagande est partagée dans cette fenêtre, questionnant la réalisme de cette limite.

Google et YouTube ont annoncé des plans pour scaler leurs systèmes d'identification de contenu pilotés par l'IA. Pourtant le problème persiste. Un article récent du Telegraph rapportait que 54 000 sites offrant instructions de fabrication de bombes et autre propagande extrémiste étaient actifs entre août dernier et mai cette année, tous liés à des supporters de l'État Islamique.

Les projections de Cisco indiquent qu'en 2020 le web hébergera 65 trillions d'images et 6 trillions de vidéos, le trafic image et vidéo devant comprendre plus de 80 % du trafic internet total en moins de trois ans. Monitorer de tels volumes pour du contenu extrémiste est une tâche ardue — que l'intelligence artificielle de pointe pourrait aider à résoudre.

Viztech : une approche prédictive

Viztech, acteur pionnier de l'analyse de contenu visuel basée sur l'IA, a développé un filtre sophistiqué capable de détecter matériel adulte, violent — ainsi qu'imagerie terroriste — avant qu'il ne soit publié. En reconnaissant des symboles comme le drapeau ISIS ou les visages de figures extrémistes connues, le système de Viztech peut flagger du contenu en temps réel, bien avant toute interaction utilisateur.

Basé sur des réseaux de neurones deep-learning, la technologie opère à des vitesses jusqu'à 1 000 fois plus rapides que la cognition humaine, offrant à la fois filtrage prédictif et catégorisation précise de vidéos et images fixes. En essence, Viztech va au-delà de la modération réactive vers la prévention proactive, fournissant aux gouvernements, chercheurs, et plateformes un outil puissant pour sauvegarder l'écosystème en ligne.

David Fulton, CEO de WeSee