Outil IA détecte la fiabilité et le biais politique des sources d'information

• Un nouvel algorithme d'apprentissage automatique se concentre sur les sources d'information plutôt que sur les seules affirmations individuelles, pour détecter les fausses nouvelles et les biais.
• Pour les nouveaux articles, il a atteint une précision allant jusqu'à 70 %.
• Il ne nécessite que 150 contenus pour déterminer si la source est fiable ou non.

Les plateformes de médias sociaux ont rendu extrêmement facile pour quiconque de partager et diffuser de l'information sur Internet. Cela a entraîné la prolifération de fausses nouvelles, généralement générées soit pour altérer les sentiments des gens et influencer de grands événements comme les élections politiques, soit pour attirer du trafic et gagner de l'argent en affichant des publicités.

Alors que de nombreux géants de la technologie investissent des ressources importantes dans la construction de leurs propres systèmes de détection de fausses nouvelles, des chercheurs du MIT et de l'Institut de recherche en informatique du Qatar estiment que la meilleure stratégie pour détecter les fausses nouvelles est de se concentrer sur les sources d'information plutôt que d'analyser uniquement les affirmations individuelles.

En utilisant cette approche, ils ont développé une nouvelle méthode basée sur l'apprentissage automatique qui détermine si une source est digne de confiance ou non. Fondamentalement, elle caractérise l'ensemble des médias d'information, prédisant la factualité du reporting.

Comment détermine-t-elle les nouvelles biaisées ?

L'idée derrière le système est que si un site a publié de faux faits auparavant, il y a une probabilité décente qu'il le fasse à nouveau. L'analyse d'autres contenus sur de tels sites peut aider le système à déterminer quels sites sont susceptibles de le faire en premier lieu.

Pour identifier de manière fiable les fausses nouvelles, on peut rechercher des caractéristiques linguistiques communes comme la structure, la complexité et le sentiment dans l'article. Par exemple, la plupart des fausses nouvelles utilisent un langage émotionnel, subjectif et hyperbolique.

Dans cette étude, ils expérimentent avec plusieurs caractéristiques dérivées de :

1. Contenus des sources d'information ciblées,
2. leur compte Twitter et page Wikipedia
3. la structure de leur URL
4. le nombre de visiteurs qu'ils reçoivent

Ils ont collecté des données auprès du site Media Bias/Fact Check. Avec l'aide de réviseurs humains, ce site examine la factualité et les biais de près de deux mille sites d'information, y compris les sources médiatiques populaires et les fermes à contenu léger.

Référence : arXiv:1810.01765 | MIT

Ces données ont été fournies à un modèle d'apprentissage automatique, développé pour classer les sources de la même manière que le site de révision humaine. Le modèle a produit des résultats impressionnants : pour les nouveaux articles, il a atteint une précision de 65 % pour déterminer si l'article a un niveau de factualité faible, moyen ou élevé, et il était précis à 70 % pour déterminer si le contenu est penché à droite, à gauche ou modéré.

Crédit image : MIT

Les chercheurs affirment que le système ne nécessite que 150 contenus pour déterminer avec précision si le site source peut être fiable ou non. Ainsi, il peut filtrer les fausses nouvelles avant qu'elles ne se propagent trop largement sur Internet.

Quelle suite ?

Les chercheurs travaillent actuellement sur le système pour améliorer sa précision et le faire fonctionner en conjonction avec les analyseurs de faits conventionnels. Si le système fournit des résultats « étranges ou confus » sur un sujet spécifique, les plateformes de révision manuelle pourraient vérifier rapidement ces résultats et déterminer quelle validité accorder aux différentes perspectives.

Les auteurs ont également généré un jeu de données open source d'environ mille sites d'information étiquetés avec des scores de précision et de biais. Ils prévoient également de lancer des applications mobiles pour aider les gens à sortir de leurs bulles politiques. De plus, ils essaieront d'entraîner le système à fonctionner avec d'autres langues. Ils veulent aller au-delà du biais droite/gauche et modéliser d'autres formes de biais plus pertinentes pour d'autres régions.

À lire : Un nouvel algorithme générique pour détecter de faux profils sur les réseaux sociaux

Ce type d'algorithmes pourrait aider les gens à comprendre à quoi ressemblent les sites frauduleux et le type d'articles qu'ils ont tendance à publier.