La nouvelle IA peut détecter si une source d'information est exacte ou politiquement biaisée

• Le nouvel algorithme d'apprentissage automatique se concentre sur les sources d'actualités plutôt que sur la simple suppression des déclarations individuelles, afin de détecter les informations fausses et biaisées.
• Pour les nouveaux articles d'actualité, il a atteint une précision allant jusqu'à 70 %.
• Il ne nécessite que 150 contenus pour déterminer si la source est fiable ou non.

Les plateformes de médias sociaux ont rendu extrêmement facile pour quiconque de partager et de diffuser des informations sur Internet. Cela a donné lieu à la prolifération de fausses nouvelles qui sont généralement générées soit pour modifier les sentiments des gens et influencer de grands événements comme les élections politiques, soit pour attirer du trafic et générer des revenus en affichant des publicités.

Alors que de nombreux géants de la technologie consacrent des ressources importantes à la création de leurs propres systèmes de détection de fausses informations, les chercheurs du MIT et du Qatar Computing Research Institute pensent que la meilleure stratégie pour détecter les fausses informations consiste à se concentrer sur les sources d'information plutôt que sur l'analyse des déclarations individuelles.

En utilisant cette approche, ils ont développé une nouvelle méthode basée sur l'apprentissage automatique qui détermine si une source est digne de confiance ou non. Fondamentalement, il caractérise l'ensemble des médias d'information, prévoyant la réalité du reportage.

Comment cela détermine-t-il les informations biaisées ?

L'idée derrière le système est que si un site a déjà publié des faits erronés, il y a une bonne probabilité qu'il le fasse à nouveau. L'analyse d'autres contenus sur ces sites Web peut aider le système à déterminer quels sites sont susceptibles de le faire en premier lieu.

Pour identifier de manière fiable les fausses nouvelles, on peut rechercher des caractéristiques linguistiques communes telles que la structure, la complexité et le sentiment dans l'article. Par exemple, la plupart des fausses nouvelles utilisent un langage émotionnel, subjectif et hyperbolique.

Dans cette étude, ils expérimentent plusieurs fonctionnalités dérivées de

1. Contenus de sources d'actualités cibles,
2. son compte Twitter et sa page Wikipédia
3. sa structure d'URL
4. le nombre de visiteurs qu'il reçoit

Ils ont recueilli des données à partir d'un site Web Media Bias/Fact Check. Avec l'aide d'examinateurs humains, ce site Web examine la réalité et les préjugés de près de deux mille sites d'actualités, y compris des sources médiatiques populaires et des fermes de contenu restreint.

Référence : arXiv:1810.01765 | MIT

Ces données ont été transmises à un modèle d'apprentissage automatique, qui est développé pour classer les sources de la même manière que le fait un site Web d'examen humain. Le modèle a donné des résultats impressionnants :pour les nouveaux articles de presse, il a atteint une précision de 65 % pour déterminer si l'article a un niveau de factualité faible, moyen ou élevé, et il était précis de 70 % pour déterminer si le contenu est orienté à droite, de gauche ou modéré.

Crédit image :MIT

Les chercheurs affirment que le système ne nécessite que 150 contenus pour déterminer avec précision si le site Web source est fiable ou non. Ainsi, il peut filtrer les fausses nouvelles avant qu'elles ne se propagent trop largement sur Internet.

Quelle est la prochaine étape ?

Les chercheurs travaillent actuellement sur le système pour améliorer sa précision et le faire fonctionner en conjonction avec les analyseurs de faits conventionnels. Si le système fournit des résultats « bizarres ou déroutants » sur un sujet spécifique, les plates-formes d'examen manuel pourraient rapidement vérifier ces résultats et déterminer la validité à accorder aux différentes perspectives.

Les auteurs ont également généré un ensemble de données open source de près d'un millier de sites Web d'actualités balisés avec des scores de précision et de biais. Ils prévoient également de déployer des applications mobiles pour aider les gens à sortir de leurs bulles politiques. De plus, ils essaieront de former le système pour qu'il fonctionne également avec d'autres langues. Ils veulent aller au-delà des biais droite/gauche et modéliser d'autres formes de biais plus pertinentes pour d'autres régions.

Lire :Un nouvel algorithme générique pour détecter les faux identifiants sur les sites de réseaux sociaux

Ce type d'algorithmes pourrait aider les gens à comprendre à quoi ressemblent les faux sites et le type d'article qu'ils ont tendance à publier.