L'IA approche la compréhension sémantique : La prochaine frontière du NLP

L'IA est un abus de langage, ou du moins c'est souvent suggéré. La première lettre — artificiel — est à peu près juste. Quant au second mot — eh bien, il n'y a rien d'intelligent là-dedans. Prenez la sémantique comme exemple, il n'y a rien de lointainement intelligent, ou autrement, sur la technologie artificielle comprenant le sens dans les phrases, paragraphes et livres pour la simple raison, elle est sans relâche mauvaise à cela.

Mais cela pourrait-il être sur le point de changer ? Récemment, nous nous sommes assis avec Hadayat Seddiqi, directeur du machine learning chez l'entreprise legal tech InCloudCounsel. Il estime que l'IA est proche d'atteindre une compréhension de la sémantique comme prochaine étape de son évolution. Nous avons demandé : « quand sommes-nous susceptibles d'atteindre cette étape ? »

SEO : si vous êtes un écrivain, qui prend de la fierté dans votre écriture, en appliquant votre lexique pour exprimer une idée sans répétition, alors vous détestez probablement le SEO. Si vous aimez faire un argument complexe, qui ne peut vraiment être exprimé sur une phrase, un chapitre, un article ou même un livre, alors le SEO, à cause de la façon dont il vous force à simplifier les arguments en deux ou trois ou quatre mots, comme IA et compréhension sémantique, est l'ennemi. (Voyez ce qu'on a fait, là ?)

Ne serait-ce pas génial si la recherche, en utilisant l'IA pour comprendre la sémantique (là on y va encore) pouvait créer des résultats de recherche basés sur une compréhension bien plus sophistiquée — intelligente, si vous voulez — éliminant le besoin de répétition fastidieuse !

Le marché du traitement du langage naturel devrait en fait atteindre 22,3 milliards de dollars d'ici 2025 — ce qui illustre à quel point la technologie est venue loin, particulièrement dans comment nous communiquons et faisons des affaires.

Actuellement, ces technologies sont utilisées pour une variété de buts au sein des organisations, incluant la surveillance de réputation de marques pour déterminer l'analyse de sentiment, fournir des insights sur les placements d'annonces via le matching de mots-clés ou la désambiguïsation de sens, et peuvent même être utilisées dans la conformité réglementaire pour s'assurer que les produits ne deviennent pas une responsabilité.

Dans ce cas, le vrai pouvoir de l'IA pour révolutionner les industries et déterminer les insights business clés, réside dans sa capacité à lire du texte et comprendre la sémantique (ou relation entre les mots) pour aider les organisations à davantage atténuer le risque et découvrir les responsabilités. En retour cela crée une valeur massive dans le traitement du langage naturel.

Alors, dans l'histoire de l'IA permettant la compréhension de la sémantique, quelle est la prochaine étape dans son évolution et quand sommes-nous susceptibles d'atteindre cette étape ?

Seddiqi dit : « Atteindre la compréhension sémantique en IA nécessitera plusieurs étapes clés. Il est utile de penser en termes de progrès itératif nous menant à la compréhension sémantique en IA et ce que chaque étape signifie. »

« Une étape précédente, » dit Seddiqi, est les Vecteurs de Mots : « Encadrons cette étape en termes d'un cas d'usage commun que la plupart des gens connaissent : la fonctionnalité de recherche sur un ordinateur. Tout le monde a utilisé Ctrl+F/Command+F pour trouver quelque chose sur leur système, qui trouve ce que vous cherchez en matchant les mots-clés exactement. De plus, utiliser un moteur de recherche comme Google pour trouver de l'information inclura un composant 'correcteur orthographique' pour adresser les fautes de frappe potentielles.

« Mais qu'en est-il des mots qui semblent très différents mais veulent dire des choses similaires ? Vers 2013, la communauté IA a trouvé un moyen efficace de modéliser cela appelé 'vecteurs de mots'. Vous pouvez faire des trucs d'algèbre de mots amusants, comme Roi + Femme vous donnera Reine. Plus pratiquement, vous pouvez maintenant étendre votre recherche pour inclure des mots sémantiquement liés. »

Prochaine étape dans la compréhension sémantique par l'IA

« Les vecteurs de mots étaient un game-changer, mais ils requéraient encore que vous exprimiez votre idée en termes d'un ou quelques mots-clés. Mais qu'est-ce qui se passe si votre idée nécessite une phrase entière pour s'exprimer ? C'est la prochaine étape, à laquelle nous arrivons grâce à une grande poussée en recherche l'année dernière.

« L'idée est que vous pouvez prendre une phrase, l'encoder en un vecteur de phrase (ou de pensée) et ensuite trouver des vecteurs de phrase similaires. Si encodé correctement, votre fonction de recherche peut trouver des phrases très différentes qui expriment la même idée.

« Ce n'est pas déraisonnable de dire que cette technologie mûrira dans les prochaines années, basée sur le progrès de la recherche actuelle. »

Étapes futures : IA comprenant au-delà des phrases

« Il y a un pattern clair de hiérarchie émergent dans la progression de cette technologie. Nous approchons de l'IA comprenant des idées au niveau phrase en utilisant des techniques similaires du niveau mot et les montant en échelle. Cela ouvre des applications excitantes pour l'IA comprenant des idées nécessitant des paragraphes, des documents entiers, ou même des livres entiers.

« Le saut récent de l'IA à la compréhension des phrases depuis les mots n'a pas été trivial car la capacité de le faire a été largement contrainte par la taille des datasets et la puissance de calcul. Notre capacité à créer des modèles pour gérer ces problèmes plus grands a jusqu'ici été montrée comme dépendant de ces deux contraintes de ressources.

« Alors que ces coûts déclinent grâce aux avancées en hardware IA, nous nous verrons nous approcher de modèles qui comprennent des collections de texte plus grandes. C'est quelque peu prouvé par le modèle GPT-2 d'Open AI, qui montre qu'en utilisant les mêmes designs de modèle d'encodage de phrase avec une grande quantité de données, produit des modèles qui comprennent déjà des concepts de haut niveau à travers de nombreuses phrases. Par exemple, GPT-2 comprend assez pour écrire des articles de nouvelles entiers avec une cohérence étonnante. »