Le traitement du langage naturel n’est pas magique. Il s’agit d’une branche de l’informatique qui permet aux machines d’imiter la communication humaine. Le but est simple mais l’exécution est brutale. Les ordinateurs doivent analyser les mots écrits et parlés à l’aide de la linguistique informatique, des statistiques et de l’apprentissage profond. Ils ne pensent pas. Ils calculent des probabilités.
Les premières tentatives étaient des règles codées à la main. Ils ont échoué parce qu’ils manquaient de nuances. Le langage humain est compliqué. Sarcasme. Expressions idiomatiques. Métaphores. Ces concepts s’apprennent par l’expérience. Une machine a besoin d’une programmation explicite pour les différencier. Les premiers modèles ne pouvaient pas gérer les exceptions. Le résultat était une sortie robotique et rigide.
Puis vint la PNL statistique. Cette approche utilisait la probabilité pour attribuer une signification aux segments de texte. C’était un pas en avant. Les systèmes modernes vont plus loin. Ils utilisent des modèles d’apprentissage en profondeur pour « apprendre » des modèles au fur et à mesure qu’ils traitent les données. Ce n’est pas comprendre. Il s’agit d’une programmation complexe générant des réponses humaines. La machine prédit le prochain mot probable. Il ne connaît pas la vérité.
“On ne peut pas dire que de tels systèmes ‘comprennent’ ce qu’ils analysent ; ils utilisent plutôt une programmation et des probabilités complexes pour générer des réponses semblables à celles des humains.”
La montée en puissance de grands modèles linguistiques a tout changé. Ces systèmes d’IA prédisent les fins de phrases en fonction du texte existant. GPT-3, publié par OpenAI en juin 2020, a fait date. Cela pourrait résoudre des problèmes de mathématiques au lycée. Il a écrit du code informatique. Ce fut l’un des premiers grands modèles linguistiques à présenter cette gamme.
ChatGPT a été lancé en novembre 2022. Il a été construit sur cette base. La réaction a été un choc immédiat. Les universitaires et les journalistes sont inquiets. L’écriture ne se distinguait pas du travail humain. La frontière entre le contenu généré et la pensée humaine s’est estompée du jour au lendemain.
Mais la PNL ne concerne pas seulement les chatbots. C’est dans le GPS de votre voiture. Il alimente les systèmes à commande vocale. Les chatbots du service client en dépendent. Les programmes de traduction l’utilisent quotidiennement. Les entreprises l’utilisent pour compléter automatiquement les requêtes de recherche. Ils surveillent les médias sociaux pour comprendre les consommateurs. La technologie est partout. C’est juste moins visible.
Cette visibilité comporte des risques. Les préjugés constituent un défi majeur. Les algorithmes d’apprentissage automatique reflètent leurs données de formation. Si les données sont faussées, la sortie l’est également. Demandez à un modèle PNL de décrire un médecin. Il se peut que la valeur par défaut soit « Il est médecin ». Il pourrait ignorer « Elle est médecin ». Il s’agit d’un préjugé sexiste inhérent. Ce n’est pas une erreur de code. C’est une erreur dans les données.
Les conséquences sont réelles. En 2015, le programme NLP d’Amazon pour la sélection des CV a échoué. C’était discriminatoire à l’égard des femmes. Le modèle a été formé sur des CV de rôles à prédominance masculine. Il a appris que les femmes étaient moins qualifiées. Cela les a punis. Ce n’était pas de la méchanceté. C’était une probabilité.
Il y a un autre problème. Hallucinations. Les modèles basés sur les probabilités comme ChatGPT évitent de dire « Je ne sais pas ». Ils répondent avec un texte probable. Ce texte est souvent inexact sur le plan factuel. Le modèle génère un mensonge parce que cela semble juste. Il ne vérifie pas les faits. Cela continue simplement le modèle.
Nous confions davantage de tâches à ces systèmes. En écrivant. Codage. Embauche. Conduite. Nous leur faisons confiance parce qu’ils semblent humains. Mais ils ne font que calculer des probabilités. L’écart entre avoir l’air humain et être humain se creuse. Ou peut-être que cela n’a jamais existé. Nous voulons juste croire que c’est le cas.
