Natuurlijke taalverwerking is geen magie. Het is een tak van de informatica die machines menselijke communicatie laat nabootsen. Het doel is simpel, maar de uitvoering is wreed. Computers moeten geschreven en gesproken woorden ontleden met behulp van computationele taalkunde, statistiek en deep learning. Ze denken niet. Ze berekenen kansen.
Vroege pogingen waren met de hand gecodeerde regels. Ze faalden omdat ze geen nuance hadden. Menselijke taal is rommelig. Sarcasme. Idiomen. Metaforen. Deze concepten worden door ervaring geleerd. Een machine heeft expliciete programmering nodig om ze te onderscheiden. Vroege modellen konden geen uitzonderingen aan. Het resultaat was een stijve, robotachtige output.
Toen kwam statistische NLP. Deze benadering maakte gebruik van waarschijnlijkheid om betekenis aan tekstsegmenten toe te kennen. Het was een stap voorwaarts. Moderne systemen gaan verder. Ze gebruiken deep-learningmodellen om patronen te ‘leren’ terwijl ze gegevens verwerken. Dit is geen begrip. Het is een complexe programmering die menselijke reacties genereert. De machine voorspelt het volgende waarschijnlijke woord. Het kent de waarheid niet.
“Van dergelijke systemen kan niet worden gezegd dat ze ‘begrijpen’ wat ze analyseren; in plaats daarvan gebruiken ze complexe programmering en waarschijnlijkheid om menselijke reacties te genereren.”
De opkomst van grote taalmodellen veranderde alles. Deze AI-systemen voorspellen zinseindes op basis van bestaande tekst. GPT-3, uitgebracht door OpenAI in juni 2020, was een mijlpaal. Het zou wiskundeproblemen op de middelbare school kunnen oplossen. Het schreef computercode. Het was een van de eerste grote taalmodellen die dit bereik vertoonde.
ChatGPT werd gelanceerd in november 2022. Het is op dat fundament gebouwd. De reactie was een onmiddellijke schok. Academici en journalisten maken zich zorgen. Het schrijven was niet te onderscheiden van menselijk werk. De grens tussen gegenereerde inhoud en het menselijk denken vervaagde van de ene op de andere dag.
Maar NLP gaat niet alleen over chatbots. Het zit in de GPS van uw auto. Het drijft stemgestuurde systemen aan. Chatbots van de klantenservice vertrouwen erop. Vertaalprogramma’s maken er dagelijks gebruik van. Bedrijven gebruiken het om zoekopdrachten automatisch aan te vullen. Ze monitoren sociale media om consumenten te begrijpen. De technologie is overal. Het is alleen minder zichtbaar.
Deze zichtbaarheid brengt risico’s met zich mee. Vooroordelen zijn een grote uitdaging. Algoritmen voor machinaal leren weerspiegelen hun trainingsgegevens. Als de gegevens scheef zijn, is de uitvoer dat ook. Vraag een NLP-model om een arts te beschrijven. Het kan zijn dat de standaardinstelling ‘Hij is een dokter’ is. Het negeert misschien ‘Ze is een dokter’. Dit is een inherente gendervooroordelen. Het is geen fout in de code. Het is een fout in de gegevens.
De gevolgen zijn reëel. In 2015 mislukte het NLP-programma van Amazon voor het screenen van cv’s. Het discrimineerde vrouwen. Het model werd getraind op cv’s van door mannen gedomineerde rollen. Het leerde dat vrouwen minder gekwalificeerd waren. Het heeft hen ervoor gestraft. Dit was geen boosaardigheid. Het was waarschijnlijkheid.
Er is nog een probleem. Hallucinaties. Op waarschijnlijkheid gebaseerde modellen zoals ChatGPT vermijden het zeggen van “Ik weet het niet.” Ze reageren met waarschijnlijke tekst. Die tekst is vaak feitelijk onjuist. Het model genereert een leugen omdat het goed klinkt. Het verifieert geen feiten. Het zet gewoon het patroon voort.
Wij dragen steeds meer taken over aan deze systemen. Schrijven. Codering. Aanwerven. Rijden. We vertrouwen ze omdat ze menselijk klinken. Maar ze berekenen slechts waarschijnlijkheden. De kloof tussen mens klinken en mens zijn wordt groter. Of misschien heeft het nooit bestaan. Wij willen gewoon geloven dat dit zo is.
