Die Verarbeitung natürlicher Sprache ist keine Zauberei. Dabei handelt es sich um einen Zweig der Informatik, der es Maschinen ermöglicht, die menschliche Kommunikation nachzuahmen. Das Ziel ist einfach, aber die Umsetzung ist brutal. Computer müssen geschriebene und gesprochene Wörter mithilfe von Computerlinguistik, Statistik und Deep Learning analysieren. Sie denken nicht. Sie berechnen Wahrscheinlichkeiten.
Frühe Versuche waren handcodierte Regeln. Sie scheiterten, weil es ihnen an Nuancen mangelte. Die menschliche Sprache ist chaotisch. Sarkasmus. Redewendungen. Metaphern. Diese Konzepte werden durch Erfahrung erlernt. Eine Maschine benötigt eine explizite Programmierung, um sie zu unterscheiden. Frühe Modelle konnten Ausnahmen nicht verarbeiten. Das Ergebnis war eine steife, roboterhafte Ausgabe.
Dann kam das statistische NLP. Bei diesem Ansatz wurde die Wahrscheinlichkeit genutzt, um Textsegmenten eine Bedeutung zuzuordnen. Es war ein Schritt nach vorne. Moderne Systeme gehen noch weiter. Sie nutzen Deep-Learning-Modelle, um bei der Datenverarbeitung Muster zu „lernen“. Das ist kein Verständnis. Es handelt sich um eine komplexe Programmierung, die menschenähnliche Reaktionen erzeugt. Die Maschine sagt das nächste wahrscheinliche Wort voraus. Es kennt die Wahrheit nicht.
„Man kann nicht sagen, dass solche Systeme ‚verstehen‘, was sie analysieren; vielmehr nutzen sie komplexe Programmierung und Wahrscheinlichkeit, um menschenähnliche Reaktionen zu erzeugen.“
Der Aufstieg großer Sprachmodelle veränderte alles. Diese KI-Systeme sagen Satzenden basierend auf vorhandenem Text voraus. GPT-3, das im Juni 2020 von OpenAI veröffentlicht wurde, war ein Meilenstein. Es könnte Matheaufgaben in der Oberstufe lösen. Es hat Computercode geschrieben. Es war eines der ersten großen Sprachmodelle, das diesen Bereich aufwies.
ChatGPT wurde im November 2022 gestartet. Es wurde auf dieser Grundlage aufgebaut. Die Reaktion war ein sofortiger Schock. Wissenschaftler und Journalisten waren besorgt. Die Schrift war nicht von menschlicher Arbeit zu unterscheiden. Die Grenze zwischen generiertem Inhalt und menschlichem Denken verschwimmt über Nacht.
Aber bei NLP geht es nicht nur um Chatbots. Es befindet sich im GPS Ihres Autos. Es versorgt sprachgesteuerte Systeme. Darauf verlassen sich Kundenservice-Chatbots. Übersetzungsprogramme verwenden es täglich. Unternehmen nutzen es, um Suchanfragen automatisch zu vervollständigen. Sie überwachen soziale Medien, um die Verbraucher zu verstehen. Die Technologie ist überall. Es ist nur weniger sichtbar.
Diese Sichtbarkeit birgt Risiken. Voreingenommenheit ist eine große Herausforderung. Algorithmen des maschinellen Lernens spiegeln ihre Trainingsdaten wider. Wenn die Daten verzerrt sind, ist die Ausgabe auch verzerrt. Bitten Sie ein NLP-Modell, einen Arzt zu beschreiben. Die Standardeinstellung lautet möglicherweise „Er ist Arzt“. Es könnte „Sie ist Ärztin“ ignorieren. Dies ist eine inhärente Geschlechtervoreingenommenheit. Es handelt sich nicht um einen Fehler im Code. Es handelt sich um einen Datenfehler.
Die Konsequenzen sind real. Im Jahr 2015 scheiterte das NLP-Programm von Amazon zur Prüfung von Lebensläufen. Es diskriminierte Frauen. Das Model wurde anhand von Lebensläufen aus männlich dominierten Rollen geschult. Es stellte sich heraus, dass Frauen weniger qualifiziert waren. Es bestrafte sie dafür. Das war keine Bosheit. Es war Wahrscheinlichkeit.
Es gibt noch ein anderes Problem. Halluzinationen. Wahrscheinlichkeitsbasierte Modelle wie ChatGPT vermeiden es, „Ich weiß nicht“ zu sagen. Sie antworten mit wahrscheinlichem Text. Dieser Text ist oft sachlich ungenau. Das Modell erzeugt eine Lüge, weil es richtig klingt. Es werden keine Fakten überprüft. Es setzt einfach das Muster fort.
Wir übergeben diesen Systemen mehr Aufgaben. Schreiben. Codierung. Einstellung. Fahren. Wir vertrauen ihnen, weil sie menschlich klingen. Aber sie berechnen nur Wahrscheinlichkeiten. Die Kluft zwischen menschlich klingen und menschlich sein wird immer größer. Oder vielleicht hat es nie existiert. Wir wollen einfach nur glauben, dass es so ist.
