Przetwarzanie języka naturalnego (NLP) nie jest magią. Jest to dziedzina informatyki, która pozwala maszynom naśladować komunikację ludzką. Cel jest prosty, ale jego realizacja jest trudna. Komputery muszą analizować słowa pisane i mówione, korzystając z lingwistyki obliczeniowej, statystyki i głębokiego uczenia się. Oni nie myślą. Obliczają prawdopodobieństwa.
Wczesne próby opierały się na ręcznie kodowanych regułach. Nie udało im się, bo brakowało im niuansów. Język ludzki jest chaotyczny. Sarkazm. Frazeologia. Metafory. Pojęć tych uczymy się poprzez doświadczenie. Maszyna wymaga jawnego programowania, aby je rozróżnić. Wczesne modele nie obsługiwały wyjątków. Rezultatem było brutalne, zautomatyzowane generowanie tekstu.
Potem przyszło statystyczne NLP. Podejście to wykorzystywało prawdopodobieństwo do przypisania znaczenia fragmentom tekstu. To był krok naprzód. Nowoczesne systemy idą dalej. Wykorzystują modele głębokiego uczenia się do „uczenia się” wzorców podczas przetwarzania danych. To nie jest zrozumienie. Jest to złożone programowanie, które generuje reakcje podobne do ludzkich. Maszyna przewiduje następne najbardziej prawdopodobne słowo. Ona nie zna prawdy.
„Takich systemów nie można nazwać „rozumiejącymi” to, co analizują; raczej używają wyrafinowanego programowania i prawdopodobieństwa, aby generować reakcje podobne do ludzkich”.
Pojawienie się dużych modeli językowych zmieniło wszystko. Te systemy sztucznej inteligencji przewidują zakończenia zdań na podstawie istniejącego tekstu. GPT-3, wydany przez OpenAI w czerwcu 2020 r., był przełomowym osiągnięciem. Potrafiła rozwiązywać problemy matematyczne na poziomie szkolnym. Napisała kod komputerowy. Był to jeden z pierwszych dużych modeli językowych, który zademonstrował ten zakres możliwości.
ChatGPT został uruchomiony w listopadzie 2022 roku. Na tym fundamencie został zbudowany. Reakcją był natychmiastowy szok. Zaniepokojeni byli naukowcy i dziennikarze. Tekst pisany jest nie do odróżnienia od tekstu ludzkiego. Granica między generowanymi treściami a ludzkim myśleniem zatarła się z dnia na dzień.
Ale NLP to nie tylko chatboty. Jest obecny w nawigatorze Twojego samochodu. Zasila systemy sterowania głosowego. Polegają na tym chatboty obsługi klienta. Programy tłumaczeniowe korzystają z niego na co dzień. Firmy używają go do automatycznego uzupełniania zapytań. Monitoruje media społecznościowe, aby zrozumieć konsumentów. Ta technologia jest wszędzie. Jest to po prostu mniej zauważalne.
Ta widoczność niesie ze sobą ryzyko. Podobieństwo to poważny problem. Algorytmy uczenia maszynowego odzwierciedlają dane szkoleniowe. Jeśli dane są stronnicze, wynik będzie stronniczy. Poproś model NLP o opisanie lekarza. Może domyślnie powiedzieć: „On jest lekarzem”. Potrafi zignorować stwierdzenie: „Ona jest lekarzem”. Jest to wrodzone uprzedzenie związane z płcią. To nie jest błąd w kodzie. To jest błąd danych.
Konsekwencje są realne. W 2015 r. program sprawdzania CV oparty na NLP firmy Amazon uległ awarii. Dyskryminowała kobiety. Modelka została wyszkolona na podstawie życiorysów mężczyzn dominujących w określonych rolach. Nauczyła się wierzyć, że kobiety są mniej wykwalifikowane. Ukarała ich za to. To nie było złośliwe. To była możliwość.
Jest jeszcze inny problem. Halucynacje. Modele oparte na prawdopodobieństwie, takie jak ChatGPT, unikają mówienia „nie wiem”. W odpowiedzi podają prawdopodobny tekst. Tekst ten często jest niezgodny ze stanem faktycznym. Model generuje kłamstwa, ponieważ brzmi wiarygodnie. Ona nie sprawdza faktów. Ona po prostu kontynuuje schemat.
Coraz więcej zadań przenosimy na te systemy. Pisanie tekstów. Programowanie. Zatrudnianie pracowników. Napędowy. Ufamy im, bo brzmią po ludzku. Ale oni obliczają tylko prawdopodobieństwa. Pogłębia się przepaść pomiędzy brzmieniem ludzkim a byciem człowiekiem. A może nigdy nie istniał. Chcemy po prostu wierzyć w jego istnienie.
