L’elaborazione del linguaggio naturale non è magica. È una branca dell’informatica che consente alle macchine di imitare la comunicazione umana. L’obiettivo è semplice ma l’esecuzione è brutale. I computer devono analizzare le parole scritte e parlate utilizzando la linguistica computazionale, la statistica e il deep learning. Non pensano. Calcolano le probabilità.
I primi tentativi erano regole codificate manualmente. Hanno fallito perché mancavano di sfumature. Il linguaggio umano è disordinato. Sarcasmo. Idiomi. Metafore. Questi concetti si apprendono attraverso l’esperienza. Una macchina ha bisogno di una programmazione esplicita per differenziarli. I primi modelli non potevano gestire le eccezioni. Il risultato è stato un risultato rigido e robotico.
Poi è arrivata la PNL statistica. Questo approccio utilizzava la probabilità per assegnare significato ai segmenti di testo. È stato un passo avanti. I sistemi moderni vanno oltre. Usano modelli di deep learning per “apprendere” modelli mentre elaborano i dati. Questo non è capire. È una programmazione complessa che genera risposte umane. La macchina prevede la prossima parola probabile. Non conosce la verità.
“Non si può dire che tali sistemi ‘capiscono’ ciò che stanno analizzando; piuttosto, utilizzano una programmazione complessa e probabilità per generare risposte simili a quelle umane.”
L’ascesa di grandi modelli linguistici ha cambiato tutto. Questi sistemi di intelligenza artificiale prevedono la fine delle frasi in base al testo esistente. GPT-3, rilasciato da OpenAI nel giugno 2020, ha rappresentato una pietra miliare. Potrebbe risolvere i problemi di matematica delle scuole superiori. Ha scritto il codice del computer. È stato uno dei primi modelli linguistici di grandi dimensioni a mostrare questa gamma.
ChatGPT è stato lanciato nel novembre 2022. È stato costruito su queste basi. La reazione è stata shock immediato. Accademici e giornalisti preoccupati. La scrittura era indistinguibile dal lavoro umano. Il confine tra contenuto generato e pensiero umano si è offuscato da un giorno all’altro.
Ma la PNL non riguarda solo i chatbot. È nel GPS della tua auto. Alimenta i sistemi a comando vocale. I chatbot del servizio clienti si affidano a questo. I programmi di traduzione lo usano quotidianamente. Le aziende lo utilizzano per completare automaticamente le query di ricerca. Monitorano i social media per comprendere i consumatori. La tecnologia è ovunque. È solo meno visibile.
Questa visibilità comporta rischi. Il pregiudizio è una sfida importante. Gli algoritmi di apprendimento automatico riflettono i dati di addestramento. Se i dati sono distorti, lo è anche l’output. Chiedi a un modello PNL di descrivere un medico. Per impostazione predefinita potrebbe essere “È un dottore”. Potrebbe ignorare “Lei è un dottore”. Questo è un pregiudizio di genere intrinseco. Non è un errore nel codice. È un errore nei dati.
Le conseguenze sono reali. Nel 2015, il programma PNL di Amazon per lo screening dei curriculum è fallito. Ha discriminato le donne. Il modello è stato addestrato su curriculum di ruoli dominati dagli uomini. Si è appreso che le donne erano meno qualificate. Li ha puniti per questo. Questa non era malizia. Era probabilità.
C’è un altro problema. Allucinazioni. I modelli basati sulla probabilità come ChatGPT evitano di dire “Non lo so”. Rispondono con un testo probabile. Quel testo è spesso sostanzialmente inesatto. Il modello genera una bugia perché sembra giusto. Non verifica i fatti. Continua semplicemente lo schema.
Stiamo affidando più compiti a questi sistemi. Scrivere. Codifica. Assumere. Guida. Ci fidiamo di loro perché sembrano umani. Ma stanno solo calcolando le probabilità. Il divario tra il sembrare umano e l’essere umano si sta ampliando. O forse non è mai esistito. Vogliamo solo credere che sia così.
