O processamento de linguagem natural não é mágico. É um ramo da ciência da computação que permite que as máquinas imitem a comunicação humana. O objetivo é simples, mas a execução é brutal. Os computadores devem analisar palavras escritas e faladas usando linguística computacional, estatística e aprendizagem profunda. Eles não pensam. Eles calculam probabilidades.
As primeiras tentativas eram regras codificadas manualmente. Eles falharam porque não tinham nuances. A linguagem humana é confusa. Sarcasmo. Idiomas. Metáforas. Esses conceitos são aprendidos através da experiência. Uma máquina precisa de programação explícita para diferenciá-las. Os primeiros modelos não conseguiam lidar com exceções. O resultado foi uma produção rígida e robótica.
Depois veio a PNL estatística. Esta abordagem usou probabilidade para atribuir significado aos segmentos de texto. Foi um passo em frente. Os sistemas modernos vão mais longe. Eles usam modelos de aprendizagem profunda para “aprender” padrões à medida que processam dados. Isto não é compreensão. É uma programação complexa que gera respostas semelhantes às humanas. A máquina prevê a próxima palavra provável. Não conhece a verdade.
“Não se pode dizer que tais sistemas ‘compreendem’ o que estão analisando; em vez disso, eles usam programação complexa e probabilidade para gerar respostas semelhantes às humanas.”
A ascensão de grandes modelos de linguagem mudou tudo. Esses sistemas de IA prevêem finais de frases com base no texto existente. O GPT-3, lançado pela OpenAI em junho de 2020, foi um marco. Poderia resolver problemas de matemática do ensino médio. Ele escreveu código de computador. Foi um dos primeiros grandes modelos de linguagem a mostrar essa gama.
ChatGPT foi lançado em novembro de 2022. Foi construído sobre essa base. A reação foi de choque imediato. Acadêmicos e jornalistas preocupados. A escrita era indistinguível do trabalho humano. A linha entre o conteúdo gerado e o pensamento humano ficou turva da noite para o dia.
Mas a PNL não trata apenas de chatbots. Está no GPS do seu carro. Ele alimenta sistemas operados por voz. Os chatbots de atendimento ao cliente contam com isso. Os programas de tradução utilizam-no diariamente. As empresas o utilizam para preencher automaticamente as consultas de pesquisa. Eles monitoram as mídias sociais para entender os consumidores. A tecnologia está em toda parte. É apenas menos visível.
Essa visibilidade traz riscos. O preconceito é um grande desafio. Algoritmos de aprendizado de máquina refletem seus dados de treinamento. Se os dados estiverem distorcidos, a saída também estará. Peça a um modelo de PNL para descrever um médico. O padrão pode ser “Ele é médico”. Pode ignorar “Ela é médica”. Este é um preconceito de género inerente. Não é um erro no código. É um erro nos dados.
As consequências são reais. Em 2015, o programa de PNL da Amazon para triagem de currículos falhou. Discriminou as mulheres. O modelo foi treinado em currículos de funções dominadas por homens. Aprendeu que as mulheres eram menos qualificadas. Isso os puniu por isso. Isto não foi maldade. Foi probabilidade.
Há outro problema. Alucinações. Modelos baseados em probabilidade, como ChatGPT, evitam dizer “não sei”. Eles respondem com texto provável. Esse texto é muitas vezes factualmente impreciso. O modelo gera uma mentira porque parece certo. Não verifica fatos. Apenas continua o padrão.
Estamos entregando mais tarefas a esses sistemas. Escrita. Codificação. Contratando. Condução. Confiamos neles porque parecem humanos. Mas eles estão apenas calculando probabilidades. A lacuna entre parecer humano e ser humano está aumentando. Ou talvez nunca tenha existido. Só queremos acreditar que sim.
