El procesamiento del lenguaje natural no es mágico. Es una rama de la informática que permite a las máquinas imitar la comunicación humana. El objetivo es simple pero la ejecución es brutal. Las computadoras deben analizar palabras escritas y habladas utilizando lingüística computacional, estadística y aprendizaje profundo. No piensan. Calculan probabilidades.
Los primeros intentos fueron reglas codificadas a mano. Fracasaron porque carecieron de matices. El lenguaje humano es confuso. Sarcasmo. Modismos. Metáforas. Estos conceptos se aprenden a través de la experiencia. Una máquina necesita programación explícita para diferenciarlos. Los primeros modelos no podían soportar excepciones. El resultado fue una producción rígida y robótica.
Luego vino la PNL estadística. Este enfoque utilizó la probabilidad para asignar significado a segmentos de texto. Fue un paso adelante. Los sistemas modernos van más allá. Utilizan modelos de aprendizaje profundo para “aprender” patrones mientras procesan datos. Esto no es comprensión. Es una programación compleja que genera respuestas similares a las humanas. La máquina predice la siguiente palabra probable. No sabe la verdad.
“No se puede decir que tales sistemas ‘entiendan’ lo que están analizando; más bien, utilizan programación compleja y probabilidad para generar respuestas similares a las humanas”.
El surgimiento de grandes modelos lingüísticos lo cambió todo. Estos sistemas de inteligencia artificial predicen finales de oraciones basándose en el texto existente. GPT-3, lanzado por OpenAI en junio de 2020, fue un hito. Podría resolver problemas de matemáticas de la escuela secundaria. Escribió código de computadora. Fue uno de los primeros modelos de lenguaje grandes en mostrar este rango.
ChatGPT se lanzó en noviembre de 2022. Se construyó sobre esa base. La reacción fue de shock inmediato. Académicos y periodistas preocupados. La escritura era indistinguible del trabajo humano. La línea entre el contenido generado y el pensamiento humano se difuminó de la noche a la mañana.
Pero la PNL no se trata sólo de chatbots. Está en el GPS de tu coche. Alimenta sistemas operados por voz. Los chatbots de atención al cliente dependen de ello. Los programas de traducción lo utilizan a diario. Las empresas lo utilizan para completar automáticamente consultas de búsqueda. Supervisan las redes sociales para comprender a los consumidores. La tecnología está en todas partes. Simplemente es menos visible.
Esta visibilidad conlleva riesgos. El sesgo es un desafío importante. Los algoritmos de aprendizaje automático reflejan sus datos de entrenamiento. Si los datos están sesgados, la salida también lo está. Pídale a un modelo de PNL que describa a un médico. El valor predeterminado podría ser “Él es médico”. Podría ignorar “Ella es doctora”. Este es un sesgo de género inherente. No es un error en el código. Es un error en los datos.
Las consecuencias son reales. En 2015, el programa PNL de Amazon para la selección de currículums fracasó. Discriminó a las mujeres. El modelo fue entrenado con currículums de roles dominados por hombres. Aprendió que las mujeres estaban menos calificadas. Los castigó por ello. Esto no fue malicia. Era probabilidad.
Hay otro problema. Alucinaciones. Los modelos basados en probabilidades como ChatGPT evitan decir “No lo sé”. Responden con texto probable. Ese texto suele ser objetivamente inexacto. El modelo genera una mentira porque suena bien. No verifica hechos. Simplemente continúa el patrón.
Estamos entregando más tareas a estos sistemas. Escribiendo. Codificación. Contratación. Conduciendo. Confiamos en ellos porque suenan humanos. Pero sólo están calculando probabilidades. La brecha entre parecer humano y ser humano se está ampliando. O tal vez nunca existió. Sólo queremos creer que así es.
