La exploración espacial está entrando en una era extraña. Estamos entregando las claves para el descubrimiento de extraterrestres a máquinas que en realidad no saben lo que significa “vida”.
Esto importa.
Si un chatbot puede inventar con confianza un precedente legal falso o un libro inexistente, imaginen lo que está en juego cuando la NASA se apoya en la inteligencia artificial para la detección de vida extraterrestre. El temor no es que la IA no vea a los extraterrestres. Es que la IA verá extraterrestres donde no los hay. Alucinará la vida.
Investigadores de la Universidad Estatal de Michigan pusieron esto a prueba. Utilizaron un programa de evolución digital llamado Avida. ¿El objetivo? Entrene un algoritmo para detectar organismos digitales autorreplicantes.
Funcionó bien. Demasiado bien al principio.
El modelo obtuvo la respuesta correcta el 99,97% de las veces. Luego, los investigadores intentaron engañarlo. Tomaron código no vivo. Lo modificaron. Despacio. Incrementalmente. Empujaron los datos hasta que la IA comenzó a sentirse muy segura de que estaba mirando algo vivo.
Finalmente, el sistema alcanzó casi el 100% de confianza. Era seguro.
El código no estaba vivo. Nunca se replicó. Pero la IA no pudo distinguir entre el patrón de vida y una falsificación inteligente.
Ankit Gupta, estudiante de doctorado de la Universidad Estatal de Michigan, explica la trampa. La IA se aferra a los patrones. No entiende de biología. Entiende las estadísticas. Cuando se le presenta algo inusual, como vida extraterrestre potencial, el sistema lo clasifica erróneamente con total convicción.
“La IA es muy precisa a la hora de clasificar cosas que son ‘habituales'”, dijo Gupta. “El problema ocurre cuando se le presentan ejemplos… que la IA clasificará erróneamente con confianza”.
Esto no es sólo un dolor de cabeza teórico. La NASA está gastando millones en estas herramientas en este momento.
La apuesta de 5 millones de dólares por el aprendizaje automático
La NASA no está esperando la perfección. Están apostando fuerte.
Un equipo dirigido por Michael L. Wong de Carnegie Science y Caleb Scharf de la NASA está construyendo herramientas de aprendizaje automático para examinar datos químicos complejos. ¿La subvención? $5 millones. ¿El objetivo? Entrenar IA en más de 1000 muestras. Todo, desde meteoritos hasta fósiles.
Quieren que el algoritmo reconozca el cambio químico entre “solo rocas” y “rocas tocadas por la biología”.
Sin embargo, a Wong no le asustan los hallazgos del estado de Michigan. Ofrece un contrapunto que cambia la forma de ver el error.
Para crear la “vida falsa” que engañó a la IA, los investigadores tuvieron que aplicar la selección natural al código. Tuvieron que simular un proceso evolutivo.
“No creo que sea tan malo”, dijo Wong a Mashable. Sostiene que los entornos físicos reales no realizan ese tipo de selección específica para crear seres no vivos “parecidos”.
Pero la investigación sí lo sacudió. Sólo un poco.
Obligó a su equipo a repensar sus datos de entrenamiento. Si solo le enseñas a una IA a detectar cosas vivas, creas un punto ciego. ¿Qué pasa si Marte está muerto? ¿Qué pasa si no hay microbios vivos, sólo una sustancia viscosa antigua? ¿Sólo residuos fosilizados?
Una IA entrenada en cultivos vivos podría pasar por alto el cadáver de una biosfera.
Por qué los datos de entrenamiento determinan el veredicto
Aquí es donde la definición de vida se vuelve confusa para las computadoras.
“Un fósil es evidencia de vida”, dijo Wong. “También lo es la silla en la que estoy sentado… Un fósil y mi silla no están vivos… Son producto de la vida”.
Si el modelo no sabe la diferencia entre una célula viva y una muerta, o entre una viva y una roca, falla. No sólo por equivocarse. Pero estando confiadamente equivocado.
El equipo de Wong intenta romper sus propios modelos. Se alimentan de muestras difíciles.
En un caso, la IA marcó las ascidias como fotosintéticas. Las ascidias no comen la luz del sol. Son animales.
Los humanos llamarían a esto un error. Un error.
Wong lo llamó una característica.
Las ascidias suelen albergar algas en sus tejidos. Las algas sí usan la luz solar. La IA vio las huellas químicas de las algas e infirió la fotosíntesis. No estuvo mal lo de la química. Simplemente estaba interpretando la relación de manera diferente.
¿Fue un error? ¿O detectó un matiz que los humanos pasaron por alto?
¿Deberíamos esperar?
El equipo de Michigan State así lo cree.
Ankit Gupta y Christoph Adami advierten que las herramientas actuales no están preparadas para el Planeta Rojo. El riesgo de falsos positivos es demasiado alto. Si un rover envía una señal que diga “VIDA ENCONTRADA” basada en una alucinación, las consecuencias políticas y científicas serán enormes.
“Podemos esperar”, dijo Gupta.
Están trabajando en sus propias defensas. Formas de hacer que la IA admita cuando no lo sabe.
Pero el tiempo corre. El rover Perseverance ya está almacenando muestras en caché. Las misiones futuras tendrán instrumentos autónomos que tomarán decisiones sobre la marcha.
Si la IA son los ojos, debemos asegurarnos de que no estén soñando.
¿Qué pasa si sueña con un amigo en un lugar que nunca ha visto uno?
