A exploração espacial está entrando em uma era estranha. Estamos entregando as chaves da descoberta alienígena a máquinas que não sabem realmente o que “vida” significa.
Isso é importante.
Se um chatbot pode inventar com segurança um precedente legal falso ou um livro inexistente, imagine o que está em jogo quando a NASA se apoia na inteligência artificial para detecção de vida extraterrestre. O medo não é que a IA sinta falta dos alienígenas. É que a IA verá alienígenas onde não existem. Isso vai alucinar a vida.
Pesquisadores da Michigan State University testaram isso. Eles usaram um programa de evolução digital chamado Avida. O objetivo? Treine um algoritmo para detectar organismos digitais auto-replicantes.
Funcionou bem. Muito bem, a princípio.
O modelo acertou 99,97% das vezes. Então, os pesquisadores tentaram enganá-lo. Eles pegaram código não vivo. Eles ajustaram isso. Devagar. Incrementalmente. Eles cutucaram os dados até que a IA começou a sentir muito certeza de que estava olhando para algo vivo.
Eventualmente, o sistema atingiu quase 100% de confiança. Era certo.
O código não estava vivo. Nunca foi replicado. Mas a IA não conseguia distinguir entre o padrão de vida e uma falsificação inteligente.
Ankit Gupta, estudante de doutorado na Michigan State, explica a armadilha. A IA se apega aos padrões. Não entende biologia. Ele entende estatísticas. Quando apresentado a algo incomum – como potencial vida extraterrestre – o sistema o classifica erroneamente com total convicção.
“A IA é altamente precisa na classificação de coisas que são ‘comuns'”, disse Gupta. “O problema ocorre quando são apresentados exemplos… que a IA classificará incorretamente com confiança.”
Esta não é apenas uma dor de cabeça teórica. A NASA está gastando milhões nessas ferramentas agora.
A aposta de US$ 5 milhões em aprendizado de máquina
A NASA não está esperando pela perfeição. Eles estão apostando alto.
Uma equipe liderada por Michael L. Wong, da Carnegie Science, e Caleb Scharf, da NASA, está construindo ferramentas de aprendizado de máquina para analisar dados químicos complexos. A concessão? US$ 5 milhões. O objetivo? Para treinar IA em mais de 1.000 amostras. Tudo, desde meteoritos a fósseis.
Eles querem que o algoritmo reconheça a mudança química entre “apenas rochas” e “rochas tocadas pela biologia”.
No entanto, Wong não está em pânico com as descobertas do estado de Michigan. Ele oferece um contraponto que muda a forma como você encara o erro.
Para criar a “vida falsa” que enganou a IA, os pesquisadores tiveram que aplicar a seleção natural ao código. Eles tiveram que simular um processo evolutivo.
“Não acho que seja tão ruim”, disse Wong ao Mashable. Ele argumenta que ambientes físicos reais não realizam esse tipo de seleção direcionada para criar seres não-vivos “semelhantes”.
Mas a pesquisa o abalou. Só um pouco.
Isso forçou sua equipe a repensar seus dados de treinamento. Se você apenas ensinar uma IA a detectar coisas vivas, você criará um ponto cego. E se Marte estiver morto? E se não houver micróbios vivos, apenas uma gosma antiga? Apenas resíduos fossilizados?
Uma IA treinada em culturas vivas pode não perceber o cadáver de uma biosfera.
Por que os dados de treinamento determinam o veredicto
É aqui que a definição de vida fica confusa para os computadores.
“Um fóssil é evidência de vida”, disse Wong. “Assim como a cadeira em que estou sentado… Um fóssil e minha cadeira não estão vivos… Eles são um produto da vida.”
Se o modelo não souber a diferença entre uma célula viva e uma morta, ou entre uma célula viva e uma rocha, ele falhará. Não apenas por estar errado. Mas por estar confiantemente errado.
A equipe de Wong tenta quebrar seus próprios modelos. Eles se alimentam de amostras complicadas.
Em um caso, a IA sinalizou as ascídias como fotossintéticas. As ascídias não comem a luz solar. Eles são animais.
Os humanos chamariam isso de bug. Um erro.
Wong chamou isso de recurso.
As ascídias costumam hospedar algas em seus tecidos. As algas usam a luz solar. A IA viu as impressões digitais químicas das algas e inferiu a fotossíntese. Não estava errado sobre a química. Foi apenas interpretar o relacionamento de forma diferente.
Foi um erro? Ou detectou uma nuance que os humanos não perceberam?
Devemos esperar?
A equipe do estado de Michigan pensa assim.
Ankit Gupta e Christoph Adami alertam que as ferramentas atuais não estão prontas para o Planeta Vermelho. O risco de falsos positivos é muito alto. Se um veículo espacial enviar um sinal dizendo “VIDA ENCONTRADA” com base em uma alucinação, as consequências políticas e científicas serão enormes.
“Podemos esperar”, disse Gupta.
Eles estão trabalhando em suas próprias defesas. Maneiras de fazer a IA admitir quando não sabe.
Mas o tempo está correndo. O rover Perseverance já está armazenando amostras em cache. As missões futuras terão instrumentos autônomos que tomarão decisões em tempo real.
Se a IA são os olhos, precisamos ter certeza de que eles não estão sonhando.
O que acontece se sonhar com um amigo em um lugar que nunca viu?
