L’exploration spatiale entre dans une ère étrange. Nous remettons les clés de la découverte des extraterrestres à des machines qui ne savent pas réellement ce que signifie « vie ».
C’est important.
Si un chatbot peut inventer en toute confiance un faux précédent juridique ou un livre inexistant, imaginez les enjeux lorsque la NASA s’appuiera sur l’intelligence artificielle pour détecter la vie extraterrestre. La crainte n’est pas que l’IA rate les extraterrestres. C’est que l’IA verra des extraterrestres là où il n’y en a pas. Cela va halluciner la vie.
Des chercheurs de la Michigan State University ont mis cela à l’épreuve. Ils ont utilisé un programme d’évolution numérique appelé Avida. Le but ? Entraînez un algorithme pour repérer les organismes numériques auto-répliquants.
Cela a bien fonctionné. Trop bien, au début.
Le modèle a obtenu la bonne réponse dans 99,97 % des cas. Ensuite, les chercheurs ont tenté de le tromper. Ils ont pris du code non vivant. Ils l’ont peaufiné. Lentement. Progressivement. Ils ont poussé les données jusqu’à ce que l’IA commence à se sentir très sûre de regarder quelque chose de vivant.
Finalement, le système a atteint un niveau de confiance proche de 100 %. C’était certain.
Le code n’était pas vivant. Cela ne s’est jamais reproduit. Mais l’IA ne pouvait pas faire la différence entre le mode de vie et une contrefaçon intelligente.
Ankit Gupta, doctorant à l’État du Michigan, explique le piège. L’IA s’accroche aux modèles. Il ne comprend pas la biologie. Il comprend les statistiques. Lorsqu’on lui présente quelque chose d’inhabituel – comme une vie extraterrestre potentielle – le système le classe mal avec une totale conviction.
“L’IA est très précise pour classer les choses qui sont “habituelles””, a déclaré Gupta. “Le problème survient lorsqu’on lui présente des exemples… que l’IA classera mal en toute confiance.”
Il ne s’agit pas là d’un simple casse-tête théorique. La NASA dépense actuellement des millions pour ces outils.
Le pari de 5 millions de dollars sur le machine learning
La NASA n’attend pas la perfection. Ils parient gros.
Une équipe dirigée par Michael L. Wong de Carnegie Science et Caleb Scharf de la NASA construit des outils d’apprentissage automatique pour passer au crible des données chimiques complexes. La subvention ? 5 millions de dollars. Le but ? Pour entraîner l’IA sur plus de 1 000 échantillons. Tout, des météorites aux fossiles.
Ils veulent que l’algorithme reconnaisse le changement chimique entre « juste des roches » et « des roches touchées par la biologie ».
Wong ne panique cependant pas à propos des conclusions de l’État du Michigan. Il propose un contrepoint qui change le regard que l’on porte sur l’erreur.
Pour créer la « fausse vie » qui a trompé l’IA, les chercheurs ont dû appliquer la sélection naturelle au code. Ils devaient simuler un processus évolutif.
“Je ne pense pas que ce soit si grave”, a déclaré Wong à Mashable. Il soutient que les environnements physiques réels ne permettent pas ce type de sélection ciblée pour créer des non-vivants « ressemblants ».
Mais la recherche l’a secoué. Juste un peu.
Cela a obligé son équipe à repenser ses données d’entraînement. Si vous apprenez uniquement à une IA à repérer les choses vivantes, vous créez un angle mort. Et si Mars était mort ? Et s’il n’y avait pas de microbes vivants, seulement de la matière ancienne ? Uniquement des déchets fossilisés ?
Une IA entraînée sur des cultures vivantes pourrait rater le cadavre d’une biosphère.
Pourquoi les données d’entraînement déterminent le verdict
C’est là que la définition de la vie devient compliquée pour les ordinateurs.
“Un fossile est une preuve de vie”, a déclaré Wong. “La chaise sur laquelle je suis assis aussi… Un fossile et ma chaise ne sont pas vivantes… Elles sont un produit de la vie.”
Si le modèle ne fait pas la différence entre une cellule vivante et une cellule morte, ou entre une cellule vivante et une roche, il échoue. Pas seulement en se trompant. Mais en se trompant avec confiance.
L’équipe de Wong tente de briser ses propres modèles. Ils se nourrissent d’échantillons délicats.
Dans un cas, l’IA a signalé les ascidies comme photosynthétiques. Les ascidies ne mangent pas la lumière du soleil. Ce sont des animaux.
Les humains appelleraient cela un bug. Une erreur.
Wong a appelé cela une fonctionnalité.
Les ascidies hébergent souvent des algues dans leurs tissus. Les algues utilisent la lumière du soleil. L’IA a vu les empreintes chimiques des algues et a déduit la photosynthèse. Ce n’était pas faux concernant la chimie. Il s’agissait simplement d’interpréter la relation différemment.
Était-ce une erreur ? Ou a-t-il repéré une nuance que les humains ont manquée ?
Faut-il attendre ?
C’est ce que pense l’équipe de Michigan State.
Ankit Gupta et Christoph Adami préviennent que les outils actuels ne sont pas prêts pour la planète rouge. Le risque de faux positifs est trop élevé. Si un rover renvoie un signal indiquant « VIE TROUVÉE » basé sur une hallucination, les retombées politiques et scientifiques seront énormes.
“Nous pouvons attendre”, a déclaré Gupta.
Ils travaillent sur leurs propres défenses. Des moyens de faire admettre à l’IA qu’elle ne sait pas.
Mais le temps presse. Le rover Perseverance met déjà en cache des échantillons. Les futures missions disposeront d’instruments autonomes prenant des décisions à la volée.
Si l’IA est les yeux, nous devons être sûrs qu’ils ne rêvent pas.
Que se passe-t-il s’il rêve d’un ami dans un endroit où il n’en a jamais vu ?
