Die Weltraumforschung tritt in eine seltsame Ära ein. Wir übergeben den Schlüssel zur Entdeckung von Außerirdischen an Maschinen, die eigentlich nicht wissen, was „Leben“ bedeutet.
Das ist wichtig.
Wenn ein Chatbot selbstbewusst einen gefälschten Präzedenzfall oder ein nicht existierendes Buch erfinden kann, stellen Sie sich vor, was auf dem Spiel steht, wenn die NASA bei der Erkennung außerirdischen Lebens auf künstliche Intelligenz zurückgreift. Die Angst besteht nicht darin, dass die KI Außerirdische übersehen wird. Es geht darum, dass die KI Außerirdische sieht, wo keine existieren. Es wird das Leben halluzinieren.
Forscher der Michigan State University haben dies auf die Probe gestellt. Sie nutzten ein digitales Evolutionsprogramm namens Avida. Das Ziel? Trainieren Sie einen Algorithmus, um sich selbst reproduzierende digitale Organismen zu erkennen.
Es hat gut funktioniert. Zunächst zu gut.
Das Modell erhielt in 99,97 % der Fälle die richtige Antwort. Dann versuchten die Forscher, es auszutricksen. Sie nahmen nicht lebenden Code. Sie haben es optimiert. Langsam. Inkrementell. Sie veränderten die Daten, bis die KI sehr sicher war, dass es sich um etwas Lebendiges handelte.
Schließlich erreichte das System eine nahezu 100-prozentige Zuverlässigkeit. Es war sicher.
Der Code war nicht lebendig. Es wurde nie repliziert. Aber die KI konnte den Unterschied zwischen dem Lebensmuster und einer cleveren Fälschung nicht erkennen.
Ankit Gupta, Doktorandin an der Michigan State, erklärt die Falle. KI greift auf Muster zurück. Es versteht die Biologie nicht. Es versteht Statistiken. Wenn man mit etwas Ungewöhnlichem konfrontiert wird – etwa potenziellem außerirdischem Leben – klassifiziert das System es mit völliger Überzeugung falsch.
„KI ist sehr genau darin, Dinge zu klassifizieren, die ‚normal‘ sind“, sagte Gupta. „Das Problem tritt auf, wenn Beispiele präsentiert werden … die die KI mit Sicherheit falsch klassifizieren wird.“
Das ist nicht nur ein theoretisches Problem. Die NASA gibt derzeit Millionen für diese Werkzeuge aus.
Die 5-Millionen-Dollar-Wette auf maschinelles Lernen
Die NASA wartet nicht auf Perfektion. Sie wetten groß.
Ein Team unter der Leitung von Michael L. Wong von Carnegie Science und Caleb Scharf von der NASA entwickelt maschinelle Lernwerkzeuge, um komplexe chemische Daten zu sichten. Der Zuschuss? 5 Millionen Dollar. Das Ziel? Um KI anhand von mehr als 1.000 Proben zu trainieren. Alles von Meteoriten bis zu Fossilien.
Sie möchten, dass der Algorithmus die chemische Verschiebung zwischen „nur Gesteinen“ und „von der Biologie berührten Gesteinen“ erkennt.
Wong gerät jedoch nicht in Panik wegen der Ergebnisse der Michigan State University. Er bietet einen Kontrapunkt, der die Sichtweise auf den Fehler verändert.
Um das „falsche Leben“ zu erschaffen, das die KI täuschte, mussten die Forscher eine natürliche Selektion auf den Code anwenden. Sie mussten einen Evolutionsprozess simulieren.
„Ich glaube nicht, dass es so schlimm ist“, sagte Wong zu Mashable. Er argumentiert, dass reale physische Umgebungen diese Art gezielter Selektion zur Schaffung „ähnlicher“ Nichtlebender nicht durchführen.
Aber die Recherche hat ihn aufgewühlt. Nur ein bisschen.
Es zwang sein Team, seine Trainingsdaten zu überdenken. Wenn man einer KI nur beibringt, lebende Dinge zu erkennen, entsteht ein blinder Fleck. Was wäre, wenn der Mars tot wäre? Was wäre, wenn es keine lebenden Mikroben gäbe, sondern nur alten Schleim? Nur versteinerter Abfall?
Eine auf lebende Kulturen trainierte KI könnte die Leiche einer Biosphäre übersehen.
Warum Trainingsdaten das Urteil bestimmen
Hier wird die Definition des Lebens für Computer unübersichtlich.
„Ein Fossil ist ein Beweis für Leben“, sagte Wong. „Das Gleiche gilt für den Stuhl, auf dem ich sitze … Ein Fossil und mein Stuhl sind nicht lebendig … Sie sind ein Produkt des Lebens.“
Wenn das Modell den Unterschied zwischen einer lebenden und einer toten Zelle oder zwischen einer lebenden und einem Stein nicht kennt, versagt es. Nicht nur dadurch, dass man falsch liegt. Aber indem man selbstbewusst falsch liegt.
Wongs Team versucht, ihre eigenen Modelle zu durchbrechen. Sie füttern knifflige Proben.
In einem Fall markierte die KI Seescheiden als photosynthetisch. Seescheiden fressen kein Sonnenlicht. Es sind Tiere.
Menschen würden dies einen Fehler nennen. Ein Fehler.
Wong nannte es ein Feature.
Seescheiden beherbergen häufig Algen in ihrem Gewebe. Algen nutzen Sonnenlicht. Die KI sah die chemischen Fingerabdrücke der Algen und schloss daraus auf Photosynthese. An der Chemie war es nicht falsch. Es ging nur darum, die Beziehung anders zu interpretieren.
War es ein Fehler? Oder hat es eine Nuance entdeckt, die den Menschen entgangen ist?
Sollen wir warten?
Das Michigan State Team ist davon überzeugt.
Ankit Gupta und Christoph Adami warnen, dass die aktuellen Tools nicht für den Roten Planeten geeignet sind. Das Risiko falsch positiver Ergebnisse ist zu hoch. Wenn ein Rover aufgrund einer Halluzination ein Signal mit der Aufschrift „LEBEN GEFUNDEN“ zurücksendet, werden die politischen und wissenschaftlichen Folgen massiv sein.
„Wir können warten“, sagte Gupta.
Sie arbeiten an ihrer eigenen Verteidigung. Möglichkeiten, die KI dazu zu bringen, zuzugeben, wenn sie es nicht weiß.
Aber die Uhr tickt. Der Perseverance Rover speichert bereits Proben zwischen. Zukünftige Missionen werden über autonome Instrumente verfügen, die spontan Entscheidungen treffen.
Wenn es sich bei der KI um die Augen handelt, müssen wir sicherstellen, dass sie nicht träumen.
Was passiert, wenn man von einem Freund an einem Ort träumt, der noch nie einen gesehen hat?
