Ruimteverkenning gaat een raar tijdperk binnen. We overhandigen de sleutels tot buitenaardse ontdekkingen aan machines die eigenlijk niet weten wat ‘leven’ betekent.
Dit is belangrijk.
Als een chatbot vol vertrouwen een nep-juridisch precedent of een niet-bestaand boek kan verzinnen, stel je dan eens voor wat er op het spel staat als NASA vertrouwt op kunstmatige intelligentie voor de detectie van buitenaards leven. De angst is niet dat de AI buitenaardse wezens zal missen. Het is dat de AI buitenaardse wezens zal zien waar ze niet bestaan. Het zal het leven hallucineren.
Onderzoekers van de Michigan State University hebben dit op de proef gesteld. Ze gebruikten een digitaal evolutieprogramma genaamd Avida. Het doel? Train een algoritme om zelfreplicerende digitale organismen te herkennen.
Het werkte goed. Te goed, in eerste instantie.
Het model kreeg 99,97% van de tijd het juiste antwoord. Vervolgens probeerden de onderzoekers het te misleiden. Ze namen niet-levende code. Ze hebben het aangepast. Langzaam. Stapsgewijs. Ze duwden tegen de gegevens totdat de AI er zeer zeker van begon te zijn dat hij naar iets levends keek.
Uiteindelijk bereikte het systeem bijna 100% vertrouwen. Het was zeker.
De code leefde niet. Het heeft zich nooit gerepliceerd. Maar de AI kon het verschil niet zien tussen het levenspatroon en een slimme vervalsing.
Ankit Gupta, een promovendus aan de Michigan State, legt de valstrik uit. AI houdt zich vast aan patronen. Het begrijpt de biologie niet. Het begrijpt statistieken. Wanneer het systeem iets ongewoons voorgeschoteld krijgt – zoals potentieel buitenaards leven – classificeert het systeem dit met volledige overtuiging.
“AI is zeer nauwkeurig in het classificeren van dingen die ‘gebruikelijk’ zijn”, zei Gupta. “Het probleem doet zich voor wanneer er voorbeelden worden gepresenteerd… die AI met vertrouwen verkeerd zal classificeren.”
Dit is niet alleen een theoretische hoofdpijn. NASA geeft momenteel miljoenen uit aan deze tools.
De inzet van $5 miljoen op machine learning
NASA wacht niet op perfectie. Ze zetten groot in.
Een team onder leiding van Michael L. Wong van Carnegie Science en Caleb Scharf van NASA bouwt hulpmiddelen voor machinaal leren om complexe chemische gegevens te doorzoeken. De subsidie? $ 5 miljoen. Het doel? Om AI te trainen op meer dan 1000 monsters. Van meteorieten tot fossielen.
Ze willen dat het algoritme de chemische verschuiving herkent tussen ‘gewoon rotsen’ en ‘rotsen die door de biologie zijn aangeraakt’.
Wong raakt echter niet in paniek over de bevindingen van de staat Michigan. Hij biedt een tegenpunt dat de manier verandert waarop je naar de fout kijkt.
Om het ‘nepleven’ te creëren dat de AI voor de gek hield, moesten de onderzoekers natuurlijke selectie op de code toepassen. Ze moesten een evolutionair proces simuleren.
“Ik denk niet dat het zo erg is”, zei Wong tegen Mashable. Hij stelt dat echte fysieke omgevingen niet dat soort gerichte selectie uitvoeren om ‘look-alike’ niet-levende dieren te creëren.
Maar het onderzoek schudde hem wel wakker. Een klein beetje.
Het dwong zijn team om hun trainingsgegevens te heroverwegen. Als je een AI alleen leert om levende dingen te spotten, creëer je een blinde vlek. Wat als Mars dood is? Wat als er geen levende microben zijn, alleen oude klodder? Alleen fossiel afval?
Een AI die is getraind in levende culturen zou het lijk van een biosfeer kunnen missen.
Waarom trainingsdata het oordeel bepalen
Dit is waar de definitie van het leven rommelig wordt voor computers.
“Een fossiel is het bewijs van leven”, zei Wong. “Dat geldt ook voor de stoel waarop ik zit… Een fossiel en mijn stoel leven niet… Ze zijn een product van het leven.”
Als het model het verschil niet kent tussen een levende cel en een dode cel, of tussen een levende cel en een steen, faalt het. Niet alleen door ongelijk te hebben. Maar door zelfverzekerd ongelijk te hebben.
Wongs team probeert hun eigen modellen te doorbreken. Ze voeden zich met lastige monsters.
In één geval markeerde de AI zakpijpen als fotosynthetisch. Zeepijpen eten geen zonlicht. Het zijn dieren.
Mensen zouden dit een bug noemen. Een fout.
Wong noemde het een functie.
Zakpijpen herbergen vaak algen in hun weefsels. Algen doen gebruik van zonlicht. De AI zag de chemische vingerafdrukken van de algen en leidde hieruit fotosynthese af. Het was niet verkeerd wat de chemie betreft. Het interpreteerde de relatie gewoon anders.
Was het een vergissing? Of heeft het een nuance opgemerkt die de mensen over het hoofd hebben gezien?
Moeten we wachten?
Het Michigan State-team denkt van wel.
Ankit Gupta en Christoph Adami waarschuwen dat de huidige instrumenten niet klaar zijn voor de Rode Planeet. Het risico op valse positieven is te groot. Als een rover een signaal terugstuurt met de tekst “LIFE FOUND” op basis van een hallucinatie, zullen de politieke en wetenschappelijke gevolgen enorm zijn.
‘We kunnen wachten,’ zei Gupta.
Ze werken aan hun eigen verdediging. Manieren om de AI te laten toegeven dat hij het niet weet.
Maar de klok tikt. De Perseverance-rover is al monsters aan het cachen. Toekomstige missies zullen beschikken over autonome instrumenten die on-the-fly beslissingen nemen.
Als de AI de ogen zijn, moeten we er zeker van zijn dat ze niet dromen.
Wat gebeurt er als hij droomt van een vriend op een plek die hij nog nooit heeft gezien?
