Éra vesmírného průzkumu vstupuje do podivného období. Předáváme klíče k objevování mimozemského života strojům, které ve skutečnosti nechápou, co “život” znamená.
To je kritické.
Pokud může chatbot s jistotou vymýšlet neexistující právní precedenty nebo knihy, představte si, jaká je sázka, když se NASA spoléhá na umělou inteligenci při detekci mimozemského života. Nebojí se, že AI bude mimozemšťany postrádat. Problém je v tom, že AI je uvidí tam, kde nejsou. Bude mít halucinace života.
Vědci z Michiganské státní univerzity tuto hypotézu testovali. Použili digitální evoluční program s názvem Avida. Cílem bylo vytrénovat algoritmus, který rozpozná samoreprodukující se digitální organismy.
Zpočátku to fungovalo dobře. Příliš dobré.
Model dal správnou odpověď v 99,97 % případů. Vědci se ji pak pokusili oklamat. Vzali mrtvý kód a začali ho postupně a opatrně měnit. Upravovali data, dokud se AI nezačala cítit velmi sebejistě při pohledu na něco, co vypadalo jako živé.
Nakonec systém dosáhl spolehlivosti téměř 100 %. Byla si svým závěrem naprosto jistá.
Kód nebyl aktivní. Nikdy se nerozmnožoval. Ale umělá inteligence nedokázala rozlišit mezi vzorci života a zručným padělkem.
Ankit Gupta, postgraduální student na Michiganské státní univerzitě, vysvětluje past. AI získává vzory. Biologii nerozumí. Statistikám rozumí. Když se před ní objeví něco neobvyklého – například potenciální mimozemský život – systém je přesvědčen, že to špatně klasifikuje.
„AI je vysoce přesná v klasifikaci toho, co je ‚běžné‘,“ říká Gupta. “Problém nastává, když jsou prezentovány příklady… které AI zařadí nesprávně, ale s velkou jistotou.”
Nejde jen o teoretický problém. NASA již za tyto nástroje utrácí miliony dolarů.
5 milionů dolarů vsazeno na strojové učení
NASA neočekává dokonalost. Dělají velkou sázku.
Tým vedený Michaelem L. Wongem z Carnegie Science a Calem Scharfem z NASA vyvíjí nástroje strojového učení pro analýzu složitých chemických dat. Grant má hodnotu 5 milionů dolarů. Cílem je trénovat AI pomocí více než 1000 vzorků. Vše od meteoritů po fosilie.
Chtějí, aby algoritmus rozpoznal chemické změny, které odlišují „pouze horniny“ od „kamen, které byly ovlivněny biologií“.
Wong nepropadá panice ohledně výsledků Michigan State University. Nabízí protiargument, který mění pohled na chybu.
Aby vědci vytvořili „falešný život“, který oklamal AI, museli na kód použít přirozený výběr. Museli napodobit evoluční proces.
“Nemyslím si, že je to tak špatné,” řekl Wong Mashable. Tvrdí, že skutečná fyzická prostředí se nezapojují do takového účelového výběru, aby vytvářely neživé objekty „podobné životu“.
Výzkum ho však stále trochu znepokojuje.
Jeho tým to donutilo přehodnotit svá tréninková data. Pokud trénujete pouze AI, aby rozpoznávala živé předměty, vytváříte slepé místo. Co když je Mars mrtvý? Co když tam nejsou žádné živé mikroorganismy, ale jen prastará organická hmota? Pouze zkamenělé zbytky?
Umělá inteligence vycvičená na živých plodinách může minout mrtvolu biosféry.
Proč tréninková data určují verdikt
Zde je definice života pro počítače matoucí.
“Fosilie je důkazem života,” řekl Wong. “Stejný důkaz je židle, na které sedím… Fosilie a moje židle nežijí… Jsou produktem života.”
Pokud model nerozlišuje mezi živou a mrtvou buňkou nebo živou buňkou a kamenem, selhává. Nejen se mýlit, ale mýlit se v důvěře.
Wongův tým se snaží rozbít vlastní vzorce. Dávají jim složité, složité vzory.
V jednom případě AI identifikovala mořské pyriformy (Ascudiacus) jako fotosyntetické organismy. Mořské pyriformy se neživí slunečním zářením. To jsou zvířata.
Člověk by to nazval bug. Chyba.
Wong to nazval funkcí.
Tkáně mořských pyriformů často obsahují řasy. Řasy využívají sluneční světlo. Umělá inteligence viděla chemické stopy řas a předpokládala přítomnost fotosyntézy. V chemii neudělal chybu. Jednoduše si ty vztahy vyložil jinak.
Byla to chyba? Nebo si všiml nuance, která lidem unikla?
Vyplatí se čekat?
Myslí si to tým z Michigan State University.
Ankit Gupta a Christophe Adami varují, že současné přístroje nejsou na Rudou planetu připraveny. Riziko falešně pozitivních výsledků je příliš velké. Pokud rover vysílá signál „LIFE DETECTED“ na základě halucinace, politické a vědecké důsledky by byly obrovské.
“Můžeme počkat,” řekl Gupta.
Pracují na vlastních obranných mechanismech. Pracujeme na způsobech, jak přimět umělou inteligenci, aby přiznala, když nezná odpověď.
Ale čas plyne. Rover Perseverance již ukládá vzorky do mezipaměti. Budoucí mise budou využívat autonomní nástroje, které rozhodují za chodu.
Pokud je AI naše oči, musíme si být jisti, že nesní.
Co se stane, když uvidí přítele na místě, kde nikdy nebyl?
