Era eksploracji kosmosu wkracza w dziwny okres. Klucze do odkrywania obcego życia przekazujemy maszynom, które tak naprawdę nie rozumieją, co oznacza „życie”.
To jest krytyczne.
Jeśli chatbot może śmiało wymyślać nieistniejące precedensy prawne lub książki, wyobraź sobie stawkę, gdy NASA polega na sztucznej inteligencji w celu wykrycia życia pozaziemskiego. Nie ma obawy, że sztuczna inteligencja będzie tęsknić za kosmitami. Problem w tym, że sztuczna inteligencja dostrzeże ich tam, gdzie ich nie ma. Będzie miał halucynacje w życiu.
Naukowcy z Michigan State University przetestowali tę hipotezę. Użyli programu ewolucji cyfrowej o nazwie Avida. Celem było wytrenowanie algorytmu rozpoznawania samoreplikujących się organizmów cyfrowych.
Na początku działało dobrze. Zbyt dobrze.
Model podał poprawną odpowiedź w 99,97% przypadków. Następnie badacze próbowali ją oszukać. Wzięli martwy kod i zaczęli go zmieniać stopniowo i ostrożnie. Dostosowywali dane, aż sztuczna inteligencja zaczęła czuć się bardzo pewnie, patrząc na coś, co wyglądało, jakby było żywe.
Ostatecznie system osiągnął pewność bliską 100%. Była całkowicie pewna swojego wniosku.
Kod nie był aktywny. Nigdy się nie rozmnażał. Ale sztuczna inteligencja nie potrafiła odróżnić wzorców życia od umiejętnej podróbki.
Ankit Gupta, absolwentka Michigan State University, wyjaśnia pułapkę. AI wykrywa wzorce. On nie rozumie biologii. Rozumie statystykę. Kiedy pojawia się przed nim coś niezwykłego – na przykład potencjalne życie pozaziemskie – system jest pewien, że błędnie to zaklasyfikuje.
„Sztuczna inteligencja bardzo dokładnie klasyfikuje to, co „pospolite”” – mówi Gupta. „Problem pojawia się, gdy przedstawiono przykłady… które sztuczna inteligencja zaklasyfikuje niepoprawnie, ale z dużą pewnością”.
To nie jest tylko problem teoretyczny. NASA już wydaje miliony dolarów na te instrumenty.
Postaw 5 milionów dolarów na uczenie maszynowe
NASA nie oczekuje doskonałości. Robią duży zakład.
Zespół kierowany przez Michaela L. Wonga z Carnegie Science i Cale’a Scharfa z NASA opracowuje narzędzia uczenia maszynowego do analizy złożonych danych chemicznych. Wartość dotacji wynosi 5 milionów dolarów. Celem jest wytrenowanie sztucznej inteligencji na podstawie ponad 1000 próbek. Wszystko, od meteorytów po skamieniałości.
Chcą, aby algorytm rozpoznawał zmiany chemiczne, które odróżniają „tylko skały” od „skał, na które wpływa biologia”.
Wong nie panikuje z powodu wyników Michigan State University. Podaje kontrargument, który zmienia sposób, w jaki patrzymy na błąd.
Aby stworzyć „fałszywe życie”, które zmyliło sztuczną inteligencję, badacze musieli zastosować do kodu naturalną selekcję. Musieli naśladować proces ewolucyjny.
„Nie sądzę, że jest tak źle” – Wong powiedział Mashable. Twierdzi, że w rzeczywistych środowiskach fizycznych nie dochodzi do tak celowej selekcji w celu stworzenia obiektów nieożywionych „podobnych do życia”.
Jednak badania nadal trochę go niepokoją.
Zmusiło to jego zespół do ponownego przemyślenia danych treningowych. Jeśli szkolisz sztuczną inteligencję tylko do rozpoznawania żywych obiektów, tworzysz martwy punkt. A co jeśli Mars nie żyje? A co jeśli nie ma tam żywych mikroorganizmów, a jedynie starożytna materia organiczna? Tylko skamieniałe szczątki?
Sztuczna inteligencja wytrenowana na żywych roślinach może ominąć zwłoki biosfery.
Dlaczego dane szkoleniowe decydują o werdykcie
W tym miejscu definicja życia staje się dla komputerów myląca.
„Skamieniałość jest dowodem życia” – powiedział Wong. „Tym samym dowodem jest krzesło, na którym siedzę… Skamielina i moje krzesło nie są żywe… Są wytworem życia”.
Jeżeli model nie rozróżnia żywej komórki od martwej lub żywej komórki od kamienia, to zawodzi. Nie tylko mylić się, ale mylić się z pewnością siebie.
Zespół Wonga próbuje przełamać własne wzorce. Dają im złożone, misterne wzory.
W jednym przypadku sztuczna inteligencja zidentyfikowała gruszkowate morskie (Ascudiacus) jako organizmy fotosyntetyzujące. Piriformy morskie nie żywią się światłem słonecznym. To są zwierzęta.
Ktoś nazwałby to błędem. Błąd.
Wong nazwał to cechą.
Tkanki gruszkowatych morskich często zawierają glony. Algi robi korzystają ze światła słonecznego. Sztuczna inteligencja dostrzegła ślady chemiczne glonów i założyła obecność fotosyntezy. Nie pomylił się z chemią. Po prostu inaczej zinterpretował te relacje.
Czy to był błąd? A może zauważył niuans, który ludzie przeoczyli?
Czy warto czekać?
Tak uważa zespół z Michigan State University.
Ankit Gupta i Christophe Adami ostrzegają, że obecne instrumenty nie są gotowe na Czerwoną Planetę. Ryzyko uzyskania fałszywie dodatnich wyników jest zbyt duże. Jeśli łazik wyemituje sygnał „Wykryto życie” w oparciu o halucynacje, konsekwencje polityczne i naukowe będą ogromne.
„Możemy poczekać” – powiedział Gupta.
Pracują nad własnymi mechanizmami obronnymi. Pracujemy nad sposobami, aby sztuczna inteligencja przyznała się, gdy nie zna odpowiedzi.
Ale czas płynie. Łazik Perseverance już buforuje próbki. Przyszłe misje będą wykorzystywać autonomiczne instrumenty, które będą podejmować decyzje w locie.
Jeśli sztuczna inteligencja jest naszymi oczami, musimy mieć pewność, że nie śnią.
Co się stanie, jeśli zobaczy przyjaciela w miejscu, w którym nigdy nie był?
