L’esplorazione spaziale sta entrando in un’era strana. Stiamo consegnando le chiavi per la scoperta degli alieni a macchine che in realtà non sanno cosa significhi “vita”.
Questo è importante.
Se un chatbot può inventare con sicurezza un falso precedente legale o un libro inesistente, immagina la posta in gioco quando la NASA si affida all’intelligenza artificiale per il rilevamento della vita extraterrestre. La paura non è che l’intelligenza artificiale manchi gli alieni. È che l’intelligenza artificiale vedrà gli alieni dove non esistono. Avrà allucinazioni alla vita.
I ricercatori della Michigan State University lo hanno messo alla prova. Hanno utilizzato un programma di evoluzione digitale chiamato Avida. L’obiettivo? Addestra un algoritmo per individuare organismi digitali autoreplicanti.
Ha funzionato bene. Troppo bene, all’inizio.
Il modello ha ottenuto la risposta giusta il 99,97% delle volte. Quindi, i ricercatori hanno cercato di ingannarlo. Hanno preso il codice non vivente. L’hanno ottimizzato. Lentamente. In modo incrementale. Hanno spostato i dati finché l’IA non ha iniziato a sentirsi molto sicura di stare guardando qualcosa di vivo.
Alla fine, il sistema ha raggiunto un livello di confidenza vicino al 100%. Era certo.
Il codice non era vivo. Non si è mai replicato. Ma l’intelligenza artificiale non è riuscita a distinguere tra il modello di vita e una falsificazione intelligente.
Ankit Gupta, uno studente di dottorato presso la Michigan State, spiega la trappola. L’intelligenza artificiale si aggancia ai modelli. Non capisce la biologia. Capisce le statistiche. Quando viene presentato qualcosa di insolito, come una potenziale vita extraterrestre, il sistema lo classifica erroneamente con totale convinzione.
“L’intelligenza artificiale è estremamente precisa nel classificare le cose ‘usuali'”, ha detto Gupta. “Il problema si verifica quando vengono presentati esempi… che l’intelligenza artificiale classificherà erroneamente con sicurezza.”
Questo non è solo un mal di testa teorico. La NASA sta spendendo milioni su questi strumenti in questo momento.
La scommessa da 5 milioni di dollari sull’apprendimento automatico
La NASA non aspetta la perfezione. Stanno scommettendo alla grande.
Un team guidato da Michael L. Wong della Carnegie Science e Caleb Scharf della NASA sta costruendo strumenti di apprendimento automatico per vagliare dati chimici complessi. Il sussidio? $ 5 milioni. L’obiettivo? Per addestrare l’intelligenza artificiale su oltre 1.000 campioni. Di tutto, dai meteoriti ai fossili.
Vogliono che l’algoritmo riconosca lo spostamento chimico tra “semplici rocce” e “rocce toccate dalla biologia”.
Wong, però, non si lascia prendere dal panico riguardo ai risultati dello Stato del Michigan. Offre un contrappunto che cambia il modo in cui guardi all’errore.
Per creare la “vita finta” che ingannava l’intelligenza artificiale, i ricercatori hanno dovuto applicare la selezione naturale al codice. Dovevano simulare un processo evolutivo.
“Non penso che sia così grave”, ha detto Wong a Mashable. Sostiene che gli ambienti fisici reali non eseguono quel tipo di selezione mirata per creare esseri non viventi “sosia”.
Ma la ricerca lo ha scosso. Solo un po’.
Ha costretto la sua squadra a riconsiderare i propri dati di allenamento. Se insegni a un’intelligenza artificiale solo a individuare cose viventi, crei un punto cieco. E se Marte fosse morto? E se non ci fossero microbi viventi, ma solo sostanza appiccicosa antica? Solo rifiuti fossilizzati?
Un’intelligenza artificiale addestrata sulle culture vive potrebbe non cogliere il cadavere di una biosfera.
Perché i dati di addestramento determinano il verdetto
È qui che la definizione di vita diventa confusa per i computer.
“Un fossile è la prova della vita”, ha detto Wong. “Così è la sedia su cui sono seduto… Un fossile e la mia sedia non sono vivi… Sono un prodotto della vita.”
Se il modello non conosce la differenza tra una cellula vivente e una morta, o tra una cellula viva e una roccia, fallisce. Non solo sbagliando. Ma sbagliando con sicurezza.
La squadra di Wong cerca di rompere i propri modelli. Si nutrono di campioni difficili.
In un caso, l’intelligenza artificiale ha contrassegnato gli ascidii come fotosintetici. Le ascidie non mangiano la luce del sole. Sono animali.
Gli umani lo chiamerebbero un bug. Un errore.
Wong l’ha definita una caratteristica.
Le ascidie spesso ospitano alghe nei loro tessuti. Le alghe usano la luce solare. L’intelligenza artificiale ha visto le impronte chimiche delle alghe e ha dedotto la fotosintesi. Non c’era niente di sbagliato nella chimica. Stava semplicemente interpretando la relazione in modo diverso.
È stato un errore? Oppure ha individuato una sfumatura sfuggita agli umani?
Dovremmo aspettare?
La squadra dello Stato del Michigan la pensa così.
Ankit Gupta e Christoph Adami avvertono che gli strumenti attuali non sono pronti per il Pianeta Rosso. Il rischio di falsi positivi è troppo alto. Se un rover invia un segnale che dice “LIFE FOUND” basato su un’allucinazione, le ricadute politiche e scientifiche saranno enormi.
“Possiamo aspettare”, ha detto Gupta.
Stanno lavorando sulle proprie difese. Modi per far ammettere all’intelligenza artificiale quando non lo sa.
Ma il tempo stringe. Il rover Perseverance sta già memorizzando nella cache i campioni. Le future missioni avranno strumenti autonomi che prenderanno decisioni al volo.
Se l’intelligenza artificiale sono gli occhi, dobbiamo essere sicuri che non stiano sognando.
Cosa succede se sogna un amico in un posto dove non ne ha mai visto uno?
