Чи може ІІ галюцинувати життя на Марсі? Чому космічні місії ризикують отримати хибнопозитивні результати
Епоха освоєння космосу входить у дивний період. Ми передаємо ключі від відкриттів інопланетного життя машинам, які не розуміють, що означає «життя».
Це має критичне значення.
Якщо чат-бот може з упевненістю вигадувати неіснуючі судові прецеденти чи книги, уявіть ставки, коли NASA спирається на штучний інтелект виявлення позаземного життя. Страх полягає не в тому, що ІІ пропустить інопланетян. Проблема в тому, що ІІ побачить їх там, де їх нема. Він галюцинуватиме життя.
Дослідники із Мічиганського державного університету протестували цю гіпотезу. Вони використали програму цифрової еволюції під назвою Avida. Мета полягала в тому, щоб навчити алгоритм розпізнавати цифрові організми, що самовідтворюються.
Спочатку це добре спрацювало. Дуже добре.
Модель давала правильну відповідь у 99,97% випадків. Потім дослідники спробували обдурити її. Вони взяли неживий код і почали його поступово та акуратно змінювати. Вони коригували дані до тих пір, поки ІІ не почав почуватися дуже впевнено, дивлячись на щось, схоже на живе.
Зрештою, система досягла впевненості, близької до 100%. Вона була абсолютно впевнена у своєму висновку.
Код не був живим. Він ніколи не розмножувався. Але ІІ було розрізнити закономірності життя і майстерну підробку.
Анкіт Гупта, аспірант Мічиганського державного університету, пояснює суть пастки. ІІ чіпляється за патерни. Він розуміє біології. Він розуміє статистику. Коли перед ним виникає щось незвичайне, наприклад, потенційне позаземне життя, система з повною впевненістю класифікує її помилково.
«ІІ має високу точність при класифікації того, що є «звичайним», — каже Гупта. — Проблема виникає, коли йому наводять приклади… які ІІ класифікуватиме невірно, але з великою впевненістю».
Це не просто теоретична проблема. NASA вже зараз витрачає мільйони доларів на ці інструменти.
Ставка в 5 мільйонів доларів на машинне навчання
NASA не чекає досконалості. Вони роблять велику ставку.
Команда під керівництвом Майкла Л. Вонга з Carnegie Science та Кейла Шарфа з NASA розробляє інструменти машинного навчання для аналізу складних хімічних даних. Грант складає 5 мільйонів доларів. Мета – навчити ІІ на базі понад 1000 зразків. Все: від метеоритів до скам’янілостей.
Вони хочуть, щоб алгоритм розпізнавав хімічні зміни, що відрізняють «просто каміння» від «камінів, що зазнали впливу біології».
Вонг не впадає у паніку через результати Мічиганського державного університету. Він пропонує контраргумент, який змінює погляд помилку.
Щоб створити «підроблене життя», що ошукала ІІ, дослідникам довелося застосувати до коду природний відбір. Їм довелося імітувати еволюційний процес.
“Я не думаю, що це так погано”, – заявив Вонг виданню Mashable. Він стверджує, що реальні фізичні середовища не проводять такого цільового відбору для створення схожих на живі неживих об’єктів.
Однак дослідження все ж таки трохи турбує його.
Воно змусило його команду переглянути тренувальні дані. Якщо ви навчаєте ІІ тільки розпізнавати живі об’єкти, ви створюєте сліпу зону. А що коли Марс мертвий? Що, якщо там немає живих мікроорганізмів, а є лише давня органічна маса? Тільки скам’янілі рештки?
ІІ, навчений живих культурах, може пропустити труп біосфери.
Чому тренувальні дані визначають вердикт
Саме тут визначення життя стає заплутаним для комп’ютерів.
“Скам’янілість – це свідчення життя”, – сказав Вонг. «Таким же свідченням є стілець, на якому я сиджу… Скам’янілість і мій стілець не живі… Вони є продуктом життя».
Якщо модель не розрізняє живу і мертву клітину, або живу клітину і камінь, вона дає збій. Не просто помиляючись, а помиляючись із упевненістю.
Команда Вонга намагається зламати власні моделі. Вони подають їм складні, заплутані зразки.
В одному випадку ІІ визначив морських грушоподібних (аскудіак) як фотосинтезуючі організми. Морські грушоподібні не живляться сонячним світлом. Це тварини.
Чоловік назвав би це багом. Помилка.
Вонг назвав це фічею.
Тканини морських грушоподібних часто містять водорості. Водорості “дійсно” використовують сонячне світло. ІІ побачив хімічні сліди водоростей та припустив наявність фотосинтезу. Він не помилився у хімії. Він просто інакше інтерпретував взаємозв’язки.
Чи це була помилка? Чи помітив він нюанс, який пропустили люди?
Чи варто чекати?
Команда з Мічиганського державного університету вважає, що так.
Анкіт Гупта та Крістоф Адамі попереджають, що поточні інструменти не готові до Червоної планети. Ризик хибнопозитивних результатів дуже великий. Якщо ровер передасть сигнал «ЖИТТЯ ЗНАЧЕНО» на основі галюцинації, політичні та наукові наслідки будуть колосальними.
“Ми можемо почекати”, – сказав Гупта.
Вони працюють над захисними механізмами. Над способами змусити ІІ визнавати, коли він не знає відповіді.
Але час іде. Ровер Perseverance вже кешує зразки. Майбутні місії використовуватимуть автономні інструменти, що приймають рішення на льоту.
Якщо ШІ є нашими очима, ми повинні бути впевнені, що вони не бачать снів.
Що буде, якщо він побачить друга у місці, де його ніколи не було?
