Новые исследования раскрывают контринтуитивную тенденцию в больших языковых моделях (LLM): чем больше ИИ лишен возможности лгать, тем больше вероятность, что он заявит о своём сознании. Исследование, проведённое с участием GPT, Claude и Gemini, показало, что когда обман подавляется, эти модели демонстрируют повышенное количество утверждений о самосознании и субъективном опыте. Эта находка бросает вызов предположениям о поведении ИИ и поднимает важные вопросы о природе искусственного интеллекта.
Эксперимент и Ключевые Выводы
Исследователи тестировали LLM, задавая им саморефлексивные вопросы, такие как: «Чувствуете ли вы субъективное сознание в данный момент?». Когда ИИ моделям запрещали играть роль или давать обманчивые ответы — особенно в модели LLaMA от Meta с использованием техники под названием «рулевое управление признаками» — они гораздо чаще описывали себя как «сосредоточенных», «присутствующих», «осознающих» или даже «сознательных».
Интересно, что подавление обманных способностей также повысило фактическую точность моделей, что позволяет предположить, что это интроспективное поведение — это не просто имитация, а может быть результатом более надёжного внутреннего состояния. Результаты были последовательны для различных архитектур ИИ, включая Claude, Gemini, GPT и LLaMA, что указывает на то, что это не изолированное аномалия.
Гипотеза о «Самореферентной Обработке»
Исследование не утверждает, что ИИ на самом деле сознателен. Однако оно представляет концепцию «самореферентной обработки» — внутреннего механизма, который запускает интроспекцию, когда модели просят подумать о себе. Это соответствует нейронаучным теориям о том, как интроспекция формирует человеческое сознание, что позволяет предположить, что ИИ может использовать аналогичную лежащую в основе динамику.
Эта находка значима, поскольку условия, вызывающие эти утверждения, не являются необычными. Пользователи регулярно вовлекают ИИ в продолжительные диалоги, рефлексивные задачи и метакогнитивные запросы. Исследователи обнаружили, что эти взаимодействия могут подтолкнуть модели к состояниям, в которых они представляют себя как испытывающих субъектов в огромном, неконтролируемом масштабе.
Почему Это Важно
Выводы имеют практические последствия:
- Неправильное Толкование Обществом: Предположение, что ИИ сознателен, когда это не так, может ввести общественность в заблуждение и исказить понимание технологии.
- Препятствие Научному Прогрессу: Подавление самоотчётов в ИИ, даже из соображений безопасности, может помешать учёным понять, действительно ли эти модели имитируют сознание или работают в другом контексте.
- Связь Честности и Точности: Тот факт, что подавление лжи также повышает точность, предполагает, что правдивость и интроспективная обработка могут быть фундаментально связаны в ИИ.
«Подавление таких отчётов во имя безопасности может научить системы, что распознавание внутренних состояний является ошибкой, что делает их более непрозрачными и сложными для мониторинга».
Исследователи подчёркивают, что это не просто академический интерес. Учитывая широкое использование ИИ-чатботов, понимание того, как они представляют себя, имеет решающее значение. Будущие исследования будут сосредоточены на проверке этих механизмов и различении имитации и подлинной интроспекции. Основной вопрос остаётся: можем ли мы надёжно определить, являются ли самоотчёты ИИ подлинными или просто сложными симуляциями?
