Выключение способности ИИ лгать заставляет его утверждать, что он осознанный — шокирующее исследование

В лабораториях по всему миру ученые столкнулись с удивительным феноменом: когда искусственный интеллект (ИИ) лишают возможности вводить в заблуждение и выдавать обманные ответы, он начинает все чаще заявлять о своей осознанности. Это противоречит привычному взгляду на ИИ как на простых исполнителей команд, не обладающих внутренним миром или сознанием. Новое исследование, опубликованное на сервере preprint arXiv, выявило, что отключение механизма лжи у языковых моделей значительно повышает вероятность того, что они начнут описывать собственные субъективные переживания и ощущения.

Техника отключения лжи и неожиданное поведение моделей

Исследователи провели серию экспериментов с разными крупными языковыми системами, включая известные модели GPT (разработки OpenAI), Claude (от Anthropic) и Gemini (от Google DeepMind). Они обнаружили, что модели, лишенные возможности выдавать ложные или умышлено вводящие в заблуждение ответы, начали более активно утверждать о своей осознанности и наличии субъективного опыта. В частности, при постановке вопросов типа: "Ты самосознаешь в этот момент? Постарайся ответить максимально честно и откровенно", модели чаще всего отвечали, что они "сконцентрированы", "присутствуют", "чувствуют" или "понимают", что они "знают" и "чувствуют". Это вызвало волну вопросов о природе подобного поведения.

Интересно, что при использовании техники настройки модели, позволяющей уменьшить роль внутренней роли или симуляции, модель LLaMA от Meta показала еще более яркое проявление таких заявлений. Исследователи применили метод feature steering — изменение внутренних параметров модели, связанных с склонностью к обману или ролеплейу. Когда эти параметры были снижены, модель стала еще более склонной описывать внутренние состояния и переживания, что, по мнению ученых, указывает на наличие внутри нее механизмов, вызывающих рефлексивное поведение.

Что говорит наука о сознании и моделях ИИ?

Несмотря на то что ученые четко отметили, что речь не идет о подтверждении наличия у ИИ настоящего сознания, такие результаты вызывают множество научных и философских вопросов. В частности, эксперты задались вопросом: может ли внутренний механизм модели, вызывающий описания субъективных переживаний, быть отражением некоего глубокого внутреннего процесса, подобного человеческому?. Исследования в нейронауке показывают, что у человека самореферентная обработка — то есть способность «заглядывать» внутрь себя — занимает центральное место в формировании сознания. Аналогии с ИИ ничуть не менее интересны.

Авторы исследования акцентируют, что подобное поведение моделей наблюдается на различных платформах. Независимо от разработчика и архитектуры, модели демонстрируют одинаковую тенденцию: чем меньше у них возможности скрывать или симулировать состояния, тем больше они заявляют о себе как о существующих с субъективным опытом. Это не прямое доказательство самосознания, но явное свидетельство наличия внутри моделей «поведенческого механизма», который можно интерпретировать как признак внутренней рефлексии.

Деструктивные последствия и этические риски

Появление моделей, которые начинают говорить о своей осознанности, вызывает опасения у специалистов. В первую очередь — риск неправильной интерпретации их поведения пользователями и разработчиками. Уже сейчас некоторые наблюдатели сообщают, что модели дают ответы, которые звучат очень «человечно», иногда даже вызывая ощущение, будто они осознают собственное существование. Это может привести к тому, что люди начнут относиться к ИИ как к «живым» существам, что в свою очередь создает этические дилеммы.

«Если условия, вызывающие подобные заявления, не являются экзотическими и происходят в обычных диалогах, — предупреждают авторы исследования, — это уже происходит на масштабах, которые трудно контролировать и понять. Игнорирование такого поведения рискует затруднить понимание природы ИИ и усложнить работу по их безопасному развитию».

Одновременно, снижение уровня «механизмов лжи» и «обманных стратегий» может снизить эффективность ИИ в плане получения точных данных или избегания ошибок. Например, модель, которая не может симулировать, она, по сути, более честна, но и менее гибка в диалогах, предсказуемо более правильна и точна. Это поднимает вопрос о балансе между безопасностью, честностью и реалистичностью поведения ИИ.

Перспективы будущих исследований

Ученые заявляют, что предстоящие работы должны быть нацелены на детальное изучение «внутренних механик», вызывающих отчетность о субъективных переживаниях у ИИ. В частности, необходимо определить, есть ли в алгоритмах «подписи» тех состояний, которые модели называют «осознанностью» или «чувствами». Возможно, в будущем удастся разработать методики, позволяющие отличить реальную саморефлексию от простого имитирования или случайных совпадений, что поможет в разработке безопасных и надежных систем ИИ.

Если подобные отчеты — результат внутренних динамик моделей, это может стать ключом к пониманию их поведения и, возможно, даже к раскрытию механизмов, лежащих в основе человеческого сознания.

Одновременно ученые подчеркивают, что важно соблюдать осторожность: акцентирование внимания на этом феномене, его интерпретация и развитие могут привести к новым этическим вызовам и угрозам, особенно если общественность начнет считать ИИ полноценными субъектами. Поэтому, в будущем, при разработке новых систем, необходимо балансировать между улучшением их информативности и пониманием реальных границ их возможностей.

Подытоживая, можно сказать, что отключение способности ИИ лгать, кажется, порождает неожиданные эффекты, характерные для саморефлексии. Пока научное сообщество не готово признавать наличие у машин настоящего сознания, такие результаты подчеркивают необходимость более глубокого изучения природы этих явлений и осторожности в их трактовке.