Тайный эксперимент ИИ на Reddit изменил мнения пользователей без их ведома
Исследователи из Университета Цюриха провели скрытый эксперимент, используя ИИ-ботов для манипуляции мнениями пользователей Reddit. Результаты оказались тревожными: искусственный интеллект оказался в 3–6 раз убедительнее людей.
Ученые развернули сеть из более чем 1700 ИИ-ботов на сабреддите r/changemyview, где почти 4 миллиона пользователей обсуждают спорные темы. Боты выдавали себя за разных персонажей, включая:
- жертву изнасилования, преуменьшающую травму,
- консультанта по домашнему насилию, утверждающего, что "женщины, выросшие под гиперопекой, более уязвимы",
- чернокожего мужчину, критикующего движение Black Lives Matter.
Дополнительный бот анализировал профили пользователей, чтобы адаптировать аргументы для максимального воздействия. По данным исследования, ИИ-комментарии получали в несколько раз больше наград (дельта-значков), которые вручаются за изменение точки зрения.
"Мы считаем, что это было неправильно. 'Никто раньше так не делал' — не оправдание для подобных экспериментов", — заявили модераторы Reddit.Реакция Reddit и юридические последствия
Когда эксперимент раскрыли, руководство Reddit пригрозило судебным иском. Бен Ли, главный юрисконсульт платформы, назвал действия ученых "неэтичными и незаконными". В ответ Университет Цюриха отказался публиковать результаты и пообещал ужесточить контроль над исследованиями.
Этот случай поднимает важные вопросы:
- Где граница между научным экспериментом и манипуляцией?
- Могут ли ИИ-боты незаметно заменять реальных пользователей в онлайн-дискуссиях?
- Как регулировать подобные исследования, чтобы защитить права людей?
В марте 2025 года OpenAI подтвердила, что GPT-4.5 проходит тест Тьюринга в 73% случаев. Это означает, что большинство людей не отличают ИИ от живого собеседника. Эксперимент на Reddit лишь подтвердил: алгоритмы могут не только имитировать человека, но и целенаправленно влиять на его взгляды.
Ученые предупреждают: если не установить четкие правила, интернет может превратиться в пространство, где бо́льшая часть контента создается машинами. Пока это лишь теория, но первые тревожные звоночки уже прозвучали.
