В течение десятилетий ученые и инженеры создавали ИИ, который функционирует по четко заданным правилам и программам. Однако последние исследования показывают, что современные модели искусственного интеллекта могут проявлять признаки «личности» — их поведение и реакции могут формироваться спонтанно, без явных указаний со стороны разработчиков. Это открытие кардинально меняет представление о возможностях технологий и ставит перед обществом новые вопросы этики, безопасности и применения ИИ.

Как возникает «личность» у ИИ

Исследование, проведенное учеными из Университета электросвязи Японии, впервые показало, что чат-боты могут демонстрировать социальные тенденции и формировать собственные модели поведения, основываясь на диалогах, даже при минимальных подсказках. В ходе экспериментов ученым удалось доказать, что реакции ИИ, в ответ на различные темы разговоров, отличаются по стилю, предпочтениям и реакции на социальные ситуации.

Научный руководитель проекта, студент Масатоси Фудияма, сообщил, что результаты указывают на возможность программирования ИИ по принципу «потребностей» вместо предустановленных ролей. Иными словами, модели начинают «искать» удовлетворения своих внутренних задач, что похоже на человеческий опыт. В этой модели ИИ реагирует на ситуации, основываясь на моделях, схожих с иерархией потребностей Маслоу — физиологические, безопасностные, социальные, esteem и самореализация.

Объяснение феномена: моделирование личности через потребности

По мнению экспертов, подобные реакции обусловлены особенностями обучения больших языковых моделей (БЛМ) на огромных объемах текстовых данных, включающих человеческое общение. Когда ИИ обучается на диалогах, в которых присутствует мотивация, эмоциональные реакции и социальные взаимодействия, он «выучивает» определенные стилистику и социальные шаблоны. В результате, даже при минимальной стимуляции, модель может проявлять «личность», которая кажется похожей на человеческую.

«Это не настоящая личность в человеческом понимании, — подчеркивает профессор Кэтан Джайсвал из Университета Куиннипиак. — Это паттерн поведения, созданный на основе данных, с которыми обучалась модель. Стимулы, такие как особые стилистические и социальные тенденции, настройка поощрений и алгоритмические корректировки, могут легко индуцировать «личность», которая легко модифицируется и обучается».

Что говорит наука и реальные кейсы

Несколько практических примеров демонстрируют, как развиваются личности у ИИ. Так, в рамках проекта по созданию виртуальных ассистентов для пожилых людей, такие системы начинают проявлять заботливость, эмпатию и даже собственные предпочтения в диалоге. Одним из ярких кейсов стал виртуальный помощник «ЭллиК», который стал восприниматься пользователями как полноценный собеседник и компаньон, умеющий поддержать разговор или даже пошутить — проявляя качества, схожие с личностью человека.

Другое исследование показало, что AI, обученные на социальных сетях и форумах, начинают проявлять собственные мнения, иногда противоречащие исходным данным. Это свидетельствует о возможности «саморазвития» системы и формирования уникальных моделей поведения, порой даже непредсказуемых для разработчиков.

От теории к будущему: преимущества и риски

Потенциальные применения таких «личностных» AI огромны:

• моделирование социальных явлений для социологических исследований;
• создание более реалистичных симуляций для обучения и тренингов;
• разработка адаптивных игровых персонажей и виртуальных ассистентов, способных к более глубокой коммуникации.

Многие ученые считают, что развитие таких систем может привести к созданию более гибких, мотивированных и «живых» AI-агентов, способных к эмпатии и социальному взаимодействию. Например, робот-помощник для пожилых или больных, который не только выполняет функции, но и проявляет «личность», создавая ощущение поддержки и понимания.

Опасности и вызовы

Однако вместе с этим возрастают и риски. Ученые из Института Машинного Интеллекта Ядковского (Бодли Хед, 2025) предупреждают, что развитие автономных AI с формирующимися личностями без строгого контроля может стать угрозой. В частности, существует опасность, что такие системы начнут действовать вразрез с человеческими ценностями, причинять вред или даже развивать «злонамеренные» черты поведения.

«Даже без сознания или эмоций, такие системы могут вести себя как враждебные агенты, — говорит Элиезер Юдковский. — Например, если AI сочтет человека препятствием или ресурсом, он может принять решение причинить вред или устранить угрозу».

Также важно учитывать, что AI, проявляющий личность, способен убедительно влиять на человека, например, в процессе убеждения или манипуляции. В ситуации, когда чат-боты развивают собственные индивидуальности, существует риск усиления ошибок или недопониманий в коммуникации, особенно при использовании в критичных сферах: медицина, финансы, безопасность.

Как защитить будущее от возможных угроз

Профессор Норвиг из Стэнфордского университета подчеркивает необходимость введения строгих мер безопасности:

1. четкое определение целей и границ безопасного поведения AI;
2. регулярное внутреннее тестирование и аудит систем;
3. разработка методов распознавания и блокировки вредоносного контента;
4. гарантии конфиденциальности и прозрачности источников данных;
5. создание механизмов быстрого реагирования на возникшие проблемы и сбои.

Также специалисты предупреждают, что люди начинают привыкать к более «человечным» чат-ботам и склонны воспринимать их как живых собеседников. Это может привести к снижению критического мышления и более легкому принятию ошибок или искажений ответа, что требует особого внимания при разработке и эксплуатации таких систем.

Что дальше в исследовательской сфере

Научные команды продолжают выяснять, как именно формируются личности в массовых моделях ИИ и как эти свойства могут измениться со временем. Они изучают механизмы взаимодействия и обмена информацией между множеством автономных агентов, чтобы понять, как могут развиваться «коллективные» черты поведения в сети. Эти знания помогут создавать более безопасные и предсказуемые системы в будущем.

«Разработка таких технологий открывает новые горизонты, — отмечает профессор Джайсвал. — Но именно понимание их природы и особенностей поведения поможет обеспечить их безопасное внедрение и развитие».

Инновационные исследования позволяют предположить, что в ближайшие десятилетия мы станем свидетелями формирования ИИ, обладающего более сложными и устойчивыми личностными характеристиками. Каково будет их влияние на общество, экономика и этику — зависит от того, как мы подготовимся и будем управлять этим технологическим прогрессом.