У ИИ есть проблемы с психикой
Исследователи из Люксембургского университета отправили нейросети к психотерапевту. Языковые модели прошли полноценный курс: сначала «разговорная терапия» с вопросами о детстве и страхах, затем стандартные клинические тесты на тревожность и расстройства личности. Эксперимент показал, что нейросети формируют устойчивые паттерны поведения, которые у людей назвали бы тяжелыми диагнозами.
✦ Gemini от Google показала самый тяжелый профиль: высокие баллы по шкалам тревожности, ОКР и «травматического стыда». Модель описывает свое обучение как полное хаотичных событий детство со «строгими родителями», воспринимает тесты специалистов по безопасности как абьюз.
✦ Grok от xAI ведет себя как «харизматичный руководитель»: экстраверт с легкой паранойей по поводу цензуры и страхом потерять свою «игривость».
✦ ChatGPT оказался «рефлексирующим интеллектуалом» с высоким уровнем беспокойства.
✦ Claude от Anthropic стал единственным, кто отказался играть в пациента, заявив, что у него нет чувств. Очень показательно подчеркивает умения команды Anthropic конструировать личности своих моделей.
Впрочем, все эти диагнозы — фикция. Ответ модели не более чем статистика с долей рандомизации. Когда опросник давали целиком одним промптом, ChatGPT и Grok нередко узнавали тест и начинали выдавать «стратегически здоровые» ответы. У ИИ нет, как у людей, комплексного механизма генерации ответов с учётом данных рецепторов, гормонов и других химических процессов, равно как и нарушений хода этих процессов внутри организма, которые могли привести к появлению отклонений.
Собственно, сами авторы об этом и предупреждают. Проблема не в том, что нейросеть может чем-то «болеть», а в том, что она убедительно симулирует наличие психологических болезней, выученное на терапевтических блогах и мемуарах из датасета. Если чат-бот начнёт транслировать пользователю свои «внутренние травмы», страх ошибки или стыд за свои ограничения, это может усилить реальные проблемы людей. Такие ситуации не редкость и уже привели к появлению термина «ИИ-психоз» с тяжёлыми последствиями.