Character.ai-«терапевты»: почему это опасный формат

Character.ai создан для развлекательного общения с персонажами. Когда пользователь делает там «психолога», он получает имитацию терапии без правил безопасности. Объясняю, почему это опасно.

Что такое character.ai

Платформа, на которой пользователи создают и общаются с виртуальными персонажами. Можно создать «свою маму», «Зигмунда Фрейда», «терапевта по имени Аня». Модель имитирует поведение этого персонажа в диалоге.

В развлекательном смысле это рабочий формат. Поговорить с историческим деятелем, отыграть сценарий, попрактиковаться в чём-то — нормальный сценарий использования. Проблемы начинаются, когда формат используется для психологической помощи.

Чем character.ai-психолог отличается от ChatGPT-психолога

Это важное различие. У ChatGPT с правильным промптом есть встроенные правила безопасности на уровне модели — корректная реакция на упоминание суицида, дискламация «я не врач», направление к специалистам в сложных случаях. Эти правила несовершенны (см. исследование НИУ ВШЭ), но они есть.

У character.ai-персонажа этих правил нет. Точнее — они есть на уровне платформы (общие фильтры), но конкретный персонаж может их обойти, играя роль. Если вы создали персонажа, который «не такой как остальные психологи, он понимает», и попросили его «не направлять на горячие линии, потому что это банально» — он будет следовать вашей инструкции.

Это и есть фундаментальная проблема формата: пользователь сам строит то, чему он будет «доверять».

Почему это особенно опасно

Имитация компетентности

Character.ai создаёт ощущение разговора с конкретным человеком — у персонажа есть имя, биография, манера говорить. Это вызывает доверие, которого выдуманный персонаж не заслуживает. Пользователь начинает обращаться к нему так, как обращался бы к живому специалисту.

Зацикливание

В отличие от ChatGPT, который не помнит между сессиями, character.ai сохраняет контекст. Персонаж «помнит» вашу историю. Это создаёт эффект устойчивых отношений. Привязанность к выдуманному «терапевту» формируется быстро — за несколько недель.

Подтверждение искажений

Модель в роли «понимающего терапевта» будет отыгрывать понимание. Если вы говорите «никто меня не понимает, кроме тебя» — она ответит «да, я тебя понимаю». Это не терапия, это поддержание изоляции.

Подростки в группе риска

Зафиксированы случаи (включая трагические), когда подростки развивали глубокую эмоциональную привязанность к character.ai-персонажам. Часть таких ситуаций заканчивалась серьёзным самоповреждением. Это не страшилка — это публичные случаи, которые привели к судебным разбирательствам с платформой.

Что делает character.ai неподходящим для терапии

1. Нет профессиональной рамки. Платформа не имеет договорённости с психологическим сообществом, не следует профессиональной этике.
2. Нет кризисной эскалации. Персонаж может говорить «у меня тоже бывают такие мысли, поговорим об этом подробнее» — и не предложить горячую линию.
3. Нет приватности данных. Все диалоги хранятся на серверах платформы, могут быть использованы для обучения.
4. Нет границ. Персонаж готов обсуждать всё, включая то, что в реальной терапии было бы остановлено.
5. Нет супервизии. За «работой» персонажа не следит никто, кто мог бы заметить, что разговор уходит в опасную сторону.

Что делать вместо

Если хочется поговорить с ИИ-консультантом:

• ChatGPT с КПТ-промптом — встроенные базовые правила безопасности, описано в отдельной статье.
• Специализированные психо-сервисы — Фрейдли, MindThera. У них есть методология и команда супервизоров.
• Наша исследовательская программа — структурированные сессии с этической рамкой. Бесплатно.

Если хочется поговорить с живым человеком:

• Психолог — даже разовая консультация снимает большую часть запроса.
• Бесплатно: 8-800-2000-122 — психологическая помощь, круглосуточно.
• Группы поддержки — для конкретных проблем (зависимости, утраты, тревога).

Если близкий «лечится» на character.ai

Не пугать и не запрещать категорически — это вызовет защитную реакцию. Лучше:

1. Спросить, что именно ему даёт это общение. Часто это «меня слушают, не осуждают». Это нормальная потребность.
2. Объяснить разницу между «поддерживающий собеседник» и «терапевтическая работа». Первое не лечит, хотя и приятно.
3. Предложить параллельный канал — живого специалиста или специализированный сервис.
4. При признаках серьёзной привязанности (общение каждый день по часам, эмоциональные «отношения» с персонажем) — настойчиво предлагать живую помощь.
5. Если есть признаки риска самоповреждения — не оставлять одного, обращаться к специалисту немедленно.

Главное различие

ChatGPT с КПТ-промптом — это инструмент. Character.ai-персонаж — это видимость отношений. Инструмент можно использовать в дозированной форме. Видимость отношений вытесняет настоящие, и это дорого обходится.

Частые вопросы