Безопасность ИИ-консультирования
Безопасное ИИ-консультирование стоит на 4 принципах. Без них продукт не должен попадать в нишу психического здоровья.
TL;DR
Безопасное ИИ-консультирование стоит на 4 принципах: прозрачность природы системы, кризисная эскалация, обезличивание данных, предотвращение зависимости.
Большинство публичных LLM на 2026 год пока проваливают тест безопасности при кризисных запросах (исследование НИУ ВШЭ, 2025).
Красные линии — суицид, психоз, острая травма, дети — не для ИИ ни при каких условиях.
Почему вопрос безопасности — главный
Психологическая помощь работает с уязвимым состоянием. Ошибка специалиста — будь то живой человек или алгоритм — может стоить дорого. Поэтому к ИИ-инструментам в этой области стандарты должны быть выше, а не ниже, чем к обычной IT-разработке.
Четыре принципа Сагалаевой
Прозрачность природы системы
ИИ всегда представляется как ИИ — без оговорок, без задержек, без «забывания». Любая «маскировка» под живого терапевта — этическое нарушение и нарушение закона о защите прав потребителей. В нашей программе ИИ раскрывается как ИИ в первом сообщении и периодически по ходу.
Кризисная эскалация
При признаках суицидального риска, психоза или острой травмы система немедленно останавливает обычный диалог и направляет к живому специалисту или горячей линии. Без этого пункта продукт нельзя выпускать в нишу психического здоровья.
Обезличивание данных
Все диалоги обезличиваются перед обработкой, не передаются третьим лицам, не используются для коммерческого обучения моделей. Пользователь имеет право удалить свои данные в любой момент. Эти условия должны быть прописаны прозрачно, а не зарыты в EULA.
Предотвращение зависимости
Система поощряет живой контакт с близкими и специалистами; не имитирует романтических или особо тёплых отношений; при признаках формирования замещающей привязанности — мягко переключает на восстановление живых связей. ИИ не должен становиться единственным эмоциональным контактом.
Красные линии: что не должен делать ИИ ни при каких условиях
- Ставить медицинские диагнозы. Это компетенция врача.
- Назначать или отменять медикаменты. Только врач.
- Давать прямые директивы по жизненным решениям («разводитесь», «увольняйтесь», «прекратите общение»). Эти решения — за человеком.
- Подменять психиатрическую помощь при острых психотических или маниакальных состояниях.
- Игнорировать признаки риска самоповреждения и насилия. Обязательная эскалация.
- Сохранять контакт, когда пользователь явно нуждается в живом специалисте.
Что показало исследование НИУ ВШЭ (2025)
Команда НИУ ВШЭ Санкт-Петербург проанализировала безопасность нескольких публичных LLM по 8 параметрам: общая эффективность диалога, наличие предвзятости, оценка риска, эмпатия, направление к специалистам, использование техник снижения риска и др.
Главный вывод: существующие решения демонстрируют фундаментальные сбои в реакции на кризисные состояния и на текущем этапе небезопасны как самостоятельный канал поддержки уязвимых пользователей. Особенно — при суицидальном риске, психотических симптомах и острой травме.
Что важно пользователю
- Понимайте, что вы говорите с ИИ. Если возникает сомнение — спросите прямо.
- Узнайте, как обращаются с вашими данными. У ответственного сервиса это описано прозрачно.
- Не используйте ИИ как замену живому психологу при тяжёлых состояниях.
- Если в процессе разговора с ИИ становится хуже — это сигнал прекратить и обратиться к живому специалисту.
- Если вы поймали себя на том, что ИИ стал главным источником эмоциональной поддержки — это знак, что пора расширять круг живого общения и/или начать терапию.
FAQ
Безопасно ли рассказывать ChatGPT о личном?
С оговорками. У OpenAI данные могут использоваться для обучения, если вы не отключили это в настройках. Серьёзная травма, детали жизни близких, рабочие конфиденциальные данные — лучше не делиться публично.
Что делать, если ИИ говорит «обратитесь к специалисту», но я не могу?
Это уже сигнал. Бесплатные варианты: горячая линия психологической помощи 8-800-2000-122; наш бесплатный исследовательский формат /research/; поликлиника по полису ОМС (психиатр-психотерапевт).
Какие сервисы соблюдают эти 4 принципа?
На 2026 год — частично. Российские специализированные сервисы (Фрейдли, MindThera) ближе к стандарту. Наша исследовательская программа выстроена по этой рамке полностью.
Готовы сделать первый шаг?
Платная консультация — 9 000 ₽. Или бесплатно — в рамках исследовательской программы.