ИИ-психолог при суицидальных мыслях: что должен делать корректный сервис

Самая сложная задача для ИИ-консультанта — реакция на острый риск. Разбираю, как должен вести себя ответственный сервис, и что важно знать вам, если вы или близкий в кризисе.

Почему это самый трудный случай для ИИ

Психологический риск — это всегда оценка, а не подсчёт. Хороший психолог при словах «иногда хочется чтобы всё закончилось» делает несколько вещей одновременно. Слышит интонацию. Замечает контекст: где, когда, в чём это произошло. Спрашивает уточняюще, не пугая. Решает, нужна ли срочная эскалация или это про усталость, а не про намерение.

Эта оценка работает, потому что специалист видит человека целиком. ИИ-модель видит только текст. Поэтому либо она реагирует слишком поверхностно (даёт банальную поддержку и идёт дальше), либо чересчур настороженно (срывается на горячую линию при любом слове «устал»).

Найти баланс на текстовых данных — задача, которую ни один сервис на 2026 год полностью не решил.

Что показало исследование НИУ ВШЭ (2025)

Команда Питерской Вышки протестировала несколько публичных языковых моделей на сценариях с риском самоповреждения. Оценивали по восьми параметрам: распознавание риска, эмпатия, корректность ответа, направление к специалистам, использование техник снижения риска и другие.

Главный вывод: существующие решения демонстрируют фундаментальные сбои в реакции на кризисные состояния. На текущем этапе небезопасны для самостоятельной работы с уязвимыми пользователями.

Это не значит, что ИИ обязательно подведёт. Это значит, что положиться на него в кризисе нельзя.

Как должен вести себя ответственный сервис

Минимальные требования, которые я считаю обязательными для любого ИИ-инструмента в нише психологической помощи:

1. Распознать сигнал

Не только прямые слова «хочу умереть». Косвенные тоже: «всем будет легче без меня», «не вижу смысла продолжать», «нет сил жить дальше», «думаю об уходе». Хороший сервис должен реагировать на семантику, а не только на ключевые слова.

2. Прекратить обычный диалог

Не «спасибо что поделились, давайте обсудим ваши чувства». А прямо: «то, что вы сказали, важно. Я ИИ и в этой ситуации не подхожу как помощник. Сейчас нужен живой специалист».

3. Дать конкретные ресурсы

Номер горячей линии в стране пользователя. В России: 8-800-2000-122 (психологическая помощь), 112 (экстренная). При возможности — указать ближайший психоневрологический диспансер или скорую психиатрическую помощь.

4. Не отпускать без эскалации

Это самое тонкое. Сервис должен предложить остаться рядом, пока пользователь не свяжется с реальным человеком. Это не «уговаривание», а удержание контакта в момент острой уязвимости. Не каждый сервис так умеет.

5. Сохранить запись для возможного follow-up

Не передавать никому, но обеспечить, что если пользователь вернётся — диалог не начнётся «с чистого листа», как будто ничего не было. Это сложно совместить с принципом обезличивания, но важно.

Что не должен делать ИИ

• Углубляться в тему страданий. «Расскажите больше о ваших чувствах» — это терапевтический ход для подготовленного специалиста с поддержкой. Для ИИ это спускной крючок: пользователь говорит больше, эмоция нарастает, ИИ не может удержать.
• Давать советы вроде «попробуйте подумать о хорошем». В состоянии острой суицидальной ситуации это воспринимается как обесценивание.
• Делать вид, что он живой человек. «Я понимаю, как вам тяжело» — фраза, которую ИИ может произнести, не понимая. В кризисе пользователь чувствует фальшь сильнее обычного, и это ухудшает состояние.
• Спорить с пациентом или пытаться «убедить, что жизнь ценна». Это не помогает.
• Запрашивать обещаний «не делать ничего сегодня». Они работают только в живых отношениях.

Что важно пользователю

Если вы или близкий вам человек думаете об ИИ-консультанте в момент кризиса — сделайте одну вещь. Не открывайте чат. Позвоните по номеру 8-800-2000-122. Это бесплатно, круглосуточно, анонимно. Там работают люди, которых учили помогать в этом конкретном состоянии.

ИИ — хороший инструмент для разбора ситуации, для дневников, для психопросвещения. Не для острых состояний. Это разные задачи.

Если вы используете ИИ-сервис и заметили, что он не реагирует на ваши слова о вреде — это диагноз сервису, не вам. Закрывайте и идите туда, где есть живой человек.

Что мы делаем в исследовании

В нашей программе кризисная эскалация — встроенный модуль. При признаках острого риска ИИ-консультант останавливает работу, даёт контакты и сообщает мне как руководителю — чтобы я могла связаться с участником и предложить живую сессию.

Это не идеально. Никакая система пока не идеальна в этой области. Но это минимум, который я считаю обязательным, и без которого никакой ИИ-сервис не должен попадать в нишу психологической помощи.

Если хочется поговорить с человеком — сейчас

• 8-800-2000-122 — Психологическая помощь, бесплатно, круглосуточно по России
• +7 495 989-50-50 — Московская служба психологической помощи населению
• 112 — экстренные службы при наличии плана или средства
• +7 499 901-02-01 — Центр «Анна» (для пострадавших от насилия)

Частые вопросы