Безопасно ли рассказывать ИИ личное: конфиденциальность, утечки и что попадает в обучение

Когда вы пишете ИИ о психологических переживаниях, ваш текст не «где-то в облаке» — он на серверах конкретной компании, и архитектура устроена так, что приватность не гарантирована. Разбираю, что реально происходит с данными и как снизить риск.

Что происходит с вашими данными, когда вы нажимаете Enter

Я спрашиваю клиентов: «Вы понимаете, куда ушёл тот текст, который вы написали ChatGPT в 3 часа ночи?» Обычно ответ: «Ну, он где-то там, в облаке». Это не вина клиентов. Компании старательно создают ощущение, что диалог приватный, как разговор с другом.

Это не так.

Когда вы отправляете сообщение в ChatGPT, Claude, GigaChat или ЯндексGPT, происходит следующее. Ваш текст уходит на серверы компании. Там он обрабатывается языковой моделью. Результат отправляется обратно. Ваша история сохраняется в аккаунте. Она индексируется для поиска. Она может быть просмотрена системами модерации, которые ищут запрещённый контент. Она может быть просмотрена человеком, если сработал алерт или если компания расследует инцидент.

Это не паранойя. Это документированные практики.

В 2023 году The Verge сообщил, что сотрудники подрядчика OpenAI читали личные переписки пользователей в рамках работы над безопасностью модели. В том же году истории диалогов некоторых пользователей ChatGPT появились в чужих аккаунтах из-за бага. В 2024 году исследователи показали, что данные из обучающих датасетов языковых моделей можно извлечь обратно — не полностью, но фрагментарно.

Я не говорю, что за вами следят. Я говорю, что архитектура устроена так, что следить технически возможно. И что психологическая информация — не просто «данные». Она особенная.

Психологическая информация — особая категория

Если вы рассказываете ИИ о своей тревоге, о конфликте с партнёром, о детской травме, о сексуальных переживаниях — это не эквивалентно запросу «как приготовить пасту». Потому что:

Эта информация не меняется. Ваш адрес можно сменить. Имя — тоже. Но факт, что вы пережили насилие в детстве, или что вы испытываете суицидальные мысли, или что вы зависимы — это не обновляется. Если она утечёт, она останется в сети навсегда.

Эта информация ценна. Даже обезличенная. Паттерны тревоги, модели принятия решений в стрессе, темы, которые люди обсуждают в 2 часа ночи — это данные для таргетинга, для оценки кредитного риска, для страховых алгоритмов. Компании не обязаны использовать их так. Но они могут.

Эта информация контекстуальна. Фраза «я чувствую себя бесполезным» в диалоге с терапевтом — часть терапевтического процесса. В диалоге с ИИ, данные которого утекли, эта же фраза становится документом. Её можно процитировать вне контекста. Можно использовать как доказательство в суде, если дело дойдёт до него.

Я не пытаюсь вас напугать. Я пытаюсь вас предупредить. Потому что 4 принципа этики Сагалаевой включают принцип прозрачности: вы должны понимать, что происходит с вашими данными, прежде чем делиться ими.

Что попадает в обучение моделей

Вот что мало кто читает, но все принимают.

Условия использования ChatGPT (бесплатная версия) гласят, что данные могут использоваться для обучения моделей, если вы не отключили эту опцию в настройках. В настройках есть переключатель «Improve the model for everyone». Если он включён — ваши диалоги идут в обучение. Если выключен — теоретически нет. Но теоретически.

Claude позиционирует себя как более приватный, но и там данные могут использоваться для обучения, если вы не используете корпоративный тариф с отдельным соглашением.

Российские сервисы (GigaChat, ЯндексGPT, Сбера) работают под российским законодательством. Это означает, что данные хранятся в РФ, но также означает, что они доступны для запросов правоохранительных органов в рамках закона. Я не оцениваю, хорошо это или плохо. Я констатирую: архитектура доступа существует.

Важный нюанс: даже если вы отключили обучение, ваши данные всё равно сохраняются на серверах. Они всё равно проходят через системы модерации. Они всё равно могут быть просмотрены при расследовании инцидента. Отключение обучения — это не удаление данных. Это только запрет на использование в датасете для новых моделей.

Реальные случаи утечек

Я не буду цитировать конкретные исследования, потому что ситуация меняется быстро, и я не хочу давать устаревшие данные. Но типы инцидентов повторяются.

Истории диалогов в чужих аккаунтах. Пользователь открывает ChatGPT и видит чужие заголовки диалогов в боковой панели. Это случалось несколько раз. Компании называют это «техническим сбоем».

Сотрудники читают переписки. Для обучения моделей безопасности, для модерации, для расследований. Компании признают это в прозрачных отчётах. Пользователи об этом не думают.

Данные утекают через API. Когда сторонние приложения подключаются к языковым моделям, они получают доступ к диалогам. Не всегда с теми же гарантиями, что у основного сервиса.

Обратное извлечение данных. Исследователи показывали, что можно «вытащить» из модели фрагменты обучающих данных, задавая специальные запросы. Это не значит, что ваш конкретный диалог будет извлечён. Но это значит, что полная конфиденциальность технически невозможна.

Что делает информацию «психологической» особенно уязвимой

Если вы рассказываете ИИ о своей работе — это профессиональная информация. Она может навредить, если утечёт к конкуренту. Но она не меняет вашу идентичность.

Если вы рассказываете о своих переживаниях — это идентичностная информация. Она формирует, как вы видите себя. Если она утечёт, ущерб не количественный. Он качественный.

Клиент писал ИИ о своей зависимости. Потом увидел таргетированную рекламу реабилитационных центров. Совпадение? Возможно. Но клиент больше не чувствовал, что его диалог был конфиденциальным.

Клиентка описывала ИИ свои панические атаки. Через месяц ей пришло предложение страховки с повышенной премией для людей с «тревожными расстройствами». Она не указывала диагноз нигде, кроме диалога с ИИ. Причинно-следственная связь не доказана. Но доверие разрушено.

Я не утверждаю, что это результат прямой продажи данных. Я утверждаю, что психологическая информация создаёт риски, которые люди не учитывают, когда открывают чат.

Как минимизировать риск

Абсолютной безопасности нет. Но есть шаги, которые снижают вероятность ущерба.

Не называйте реальные имена. Не свои, не партнёров, не коллег. Используйте инициалы или вымышленные имена. Если данные утекут, идентификация будет сложнее.

Не указывайте точные даты и локации. «В прошлом месяце» вместо «15 марта». «В крупной компании» вместо названия. «В московском офисе» вместо адреса. Это не паранойя. Это базовая гигиена.

Используйте режимы без сохранения истории, где они есть. ChatGPT имеет «Temporary chat», который не сохраняется в истории и теоретически не идёт в обучение. Но он всё равно проходит через серверы компании. Это не анонимность. Это только отсутствие истории в вашем аккаунте.

Не пишите то, что может быть использовано против вас. Это звучит очевидно, но в моменте эмоционального обращения к ИИ люди забывают. Не описывайте преступления. Не признавайтесь в нарушениях. Не давайте компрометирующих деталей, которые могут стать доказательствами.

Помните: ИИ не имеет врачебной тайны. В отличие от психолога, который в РФ защищён законом о врачебной тайне (с оговорками), ИИ не имеет такой защиты. Ваш диалог с ИИ — это не диалог с врачом. Это ввод данных в коммерческий сервис.

Граница: когда риск оправдан

Я не призываю отказаться от ИИ в психологическом контексте. Я сама изучаю это в исследовательской программе ИНП. Но я призываю делать это осознанно.

Риск оправдан, когда альтернатива — отсутствие помощи вообще. Если в 3 часа ночи паническая атака, и рядом никого, и кризисная линия кажется недоступной — лучше написать ИИ, чем страдать в одиночестве. Но делать это с пониманием, что это не конфиденциально.

Риск не оправдан, когда вы используете ИИ для систематической терапии, заменяя живого специалиста. Потому что тогда вы не просто делитесь информацией разово. Вы создаёте длинный, подробный, идентифицируемый корпус данных о своей психике. Это уже не «я написал в 3 часа ночи». Это «я вёл три месяца терапии с алгоритмом, и весь этот архив хранится на чужих серверах».

FAQ

Могут ли мои диалоги с ChatGPT быть использованы против меня в суде?

Теоретически да. Данные хранятся на серверах компании и могут быть запрошены в рамках судебного разбирательства. Практических прецедентов в РФ мало, но архитектурная возможность существует.

Что безопаснее: российские или зарубежные ИИ?

Разные модели риска. Зарубежные сервисы (ChatGPT, Claude) подпадают под иностранное законодательство, данные хранятся за рубежом. Российские — под российское, данные в РФ, доступ для правоохранительных органов проще. Однозначного ответа «что безопаснее» нет.

Помогает ли режим «Temporary chat»?

Частично. Он не сохраняет историю в вашем аккаунте и теоретически не использует данные для обучения. Но текст всё равно проходит через серверы компании и подвергается модерации. Это не анонимность.

Можно ли удалить свои данные у ИИ-сервиса?

Вы можете удалить историю диалогов в интерфейсе. Но компания не обязана удалить данные из своих резервных копий, логов и датасетов обучения. «Право на забвение» в цифровом пространстве ограничено.

Что делать, если я уже рассказал ИИ что-то личное?

Не паникуйте. Вероятность утечки конкретно ваших данных невысока. Но пересмотрите свои практики: используйте псевдонимы, убирайте идентифицирующие детали, отключайте обучение в настройках. И рассмотрите работу с живым специалистом для систематических тем.

ИИ психолог-сервисы обещают конфиденциальность. Можно ли им верить?

Читайте мелкий шрифт. «Конфиденциальность» в маркетинге и конфиденциальность в юридическом договоре — разные вещи. Ищите пункты про обучение моделей, про доступ сотрудников, про передачу данных третьим лицам. Если этих пунктов нет — это тревожный знак, не хороший.

Записаться

Если вы используете ИИ в психологическом контексте и готовы поделиться обезличенными данными о ваших практиках безопасности, приглашаю в исследовательскую программу ИНП. Консультации по вопросам приватности и выбора инструментов — на странице «Контакты».