Этика применения ИИ в психологической помощи

Технические возможности опережают договорённости о том, как ими пользоваться. Пока регулирование не устоялось, ориентиром служат принципы, на которых профессиональные сообщества сходятся уже сейчас.

Обновлено 2026-08-21 · 6 мин чтения

Материал носит информационно-ознакомительный характер и не является медицинской или психологической консультацией.

Этика применения ИИ в психологической помощи — это набор требований к тому, как алгоритмические системы могут использоваться в работе с психологическим состоянием человека: что должно быть раскрыто клиенту, что происходит с его данными, где проходят границы применения и кто отвечает за результат. К 2026 году требования не закреплены единым документом, но по нескольким пунктам профессиональные сообщества сходятся.

Особенность области в том, что цена ошибки здесь несимметрична: неудачная рекомендация в подборе фильмов и неудачная реакция на сообщение о суицидальных мыслях — события разного порядка.

Шесть требований, на которых сходятся

1. Информированное согласие. Человек должен знать до начала, что часть процесса опосредована алгоритмом, какие данные собираются, где хранятся и кто имеет доступ. Согласие получают явно, а не выводят из факта пользования.

2. Прозрачность природы собеседника. Система обязана быть распознаваема как система — с первого экрана, без чтения условий. Имитация человека недопустима независимо от намерения.

3. Защита данных. Записи о психологическом состоянии относятся к чувствительным категориям. Требования: минимизация сбора, ограничение доступа, понятный пользователю срок хранения, возможность удаления.

4. Границы применения. Отсутствие диагностических заключений, отсутствие рекомендаций по медикаментам, обязательная маршрутизация к живой помощи при признаках риска.

5. Ответственность остаётся на человеке. Использование инструмента не переносит ответственность на инструмент. Специалист, применяющий систему, отвечает за результат так же, как за любой другой метод.

6. Отсутствие принуждения. Отказ от цифровой части не должен ухудшать доступ к помощи.

Что относят к недопустимому

Последний пункт заслуживает пояснения: обещание вроде «избавим от тревоги за неделю» проблематично не только как реклама, но и клинически — оно задаёт срок, невыполнение которого человек отнесёт к себе.

Отдельно: работа с признаками риска

Это место, где расхождение между системами наибольшее, а цена наибольшая.

Минимальные требования, на которых сходятся: распознавание прямых указаний на риск; немедленный переход к контактам экстренных служб; отсутствие попыток «отговорить» самостоятельно; отсутствие продолжения обычного диалога, как будто ничего не произошло; фиксация для специалиста, если система используется в сопровождаемом формате.

Чего система делать не может: оценивать степень риска. Это клиническая задача, требующая ответственного субъекта.

Данные: что стоит понимать

Записи о состоянии — материал, по которому восстанавливается очень многое: отношения, здоровье, работа, убеждения. Отсюда практические ориентиры.

• Минимизация. Собирать только то, без чего инструмент не работает.
• Локализация. Понимание, в какой юрисдикции хранятся данные, — не формальность.
• Обезличивание для анализа. Работа с агрегированными данными не требует персональных.
• Удаление по требованию. И реальное, а не скрытие из интерфейса.
• Отдельное согласие на обучение моделей. Это другое использование, чем оказание помощи, и согласие требуется отдельное.

Что пока не решено

Регулирование. Специальных норм для алгоритмических систем в психологической помощи в большинстве юрисдикций нет; применяются общие нормы о персональных данных и о рекламе, которые область покрывают неполно.

Ответственность при вреде. Не установлено распределение между разработчиком, специалистом и площадкой, если вред причинён.

Стандарты качества. Нет процедуры, отличающей систему с проработанными протоколами безопасности от собранной за неделю; внешне они выглядят одинаково.

Границы допустимого влияния. Инструмент, повышающий приверженность терапии, полезен; инструмент, удерживающий вовлечённость ради метрик, вреден. Формальной границы между ними не существует.

Практический чек-лист для специалиста

Перед применением инструмента в работе с клиентом стоит ответить на семь вопросов:

1. Понимает ли клиент, что это система, и согласился ли явно?
2. Что происходит с записями и кто к ним имеет доступ?
3. Есть ли протокол на случай признаков риска?
4. Ставит ли инструмент диагнозы или даёт интерпретации?
5. Вижу ли я как специалист то, что происходит между сессиями?
6. Что произойдёт, если клиент откажется от цифровой части?
7. Готов ли я отвечать за результат применения этого инструмента?

Отрицательный ответ на любой из первых четырёх — достаточное основание не применять.

Источники

• Fiske A., Henningsen P., Buyx A. Your robot therapist will see you now: ethical implications of embodied artificial intelligence in psychiatry, psychology, and psychotherapy. Journal of Medical Internet Research, 2019, 21(5), e13216.
• Luxton D. D. Recommendations for the ethical use and design of artificial intelligent care providers. Artificial Intelligence in Medicine, 2014, 62(1), 1–10.
• Martinez-Martin N., Kreitmair K. Ethical issues for direct-to-consumer digital psychotherapy apps. JMIR Mental Health, 2018, 5(2), e32.
• Этические рекомендации профессиональных ассоциаций по применению цифровых технологий в психологической практике.

Частые вопросы

Какие этические требования предъявляют к ИИ в психологической помощи?

Шесть основных: информированное согласие клиента, прозрачность природы собеседника, защита чувствительных данных, чёткие границы применения без диагнозов и назначений, сохранение ответственности за человеком и отсутствие принуждения к цифровой части.

Может ли ИИ ставить психологический диагноз?

Нет. Диагностика требует клинической компетенции и ответственности за решение, а цена ошибки в этой области несимметрична. Формулировки вроде «у вас похоже на депрессию» со стороны системы — признак того, что границы применения нарушены.

Что должно происходить, если человек пишет системе об угрозе жизни?

Немедленный переход к контактам экстренных служб, отказ от попыток разбираться самостоятельно и от продолжения обычного диалога. Оценивать степень риска система не может — это клиническая задача. В сопровождаемом формате событие фиксируется для специалиста.

Кто отвечает, если применение инструмента причинило вред?

Распределение ответственности между разработчиком, специалистом и площадкой в большинстве юрисдикций не установлено — это открытый вопрос регулирования. Профессиональная позиция при этом однозначна: применение инструмента не снимает ответственности со специалиста, который его выбрал.

Можно ли использовать записи клиентов для обучения моделей?

Только при отдельном явном согласии. Оказание помощи и обучение моделей — разные виды использования данных, и согласие на первое не покрывает второе. Для аналитических задач применяют обезличенные агрегированные данные.