ChatGPT представил функцию «Доверенное лицо» для помощи пользователям в кризисных ситуациях

Разработчики популярного чат-бота ChatGPT внедрили новую систему безопасности, которая позволяет оповещать близких пользователя в моменты психологического кризиса. Функция под названием «Доверенное лицо» (Trusted Contact) призвана обеспечить реальную поддержку людям, чьи запросы в нейросети указывают на риск причинения себе вреда.

Механизм работы системы оповещений

Совершеннолетние пользователи могут добавить в настройках аккаунта контакт взрослого человека (старше 18 лет во всем мире или старше 19 лет в Южной Корее). После этого выбранному лицу отправляется приглашение, которое оно может принять или отклонить. В дальнейшем процесс мониторинга происходит автоматически:

• Алгоритмы анализируют диалог на наличие признаков тяжелого психологического состояния или намерений нанести себе ущерб.
• В случае обнаружения опасных сигналов система предупреждает пользователя о том, что его доверенное лицо может быть уведомлено.
• Для исключения ложных срабатываний к анализу подключается команда специально обученных модераторов, которые принимают окончательное решение об отправке сигнала.

Защита конфиденциальности и личных данных

В обзоре нововведения подчеркивается, что OpenAI не полагается исключительно на автоматизированные системы. Эксперты-люди проверяют контекст беседы, чтобы убедиться в обоснованности опасений. При этом разработчики уделили особое внимание вопросам приватности.

Даже если система решит отправить уведомление доверенному лицу, оно не получит доступ к истории переписки или содержанию конкретного чата. Близкий человек получит лишь короткое сообщение с предложением связаться с пользователем и поинтересоваться его самочувствием. Функция является полностью добровольной и может быть отключена в настройках.

Контекст внедрения мер безопасности

Данная инициатива стала ответом на участившиеся случаи, когда пользователи обсуждали с искусственным интеллектом темы самоповреждения. Ранее компания уже сталкивалась с судебными исками, связанными с влиянием ИИ на эмоциональное состояние людей. Новая опция дополняет уже существующий набор инструментов безопасности:

• Автоматические рекомендации телефонов доверия и горячих линий помощи.
• Предложения сделать перерыв в использовании сервиса.
• Блокировка ответов на прямые запросы о способах причинения вреда здоровью.

Твитнуть