ChatGPT призовет на помощь: OpenAI запускает функцию «Доверенное лицо»
OpenAI признала, что люди все чаще используют ChatGPT как бесплатного психотерапевта, и решила добавить в этот цифровой уют немного реального мира. Теперь, если алгоритмы заподозрят, что вы планируете что-то недоброе в отношении себя, они смогут постучать в виртуальную дверь к вашему другу или родственнику.
Общение с нейросетями стало настолько обыденным, что пользователи все чаще доверяют чат-ботам свои самые тяжёлые переживания. Это логично: ИИ не устает, не осуждает и отвечает мгновенно. Однако в OpenAI понимают, что цифровая эмпатия имеет свои пределы. Новая функция Trusted Contact («Доверенное лицо») — это попытка вывести помощь за пределы текстового поля, подключив к ситуации реального человека в критические моменты.
Как работает многоуровневый фильтр
Настройка функции является полностью добровольной. Пользователь может выбрать контактное лицо (старше 18 лет), которому будет отправлено официальное приглашение с объяснением его роли. У потенциального помощника есть неделя, чтобы принять или отклонить это предложение. Если всё подтверждено, система начинает работать в фоновом режиме, но без излишнего фанатизма.
Важно понимать, что это не просто бездушный алгоритм, реагирующий на «триггерные» слова. Процесс включает обязательный человеческий фактор:
- ChatGPT фиксирует признаки намерения нанести себе вред и предлагает пользователю ресурсы для самостоятельной помощи.
- К анализу ситуации подключается команда специально обученных модераторов.
- Специалисты должны подтвердить серьёзность риска менее чем за 1 час.
- Только после вердикта человека доверенное лицо получит SMS, электронное письмо или уведомление в приложении.
Конфиденциальность и границы вмешательства
Главный вопрос, который волнует пользователей: прочтёт ли доверенное лицо историю их чатов? Разработчики заверяют, что конфиденциальность остаётся приоритетом. Выбранный человек не получит доступ к переписке и не узнает подробностей разговора. Сообщение лишь проинформирует, что в диалоге возникла тревожная тема, связанная с самоповреждением, и будет содержать просьбу выйти на связь с пользователем.
Функцию разрабатывали с участием исследователей и организаций по охране психического здоровья, включая Американскую психологическую ассоциацию (APA). Ранее подобный инструмент уже работал для подростковых аккаунтов, но теперь его масштабировали на взрослую аудиторию. В компании подчеркивают: Trusted Contact не заменяет экстренные службы или профессиональную терапию, а лишь добавляет ещё один уровень безопасности там, где алгоритм бессилен.
Искусственный интеллект становится всё более инициативным в нашей жизни, иногда даже слишком. Например, новые очки Alibaba Qwen AI Glasses S1 научились давать советы без вопросов со стороны владельца.