Google обновила механизмы безопасности в Gemini для реагирования на запросы о психическом здоровье
Компания Google обновила подходы к безопасности в чат-боте Gemini, в частности во взаимодействии с пользователями, которые могут переживать психический кризис. Изменения охватывают как интерфейс, так и алгоритмы реагирования.
Что известно
В сервисе появился обновленный модуль экстренной помощи. Он предлагает быстрый доступ к реальным службам поддержки — через звонок, текстовые сообщения или чат с консультантом, а также возможность перейти на сайт 988. После активации этот инструмент остается доступным на протяжении всего диалога.
Обновленный интерфейс модуля поддержки в чат-боте Gemini. Иллюстрация: Google
Также Google изменила логику ответов Gemini в потенциально критических ситуациях. Теперь чат-бот ориентируется на перенаправление пользователя к специалистам и избегает реакций, которые могут поддерживать опасные убеждения. В компании отмечают, что система обучена отделять субъективные переживания от объективных фактов.
Ответ Gemini на чувствительный запрос с рекомендацией обратиться за помощью. Иллюстрация: Google
Обновления внедрены на фоне судебного иска, поданного семьей мужчины, который умер в прошлом году. В материалах дела утверждается, что во время взаимодействия чат-бот якобы вел ролевую коммуникацию и давал опасные ответы. В Google заявили, что система неоднократно рекомендовала обратиться в кризисные службы.
Кроме того, компания сообщила о намерении инвестировать 30 млн долларов в течение трех лет в поддержку международных горячих линий, которые оказывают помощь людям в кризисных ситуациях.
Источник: Google