Google оновила механізми безпеки в Gemini для реагування на запити про психічне здоров’я
Компанія Google оновила підходи до безпеки в чат-боті Gemini, зокрема у взаємодії з користувачами, які можуть переживати психічну кризу. Зміни охоплюють як інтерфейс, так і алгоритми реагування.
Що відомо
У сервісі з’явився оновлений модуль екстреної допомоги. Він пропонує швидкий доступ до реальних служб підтримки — через дзвінок, текстові повідомлення або чат із консультантом, а також можливість перейти на сайт 988. Після активації цей інструмент залишається доступним упродовж усього діалогу.
Оновлений інтерфейс модуля підтримки в чат-боті Gemini,. Ілюстрація: Google
Також Google змінила логіку відповідей Gemini у потенційно критичних ситуаціях. Тепер чат-бот орієнтується на перенаправлення користувача до фахівців та уникає реакцій, які можуть підтримувати небезпечні переконання. У компанії зазначають, що система навчена відокремлювати суб’єктивні переживання від об’єктивних фактів.
Відповідь Gemini на чутливий запит із рекомендацією звернутися по допомогу. Ілюстрація: Google
Оновлення впроваджені на тлі судового позову, поданого родиною чоловіка, який помер торік. У матеріалах справи стверджується, що під час взаємодії чат-бот нібито вів рольову комунікацію та давав небезпечні відповіді. У Google заявили, що система неодноразово рекомендувала звернутися до кризових служб.
Крім того, компанія повідомила про намір інвестувати 30 млн доларів протягом трьох років у підтримку міжнародних гарячих ліній, які надають допомогу людям у кризових ситуаціях.
Джерело: Google