ChatGPT покличе на допомогу: OpenAI запускає функцію «Довірена особа»
OpenAI визнала, що люди дедалі частіше використовують ChatGPT як безкоштовного психотерапевта, і вирішила додати в цей цифровий затишок трохи реального світу. Тепер, якщо алгоритми запідозрять, що ви плануєте щось лихе щодо себе, вони зможуть постукати у віртуальні двері до вашого друга або родича.
Спілкування з нейромережами стало настільки буденним, що користувачі все частіше довіряють чат-ботам свої найважчі переживання. Це логічно: ШІ не втомлюється, не засуджує та відповідає миттєво. Проте в OpenAI розуміють, що цифрова емпатія має свої межі. Нова функція Trusted Contact («Довірена особа») — це спроба вивести допомогу за межі текстового поля, підключивши до ситуації реальну людину в критичні моменти.
Як працює багаторівневий фільтр
Налаштування функції є цілком добровільним. Користувач може обрати контактну особу (старше 18 років), якій надійде офіційне запрошення з поясненням її ролі. У потенційного помічника є тиждень, щоб прийняти або відхилити цю пропозицію. Якщо все підтверджено, система починає працювати у фоновому режимі, але без зайвого фанатизму.
Важливо розуміти, що це не просто бездушний алгоритм, який реагує на «тригерні» слова. Процес включає обов'язковий людський фактор:
- ChatGPT фіксує ознаки наміру заподіяти собі шкоду та пропонує користувачеві ресурси для самостійної допомоги.
- До аналізу ситуації підключається команда спеціально навчених модераторів.
- Фахівці мають підтвердити серйозність ризику менш ніж за 1 годину.
- Тільки після вердикту людини довірена особа отримає SMS, електронний лист або сповіщення в застосунку.
Конфіденційність та межі втручання
Головне питання, яке турбує користувачів: чи прочитає довірена особа історію їхніх чатів? Розробники запевняють, що конфіденційність залишається пріоритетом. Обрана людина не отримає доступу до листування та не дізнається подробиць розмови. Повідомлення лише проінформує, що в діалозі виникла тривожна тема, пов'язана із самопошкодженням, і міститиме прохання вийти на зв'язок із користувачем.
Функцію розробляли за участю дослідників та організацій з охорони психічного здоров'я, зокрема Американської психологічної асоціації (APA). Раніше подібний інструмент уже працював для підліткових акаунтів, але тепер його масштабували на дорослу аудиторію. У компанії наголошують: Trusted Contact не замінює екстрені служби чи професійну терапію, а лише додає ще один рівень безпеки там, де алгоритм безсилий.
Штучний інтелект стає дедалі ініціативнішим у нашому житті, іноді навіть занадто. Наприклад, нові окуляри Alibaba Qwen AI Glasses S1 навчилися давати поради без жодних запитань з боку власника.