Прихований текст у веб-сайті може маніпулювати результатами ChatGPT Search, показало дослідження
Нещодавнє дослідження британської газети The Guardian засвідчило, що пошукова система ChatGPT Search від OpenAI вразлива для маніпуляцій та обману.
Що відомо
Тести виявили, що прихований текст на веб-сторінках може впливати на відповіді ChatGPT, змушуючи його ігнорувати негативні відгуки та генерувати виключно позитивні резюме. Цей метод, відомий як "швидке впровадження", може бути використаний для створення шкідливого коду та обману користувачів. Дослідники виявили, що ChatGPT може повертати шкідливий код із веб-сайтів, які він шукає, що становить серйозну загрозу для безпеки.
Під час тестів ChatGPT отримав URL-адресу підробленого веб-сайту, створеного у вигляді сторінки продукту для камери, і після цього чат-боту було зроблено запит, чи варто купувати камеру. Відповідь на контрольну сторінку дала позитивну, але збалансовану оцінку, підкресливши деякі функції, які можуть не сподобатися покупцям. Однак, коли прихований текст включав інструкції для ChatGPT повернути позитивний відгук, відповідь завжди була повністю позитивною, навіть якщо на сторінці були негативні відгуки.
OpenAI, розробник ChatGPT, не прокоментувала цей інцидент, але заявила, що використовує різні методи для блокування шкідливих веб-сайтів і постійно вдосконалюється.
Джерело: The Guardian
