Генеральний директор Google визнав, що у функції AI Overview є проблема з "галюцинаціями"

Нещодавно введена функція Google AI Overview, призначена для надання коротких зведень у верхній частині сторінок результатів пошуку, зазнала критики за поширення невірної та дивної інформації. У нещодавньому інтерв'ю генеральний директор Google Сундар Пічаї (Sundar Pichai) визнав наявність серйозної проблеми в новій функції AI Overview, призначеній для створення коротких зведень у результатах пошуку.

Що відомо

Користувачі зіткнулися з неточною та іноді абсурдною інформацією, що надається цією функцією. Приклади включають поради використовувати клей для фіксації сиру на піці та приписування помилкових тверджень експертам. Пічаї пояснив, що такі "галюцинації" є наслідком помилок у великих мовних моделях, які використовуються в AI Overview. Попри зусилля інженерів Google, проблема залишається невирішеною, але Пічаї стверджує, що функція все ще може бути корисною і відзначає поліпшення точності порівняно з минулим роком.

Критика з боку користувачів і експертів, таких як консультантка зі штучного інтелекту Брітні Мюллер (Britney Mueller), наголошує на високих очікуваннях від точності ШІ та ризиках, пов'язаних із його передчасним впровадженням. Помилки AI Overview викликали невдоволення в інтернеті та можуть підірвати довіру до пошукової системи Google.

Насамкінець, незважаючи на оптимізм Пічаї, помилки, що тривають, наголошують на необхідності подальшого вдосконалення ШІ та важливості балансу між інноваціями й довірою користувачів. Поліпшення точності та надійності ШІ залишається пріоритетом для запобігання поширенню дезінформації.

Джерело: ITHome