Генеральный директор Google признал, что у функции AI Overview есть проблема с «галлюцинациями»

Недавно введенная функция Google AI Overview, предназначенная для предоставления кратких сводок в верхней части страниц результатов поиска, подверглась критике за распространение неверной и странной информации. В недавнем интервью генеральный директор Google Сундар Пичаи (Sundar Pichai) признал наличие серьезной проблемы в новой функции AI Overview, предназначенной для создания кратких сводок в результатах поиска.

Что известно

Пользователи столкнулись с неточной и иногда абсурдной информацией, предоставляемой этой функцией. Примеры включают советы использовать клей для фиксации сыра на пицце и приписывание ложных утверждений экспертам. Пичаи объяснил, что такие “галлюцинации” являются следствием ошибок в больших языковых моделях, которые используются в AI Overview. Несмотря на усилия инженеров Google, проблема остается нерешенной, но Пичаи утверждает, что функция все еще может быть полезной и отмечает улучшение точности по сравнению с прошлым годом.

Критика со стороны пользователей и экспертов, таких как консультант по искусственному интеллекту Бритни Мюллер (Britney Mueller), подчеркивает высокие ожидания от точности ИИ и риски, связанные с его преждевременным внедрением. Ошибки AI Overview вызвали недовольство в интернете и могут подорвать доверие к поисковой системе Google.

В заключение, несмотря на оптимизм Пичаи, продолжающиеся ошибки подчеркивают необходимость дальнейшего совершенствования ИИ и важность баланса между инновациями и доверием пользователей. Улучшение точности и надежности ИИ остается приоритетом для предотвращения распространения дезинформации.

Источник: ITHome