Дженсен Хуанг: ШІ-галюцинації можливо виправити, а до штучного загального інтелекту залишилося 5 років

На щорічній конференції GTC генеральний директор NVIDIA Дженсен Хуанг (Jensen Huang) прокоментував актуальні питання про штучний загальний інтелект (AGI) і проблему галюцинацій у відповідях ШІ-систем.

Що відомо

За словами Хуанга, досягнення прийнятного рівня AGI, здатного працювати на людському рівні або перевершувати людей у широкому спектрі завдань, може відбутися протягом найближчих 5 років. Однак конкретні часові рамки залежать від того, як ми визначимо критерії AGI.

"Якщо ми задамо AGI як набір специфічних тестів, у яких програма зможе показати результати на 8% кращі, ніж більшість людей, я вірю, ми доб'ємося цього за 5 років", - пояснив Хуанг.

Прикладом таких тестів він назвав іспити для юристів, логічні тести, економічні випробування або медичні вступні іспити.

Що стосується проблеми галюцинацій, або тенденції ШІ видавати неправдиві, але правдоподібні відповіді, Хуанг вважає її вирішуваною. Він запропонував зобов'язати системи вивчати та підтверджувати відповіді з достовірних джерел перед видачею результату.

"Додайте правило: для кожної відповіді ви повинні проводити пошук і дослідження", - сказав Хуанг.

За його словами, цей процес може бути схожим на перевірку фактів у журналістиці: порівняти факти з джерел з відомими істинами, і якщо відповідь частково неточна - відкинути все джерело.

Джерело: TechCrunch