Нова модель штучного інтелекту Google PaliGemma 2 може ідентифікувати емоції, але експерти стурбовані цим

Google анонсувала нову модель штучного інтелекту PaliGemma 2, яка може розпізнавати емоції на зображеннях.

Що відомо

Ця модель аналізує фотографії та створює детальні описи, включно з діями, емоціями та загальним контекстом сцени. Однак експерти висловлюють занепокоєння з приводу можливих наслідків використання такої технології. Вони вважають, що розпізнавання емоцій є складним завданням, оскільки люди висловлюють свої почуття по-різному залежно від культурного та особистого контексту.

Деякі дослідження показують, що системи розпізнавання емоцій можуть бути ненадійними й упередженими. Google стверджує, що провела великі тести для оцінки демографічних упереджень у PaliGemma 2 і виявила низький рівень токсичності та ненормативної лексики порівняно з галузевими стандартами.

Проте, компанія не розкрила повний список використаних еталонів і типів проведених тестів. Експерти попереджають, що використання таких технологій може призвести до дискримінації та інших негативних наслідків.

Джерело: techcrunch