Разработчики искусственного интеллекта должны нести ответственность за причиняемый ими вред, считают "крестные отцы" технологии

Изображение сгенерировано искусственным интеллектом Bing/DALL-E 3

Мощные системы искусственного интеллекта угрожают социальной стабильности, считает группа ведущих экспертов, включая двух "крестных отцов" этой технологии. 

Что известно

По мнению экспертов, стремление создавать все более мощные системы ИИ, не понимая, как сделать их безопасными "совершенно безрассудные". Они выступили с рядом предложений, среди которых:

• выделение средств на безопасное использование ИИ;
• предоставление аудиторам доступ к лабораториям ИИ;
• введение лицензирования передовых моделей. 

Также эксперты предложили возложить на технологические компании ответственность за предотвратимый вред от их систем.

Среди соавторов — два из трех "крестных отцов ИИ" Джеффри Хинтон (Geoffrey Hinton) и Йошуа Бенгио (Yoshua Bengio), нобелевский лауреат Дэниел Канеман (Daniel Kahneman), автор книги Sapiens Юваль Ной Харари (Yuval Noah Harari) и другие известные специалисты.

Они предупредили, что уже есть признаки опасных возможностей ИИ, например, в модели GPT-4, на которой основан ChatGPT. Эксперты опасаются появления автономных систем, неподконтрольных человеку.

Источник: The Guardian