Facebook отключила ИИ, создавший свой собственный язык

Специалисты лаборатории Facebook AI Research Lab (FAIR) пытались обучить чат-ботов общаться друг с другом на английском языке, но каждый раз искусственный интеллект переходил на другую форму коммуникации. Знакомые символы выстраивались в конструкции, непонятные для человека. После обнаружения сбоя исследователи решили остановить работу ИИ.

Это настораживает

Когда боты начинали взаимодействовать друг с другом, их диалог выглядел примерно следующим образом:

Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else
Alice: balls have a ball to me to me to me to me to me to me to me to me
Bob: i . . . . . .. . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to

Исследователи смогли разобрать, что с помощью «i» и «to me» искусственный интеллект указывает количество предметов, но понять значение всех «слов» невозможно, как и в случае с шифрованием данных нейросетями. Свою роль сыграло и то, что в процессе обучения ИИ не получал никаких вознаграждений за использование английского языка. В результате боты перешли на более короткие обозначения, смысл которых остается загадкой для нас. Так и появляются опасения, что в будущем машины взбунтуются и объединятся против человечества, хотя IT-гиганты постараются не допустить подобный сценарий.

Что любопытно, буквально на прошлой неделе Марк Цукерберг назвал рассуждения Илона Маска о конце света из-за ИИ «безответственными». Сам он настроен более оптимистично, на что глава SpaceX и Tesla ответил: «Я обсуждал эту тему с Марком. Его понимание предмета поверхностно». Билл Гейтс, все еще самый богатый человек в мире, и физик Стивен Хокинг тоже обеспокоены развитием искусственного интеллекта, а Стив Возняк успел изменить свое мнение и теперь считает, что ИИ поможет человечеству.

Источник: Forbes