Компания Deeptime объединяется с Open AI для предотвращения восстания машин

Автор: Антон Янковский, 08 июля 2017, 01:21

Всё больше людей опасаются, что однажды, роботы восстанут и либо уничтожат, либо подчинят весь человеческий род. Чтобы предотвратить такой исход событий, две крупнейшие компании в сфере разработки искусственного интеллекта решили объединить свои усилия.

В чём основная опасность

Google DeepMind и лаборатория Open AI (кстати, финансируется Илоном Маском) выпустили исследовательскую статью, в которой излагается новый метод машинного обучения. Согласно нему, когда ИИ потребуется решить новую задачу - он, в первую очередь, обратится к человеку. Это будет гораздо безопаснее, чем позволять машине решать проблемы самостоятельно. Главная трудность, которая стоит перед исследователями - это разработка системы вознаграждений, то есть, возможности дать роботу понять, какие действия допустимы, а какие нет. Ведь машина ищет наиболее эффективный и рациональный подход к изучению вопроса и это будет выливаться в некоторые недопонимания между роботом и хозяином. Например, если перед ИИ стоит задача убрать квартиру, он может просто выбросить все вещи из окна или затолкнуть их в шкаф. То есть, технически задача выполнена, комната действительно убрана, но не так, как подразумевает это человек.

Еще пример

Эта проблема, кстати, отлично изображена в научно-фантастическом фильме «Я, робот», поставленного по мотивам произведений Айзека Азимова. В фильме, суперкомпьютер В.И.К.И. модифицирует первый закон робототехники "робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред", попросту ограничив свободу людей, чтобы они ничего с собой не сотворили, не воевали и т.п. 

Ответ

Как решение, исследователи попытались использовать оценки людей для вознаграждения ИИ. Когда машина выполняла задание так, как хотели тренеры, она получала положительную обратную связь. Используя этот метод, ИИ смог научиться играть в простые видеоигры. Хоть такой способ обучения и будет занимать значительно больше времени, он позволит полностью контролировать и направлять развитие искусственного интеллекта.

Источник: Engadget

Новости по теме:

Другие материалы по теме: