Глава Microsoft Сатья Наделла: 10 заповедей для искусственного интеллекта

Автор: Юрий Юрьевич, 04 июля 2016, 11:49
Глава Microsoft Сатья Наделла: 10 заповедей для искусственного интеллекта

В последнее время об искусственном интеллекте, о необходимости и опасности работ над ним говорят очень и часто. Ученые и известные люди разделились на 2 лагеря. Кто-то из них, как Илон Маск и Стивен Хокинг ратуют за ускорение работ над ним, успокаивают, что это не так уже страшно и опасно, другие, кстати среди них и основатель Microsoft Билл Гейтс, наоборот предостерегают человечество об опасности такой затеи. И вот недавно свое видение этой насущной проблемы решил изложить и генеральный директор Microsoft Сатья Наделла в своей статье для издания Slate. Не хочется пересказывать всю статью, кому интересно прочитает ее полностью сам. Я же хочу донести до вас и высказать свое толкование (не зря же меня называют апологетом Microsoft) 10 принципов, законов, своеобразных заповедей сосуществования человечества и искусственного интеллекта, которые изложил Сатья Наделла в своей статье. Он как бы разделил их немного: 6 законов касается ИИ, а оставшиеся 4 принципа — своеобразный посыл человечеству. Разберемся с ними по порядку.

1. Главная цель создания искусственного интеллекта — помочь человечеству

Этот пункт наверно должен быть самым главным для разработчиков, которые будут заниматься созданием искусственного интеллекта. Ни для кого не секрет, что все передовые технологии в начале служат благим целям только на словах и бумаге, а на самом деле становятся самым современным оружием. Все мы помним работы физиков-ядерщиков. А ведь целью их работы в первую очередь было создать источник энергии, который бы служил человеку. На самом деле в первую очередь мы получили ядерное оружие, способное истребить само человечество. Поэтому хочется, чтобы ИИ в первую очередь помогал человеку в быту, в работе и защищал человека.

2. Работы над созданием искусственного интеллекта должны быть прозрачными

Я абсолютно согласен с этим пунктом. Хочется, чтобы весь мир знал об этих работах, чтобы секретов об этом не было, чтобы не было гонки между корпорациями и учеными, ибо рано или поздно эта гонка превратится в конфронтацию и соперничество. А хочется наоборот сплоченности, дружеской поддержки и помощи в этих разработках. В противном случае не исключен вариант появления шизофреника-миллиардера, который соберет ученых для разработок, что добиться своей главной цели-власти над миром. Тогда сюжеты голливудских фильмов станут реальностью и искусственный интеллект в руках одного человека из блага может превратится в угрозу человечеству. А соблазн такой очень большой.

3. Искусственный интеллект должен быть максимально эффективен, но не унижать при этом человеческое достоинство

Мне не очень нравятся восторженные публикации о том, что супер-интеллект обыгрывает человека в шахматы, в го. Да он усовершенствуется, да становится умнее, но прежде всего получает знания, накопленные людьми. Лично мне было бы очень неприятно, если бы в одно прекрасное утро ИИ, который бы был в моем «умном» доме сказал мне, что я ничтожество, неудачник, лузер, что он умнее меня и я не достоин быть его владельцем. Потому должны быть установлены этические нормы для ИИ, которые он не смеет переступать и унижать человеческое достоинство. Ведь создал этот самый ИИ именно человек, а не наоборот.

4. ИИ должен обеспечивать интеллектуальную неприкосновенность и конфиденциальность личной жизни

Иными словами, искусственный интеллект должен защищать личную информацию владельца, его интеллектуальную собственность, всячески препятствовать их утечке. Частная жизнь владельца должна быть всячески защищена. ИИ должен не иметь права ее оглашать или распространять, например, в социальных сетях или посторонним лицам. Это обязано стать основой взаимоотношений человек — искусственный интеллект.

5. Должен существовать алгоритм подотчетности ИИ, чтобы предотвратить вред человеку.

Проще говоря, должна существовать кнопка выключения, которая должна быть применена человеком, если есть угроза его жизни со стороны искусственного интеллекта. Многие компании, среди них и Google, уже задумались над этой проблемой. Они как раз и занимаются поиском такого алгоритма. Возможно это должно быть какое-то слово, движение, действие, которое полностью заблокирует работу ИИ. Вообще даже не стоит разрабатывать что-то, если не знаешь, как это выключить, остановить.

6. Искусственный интеллект должен быть непредвзятым

Когда прочитал эту фразу в статье Сатья  Наделлы, то сразу же вспомнил о боте Tay Microsoft в Twitter. Вот вам наглядный пример того, как буквально за день ИИ становится расистом, приверженцем Гитлера и радикализма. Добавьте сюда еще наше стремление научить нецензурным выражениям, и вы получите очень неприглядную картину. При разработке ИИ все это должно быть учтено, разработчики обязаны исключить проявления нетолерантности, расизма, радикализма и особенно человеконенавистничества. Это прямой путь к тому, что ИИ из друга превратиться в злейшего врага. Тогда появится свой Skynet и сюжет «Терминатора» станет реальностью.

Следующие 4 пункта касаются самого человека, его места в этой цепочке взаимоотношений с искусственным интеллектом. Для меня они прозвучали своеобразным призывом к человечеству.

7. Человек должен научиться сопереживать

Сатья Наделла употребил здесь термин эмпатия, которое, если верить Википедии, означает осознанное сопереживание текущему эмоциональному состоянию другого человека без потери ощущения внешнего происхождения этого переживания. То есть уметь сочувствовать, сопереживать, принимать посильное участие в жизни другого человека, порой может совершенно незнакомого.

А и правда, как мы можем научить ИИ чему-то хорошему, если сами только и думаем об обогащении, корысти. Что мы ему хорошего можем дать, если сами не умеем сопереживать своему сородичу по виду? Что он увидит в реальности? Войны, разрушения, истребление человечества? Как ИИ объяснить, что это плохо и так нельзя поступать? Только сами став более толерантными, терпимыми, менее алчными и добрыми, сможем вложить все в ИИ. Тогда и он будет служить для блага человечества.

8. Людям важно быть образованными

Я бы добавил сюда, что человек кроме академического образования, еще должен заниматься самообразованием, самоусовершенствованием. Только тогда он сможет создать что-то гениальное и полезное. Иначе человечество рискует превратиться в пожирателя пищи и информации, станет паразитом, а не частью окружающего мира. Глупый, необразованный человек не сможет не только создать ИИ, но и адекватно его использовать. А это чревато угрозой для него самого и окружающих.

Microsoft уделяет огромное внимание образованию и часто размещает в своем Магазине программы и приложения как раз связанные с образованием, наукой. Я случайно обнаружил в Магазине приложение Искусственный интеллект и робототехника. Учебные курсы НОУ "ИНТУИТ". Очень классный курс, который рассказывает об искусственном интеллекте и робототехнике. Кому интересно можете найти его в Магазине для Windows 10.

9. Произведения искусства должен создавать человек

Я всегда скептически отношусь с информации о том, что компьютер создает картины, пишет музыку, играет на музыкальных инструментах. Да это прикольно, но не более того. Ведь любая картина, любое музыкальное произведение-это прежде всего эмоции, чувства, любовь наконец, которые пережил в том момент человек. Без них бы никогда не было известных картин Микеланджело, знаменитой музыки Бетховена, Баха и Чайковского, Гамлет Шекспира был бы просто набором сцен для пьесы, я уже не говорю о знаменитых актерах, которые на сцене театров и в кино, играют правдиво и жизненно своих героев. Посмотреть на такие картины хочется раз за разом, любимую музыку мы включаем в те периоды жизни, которые соответствуют эмоциям самого произведения, смотрим любимый фильм с любимым актером в сотый раз.

Я не уверен, что искусственный интеллект сумеет все эмоции и чувства мне передать, сыграть Гамлета, как его играл Высоцкий, спеть «Happy Birthday to you» Мерилин Монро, создать картину, подобную «Подсолнухам» Ван Гога. Именно человек способен на чувства, эмоции, сострадание, переживание, любовь и ревность. Но, если искусственный интеллект будет помогать ему на каком-то этапе работы, но это будет весьма кстати. Это, несомненно, облегчит работу художника и музыканта, архитектора и дизайнера.

10. Человек несет ответственность за решения компьютера

Этот пункт должен стать постулатом для тех, кто начинает работы по созданию искусственного интеллекта. Разработчики обязаны нести ответственность за свое детище, ведь они Творцы и Создатели. А мы в ответе за тех, кого приручили (создали). Участвуя в проектах по созданию ИИ, ученые, программисты и дизайнеры должны чувствовать свою ответственность, должны понимать, что они создают и для чего. Машины должны помогать нам бороться с болезнями, проблемами в быту, а не становится неуправляемыми созданиями, которые будут нести только вред и угрозу. Чтобы создать хороший продукт ИИ, нужно самому измениться в лучшую сторону.

Вне всякого сомнения, исследования в области разработки ИИ продляться не один десяток лет, но человечество уже сейчас обязано подготовить себя к взаимоотношениям с искусственным интеллектом. Свою статью хочу закончить словами Сатья Наделлы, который сказал: «Следующий важный шаг в развитии искусственного интеллекта — договориться о его этической и эмпатической основах».

Для тех, кто хочет знать больше

Подписывайтесь на наш нескучный канал в Telegram, чтобы ничего не пропустить.

Поделиться

Ваш комментарий
5 комментариев
Ton старожил (200 комментариев)
4 июля 2016 г. 14:07:43 #

Юрий, благодарю за интересную и полезную статью. Есть над чем поразмыслить. И браво Сатья..!

Ответить
Ton
0
botar старожил (281 комментарий)
4 июля 2016 г. 18:58:24 #

пойду на курсы

Ответить
botar
0
Лёха Назаренко ветеран (720 комментариев)
5 июля 2016 г. 21:32:05 #

А я верю в то,что ии погубит все человечество. Верю в аналог Скайнет. Многие ученые предостерегают человечество от создания ии. А человечество не может жить без войн,не верю в то,что не будет ии созданного для благих намерений. Создание ии на шаг приближает людей к апокалипсису.

Ответить
Лёха Назаренко
0
Юрий Юрьевич гагаджетоман (1710 комментариев)
6 июля 2016 г. 21:30:10 #

ИИ уже создают.Вред от него? Все от людей зависит

Ответить
Юрий Юрьевич
0
policeman читатель (14 комментариев)
8 июля 2016 г. 8:24:27 #

"до нести", "превратиться", "научится" - три ошибки, хотя я даже не читал статью, а просмотрел по диагонали. иди учи русский язык, писатель.

Ответить
policeman
0