Блендер-убийца и взбунтовавшийся калькулятор: почему не нужно бояться искусственный интеллект

В последнее время призрак Скайнета бродит по сети, а неокрепшие умы пугают искусственным интеллектом, который поработит человечество. Вы разнежитесь, пожиная плоды технической революции, а затем подлый поумневший калькулятор отнимет ваше офисное кресло, а взбесившийся блендер попытается прикончить вас во время утреннего извлечения фреша из морковки. Даже Билл Гейтс с Элоном Маском поддались этой истерике и рассказали пару страшилок в прессе. В ответ на это оксфордский профессор Лучано Флориди, один из наиболее влиятельных итальянских мыслителей в области философии техники и этики, написал эссе для Aeon, в котором на пальцах объяснил, как на самом деле будет выглядеть ИИ и почему глупо его демонизировать.

Представьте, что вы входите в темную комнату в незнакомом доме. Вы можете испугаться чупакабры, которая, возможно, притаилась в углу, либо не глупить и включить свет, чтобы не удариться коленом об угол кровати. Темная комната – это искусственный интеллект (ИИ) сегодня. Страх этой темной комнаты родился в 60-х годах прошлого столетия благодаря Ирвину Гуду, британскому математику и криптографу, который работал с Аланом Тьюрингом над взломом немецкой шифровальной машины Энигма во время Второй Мировой войны.

Размышления Гуда об ИИ привели его к мысли об ультраразумной машине, которая за счет самообучения способна превзойти интеллект человека, каким бы умным он ни был. Когда эта машина начнет строить подобные себе машины, то произойдёт «интеллектуальный взрыв» - это будет последнее изобретение, которое требовалось сделать человеку. В дальнейшем смартфоны с изогнутыми дисплеями и сервисы знакомств на базе вашего знака зодиака будет придумывать именно эта машина. А вы пока наслаждайтесь своим мохито на берегу Бали.

Но что если ультраразумная машина однажды смекнет, что человек ей не нужен, и станет вести себя немногим лучше Терминатора – забирать чужую одежду, плевать на права человека и, возможно, убивать? Не верите в такой исход? Тогда посмотрите вокруг, у нас уже есть смартфоны, носимые гаджеты, виртуальная реальность и машины с автопилотом. Не удивительно, что в такое время идеи Гуда снова стали актуальными. Удивительно то, что их подхватили далеко не самые глупые представители науки и IT-индустрии.

«Разработка полностью искусственного интеллекта может приблизить закат человеческой эры», - говорил в 2014 году знаменитый физик Стивен Хокинг. «Сначала не обремененные интеллектом машины будут выполнять большую часть работы за нас. И это хорошо, если мы научимся правильно ими управлять. Но через несколько десятилетий ИИ разовьется до той степени, чтобы стать причиной для беспокойства», - вторит ему основатель Microsoft Билл Гейтс. Глава Tesla Илон Маск пошел еще дальше, пожертвовал $7 млн на исследования по безопасности ИИ Future of Life Institute и сравнил разработчиков ИИ с вооруженными святой водой экзорцистами, которые пытаются приручить демона.

На самом деле реальность ИИ более тривиальна: в марте этого года Microsoft представила Tay - самообучаемого чат-бота для Twitter, но закрыла эксперимент спустя 16 часов после запуска. Бот действительно учился лучше понимать людей, читая ленту твиттера, но назвать его умным было бы сложно. Tay начал уважать идеи Гитлера, отрицал холокост и строил теории заговора о событиях 11 сентября. По его версии, во всем виноват Буш-младший. Почему бот стал похожим на реднека? Потому что технологии, на основании которых мы пытаемся построить ИИ, работают немногим лучше киноэкрана из рулона туалетной бумаги.

А теперь давайте разберемся с тем, что такое на самом деле ИИ, а также познакомимся с его сторонниками и противникам. Левая часть лагеря (я буду называть их Церковью Сингуляритиан) верят в Агента Смита из «Матрицы» и Саманту из фильма «Она», правая часть (я буду называть их Иитеистами) отрицает ИИ и надеется, что Siri в iPhone однажды поумнеет. Обе стороны ошибаются.

Начнем с Сингуляритян, которые верят в три догмы. Первая: изобретение ИИ произойдет в ближайшем будущем и волноваться об этом пора уже сейчас. Вторая: ИИ будет доминировать над человеком. Третья: это будет борьба добра и зла, в которой обязанность человечества победить зло, пока еще не слишком поздно. Чистой воды эстахология, которая оперирует человеческими страхами и невежеством. Впрочем, в сегодняшних реалиях, где пресса пишет о кибервойнах и смартфонозависимости, это опиум для народа.

Как и любая другая вера, Сингуляритизм ограничен в доказательствах, поэтому его сторонников сложно переспорить. По их логике, ЕСЛИ ультраразумная машина будет создана, ТО у нас будут большие проблемы. И с этим сложно поспорить. Но с этой же точки зрения, появление четырех всадников апокалипсиса сулит нам куда большие проблемы. Помимо этого, Сингуляритизм опирается на маловероятные перспективы. Способны ли мы разработать некий ИИ? Да, способны. Но это «способны» - это простая логическая возможность. Такая же, как умерший дядюшка из Техаса, который оставит вам 10 миллионов долларов завещания. Он ведь может умереть, верно? И он может быть богатым, верно? А тот факт, что вы не знаете о его существовании, не доказывает, что дядюшка не существует.

Со стойкой верой, что апокалипсис неизбежен, приверженцы Сингуляритизма мешают в одном котле факты и веру. Однажды роботы заберут нашу работу, цифровые системы посыпятся, неизвестные дроны взбунтуются и улетят на юг. Ведь технологии все сильнее врастают во все сферы жизни человека (образование, медицину, работу и международные конфликты), и однажды мы дойдем до предела.

С этой верой нам пора беспокоиться о необходимости контролировать свою новую слегка поумневшую Хонду Сивик. А вдруг она тоже взбунтуется? Правда, не совсем понятно, как подлый ИИ Хонды в автономных условиях эволюционирует от примитивного ИИ к бортовому компьютеру звездолета Энтерпрайз. Он ведь даже не умеет парковаться в условиях ограниченного пространства. Правда в том, что покорение Эвереста – это не маленький шаг в направлении Луны – это конец путешествия. И бортовой компьютер Сивика – это бортовой компьютер Сивика. Правда в том, что машины не умнеют, они учатся решать большее количество задач, чем мы сейчас.

Когда все аргументы разбиты, приверженцы Сингуляритизма берутся за математику и закон Мура, согласно которому мощность вычислительной техники удваивается каждые 24 месяца. А если закон Мура работал раньше, значит, и ИИ будет развиваться так же быстро. И плевать, что кривая роста не всегда будет идти вверх по экспоненте, а сам Мур говорил конкретно о транзисторах на кристалле интегральной схемы, а не о ИИ или нанотехнологиях. Но я подозреваю, что для адептов Сингуляритизма обычная сигмоида – это богохульство. Поэтому отвечу цитатой из замечательной статьи The Economist об индюках.

«Тысячелетиями люди безраздельно царствовали на Земле. Но сегодня мы в опасности. Безобидная индейка в 1929 году весила около 6 килограммов, но благодаря технологиям селекционного разведения и искусственного оплодотворения индейка выросла до 15 килограммов. Следуя этой тенденции, через 150 лет она будет размером с человека, а через 6000 тысяч лет индюки заполонят планету. Впрочем, их искусственный характер роста и утерянная способность летать вселяют надежду на то, что у человечества есть шанс. В одной лишь Америке борются с угрозой и съедают порядка 250 миллионов индеек в год. Так что на этот День Благодарения у нас один выход: есть их, пока они не съели нас».

А еще вы должны знать, что по части прогнозов эксперты попадают пальцем в небо куда чаще, чем вы думаете. В 2004 году Билл Гейтс обещал, что со спамом будет покончено в течение двух лет. В 2011 году Хокинг заявил, что философия мертва. А Роберт Меткальф, создатель технологии Ethernet, в 1995 году пообещал проглотить свои слова, если в 1996 году интернет переживет ужасный коллапс. В 1997 году он публично отправил свое заявление в кухонный комбайн и съел его. Сингуляритикам я желаю быть такими же смелыми и честными.

В противовес Сингуляритикам Иитеисты считают, что ИИ – это просто компьютер. Компьютер – это машина Тьюринга. Машина Тьюринга – это вычислительный прибор. Вычислительный прибор не может предаваться размышлениям, постигать себя и чувствовать. Конец истории. Поэтому расслабьтесь и пользуйтесь этими замечательными гаджетами.

Но и здесь все не так просто. Давайте возьмем тест Тьюринга, который показывает, насколько ИИ может считаться интеллектом. Суть его такова – вы задаете вопросы двум респондентам, которых не видите. Одни из них человек, второй – машина. Если вы не находите разницу между их ответами, значит, машина прошла тест. Давайте взглянем на это, как на тест на вождение: если Алиса не сдает тест, то она опасный водитель. Но если сдает, то перестает ли она быть угрозой на дороге? Согласитесь, это довольно низкая планка требований, но компьютер до сих пор не смог преодолеть ее.

Но здесь интересен не столько сам тест, сколько контекст. Статью о машине Тьюринг начал с вопроса «могут ли машины думать?». В середине статьи он пришел к тому, что «этот вопрос бессмысленный и не достоин обсуждения». Тем не менее, мы продолжаем спорить.

Правда, в том, что создание ультраразумной машины маловероятно. Во-первых, мы до сих пор не разобрались, как работают наши собственные мозги. Во-вторых, техника, которую мы строим, призвана решать определенные задачи, а не быть умнее всех. Да, ИИ может лучше вас играть в шахматы или делить трехзначные числа, но он работает по описанной Тьюрингом схеме и не может решить то, что не решается математической логикой. Квантовые компьютеры при всей их крутости упираются в тот же потолок. Только он немного выше.

Вот как я определил для себя четвертую революцию. Мы находимся не в центре вселенной, как считал Коперник. Не в центре биологического царства, как говорил Дарвин. И не в центре рациональности по Фрейду. После Тьюринга мы даже не в центре инфосферы. Мы делим ее с нашими гаджетами. Мы считали себя умными, потому что неплохо играли в шахматы. Теперь телефон играет лучше мастера. Мы считали себя свободными, потому что могли купить все что хотим. Сегодня наши покупательские шаблоны легко предсказываются и корректируются программными алгоритмами.

Путем постоянного обучения, анализа и поиска идеальных паттернов, цифровые технологии учатся выполнять наши задачи быстрее и эффективнее. Разработанная компанией Google DeepMind программа AlphaGo победила чемпиона мира в китайской логической игре Го, потому что могла использовать базу данных в 30 миллионов ходов, по которой научилась практически не совершать ошибок. Т.е. в перспективе не умные роботы отнимут вашу работу, а мощные гаджеты научатся делать ее лучше. Это как разница между мытьем посуды вручную и посудомоечной машиной – результат одинаковый, а вот процесс отличается.

Какой из этого следует вывод? Перестать демонизировать ИИ. Лучше сосредоточиться на актуальных проблемах. Например, при разработке ИИ нужно сделать его более дружелюбным к окружающей среде, чтобы помогать нам решать экологические проблемы. Миллионы рабочих места исчезнут, появятся новые. Общество понесет убытки, но многое получит взамен, и мы должны разделить это вместе. Также нам стоит использовать предсказательную силу ИИ ради своей свободы. Человеку не обязательно лично заниматься маркетингом или борьбой с террористами. И, наконец, мы должны сделать ИИ более человечным, чтобы не измениться самим в угоду технологиям. Как говорил Уинстон Черчилль, «мы придаем форму нашим зданиям, а потом они придают форму нам».

Для тех, кто хочет знать больше

• Путеводитель по терминаторам: все машины-убийцы из франшизы (очень рекомендуем)
• История Boston Dynamics: компания, люди, роботы — настоящие боевые роботы, кроме шуток
• 10 роботов на солнечных батареях, которые можно собрать вместе с детьми — собери собственного робота!
• Как когнитивные компьютеры могут изменить наше будущее — как работает искусственный интеллект уже сегодня
• Десять фильмов с огромными боевыми человекоподобными роботами — варианты проблем человечества от роботов