Альберт Ефимов: не бойтесь, до создания терминатора - еще столетия

Свыше тысячи ведущих мировых экспертов подписали открытое письмо, предупреждая о тяжких последствиях гонки вооружений, основанной на искусственном интеллекте. В числе подписантов – Стивен Хокинг, Илон Маск, создатель Apple Стив Возняк, глава Google DeepMind Демис Хассабис. 29 Июль 2015, 11:39
More than 1,000 experts and leading robotics researchers sign open letter warning of military artificial intelligence arms race

«Технологии достигли такого пункта, когда применение  [автономных вооружений] является  - если не юридически, то практически – реальным в течение лет, а не десятилетий; ставки высоки: автономные вооружения можно считать третьей оружейной революцией, после изобретения пороха и атомного оружия».

По мнению авторов послания, которое подписали участники Международной конференции по искусственному интеллекту в Буэнос-Айресе, искусственный интеллект может использоваться на поле боя для защиты жизни военных, но не для создания наступательных вооружений, действующих независимо от воли человека.
Иллюcтрация Flickr
Глава Робототехнического центра «Сколково» Альберт Ефимов солидарен с авторами письма в том, что запрет на создание роботов-убийц действительно стоило бы ввести.
Подобные проекты антигуманны, в принципе плохо, когда ученые занимаются не проблемами общества, а вооружениями
говорит Альберт Ефимов
Ефимов полагает, что подобный запрет был бы в национальных интересах России и Китая: «Сейчас наше отставание по системам искусственного интеллекта, скажем, так, - заметно. Чем меньше такие системы будут развиваться, тем больше это в интересах нашей страны и Китая».
Альберт Ефимов. Фото из личного архива
Другое дело, что споры об автономных системах вооружений опоздали, по мнению Ефимова, на многие десятилетия. «Автоматические системы, обладающие возможностью поражать живую силу и технику, стоят на вооружении всех стран уже десятки лет; эти системы, в особенности, зенитные, работают в автоматическом режиме уже давно и принимают решения без какого бы то ни было участия человека. Так что в принципе это спор ни о чем, надо было спорить намного раньше, еще в 60-х годах, когда начиналась разработка такого рода оружия», - уверен эксперт.

Между тем авторы открытого письма считают, что создание автоматических систем, которыми управляет искусственный интеллект, качественно изменит ситуацию.

Стоит только одной военной  державе начать разработку систем, способных выбирать цели и действовать автономно, не под прямым контролем человека, это породит гонку вооружений, подобную ядерной, пишут авторы.  Но в отличие от ядерной гонки вооружений в данном случае не потребуются специфические материалы, которые трудно создать; при этом мониторинг создания подобных систем почти невозможен.
«Конечный пункт подобной технологической траектории вполне очевиден, - говорится в письме. – Автономные системы станут «калашниковыми» завтрашнего дня. Ключевой вопрос для человечества сегодня заключается в том, начинать ли глобальную гонку искусственного интеллекта или предотвратить ее на старте».
Маск и Хокинг предупреждают: искусственный интеллект -  это «наша самая большая экзистенциальная угроза», и что его разработка в полном объеме «означает конец человечества». Некоторые другие из подписавших открытое письмо в последнее время изменили свои взгляды на искусственный интеллект. В частности, основатель Apple Стив Возняк заявляет, что роботы будут полезны людям, «как домашние животные».

Альберт Ефимов не сомневается в искренности большинства экспертов, подписавших открытое письмо. «Но меня поражает лицемерие некоторых больших имен: эти люди совершенно не стесняются брать гранты Пентагона для исследования искусственного интеллекта, и точно знают, для чего это будет использоваться. Это вообще очень сильно обнажает лицемерие некоторых ученых. Те же самые люди, что подписывают петицию о запрете создания искусственного интеллекта для летального применения, занимают очередь за грантами DARPA. А ведь DARPA сегодня – это, наверное, основной источник поддержки таких исследований».

Впрочем, у Ефимова есть и хорошая новость. «Общество может не бояться: до создания искусственного интеллекта в виде терминатора – еще столетия».

Не все эксперты разделяют оптимизм Альберта Ефимова в отношении этого прогноза. Британский ресурс Wired ссылается на доклад, подготовленный по заказу Пентагона, согласно которому «тучи роботов-убийц» появятся уже к 2050 году.

Как пишет газета The Financial Times, Пентагон является одним из основных сторонников исследований в области робототехники, и в 2013 году его подразделение, Управление военно-морских исследований, выделило грант на 7,5 млн долларов ученым из пяти университетов, включая университеты Тафтса, Брауна, Джорджтаунский и Йель на проведение исследования на тему: можно ли научить роботов отличать правильное от неправильного.

«Западные военные стратеги опасаются, что если они не будут разрабатывать подобные технологии, они уступят первенство в новой гонке вооружений потенциальным противникам, таким, как Китай», - замечает FT.