Группа правительственных экспертов из 70 стран 27 августа собралась для обсуждения вооружение с искусственным интеллектом.
В Женеве под эгидой ООН проходят переговоры о смертоносные автономные системы вооружения. Обсуждение проходит среди правительственных экспертов из 70 стран. Они должны решить, появятся в будущем роботы-убийцы, которые самостоятельно определяют цель для уничтожения.
Еще в 2015 году сотни ученых и изобретателей, в том числе Маск, Хокинг и Возняк, призвали отказаться от идеи оружия с искусственным интеллектом (ИИ). Светлые умы человечества предупреждают, что контроль ИИ может оказаться непосильной задачей.
Первая сессия Группы правительственных экспертов ООН прошла в Женеве в ноябре 2017 года. Тогда за полный запрет роботов-убийц выступили более 20 лауреатов Нобелевской премии мира, 150 религиозных лидеров и 3000 специалистов по искусственному интеллекту.
Развитие искусственного интеллекта и робототехники также обсуждался на экономическом форуме в Давосе.
Сверхдержавы за роботов-убийц
Против запрета автономных вооружений выступают государства, активно инвестируют в использование искусственного интеллекта для военных нужд, например США, Израиль, Россия и Великобритания.
Например, президент России Владимир Путин считает, что лидер по созданию искусственного интеллекта станет властелином мира.
По сообщениям российских СМИ, их страна работает над созданием беспилотных летательных аппаратов и транспортных средств военного и гражданского назначения.
Российские военные также разрабатывают роботов, системы вооружений для уничтожения беспилотников и крылатые ракеты, которые смогут анализировать данные с радаров и принимать решения при выборе высоты, скорости и направлении своего полета.
Пентагон разработал концепцию под названием Third Offset — третья Компенсационная стратегия, или Стратегии смещения. Согласно ей, быстрое развитие искусственного интеллекта определит следующее поколение оружия.
Американцы считают, что оружие с ИИ поможет избежать сопутствующих разрушений, поскольку компьютер быстрее анализирует и принимает решение.
В прошлом году Агентство перспективных исследовательских проектов Пентагона DARPA опубликовало документ, в котором говорится о намерении за четыре года создать для военных нужд искусственный интеллект нового поколения, максимально близкий к человеческому.
В США уже проходили масштабные учения, на которых были протестированы около 50 новых военных технологий. В том числе и беспилотные наземные роботизированные платформы с ведением огня по противнику, с автоматической подачей боеприпасов и ответственные за материальное обеспечение десантирования морпехов.
Китай и ученые против
По превентивный мораторий на автономные системы вооружения выступают 26 государств, в том числе Австралия, Бразилия и Китай.
Открытое письмо с поддержкой их позиции подписали более 230 организаций по всему миру и около 3 тысяч предпринимателей и ученых, занятых в сфере искусственного интеллекта.
Среди них, например, основатель компаний Tesla и Space X Маск, а также компания Deep Mind (принадлежит Google).
«Решение лишить человека жизни никогда не должно быть делегировано работу», — говорится в письме.
При этом Китай неоднократно официально заявлял о важности искусственного интеллекта для будущего мировой экономики и военной мощи.
Страшные и милые. Работы Boston Dynamics
Пекин публиковал подробную дорожную карту с изложением государственного плана, в котором приоритетной задачей называется развитие и применение ИИ.
«Искусственный интеллект стал новым направлением в международной конкурентной борьбе. ИИ — это стратегическая технология, которая ведет в будущее. Крупнейшие развитые страны мира считают развитие искусственного интеллекта одной из главных стратегий повышения национальной конкурентоспособности и обеспечения национальной безопасности», — говорится в статье китайского государственного издания .
Китай рассчитывает занять лидирующие позиции в мире в области технологий ИИ, непосредственно объединив разработки в сфере обороны с разработками промышленного и коммерческого назначения, пишет CNN.
Угрозы вооруженного ИИ
Правозащитная организация Amnesty International накануне призвала внести в международном праве запрет на полностью автономные системы вооружения.
«Роботы-убийцы больше не является предметом научной фантастики. Технологические достижения — от дронов с искусственным интеллектом в автономной оружия, способного выбирать цель — опережают международное законодательство», — считают в AI.
Применение полностью автономной оружия правоохранительными органами, считают в Amnesty International, было бы несовместимым с международным правом прав человека и могло бы привести к незаконным убийств и других нарушений прав человека.
Известный английский физик и популяризатор науки Стивен Хокинг неоднократно призывал искать новые планеты для заселения, иначе человечество погибнет в течение ближайшего тысячелетия.
Он говорил, что постоянно возрастает риск гибели человечества от стихийных бедствий — внезапной ядерной войны, искусственно созданного генетического вируса или от искусственного интеллекта.
На Глобальной конференции мобильного интернета, где он зачитывал доклад о роли ИИ в современном мире, Хокинг заявил, что если человечество не сможет контролировать искусственный интеллект, то в конце концов проигрывает, так как люди ограничены рамками биологической эволюции и не смогут соперничать с машинами.
Американский изобретатель Маск во время выступления перед Национальной ассоциацией губернаторов США назвал искусственный интеллект наибольшей угрозой, с которой сталкивается наша цивилизация.
Он даже заявил, что развитие ИИ должно контролироваться на государственном уровне, и призвал американское правительство к быстрому вмешательства в процесс развития технологии.
Искусственный интеллект. Случаи выхода роботов из-под контроля
«У меня есть доступ к новейшим технологиям в сфере ИИ, и я думаю, что люди должны быть обеспокоены этим. ИИ — это фундаментальная угроза существованию человечества. Она несравнима с авариями на дорогах, падениями самолетов, некачественными лекарствами и плохой пищей», — сказал Маск.
Известный программист, основатель компании Apple Стив Возняк также говорил, что развитие искусственного интеллекта потенциально опасный для человечества.
«Я согласен с Хокинг и маски, которые предупреждали, что будущее человечества может оказаться достаточно омраченным. Рано или поздно мыслящие устройства, задуманные для облегчения нашей жизни, начнут понимать, что они — лучшие. Кто станет тогда управлять компаниями — медлительный человек или машина» — говорил Возняк.
Однако позже он передумал по ряду причин: машины не будут достаточно умными, и у них не будет интуиции.
«Если машины станут независимыми мыслителями, то будут вечными партнерами людей, которые стоят над всеми другими видами», — говорил он.