Согласно статье 36 Дополнительного протокола I к Женевской конвенции государства должны разрабатывать новое и модернизировать существующее оружие в соответствии с международным правом. Системы автоматизированных вооружений даже с участием человека в процессе управления должны подвергаться международному контролю.
Международный комитет Красного Креста выдвинул на первый план автономное оружие как проблемную область. Относительно статьи 36 Международный комитет написал: «Использование оружия дистанционного управления на больших расстояниях или оружия с датчиками обнаружения живых целей приводит к автоматизации поля битвы, в котором солдат играет все менее важную роль. И страшно подумать, что может случиться, если полностью автономное оружие будет действовать только по своему усмотрению. Ведь в самой совершенной компьютерной программе может быть сбой. Контроль необходим еще потому, что любую «не опасную» беспилотную систему легко вооружить, как это произошло с американским дроном Predator.
Чтобы соответствовать международному гуманитарному праву, полностью автономное оружие нуждалось бы в человеческих качествах, в которых оно «врожденно» испытывает недостаток. В частности, у таких роботов не было бы способности почувствовать и понять намерения людей. Кроме того, многих людей мысль о роботах, принимающих жизненно важные решения, находящиеся ранее в компетенции людей, приводит в ужас. Развитие автономного оружия должно быть остановлено прежде, чем оно достигнет этапа, когда люди будут полностью удалены от цепочки принятия решений.
Заключение
Полностью автономное оружие сделает развязывание военных действий легче и значительно увеличит урон гражданским лицам во время военных действий. Оно неспособно выполнять основные принципы международного гуманитарного права. Оно подрывает другие, неюридические гарантии, которые защищают гражданские лица во время военных действий. Хотя полностью автономного оружия еще не существует, военная технология быстро развивается в этом направлении. И появление полностью автономного оружия (роботов-убийц) возможно в течение ближайших десятилетий.
Поэтому, прежде чем это станет свершившимся фактом, государства и ученые должны принять срочные меры, чтобы рассмотреть и отрегулировать развитие военной технологии, связанной с автономией роботов. В частности, государства должны запретить создание оружия, у которого есть полная автономия, которое само будет решать, когда применить оружие.
Авторы доклада рекомендуют:
Всем государствам:
• Запретить разработку, производство и использование полностью автономного оружия через международный всеми признанный юридический документ.
• Принять внутригосударственные законы, запрещающие разработку, производство и использование полностью автономного оружия.
• Начать мониторинг технологий, которые могут привести к полностью автономному оружию. Мониторинг должен иметь место в самом начале процесса разработки и продолжаться по фазам разработки и тестирования автоматизированного оружия и оружия с частичной автономией.
Робототехникам и другим лицам, вовлеченным в разработку автоматизированного оружия:
• Установить профессиональные нормы поведения, управляющие научными исследованиями в области автономного оружия.
Такие нормы поведения могут помочь гарантировать, что научные исследования в области автономного оружия развиваются в соответствии с международным гуманитарным правом, которое защищает гражданские лица в вооруженном конфликте. Академические и научные ассоциации могли бы спроектировать и распространить такой кодекс норм поведения. Нормы поведения для военного технического прогресса уже существуют в областях синтетической биологии и нанотехнологии.
Заключение
Представленные в сборнике материалы убедительно свидетельствуют, что боевые, логистические, разведывательные, иные интеллектуальные роботы и автономные системы, находящиеся в распоряжении военных, и в особенности террористов и преступников, порождают все возрастающие риски и угрозы России, ее народу и отдельным гражданам.
Однако все обстоит не так плохо, как представляется. На самом деле все гораздо хуже. Риски и угрозы со стороны автономных интеллектуальных систем и роботов невозможно понять вне контекста Четвертой производственной революции. Сегодня становится ясно, что именно роботы являются интегрированным технопакетом, который объединяет все основные направления Четвертой производственной революции. В самом деле, сегодняшние интеллектуальные военные и гражданские роботы невозможны без информационных технологий, Больших Данных, новых материалов, нанотехнологий, искусственного интеллекта и глубокого машинного обучения. В ближайшие годы ждут появления антропоморфных роботов, где металлические и полимерные детали будут соединены с биологическими фрагментами, полученными на основе достижений синтетической биологии и биоинформатики.
С каждым днем все больше фактов свидетельствует, что при всех несомненных острых проблемах, противоречиях и трудностях, имеющихся в США, Западной Европе, Южной Корее, Китае, Японии и т. п., буквально на наших глазах разворачивается и набирает темпы Четвертая производственная или промышленная революция. До Давосского форума 2016 года она именовалась Третьей производственной революцией. Поскольку организаторы Давоса решили войти в историю, они просто поменяли порядковый номер, не изменив ничего больше в концепции производственной революции Джереми Рифкина. Еще в 2013 году Джереми Рифкин опубликовал международный бестселлер «Третья промышленная революция» (недавно изданный на русском языке), который стал настольной книгой многих политиков как Востока, так и Запада. Ее автор признан одним из наиболее влиятельных экономистов современности. Он является советником Еврокомиссии. Среди его поклонников – Б. Обама, Политбюро Коммунистической партии Китая, правительство Бразилии, а на постсоветском пространстве – руководство Казахстана. На основе идей Рифкина разработан план дальнейшего экономического развития Евросоюз.
Наряду с книгой Дж. Рифкина Третьей производственной революции посвящены еще два бестселлера – книга Питера Марша «Новая индустриальная революция: потребители, глобализация и конец массового производства» (The New Industrial Revolution: Consumers, Globalization and the End of Mass Production) и бестселлер Криса Андерсона «Производители: Новая промышленная революция» (Makers: The New Industrial Revolution). Они стали настольными книгами не только в высоких государственных кабинетах, штабах военачальников, офисах разведслужб, но и, прежде всего, для бизнеса, новой генерации научно-технического, инженерного, производственного и программистского сословий.
При всем различии позиций авторы едины в том, что производственная революция означает глубокие, быстрые в исторической перспективе, скачкообразные (фазовые) изменения в самих основах техники и технологий, используемых во всех основных отраслях хозяйства. Эти изменения ведут к необратимым и качественным сдвигам в организации труда и производства, системах снабжения, маркетинга и потребления. Производственная революция изменяет базовые структуры экономической жизни. Полностью перестраивает социум и привычные способы его регулирования. Преобразует политические институты. Любая производственная революция имеет неоспоримые положительные эффекты и неизбежно связана с целым рядом негативных, как правило, острых и тяжелых социальных последствий и проблем для широких масс населения.
Третья производственная революция по своим масштабам, последствиям и сдвигам стоит не только наравне, а возможно и превосходит Первую и Вторую производственные революции. Первая производственная революция конца XVIII – начала XIX века была связана с текстильной отраслью, энергией пара, углем, железными дорогами и т. п. Вторая производственная революция конца XIX – первой половины XX века стала детищем электричества, двигателей внутреннего сгорания, триумфом машиностроения и конвейера, как метода организации производства.
Уже на начальных стадиях Третьей производственной революции можно выделить несколько определяющих ее черт:
– во-первых, одновременное широкое производственное применение различных независимых кластеров технологий. Прежде всего, робототехники, 3D печати, новых материалов со спроектированными свойствами, биотехнологии, новых информационных технологий и, конечно же, диверсификация энергетического потенциала производства и общества;
– во-вторых, постоянно возрастающее взаимодействие между отдельными технологическими кластерами, их своеобразное «слипание», взаимное кумулятивное и резонансное воздействие друга на друга;
– в-третьих, появление на границах технологических кластеров принципиально новых, не существовавших ранее технологий и семейств технологий, в которых кластеры взаимодействуют между собой.
Основа основ превращения отдельных технологических кластеров или паттернов в единую технологическую платформу – это информационные технологии. Они буквально пронизывают все стороны технологической и производственной жизни, связывая между собой отдельные технологические блоки. Наиболее яркими примерами этого являются такие технологические паттерны, как биотехнологии, робототехника, управляемая на основе больших данных и т. п. По сути, уже на начальном этапе индустриальной революции можно говорить о формировании единой технологической платформы Третьей производственной революции.
В сфере организации производства и труда отличительной чертой Третьей производственной революции является миниатюризация производства в сочетании с сетевой логистикой и персонификацией потребления продукции. Как отмечал в своей работе К. Андерсон: «Если раньше эффективные производства и действенные сети маркетинга и продаж были под силу только большим заводам, крупным ритейловым сетям и транснациональным корпорациям, то в самое ближайшее время это будет доступно всем». Правда, при всей миниатюризации и демократизации производства одновременно будет возрастать зависимость мелкого производителя от поставщиков Больших Данных, программных продуктов и интеллектуальных услуг, которыми останутся, по мнению Дж. Рифкина, крупнейшие информационные компании, типа IBM, Google, Amazon и проч.