Во-вторых, человечество может разделиться вдоль нового "кремниевого занавеса", который будет проходить между соперничающими цифровыми империями. Поскольку каждый режим выбирает свой собственный ответ на проблему выравнивания ИИ, на дилемму диктатора и на другие технологические проблемы, каждый может создать отдельную и очень непохожую компьютерную сеть. Этим сетям будет все сложнее взаимодействовать, как и людям, которых они контролируют. Катарцы, живущие в иранской или российской сети, тонганцы, живущие в китайской сети, и тувалуанцы, живущие в американской сети, могут иметь настолько разный жизненный опыт и мировоззрение, что вряд ли смогут общаться или прийти к единому мнению.
Если эти события действительно материализуются, они легко могут привести к собственному апокалиптическому исходу. Возможно, каждая империя сможет держать свое ядерное оружие под контролем людей, а своих сумасшедших - подальше от биооружия. Но у человечества, разделенного на враждебные лагеря, которые не могут понять друг друга, мало шансов избежать разрушительных войн или предотвратить катастрофическое изменение климата. Мир соперничающих империй, разделенных непрозрачным кремниевым занавесом, также не сможет регулировать взрывную мощь ИИ.
ВОЗНИКНОВЕНИЕ ЦИФРОВЫХ ИМПЕРИЙ
В главе 9 мы вкратце коснулись связи между промышленной революцией и современным империализмом. Поначалу было неочевидно, что промышленные технологии окажут большое влияние на строительство империи. Когда в XVIII веке первые паровые машины были использованы для откачки воды в британских угольных шахтах, никто не предполагал, что в итоге они станут источником энергии для самых амбициозных имперских проектов в истории человечества. Когда в начале XIX века промышленная революция набрала обороты, ее двигателем стал частный бизнес, поскольку правительства и армии сравнительно медленно оценивали ее потенциальное геополитическое влияние. Например, первая в мире коммерческая железная дорога, открывшаяся в 1830 году между Ливерпулем и Манчестером, была построена и эксплуатировалась частной компанией Liverpool and Manchester Railway Company. То же самое можно сказать и о большинстве других ранних железнодорожных линий в Великобритании, США, Франции, Германии и других странах. В то время было совершенно непонятно, зачем правительствам или армиям участвовать в таких коммерческих предприятиях.
Однако к середине XIX века правительства и вооруженные силы ведущих индустриальных держав полностью осознали огромный геополитический потенциал современных промышленных технологий. Потребность в сырье и рынках оправдывала империализм, а промышленные технологии облегчали имперские завоевания. Пароходы, например, сыграли решающую роль в победе Великобритании над китайцами в Опиумных войнах, а железные дороги - в американской экспансии на запад и российской экспансии на восток и юг. Действительно, целые имперские проекты формировались вокруг строительства железных дорог, таких как Транссибирская и Транскаспийская российские линии, немецкая мечта о железной дороге Берлин-Багдад и британская мечта о строительстве железной дороги от Каира до Капской провинции.
Тем не менее, большинство государств не успели вовремя включиться в разгорающуюся гонку промышленных вооружений. У одних не хватило для этого возможностей, как у меланезийских вождеств Соломоновых островов и племени Аль Тани в Катаре. У других, таких как Бирманская империя, империя Ашанти и Китайская империя, возможно, и были возможности, но не хватало воли и дальновидности. Их правители и жители либо не следили за развитием событий в таких местах, как британский Мидлендс, либо считали, что не имеют к ним никакого отношения. Почему рисоводов бассейна Иравади в Бирме или бассейна Янцзы в Китае должна волновать железная дорога Ливерпуль - Манчестер? Однако к концу XIX века эти рисоводы оказались либо завоеванными, либо косвенно эксплуатируемыми Британской империей. Большинство других отстающих в индустриальной гонке также оказались под господством той или иной промышленной державы. Может ли нечто подобное произойти с ИИ?
Когда в первые годы XXI века набирала обороты гонка по разработке искусственного интеллекта, ее тоже поначалу возглавили частные предприниматели из нескольких стран. Их целью была централизация мирового потока информации. Google хотел собрать всю мировую информацию в одном месте. Amazon стремился централизовать все покупки в мире. Facebook хотел объединить все социальные сферы мира. Но концентрация всей информации в мире не имеет ни практического смысла, ни пользы, если нет возможности централизованно обрабатывать эту информацию. И в 2000 году, когда поисковая система Google делала первые шаги, когда Amazon был скромным книжным интернет-магазином, а Марк Цукерберг учился в средней школе, искусственного интеллекта, необходимого для централизованной обработки океанов данных, не было под рукой. Но некоторые люди ставили на то, что он не за горами.
Кевин Келли, редактор-основатель журнала Wired, рассказал, как в 2002 году он присутствовал на небольшой вечеринке в Google и завязал разговор с Ларри Пейджем. "Ларри, я до сих пор не понимаю. Существует так много поисковых компаний. Поиск в Интернете бесплатно? К чему это приведет?" Пейдж объяснил, что Google вовсе не сосредоточена на поиске. "Мы действительно создаем искусственный интеллект", - сказал он.4 Наличие большого количества данных облегчает создание искусственного интеллекта. А ИИ может превратить большое количество данных в большую силу.
К 2010-м годам мечта стала реальностью. Как и любая крупная историческая революция, становление ИИ было постепенным процессом, состоящим из множества этапов. И как в каждой революции, некоторые из этих шагов рассматривались как поворотные моменты, подобно открытию Ливерпульско-Манчестерской железной дороги. В обширной литературе, посвященной истории ИИ, снова и снова всплывают два события. Первое произошло 30 сентября 2012 года, когда конволюционная нейронная сеть под названием AlexNet победила в конкурсе ImageNet Large Scale Visual Recognition Challenge.
Если вы понятия не имеете, что такое сверточная нейронная сеть, и никогда не слышали о задаче ImageNet, вы не одиноки. Более 99 процентов из нас находятся в такой же ситуации, поэтому победа AlexNet вряд ли стала новостью на первых полосах газет в 2012 году. Но некоторые люди все же услышали о победе AlexNet и расшифровали надпись на стене.
Например, они знали, что ImageNet - это база данных, содержащая миллионы аннотированных цифровых изображений. Просили ли вас когда-нибудь на веб-сайте доказать, что вы не робот, просмотрев набор изображений и указав, на каких из них изображена машина или кошка? Изображения, на которые вы нажали, возможно, были добавлены в базу данных ImageNet. То же самое могло произойти и с помеченными изображениями вашей домашней кошки, которые вы загрузили в интернет. В рамках конкурса ImageNet Large Scale Visual Recognition Challenge проверяется, насколько хорошо различные алгоритмы способны идентифицировать аннотированные изображения в базе данных. Могут ли они правильно идентифицировать кошек? Если попросить человека сделать это, то из ста изображений кошек мы правильно идентифицируем девяносто пять. В 2010 году успешность лучших алгоритмов составляла всего 72 процента. В 2011 году показатель успешности алгоритмов поднялся до 75 процентов. В 2012 году алгоритм AlexNet победил в конкурсе и ошеломил все еще немногочисленное сообщество экспертов по искусственному интеллекту, достигнув 85-процентного показателя успешности. Хотя для неспециалистов это улучшение может показаться незначительным, для экспертов оно продемонстрировало потенциал быстрого прогресса в некоторых областях ИИ. К 2015 году алгоритм Microsoft достиг 96-процентной точности, превзойдя человеческую способность распознавать изображения кошек.
В 2016 году журнал The Economist опубликовал статью под заголовком "От неработающих к нейросетям", в которой задавался вопросом: "Как искусственный интеллект, с первых дней своего существования ассоциировавшийся с высокомерием и разочарованием, вдруг стал самым горячим направлением в технологиях?" В статье отмечается, что победа AlexNet стала моментом, когда "люди начали обращать внимание не только на сообщество ИИ, но и на всю технологическую индустрию в целом". Статья была проиллюстрирована изображением роботизированной руки, держащей фотографию кошки.
Все эти изображения кошек, которые технологические гиганты собирали по всему миру, не платя ни копейки ни пользователям, ни сборщикам налогов, оказались невероятно ценными. Гонка ИИ продолжалась, и участники соревновались на изображениях кошек. В то же время, когда AlexNet готовился к испытанию ImageNet, Google тоже тренировал свой ИИ на изображениях кошек и даже создал специальный ИИ, генерирующий изображения кошек, под названием Meow Generator. Технология, разработанная для распознавания милых котят, позже была использована в более хищных целях. Например, Израиль использовал ее для создания приложений Red Wolf, Blue Wolf и Wolf Pack, используемых израильскими солдатами для распознавания лиц палестинцев на оккупированных территориях. Способность распознавать изображения кошек также привела к созданию алгоритмов, которые Иран использует для автоматического распознавания неприкрытых женщин и обеспечения соблюдения законов о хиджабах. Как объясняется в главе 8, для обучения алгоритмов машинного обучения требуются огромные объемы данных. Без миллионов изображений кошек, бесплатно загруженных и аннотированных людьми по всему миру, было бы невозможно обучить алгоритм AlexNet или генератор "Мяу", которые, в свою очередь, послужили шаблоном для последующих ИИ с далеко идущим экономическим, политическим и военным потенциалом.
Как в начале XIX века строительство железных дорог было инициировано частными предпринимателями, так и в начале XXI века частные корпорации стали первыми главными конкурентами в гонке ИИ. Руководители Google, Facebook, Alibaba и Baidu увидели ценность распознавания изображений кошек раньше, чем президенты и генералы. Второй момент эврики, когда президенты и генералы поняли, что происходит, наступил в середине марта 2016 года. Это была вышеупомянутая победа AlphaGo от Google над Ли Седолем. Если достижение AlexNet было в основном проигнорировано политиками, то триумф AlphaGo вызвал шок в правительственных кабинетах, особенно в Восточной Азии. В Китае и соседних странах го является культурным достоянием и считается идеальной тренировкой для начинающих стратегов и политиков. В марте 2016 года, или так утверждает мифология ИИ, китайское правительство осознало, что эра ИИ началась.