[427] Даже самые человеколюбивые изобретения – например, какая-нибудь технология, позволяющая значительно продлить человеческую жизнь, – могут повлечь огромные социальные потрясения.[428]
Далеко ли до сингулярности?
Самый величественный – и самый умозрительный – образ возможного будущего технологий также пришел из мира научной фантастики: это машина, в полной мере наделенная сознанием. Есть два основных сценария – утопический и антиутопический – гипотетического будущего, в котором компьютеры и роботы обладают «настоящим» мышлением. Антиутопический сценарий обыгрывается в фильмах типа «Терминатора» или «Матрицы», а также в бесчисленном множестве других произведений научной фантастики. Этот вариант технологического прогресса не только «хорошо смотрится» и развлекает зрителей, но и кажется все более и более правдоподобным по мере того, как технологии осваивают и демонстрируют качества, которые еще недавно считались исключительно человеческими. Способность работать в команде – одно из таких качеств, и почему бы не представить себе, как в один прекрасный день будущие версии компьютера Watson, гугломобиля, робота BigDog производства Boston Dynamics, какого-нибудь нашпигованного электроникой дрона и других умных машин решают действовать заодно? Много ли им потребуется времени, чтобы понять, что мы, люди, очень плохо обращаемся с имеющимися у нас технологиями и часто без долгих слов отбрасываем их? Инстинкт самосохранения мог бы стать достаточной мотивацией для этой цифровой армии, готовой начать войну против нас (возможно, используя Siri как переводчика при допросе пленных).
В утопических сценариях развития цифрового сознания человек не сражается с машинами; он объединяемся с ними, выгружая содержимое собственного мозга в облачные хранилища данных и становясь частью «технологической сингулярности». Этот термин придумал в 1983 году писатель-фантаст Вернор Виндж, предсказавший, что «совсем скоро мы создадим разум, который превзойдет наш собственный… Когда это случится, человеческая история достигнет своего рода сингулярности, совершит ранее невозможный интеллектуальный транзит – столь же непостижимый, как завязанное узлом пространство/время в центре черной дыры. И мир уйдет далеко за пределы нашего сегодняшнего понимания».[429]
По мнению Винджа и других, движение в направлении подобной сингулярности регулируется законом Мура. Со временем накопленное удвоение мощности позволит создать компьютер более производительный и более вместительный, чем человеческий мозг. Как только это произойдет, все станет в высшей степени непредсказуемым. Машины смогут обрести самосознание, люди и компьютеры смогут слиться в одно целое «без единого шва», или же произойдут какие-то другие фундаментальные изменения. Рэй Курцвейл, больше других сделавший для объяснения мощи экспоненциального улучшения, писал в своей книге «Сингулярность близко» (Singularity Is Near, 2005), что при нынешних темпах развития эти изменения произойдут около 2045 года.[430] Насколько вероятны сингулярность или появление Терминатора? Честно говоря, мы не знаем. Как и в других случаях, когда речь идет о цифровом мире, никогда не стоит говорить «никогда», однако ясно, что впереди у нас еще долгий путь.
Фантастические возможности суперкомпьютера, выигрывающего в Jeopardy!, или беспилотного автомобиля способны ввести нас в заблуждение: поскольку эти образцы цифровых технологий делают то же, что и человек, мы начинаем ошибочно думать, что и сами эти технологии становятся человекоподобными. Однако это не так – по крайней мере пока. Мы, люди, создаем машины, чтобы они делали то же самое, что делают животные и люди в нашем мире, однако создаем их совсем не так, как природа создавала нас самих. Выражаясь словами одного из первопроходцев в мире искусственного интеллекта Фредерика Елинека, «самолеты не машут крыльями».[431]
В самом деле, ученые, инженеры и другие инноваторы часто используют в своей работе подсказки из мира биологии, однако было бы неправильно считать, что они так делают всегда или что значительные недавние прорывы в области искусственного интеллекта появились только потому, что мы научились лучше имитировать человеческое мышление. Журналист Стивен Бейкер, собирая материал для своей книги «Финал „Своей игры”» (Final Jeopardy!), провел год в компании инженеров IBM из команды Watson. Он обнаружил, что «команда в процессе программирования Watson уделяла мало внимания тому, как работает человеческий мозг. Любое сходство Watson со структурой мозга поверхностно и случайно».[432]
Когда мы, соавторы данной книги, в свою очередь, собирали для нее материал, мы слышали немало подобных слов от большинства инноваторов, с которыми общались. Большинство из них не пытались раскрыть тайны человеческого сознания или в точности понять, каким образом мы мыслим; напротив, они лишь хотели решить конкретные проблемы и использовать возникающие возможности. И в ходе этого процесса иногда изобретается технология, напоминающая тот или иной человеческий навык или способность. Однако такой инструмент – это еще далеко не искусственный человек. Иными словами, может показаться, что искусственный разум и в самом деле разумен, но пока что это лишь искусственное сходство.
Впрочем, в будущем все может измениться. Возможно, мы начнем создавать цифровые инструменты, более точно имитирующие наше мышление, и даже используем для этого наши постоянно растущие возможности по сканированию и картографированию мозга. И если это нам удастся, такой цифровой «мозг» станет дополнением нашего собственного, а со временем мы сможем слиться с машиной – или она обретет собственное независимое самосознание.
Куда ведет нас судьба
Мы сохраняем оптимизм даже перед лицом множества проблем – экономических, инфраструктурных, биологических, общественных и экзистенциальных. Перефразируя Мартина Лютера Кинга, можно сказать, что дуга истории длинна, но склоняется в сторону справедливости.[433] И мы полагаем, что данные поддерживают этот взгляд на мир. Мы наблюдаем не только увеличение богатства в абсолютном измерении, но и распространение свободы, социальной справедливости, снижение жестокости, улучшение условий жизни для тех, кому не так повезло, как нам, и повсеместное расширение возможностей.
В «Рождественской песне» Диккенса, когда Призрак показывает Скруджу его могильный камень, тот восклицает: «Так будет? Или так может быть?» На вопрос о будущем нашего мира, мира технологий, мы выбираем второй вариант ответа. Технологии создают возможности и потенциал, однако в конечном счете наше будущее будет зависеть от выбора, который сделаем мы сами. Мы можем воспользоваться преимуществами беспрецедентного Дара и свободы – или же двинуться в направлении, где нас ждут бедствия, которых человечество еще не видело.
Технологии, которые мы создаем, дают нам огромную силу для изменения мира, но вместе с этой силой приходит и ответственность. Вот почему мы не считаем себя технологическими детерминистами и вот почему мы посвятили три главы данной книги рекомендациям, которые, как мы надеемся, помогут создать общество всеобщего процветания.
Однако, в конце концов, самые серьезные вопросы – это вопросы за пределами экономики. По мере того как все больше и больше работы делают машины, мы можем позволить себе уделять больше времени другим занятиям. И речь идет не только об отдыхе и развлечениях, но и о более глубоком чувстве удовлетворенности, которое дают изобретения и исследования, творчество и создание чего-то нового, любовь, дружба и взаимодействие с другими людьми. У нас есть не так много формальных критериев для измерения подобных вещей (и, возможно, они никогда не появится), однако их важность все равно растет по мере того, как мы удовлетворяем свои основные экономические потребности. Если первая эра машин помогла человечеству высвободить всю мощь энергии, скрытой в химических связях, и изменить с ее помощью окружающий мир, то вторая эра машин должна помочь нам высвободить весь потенциал человеческой изобретательности.
Наш успех будет зависеть не только от того, какие решения в области технологий мы принимаем или даже какие организации и институты создаем. По мере того как у нас будет меньше ограничений в действиях, неминуемо появится вопрос о том, в чем состоят наши истинные ценности. Захотим ли мы, чтобы информация распространялась как можно более свободно и широко, или, наоборот, поставим ее под жесткий контроль? Будет ли процветание общим и повсеместным? Каковы будут суть и диапазон вознаграждений, которые будут получать от нас инноваторы? Сможем ли мы создать новые энергичные связи и сообщества? Будет ли у каждого возможность открывать новое, творить и радоваться всему лучшему, что есть в жизни?
Нам, современникам второй эры машин, нужно серьезно подумать о том, чего мы хотим на самом деле и что именно мы ценим – и каждый из нас по отдельности, и общество в целом. Наше поколение получило в наследство больше возможностей для изменения мира, чем любое другое. И это дает нам основания для оптимизма, но только в случае, если выбор, который мы делаем, будет разумным и осмысленным.
Технологии – это не судьба. Мы сами определяем свою судьбу.
Благодарности
У создания этой книги есть две истории – общая и частная. В общую историю внесло свой вклад множество людей, а кто-то помог и в одной, и в другой.
Общая история состоит в том, что мы занимаемся исследованиями, направленными на понимание природы развития цифровых технологий и их последствий для экономики и общества. В ходе этой работы нам довелось общаться со множеством «гиков» (и это жаргонное словечко звучит для многих из них как лучшая из возможных похвал). Эти и люди, занимающиеся изучением экономики и других социальных наук, и те, кто создает технологии. К первой группе мы относим ряд людей, позволивших нам сформировать более четкое и всеобъемлющее представление о происходящем. Это Сьюзен Этли, Дэвид Отор, Зои Берд, Ник Блум, Тайлер Коуэн, Чарльз Фейдел, Кристиа Фриленд, Роберт Гордон, Том Калил, Ларри Кац, Том Коэн, Фрэнк Леви, Джеймс Маника, Ричард Марнейн, Роберт Патнем, Пол Ромер, Скотт Стерн, Ларри Саммерс и Хэл Вариан. Ко второй группе относятся Крис Андерсон, Род Брукс, Питер Диамандис, Эфраим Хеллер, Рейд Хоффман, Джереми Хоуард, Кевин Келли, Рэй Курцвейл, Джон Леонард, Тод Луфборроу, Хилари Мейсон, Тим O’Рейли, Сэнди Пентланд, Брэд Темплтон и Вивек Вадва. Все они щедро делились с нами своим временем и терпеливо выслушивали наши вопросы. Мы искренне пытались понять все то, чем они делились с нами, и просим прощения за любые возможные ошибки в этой книге, связанные с неверной трактовкой.