В будущем десятилетии мы станем свидетелями появления множества новых и удивительных технологий. Они потребуют изменений и в наших экономических институциях, и в наших интуициях. Если нам удастся сделать максимально гибкими наши общественные системы и наши собственные ментальные модели, мы окажемся в более выгодном положении для того, чтобы вовремя опознать и освоить эти изменения. Желание учиться на идеях других людей и адаптировать к ним нашу собственную деятельность – постоянно быть открытым для нового – и станет залогом успеха.
Глава 15. Технологии и будущее (это совсем не то же самое, что «технологии и есть будущее»)
Поначалу казалось, что самолет отдаляет человека от природы, – но нет, еще повелительней становятся ее законы.
Одна из самых древних фантазий человечества состоит в том, что в один прекрасный день все наши материальные потребности будут окончательно удовлетворены и мы сможем полностью посвятить себя своим подлинным интересам, увлечениям или страстям. Нам не придется решать всякие неприятные задачи, поскольку пищу, одежду, жилье и всякие другие необходимые для жизни вещи нам будут предоставлять автоматические слуги. На эту тему написано много прекрасных историй, но до сих пор эти истории так и оставались легендами и мифами. В них действуют фантастические создания из глины (такие как еврейский Голем или норвежский гигант Моккуркальфи, созданный для битвы с Тором), из золота (Гомер описывает в «Илиаде» самодвижущиеся треножники, выкованные из драгоценного металла богом Гефестом) или из кожи и дерева, как искусственный человек, созданный ремесленником Яньши из древнего китайского трактата «Ле-цзы». Материалы меняются, а мечта остается прежней.
Для осуществления давней мечты о свободе человека, которую подарит нам труд машин, мы используем кремний, металлы и разные виды пластмассы. Это ключевые физические ингредиенты второй эры машин, формирующие основу цифровых компьютеров, кабелей и сенсоров, которые с огромной скоростью создаются и распространяются по всему миру.
Они позволяют нам делать беспрецедентные вещи. Во всех предыдущих поколениях, несмотря на то, что лучшие умы мира работали над созданием искусственных помощников из доступных в то время материалов, мечты так и оставались мечтами.
Но наше поколение иное.
Теперь, когда мы представляем себе машину, которая могла бы выполнять ту или иную работу вместо человека, мы можем быть уверены в том, что даже если такая машина пока не существует, то как минимум есть хорошие шансы, что кто-то уже сидит в лаборатории или просто в гараже над ее демоверсией. За последние три года авторы этой книги побывали у многих инноваторов в их мастерских и были искренне поражены блеском технологий второй эры машин.
Изучив нынешний деловой ландшафт, мы убедились в том, что наш мир находится в точке перелома – на ранних стадиях изменений, не менее масштабных, чем те, что принесла с собой промышленная революция. Новые технологии развиваются по экспоненте, они цифровые и комбинаторные, однако большинство их преимуществ еще впереди. В ближайшие 24 месяца на нашей планете появится больше вычислительных мощностей, чем за всю ее предшествующую историю. А в следующие 24 года можно ожидать тысячекратного увеличения. Мы уже смогли оцифровать экзабайты информации, однако объем данных, которые оцифровываются в настоящее время, растет даже быстрее, чем предсказывает закон Мура.
Нашему поколению, скорее всего, выпадет счастье увидеть два поразительных события: создание подлинного машинного интеллекта и объединение всех людей в общую цифровую сеть, которая полностью изменит глобальную экономику. Инноваторы, предприниматели, ученые, умельцы-энтузиасты и многие другие разновидности «гиков» смогут воспользоваться преимуществами этого изобилия и создать новые технологии, которые будут удивлять нас, радовать нас и работать ради нашего блага. Эти люди раз за разом подтверждают правоту Артура Кларка, сказавшего однажды, что каждая достаточно продвинутая технология неотличима от магии.
С какими рисками мы столкнемся
Однако мы с вами уже видели, что не все новости будут хорошими. Центральные главы этой книги имели цель показать, что вместе с ростом Дара, образующегося благодаря технологиям, растет и разброс его распределения, то есть неравенство. И рост неравенства – не единственная отрицательная черта наступающей эры блистательных технологий. Наша эпоха столкнется и с другими проблемами, корень которых – не в экономике.
По мере того как мы углубляемся все дальше во вторую эру машин, эти опасности, порожденные как стечением обстоятельств, так и злым умыслом, будут лишь нарастать, а материальные желания и потребности будут становиться сравнительно менее важными. Нам будут все сильнее волновать вопросы, связанные с катастрофическими событиями, экзистенциальные риски, противостояние свободы и тирании и другие вопросы, которые могут стать непреднамеренными или неожиданными побочными эффектами технологического развития.
Плотность и сложность нашего цифрового мира приносит с собой немало рисков. Наша технологическая инфраструктура становится все более сложной и взаимосвязанной. К примеру, интернет и корпоративные сети теперь соединяют между собой не только людей и компьютеры, но и телевизоры, термостаты, охранную сигнализацию, промышленные сенсоры, локомотивы, автомобили и бесчисленное количество других устройств. Многие из них передают друг другу данные по каналам обратной связи, а большинство этих гаджетов зависят от общих подсистем, такие как маршрутизаторы, направляющие интернет-трафик.
Любая система с таким уровнем сложности и взаимозависимости составных частей всегда имеет два связанных между собой слабых места. Во-первых, в ней высока опасность того, что изначально незначительные ошибки в результате непредсказуемой последовательности событий превратятся в нечто гораздо более масштабное и разрушительное. Именно такой каскад событий (социолог Чарльз Пэрроу назвал его «системной» или «обычной аварией») привел в 1979 году к расплавлению активной зоны реактора АЭС «Три-Майл-Айленд», к масштабному блэкауту (отключению электричества), затронувшему в августе 2003 года 45 миллионов человек на северо-востоке США, и к многим другим инцидентам.[423]
Кроме того, комплексные и плотные системы часто представляют интерес для шпионов, преступников и тех, кто стремится создать хаос. Один из самых свежих примеров – компьютерный червь Stuxnet, который, возможно, был создан в лабораториях, принадлежащих правительству США. В 2010 году Stuxnet парализовал как минимум одно ядерное предприятие в Иране, перенастроив контрольные системы оборудования марки Siemens, которым была оснащена фабрика. Червь смог проникнуть в систему через целевые сайты, а затем беспрепятственно размножился, переходя с одного персонального компьютера на другой; как только представилась возможность, он перешел на оборудование Siemens и продолжал свою разрушительную работу уже на нем.[424]
До сравнительно недавнего времени наш биологический вид не обладал возможностями для полного самоуничтожения. Теперь они у нас появились. Более того, по мере того как технологии становятся одновременно и всё более мощными, и всё более дешевыми (а, следовательно, общедоступными), такие возможности могут оказаться и у отдельных людей. Не все эти люди будут психически здоровы, не все они будут действовать из добрых побуждений. Как уже отмечали Билл Джой и другие исследователи, генная инженерия и искусственный интеллект способны создавать самовоспроизводящиеся сущности.[425] Это значит, что некий умелец в своей спрятанной под землей лаборатории вполне может овладеть одной из таких технологий, чтобы выпустить на волю разрушительные силы, способные повлиять на всю планету. Те же самые научные прорывы в области секвенирования генома, которые используются для лечения заболеваний, могут использоваться и для создания боевой разновидности вируса оспы.[426] Компьютерные программы также могут самовоспроизводиться, превращаясь в цифровые вирусы, – и та же самая глобальная Сеть, посредством которой распространяются хорошие идеи и инновации, станет инструментом разрушения. Физический объем ущерба, который теоретически способен нанести всего один человек или небольшая группа, становится все больше и больше. Будет ли наш прогресс в деле противодействия деструктивной стороне технологий по меньшей мере столь же быстрым, как и само развитие технологий? Этот вопрос в будущем обретет большую важность.
Джордж Оруэлл, Уильям Гибсон и другие авторы описывали в своих антиутопиях утрату свободы и использование технологий для укрепления деспотизма и полного контроля информационных потоков. Эрик Шмидт и Джаред Коэн описывают некоторые из этих технологий, а также способы противодействия им в своей книге «Новый цифровой мир» (The New Digital Age). Те же самые инструменты, которые позволяют нам все более детально изучать мир, дают и правительству, и его врагам возможность следить за тем, что мы делаем и с кем общаемся. Существует вполне естественный конфликт между расширением наших способностей к познанию и нашим нежеланием, чтобы другие могли узнать о нас что-то, чего мы не хотели бы о себе рассказывать. Когда информация была по большей части аналоговой и локальной, сами законы физики автоматически обеспечивали зону частной жизни. В цифровом мире конфиденциальность требует очень определенных институтов, стимулов, законов, технологий и норм, которые регулировали бы, какие информационные потоки должны быть разрешены, а какие – запрещены, какие следует поощрять, а какие – затруднять.
Технологии могут порождать мириады побочных эффектов, начиная от игромании и цифровой прокрастинации до «балканизации интернета» – распада всемирной Сети на отдельные враждующие между собой части, – от социальной самоизоляции до деградации окружающей среды.