Возможно, мы уже достигли стадии, когда большинство правительств не в силах сопротивляться совокупному влиянию ряда могучих транснациональных корпораций, которые контролируют нас и наше цифровое будущее. Сегодня борьба между ведущими компаниями – это действительно борьба за контроль над персональными данными. Корпорации наверняка воспользуются своим громадным влиянием, чтобы не допустить государственного регулирования данных, поскольку их интерес заключается именно в беспрепятственном контроле над данными. Более того, они обладают финансовыми ресурсами, позволяющими нанимать наиболее талантливых сотрудников, и тем самым еще надежнее укрепляют свою власть. Мы охотно делимся персональными данными ради «бесплатного сыра», будь то почтовая служба Gmail или Фейсбук, но, как отметил журналист Джон Ланчестер в «Лондон ревью оф букс», если что-то предлагается бесплатно, значит, продукт – это мы. Настоящими клиентами корпораций являются те, кто платит за доступ к знаниям о нас, чтобы убедить нас покупать их товары или оказывать влияние иными способами. Говорят, что можно избавиться от монополии на контроль над данными, если лишить компании, которые их используют, права на владение данными. В итоге люди сохранят доступ к своим персональным данным (и эта модель будет стимулировать конкуренцию, так как люди смогут свободно и добровольно передавать свои данные тем компаниям, которые предлагают более качественные услуги). Кроме того, злоупотребление данными не сводится исключительно к корпорациям: в тоталитарных государствах и даже в номинально демократических государствах правительства знают о гражданах столько, сколько Оруэллу и привидеться не могло. Использование этой информации далеко не всегда прозрачно, а помешать ему достаточно сложно.
Перспектива применения ИИ в военных целях выглядит пугающе. Можно вообразить интеллектуальные системы, спроектированные для автономных действий на основе данных в реальном времени, причем быстрее аналогичных систем противника; это чревато катастрофическими войнами. Такие войны не обязательно будут обычными или даже ядерными. Учитывая важность компьютерных сетей для современного общества, гораздо более вероятно, что войны ИИ развернутся в киберпространстве. А вот их последствия могут быть реальными до отвращения.
Несмотря на описанную утрату контроля, мы упорно продолжаем создавать мир, в котором ИИ будет повсюду: люди не смогут сопротивляться удобствам, которые он сулит, и его власти, а корпорации и правительства не устоят перед соблазном обрести конкурентные преимущества. Но перед нами встают важные вопросы о будущем работы как института. Компьютеры уже причастны к значительному сокращению рабочих мест для синих воротничков за последние несколько десятилетий, но до недавнего времени многим рабочим местам белых воротничков – занятиям, которые «доступны исключительно людям», – как будто ничто не угрожало. Внезапно ситуация резко изменилась. Бухгалтеры, юристы и медицинские работники, финансовые аналитики и биржевые маклеры, турагенты – все эти профессии (едва ли не бо́льшая часть «традиционных» занятий белых воротничков) исчезнут благодаря развитию комплексных программ машинного обучения. Нас ждет будущее, где фабрики производят товар при минимальном человеческом участии, а сам поток товаров преимущественно автоматизирован, как и предоставление многих услуг. Что же останется людям?
В 1930 году, задолго до появления компьютеров, не говоря уже об искусственном интеллекте, Джон Мейнард Кейнс опубликовал статью «Экономические возможности наших внуков», где говорилось, что повышение производительности труда позволит обществу удовлетворять все свои потребности за счет пятнадцатичасовой рабочей недели. Еще Кейнс, наряду с ростом творческого досуга, предсказывал конец денег и богатства как цели в жизни:
«Мы позволим себе осмелиться и установим истинную ценность стяжательства. Страсть к обладанию деньгами – в отличие от уважения к деньгам как средству достижения жизненных удовольствий и ценностей – будет считаться тем, чем она является на самом деле, – постыдным заболеванием, одной из тех полупреступных, полупатологических наклонностей, вид которых пугает и заставляет обращаться к специалистам по психическим расстройствам»[143].
К сожалению, предсказания Кейнса не сбылись. Хотя производительность труда действительно увеличилась, система – возможно, «исконная» для рыночной экономики – отнюдь не сократила количество рабочих часов человека. Скорее, произошло то, что антрополог-анархист Дэвид Гребер[144] характеризует как появление «мнимых рабочих мест»[145]. Такие занятия, как производство предметов первой необходимости, будь то продукты питания, жилье и потребительские товары, удалось во многом автоматизировать, но при этом налицо колоссальное разрастание таких секторов экономики с человеческим «наполнением», как корпоративное право, академическое образование и управление здравоохранением (в отличие от реального обучения, исследований и медицинских практик), управление «человеческим ресурсом» и связи с общественностью, не говоря уже о новых отраслях – например, финансовых услугах, разнообразном телемаркетинге и «дополнительных» секторах так называемой гигномики (экономики временных занятий)[146], которые обслуживают тех, кто слишком занят указанной дополнительной работой.
Как общество собирается справляться со все ускоряющейся ликвидацией множества привычных профессий и нарастающей технологической безработицей? Кое-кто утверждает, что беспокоиться не о чем: мол, ничего страшного не происходит, ведь одновременно появляются новые рабочие места, которых раньше попросту не было; но, как указывает Гребер, эти новые рабочие места не обязательно окажутся прибыльными, а сами занятия – уважаемыми. Понадобилось целое столетие после первой промышленной революции, чтобы большинство людей ощутили улучшение. Эта революция стала возможной только потому, что правительства того времени безжалостно отстаивали права собственности в ущерб трудовым интересам, а большинство людей (женщины поголовно) не имело права голоса. В нынешних демократических обществах население вряд ли готово мириться со столь драматическими потрясениями и верить обещаниям, что «в конце концов» все станет лучше.
Даже радужные перспективы, которые рисует власть, зависят от радикальной перестройки образования и «пожизненного» обучения. Промышленная революция действительно спровоцировала грандиозные социальные перемены, в том числе переход к всеобщему образованию. Но этого не случится до тех пор, пока мы сами не осуществим такой переход, а здесь все упирается в вопросы власти, свободы действий и контроля. Задумайтесь – что ждет, скажем, сорокалетнего таксиста или водителя грузовика в эпоху автономных транспортных средств?
Рассматривается, конечно, концепция универсального базового дохода, который позволит гражданам развивать свои навыки, переобучаться новым профессиям и в целом подготовиться к «достойной» жизни. Однако рыночная экономика, в которой все определяется растущим потребительским спросом, может отторгнуть это нововведение. Кроме того, почти общепризнано, что осмысленная работа необходима для того, чтобы человек осознавал свое достоинство и ощущал удовлетворение. Значит, другая возможность состоит в том, что огромные средства, полученные за счет повышения производительности труда благодаря автоматизации, можно направить на создание рабочих мест в отраслях, по-прежнему требующих человеческого труда и творчества – например, в искусстве, музыке, социальной работе и других общественно полезных занятиях. В конечном счете признание одних рабочих мест достойными и прибыльными, а других – мнимыми, будет, по сути, личным делом каждого и станет варьироваться от общества к обществу и меняться с течением времени.
До сих пор я рассуждал о практических последствиях развития и внедрения ИИ. Как ученого меня беспокоит потенциальная потеря понимания. Сегодня мы накапливаем данные с невероятной скоростью. В моей лаборатории, к примеру, эксперименты генерируют более терабайта данных в сутки. Эти данные накапливаются, анализируются и обрабатываются, благодаря чему их удается свести к интерпретируемому результату. Но за всеми процедурами анализа данных стоит наша уверенность в том, что нам известна суть происходящего. Мы знаем, что именно делают программы, поскольку это мы разрабатывали алгоритмы, лежащие в их основе. Так что итоги компьютерной деятельности выглядят для нас интеллектуально постижимыми.
Новые программы машинного обучения сильно отличаются от своих предшественниц. Распознавая шаблоны посредством глубинных нейронных сетей, они делают некие выводы, логическую цепочку которых мы не в состоянии выявить. Когда они раскрывают некие отношения, мы не понимаем этого, в отличие от ситуаций, когда сами выводим подобные отношения в рамках базового теоретического контекста. Поскольку наборы данных разрастаются, мы уже не в силах анализировать их – даже с помощью компьютеров; скорее, мы склонны целиком полагаться на компьютеры в проведении анализа. Поэтому, если кто-то спросит, откуда мы то-то и то-то узнали, ответ будет простым: машина проанализировала данные и вывела заключение.
Однажды компьютер вполне может предложить нам совершенно новый результат – например, математическую теорему, чье доказательство или даже обоснование никто из людей не сможет понять. Это философское отличие от привычного нам способа заниматься наукой. По крайней мере, от привычного для нас; могут возразить, что мы до сих пор не знаем, как наш собственный мозг делает умозаключения, а потому эти новые способы, не исключено, просто имитируют глубинные человеческие рассуждения. Тем не менее потенциальная потеря понимания вызывает беспокойство.