Ограничения – для простых смертных
От социалки до аморалки
Университет Сингулярности расположился прямо по соседству с офисом Google в Маунтин-Вью, штат Калифорния, прописавшись на территории исследовательского центра НАСА, который приватизирован лишь наполовину под влиянием современных тенденций к отказу от излишеств. Университет – занятное местечко, в котором встречаются славные толковые ребята. Они поддерживают любопытные исследовательские проекты и предлагают замечательные образовательные программы, и все же я иногда над ними посмеиваюсь. Время от времени ко мне обращается кто-то из университетских, и я всегда чувствую себя несколько неловко, когда пытаюсь объяснить причину своего веселья. Просто наше восприятие этой организации разделяет что-то вроде пропасти, через которую не так-то просто перебросить мост.
Напомню, что идея сингулярности предполагает не только совершенствование технологий, но и ускорение темпов прогресса. Стоит зайти на территорию кампуса, и тебя тут же начинают строить. Как это у тебя, презренного магла, не хватило чутья, чтобы сделать самый главный вывод? Ведь мы, простые смертные, никогда не меняемся (хотя я не согласен с этим утверждением), а технологии, словно какие-то сверхсущества, развиваются и трансформируются независимо от нас, совершенствуясь с нарастающей скоростью. Из этого следует, что однажды прогресс стремительно рванет вперед, и мы в одно мгновение останемся не у дел. Возможно, нас мгновенно умертвят, так как новому искусственному сверхинтеллекту понадобятся молекулы нашего организма для куда более возвышенных целей. А может быть, нас будут содержать в качестве питомцев.
Рэй Курцвейл, один из основателей этого университета, с восторгом ожидает явление божественной виртуаль – ной реальности, которая поглотит все наши мозги во время пришествия сингулярности, которая будто бы наступит «в ближайшем будущем». Тогда мы сможем пережить «любой» сценарий и испытать все возможные удовольствия.
Другие, не мудрствуя лукаво, рассчитывают на то, что развитие медицинской науки также должно ускориться и наделить людей физическим бессмертием. Возвращаясь к старому вопросу, где все мы будем ютиться. если люди будут жить вечно, но все еще захотят обзаводиться деть – ми, – у нас есть несколько вариантов ответа. Разумеется, можно переселиться на звездолеты, а также уменьшить размеры человеческого тела при помощи биоинженерии. На моей памяти, такое предложение выдвинул Марвин Минский несколько десятков лет назад, и в тусовке сингуляристов к этим мыслям периодически возвращаются.
В наши дни фантазии такого рода вдохновляют многих успешных молодых предпринимателей и инженеров Кремниевой долины – и, как я смею предположить, таких энтузиастов большинство. Основная идея состоит в том, что резвый старт, который обеспечивает основание перспективного сетевого бизнеса, – это не что иное, как предпосылка к куда более важным достижениям, которые вы совершите в столь же рекордные сроки. Очень скоро благодаря своей исключительной технической смекалке самые умные программисты станут не просто бессмертными, а бессмертными супергероями.
Ранее я узнал, что Питер Тиль, основатель PayPal и один из акционеров Facebook, ведет образовательную программу в Стэнфорде и внушает слушателям, будто им не следует мыслить в терминах рыночной конкуренции, а сразу наметить себе нишу, которую они могли бы «монополизировать». По сути, это концепция сервера-сирены в чистом виде. Так что в Кремниевой долине уже само собой разумеется, что делить рынок с конкурентами – унизительное занятие.
Между этими посылами есть определенная взаимосвязь, которую следует понимать. Тиль также ратует за бессмертие, которым будут наслаждаться топовые акционеры се – тевых монополий. Массивы биологических данных должны быть мгновенно превращены облачными алгоритмами в эликсир бессмертия. Вот на такое будущее рассчитывают в Кремниевой долине. Культура заправил интернета настолько отличается от общечеловеческих понятий, что я сомневаюсь, поддается ли она описанию. К примеру, колумнист «New York Times» Дэвид Брукс как-то приводил рассуждения Тиля по поводу заметок некого студента, набравших популярность в интернете. Однако он отказался комментировать строки, которыми были озаглавлены заметки:
«Ваше сознание – это программа. Программируйте свой разум. Ваше тело – всего лишь корпус, вмещающий сознание. Замените тело. Смерть – это болезнь. Излечитесь от смерти. Близится вымирание нашего вида. Боритесь и побеждайте».
Похоже, большинство обычных людей так и не поняли, что укрепление мощи сетевых монополий идет рука об руку с зарождением новой религии, основанной на вере в бессмертие.
Соблазны сверхъестественного в технокультуре
Кремниевая долина – далеко не первое сообщество, взращенное в процессе решения разноплановых задач. Это повторение старого спектакля, но теперь его разыгрывают инженеры, которые настолько самозабвенно упражняются в искусстве морализаторства, что сами подчас начинают верить в собственные изречения.
Вы, наверное, удивитесь, когда узнаете, что принесение в жертву животного некогда определило исход давнего соперничества между первыми прототипами сетей? Между двумя величайшими мастерами драматических сцен – Николой Тесла и Томасом Эдисоном – разразилась так называемая «война токов». Тесла сделал головокружительную и даже романтическую карьеру инженера, никогда не упуская возможности окружить себя ореолом зловещей тайны. Однажды во время званого ужина он заставил воздух светиться, а на другой вечеринке вызвал у гостей непроизвольное мочеиспускание путем воздействия звуковых волн определенной частоты. Даже сейчас подобные выходки смотрелись бы экстравагантно, но тогда они воспринимались едва ли не как чудо. Эдисон внешне производил впечатление более прямолинейного человека, однако в действительности он играл в ту же игру. Электричество на первых порах воспринималось не только как физическое явление, но и как сказка с элементами фарсаи ужасов.
В начале XIX века врач Джованни Альдини устраивал публичные представления, при помощи электродов заставляя свежие трупы содрогаться в конвульсиях. Он обрел популярность, сделав примерно то же, что и Рэй Курцвейл в наше время, – Альдини заявил, что обладает исключительными познаниями в области техники, которые остановят древний круговорот жизни и смерти. Возможно, фигура Альдини послужила прототипом доктора Франкенштейна, героя одноименного романа Мэри Шелли.
Каждый театральный жест был пронизан дерзким стремлением заключить силы жизни и смерти в розетки, которые сейчас можно найти в каждом доме. Так, Эдисон публично убил слона электрическим током. По официальной версии, в этой сцене был задействован «демон» – переменный ток (АС), применяемый в установках Теслы, хотя Эдисон, безусловно, понимал, что его собственная разработка – постоянный ток (DC) – также способна убить животное.
Когда я ставлю телефон на зарядку, я иногда думаю о том слоне. Существование электричества обусловлено фундаментальными законами природы, едиными для всей планеты, но вряд ли электротехника достигла бы современного уровня развития, если бы в свое время техногики не сочиняли мрачных мифов об электричестве.
Так что Университет Сингулярности продолжает давнюю традицию. Большинство технарей – весьма посредственные шоумены, но когда инженерный талант сочетается с артистическим дарованием, мой вам совет: поберегитесь!
Между делом: почему я насмехаюсь над университетом?
Несмотря на богатое культурное наследие, совершенно очевидно, что признавать за Университетом Сингулярности статус высшего учебного заведения несколько нелепо. Уточню свою позицию: я не задаюсь вопросом, насколько реалистична та или иная технология. В сущности, я занимаюсь разработкой компонентов устройств, которые мои университетские друзья считают предшественниками сингулярности. К примеру, я разрабатывал прогнозирующие модели различных участков головного мозга и системы прямого взаимодействия компьютера с нервной системой человека.
Разница между нами состоит в том, что я признаю, что все эти штуки сделаны учеными, к которым принадлежу и я. Я подчеркиваю, что технологии не создают себя сами, а разработка – не автоматический процесс. Все технологии создаем мы, люди.
Конечно, всегда можно развлечься обращением фигуры и фона, как мы ранее наблюдали на примере иллюзии с вазой. Однако все-таки стоит принять как должное идею превосходства человеческой воли над технологическим детерминизмом. Дело в том, что только она допускает существование экономики, в которой люди вольны зарабатывать на жизнь так, как им хочется, и свободно распоряжаться своей судьбой. Кардинально менять общество, не ставя во главу угла свободу самовыражения, – это все равно что лишить человека собственного достоинства, права на самоопределение и возможности влиять на окружающий мир.
Таким образом, по большому счету нельзя доказать, что интерпретировать события будущего с позиций сингулярности в корне неверно. Однако все попытки внести ясность будут приводить к торжеству ошибочных данных и неверных стратегий. Само собой, если вы всерьез полагаете, что между человеком и машиной нет никакой разницы, мои доводы не будут для вас весомым аргументом.
Там, где ярый сторонник идей Университета может разглядеть зачатки сингулярности, которая якобы наступит когда-то в будущем, я увижу всего лишь хаотичное нагромождение различных разработок, выполненных настолько безграмотно и безответственно, что каждая из них может послужить причиной гибели множества людей, как у Форстера в повести «Машина останавливается». Так что давайте посмотрим на ситуацию с моей точки зрения и не будем никого убивать, ладно?
Контроль над смертью: чудо или катастрофа?
На наших глазах начинается новый виток отрицания смерти. Хотя Facebook появился относительно недавно, мы уже успели увидеть, что происходит, когда кто-то из пользователей умирает. В частности, когда умирает кто-то молодой, друзья иногда берут на себя управление его страничкой и какое-то время обновляют ее, как будто владелец по-прежнему жив. Вооруженные силы США одно время финансировали исследовательский проект по созданию интерактивных видеосимуляторов погибших солдат, которые могли бы контактировать с их семьями. А вместо покойного хип-хоп исполнителя Тупака Шакура на сцене однажды выступила голограмма в сопровождении различных оптических эффектов.
Отношение к смерти – личное дело каждого, и я не берусь судить о том, как надлежит чтить память ушедших родных и близких. Но я не могу не отметить, что при попытках воскресить мертвых мы размываем грань, которая отделяет их от живых. В мире все относительно; сглаживая горечь утраты, мы обесцениваем тайну бытия.
Я не стану называть имени одного из самых успешных сетевых финансистов, который сколотил одно из величайших состояний в мире, используя компьютерные технологии для оптимизации сложных финансовых комбинаций мирового масштаба. Он убежден, что приносит миру пользу, движет человечество вперед и преумножает капиталы ради общего блага. (Так ли это на самом деле, я не знаю.)
Кроме того, он большой фанат фитнеса и здорового образа жизни. Когда в деньгах нет недостатка, стремление к идеальному здоровью и безупречной физической форме часто выливается в безумные «турне» по духовным наставникам и шарлатанам со всего мира. И никакие деньги не помогут отличить одних от других.
Учитывая все вышесказанное, я был порядком удивлен, когда этот парень однажды заявил мне: «Капитализм стал возможен только благодаря смерти». Он общался с некоторыми исследователями из числа кибергуру, которые считают, что вскоре решат проблему смерти. Ведь старением и смертью управляют гены, которые, по всей видимости, можно модифицировать.
Как он пояснил, смерть лежит в основе любого рынка. Дальнейший ход мысли в принципе понятен; возможно, даже нет необходимости его озвучивать, однако я все же приведу кое-какие соображения. Старение и смерть освобождают место для новых поколений, одержимых желанием реализовать свои устремления. Если бы люди перестали быть смертными, тогда наш вид, превратившийся в общество вечных и невыносимо скучных победителей, оказался бы в состоянии стагнации, куда худшей, чем в Средневековье. Восторжествовавшая плутократия задушит всякий росток творческой мысли.
Два уровня имморализма для нашего века
Вспомните о тенденциях к ускоренному развитию технологий, которые образуют перевернутый вверх тормашками слайд, на который проецируются фантазии Кремниевой долины, устремленные ввысь. Смерть уже попала на прицел. Ни одно заседание работников научно-исследовательского отдела в Google, как, впрочем, и любое другое стандартное мероприятие, не обходится без презентаций о победе над смертью. Посыл, как правило, сводится к тому, что до бессмертия нам осталось сделать полшага. С поправкой на общую ошибку восприятия, у нас, вероятно, уйдет на это всего несколько десятилетий. По крайней мере, в теории.
Таким образом, перед нами вырисовываются два конкурирующих технологических тренда, ориентированных на борьбу со смертью. Один из них основывается на медийных ресурсах, второй – на биологических исследованиях, и для получения первых результатов потребуются десятилетия.
Через несколько лет более-менее качественная симуляция покойного, возможно, «пройдет тест Тьюринга». Это значит, что члены семьи погибшего солдата будут относиться к симуляции как к живому человеку. В кругах техногиков, одержимых технологиями бессмертия, возобладала тенденция сводить всю философию искусственного интеллекта к хорошо сработанному инженерному проекту. Лично я осуждаю такой подход, но в глазах приверженцев данной концепции цифровой призрак, выдержавший тест Тьюринга, заодно проходит и проверку на приемлемость.
Кроме того, многих также приводит в восторг продление реальной жизни за счет достижений медицины – любопытное наложение идей, не правда ли? Искусственный интеллект и призраки, проходящие тест Тьюринга, должно быть, вполне сгодятся для обывателей, но техноэлита вкупе с прослойкой самых богатых людей мира захотят чего-нибудь получше. По-видимому, уже в этом веке наше общество дождется первых плодов прогресса: обычным людям будет гарантировано бессмертие в формате симуляции, которой смогут насладиться только те, кто на нее смотрит, но не сам покойный. А самые богатые смогут претендовать на лавры библейского Мафусаила.
Один из самых убедительных доводов в пользу распределения доходов между средними классами – возможность избежать ситуации, в которой богатое меньшинство живет исключительно долго, а представители других слоев не могут позволить себе подобного.
Однажды много лет назад, когда мы за завтраком беседовали об искусственных сердцах, Марвин Минский предположил, что продление жизни следует удешевить настолько, чтобы оно стало доступным каждому. Однако мы наблюдаем нечто иное: некоторые вещи резко дешевеют, а другие столь же резко дорожают. Например, принтеры стоят невероятно дешево, а чернила для них обходятся в круглую сумму. Телефоны сами по себе недорогие, но услуги мобильных операторов стоят безумно дорого. Магазины Wal-Mart предлагают дешевые товары, но рабочие места все равно исчезают. Программное обеспечение распространяется якобы «бесплатно», но интернет почему-то не создает столько же рабочих мест, сколько уничтожает.
В наши дни проще поверить в говорящую чайку из первой главы, чем в продление жизни для всех в мире, где капитал и власть концентрируются вокруг серверов-сирен.
Когда продолжительность жизни в первый раз заметно увеличится, возникнет серьезный конфликт интересов. Предположу, что первая вспышка случится не на территории Соединенных Штатов; возможно, в роли застрельщиков выступят российские олигархи или арабские шейхи из стран Персидского залива.
Если вообразить часы, отсчитывающие время до пуска монетизированной цифровой экономики, то отсчет уже пошел. Хватит ли у среднего класса ресурсов и влияния, чтобы умерить амбиции владельцев серверов-сирен, жаждущих стать практически бессмертными плутократами? Подобное развитие событий предвидел Г. Дж. Уэллс в повести «Машина времени».
Если средний класс в этот момент окажется достаточно сильным, можно будет найти какой-то компромисс. Когда понятие «естественной» продолжительности жизни изживет себя наряду с понятием «естественного» климата, в силу вступит новый общественный договор относительно медицинского обслуживания.
Если средний класс окажется слишком слабым, наступит хаос. Как правило, население выражает протест против мер жесткой экономии в довольно мягкой форме. Но стоит гражданам осознать, что члены их семей обречены умирать раньше, чем представители противоестественного и изолированного высшего класса, безудержный народный гнев разразится во всю мощь. Как бы мы ни романтизировали революции, они представляют собой всего лишь очередную форму террора, примененную на практике. С нашей стороны было бы благоразумно развернуть во всех странах мира программу поддержки среднего класса до того, как наступит роковой момент.