ьбу цивилизаций с менее развитой технологией. Это намерение казалось мне необычайно привлекательным, потому что получалось, что будущее будут определять люди с определенными духовными ориентирами, а вовсе не роботы. Так что мечта Родденберри стала и моей.
Учась в средней школе, я преуспел в математике, а поступив в Мичиганский университет на инженерный факультет, я записался на продвинутый курс высшей математики. Решение математических задачек было захватывающим испытанием для меня. Однако когда я открыл для себя компьютеры, то нашел нечто более интересное — машину, в которую можно было заложить программу. И уже программа пыталась решить задачу, после чего машина быстро проверяла решение. У компьютера было четкое понимание правильного и неправильного, истинного и ложного. Были ли мои идеи верными? Машина могла бы ответить на этот вопрос. Это было очень соблазнительно.
Мне повезло, и я получил работу, связанную с программированием первых суперкомпьютеров, и открыл поразительную способность больших машин к числовому моделированию сложных систем. Когда в середине 1970-х я поступил в аспирантуру Калифорнийского университета в Беркли, я начал поздно ложиться спать и часто просиживал всю ночь, изобретая новые миры внутри машин. Решая задачи. Сочиняя программы, которые так и напрашивались на то, чтобы их написали.
В биографическом романе о Микеланджело «Муки и радости», принадлежащем перу Ирвинга Стоуна, автор очень ярко описал, как Микеланджело высекал свои статуи из камня, «разбивая чары мрамора», следуя за образами, которые были у него в уме.[186] В мои самые экстатические моменты программа возникала на компьютере так же, как статуя под рукой Микеланджело. Однажды мне показалось, будто я ощущаю, что программа уже в машине и ждет, чтобы ее выпустили на волю. Бессонные ночи казались малой ценой, которую надо было заплатить для освобождения программы — для того, чтобы придать идеям конкретную форму.
Стоун так описывает протекание творческого процесса у Микеланджело: «Он работал не на основе набросков или глиняных моделей; они все отставлялись в сторону. Он высекал скульптуру по образу, который был у него в голове. Его глаза и руки знали, где должна пройти каждая линия, каждый изгиб и возникнуть масса и на какой глубине в сердце камня нужно высекать барельеф» (Stone, p. 144).
После нескольких лет обучения в Беркли я стал отсылать некоторые написанные мною программы — учебную систему для Паскаль, утилиты для UNIX и текстовый редактор под названием «vi» (который, к моему вящему удивлению, все еще используется, хотя с момента его создания прошло больше двадцати лет) — другим людям, у которых были похожие на мой небольшие миникомпьютеры PDP-11 и VAX. Эти достижения в области программного обеспечения в конечном итоге привели к созданию в Беркли своей версии операционной системы UNIX, ставшей личным «успешным бедствием»: так много людей жаждало ее, что я рисковал никогда не закончить свою докторскую. Вместо этого я получил работу в DARPA,[187] отладив берклийскую версию системы UNIX для работы с Интернетом и сделав так, чтобы она заслуживала доверия и хорошо поддерживала большие исследовательские приложения. Все это доставило мне немало удовольствия и было по достоинству вознаграждено. И, честно говоря, роботы не встречались мне ни там, ни где бы то ни было поблизости.
И все-таки к началу 1980-х годов я находился в кризисе. Релизы UNIX были очень успешными, и вскоре мой небольшой проект получил деньги и кое-какой персонал. Однако в Беркли всегда было больше проблем с офисным пространством, чем с финансированием. У них не нашлось вспомогательного помещения, необходимого для реализации проекта. Так что, когда на горизонте появились другие учредители будущей Sun Microsystems, я не упустил этот шанс. Благодаря долгим часам работы в Sun рождались первые рабочие станции и персональные компьютеры. Я наслаждался тем, что принимал участи в разработке технологий, позволяющих создавать усовершенствованные микропроцессоры, и таких Интернет-технологий, как Java и Jini.
Надеюсь, что благодаря всему вышесказанному понятно, что я не луддит. Скорее, наоборот. Я всегда верил в ценность научно-исследовательского поиска, стремящегося к истине, и в способность великих инженерных разработок способствовать материальному прогрессу. Промышленный переворот неизмеримо улучшил повседневную жизнь людей за последнюю пару столетий, и я всегда ожидал, что моя собственная карьера будет связана с выработкой результативных решений реальных проблем.
И я не был разочарован. Моя работа оказалась даже более плодотворной, чем я когда-либо мог надеяться, и ее результаты использовались гораздо шире, чем я мог объективно ожидать. Последние двадцать лет я потратил на поиск способа, при помощи которого можно сделать компьютеры настолько надежными, насколько мне это необходимо (пока они еще не совсем соответствуют этому представлению). Кроме того, я пытался сделать их простыми в использовании (здесь я добился еще меньшего успеха). Несмотря на некоторый прогресс, проблемы, остающиеся на повестке дня, кажутся еще более устрашающими.
Но хотя я и осознавал моральные дилеммы, связанные с последствиями использования технологии в таких областях, как разработка вооружения, я не ожидал, что столкнусь с теми же затруднениями в области своих исследований. Или, по крайней мере, столкнусь так скоро.
Пожалуй, всегда трудно разглядеть отдаленные последствия, когда ты находишься в самом вихре перемен. Неспособность осознать последствия наших изобретений, пока мы пребываем в восторге от своих открытий и новаторских разработок, похоже, является обычной ошибкой ученых и технологов; нас так долго подталкивало всеохватное желание познать природу, что у нас не оставалось времени заметить, как технологический прогресс начал жить своей собственной жизнью.
Мне потребовалось немало времени на осознание того, что крупные прорывы в области информационных технологий происходят не благодаря работе специалистов по вычислительной технике, разработчиков архитектуры вычислительных машин или электротехников, а благодаря труду физиков. Физики Стивен Уол-фрам и Бросл Хасслакер познакомили меня в начале 1980-х с теорией хаоса и нелинейными системами. В 1990-х из разговоров с Дэнни Хиллисом, биологом Стюартом Кауффманом, лауреатом Нобелевской премии физиком Мюрреем Гелл-Манном и другими я узнал о сложных системах. Совсем недавно Хасслакер вместе с электротехником и физиком-экспериментатором Марком Ридом просветили меня насчет невероятных возможностей молекулярной электроники.
В ходе моей собственной работы в качестве соразработчи-ка архитектуры трех микропроцессоров — SPARC, picoJava и MAJC — и разработчика нескольких реализаций на их основе мне представилась возможность основательно и непосредственно познакомиться с законом Мура. Целыми десятилетиями закон Мура верно предсказывал экспоненциальное ускорение, с которым совершенствовалась полупроводниковая технология. Вплоть до последнего года я считал, что скорость прогрессивных достижений, предсказанная законом Мура, будет держаться примерно лишь до 2010 года, когда мы начнем наталкиваться на физические ограничения. Для меня было вовсе не очевидно, что для поддержания беспрепятственного развития прогресса появится новая технология и произойдет это вовремя.
Однако благодаря быстрому и радикальному прогрессу в молекулярной электронике, достигнутому в последнее время — когда напыленные при помощи литографии транзисторы были заменены отдельными атомами и молекулами, — и связанными с молекулярной электроникой нанотехнологиями мы должны суметь покрыть или превысить предсказанный законом Мура уровень прогресса за следующие тридцать лет. Весьма вероятно, что к 2030 году мы сможем в большом количестве создавать машины, мощность которых будет превышать мощность сегодняшних компьютеров в миллион раз. Этого будет достаточно, чтобы воплотить грезы Курцвейля и Моравека в жизнь.
Если эти огромные вычислительные возможности совместить с достижениями в разработке методов манипуляции в физических науках, а также с новыми глубокими открытиями в области генетики, чудовищный импульс, направленный на тотальную трансформацию, будет неудержим. Это сочетание открывает возможность полной переделки мира в хорошую или плохую сторону: человек скоро приложит руку к процессам воспроизводства и эволюции, которые раньше ограничивались пределами естественного мира.
Когда я разрабатывал программное обеспечение и микропроцессоры, у меня никогда не было чувства, будто я создаю разумную машину. Софт и хардвер настолько хрупки, а возможности машины, позволяющие ей «думать», с такой очевидностью отсутствуют, что возможность появления разумной машины всегда казалась мне делом очень далекого будущего.
Но теперь с учетом перспективы достижения колоссальных вычислительных мощностей лет за тридцать сама собой напрашивается новая идея: возможно, я работаю над созданием инструментов, которые позволят разработать технологию, способную заменить наш вид. И как я себя чувствую при этой мысли? Мне очень неуютно. При том, что всю свою карьеру я боролся за создание надежных систем программного обеспечения, мне кажется, что вероятнее всего будущее будет не настолько радужным, как кое-кто может себе представлять. Мой личный опыт подсказывает мне, что мы склонны переоценивать свои способности контролировать новые технологии.
Заполучив в свое распоряжение невероятные возможности новых технологий, не должны ли мы задаться вопросом о том, как нам лучше всего сосуществовать с ними? И если наше исчезновение с лица земли является вероятным или даже возможным итогом развития наших технологий, разве нам не следует двигаться вперед с большей осторожностью?
Мечта о роботах в первую очередь подразумевает, что разумные машины смогут делать за нас всю работу, освободив все наше время для досуга и вернув нас в Эдем. В то же время, излагая историю подобных идей в работе «Дарвин среди машин», Джордж Дайсон предупреждает: «В игре жизни и эволюции принимают участие три игрока: люди, природа и машины. Я твердо стою на позиции природы. Однако я подозреваю, что природа занимает сторону машин». Как мы видели выше, с этим согласен и Моравек, полагающий, что мы можем и не пережить встречу с видом роботов, превосходящих нас.