Ответ, конечно, гласит, что он умеет играть в шахматы. Тут возникает перспектива любопытного исследования о применимости ИИ к ИИ, то есть к обучению нейронных сетей, для объяснения того, как они работают. Но деятельность мозга и компьютерного чипа трудно понять из простого наблюдения за их работой; намного легче интерпретировать эту деятельность по наблюдению за их внешними интерфейсами. Мы доверяем (или нет) мозгу и компьютерным чипам, основываясь на опыте, который их проверяет, а не на объяснениях того, как они работают.
Многие отрасли инженерии переходят от так называемого императивного к декларативному, или генеративному дизайну. Это означает, что вместо прямого проектирования системы с помощью инструментов наподобие САПР, принципиальных схем и компьютерного кода, вы описываете свои пожелания к системе, а затем выполняется автоматический поиск модулей, удовлетворяющих вашим целям и ограничениям. Такой подход становится необходимостью, поскольку сложность проектирования все чаще превышает возможности проектировщика. Да, это может показаться рискованным, но человеческое понимание имеет свои пределы; в истории инженерного дела полным-полно примеров мнимого хорошего понимания, которое обернулось дурными последствиями. Декларативное проектирование учитывает все новейшие достижения в области искусственного интеллекта, а также точность моделирования, свойственную виртуальным тестовым вариантам.
Мать всех проблем проектирования – та самая проблема, итогом решения которой являемся мы с вами. Наша конструкция «записана» в одной из старейших и наиболее консервативных частей генома, в так называемых генах Hox[134]. Это гены, которые регулируют другие гены посредством так называемых программ развития. В нашем геноме нет дизайна телосложения; скорее, геном хранит последовательность шагов, выполнение которых наделяет нас тем или иным телом. Налицо точная параллель с поиском в области ИИ. Имеется слишком много потенциальных схем кузова для поиска, причем большинство модификаций окажутся либо несущественными, либо фатальными. Гены Hox представляют собой репрезентацию продуктивной среды эволюционного поиска. Это своего рода естественный интеллект на молекулярном уровне.
ИИ сталкивается с проблемой ума и тела, потому что у него нет тела. Бо́льшая часть работы над ИИ выполняется в облаках, на виртуальных машинах в компьютерных центрах, куда направляются данные. Наш собственный интеллект есть результат выполнения алгоритма поиска (эволюция), изменивший нашу физическую форму, а также результат программирования – и оба результата неразрывно связаны. Если историю ИИ трактовать как плод действия масштабирующих законов, а не как преемственность моды, то его будущее можно рассматривать аналогичным образом. Ныне, после коммуникаций и вычислений, оцифровывается производство, что внедряет программируемость битов в мир атомов. Оцифровывая не только проект, но и процесс создания материалов, мы в состоянии использовать уроки, преподанные фон Нейманом и Шенноном, к экспоненциально возрастающей сложности производства.
Я считаю цифровыми материалами те, которые создаются из дискретного набора деталей, обратимо соединенных с дискретным набором относительных положений и ориентаций. Эти параметры позволяют определять глобальную геометрию по локальным ограничениям, обнаруживать и исправлять ошибки сборки, соединять разнородные материалы и разбирать, а не уничтожать конструкции, когда они больше не нужны. Аминокислоты, основа жизни, и кирпичики «Лего», основа игры, разделяют эти свойства.
В аминокислотах интересна именно их неинтересность, обыденность. Они наделены свойствами типичными и ничуть не выдающимися, скажем, притягивание или отталкивание воды. Но всего двадцати типов аминокислот достаточно для сотворения человека. Точно так же двадцати или около того типов цифровых материалов – проводников, изоляторов, жестких, гибких, магнитных и т. д. – будет достаточно для обеспечения ряда функций, необходимых для реализации современных технологий в роботах и компьютерах.
Связь между вычислениями и производством обнаружили те первооткрыватели, работы которых заложили основы архитектуры вычислений. Винер намекал на нечто подобное, увязывая транспортировку материалов с транспортировкой сообщений. Джону фон Нейману приписывают современную компьютерную архитектуру, о которой он писал на самом деле очень мало; последним, что он изучал и о чем писал красиво и подробно, были самовоспроизводящиеся системы. Как бы абстрагируя жизнь, он смоделировал машину, способную передавать вычисления, которые самоконструируются. А последним, что изучал Алан Тьюринг, которому приписывают теоретические основы информатики, были способы, какими генные инструкции создают физические формы. Эти вопросы относятся к области, сторонней для типичного компьютерного образования: речь о физической конфигурации вычислений.
Фон Нейман и Тьюринг ставили указанные вопросы в качестве теоретических, поскольку эти исследования значительно опережали технологии того времени. Но благодаря конвергенции коммуникаций, вычислений и производства такие вопросы становится возможным изучить экспериментально. Создание ассемблера, способного собирать себя из деталей, которые он сам же и собирает, – такова текущая цель моей лаборатории, где мы с коллегами также участвуем в разработке синтетических ячеек.
Перспектива появления самовоспроизводящихся физически автоматов потенциально гораздо страшнее всех фантомных угроз якобы неконтролируемого ИИ, поскольку она перемещает искусственный интеллект в пространство нашего обитания. Не исключено, что это дорожная карта, ведущая к роботизированным терминаторам и компании «Скайнет». Но это и более обнадеживающая перспектива, потому что способность программировать атомы заодно с битами позволяет развивать проекты глобально и производить локально энергию, еду и жилье; все перечисленное будет ярким примером первых шагов цифрового производства. Винера тревожила будущая безработица, но он не ставил под сомнение имплицитные допущения о природе работы, которые исчезают, когда на смену потреблению приходит создание.
История свидетельствует о том, что утопические и антиутопические сценарии сбываются редко; как правило, мы барахтаемся где-то посередине. Но история также показывает, что не стоит пассивно ждать. Гордон Мур в 1965 году использовал наблюдаемое пятилетнее удвоение ресурсов интегральных микросхем, чтобы спроектировать добрые пятьдесят лет экспоненциального развития цифровых технологий. Мы потратили немало времени на реакцию, а не на прогнозирование ее последствий. Сейчас у нас больше данных, чем было у Гордона Мура, и кто мешает нам спроектировать пятьдесят лет удвоения производительности цифрового производства? В ретроспективе понятно, к слову, что нужно избегать излишеств цифровых вычислений и коммуникаций и с самого начала решать такие проблемы, как свобода доступа и общая грамотность.
Если движение творцов действительно является провозвестником третьей цифровой революции[135], успехи проектировщиков ИИ в достижении многих первоначальных целей этой революции можно рассматривать как итог первых двух цифровых переворотов. Может показаться, что производство машин и машинное мышление никак не связаны между собой, но они составляют будущее друг друга. Те же тенденции масштабирования, которые сделали возможным появление ИИ, позволяют предположить, что нынешняя одержимость ИИ есть преходящий этап, и за ним наступит новая фаза, намного более важная, – слияние искусственного и естественного интеллекта.
Развитие атомов ведет к формированию молекул, развитие молекул – к формированию органелл, развитие органелл – к формированию клеток, развитие клеток – к формированию органов, развитие органов – к формированию организмов, развитие организмов – к формированию семей, развитие семей – к формированию общества, а развитие общества – к формированию цивилизаций. Эта великая эволюционная петля может замкнуться, когда атомы станут управлять битами, управляющими атомами.
Глава 17Первый машинный интеллект
У. Дэниел (Дэнни) Хиллис
изобретатель, предприниматель и компьютерный теоретик, профессор инженерии и медицины в университете Южной Калифорнии, автор книги «Узор на камне: простые идеи, которые заставляют работать компьютеры».
Еще будучи студентом Массачусетского технологического института, Дэнни Хиллис создал компьютер из деталей «Тинкертойз»[136]. Тот насчитывал около 10 000 деревянных деталей, играл в крестики-нолики и никогда не проигрывал; сейчас он находится в Музее компьютерной истории в Маунтин-Вью, штат Калифорния.
Аспирантом и сотрудником лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института в начале 1980-х годов Дэнни разработал компьютер с массивно-параллельной архитектурой на 64 000 процессоров. Он назвал этот агрегат машиной связи и основал первую, возможно, компанию в области ИИ – «Thinking Machines Corporation» – для производства и продажи этого устройства. Причем его ничуть не смутил ланч с Ричардом Фейнманом, на котором знаменитый физик заметил: «Это, безусловно, самая глупая идея, которую я когда-либо слышал». Пожалуй, выражение «не смутил» не вполне корректно, ведь Фейнман славился своим интересом к глупым идеям. К слову, Фейнман пришел на торжество по поводу регистрации компании, сотрудничал с ней летом, брался за специальные задания и внес неоценимый вклад в ее работу.
С тех пор Дэнни основал целый ряд технологических компаний, последняя из которых, «Applied Invention», сотрудничает с коммерческими предприятиями в разработке технологических решений для преодоления конкретных проблем. Он владеет сотнями патентов на параллельные компьютеры, сенсорные интерфейсы, дисковые массивы, методы предотвращения подделок и множество электронных и механических устройств. Его воображение, по-видимому, безгранично, и в очерке ниже он намечает некоторые возможные сценарии, результат нашего стремления к бесконечному улучшению ИИ.