По мере роста эффективности и числа навыков искусственного интеллекта он также станет инструментом власти. С наружным наблюдением, военными действиями и пытками лучше справляются сущности, не склонные к эмоциям, конфликтам ценностей или усталости. Однако опасность того, что враждебные или даже смертоносные машины выработают у себя злонамеренное сознание и обратятся против человечества, равна нулю. Свободой воли будут обладать только институты и организации, которые станут использовать ИИ — с добрыми или злыми намерениями.
Не нужно дожидаться появления сверхинтеллекта для того, чтобы превратить абстрактную полемику об искусственном интеллекте во вполне реальные вопросы по поводу власти, ценностей и социальных изменений. Технология может инициировать развитие исторических изменений; сама она никогда не станет такими изменениями. История Джона Генри XXI века не будет ни героической, ни интересной. У «белых воротничков» нет способов красиво уйти или сражаться до последнего. У нас не будет народных героев, погибающих в бизнес-центрах. Современный Джон Генри просто растворится в общей статистике. Несомненно, вычисленной современной мыслящей машиной.
Машинам неинтересны отношения
Когда мы думаем о мыслящих машинах, то обычно рассуждаем о мышлении в том смысле слова, который применим к карманному калькулятору. Ввод, хрясь, вывод, бам! Вот ваш ответ. Мы любим эти машины и нуждаемся в них, потому что они мыслят так, как мы мыслить не можем: последовательно, всесторонне и быстро. Но обратное тоже верно. Мы мыслим так, как не могут мыслить они. Машины не беспокоятся по поводу вашего состояния души. Они неэмоциональны. Они к вам никак не относятся. Когда ваш компьютер делает подсчеты для налоговой декларации и выдает определенное число, то не задумывается над тем, как его вам преподнести — быстро или медленно, прямо или уклончиво. Ему неинтересно, такой ли ответ вы хотите получить, да он и не может интересоваться.
Дело в том, что машинам безразличны отношения. Для нас, однако, отношения — практически единственная вещь, имеющая значение. Когда мы думаем, то не просто вычисляем, нас беспокоят социальные последствия. Как наши решения могут повлиять на других? Как это скажется на нашем будущем взаимодействии? Как к нам отнесутся? Машины так не думают. Следовательно, иллюзий насчет возможности сколько-нибудь значительного социального взаимодействия с ними быть не должно. Коммуникация между людьми построена на такой психологии, которую освоил только наш вид. Наше преимущество заключается в том, что мы можем образовывать друг с другом социальный сплав, связывая себя обязательствами, касающимися общих целей и мотивов. Подлинное взаимодействие подразумевает формирование своеобразной единой корпорации, хоть и мимолетное. Мы думаем, чувствуем и действуем вместе и, в сущности, как единое целое. Это позволяет нам не только сообща добиваться успеха, но и сообща терпеть неудачу.
Машины подчиняются, но не сотрудничают. Поэтому им нужно научиться разделять общие причины для деятельности, общие цели, общий вклад в долгосрочные результаты. Мы хорошо ладим с мыслящими машинами, ведь они хорошо дополняют наши умственные способности. Так пусть же они занимаются вычислительным мышлением, а относительное мы оставим себе.
Следующая фаза эволюции человека
Спрашивать, что я думаю о мыслящих машинах, — это как спрашивать, что я думаю о гравитации. Мыслящие машины существуют и являются одним из новейших достижений человеческой культуры, зародившейся более 5000 лет назад с появлением средств статической внешней памяти, таких как клинописные таблички и кипу[96]. Эти изобретения в основном служили для хранения численной информации, обслуживавшей стандартные процедуры принятия решений. Через много веков мы разработали более сложные и разнообразные предметы и машины, чтобы делать расчеты и хранить числовые и текстовые данные. Мы, люди, не только любим постоянно общаться, нам присуща неутолимая жажда информации. Появление двоичного кода и его автоматизация в компьютерах дали нам возможность записывать, хранить и обрабатывать все типы данных, а мы продолжили совершать технологические прорывы в этой области в типично человеческой манере, то есть помешавшись на новизне и совершенно не задумываясь о последствиях. Мы как никогда зависим от мыслящих машин во всем, что связано с большими объемами данных: в хранении, переводе, управлении, организации доступа. Эти устройства теперь обслуживают не такие уж стандартные процессы принятия решений в медицине, юридической практике и машиностроении, дополняют творческую мысль во время создания музыки, написания стихов и генерации визуальных образов. Грубая комбинаторная сила позволяет мыслящим машинам учиться на собственном опыте, и в обозримом будущем эта способность будет подкреплена усилиями человека, когда машины получат возможности к самовоспроизводству, мутации, созданию еще более сложных сетей, а в определенный момент и к проведению собственных евгенических опытов.
Такие же люди, как те, что сегодня беспокоятся по поводу мыслящих машин, пятьдесят лет назад были уверены, что повсеместное использование калькуляторов приведет к наступлению эры тотального слабоумия. Однако ничего подобного мы не видим и не увидим в будущем. Мыслящие машины избавляют нас от рутины хранения данных и проведения стандартных операций с ними, дают нам возможность войти в новую фазу эволюции. Только настоящие люди с мягкой, розовато-серой нервной тканью способны совершать подлинно человеческие действия — интроспекцию и рефлексию — над природой существования. Плотные и неравномерные сети взаимосвязанных нейронов в мозгах значительно отличаются от человека к человеку и трансформируются от одного момента мышления к другому, так что нет двух одинаковых личностей, двух одинаковых дней, ни одно воспоминание никогда не всплывает в голове одинаково. Автоматизируя многие рутинные физические и умственные задачи, уменьшая необходимость в утомительном рекурсивном поиске, мыслящие машины освобождают нас от физической усталости и интеллектуальной монотонности, присущих предыдущим историческим этапам. Мы теперь можем гораздо больше размышлять о том, что значит думать, мечтать, шутить, плакать. Мы можем задаваться вопросами о значении человеческого духа, истоках самопожертвования и эмерджентных качествах тысяч людей, собирающихся вместе посмотреть представление, составить друг другу компанию и порадоваться обычным человеческим вещам. Это не просто избыток людей в одном месте — это человеческая сущность. Мыслящие машины дают людям возможность радоваться интуитивным озарениям и поддерживать уравновешенность, характерную для саморегулируемого человеческого разума.
Доминирование против одомашнивания
Искусственный интеллект часто используется как инструмент, дополняющий наше мышление. Но искусственный интеллект может быть — и будет — чем-то большим, чем инструмент, чем наш слуга. Каких отношений между нами следует ожидать?
Мы много слышим о том, как появление сверхразумных машин ознаменует конец человеческой расы и что между людьми и искусственным интеллектом развернется борьба за власть. Другой вариант развития событий, однако, заключается в том, что он превратится в компаньона, взаимодействующего с нами по тому же принципу «ты — мне, я — тебе», которым мы руководствуемся при общении с нашими любимыми коллегами. Нам удалось одомашнить волков, сделав из них преданных собак; возможно, у нас получится приручить искусственный интеллект и избежать борьбы за власть.
К сожалению, одомашнивание искусственного интеллекта будет намного сложнее, чем просто создание более быстрых машин с большим объемом памяти и более мощными алгоритмами, способными обрабатывать больше данных. Чтобы разобраться в причинах этого, рассмотрим простое взаимодействие с обычной интеллектуальной системой — с планировщиком маршрутов. Представьте, что воспользовались своим любимым навигатором, чтобы найти дорогу в незнакомом месте, и получили указание повернуть налево на следующем перекрестке, а вам кажется, что это неверно. Если бы навигацией занимался ваш друг, сидящий на пассажирском сиденье с картой, вы бы спросили: «Ты уверен?» — или, может быть, просто: «Точно налево?» — с интонацией, указывающей на недоверие.
Однако у вас нет способов переспросить навигатор. Эти системы, как и искусственный интеллект вообще, не умеют давать толковых объяснений. Они не могут объяснять свои намерения так, чтобы мы их поняли. Они неспособны поставить себя на наше место, чтобы понять, какой ответ нас бы удовлетворил. Они не выразят уверенность в выбранном маршруте иным способом, кроме как с помощью вероятностной оценки производной по времени для альтернативных маршрутов, тогда как мы хотим, чтобы они подумали над достоверностью выдвигаемых ими предположений. По этой причине и по ряду других из искусственного интеллекта не получится хорошего компаньона в таких делах, как планирование маршрута, и в большинстве других задач. Это инструмент, мощный инструмент, который часто бывает весьма полезен. Но это не партнер.