епыми и глупыми, чтобы алгоритм казался умным? То, что сделала компания Netflix, достойно восхищения, поскольку весь смысл ее деятельности заключается в том, чтобы обеспечить вас иллюзиями. Браво! (И, кстати, через десятилетия споров с откровенно нечестными аргументами в пользу того, чтобы сделать искусство и развлечения «бесплатными», смотрите, что произошло, когда такие компании, как Netflix и HBO, сумели добиться от людей платы за подписки на хорошее телевидение. Внезапно наступил период возрождения, названный Peak TV.)
Ваши друзья, возлюбленные, покупки и подработки, подброшенные вам нестабильной экономикой свободного заработка, появляются в вашей жизни благодаря тому же заблуждению, что повторяет спорный алгоритм Netflix. Где-то в сети находится море вариантов, но их слишком много, чтобы оценить все самому. Жизнь коротка, так что приходится отбросить неверие и довериться алгоритмам. Так рождаются глупцы.
Симпатичный, но печальный математик, осторожно прихлебывавший суп вонтон, сказал:
– Джарон, ты говоришь о виртуальной реальности как о противоположности искусственного интеллекта. Но разве они не станут одним целым? Если посмотреть на закон Мура, можно вычислить тот год, когда секс в виртуальной реальности станет лучше, чем реальный. Алгоритмы будут узнавать тебя все лучше и научатся создавать идеальных для тебя партнеров. Я провел некоторые предварительные вычисления и думаю, что это вполне может произойти в 2025 году.
Эта идея известна как «сексуальная сингулярность»[119]. Объяснять ее можно хоть целый день, но можно я оставлю это на откуп читателю? А здесь приведу лишь малую часть типичного для себя ответа:
– Здесь ты ошибаешься. Вопрос не в том, что может сделать для тебя алгоритм, а в том, можешь ли ты сам расширить границы разума. В конечном счете, это все, в чем могут помочь нам компьютеры. Почему бы не подумать о том, что ты можешь сам обеспечить себе прекрасный секс? Тогда ты не только будешь связан с другим человеком, но еще и будешь жить, расти и изменяться. Алгоритм не будет гонять тебя по кругу. Если какое-то устройство рассчитает для тебя идеальный сексуальный опыт, на деле это окажется идеальной дрессировкой в ящике Скиннера. Не будь лабораторной крысой.
Мой ответ не менялся, когда мне говорили, что когда-нибудь алгоритмы искусственного интеллекта будут сочинять идеальную музыку, писать идеальные книги или снимать идеальные фильмы. Эта предпосылка изначально ошибочна.
– Но что, если людям это понравится? Ты говоришь так, как будто ты самый главный, но что, если кому-то нравятся виртуальные сексуальные партнеры, книги и музыка, созданные алгоритмами? Ты судишь по себе! Мы все имеем право на собственные вкусы.
– Мы стремимся быть хорошими инженерами, так? Я говорю о том, чтобы послать к черту петлю обратной связи, которая позволяет нам быть хорошими инженерами, когда мы воспринимаем машины как людей.
– Ты усложняешь простой вопрос.
– Нет, ты подумай об этом. Когда ты допускаешь возможность веры другого человека в индивидуальность, в то, что другой человек – это личность, в игру вступает уважение. Нельзя обойти его и переделать людей. Это фашизм. Тебе придется позволить людям изобретать что-то самим, даже если они тебя раздражают. И зачастую они действительно довольно противные, но именно за это мы и любим человечество, ведь так? За непредсказуемость, за разнообразие. Если ты решишь относиться к компьютерам как к людям, ты станешь относиться к компьютеру с тем же пиететом и потеряешь опору, на которой держится проектирование компьютеров. Ты больше не сможешь их улучшать. – Может быть, пора перестать уже быть такими брезгливыми и признать, что людей нужно переделать.
– О боже, нет.
– Не представляю, как создать ноосферу, не принимая того, что людей придется переделать. Хотя бы немного!
– Не думаю, что эта установка поможет нам быстрее создать ноосферу. Что не так с Первой директивой из «Звездного пути»?[120] Пусть цивилизации возникают сами, без чьей-то навязанной инициативы сверху. Тогда будут и глубина, и разнообразие. Куда спешить? – Звучит так, как будто мы – продвинутые инопланетяне, которые решают, что им делать с Землей. – За столом раздался одобрительный гул голосов. Возможно, именно ими мы и были.
Тощий, как жердь, парень, выбиравший мелкие косточки из целой рыбины, решил, что тему разговора лучше поменять:
– Можешь твердить, что искусственный интеллект невозможен, только потому, что его еще не существует. Когда он заработает, доказательства будут ошеломляющими.
Бородатый, у которого в бороде запуталась лапша, предостерег его:
– Осторожно, а то Джарон сейчас разразится проповедью о «разоблачении незрелых тайн».
– Думаю, я уже достаточно вас этим замучил. Нельзя ли просто остановиться на том, что всех нас может удивить ход развития событий, и никому не стоит утверждать, что он знает, что произойдет потом?
– Это аксиома. Закон Мура гласит, что компьютеры станут в миллионы раз мощнее, а потом еще и еще. Они превзойдут человеческий мозг. Они будут заслуживать собственных прав. И они потребуют этих прав.
– Ты напрашиваешься на то, чтобы я снова срезал тебя аргументом о круге сопереживания. Если ты чрезмерно расширишь свой круг сопереживания, ты потеряешь компетенцию и никому не поможешь. Ты выставляешь себя дураком, помогая идеальным маленьким существам, которых я называю «суррогатами уникальности». Это примерно как если бы люди перестали чистить зубы, потому что не хотят убивать бактерий.
За столом снова недовольно загудели.
– Приводить такие аргументы в споре нечестно. Думаю, по-настоящему тебя расстроило то, что тебя вызвали в суд по поводу виртуальной поддержки эмбрионов.
Нынешний Джарон перебивает: «До этой истории мы доберемся в следующей главе».
Джарон из 1990 года сказал:
– Парни, подумайте над тем, как все это воспримут остальные люди, далекие от технологий. Можете себе представить волшебников, которые обсуждают, как они создадут высшие формы жизни, а обычные люди или морально устареют, или будут выполнять роль домашних питомцев? Не считаете, что из-за этого люди утратят доверие к современному миру? Они точно нас не возненавидят? Не станут ли они легкой добычей шарлатанов, которые убедят их в том, что наука им враждебна? Разве не это глобальная цель всей инженерной науки – служить людям, далеким от технологий?
Пожалуйста, помните об этом, читая «размышления» о том, что роботы заслуживают сочувствия: у тех, кто пишет о технологии, есть дурная привычка формулировать «глобальные идеи», которые служат текущим интересам крупных технологических компаний. Так, было много разговоров о вреде авторских прав, когда компания Google создавала свое беспрецедентно огромное состояние, перепахивая законы об авторском праве. Точно так же много статей и постов, приветствующих конец приватности и провозглашающих ценность коллектива, появилось, когда Facebook начала осваивать рынок цифровых удостоверений личности[121].
– Если, ну ладно, когда гигантские роботы или сверхразумные потоки наночастиц решат, что ты не стоишь того, чтобы поддерживать твое существование, им будет абсолютно все равно, что ты думаешь. Тебя просто уничтожат. И тогда ты не сможешь рассуждать, реальны они или нет.
– Вот теперь ты меня бесишь. Помнишь морскую свинку, которая управляла огнеметом во время представления Survival Research? Было совершенно не важно, осознавало ли это животное, что оно делает. Чтобы увидеть представление, нужно было подписать соглашение о том, что ты не будешь ни подавать в суд на людей, которые посадили морскую свинку на место пилота, ни преследовать каким-либо образом само животное.
Единственное различие между отношением к ИИ как к губительной машине, которая уничтожит все человечество, и восприятием части специалистов в области технологий и военных как полных профанов, заключается в том, что вторая интерпретация обоснована.
Сорок седьмое определение VR: наука всеобъемлющей иллюзии.
Пока вы верите в искусственный интеллект, вы ослабляете свою веру в ценность людей и их способность действовать. Вы отменяете самих себя и всех окружающих.
Я понимаю, как это должно выглядеть со стороны. Разработчик виртуальной реальности утверждает, что виртуальная реальность – наилучший подход к цифровой информации. Он отрицает искусственный интеллект, социальные сети, даже Всемирную паутину! А не хочет ли он нам сказать, что его разработка самая лучшая? А не говорят ли все остальные то же самое?
Я всего лишь человек. Не могу утверждать, что свободен от предубеждений.
Я знаю, что виртуальная реальность требует предельной ясности ума потому же, почему профессиональные фокусники – лучшие разоблачители. Гудини, Пенну, Теллеру и Невероятному Рэнди нет равных в обнаружении жульничества. Так же «Разрушители легенд» (Адам Сэвидж и Джейми Хайнеман) были экспертами в области кинематографических спецэффектов. Люди, которые зарабатывают на жизнь созданием иллюзий, разбираются в иллюзиях. Разработчики виртуальной реальности – иллюзионисты от науки; мы серьезны, когда заявляем вам, что дурачим вас, и вам следует принимать наши слова всерьез, когда мы отмечаем, что мы не единственные, кто это делает.
Любите работу, а не миф
Не поймите меня неправильно. Лаборатория, в которой я веду свои исследования, считается самой передовой лабораторией в мире по разработке искусственного интеллекта. Я невероятно горжусь тем, что мы делаем.
И все же я не «верю» в искусственный интеллект. Мне хотелось бы, чтобы с нашей работой была связана другая терминология и другие фантазии. Собственно, то, чем мы занимаемся, – математика и алгоритмы, нейрофизиология, облачная архитектура, сенсоры и сервоприводы – все это замечательно, полезно и даже жизненно важно для будущего нашего вида. Но я считаю, что наши достижения только выиграли бы от другой подачи.