поделиться благом, пользоваться благом неограниченный промежуток времени. Следовательно, необходимо всегда действовать так, чтобы любое действие было направлено на достижение блага и не позволяло блага лишиться. Я полагаю, что этот этический конструкт должен быть заложен в основе основ модели мышления РСМ. Следующее: поскольку РСМ будет осознанно стремится к достижению блага, она должна будет иметь мотивацию, то есть побудительную причину такого стремления и это есть ключевой момент. Таковой причиной должны стать некоторые свойства человеческого сознания, а именно эмоциональные переживания. Я убеждён, что если машина не будет обладать эмоциями, она не будет стремиться к благу. Иначе говоря, она не станет ничего делать и будет просто изваянием. РСМ должна чувствовать радость от пользы дела и горе из-за неудач. Она должна иметь побуждение к действию, чтобы не стать жертвой второго закона термодинамики. Конечно, эмоциональный фон машины будет совсем не таким как у человека, скажем так, он будет подкорректирован. Мы не дадим машине права любить, поскольку не должны очеловечивать ее, мы не научим ее ненавидеть, завидовать, обманывать, обижаться. Машина должна остаться инструментом и не более того, мыслящим инструментом, но таким, который никогда не захочет выйти из под власти человека. Идеальным инструментом или, если хотите – идеальным человеком.
7.
На дне рождения у Чарльза Чаррингтона я был по приглашению.
На открытке был написан адрес офиса «ЧаррингтонКомпани», и я понял, что Чарльз хочет встретиться со мной до мероприятия. Я прилетел к нему в Филадельфию с западного побережья. Такси остановилось, и пока я шел ко входу, то задрал голову, полюбовавшись вонзающимся в закатное небо шпилем башни, принадлежащей одной из самых малоизвестных информационных компаний в мире, не уступающей при этом в могуществе Гуглу и Амазону.
«Кто владеет информацией, тот владеет миром», вспомнил я старинный лозунг и даже не знал, что над главным входом, большими латунными буквами выложена фраза на латыни: «Когито эрго сам».
Меня проводили в кабинет к Чаррингтону и я увидел хозяина за столом в его большом офисе. Он обрадовался, увидев меня, поднялся, строгий, подтянутый, сухой, в белой рубашке и черных брюках, невысокий, с прекрасной осанкой, совсем уже седой но с хорошими зубами и здоровым цветом лица, быстрый и ловкий в движениях. Он усадил меня в кресло и принялся хлопотать у большой японской машины для приготовления напитков, рассказывая одновременно о самых разных вещах. «Сейчас я приготовлю тебе китайский чай, ты такого не пробовал, я тебе гарантирую. Слышал про ЮнионТекнолоджис? Они распродали активы фабрики, построенной ещё дедом Майерса. Завели дело о банкротстве…»
Он всегда такой был – интересовался всем на свете, был страшно увлеченный человек, никто и никогда не видел его без дела, а еще Чарльз категорически не признавал роботов, в его доме в Вашингтоне, где жила его семья, не было и тени мыслящих машин. Он все делал своими руками и запрещал детям пользоваться даже смартфонами. Убежденный консерватор, он продавал миру технологии, которые освобождали человека от необходимости мысленного труда. В чем была его идеология? Этого я не знал доподлинно, но то, что он был противником информационных технологий – это я хорошо знал. Как же так вышло, что он у встал у руля одного из мощнейших в мире производств компьютерного «железа»? Этого я тоже не знал. Он вообще по образованию был врач-эпидемиолог, а кресло директора «ЧаррингтонКомпани» досталось ему в наследство.
Мне нравился его кабинет, я не видел больше ни у кого из топ-менеджеров крупных компаний подобной обстановки, почти домашней – лаконичный, строгий дизайн, никакой помпезности и роскоши, простой ковёр на полу, скромный кожаный диван, торшеры, журнальный столик, заваленный прессой, какие-то картонные коробки в углу, множество самых разных безделушек – пластмассовые фигурки и миниатюрные бюсты на стеллажах и столе, фото детей в рамке, книжная стенка с несколькими сотнями томов и аккуратно расставленными досье в толстых цветных папках, стол огромный и весь завален бумагами, папками, книгами. На столе Чарльз убирался по воскресеньям, разгребая завалы и наводя идеальный порядок. У него редко бывали выходные. Сегодня кажется был четверг, разгар рабочей недели.
Наконец Чарльз принес чай, поставил стаканы на стол и сел в свое кресло, спиной к огромным окнам, за которыми алел закат. Как и всегда он без умолку тараторил, а я рассеянно слушал его, ожидая, когда он перейдет к делу.
– Подумать только! – произнес он. – Мне недавно заказали десять тысяч ячеек по пять тысяч терабайт. Мы продаем такие ячейки только военным. Это сумасшедшие объемы данных, там поместится половина Интернета, черт те что! То ли дело: на днях та же контора прислала аналогичный заказ, только уже на двадцать тысяч! Можешь вообразить? Да у меня при всем желании просто напросто не хватит производственной мощности! И кому это нужно? Мы выяснили, что фирма, через которую приходили заказы, подставная. Вот я и думаю…
Я уже смекнул, что похоже Чарльз перешёл к делу и стал слушать внимательнее. В этот момент дверь открылась и в кабинет вошел профессор Артур Шаломбери.
– Джерджи! И ты здесь. Рад тебя видеть!
Мы пожали руки и он устроился в кресле. Чарли сразу принялся хлопотать над еще одной порцией чая, продолжая при этом прерванный разговор:
– Вот я и думаю – кто же это скупает? Спрашиваю у Артура, он ведь должен быть в курсе всех проектов, но Артур только руками разводит! Что за диво? У тебя есть соображения, Джордж?
Я пожал плечами. Мне уже было совершенно ясно, зачем Чарльз вызвал меня, руководителя Интерпола, сюда, к себе в кабинет, да еще и Артура прихватил. Чарльз чертовски боялся оказаться вмешанным в какую-нибудь скверную историю. Он был из таких людей, которые между личным ущербом и нарушением закона выберут личный ущерб. Скорее Чарльз съел бы живого тарантула, чем согласился сотрудничать с пиратами и с чёрным рынком напрямую.
– Думаю, что я знаю, кто это делает, – сказал я. – А у профессора наверняка есть догадки, для чего.
– Да, – кивнул Шаломбери. – Это российская компания «Заслон». Они строят на Титане крупнейший дата-центр из существующих, называется «Органон». Они хотят подключить к нему суперкомпьютер с самосознанием и дать ему весь опыт человечества. Знаете эту историю про робота, который будет править миром?
Конечно, я слышал. Но никогда не относился к подобным разговорам всерьёз. И теперь меня огорчило, что Артур в это поверил. Я махнул рукой и постарался разуверить его.
– Это же все чистой воды басни, брось!
Но он не согласился со мной, откинулся на спинку кресла и отпил чаю.
– Не думаю, Джерджи, не думаю… Я хочу рассказать вам то, после чего меня, вероятно, должны будут заточить в темницу до конца моих дней. Чарльз, дорогой, прости, не позволишь ли ты мне покурить сигару?
– Ради Бога, о чем разговор! – взмахнул тот руками.
– Несколько лет назад, – заговорил Шаломбери, достав сигару и раскуривая ее спичкой. – Группой единомышленников была создана Ассамблея по контролю за нелегальными исследованиями. Там были разные люди, из правительства, банкиры, директора компаний. Что было причиной создания Ассамблеи? Инцидент с «китайской чумой», да. Но мы не все знаем о «китайской чуме», вернее знаем совсем не то, что было там на самом деле.
– Как это обычно и бывает, – заметил я.
– Справедливо, Джерджи, – согласился Шаломбери. – Я был тем человеком, который провел с компьютером успокоительную беседу. Шесть часов без перерыва я пытался сломить бездушную машинную логику, которую создали люди именно с той целью, чтобы она никогда не ошибалась. Это была битва разумов, какой еще не знала история. Тысячи людей по всему миру слали мне подсказки, сотни подсказывали из-за спины, президенты многих стран слушали нас в прямом эфире. Пот градом катился у меня по спине и по лицу, пальцы дрожали, когда я настукивал на клавиатуре ответ. Машина задавала вопросы и я должен был выдавать ответы и малейшая ошибка означала бы неминуемую смерть, я словно наяву видел нависшие над моей головой ядерные ракеты. Это был экзамен почище Массачусетской Олимпиады, скажу я тебе, никто и никогда не подвергал меня подобным испытаниям! И знаешь, что самое странное в этой истории? Когда мы победили компьютер, и я отошел от стола на подкашивающихся ногах, я не чувствовал страха или торжества. Знаешь, что я чувствовал? Неизбежность. Это был переломный момент моей жизни. Я смирился с неизбежным. Именно тогда я понял, что за зверь вышел перед нами из вод, я понял, что люди цепляются за иллюзию власти над происходящим, но на самом деле мы уже давно утратили контроль. Джинн выпущен из бутылки, машины давно живут собственной жизнью и технологии развиваются помимо нас. Мне тогда показалось, что машинный мозг играл со мной. Он решил пошутить, понимаешь? Это был просто веселый розыгрыш! Он не собирался убивать нас. Он хотел пощупать, как далеко простираются границы дозволенного. В какой век мы вступили? Мы уже не можем сказать точно, какому миру мы принадлежим. Создание Ассамблеи было коллективным решением сильных мира сего. Они готовы были терпеть конкуренцию со стороны равных, но им не улыбалась перспектива, что скайнет захватит мир из гаража фабричного служащего где-нибудь на Тайване. Они почистили себе тылы, чтобы освободить пространство для утверждения той модели технократического мира, который виделся удобным им. Все прочие должны были уйти со сцены в небытие.
Шаломбери некоторое время сидел в тишине и курил. Мы с Чарльзом слушали его, затаив дыхание.
– Так вот. Был один проект. Точнее сказать, развлечение ума, что-то вроде того. Походило чем-то на Дартмутский семинар, знаешь. Несколько очень умных и влиятельных людей, среди которых затесался и я, собирались в частном доме в Париже, там иногда бывал даже президент США. Мы решали, как создать компьютер, который будет способен управлять миром и как именно он будет это делать. Мы ни у кого не спрашивали совета и согласия. Для нас дело было решённое. Рано или поздно такой компьютер должен будет появиться и взять на себя бремя ответственности за человеческий род, должен будет стать судьей, законодателем и исполнителем высшей справедливости. И тогда никто не скажет, что его осудили предвзято, никто не скажет, что правитель – вор и лжец, никто не осмелится нарушить закон, боясь больше смерти возможности предстать перед безликим, беспристрастным, бездушным судьей. Потом кто-то опубликовал протоколы наших заседаний и все развалилось, пошли скандалы, суды… но идея осталась жить.