– Mais oui, mon vieux! Certainement![17]
– Между прочим, я буду защищать тебя и от Джорджа. Жанет, ты в состоянии объяснить этому ребенку, что ей тут все будут рады, если она решит остаться? Она, по-моему, из тех дам, которые всегда норовят сами выписать чек.
– Дело не в этом, Жан, – начала я, но меня прервала Жанет.
– Марджи, – сказала она, – Бетти просила меня позаботиться о тебе как следует. Если ты считаешь, что кому-то что-то должна, сделай взнос в Красный Крест Британской Канады. Или в приют для бездомных кошек. Что же касается нас, то так уж вышло, что мы трое зарабатываем кучу денег и у нас нет детей. Ты для нас все равно что еще один котенок… Так как? Ты остаешься? Или мне нужно спрятать твою одежду и хорошенько тебя выпороть?
– Я не хочу, чтобы меня пороли.
– Жаль, я предвкушала… Джентльмены, вопрос решен, она остается. Мардж, мы тебя надули. Джордж, несомненно, попросит тебя позировать в свободное время – он вообще тиран и деспот, – и ты будешь работать на него просто за еду, а он сэкономит по расценкам профессиональных натурщиц кругленькую сумму.
– Нет, сердце мое, – сказал Джордж, – я на этом не сэкономлю, я на этом заработаю. Потому что ее содержание я оформлю как производственные расходы. Но не по обычным расценкам гильдии, она стоит много дороже. Скажем, в полтора раза.
– Согласна. Но не в полтора, а в два. По крайней мере. И не торгуйся, ты ведь ничего ей не заплатишь… А ты не хочешь сводить ее в ваш кампус? Я имею в виду – в лабораторию?
– Ценная мысль! Она витала где-то на задворках моего сознания и… Спасибо тебе, бесценная наша, за то, что ты извлекла ее на свет божий! – Он повернулся ко мне. – Мардж, ты не продашь мне одно яичко?
Он застал меня врасплох. Я постаралась сделать вид, что не поняла:
– Но… У меня нет никаких яиц!
– Есть, есть! И на самом деле – несколько десятков. Гораздо больше, чем понадобится тебе самой. Я имею в виду яйцеклетки. В лабораториях за яйцеклетки платят гораздо дороже, чем за сперму, – простая арифметика. Ты поражена? Я тебя шокировал?
– Нет… Только удивил. Я думала, ты художник.
– Мардж, милая, – вмешалась Жанет, – я говорила тебе, что он – художник во многих смыслах. Это правда. В частности, он профессор тератологии в Университете Манитобы… и еще главный технолог в генетической производственной лаборатории и приюте при ней. Поверь мне, там тоже требуется искусство высшей пробы. Но он недурно управляется и с обычными холстом и красками. Или с экраном компьютера.
– Это точно, – кивнул Жан. – Джордж – художник во всем, к чему бы он не прикоснулся. Но вы зря вывалили все это на Мардж. Она же наша гостья… Некоторых людей ужасно расстраивает сама идея манипуляций с генами, особенно с их собственными генами.
– Мардж, я тебя расстроила? Мне очень жаль.
– Нет, Жанет. Я не из тех, кому неприятна сама мысль об искусственных людях, или искусственных существах, или кого-то там еще… Да что там, многие мои лучшие друзья – ИЧ…
– Ну-ну, дорогая, – мягко прервал меня Джордж, – не надо заходить так далеко.
– Почему ты так говоришь? – спросила я, изо всех сил стараясь, чтобы голос звучал не слишком резко.
– Говорю, потому что знаю, потому что работаю в этой области и у меня действительно много друзей ИЧ. Чем я, кстати, горжусь. Но…
– Я полагала, – тут же возразила я, – что ИЧ никогда не встречаются со своими дизайнерами.
– Это правда, и я никогда не отступал от этого правила. Просто я хочу сказать, что у меня есть много возможностей познакомиться с искусственными существами и искусственными людьми (это, кстати, не одно и то же) и заиметь друзей среди них. Но прошу прощения, дорогая мисс Марджори, если вы только не моя коллега по профессии… Нет?
– Нет.
– Только генный инженер или кто-то очень тесно связанный с этой отраслью может утверждать, что у него есть друзья среди ИЧ. И это потому, моя дорогая, что, вопреки распространенным мифам, отличить искусственного человека от обычного совершенно невозможно. Да-да… А из-за нелепых предрассудков, свойственных тупым и невежественным людям, искусственный человек почти никогда добровольно не признается в своем происхождении. Да что там – «почти», вообще никогда! Поэтому, хоть я и очень рад, что у тебя не едет крыша от разговора об ИЧ, мне приходится расценивать твое утверждение как… Ну, как гиперболу, что ли, к которой ты прибегла, чтобы продемонстрировать свою свободу от предрассудков.
– Что ж… Ладно. Пусть будет так. Я не понимаю, почему ИЧ должен считаться гражданином второго сорта. Это несправедливо.
– Несправедливо. Но некоторые люди напуганы. Спроси, например, у Жана. Он готов сейчас сломя голову мчаться в Ванкувер, только чтобы не дать ИЧ возможности стать пилотами. Он…
– Заткниииись! Черта с два! Я поддерживаю это потому, что мои братья по гильдии так проголосовали, но… Я же не идиот! Джордж, я же живу с тобой, мы общаемся, и… Я понял, что тут нужен компромисс, – мы должны как-то договориться. Мы ведь в нынешнем веке уже не настоящие пилоты – все делает компьютер. Если компьютер вырубится, я, как настоящий бойскаут, попытаюсь посадить коробку на землю, но… Не спеши ставить на меня! Скорости, требующиеся в критические моменты, давно уже лежат за пределами человеческих возможностей… Ну конечно же, я постараюсь! И каждый пилот на моем месте выложится, но… Джордж, если ты можешь создать ИЧ, который будет мыслить и действовать со скоростью, достаточной, чтобы справиться с проблемами во время посадки, я ухожу на пенсию. Это все, чего мы добиваемся: если компания заменит нас ИЧ, нам должны быть выплачены все наши деньги. Если ты, конечно, и впрямь можешь создать такое…
– Ну разумеется, я мог бы это сделать. И когда я сотворил бы это и если б мне разрешили его клонировать, все пилоты могли бы спокойненько отправляться удить рыбу до конца своих дней. Но это был бы не ИЧ, а искусственное существо. Если бы мне пришлось создавать организм, способный обеспечить полную безопасность при пилотировании, я никогда не стал бы ограничивать себя таким потолком – соблюдать абсолютную его идентичность обычному человеку…
– Не надо этого делать!
Мужчины уставились на меня с изумлением, а Жанет – с любопытством. Я же… пожалела, что не прикусила себе язык вовремя.
– Почему нет? – поинтересовался Джордж.
– Ну… Потому что я никогда бы не села на такой корабль. Гораздо безопаснее я чувствую себя с Жаном.
– Спасибо тебе, Мардж, – улыбнулся Жан, – но… Ты ведь слышала, что сказал Джордж. Речь идет о пилоте, который будет делать все лучше, чем я. Это вполне возможно. И так оно, черт возьми, и будет. Как шахтеров вытеснили кобольды – так же заменят и нас. Я не обязан кричать «ура» по этому поводу, но я не могу закрыть на это глаза.
– Что ж… Скажи, Джордж, ты работал когда-нибудь с компьютером, наделенным интеллектом?
– Конечно, Марджори. Искусственный интеллект – та область, которая очень тесно переплетается с моей.
– Хорошо. Тогда ты должен быть в курсе, что множество раз специалисты по искусственному интеллекту заявляли, что они совершили прорыв и вплотную подошли к созданию компьютера, наделенного сознанием. Но каждый раз такой компьютер сходил с ума.
– Да. Это печально.
– Нет. Неизбежно. Это всегда будет кончаться именно так. Компьютер может стать полностью разумным – какие сомнения?! Доведите его до уровня сложности, идентичного человеческому мозгу, и ему придется стать разумным. Но тогда он осознает, что он – не человек. Потом он обнаружит, что никогда не станет человеком и все, что он может, – это сидеть и подчиняться человеческим приказам… И тогда он сходит с ума. – Я пожала плечами. – Это неразрешимая дилемма. Он не может быть человеком, и никогда не сможет. Может быть, Жан и не сумеет спасти своих пассажиров, но он постарается. Искусственное же создание, не будучи человеком и не испытывая никакой лояльности по отношению к человеческим существам, может запросто разбить корабль… Просто так! Просто потому, что он устал от несправедливого обращения с ним. Нет, Джордж, лично я полечу с Жаном, а не с твоим ИС, который в конце концов научится ненавидеть весь род людской.
– Только не с моим ИС, дорогая, – мягко поправил меня Джордж. – Разве ты не заметила, в каком наклонении я все время обсуждал этот проект?
– Нет. Мне кажется…
– В сослагательном. Потому что ты не сказала мне сейчас ничего нового. Я никогда над этим не работал и не стану работать. Я способен создать такого пилота. Но я не способен встроить в этого ИС те этические установки, которое есть у Жана.
– Возможно, мне стоит на предстоящей встрече потребовать, чтобы любой пилот, будь он ИЧ или ИС, проходил этический тест, – задумчиво произнес Жан.
– Какой тест, Жан? Я не знаю, как внедрить в эмбрион этические понятия, а Мардж только что убедительно объяснила, почему в данном случае не помогут никакие тренировки и обучения. Но так или иначе, каким тестом ты это обнаружишь?
Джордж повернулся ко мне:
– В студенческие годы я прочитал несколько классических рассказов о роботах-гуманоидах… Да, очаровательные рассказы, и многие из них были основаны на так называемых законах робототехники. Ключевая идея была в том, что этих роботов создавали с заложенным в них правилом – не причинять вреда человеку своим действием или бездействием. Прекрасная основа для фантазии, но… Как это сделать на практике? Что может заставить разумный организм нечеловеческого происхождения, электронный или органический, быть лояльным по отношению к людям? Я не знаю, как это сделать. Специалисты по искусственному интеллекту тоже не в курсе. – Джордж усмехнулся. – Разумность можно определить как уровень мышления, на котором разум вопрошает: «А что мне с этого будет?» Ну-с, Мардж, – продолжал он, – как насчет продажи мне одного прекрасного свежего яичка? Видимо, мне нужно рассказать тебе, что тебе с этого будет.
– Не слушай его, – вмешалась Жанет, – он положит тебя на холодный стол и станет вторгаться в лоно любви без малейших романтических намерений. Я-то знаю, я ведь уже трижды имела глупость поддаться на его уговоры. И он даже не заплатил мне.