Процессы, стоящие за технологическими и биологическими инновациями, радикально различаются, то же относится и к движущим силам в этих процессах. В технологической инновации есть определенный продукт или функция — «мысль» или «мышление», которых мы хотим достичь и к которым стремимся. Человеческие когнитивные способности эволюционировали в популяциях индивидов, совершенно непохожих на машины, которые, как ламарковские жирафы, могут приобретать функциональные характеристики в течение своей жизни. Инновации в биологической эволюции предшествует продолжительная импровизация. Есть только генетика и изменчивость признаков фенотипа в популяциях, среда и случайное влияние этих признаков на продолжительность жизни в популяции.
Что же теряется, если думать, что машины «думают»? Я бы сказала, что мы упускаем из виду ключевые особенности феномена, который описываем с помощью аналогии. Биологическая эволюция возникает в популяциях и не является целенаправленной. Она не пытается решить какую-то задачу. Превратности истории как Земли, так и жизни на ней привели нас к нынешнему состоянию когнитивных способностей человека. Разные процессы ведут к разным результатам. Возьмем, к примеру, язык: компьютер может неточно использовать термины?
Если мы позволим машинам «мыслить», то начнем ли мы в самих себе видеть всего лишь мыслящие машины? Повлияет ли взаимодействие с технологией на наши когнитивные возможности? Важно помнить, насколько разнообразна и прямо-таки неимоверно огромна человеческая популяция. Использование компьютеров пока не связано с успешным размножением. У большей части людей доступ к технологиям в настоящее время ограничен. Эволюция нашего вида будет медленной, и на нее сильно повлияют наше окружение и доступность чистой воды, питательной еды и медицинского обслуживания. Если мы будем обсуждать человечность так же всесторонне, как то, что мы называем «мышлением», мир, возможно, станет лучше.
Универсальное основание человеческого достоинства
«Человеческий мозг есть мыслящая машина» — один из наиболее справедливых научных трюизмов, касающихся человека. Он занимает достойное место рядом с утверждениями «Сердце есть качающий кровь насос» и «Глаз есть камера». Насколько нам известно, все наши ощущения, эмоции, сильнейшие стремления, глубочайшая радость и печаль и даже (судя по всему) свобода воли — словом, вся полнота человеческих переживаний — обусловлены работой мозга. Столько людей принимают это утверждение как нечто само собой разумеющееся, как то, о чем мы всегда знали (на самом деле не всегда), что можно сделать вывод: наша наука и впрямь сильно продвинулась за последнюю пару веков.
Хотя такое видение мозга сейчас многим кажется естественным, большинству из нас сложно его полностью осознать. Примерно две трети американцев все еще верят в существование души, продолжающей жить после смерти, — а это трудно принять, если вы и вправду убеждены, что мозг производит всю полноту человеческих переживаний. У некоторых такой убежденности убавляется, когда они узнают о пробелах, все еще отделяющих нас от понимания того, как именно мозг производит мысль. Но вокруг этой идеи есть проблемы и посерьезнее.
Существуют опасения, что, приняв нейробиологическую природу наших переживаний, мы как человечество потеряем чувство собственного достоинства. Если широко распространится идея, что человеческий разум — результат работы машины, то не будем ли мы относиться друг к другу менее милосердно, терпимо и уважительно? И имеем ли мы в принципе право относиться друг к другу менее милосердно, терпимо и уважительно?
Нет, не будем, и нет, не имеем.
Во-первых, не стоит забывать: для того чтобы не уважать достоинство другого человека или разумного существа, не обязательно верить в то, что мозг — это мыслящая машина. Как показывает история, вера в нематериальную природу наших переживаний может спокойно существовать бок о бок с безразличием и жестокостью. Человеческие жертвоприношения, охота на ведьм, пытки и мученичество, например, основаны на доктрине о том, что разум и тело — независимые сущности. На протяжении всей своей истории люди с готовностью причиняли ужасную боль материальным телам других людей (или своим собственным), чтобы улучшить состояние их нематериальных душ. И могли бы ученые так долго практиковать вивисекцию без морального оправдания, обеспеченного им картезианским убеждением, будто тело (которым животные определенно обладают) и душа (которой, согласно картезианцам, у них нет) — это разные вещи? Я сомневаюсь.
Но, что еще важнее, современное понимание разума никакой угрозы человеческому достоинству не несет. С точки зрения морали важно вовсе не то, исходят ли ваши желания, надежды и страхи от машины, огромного невидимого голубя или щепотки магической пыльцы. Единственным этически актуальным фактом является то, что эти стремления есть внутри вас; остальным надо решить, что этичнее: помочь вам в реализации ваших стремлений или помешать. Есть интересная аналогия для одного из этических вопросов, касающихся клонирования человека: будут ли человеческие существа, произведенные посредством клонирования, наделяться теми же правами, что и человеческие существа, произведенные традиционным способом? Конечно, будут. Вопрос о том, как человеческое существо приходит в мир, не столь актуален с точки зрения этики. Важнее то, что человек в этом мире есть, у него имеются желания, стремления и страхи, точно так же, как у всех остальных. Нам нужно принять лишь одно этическое решение: помогать этому человеку или препятствовать в реализации его устремлений.
Убежденность в том, что все переживания порождены мозгом, не только не угрожает человеческому достоинству, а напротив, помогает его сохранить. Когда я понимаю, что вы и я, в сущности, одинаковые мыслящие машины, заключенные в наших головах (и получившиеся, конечно же, в результате естественного отбора), то мне нужно сделать лишь один маленький шажок, чтобы прийти к важному этическому открытию: вы, вероятно, любите кое-что из того, что люблю я (еду, семью, теплую постель, свободу), и, вероятно, чувствуете боль по тем же причинам, что и я (из-за пыток, из-за смерти любимого человека, из-за порабощения детей). Как только я осознаю́, что мои устремления почти такие же, как и ваши, мне сложнее чувствовать свою правоту, если я топчусь по вашим устремлениям, одновременно требуя, чтобы вы уважали мои. На этом понимании строится натуралистическое обоснование всеобщих прав человека. Нам нет нужды утверждать, как делали отцы-основатели, что всеобщее равенство всех людей самоочевидно. Наука сделала его очевидным.
Но зачем останавливаться на людях? Раз вы понимаете, что мозг — это мыслящая машина, то причинение страданий животным вы тоже не сможете оставить безнаказанным. Все-таки мыслящие машины других позвоночных не так уж отличаются от наших; мыслящие машины заставляют их что-то любить, чего-то бояться и реагировать на боль так же, как реагируем мы. Тогда какое может быть моральное оправдание унижению достоинства животных просто потому, что они не способны ничего сказать в свою защиту?
Все мы хотим, чтобы к нам относились с уважением, но до сих пор было сложно найти универсально-обоснованный довод, чтобы этого требовать. Понимание того, что наш мозг — мыслящая машина, созданная в ходе естественного отбора, может хоть немного приблизить нас к цели, поскольку показывает, что мы в общем совершенно одинаковые. Эта идея никак не умаляет человеческого достоинства; напротив, благодаря ей мы заново открываем золотое правило нравственности, подойдя к нему с другой стороны.
Мысли о людях, которые мыслят как машины
Когда мы говорим «машины, которые мыслят», то обычно подразумеваем «машины, которые мыслят как люди». Очевидно, что машины мыслят различными способами: инициируют события, обрабатывают данные, принимают решения, делают выбор и реализуют многие другие (но не все) аспекты человеческого мышления. Но настоящий вопрос заключается в том, могут ли машины мыслить как люди. Все тот же старинный тест для искусственного интеллекта: вы наблюдаете результат мышления и не знаете, принадлежит оно компьютеру или человеку.
Некоторые научные светила приходят в ужас от идеи о том, что миром могут управлять мыслящие машины. Я не уверен, что эти страхи обоснованы. Меня больше беспокоит то, что миром могут управлять люди, которые мыслят как машины, — это главная новая тенденция нашего цифрового общества.
Можно научить машину следовать алгоритму и выполнять в нужном порядке определенные операции, которые логически связаны друг с другом. Она будет делать это быстрее и точнее любого человека. При наличии хорошо сформулированных постулатов или аксиом чистая логика — козырь мыслящей машины. Но умение задавать вопросы и принимать решения, опираясь на здравый смысл, пока остается прерогативой людей. Сочетание интуиции, эмоций, эмпатии, опыта и культурного фона и способность использовать это все, чтобы ставить актуальные вопросы и делать выводы, объединяя внешне не связанные факты и принципы, — вот отличительные качества человеческого мышления, которых пока нет у машин.
Человеческое общество быстрыми темпами идет к правилам, инструкциям, законам, инвестиционным механизмам, политическим догмам и моделям поведения, которые слепо следуют строгой логике, даже если она основана на ошибочных посылках или очевидно противоречит здравому смыслу. Религиозный экстремизм всегда эволюционировал на основе неких абсурдных аксиом, из которых логически вытекали бесконечно трагичные следствия. Отдельные дисциплины, такие как юриспруденция, бухгалтерское дело и некоторые области математики и техник