Если это случится, ключевым для цивилизации станет вопрос: будут ли сверхразумные компьютеры дружественными? Не пора ли задуматься, что можно сделать, чтобы наши собственные создания не превратились во врагов?
Впрочем, пока что беспокоиться стоит не о том, что роботы могут причинить вред человеку, а, наоборот, о том вреде, который роботам можем причинить мы. Сейчас они просто вещь, собственность. Но что, если, усложняясь, они начнут испытывать чувства? В конце концов, что такое человеческий мозг, как не очень сложная машина?
Если машины обзаведутся сознанием, будем ли мы считаться с их чувствами? История отношений с единственными из известных нам чувствующих существ, кроме людей, — с животными — не позволяет надеяться, что чувствующие роботы станут для нас не имуществом, а существами, с чьими моральными правами и интересами необходимо считаться.
Ученый-когнитивист Стив Торренс отмечает, что мощные технологические инновации, например автомобили, компьютеры и телефоны, имеют тенденцию распространяться быстро и неконтролируемым образом. Появление в таком масштабе сознательных роботов, которых мы не примем в свой круг существ моральных, может привести к массовому дурному обращению с ними.
Еще сложнее вопрос, как понять, что робот уже обладает сознанием, а не просто имитирует сознание, потому что его так запрограммировали. Тут может помочь хорошее понимание его программного компонента: позволяет ли написанный его разработчиками код имитировать сознание? Если да, нет причин считать такого робота сознательным. Но если он создан с некими способностями, которые случайным образом привели к возникновению сознания, у нас есть все основания считать его действительно сознательным существом. Не исключено, что движение за права роботов зародится именно в этот момент.
Мечта цифровой эпохи
ПОЛВЕКА НАЗАД Мартин Лютер Кинг мечтал, что однажды Америка исполнит свое обещание равенства для всех, белых и темнокожих. Сегодня у основателя Facebook Марка Цукерберга тоже есть мечта: дать доступ в Интернет тем пяти миллиардам людей планеты, у которых его еще нет.
Цель Цукерберга может показаться корыстной: увеличить число пользователей Facebook. Но современный мир сталкивается с растущим разрывом в уровне технологий, который для равенства, свободы и стремления к счастью становится тем же, чем было расовое разделение, ставшее причиной протестных выступлений Кинга.
Больше двух миллиардов людей на Земле живут в цифровой эпохе. Им доступна гигантская информационная вселенная, они бесплатно или почти бесплатно общаются с друзьями и семьей, а также с партнерами по работе, с которыми взаимодействуют совершенно новыми способами. Остальные пять миллиардов застряли в эпохе бумажной, в которой выросло мое поколение.
В те времена, если ты хотел что-то узнать, но у тебя не было дорогой энциклопедии (или была, но устаревшая, не включавшая того, что тебя интересует), то ты шел в библиотеку и часами искал необходимую информацию. Чтобы пообщаться с друзьями или коллегами из другой страны, приходилось писать им письма и не меньше двух недель дожидаться ответа. Международные телефонные разговоры были такими дорогими, что мало кто их себе позволял, а мысль о том, что собеседника можно еще и видеть, была из области научной фантастики.
Месяц назад Цукерберг объявил о создании глобального партнерства Internet.org. Оно намерено переселить в цифровую эпоху две трети населения Земли, не имеющие доступа к Интернету. В партнерство вошли семь крупнейших ИТ-компаний, а также некоммерческие организации и местные общины. Понимая, что нельзя предлагать людям выбирать между едой и информацией, партнерство намеренно искать новые, менее затратные способы связать компьютеры в сеть, более эффективное программное обеспечение и новые бизнес-модели.
Основатель Microsoft Билл Гейтс полагает, что в беднейших странах интернет — не предмет первой необходимости. Важнее, по его мнению, справиться с такими проблемами, как малярия и желудочно-кишечные расстройства. Я не могу не восхищаться всем, что Гейтс делает, чтобы снизить смертность от этих болезней, уносящих жизни прежде всего бедняков. И все же его позиция удивительным образом упускает из вида общую картину — способность интернета преобразить жизнь неимущих. Например, имея интернет, фермер сможет узнать прогноз погоды и точнее выбрать подходящее время для сева или найти лучшую цену на свой урожай, а в результате — позволить себе больше санитарно-гигиенической продукции, которая снизит риск желудочно-кишечных инфекций для его детей, или антимоскитных спальных сеток, которые защитят его самого и его семью от малярии.
Один мой знакомый, работающий в Кении в консультации для неимущих по вопросам контрацепции, недавно рассказал, что в клинику приходит столько женщин, что он может уделить каждой не больше пяти минут. Никаких других источников информации у этих женщин нет. Будь у них интернет, они могли бы получить ее в любой момент, где и когда захотят. Кроме того, стали бы возможны онлайн-консультации, избавляющие женщин от сложного путешествия до клиники и обратно. Доступ к интернету содействовал бы распространению грамотности с опорой на устную традицию, сильную во многих аграрных регионах. Общины могли бы создавать в сети группы самопомощи и обсуждать свои проблемы с соседними деревнями.
Что годится для планирования семьи, годится и для решения очень широкого круга других проблем, особенно таких, о которых не каждый рискнет сказать вслух, — например, гомосексуальности или домашнего насилия. Интернет позволяет человеку увидеть, что он не одинок и что у него есть возможность воспользоваться чужим опытом.
Более того, приход беднейшего населения мира в онлайн-пространство вполне способен привести к расширению связей между ним и людьми более обеспеченными, а значит, увеличить приток финансовой помощи. Научно доказано, что люди активнее жертвуют на борьбу с голодом, если увидели фото и узнали имя и возраст этой конкретной девочки, одной из многих, кому помогает благотворительная организация. Если такого результата позволяет добиться простое фото и немного личных деталей, то что будет после разговора по скайпу?
Обеспечить весь мир доступом в интернет — проект, сопоставимый по масштабу с расшифровкой человеческого генома, и, как и расшифровка генома, он создает новые риски и ставит новые этические вопросы. Онлайн-мошенники получат доступ к новой, возможно более уязвимой, аудитории. Нарушения копирайта распространятся даже шире, чем сегодня (хотя обладатели копирайта ничего не потеряют, потому что бедняки вряд ли покупают книги или другую копирайтную продукцию).
Более того, могут начать размываться особенности местных культур с их достоинствами, но и недостатками — многие культуры ограничивают человеческую свободу и препятствуют равноправию. И все-таки в целом можно надеяться, что, если дать неимущим доступ к знаниям и возможность общаться с людьми во всем мире, это изменит общество к лучшему.
Всемирная библиотека
УЧЕНЫЕ ДАВНО МЕЧТАЛИ о всемирной библиотеке, где бы хранилось все, что когда-либо было написано. И когда в 2004 году Google объявил, что начинает оцифровку фондов пяти крупнейших научных библиотек, утопия внезапно показалась реальностью.
Всемирная электронная библиотека — это лучше, чем все, что могли себе представить мыслители прошлого: каждая ее единица доступна всем, везде и в любой момент. Вдобавок в такой библиотеке могут храниться не только книги и статьи, но и живопись, музыка, кино и вообще любой продукт человеческого творчества, какой только поддается оцифровке.
Но в планах Google есть один недостаток. Большая часть хранящихся в библиотеках текстов защищена копирайтом. Google заявил, что намерен оцифровывать книги полностью, независимо от того, кому принадлежат права на них, но пользователю, который что-то ищет в книге, защищенной авторским правом, будут доступны лишь ее фрагменты.
Так Google понимает «добросовестное использование», разрешенное законом об авторском праве, подобно тому как в отзывах или обсуждениях разрешается процитировать фрагмент авторского текста.
Издатели и авторы не согласны. Некоторые подали на Google в суд за нарушение закона об авторском праве и потребовали долю от прибыли в качестве компенсации. В прошлом месяце в суде Манхэттена судья Денни Чин в этом иске отказал. Отчасти потому, что фактически это сделало бы Google монопольным собственником электронных версий так называемых книг-беспризорников, которые защищены копирайтом, но больше не печатаются, а правообладателя уже не найти.
Чин считает, что решать, кто должен распоряжаться судьбой книг-беспризорников и на каких условиях, должен не суд, а конгресс США. Разумеется, он прав, по крайней мере в отношении тех из них, которые находятся в американской юрисдикции. Это серьезный вопрос, затрагивающий интересы не только авторов, издателей и Google, но и вообще любого человека, который одобряет распространение доступа к знаниям и культуре. Так что, хотя решение Чина ненадолго отложит появление всемирной библиотеки, оно позволит лишний раз обдумать, как лучше эту мечту осуществить.
Ключевой вопрос здесь вот в чем: как сделать книги и статьи общедоступными целиком, а не кусочками, и при этом защитить права их создателей? Чтобы ответить на него, прежде всего необходимо условиться, что мы понимаем под правами. Изначально авторское право было чем-то вроде инженерного патента, позволявшего изобретателю в течение какого-то времени получать от своего изобретения прибыль. Копирайт покрывал тогда относительно небольшой период, в Соединенных Штатах, например, 14 лет с момента первой публикации произведения.
За это время большинство авторов успевали получить от своего сочинения весь доход, который оно могло принести, после чего произведение становилось общественным достоянием. Но корпорации, делавшие на копирайте огромные деньги, неоднократно требовали от конгресса расширить срок его действия, в итоге в США срок копирайта сейчас составляет 70 лет с момента смерти автора. (Последнее продление установлено в 1998 году так называемым Законом об охране Микки-Мауса, потому что он закрепляет права на этот персонаж за создавшей его компанией Walt Disney.)