А совсем недавно была создана еще более удивительная технология, которая, по мнению некоторых, может не только внести революционные изменения в научный поиск, но и перевернуть мир. Она называется CRISPR-cas9 (ученые говорят просто «криспер»). Если попытаться изложить ее суть в нескольких словах, можно сказать, что она позволяет копировать и вставлять отрезки ДНК легко, быстро и достаточно дешево. Еще десять лет назад это казалось небылицей.
Бактерии и вирус ведут свою борьбу за выживание намного дольше, чем человек, лев или газель. Поэтому некоторым бактериям удалось выработать сложную систему, позволяющую воровать у вирусов, которые их атакуют, кусочки ДНК, чтобы потом узнавать врага и учиться с ним бороться. Биологи научились использовать эту систему – они берут энзимы, связанные с ДНК, и встраивают их в определенное место хромосомы, заменяя тем самым один ген на другой и «сшивая» разрез.
Прелесть в том, что это прекрасно работает.
Ужас в том, что эта технология относительно проста и не очень дорога, что может быть использовано в этически сомнительных и опасных целях.
В 2015 году группа китайских ученых из Университета имени Сунь Ятсена провела эксперименты по технологии CRISPR-cas9 с человеческим эмбрионом, которые впоследствии были заброшены. Какие бы этические ограничения ни ставили себе эти исследователи, они все равно перешли допустимую границу. В следующем году Джеймс Клеппер, тогда директор Национальной разведки США, включил технологию CRISPR-cas9 в список самых страшных угроз человечеству вместе с политикой КНДР и российским ядерным оружием. Причиной послужила потенциальная возможность использования технологии для создания разрушительного биологического оружия.
Продвигаясь еще на шаг вперед в будущее, можно спрогнозировать лечение генетических заболеваний с помощью генной инженерии. С одной стороны, манипуляции с человеческими генами рассматриваются как недопустимые действия, и китайские ученые, использовавшие CRISPR-cas9 на человеческих зародышевых клетках, получили массу побочных нежелательных эффектов. Однако что будет через двадцать или сорок лет? Сегодня мы не знаем многих деталей функционирования генов, но исследования ведутся, и есть вероятность, что человечество согласится рано или поздно на новые генные технологии. Врачи будут лечить кистозный фиброз и синдром Хантингтона? Или кто-нибудь использует их во зло и заставит страдать невинных?
Могут появиться предложения использовать генетику в косметических целях – например, родителям предложат выбрать в каталоге цвет глаз для новорожденного. Еще раз: если что-то можно сделать, кто-то это непременно сделает. Существует вероятность и того, что генные технологии будут использоваться для повышения интеллекта. Кто-нибудь догадается открыть частную клинику по повышению когнитивных способностей у детей, и подобные клиники расплодятся, как грибы. Рынок сформирует соответствующий запрос. Устоят ли богатые родители перед соблазном сделать из ребенка гения математики или великого музыканта? Или клиники разорятся от отсутствия клиентов?
Попробуйте дать собственный ответ на этот вопрос.
Тысячи лет назад вид Homo sapiens начал вмешиваться в генетику растений и животных, но это было лишь начало. Рано или поздно он захочет изменить собственную генетику и повысить возможности своего разума.
Пока у нас еще есть время подумать, чего мы хотим. Выбор в любом случае придется делать будущим поколениям. С точки зрения эволюционной истории человеческого рода это уже будет второй исторический upgrade (4.3.9) операционной системы [см. стр. 23].
12.3. Искусственный разум
Экзамены в жизни никогда не кончаются. Тест Тьюринга пройти можно без всяких усилий. Если вы вдруг решите проверить себя, вы его обязательно выполните, без каких-либо проблем. И побьете в соревнованиях любой компьютер, даже хитроумный Sunway TaihuLight, признанный в середине 2017 года самым мощным в мире – он выполняет 93 миллиона миллиардов операций в секунду.
Тест был разработан Аланом Тьюрингом в 1950 году и служит для оценки компьютерного интеллекта. До сих пор ни один компьютер его не прошел. Идея британского ученого, о чьей трагической судьбе был снят фильм «Игра в имитацию», весьма проста. Для того чтобы пройти тест, компьютер должен убедить человеческое существо в том, что он тоже является человеческим существом.
Несмотря на то что мечта о счетной машине возникла еще во времена Античности, сам термин «искусственный интеллект» имеет конкретную дату и место рождения: 1956 год, Дартмутский колледж, Нью-Гэмпшир. Небольшая группа специалистов по счетным машинам объединила усилия на шесть недель с целью разработать теоретическую базу для думающих машин будущего и создала новую науку об искусственном интеллекте (artificial intelligence, AI). Десять лет спустя их исследования получили грандиозное финансирование от правительства и от министерства обороны, что необычайно воодушевило ученых. «В течение жизни одного поколения проблема искусственного разума будет решена», – заявил Марвин Минский, один из участников Дартмутского семинара.
Но все пошло не так. В течение многих лет искусственный интеллект не считался чем-то серьезным. Первый успех пришел в 1996 году, когда компьютер Deep Blue производства IBM выиграл в шахматы у чемпиона мира Гарри Каспарова.
В 2011 году другой компьютер IBM, Watson, победил двух заслуженных чемпионов американской телевизионной игры Jeopardy!, требующей недюжинных знаний и лингвистических способностей. Однако ни один из этих компьютеров, обладающих мощными вычислительными возможностями и огромной базой данных в памяти, не смог пройти тест Тьюринга.
Тем не менее искусственный интеллект постепенно входит в нашу каждодневную жизнь. Наступил новый этап – компьютеры начали учиться учиться. Этот процесс называется machine learning – машинное обучение. Watson следовал указаниям установленной в нем программы, но не мог ее модифицировать. AlphaGo способна меняться. AlphaGo – это программа, созданная специалистами DeepMind, лондонской фирмы, основанной Демисом Хассабисом и приобретенной в 2014 году корпорацией Google. Она одержала победу над чемпионом мира по игре в го, считающейся самой сложной игрой в мире (в этой игре 2x10170 комбинаций, гораздо больше, чем атомов во Вселенной). После ввода самых базовых инструкций и данных в операционную систему AlphaGo смогла обучиться сама благодаря многоуровневой искусственной нейронной сети (система, использующая несколько уровней расчетов для анализа решения множества сходных задач, по аналогии с иерархией слоев в коре человеческого мозга). Самое удивительное, что AlphaGo, по сути, сама научилась играть, используя те же приемы, что и люди, – она сыграла сама с собой 30 миллионов партий, обучаясь на собственных ошибках.
Машинное обучение и искусственные нейронные сети лежат в основе таких компьютерных помощников, как Siri, Cortana, Alexa, Ok Google, и их коллег. Персональные ассистенты, откликающиеся на голосовые команды, установленные во всех смартфонах, становятся постепенно незаменимыми помощниками в быту и инструментами домашней автоматизации. Они учатся, отвечая на запросы пользователей, и незаметно совершенствуются.
Искусственный интеллект уже стал важной частью безопасности автомобиля благодаря израильской фирме MobilEye (основанной ученым Амноном Шашуа и купленной корпорацией Intel за 15,3 млрд долларов). Эта фирма первая создала систему интеллектуальной помощи водителю, предотвращающую столкновения. Автомобиль без водителя – предмет последних разработок автомобильных гигантов совместно с Tesla, Google, Apple, Uber и другими компьютерными фирмами. Он может стать реальностью через несколько лет – и людям придется уступить место за рулем искусственному разуму.
Искусственный разум уже работает на фабриках, новые виды роботов сотрудничают с операторами и обучаются самым различным манипуляциям. Уже разработаны основанные на машинном обучении алгоритмы, которые способны писать юридические документы без участия адвоката, газетные заметки о спорте без помощи журналиста или музыкальные аранжировки без композитора.
Томазо Поджио, профессор Массачусетского технологического института, у которого учились Демис Хассабис и Амнон Шашуа, полагает, что труднее всего машинами заменить простые, но требующие изобретательности профессии (сантехник, разнорабочий) и профессии, требующие высокого уровня образования и творческого мышления (ученый, программист). Все другие могут навсегда исчезнуть. Несмотря на то что некоторые политики пророчат внутреннюю безработицу в связи с кошмарами глобального рынка, а не с будущей автоматизацией, специалисты (те, которые заботятся о всеобщем будущем, а не о собственном настоящем) предсказывают, что следует готовиться к влиянию искусственного интеллекта на общество. И это влияние уже началось.
Технология deep learning (глубокое обучение) стала возможной благодаря взаимодействию трех факторов: возрастающей вычислительной мощности микропроцессоров; развитию новых технических возможностей и сложных алгоритмов; доступности для обучения больших баз данных, как в случае с программой AlphaGo – настоящих мускулов искусственного интеллекта. Из трех факторов первый должен постоянно наращивать мощность. Закон Мура (вычислительная мощность удваивается каждые два года) определял этот рост до тех пор, пока физические возможности кремниевого чипа не были исчерпаны. Последние три года искусственный интеллект развивается на базе графических процессоров, то есть процессоров, работающих с использованием параллельной архитектуры и потому гораздо более эффективных. Чтобы закон Мура вновь начал работать, нужен нейроморфный чип, имитирующий мозг.
Эта старинная идея наконец, кажется, близка к воплощению. Традиционные процессоры делают вычисления последовательно, как будто некий метроном задает им темп. В процессоре, имитирующем мозг, наоборот, искусственные нейроны взаимодействуют между собой параллельно, без заданного ритма; все искусственные «нейроны