Google, Маск стал предупреждать людей о том, что случится, когда эти системы станут умнее людей. Они могут превзойти нас и начать обращаться с нами как со своими питомцами. “Мне совсем не хочется стать чьим‐то домашним котом”, – сказал Маск. Чтобы предотвратить возникновение проблемы, лучше всего обеспечить строгий контроль над ИИ и его работу под управлением человека. “Опасность возникает, когда искусственный интеллект оказывается отделен от человеческой воли”.
Маск начал устраивать ужины-дискуссии, в ходе которых члены старой мафии PayPal, включая Тиля и Хоффмана, обсуждали способы противостоять Google и пропагандировать безопасное использование искусственного интеллекта. Он даже обратился к Бараку Обаме, и тот согласился встретиться один на один в мае 2015 года. Маск объяснил, в чем заключается риск, и предложил ввести регулирование в соответствующей сфере. “Обама уловил суть, – говорит Маск. – Но я понял, что этот вопрос недостаточно насущен, чтобы он действительно что‐нибудь предпринял”.
Далее Маск обратился к Сэму Альтману, крепко сбитому программисту и предпринимателю, любителю спортивных автомобилей и выживальщику, который за своим блестящим фасадом скрывал такую же, как у Маска, напористость. Альтман познакомился с Маском несколько лет назад и три часа беседовал с ним, пока они осматривали завод SpaceX. “Забавно, как некоторые инженеры отводили взгляд, едва заметив приближение Илона, – говорит Альтман. – Они его боялись. Но я был впечатлен тем, как хорошо он знает каждый мелкий компонент ракеты”.
С Сэмом Альтманом
За легким ужином в Пало-Альто Альтман и Маск решили вместе основать некоммерческую лабораторию для исследования искусственного интеллекта, которую назвали OpenAI. Она должна была производить программное обеспечение с открытым кодом и противостоять усиливающемуся господству Google в отрасли. Тиль и Хоффман присоединились к Маску и вложили в проект свои деньги. “Мы хотели создать что‐то вроде линуксовой версии ИИ, которую не контролировал бы ни какой‐либо единственный человек, ни какая‐либо единственная корпорация, – говорит Маск. – Цель состояла в том, чтобы повысить вероятность безопасного развития ИИ с пользой для человечества”.
Среди прочего за ужином они обсудили вопрос о том, что безопаснее: небольшое количество ИИ-систем под контролем крупных корпораций или большое количество независимых систем? Они пришли к выводу, что лучше иметь много конкурирующих систем, которые обеспечивают друг для друга необходимые сдержки и противовесы. Подобно тому как люди работают вместе, чтобы остановить злоумышленников, множество независимых ИИ-ботов будет противостоять плохим ботам. Маск видел в этом повод сделать OpenAI действительно открытой, чтобы люди могли создавать свои системы на основе ее исходного кода. “Думаю, лучшая защита от злоупотребления ИИ – предоставление как можно большему числу людей возможности его использовать”, – сказал он в то время Стивену Леви из Wired.
Одной из целей, которую Маск с Альтманом обсуждали в деталях и которая оказалась у всех на устах в 2023 году, когда OpenAI запустила чат-бот ChatGPT, было обеспечение “контроля искусственного интеллекта”. Чтобы взять ИИ под контроль, необходимо согласовать работу ИИ-систем с целями и ценностями человечества, подобно тому как Айзек Азимов сделал это в своих романах, разработав законы робототехники, не позволяющие роботам причинить вред человеку. Помните компьютер HAL, который выходит из‐под контроля и выступает против создавших его людей в фильме “Космическая одиссея 2001 года”? Какие предохранители и аварийные выключатели можем мы, люди, внедрить в системы ИИ, чтобы они и дальше работали в наших интересах, и кто из нас должен решать, какие интересы мы преследуем?
Одним из способов обеспечить контроль искусственного интеллекта, по мнению Маска, была привязка ботов к людям. Они должны были стать агентами человеческой воли, а не системами, способными выйти за рамки дозволенного и обрести свои намерения и цели. Это служит одним из ориентиров для компании Neuralink, которую он основал для производства чипов, связывающих человеческий мозг с компьютером.
А еще Маск понял, что успех в сфере искусственного интеллекта придет к тому, у кого будет доступ к огромным массивам реальных данных, на которых смогут учиться боты. Одной из таких золотых жил, как он осознал в то время, была Tesla, которая каждый день собирала миллионы кадров, снимая, как водители ведут себя в различных ситуациях. “Вероятно, Tesla получит в свое распоряжение больше реальных данных, чем любая другая компания в мире”, – сказал он. Еще одной сокровищницей данных, как он понял впоследствии, был Twitter, который к 2023 году ежедневно обрабатывал по 500 млн постов, написанных людьми.
Среди прочих на ужины с Маском и Альтманом приходил инженер-исследователь из Google Илья Суцкевер. Они смогли уговорить его возглавить исследования в новой лаборатории, пообещав зарплату 1,9 млн долларов в год и стартовый бонус. Пейдж пришел в ярость. Мало того что человек, который еще недавно считался его другом и гостил у него в доме, основал конкурирующую лабораторию, так он еще и переманивал лучших ученых из Google! После основания OpenAI в конце 2015 года они почти не разговаривали. “Ларри почувствовал себя преданным и очень разозлился, когда я лично завербовал Илью, и после этого он отказался со мной общаться, – говорит Маск. – Я лишь сказал: «Ларри, если бы ты не относился к безопасности ИИ так наплевательски, не возникло бы и необходимости хоть как‐то тебе противостоять»”.
Интерес Маска к искусственному интеллекту подтолкнул его к запуску целой серии связанных проектов. В их число входят компания Neuralink, нацеленная на вживление микрочипов в человеческий мозг; человекоподобный робот Optimus; а также суперкомпьютер Dojo, способный с помощью миллионов видеороликов обучать нейронную сеть воспроизводить работу человеческого мозга. Кроме того, Маск стал одержим идеей сделать автомобили Tesla беспилотными. Сначала новые предприятия были относительно независимы друг от друга, но в конце концов Маск связал их вместе, а также основал новую компанию X.AI, чтобы достичь своей цели и разработать чат-бот, обладающий общим искусственным интеллектом.
Решив разрабатывать системы искусственного интеллекта в собственных компаниях, Маск в 2018 году разошелся с OpenAI. Он попытался убедить Альтмана, что OpenAI, которая, как он полагал, отстает от Google, нужно сделать частью Tesla. Команда OpenAI отвергла эту идею, и Альтман занял должность президента лаборатории и основал внутри нее коммерческое подразделение для привлечения долевого финансирования.
В результате Маск сформировал собственную ИИ-команду для работы над Tesla Autopilot. Несмотря на множество производственных проблем на заводах в Неваде и Фримонте, он переманил из OpenAI специалиста по глубокому обучению и компьютерному зрению Андрея Карпатого. “Мы поняли, что Tesla станет ИИ-компанией и будет нуждаться в тех же кадрах, что и OpenAI, – говорит Альтман. – Кое-кто в нашей команде рассердился, но я прекрасно понимал, что происходит”. Альтман взял реванш в 2023 году, снова наняв Карпатого, который к тому времени устал работать на Маска.
Глава 41Запуск автопилота
Радар
Маск обсуждал с Ларри Пейджем возможность совместной работы Tesla и Google над системой автопилота, которая позволит автомобилям ездить самостоятельно. Но после того как их отношения расстроились из‐за искусственного интеллекта, Маск решил не откладывать это дело в долгий ящик и разработать систему для Tesla своими силами.
Проект по созданию беспилотного автомобиля, реализуемый Google, в итоге получил название Waymo. В нем используется лазерный локатор, называемый лидар[11]. Маск противился использованию лидаров и других подобных радару инструментов, настаивая, что беспилотная система должна опираться лишь на визуальные данные с камер. Здесь он тоже ссылался на первоосновы: люди водят автомобили, используя только визуальные данные, а следовательно, машины тоже должны быть на это способны. На кону стояли и деньги. Как всегда, Маска заботил не только дизайн продукта, но и процесс его производства в больших количествах. “Проблема с подходом, избранным Google, состоит в том, что сенсорная система стоит слишком дорого, – сказал он в 2013 году. – Лучше использовать оптическую систему, которая, по сути, собрана из камер и программного обеспечения и способна понимать, что происходит, просто смотря вокруг”.
В последующие десять лет Маск регулярно вступал в споры со своими инженерами, многие из которых хотели установить на беспилотных автомобилях Tesla радар того или иного типа. Дхавал Шрофф, активный молодой инженер из Мумбаи, который присоединился к команде Tesla Autopilot в 2014 году, окончив Университет Карнеги – Меллона, вспоминает одно из своих первых совещаний с Маском. “Тогда у нас в автомобиле был установлен радар, и мы сказали Илону, что с точки зрения безопасности лучше всего использовать именно его, – говорит Шрофф. – Он разрешил нам оставить радар, но было ясно: он считает, что в итоге мы должны разработать систему, которая будет опираться только на компьютерное зрение”.
К 2015 году Маск каждую неделю часами работал с командой Tesla Autopilot. Он приезжал из своего дома в лос-анджелесском районе Бель-Эйр в штаб-квартиру SpaceX неподалеку от аэропорта, и они обсуждали проблемы, которые возникали при использовании автопилота, установленного в его автомобиле. “Каждое совещание начиналось с того, что Илон говорил: «Почему машина не может сама доехать от моего дома до работы?»” – вспоминает Дрю Бальино, один из старших вице-президентов