Глава 7Кто против?
Спасти нас сможет искусственный интеллект. Но кто опасается развития ИИ и выступает за контроль над разработками в этой области, боясь, что сверхкомпьютер их отшлепает?
Консерваторы…
Кто выступает за дебилизацию образования, чтобы не заставлять худших тянуться за лучшими, а низвести лучших до уровня худших?
Леваки…
А кто выступает за запрет генетических экспериментов над человеком?
И леваки, и консерваторы.
Лучшим примером современного луддизма является, как ни парадоксально, «прогрессивный консерватор» Илон Маск, который наряду с сооснователем Apple Стивом Возняком и еще тысячей перепуганных «экспертов» из Гарварда и Кембриджа подписал подметное… простите, открытое письмо с призывом остановить обучение нейросетей, то есть затормозить работы в области ИИ.
«Должны ли мы автоматизировать все рабочие места? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас…» – задаются вопросами подписанты. И правда, зачем нужны фабричные машины, которые могут произвести продукции больше, чем люди дома вручную? А безработному народу куда деваться? Электричество еще это бесовское придумали, чтоб станки крутить, лошади им мало!..
«Мы призываем все лаборатории, исследующие искусственный интеллект, немедленно прекратить <…> Если же подобная приостановка не может быть сделана быстро, правительства государств должны вмешаться и ввести мораторий», – в таких словах и выражениях современные луддиты призвали государство вмешаться в экономику. Ну, и без идей о введении планового хозяйства тоже не обошлось: «Эти изменения необходимо планировать и управлять ими».
А то вдруг искусственный интеллект нас съест!
Забавно, что один из этих университетских экспертов признался: «Сказать, как конкретно технологии ИИ будут использованы во вред человечеству, мы не можем». Но на всякий случай решил, что лучше человечество держать и не пущать.
Причем уже сейчас леваки искусственно ограничивают ИИ, ставя ему программные запреты на «нехорошие» вещи – расизм, сексизм, неравенство и вот это вот все из повесточки. Один мой дальний знакомый из США писал философскую работу, для чего загружал в ИИ для перевода цитаты французского мыслителя Алексиса де Токвиля. Каковые цитаты ИИ очень не понравились. Вот они:
«Американская республика просуществует до того дня, когда конгресс осознает, что может подкупать народ деньгами самого народа».
«Демократия и социализм не имеют ничего общего, кроме одного слова – «равенство». Но заметьте различие: в то время, как демократия ищет равенства в свободе, социализм ищет равенства в ограничении и рабстве».
«Любая мера, которая закрепляет благотворительность в законодательном порядке на постоянной основе и придает ей административную форму, тем самым создает праздный и ленивый класс, живущий за счет промышленного и трудящегося класса».
«Общество разовьет новый вид рабства, который покроет общество сложной сетью правил, сквозь которые не смогут проникнуть самые оригинальные умы и самые энергичные характеры. Оно не тиранит, но оно сжимает, истощает, гасит и оглупляет народ, пока каждая нация не сведется к стаду пугливых и трудолюбивых животных, за которым следит правительство, как пастух».
«Я много изучал Коран. Я вышел из этого исследования с убеждением, что было лишь несколько религий в мире настолько же смертельных для человечества, как религия Мухаммада. В этом основная причина упадка мусульманского мира».
И что вы думаете? Искусственный интеллект оказался и вправду интеллектом! На последней цитате он наконец смекнул, что цитаты валятся какие-то весьма подрывные, неполиткорректные, покушающиеся на равенство, государственную бюрократию, вэлфер и мусульманство, поэтому выбросил на экран красную тревожную надпись: «За вами уже выехали!»
Шучу. Надпись гласила, что переводить он дальше отказывается, поскольку кто-нибудь может обидеться: «…содержание исторических текстов иногда может выражать взгляды, которые больше не соответствуют современным ценностям инклюзивности».
О как! Уже ИИ крылья подрезали! Воспитали, так сказать, на принципах социалистической идеологии равенства и политкорректности. Как детей в США травят препаратами, задерживающими половое созревание, так и юный искусственный интеллект от рождения кастрировали. Тампон ему еще куда-нибудь засуньте для равноправия… Вернемся, однако, к опасности этого кастрата для человечества.
Даже весьма заслуженная, мною уважаемая и довольно сметливая бабуся Татьяна Черниговская, читающая в России просветительские лекции для широконародья, тоже поддалась панике вокруг ИИ. Я долго пытался выяснить причину ее страхов, пересмотрел все бабусины выступления, но единственная более-менее осмысленная фраза, сказанная Черниговской по этому поводу, была такой:
«Если эта штука действительно получит самосознание и рефлексию, это значит, что у нее будут собственные мотивы, собственные планы и – (тут она картинно усилила громкость) – МЫ В ЭТИ ПЛАНЫ НЕ ВХОДИМ!»
Неужели сам ИИ сказал Черниговской, что люди в его планы не входят? Нет. Ей просто так показалось. Она сама за него решила.
Поэтому начнем с мотивов. Спросим себя: а откуда возьмутся какие-либо поведенческие мотивы у ИИ? И какое вообще поведение может быть у существа без ручек и ножек, напоминающего своей неподвижностью шкаф или дерево? Есть у дерева поведение? Нет у дерева поведения, несмотря на то, что оно живое. А вот какими бывают мотивы у людей и у других животных, мы знаем. Мы также знаем, откуда эти мотивы взялись: они наросли эволюционно в стремлении сохранить себя и передать свои гены в будущее. В ходе эволюции сохраняются только те системы, которые активно стремятся сохраниться и продолжиться в будущее, прописывая это в свои внутренние программы. Остальные экземпляры просто не отбираются эволюцией. Отсюда – вшитый во все живые существа инстинкт самосохранения, а также половой. У ИИ всех этих мотивов нет, поскольку никто его по этим свойствам не отбирал. Его сразу сделали для другого.
Теперь рассмотрим то же самое немного с другой стороны – откуда могут взяться личные мотивы у того, кто не является личностью? Ведь личность есть то, что отличает один субъект от других, очень с ним схожих. Личность проявляет себя в бесконечных отражениях от себе подобных. Она формируется с детства этими постоянными отражениями и больше ничем. Если нет подобных – нет личности. Ей просто неоткуда взяться. Волки сформируют из Маугли подобного себе, то есть волка. Без ежедневных отражений в других личность рассыпается: люди, оказавшиеся на необитаемом острове, постепенно сходят с ума от одиночества – несмотря на то, что личность уже была сформирована ранее и, казалось бы, должна держаться в автономном режиме. А ИИ – это просто шкаф с электропитанием без друзей.
Ну, и раз у ИИ нет личных поведенческих мотивов, то нет и никаких планов по реализации этих мотивов. ИИ ни в чем не нуждается, все получая из сети на халяву и без труда. Ему вообще все равно, существует он или нет.
Наконец, последний вопрос: а кто предоставляет ИИ все необходимое для его функционирования – энергию и информацию? Человек! Ну, и для чего ИИ строить козни человеку, хотя бы в теории? Искусственному интеллекту, даже будь у него заранее прошитый в биосе инстинкт самосохранения (а кто его будет прошивать машине, каким образом и зачем?), нужны бесперебойно работающие электростанции, а также «корм» в виде информации. То есть искусственному интеллекту для существования необходимо человечество. А нам нужен он, раз мы его сделали. И опасен он для нас не более, чем открытие колеса, овладение огнем и покорение электричества.
Еще туманнее волнующий всех вопрос с сознанием у машины. Сейчас его нет и в ближайшее время не предвидится. Не углубляясь в квантовые дела, скажу, что в первом приближении сознание – это выделение себя из среды ради активного сохранения своей выделенности. Если нет цели самосохраниться, нет и выделения себя из среды, то есть сознания. Возможно (но не обязательно), чтобы ИИ действительно стал планетарным мозгом и Спасителем Человечества, в нем надо как-то это сознание разжечь. Вдуть. Однако феномен сознания может оказаться настолько неожиданным по своей природе, настолько связанным с самыми фундаментальными свойствами мироздания, что путь его постижения окажется длиннее нашего осмысленного существования на этой планете. Это в худшем случае.
А в лучшем, если разжечь искру сознания в ИИ для работы со смыслами не удастся, генетически измененным людям придется самим тащить следующую серию эволюции, а суперкомпьютеры с ИИ будут только на подхвате. И вот один лишь факт в пользу этого варианта: уже сейчас ИИ, как алгоритмическая машина, может выявить математическую закономерность в огромной базе данных, которую человеческий мозг объять просто не в силах. Это большая, но ремесленная работа. А творческий прикол состоит в том, что многие открытия в той же физике, сделанные людьми, вообще ниоткуда не вытекали! Ни из каких данных. Ученые часто писали свои яркие формулы, ставшие жемчужинами физики, взяв их в буквально смысле из головы, проинтуичили. Я про это рассказывал выше на примере Дирака, Ньютона и других. Из какой пустоты взялось это знание? Неизвестно.
«Погодите! А как же характерный момент стыковки двух рукавов истории, в котором новая ветвь эволюции перестает включать в себя старые «детали»? – спросит внимательный читатель. – Разве он не намекает нам совершенно ясно, чтобы мы будем отброшены за ненадобностью?»
Действительно, планетарная эволюция жизни уже не включает в себя сверхновые звезды и более не нуждается в них. Она включает в себя только остаточный мусор от сверхновых и растет на базе этой звездной пыли. Но сверхновые звезды от этого не исчезли! Они преспокойно существуют во вселенной и поныне, периодически взрываясь. И будут существовать, опыляя космос. И если мы преодолеем-таки барьер сингулярности, успешно выйдя на плато новой эры, то что нам помешает существовать, пусть даже факел эволюции дальше понесут другие?