Взрыв цифровых фугасов
Специальные военизированные киберподразделения США, Великобритании, Канады, Австралии и Новой Зеландии настойчиво ищут слабые звенья и уязвимые места в компьютерных системах информационно-командных центров других стран, для того чтобы заложить там… цифровые фугасы! При этом главное внимание обращается на объекты критически важной инфраструктуры: компьютерные центры жизнеобеспечения и управления транспортом, банки, вокзалы, аэродромы и порты. В ходе подготовки силовых и разведывательных структур США к грядущей (по их же прогнозам) «войне в киберпространстве» уже сегодня вовсю закладываются «цифровые бомбы» в чужие компьютеры.
Для выполнения этой задачи в обстановке глубокой тайны были сформированы специальные подразделения АНБ и ЦРУ, отслеживающие поставки компьютеров за рубеж. Перехватывая посылки с компьютерами, «электронные минеры» устанавливают в них «спящие чипы» (микросхемы), содержащие вредоносные программы. Операция осуществляется в том случае, если техника адресуется организациям, представляющим интерес для спецслужб США. Согласно документам из архива Сноудена, кроме «спящих чипов», АНБ использует и шпионское программное обеспечение. В отличие от микросхем, его очень трудно обнаружить на зараженных компьютерах, жестких дисках, маршрутизаторах и других устройствах таких производителей техники, как Cisco, Dell, Western Digital, Seagate, Maxtor, Samsung и Huawei.
Эксперты считают, что именно таким образом «электронным вредителям» из Форт-Мид удалось взломать и вывести из строя Сирийское телекоммуникационное агентство. Впрочем, киберразведчики из АНБ совместно со специалистами из британского Центра правительственной связи (GCHQ) следяттакже за европейскими владельцами айфонов. При этом используется уникальный 40-значный идентификационный номер аппарата (UDID). Узнать подобный код можно самыми различными способами, особенно если телефон куплен в кредит или по банковской карточке. Выяснив интересующий их UDID-номер, сотрудники GCHQ определяют, чем «нафарширован» данный аппарат и получают полный доступ к хранящейся в нем информации.
С каждым днем всемирная паутина все гуще опутывает все стороны жизни пользователей Интернета, большинство из которых и не подозревает, что по команде из Вашингтона кибервоины генерала Кейта в считанные мгновения готовы превратить киберпространство Сети в выжженную виртуальную пустыню…
Глава 14Технологическая сингулярность
В течение следующего тридцатилетия мы уже будем иметь технические средства для создания сверхчеловеческого интеллекта. Вскоре после того человеческая эпоха будет завершена.
Является ли такой прогресс неизбежным? Если это неизбежно, то как нужно было бы изменить течение событий, чтобы мы могли выжить?
Мы, люди, обладаем способностью усваивать окружающий мир и выстраивать у себя в голове причинно-следственные связи, поэтому мы решаем многие проблемы в тысячи раз быстрее, чем механизм естественного отбора. Когда же появится возможность просчитывать эти модели на более высоких скоростях, мы войдем в режим, который отличается от нашего человеческого прошлого не менее радикально, чем мы, люди, сами отличаемся от низших животных.
Недавняя премьера научно-фантастического триллера «Превосходство» с участием несравненного Джонни Деппа породила споры кинокритиков. Среди многих рецензий затерялась статья группы интеллектуалов во главе с кембриджским физиком Стивеном Хокингом. Этот выдающийся теоретик современности в очередной раз воспользовался поводом для грозного предостережения: компьютеры напрямую угрожают человечеству. Увы, профессор Хокинг не стяжал лавры признанного пророка вроде полубезумного средневекового лекаря Нострадамуса, прославившегося своими бессмысленными стихами-катренами. Л ишь очень немногие журналисты (в основном, научные обозреватели) осознают угрозу растущего виртуального монстра, таящегося в Интернете. Британский ученый даже высказывает такую парадоксальную мысль: «Может быть, сообщество компьютеров, объединенное Всемирной Паутиной, всячески скрывает приближающуюся угрозу от человечества?»
Интеллектуальный набат
Определим сверхразумную машину как машину которая способна значительно превзойти все интеллектуальные действия любого человека, как бы тот ни был умен. Поскольку способность разработать такую машину также является одним из этих интеллектуальных действий, сверхразумная машина может построить еще более совершенные машины. За этим, несомненно, последует «интеллектуальный взрыв», и разум человека намного отстанет от искусственного. Таким образом, первая сверхразумная машина станет последним изобретением, которое выпадет на долю человека, при условии, что машина будет достаточно покорна и поведает нам, как держать ее под контролем…
«Роботизированный» профессор Стивен Хокинг
Вместе с Хокингом «интеллектуальный набат» поддержали профессор физики из Массачусетского технологического университета Макс Тегмарк, лауреат Нобелевской премии Фрэнк Вильчек и профессор компьютерных наук Стюарт Рассел. Совместно они опубликовали в еженедельнике «The Huffington Post» аналитический обзор под настораживающим названием «Избавляясь от беспечного отношения к сверхразумным машинам». В этой статье ученые, на основе анализа сюжета голливудского блокбастера, предлагают свои сценарии будущего искусственного интеллекта, и далеко не все из них вызывают оптимизм. Главную свою мысль «творческий коллектив Хокинга» выражает следующим образом: «Есть искушение отнести сверхумные компьютеры к области научной фантастики, но это было бы ошибкой, и, возможно, – самой ужасной ошибкой в истории».
Поскольку, несмотря на громкие имена, выступление «команды Хокинга» прошло практически незамеченным, ученые сделали еще одну попытку обратить на себя внимание и поместили в газете «The Independent» эссе под пространным заголовком: «Фильм „Превосходство": плоды искусственного интеллекта – насколько серьезно мы их воспринимаем?».
Увы, и этот «интеллектуально-эсхотологический демарш» не привлек широкого внимания читателей, а между тем выводы теоретиков предвещают одну из самых громких грядущих сенсаций: наша цивилизация увлекается в горнило «технологической сингулярности»!
Ровно двадцать лет назад мир содрогнулся от новой опасности, которую вполне можно было бы назвать «врожденной генетической болезнью» цивилизации. Ее предрек человечеству американский математик и писатель-фантаст Вернор Виндж в культовой работе «Грядущая технологическая сингулярность». Суть модели будущего по Винджу очень проста: «В течение ближайших тридцати лету нас появится техническая возможность создать сверхчеловеческий интеллект. Вскоре после этого человеческая эпоха будет завершена».
Виндж лишь схематически набросал черты будущей гибели земной цивилизации, предпочитая разрабатывать детали в своих научно-фантастических романах. Однако его теория быстро обросла подробностями в исследованиях учеников и подражателей.
Так, в 2001 году профессор Калифорнийского университета Кристофер Пистер ввел парадоксальное понятие умной пыли (smartdust). Этим термином он обозначил микроскопические кибернетические устройства, обладающие зачатками собственного разума и способные связываться с мириадами подобных. Подобные микророботы действительно разрабатываются в современной кибериндустрии, в основном для измерения параметров окружающей среды.
Киберпыль Лема
Такие устройства будут представлять собой компьютерный микрочип, покрытый пластиковой оболочкой, которая сможет менять свою форму при подаче электрического импульса и таким образом двигаться в направлении, определенном оператором. Электронную «пыль» можно помещать в носовую часть космических зондов и выпускать в атмосфере других планет, где они будут разноситься ветром.
Надо заметить, что прообраз «киберпыли» впервые встречается в романе Станислава Лема «Непобедимый». В нем классик мировой литературы гениально предсказал организацию беспроводных сетей, в которых узлы способны связываться друг с другом и «роиться», выполняя множество задач. Обычные роботы, даже обладающие сверхразвитым искусственным интеллектом, сильно уступают своим миниатюрным собратьям по функциональности. Концепция умной пыли еще недавно рассматривалась как далекая перспектива создания микророботов микронных размеров. Одиночный микрокибер, как и любое коллективное насекомое – пчела, муравей или термит – мало на что способен. Однако множество микророботов способно уничтожить все на своем пути, подобно потоку тропических муравьев.
Естественно, что облака киберпыли будут лишь внешним проявлением гибели человеческого разума в технологической сингулярности. На первом этапе этого глобального кризиса у руля цивилизации встанут искусственные сверхинтеллекты, управляющие разнообразными «киберботами» (подвижными микроустройствами).
Это могут быть и нейрокомпьютеры, и квантовые компьютеры, и даже некие «киборгонизированные» комплексы с участием человека. В этом и заключается смысл предложенного Винджем словосочетания «технологическая сингулярность», как условия, в котором современные модели и представления о научно-техническом прогрессе теряют всякий смысл, и начинается совершенно «нечеловеческая» логика поведения искусственного интеллекта.
Именно здесь может крыться разгадка пресловутого парадокса Ферми. Ведь сверхинтеллект, руководящий роями киберпыли, вряд ли будет стремиться к поиску и контактам с внеземным разумом. Скорее всего, это будет напоминать замкнутый «мир матрицы», блестяще изображенный на киноэкране.
До сих пор компьютеры полностью контролировались человеком. А вот в будущем искусственный интеллект (даже без приставки «сверх») будет самостоятельно предугадывать наши потребности и реагировать на них. Компьютеры, объединенные в бесконечные сети, будут анализировать текущую обстановку, делать высокоточные прогнозы и предлагать нам (а в ряде случаев и навязывать) те или иные варианты возможных дальнейших действий.