Природа кода внутри редактора, благодаря которой редактор выполняет определенные действия с другим редактором, не регулировалась бы никакими стандартами. Равно как и средства программирования этого редактора.
Некоторые редакторы можно будет натренировать на действие (тем же способом, каким мы тренируем алгоритмы машинного обучения на примерах), а другие пришлось бы непосредственно запрограммировать. И все они взаимодействовали бы друг с другом как человек пожелает.
Я искренне считаю, что этого выигрыша достаточно, чтобы перевесить проблемы со слежкой. Если наши информационные системы можно было создавать по принципам, схожим с фенотропными, о которых я рассказал, то в конечном итоге мы бы использовали инструменты, не требующие от нас принимать абстракции повсеместно и навсегда.
С этого момента наши информационные системы будут служить формами для выплавки многих аспектов общества – и руководством для многих молодых людей в том, как стать личностью в обществе, – шагом к информационной архитектуре с изменяющимися абстракциями, которые возможно отменить, и важнее этого нет ничего. Именно так в далеком будущем можно будет поощрять открытость и свободу.
Понимаю, что такие устремления могут показаться чем-то сродни эзотерике, а также ужасающе слепой верой и даже утопическим порывом, но на самом деле это попытка перерасти утопию.
Оставив в стороне глобальные идеи, скажу, что было здорово в конце концов добиться того, чтобы лица аватаров могли отслеживать выражения человеческих лиц. Какое-то время я вместе со своей группой экспериментировал с выражениями лиц аватаров в клубах, таких как Knitting Factory в Нью-Йорке в 1990-е. За нами находился большой экран, на котором эксцентричные музыканты превращались в аватары, например коррумпированных политиков тех времен. (Хотя если вспомнить те времена, не такой уж это был и разгул коррупции.)
Мудрость несовершенства
Поскольку модули идеальной будущей фенотропной системы будут сообщаться при помощи поверхностных средств, задействующих машинное зрение и прочие техники, которые обычно ассоциируются с искусственным интеллектом, множество хитрых маниакальных хакерских уловок станут просто бесполезными.
Например, станет сложно ввести в компьютер вредоносный код через сеть глубинного обучения, скажем, наведя камеру на изображение, которое предположительно может нести опасность заражения. Сложно не значит невозможно, но попытки достичь совершенства в безопасности – всегда бесполезная затея.
Уточню: ввести вредоносный код, используя изображение, можно (и это происходит постоянно), но это легко сделать, лишь когда программа принимает картинку бит за битом и обрабатывает ее, используя строго определенный протокол.
Строгие протоколы легко обойти, потому что можно изобрести уловку, которую не предвидели разработчики оригинала. Типичный пример: многие биты размещены в изображении иначе, чем в протоколе, который определяет картинку. Когда изображение принято программой, некоторые биты попадают в ту часть компьютера, где их не ожидали, и эти лишние биты могут содержать вредоносный код.
Заражение компьютеров, использующих подобного рода стратегии, возможно, обусловлено человеческим фактором больше всех остальных случаев заражения, происходящего на планете Земля.
Но если изображение принимается только как приблизительное соответствие в аналоговом стиле и анализируется только статистически, как если бы на него была наведена камера, уровень уязвимости сильно снижается[156]. Проблема не в изображении, а в жесткости протоколов.
Иногда лучше всего, если инженеры сами точно не знают, как работают программы.
Поверхностная природа современных алгоритмов, которые ассоциируются с глубинным обучением и похожими терминами, по сути, устойчива к уловкам, к которым прибегают хакеры, но мы применяем эти возможности только к решению специализированных задач, а не к созданию архитектуры. Использование их в архитектуре – еще один способ подачи идеи фенотропного программирования.
Точно так же как и в биологии, безопасность достигается тогда, когда система становится стабильной, что не равно совершенству. Совершенная система развалится, а стабильная пошатнется.
Стойкость
Фенотропная гипотеза отчасти состоит в том, что системы, использующие алгоритмы, которые схожи с алгоритмами искусственного интеллекта, в структуре и связи между компонентами, а не только ради целевой нагрузки, будут менее уязвимы к постоянным неустранимым отказам.
Разумеется, фенотропные принципы в большинстве своем неэффективны для связи между модулями небольшой системы. Вы полагаетесь на машинное зрение и алгоритмы обучения, чтобы объединить самые основные задачи. Но в очень крупных системах неэффективным будет поддерживать протоколы. Например, вирусы постоянно обновляются и совершенствуются, а на изменение протокола нужно время.
Я люблю приводить пример из музыки. На протяжении долгих лет я потратил тысячи долларов на покупку подключаемых программных модулей для работы с музыкой, выполняющих такие задачи, как добавление реверберации к фонограмме, но ни одно из них больше не работает. Ни одно!
Программные компоненты быстро устаревают, поскольку зависят от идеальной совместимости с протоколами и прочими аспектами программной экосистемы, а появление мельчайших изменений сложно предотвратить[157].
При этом в 1970-е я приобрел множество физических педалей музыкальных эффектов. А еще у меня есть совершенно невероятное количество физических модулей для синтезаторов. Многие из этих артефактов аппаратного обеспечения обладают встроенным компьютерным чипом, выполняющим абсолютно те же функции, что и приобретенные мной программные модули. Но они не эквивалентны друг другу в одном крайне важном аспекте. Все физические устройства все еще работают. Абсолютно все.
Разница в том, что у физических устройств аналоговое подключение по типу зазора, устойчивое к моральному устареванию.
Теоретически подключаемые программные модули должны быть дешевле, эффективнее и во всех смыслах лучше. На практике же аппаратные средства дешевле, эффективнее и лучше во всех смыслах, потому что они все еще работают. Аппаратные средства, такие как педали и модули, – это фенотропная версия музыкальных технологий[158], а подключаемые программные модули – версии протокола.
Нельзя просто посмотреть на то, как функционирует технология в тот или иной момент времени. Придется наблюдать весь ее жизненный цикл, в том числе разработку и поддержку.
Мой опыт с музыкальными устройствами служит иллюстрацией еще одного аспекта фенотропной гипотезы: фенотропная архитектура станет эффективнее традиционной, протоколоцентричной архитектуры на основе кода при достаточно крупном масштабе и при долгом наблюдении за ее использованием и внесением в нее изменений.
Адаптация
Критикуя традиционную архитектуру компьютеров, я всегда использовал слово «хрупкая». Она ломается, а не гнется, даже если хоть один бит в ней неправильный.
Альтернативу хрупкости можно разглядеть в жизни. Подумайте о том, как способна функционировать естественная эволюция. Наши гены иногда могут напоминать программное обеспечение: иногда одна мутация может стать смертельной.
Но для разных особей абсолютно нормально сохранять жизнеспособность, даже при том, что наши гены не идентичны. Небольшие изменения не всегда нас губят.
Мы, мягко говоря, не понимаем гены в полной мере, но ясно следующее: они достаточно стабильны, чтобы позволить произойти эволюции.
Эволюция – поэтапный процесс. Незначительные изменения накапливаются на протяжении очень долгого времени, а потом переходят в почти необъяснимые метаморфозы. От одноклеточных организмов до нас.
Главный микрошаг на этом пути совершается тогда, когда незначительное изменение в генах отражается лишь в незначительных изменениях для получившегося организма. Это соотношение небольшого с небольшим возникает достаточно часто, чтобы петля обратной связи в основе эволюции имела шанс функционировать.
Если небольшие генетические изменения заставляют организмы радикально меняться слишком часто, они не «научат» эволюцию многому, так как результаты изменений будут слишком беспорядочными. Но поскольку результаты небольших генетических изменений во многих случаях тоже незначительны, популяция может шаг за шагом «экспериментировать» с совокупностью схожих новых черт и эволюционировать.
При этом если в случайном порядке изменить хоть один бит, то можно полностью вывести компьютер из строя; если этот бит изменить с умом, вы поставите под угрозу безопасность нефенотропного компьютера.
Однако в программах, существующих на сегодняшний день, практически невозможно переключить бит непредсказуемым образом и создать незначительное улучшение. Не значит ли это, что мы используем биты неправильно?
Итак, еще один аспект фенотропной гипотезы состоит в том, что небольшие изменения, произведенные посредством фенотропного редактора, должны приводить к небольшим изменениям в его поведении достаточно часто, чтобы упростить адаптивное улучшение в крупном масштабе[159]. В существующих на сегодняшний день системах этого не происходит.
Переключение
Представляя себе фенотропные системы будущего, я представляю, как они распространятся по всей сети и редакторы будут управлять друг другом в масштабе всего земного шара. Облако мультипликационных персонажей, которые тычут друг в друга пальцами.
Оперативный контроль за физическими устройствами, например термостатами и дронами, будет идентичен и для облачных алгоритмов, и для людей; таким образом, в понимании электронных устройств будет меньше мешающей людям эзотерики.