Информационный век
6. Самоорганизация кибернетического разума
Справедливо замечено, что история моделей мозга – это история известных исследователей мозга литературных и материальных технологий, которые они используют в качестве метафор. В их метафорическом зверинце представлены ментальные часы, логические пианино, бочкообразные организмы, нейронные телеграфы и церебральные компьютерные сети. Как конкретные технологии попадают в этот зоопарк? Заявления о том, что определенные системы могут имитировать или даже демонстрировать интеллект, поддерживаются социальной иерархией «головы» и «рук». Люди думают про ум, потому что такова социальная условность[313].
Чудо нашего времени, электрическая телеграфия, давным-давно была смоделирована животной машиной. Но сходство между двумя аппаратами – нервной системой и электрическим телеграфом, – имеет гораздо более глубокую основу. Это больше, чем сходство; это родство, согласие не только следствий, но, возможно, и причин[314].
Нервные системы… расширяются вовне, как часть всеобщего обращения внутреннего и внешнего миров. Шоссе, офисные массивы, фасады и уличные вывески воспринимаются, как если бы они были элементами расстроенной центральной нервной системы[315].
Социальная история нервной системы
В 2012 году алгоритм AlexNet – большая искусственная нейронная сеть – победил в конкурсе ImageNet, а это считается международным эталоном качества для программного обеспечения, которое связано с распознаванием изображений. С тех пор «глубокие» искусственные нейронные сети, также известные как «глубокое обучение», возглавили революцию в машинном обучении и считаются наиболее эффективной техникой искусственного интеллекта. Их успех возродил надежды на то, что «решение» проблемы ИИ может быть найдено в тайной логике мозговых структур – эта идея восходит к самой заре цифровых вычислительных машин. Нейрофизиолог Уоррен Мак-Каллок и математик Уолтер Питтс первыми предложили имитировать биологические нейроны внутри устройства[316]. В статье 1943 года «Логическое исчисление идей, относящихся к нервной активности» они представили искусственные нейронные сети как имитацию физиологии мозга. В их идее также скрывалась внешняя «социальная» генеалогия, которую я раскопаю и освещу в этой главе[317]. Искусственные нейронные сети предстанут не в качестве биоморфного (то есть имитирующего формы жизни) артефакта, а как техника самоорганизующейся информации. Такой подход увязывает изобретение нейронных сетей с трудовой теорией автоматизации, изложенной в первой части книги. Подобно тому, как конструкция промышленных машин возникла из подражания организации труда, искусственные нейронные сети (и в целом алгоритмы машинного обучения) можно представить машинами, которые сами организуют собственные параметры (внутреннее устройство), подражая организации внешнего мира. Кибернетические эксперименты по самоорганизации представляли собой, по сути, лабораторию социального, а не «онтологический театр» живых существ, как выразился историк науки Эндрю Пикеринг[318].
В 1943 году Мак-Каллок и Питтс, интерпретируя лабораторные данные, предложили формально представить мозг человека как «нервную сеть», выполняющую логические операции (см. рис. 6.1) – то есть как сеть вычислительных узлов, которые могли бы имитировать человеческое мышление, сводя логику к булевой логике и ее операторам И, ИЛИ и НЕ. Аналогия между анатомией мозга, логическим выводом и вычислительными устройствами была основана на наблюдении, что биологические нейроны демонстрируют двоичное поведение «вс»»ё или ничего». Если сумма импульсов от возбуждающих и тормозных синапсов превышает заданный предел, нейрон посылает сигнал в синапс следующего за ним нейрона (в противном случае остается в состоянии покоя)[319]. Новизна идеи заключалась не в сетевой форме как таковой, а в пороговой логике, которая в предложенной структуре воплощала булевы операторы и последовательные шаги логических рассуждений. Мак-Каллок и Питтс утверждали, что эти машины, регулируя поведение собственных узлов, «обучаются» подобно мозгу, то есть, самоорганизуясь, записывают сложную информацию.
Рис. 6.1. Эскиз искусственных нейронов (Мак-Каллок У., Питтс У. Логическое исчисление идей, относящихся к нервной активности // Нейронные сети: история развития теории. Кн. 5: Учеб. пособие для вузов / Под общей ред. А.И. Галушкина, Я.З. Цыпкина. М.: ИПРЖР, 2001. С. 11–15)
За несколько лет до этого, в 1938 году, американский математик и криптограф Клод Шеннон продемонстрировал, что электрические коммутационные схемы могут выполнять операции булевой логики. Он заложил фундамент компьютерной эры, разработав логические вентили И, ИЛИ и НЕ, которые вскоре стали использоваться во всех транзисторах и микрочипах[320]. Возникновение нейронных сетей как ключевой идеи ИИ легче понять, исследуя логические вентили Шеннона, а не физиологию мозга. По сути, Мак-Каллок и Питтс утверждали, что нейронные цепи мозга выполняют те же операции, что и электрические цепи Шеннона. Хотя авторы учебников по машинному обучению твердят, что концепция искусственных нейронов Мак-Каллока и Питтса вдохновлена структурой и поведением мозговых нейронов, верно обратное: эти ученые подходили к биологическим нейронам как к технологическим артефактам. Мак-Каллок и Питтс неявно предполагали, что физиология мозга гомологична коммуникативным технологиям их времени, основанным на электромеханических реле, механизмах обратной связи, электромеханическом телевидении и, в особенности, телеграфных сетях. В 1948 году на Хиксоновском симпозиуме по церебральным механизмам, о котором пойдет речь в следующей главе, Мак-Каллок убеждал коллег рассматривать нейроны в качестве телеграфных реле[321].
Историку науки и техники искусственные нейронные сети Мак-Каллока и Питтса покажутся не оригинальной идеей, а скорее развитием старой. Лора Отис, например, отметила, что аналогию между нервной системой и электрическими сетями установили еще в XIX веке: ею, в частности, пользовались изобретатель телеграфа Сэмюэл Морзе и физик Герман фон Гельмгольц[322]. В качестве иллюстрации тогдашнего интеллектуального климата можно привести такой пример: в лекции 1851 года о двигательной функции у животных (см. эпиграф к главе) берлинский физиолог Эмиль Дюбуа-Реймон объяснял сходство между нервной системой и электрическими телеграфными сетями с визионерским пылом, присущем скорее научной фантастике, чем науке.
Аналогия, имеющая отношение к коммуникационным инфраструктурам, выходит за рамки сравнения c «нейронным телеграфом» XIX века: ее можно найти также в кибернетических проектах самоорганизации следующего столетия. Эти проекты сыграли решающую роль в эволюции искусственных нейронных сетей. Идея самоорганизующихся вычислений, способных адаптироваться к окружающей среде и «обучаться» устойчивым образом, стала ключевой частью «эпистемического ансамбля» кибернетики, проложившего путь к машинному обучению[323]. Из-за академической гегемонии символического ИИ и широко распространенной антропоморфизации технологий трудно представить современный ИИ как технику самоорганизации информации или «спонтанный порядок», который возникает из данных. И все же это реалистичное описание того, что на самом деле происходит в процессе машинного обучения. Связь между самоорганизующимися вычислениями XX века и ИИ XXI века скрыта сложным напластованием технологических достижений, мешающим различать и ее происхождение, и развитие. В этой главе я провожу своего рода «раскопки» этого напластования, погружаясь в предысторию машинного обучения, когда социальные, коммуникационные и вычислительные сети были частью непрерывных и соприкасающихся движений самоорганизации.
Механизация самоорганизации
Во второй половине XX века самоорганизация стала популярной темой в широком спектре дисциплин, включая биологию, теорию хаоса, нейробиологию, термодинамику и даже неолиберальную экономику (если принять во внимание ее особый интерес к «спонтанному порядку» рынков). Как следует интерпретировать столь широко распространенный поиск принципов самоорганизации? Первое впечатление – речь идет о разноплановом движении, ищущем онтологический принцип жизни; однако подобный поиск «жизненных» принципов, по-видимому, отражает «принципы самоорганизации», которые можно также обнаружить в социетальных изменениях послевоенного периода.
Первоначально понятия самоорганизации и автономии зародились внутри современной политической философии (благодаря Спинозе и Канту) в качестве ключевых понятий для теоретических рассуждений об общественном договоре и личной свободе. Однако по какой-то причине в середине ХХ века принцип самоорганизации мигрировал из социальной онтологии и трансформировался во внесоциальный идеал виталистических философий (с наивысшим его проявлением в сформулированной Джеймсом Лавлоком гипотезе Геи, согласно которой Земля представляет собой сверхорганизм)[324]. В 1977 году Илья Пригожин был удостоен Нобелевской премии за исследования самоорганизующихся структур в неравновесных термодинамических системах[325]. В том же году вышла книга Лэнгдона Виннера «Автономная технология», содержание которой свидетельствовало о дальнейшей мутации дискурса самоорганизации. Теперь уже не природу, а технологию воспринимали «автономной» от человека и опасно ему неподконтрольной, тем самым возрождая франкенштейновские нарративы индустриальной эпохи[326]. Эти примеры показывают, что за века превращений внутри разных дисциплин концепция самоорганизации накопила толстый идеологический налет. Когда же и как именно сложилась современная идея самоорганизации?
Любопытно, что именно кибернетике – не естественной науке, а отрасли электромеханической инженерии – удалось перезагрузить научные дебаты о самоорганизации в XX веке, как заметила философ биологии Эвелин Фокс Келлер[327]. В 1940‑х годах кибернетика присвоила модерную мечту о создании «мыслящих машин», применяя новую технику. В индустриальную эпоху Бэббидж полагал, что автоматизация умственного труда произойдет с помощью машины, которая реализует ручной счет. Затем человеческое умозаключение было закодировано как логическая процедура – линейная последовательность пошаговых операций (подобная телеграфной ленте, как позже скажет Алан Тьюринг, представляя в уме свою машину). Таким образом, кибернетики исследовали другие способы создания «интеллектуальных автоматов». Вместо того, чтобы имитировать правила человеческого умозаключения, они стремились имитировать правила, по которым живые организмы организуются и адаптируются к окружающей среде. Самоорганизация понималась, что немаловажно, также как самовоспроизведение и самовосстановление. Этот ключевой аспект, который Кант подчеркнул в определении «органических существ», стал для кибернетиков руководящим принципом[328].
Кибернетики утверждали, что нашли у всех организмов базовый «механизм» поведения, который заключается в использовании информации в качестве средства обратной связи между окружающей средой и внутренней саморегуляцией. В одном из основополагающих текстов этой дисциплины Артуро Розенблют, Норберт Винер и Джулиан Бигелоу утверждали, что «Общие классы поведения одинаковы для машин и для живых организмов»[329]. Несмотря на различия в частных классах (у организмов, очевидно, нет колес и т. д.), в статье постулируется, что и машины, и организмы действуют благодаря информационной обратной связи, формирующей их цели и телеологию. Этот принцип кибернетики был фактически предвосхищен в начале XX века биологом Якобом фон Икскюлем, считавшим организм системой обработки информации, которая стремится приспособиться к окружающей среде. Икскюль определил обмен между нервной системой животного (Innewelt) и внешним миром (Aussenwelt, или Umwelt) как «функциональный круг» (Funktionkreis). Следует помнить, что неологизм Винера «кибернетика» (от греч. kybernetes, или рулевой) подчеркивает способность технической, социальной и живой системы контролировать себя через обмен информацией с окружающей средой. Совершенно очевидно, что и Икскюль, и кибернетики выводили из коммуникационных систем своего времени – телеграфа, телефона и радиосетей – аналогию взаимодействия живых существ с окружающей средой.
Изначально кибернетики рассматривали информацию в форме аналоговых электромагнитных сигналов, но затем постепенно перешли к цифровым, дискретным и вычислительным «битам»[330]. Согласно этой точке зрения, имитировать принципы самоорганизации живых существ могли не только машины, но и цифровые компьютеры (автоматы с конечным числом состояний)[331]. Британский психиатр Уильям Росс Эшби стал главным теоретиком самоорганизации в кибернетике. В статье 1947 года «Принципы самоорганизации» он продемонстрировал, что самоорганизация представляет собой свойство не только живых существ, но и «строго детерминированных» машин, то есть электронных вычислительных[332]:
Многие отрицали, что машина может «самоорганизоваться», то есть быть детерминированной и в то же время способной претерпевать спонтанные изменения внутренней организации. Вопрос о возможности этого не сугубо философский, его следует назвать фундаментальной проблемой теории нервной системы. Существует много свидетельств того, что она одновременно (а) представляет собой строго детерминированную физико-химическую систему и (б) может претерпевать «самоиндуцированную» внутреннюю реорганизацию, меняющую поведение. Иногда утверждалось, что эти два требования исключают друг друга. Цель этой статьи – показать, что машина может в одно и же время (а) быть строго детерминированной в действиях и (б) демонстрировать самоиндуцированное изменение организации[333].
Эшби применил эту теорию на практике, создав «гомеостат» (дань уважения гомеостазу живых систем в определении, которое дал Уолтер Брэдфорд Кеннон в 1926 году). Построенный из четырех громоздких электромеханических блоков гомеостат «самоорганизовывался» так, что это казалось противоположностью намеренной адаптации к внешним раздражителям. Грей Уолтер саркастически назвал этот аппарат machina sopora («спящая машина» на латыни), которая «двигается, только если ее потревожить, а затем находит удобное положение и вновь засыпает»[334]. В более поздней статье 1960 года «Принципы самоорганизующейся динамической системы» Эшби окончательно причислил самоорганизацию к механистической парадигме, стремясь избавиться от метафизики в вопросе возникновения жизни: «В прошлом биологи думали об организации как о чем-то внешнем, о чем-то добавленном к базовым переменным, но современная теория, основанная на логике коммуникации, рассматривает организацию как ограничение». Эшби пришел к этому выводу путем, который служит ярким примером стремления автоматизации вытеснить человечество и стать невидимой: «В будущем мы начнем слышать это слово [организации] реже, хотя важность операций, которым оно соответствует, будет в мире цифровых машин и “мозгоподобных” механизмов постепенно возрастать»[335].
Кибернетики, в частности Эшби, рассматривали самоорганизацию как ключ к имитации структур мозга, а не живых структур вообще. Иными словами, самоорганизацию нейронных сетей изучали как ключ к разумному поведению. Поворотный момент в этих дебатах наступил в 1949 году, когда нейропсихолог Дональд Хебб опубликовал принципиально важную книгу «Организация поведения», в которой утверждал, что нашел базовое правило самоорганизации в нейронных сетях[336].
Хебб зафиксировал необычное явление: нейроны, которые одновременно активировались, также усиливали связь между собой:
Когда одна клетка многократно участвует в активации другой клетки, аксон первой клетки развивает синаптические выступы (или увеличивает уже существующие), которые находятся в контакте с сомой второй клетки… Общая идея не нова: любые две клетки или системы клеток, которые активируются многократно и одновременно, имеют тенденцию становиться «связанными», так что активность одной способствует активности другой[337].
С тех пор это поведение мозга называют теорией клеточных ансамблей Хебба и выражают известным тезисом: «Нейроны, которые активируются вместе, связываются». Открытие Хебба можно считать первым кодифицированным правилом нейропластичности, а также первым правилом самоорганизации алгоритмов машинного обучения. Стремясь реализовать правило Хебба на практике, ученый-когнитивист Фрэнк Розенблатт придумал в качестве самоорганизующейся машины первую действующую искусственную нейронную сеть – перцептрон (см. далее и главу 9).
Теории самоорганизации и ранний цифровой компьютер
Поле исследований самоорганизации в те годы было шире, чем это представляется сегодня: достаточно вспомнить, что все первопроходцы цифровых вычислительных машин, такие как Джон фон Нейман, Конрад Цузе и Алан Тьюринг, – каждый в свое время, – рассматривали самоорганизацию в качестве техники вычисления. Так, например, фон Нейман (разработчик основной архитектуры цифровых компьютеров, которая до сих пор носит его имя) исследовал радикальные формы автоматизации, работая на вооруженные силы США. Он размышлял о машине (Универсальном конструкторе), которая могла бы воспроизводить и восстанавливать себя сама. Армия, конечно, была заинтересована в самовоспроизводящихся и самовосстанавливающихся машинах и артиллерийских орудиях[338]. Наблюдение за процессами воспроизводства «живых организмов» вдохновило попытки повторить их внутри «вычислительных машин», установив спорную аналогию между органическими клетками и вычислительными единицами. Универсальный конструктор стал одной из реализаций общей теории клеточных автоматов, то есть конфигурации вычислительных единиц, которые изменяются и развиваются в двумерном пространстве подобно органическим клеткам (см. рис. 6.2).
Рис. 6.2. Работа конструирующего рукава (Нейман Дж. Теория самовоспроизводящихся автоматов. М: Мир, 1971. С. 374)
Клеточные автоматы представлены в виде кластеров элементов, которые меняют расположение и перемещаются, согласуясь с соседними «клетками» и образуя изменчивые геометрические фигуры. Таким образом, они претендуют на имитацию форм жизни в естественной среде. На Хиксоновском симпозиуме в 1948 году Нейман призвал других делегатов понимать вычисления (включая машины Тьюринга и искусственные нейронные сети) как форму самоорганизации. Он утверждал, что самовоспроизводящиеся единицы могут выполнять все стандартные вычислительные операции, воспроизводя себя, подобно биологическим клеткам[339]. Идея клеточных автоматов долгое время сохраняла влиятельность. Цузе, разработавший первый программируемый электрический компьютер в Берлине в 1938 году, распространил логику клеточных автоматов на физику и общие законы Вселенной. В книге «Вычисление пространства» 1967 года он представил Вселенную состоящей из дискретных пространственных единиц, которые самоорганизуются подобно клеточным автоматам, то есть в соответствии с состоянием и поведением соседних единиц[340]. Согласно Цузе, энергетические взаимодействия между атомами можно формализовать в виде вычислительных единиц и, следуя этому подходу, переписать законы физики – например, гравитацию – в комбинаторной форме. В этом смысле Цузе рассматривал теорию расчета пространства как парадигму, которая заменит квантовую физику так же, как та заменила классическую[341]. С эпистемологической точки зрения мы вновь сталкиваемся с механической парадигмой, которая открыто стремится стать парадигмой природы, но в этом случае заменяя не биологические, а физические законы. Именно машина с конечным числом состояний (скажем, цифровой компьютер) становится онтологической моделью структуры самой Вселенной.
Рис. 6.3. Диаграммы с паттернами пятен и расчеты, сделанные Тьюрингом для работы по морфогенезу, ок. 1950 (Лист AMT/K3/8, Архив Тьюринга, Королевский колледж Кембриджа)
Эссе Тьюринга «Химические основы морфогенеза», опубликованное за два года до его смерти, также принадлежит традиции самоорганизующихся вычислений[342]. В этой поздней статье Тьюринг представил молекулы организмов в виде самовычисляющих акторов, которые через взаимодействие выражают сложные автопоэтические структуры. С помощью этого подхода он попытался смоделировать в форме самоорганизующихся вычислений паттерны щупалец у гидр, расположение мутовок у растений, гаструляцию эмбрионов, пятнистость шкур животных и филлотаксис у цветов. Для создания паттернов (известных с тех пор как «паттерны Тьюринга») он использовал одну из первых центральных ЭВМ Манчестерского университета и выполнил огромное число подсчетов вручную (см. рис. 6.3). Тьюринг предупреждал, что «эта модель будет упрощением и идеализацией, а следовательно – фальсификацией», хотя и выражал, как и любой кибернетик, надежду, что «воображаемые биологические системы и обсуждаемые принципы окажут некоторую помощь в интерпретации реальных биологических форм»[343].
Военные опасаются самоорганизующихся сетей
Теории самоорганизации не только существовали в кибернетических мечтах о живых автоматах, но и входили в арсенал рациональности холодной войны[344]. Как часто бывает, главным спонсором исследований в этой области в США стали военные, интересовавшиеся логикой самоорганизации, видя в ней альтернативное и более эффективное средство вычислений. В конце 1950‑х годов Управление военно-морских исследований США (ONR) приняло решение спонсировать серию симпозиумов по самоорганизации, благодаря которым сохранились исторические документы, свидетельствующие о широкой реакции на исследования искусственных нейронных сетей в то время. Как ни странно, даже в монументальной истории ИИ Маргарет Боден не упомянуты симпозиумы, помимо Дартмутского семинара 1956 года, уникальное историческое значение которого признавалось неоднократно.
В мае 1959 года Маршалл Йовитс, глава недавно созданного отдела информационных систем ONR, председательствовал на конференции «Самоорганизующиеся системы», которая проводилась в сотрудничестве с Иллинойским технологическим институтом. Йовитс пригласил кибернетиков как из лагеря коннекционистов, так и из лагеря символического ИИ[345]. Предвидя противостояние этих двух парадигм и ограниченность символического ИИ, он утверждал, что «определенные типы задач, в основном связанные с нечисловыми типами информации, могут быть эффективно решены только с использованием машин, которые демонстрируют высокую способность к обучению и самоорганизации»:
Примеры задач этого типа включают автоматическое считывание отпечатков, распознавание речи и образов, автоматический языковой перевод, поиск информации и управление большими и сложными системами. Для эффективного решения задач такого типа, вероятно, требуется некоторая комбинация вычислительной машины с неизменяемой хранимой программой и самоорганизующейся машины.
Конференция продемонстрировала междисциплинарные амбиции кибернетики. Йовитс подчеркнул, что представители наук о жизни – психологи, эмбриологи и нейрофизиологи – стремятся понять характеристики самоорганизующихся биологических систем, в то время как «математики, инженеры и физики пытаются разработать искусственные системы, способные проявлять свойства самоорганизации»[346].
Материалы конференции помогают пролить свет на то, как разворачивалась дискуссия о самоорганизации за пределами канонических для кибернетики тем. Несмотря на разнообразие представленных позиций, основным сюжетом стала самоорганизация вычислительных сетей. Инженер-электрик Белмонт Фарли открыл конференцию обзором основных зрительных «систем, которые автоматически организуют входные данные об окружающей среде в виде распознаваемых перцептов и паттернов с целью классификации». Статья Фарли продолжала исследования, которые он проводил в годы Второй мировой: во время бомбардировок Лондона испытывал радар нового типа, способный выявлять низколетящие самолеты люфтваффе. Следовательно, самоорганизация зрительного поля уже давно была предметом военной автоматизации. Среди других участников конференции был зоолог Роберт Ауэрбах, который попытался описать «организацию и реорганизацию эмбриональных клеток» в математических терминах, то есть как «перенос информации (индукцию)» внутри «растущих автоматов» (живых клеток). В расширенный исследовательский проект, направленный на понимание принципа самоорганизации в природе, британский кибернетик Гордон Паск внес идею «естественной истории сетей» для доказательства сходства социальных и естественных сетей:
[Если] наблюдатель желает использовать любые возможности самоорганизации, которыми способна обладать сеть, он должен смотреть на нее как естественный историк… используя термин «сеть» в общем смысле и подразумевая любой набор взаимосвязанных и измеримо активных физических сущностей. Возникающие в природе сети – например, болото, колония микроорганизмов, исследовательская группа и человек – представляют интерес, поскольку имеют самоорганизующийся характер»[347].
Симпозиум 1959 года важен также потому, что позволяет увидеть развитие выдвинутой Мак-Каллоком и Питтсом идеи искусственных нейронных сетей, которые не сводятся к машинам ввода-вывода с черным ящиком, но представляют собой системы, стремящиеся имитировать и воплотить нейропластичность. Через десять лет после фундаментальной статьи 1943 года Мак-Каллок принял участие в симпозиуме, стремясь подчеркнуть, что ключ к нейронным сетям заключается в самоорганизации и что именно на этот принцип следует ориентироваться в разработке «безошибочных сетей ошибающихся нейронов». Мак-Каллок интуитивно понял, что вычисление не обязательно должно быть точным, чтобы быть эффективным, и может опираться на «избыточность вычисления» (это по сей день остается и силой, и ограничением машинного обучения). В парадигме искусственных нейронных сетей «информация доставляется к большому количеству так называемых нейронов, и эти жалкие нейроны, работая при вычислении параллельно, могут выдать правильный ответ, даже если поведение отдельных нейронов неправильное»[348].
Следующим мероприятием, спонсируемым ONR, стал «Симпозиум по принципам самоорганизации», созванный Хайнцем фон Фёрстером в 1960 году в сотрудничестве с Биологической компьютерной лабораторией Иллинойского университета в Урбане-Шампейне. Материалы встречи показывают, что разработки Розенблатта и искусственные нейронные сети Мак-Каллока и Питтса были лишь островом в большом архипелаге исследовательских проектов по самоорганизации[349]. Большинство докладов касались нейронных сетей (они же «случайные сети») и, в частности, таких вопросов, как методы обучения, исправление ошибок, индуктивный вывод, распределенная память, распознавание образов, а также прототипов самоорганизующихся аппаратных единиц, или нейристоров (то, что сегодня назвали бы нейроморфными чипами).
Среди участников следует отметить неолиберального экономиста Фридриха Хайека, который в 1952 году написал часто упускаемый из виду трактат о коннекционизме «Сенсорный порядок» (см. главу 8). Присутствие Хайека свидетельствует о пересечении в теме самоорганизации интересов военных, экономистов, кибернетиков и промышленников. Кибернетики стремились показать, что их теории полезны для экономики и промышленности. Не случайно первый доклад на симпозиуме был посвящен «электроэнцефалограмме одного из крупнейших сталелитейных заводов Великобритании». Стаффорд Бир, автор доклада, рассматривал организацию завода как эквивалент мозга[350]. В 1959 год Бир уже предлагал план кибернетического завода в книге «Кибернетика и менеджмент» (Cybernetics and Management), что служит примером политического кредо кибернетики, предполагающее одинаковое отношение к машинам, организмам и рабочим. Хотя позднее в 1971 году Бир сотрудничал с социалистическим правительством Сальвадора Альенде в рамках проекта Cybersyn, он придерживался менеджериального взгляда на экономику. На этой конференции его главной заботой, по-видимому, была самоорганизация промышленного управления – то есть среди всех аспектов общества его интересовал хозяйский глаз.
Судьба проекта Cybersyn служит примером трудной судьбы политики самоорганизации. Коммуникационная сеть для управления чилийской экономикой Cybersyn возникла одновременно с Arpanet (предшественница интернета, финансируемая Министерством обороны США), но была менее продвинутой. Если Arpanet представлял собой децентрализованную сеть с пакетной коммутацией, то Cybersyn оставался централизованной сетью телетайпов, объединенных одной ЭВМ. Arpanet основывался на идее, что децентрализованная коммуникационная сеть может пережить вражескую атаку подобно нейронным сетям мозга, которые в случае повреждения реорганизуются. Таким образом, армия США раньше всех усвоила идею сетевой пластичности. Проект Cybersyn был закрыт, когда совершенный при поддержке ЦРУ государственный переворот положил конец жизни Сальвадора Альенде (и чилийской демократии)[351].
От линейной информации к информации самоорганизующейся
С точки зрения современного глубокого обучения ключевую роль в этих конференциях сыграло участие Фрэнка Розенблатта. В 1957 году в Корнеллской авиационной лаборатории в Буффало, штат Нью-Йорк, Розенблатт разработал первую статистическую искусственную нейронную сеть – т. н. перцептрон. Спустя несколько поколений технологических модификаций именно она легла в основу архитектуры глубокого обучения. Розенблатт приезжал на упомянутые конференции, чтобы публично защитить свои прототипы, которые представляли собой весьма уязвимые для критики эксперименты. Перцептрон, появившийся на свет под влиянием различных теоретических и технических факторов (см. главу 9), задумывался как самоорганизующаяся вычислительная сеть, способная распознавать образы за счет поиска и обнаружения оптимальных значений собственных параметров при постепенном подстраивании их под входные данные. Как заметил Розенблатт на одной из таких конференций, перцептрон «приходит к своей организации спонтанно, то есть она не заложена в систему изначально».
Какое это было устройство? Один из первых прототипов, перцептрон Mark I, представлял собой аналого-цифровую машину, состоящую из входного устройства (20 x 20 фотоэлементов, т. н. сетчатка). Фотоэлементы соединялись проводами со слоем искусственных нейронов, которые давали на выход общий сигнал (световой индикатор: лампочка включалась или выключалась, указывая, распознан шаблон или нет). Сетчатка перцептрона регистрировала простые формы, например буквы и треугольники, фотоэлементы передавали электрические сигналы последовательностям искусственных нейронов, которые их суммировали и запоминали результат в соответствии с кумулятивной логикой. Таким своеобразным образом в соответствии с планом Розенблатта в устройстве реализовывалось правило клеточных ансамблей Хебба.
Доклад Розенблатта на конференции 1959 года «Самоорганизующиеся системы» был посвящен генерализации зрительных стимулов, то есть распознаванию сходных образов в шумной среде. Ученый объяснял, «как мозг или мозгоподобная система способны распознать сходство между различными превращениями сенсорного паттерна или изображения». Розенблатта волновал вопрос о том, как статистическая нейронная сеть для распознавания образов способна обобщать случаи, выходящие за рамки набора обучающих данных. Проще говоря, речь шла о «дилемме различения [букв] N и Z» в разном визуальном отображении. Сформулированное Розенблаттом описание проекта можно и сегодня использовать для объяснения работы глубокого обучения:
Эта система способна к “абстракции” от преобразований, чаще всего встречающихся в данной обстановке, и может применять их затем к новым возбудителям, которые могут быть совсем не похожи по виду на показанные ей возбудители. Она может давать все результаты, которые дают более жестко построенные системы, но достигается это самопроизвольной организацией системы, а не жесткой структурой. Этот персептрон действительно является системой, которая “учится узнавать” в том смысле, что до предварительного опыта она способна к обобщению от данного возбудителя к его образу только с помощью медленного и трудного метода обобщения по смежности. В то же время после просмотра соответствующей предварительной последовательности (не включающей возбудителя, используемого в качестве проверочного), она выполняет то же задание сразу, не требуя на это какого-либо заметного периода “узнавания”[352].
Как объяснил Розенблатт на конференции 1961 года «Принципы самоорганизации», конструкция перцептрона отличалась от имевшихся искусственных нейронных сетей именно самоорганизующимся поведением, которое стало возможным благодаря «системе управления подкреплением»[353]. Хотя Розенблатт утверждал, что перцептрон – это «модель мозга», устройство имело куда большее отношение к самоорганизации информации, чем к имитации органических структур. Таким образом, перцептрон ознаменовал собой не столько биоморфный поворот в вычислениях, сколько топологический. Ученые-компьютерщики Марвин Минский и Сеймур Пейперт с оттенком пренебрежения переименовали коннекционизм в «вычислительную геометрию», потому что в его основе лежал расчет пространственных отношений, а не «настоящий ИИ».
В более общем плане топологический поворот ознаменовал переход от парадигмы линейной информации к парадигме самоорганизации, к которой, по моему мнению, следует отнести большое семейство методов машинного обучения. Этот поворот ввел второе пространственное измерение в модель вычислений, которая до этого понималась в основном в рамках линейного измерения числовых ЭВМ. Вместо того, чтобы обрабатывать визуальную матрицу по нисходящему алгоритму, согласно традиционной программе инструкций, следующей схеме машины Тьюринга, перцептрон вычислял пиксели визуальной матрицы восходящим и параллельным образом в соответствии с их пространственным расположением. В отношении вычислительных форм искусственные нейронные сети, в частности перцептрон, неявно отмечают точку расхождения между двумя парадигмами: линейной информацией (средства массовой информации, например телеграфы и числовые вычислительные машины, а также символический ИИ) и самоорганизующейся информацией (кибернетические системы, клеточные автоматы и, в конечном счете, коннекционистский ИИ). Историки ИИ Хьюберт и Стюарт Дрейфусы резюмировали эпистемическое различие между символической и коннекционистской школами следующим образом:
Один лагерь рассматривал ЭВМ как систему для манипулирования ментальными символами; другой – как медиум для моделирования мозга. Одни стремились использовать ЭВМ для создания формальной репрезентации мира; другие – для имитации взаимодействия нейронов. Одни считали, что парадигма интеллекта заключается в решении задач, другие указывали на обучение. Одни использовали логику; другие – статистику. Одна школа была наследницей рационалистической редукционистской традиции в философии; другая рассматривала себя как идеализированную целостную нейронауку[354].
В моей книге не дается краткое изложение саги о линейной информации в XX веке – о кибернетических петлях обратной связи, медиа-секвенсорах и символическом ИИ, а рассказывается параллельная история самоорганизующейся информации. Это необходимо для освобождения от наследия биоморфизма и таких исследовательских парадигм, как «Искусственная жизнь».
Вычислительное мышление и механистические аналогии разума
Научные устремления кибернетики существенным образом понимаются неверно. В действительности кибернетика была не наукой, а переоблачившейся инженерной школой – достаточно уверенной в себе, чтобы распространить свои информационные и вычислительные аналогии на некоторые аспекты природы и общества. Кибернетики, вопреки собственным заверениям, вместо конструирования машин, подобных организмам, (биоморфизм) занимались представлением организмов, подобных машинам, (техноморфизм), которые отражали окружающий их социальный порядок (социоморфизм). Подобно натурфилософам прошлых веков (каноническим примером служит работа Ламетри «Человек-машина» (L’homme Machine), 1747) кибернетики спроецировали на онтологию природы и мозга техническое устройство своего времени, состоящее из телеграфных сетей, электромеханических реле, систем обратной связи и электромеханического телевидения. Кибернетики использовали не научно-экспериментальный, а умозрительный (и часто наивный) метод аналогии, скорее проецируя заранее установленные правила на природу, чем выдвигая гипотезы о новых правилах. Настойчивое утверждение Мак-Каллока, Питтса и фон Неймана о том, что нейроны мозга представляют собой «переключательные органы», функционально эквивалентные электромеханическим реле, – хороший пример безапелляционных кибернетических аналогий[355].
Аналогия между организмами и машинами, на первый взгляд, кажется вопросом эпистемологического перевода между инженерными дисциплинами и биологией, но на самом деле указывает на более глубокую установку кибернетической инженерии. Возникает вопрос: каковы этические последствия рассмотрения промышленной машины в качестве организма, живого существа? Подобно «компьютерной науке», кибернетика была не наукой, а искусственным языком, инструкцией по эксплуатации компонентов машин – «машинной семиотикой», которую насильно перевели на онтологию природы[356]. Но если верно то, что технология способна влиять на научные парадигмы и модели Вселенной, в равной степени верно и то, что у технологии есть собственные демоны, и в пределах своей области она формируется внешними силами. Коммуникационные сети, например телеграф, представляют собой не просто технические аппараты, а социальные институты. Кибернетики проецировали техническую композицию, заложенную в их профессии трудом и знаниями, в качестве новой парадигмы мира. В частности, они проецировали на природу формы самоорганизации, которые уже были частью разделения труда и технической организации общества. Утверждения кибернетиков о том, что они имитируют самоорганизацию живых существ для создания машин, имплицитно говорит больше об организации общества и трудовых отношений той эпохи, чем о природе.
Мак-Каллок однажды заявил, что «каждый робот предполагает механистическую гипотезу о человеке»[357]. Согласно этому тезису кибернетической эпистемологии, изобретение машин может объяснить, как устроен человек – в соответствии с редукционистской идей, что машины и организмы сосуществуют в одной Вселенной и, следовательно, должны подчиняться одним и тем же физическим правилам. Здесь важно слово «робот» – из-за индустриального и феодального наследия оно подталкивает к другому прочтению. И тогда тезис, интерпретированный во всей полноте, может означать, что каждая форма автоматизации труда сообщает нечто о когнитивных моделях своей эпохи. Понимаемый таким образом, он созвучен одному из главных вопросов исторической эпистемологии – о влиянии организации труда в конкретную эпоху на формирование технологий и инструментов, а затем и научных парадигм, представлений о природе и моделей разума.
То, что я показал для индустриального периода, верно и для информационной эпохи: средства производства (не только телеграф и компьютеры, но и искусственные нейронные сети) имитируют – по своему внутреннему устройству – производственные отношения, то есть расширенную организацию труда в обществе. Информационные технологии усилили власть над обществом за счет интенсификации этой имитации, произошедшей не в силу технологического априори (как утверждают техно-детерминисты), а за счет социального априори, то есть благодаря изначальной способности таких технологий улавливать социальную кооперацию. Трудовая теория автоматизации XIX века находит подтверждение и в информационный век.
Не удивительно, что самая успешная техника ИИ – искусственные нейронные сети – лучше всего отражают и, следовательно, лучше всего схватывают социальную кооперацию. Парадигма коннекционистского ИИ победила символический ИИ не потому, что коннекционистский ИИ «умнее» или лучше имитирует структуры мозга, а скорее потому, что индуктивные и статистические алгоритмы улавливают логику социального сотрудничества эффективнее, чем дедуктивные. Прослеживая эволюцию от линейной к самоорганизующейся информации, историю анализа данных и машинного обучения, можно увидеть ИИ в перспективе как грандиозный процесс самоорганизации техносферы, который следует за трансформацией социального порядка.
Различные направления теории информации, кибернетики, исследований искусственного интеллекта и компьютерной науки объединились в 1950‑х годах[358]. Хотя военные, как мы видели, сыграли в США важную роль в финансировании многих таких проектов, ошибочно полагать, что им принадлежит исключительная заслуга в создании этих дисциплин. В этой книге я расширяю устоявшуюся генеалогию, выдвигая в противовес техно-детерминистскому и сильному интерналистскому прочтению информационных технологий столь же сильную экстерналистскую гипотезу. Устройство информационных машин соответствует – даже на уровне логических форм алгоритмов – формам социального взаимодействия в целом[359]. Иными словами, в XX веке не информационные технологии изменили общество, как предполагает мифологизированное представление об «информационном обществе», а, скорее, социальные отношения выковали коммуникационные сети, информационные технологии и кибернетические теории изнутри. Проект информационных алгоритмов соответствует логике самоорганизации и направлен на то, чтобы лучше схватывать социально-экономическую сферу, переживающую радикальное преобразование.
Автономность и автоматизация
Во второй половине ХХ века лозунг «Автономия!» стал общим для кибернетики и зарождающейся контркультуры. Пока кибернетики высокого уровня, чья работа финансировалась армией США, обсуждали «принципы самоорганизации» организмов и машин, активисты антиавторитарных движений предлагали внедрить те же принципы в социальные и политические институты. По сути, с двух сторон с разными целями шли дебаты о способности системы назначать себе новые правила, перехватывающие внешнее управление и противодействующие ему (в чем и заключается изначальный смысл слова «автономия»). Обе стороны, каждая по-своему, были формами политического авангарда и ответом на господство отживших режимов: европейского фашизма, сталинского тоталитаризма и американского капитализма. Так совпало, что выражения «кибернетика» и «поколение битников» придумали в 1948 году[360]. Через несколько лет после этого Норберт Винер определил фашизм и западный корпоративизм как идеологии «нечеловеческого использования человеческих существ». Но пока кибернетика укрепляла военное превосходство США во время и после Второй мировой войны, контркультура и студенческое движение решительно бойкотировали войну во Вьетнаме и гонку вооружений. Очевидно, что проект автономии для разных сторон означал разное. Для антиавторитарных движений автономия подразумевала свободу самоопределения и служила средством создания новых институтов и альтернативных форм жизни. Для кибернетиков в автономии раскрывалась технологическая утопия полной автоматизации и просвещенного общественного контроля – военно-промышленная фантазия, одним из элементов которой служил проект ИИ. Однако сам факт, что даже военные – традиционно самая иерархическая структура – заинтересовались формами распределенной коммуникации и самоорганизующимися сетями, служит признаком более глубоких преобразований.
В 1960‑х годах Движение за свободу слова в Калифорнийском университете в Беркли справедливо осудило первые центральные ЭВМ как технологию войны и социального контроля в руках правительства и корпораций. Медиа-исследователь Фред Тернер вспоминает, как 2 декабря 1964 года активист Марио Савио выступил с пламенной речью перед пятью с лишним тысячами студентов университета. Он «произнес три фразы, которые повлияли не только на Движение за свободу слова в Беркли, но и определили контркультурную воинственность 1960‑х годов в Америке и большей части Европы»:
Наступает день, когда работа с машиной вам настолько осточертеет и станет настолько отвратительной, что вы не сможете больше в этом участвовать, вы просто не сможете дальше этим молча заниматься. И вам нужно лечь всем телом на шестерни и колеса, на рычаги, на весь аппарат, вам нужно заставить его остановиться. Вы должны показать людям, которые управляют и владеют машиной, что она больше не заработает, если вы не обретете свободу[361].
Тернеру речь Савио напомнила о доцифровой эпохе, о рабочих, которые физически борются с машинами на этажах заводских зданий. Вместе с тем он связывает термин «машина» с зависимостью современного общества от информационных технологий, приступивших к реорганизации социальных отношений[362].
В следующее десятилетие критика информационных технологий сменила полярность: компьютерная наука впитала в себя устремления ранней контркультуры, а она заявила об освободительном потенциале информационных технологий (и даже мутировала в так называемую киберкультуру). Противоречивое переплетение социальной автономии и технологической автоматизации уже присутствовало, хотя и в скрытой форме, в дебатах 1960‑х годов. Компоненты контркультуры, особенно вдохновленные восточной духовностью, развили наивную тягу к кибернетике[363]. Журнал The Whole Earth Catalogue, который выходил в Калифорнии между 1968 и 1972 годами, стал кульминацией и синтезом как кибернетических, так и экологических традиций. Ричард Бротиган запечатлел эту конвергенцию в знаменитой сатирической поэме «За всем следят машины благодати и любви»[364]. Однако в Европе (я имею в виду, в частности, Герберта Маркузе из Франкфуртской школы и марксистов-автономистов) выдвигались требования использовать автоматизацию в битве за освобождение от промышленного труда. В Италии известный лозунг участников движения autonomia звучал так: Lavoro zero e reddito intero, tutta la produzione all’automazion («Ноль работы и полный доход, автоматизировать все производство целиком»).
Термины «автономия», «автономный», «автоматизация» и более амбивалентная «автономизация» (означающая, в зависимости от контекста, «быть автоматизированным» или «стать автономным») не эквивалентны и также отличаются от «самоорганизации». Этимологически классический греческий термин autonomia — от autos («cамо-») и nomos («закон») – означает власть давать себе новые привычки, правила и законы. Современность признает эту власть как ту, что принадлежит законодательным институтам, в особенности учредительному собранию, которое устанавливает политический порядок государства[365]. Автономия – одновременно и конституирующая, и разрушающая власть. Каждый раз, когда изобретается новое правило, старое может быть опровергнуто, аннулировано или инкорпорировано новым изобретением. Но верно и обратное: каждый раз, когда нарушается правило, формируется аномалия и возникает новая конституция – новое видение мира.
В кибернетике автономия определялась как способность технической системы, состоящей из множества агентов, находить новую организацию и равновесие по отношению к внешним воздействиям, то есть как способность адаптироваться к окружающей среде. Утверждалось, что таким образом техническая система проявляет эмерджентные свойства, которые человек-наблюдатель может воспринимать как «разумные». Здесь возникают вопросы, которые сопровождают мечты об ИИ по сей день: может ли автомат с конечным числом состояний проявлять свойства автономии? Может ли компьютер, запрограммированный следовать строгим правилам, восставать против базовых инструкций и изобретать новые? Если автономия представляет собой способность изобретать новое правило, то автоматизацию можно определить как слепое следование правилу, как в случае с вычислениями. В связи с этим австрийский философ Людвиг Витгенштейн замечал, что «следование правилу» всегда будет иметь разный смысл для людей и машин[366]. Принимая во внимание недавние дебаты о предвзятости ИИ, а также рассуждения о рисках «сверхинтеллекта», можно задаться вопросом, где ведется игра ИИ – в области автоматизации (следование правилу) или в области автономии (нарушение правила).
В заключение приведу альтернативное утверждение: технологии автоматизации всегда служили ответом на социальную автономию, и кибернетические техники самоорганизации, например искусственные нейронные сети, аналогичным образом служат отражением развивающихся социальных отношений своего времени. Оглядываясь назад, можно сказать, что и кибернетика, и послевоенные социальные движения были напрямую связаны с автономизацией знания и информации в труде и социальном поведении, что породило новые медиа и технологии. Такой взгляд с течением времени стал настолько общепринятой интерпретацией в теориях общества знаний и информационной экономики, что даже неолиберальные экономические парадигмы, такие как спонтанный порядок рынков Хайека или каталлактика, можно считать ответом на усилившийся обмен информацией в обществе в целом (см. главу 8). Историки-материалисты допускают диалектическую связь двух движений – стремления новых поколений рабочих к социальной автономии, с одной стороны, и появления новых технологий автоматизации, с другой. В конечном счете, разнообразные проекты автоматизации, возникшие после Второй мировой войны, служат способом управления развивающимися социальными силами, то есть методом организации «революции контроля» (по определению Бенигера) против становящегося все более мятежным общества[367]. Учитывая глобальную экономику, которая все сильнее зависит от информации, знаний и науки как ключевых экономических драйверов, нельзя считать случайным, что по крайней мере на Глобальном севере студенты и программисты обрели новую политическую субъектность, подобную движению промышленных рабочих.
В конце 1960‑х годов политический философ Марио Тронти предложил изменить тезис, который ранее считался мейнстримом в том числе в марксизме. Утверждалось, что капиталистическое развитие формирует организацию рабочих и их политику. Тронти же настаивал, что именно борьба рабочих всегда запускает капиталистическое развитие, включая появление технологических инноваций. Интересно, что с точки зрения европейского интеллектуала, кем был Тронти, «борьба рабочего класса достигла наивысшего уровня между 1933 и 1947 годами, особенно в Соединенных Штатах», что совпадает с взлетом кибернетики и цифровых вычислений[368]. Такие радикальные и нетрадиционные перспективы, подобные этой, следует исследовать, изучая эволюцию общества и технологий в XX и XXI веках. Судя по историческим трансформациям, которые я анализирую в этой книге, проект ИИ был не по-настоящему биоморфным (нацеленным на имитацию естественного интеллекта), а неявно социоморфным, то есть нацеленным на кодировку форм социальной кооперации и коллективного разума с целью их контроля[369]. Судьбу автоматизации интеллекта нельзя рассматривать отдельно от политического стремления к автономии: в конечном счете именно самоорганизация социального разума придала форму и импульс проекту ИИ[370].