рмодинамики.
Винер критиковал американскую «ортодоксальную» приверженность свободе рынка и рыночный фундаментализм. Для «американцев, применительно к жизненным условиям… вопросы информации будут оцениваться по стандартному американскому критерию: нечто обладает товарной ценностью, если на это нечто имеется спрос на свободном рынке». В самом деле, «судьба информации в типичном американском мире такова: она обречена стать тем, что можно продать или купить»; большинство людей, по мнению Винера, «не в состоянии вообразить фрагмент информации, у которого нет владельца». Винер считал эту точку зрения столь же ошибочной, как и необузданное стремление военных к засекречиванию всего на свете. Он ссылался, опять-таки, на идеи Шеннона: «поскольку информация и энтропия не сохраняются», они «в равной мере непригодны для того, чтобы быть товарами».
Информация не может сохраняться; ладно, с этим разобрались. Но действительно ли Винер рассуждал об «информации» в понимании Шеннона? Суть теории Шеннона, в изложении Уивера, сводилась к тому, чтобы различать общеупотребительное представление об информации как осмысленном сообщении и абстрактное, вычлененное представление о строках символов, выделенных и выстроенных с некоторой вероятностью из огромной вселенной бессмысленности. Для Шеннона «информация» могла определяться количественно, поскольку ее базовая единица, бит, была единицей переноса, передачи, а не понимания.
С другой стороны, когда Винер характеризовал понятие «информация» в своей книге, он регулярно отталкивался от классического, гуманистического значения этого термина. «…фрагмент информации для попадания в общий свод информации данного общества должен сообщать нечто, принципиально отличное от предыдущего общего запаса информации общества». Вот почему «школьники не любят Шекспира»: бессмертные строки Барда могут резко отличаться от случайных битовых потоков, но тем не менее они слишком уж знакомы публике, наделяющей слова смыслом, и находятся на «уровне накопления поверхностных клише текущей эпохи».
Впрочем, когда-то информационное содержание творчества Шекспира было в новинку. В годы послевоенного бума Винера беспокоило, что «огромный объем информации на душу населения» – от газет и кинофильмов до радио, телевидения и книг – порождает посредственность, информационный возврат к средним значениям. «Все чаще и чаще нам приходится употреблять стандартизированные, безвредные и бессодержательные продукты, которые, подобно белому хлебу из пекарен, изготавливаются, скорее, из-за их товарных свойств, а не из-за пищевой ценности». Винер взывал: «Спаси нас Небеса от первых романов, написанных только потому, что молодой человек помышляет о славе романиста, а не потому, что ему есть что сказать! И спаси нас небеса от математических исследований, правильных и элегантных, но лишенных, так сказать, души и тела». Во многом в трактовке термина «информация» Винер был ближе к Мэттью Арнольду (1869)[126], чем к Клоду Шеннону (1948): его больше заботили «душа и тело», чем «бит». Винер также разделял романтическое представление Арнольда о «создателе содержания». «Строго говоря, художник, писатель и ученый – все должны следовать побуждению творить, непреодолимому настолько, что, даже если бы им не платили за работу, они сами изъявляли готовность платить за возможность заниматься творчеством». L’art pour l’art[127]; это лозунг XIX столетия: творцы должны страдать, стремление к осмысленному выражению всегда превосходит стремление к прибыли.
Для Винера именно такова правильная мера «информации»: тело, душа, стремление, выражение. Впрочем, протестуя против коммодификации информации, он вновь вернулся к математике Шеннона и пониманию информации как энтропии.
Перенесемся в наши дни. Во многих отношениях Винер оказался прав. Нарисованная им картина сетевых контуров обратной связи в коммуникациях между машинами стала обыденностью современной повседневной жизни. Более того, с первых дней эпохи интернета цифровое пиратство категорически опровергло убеждение в том, что «информацию» – будь то песни, фильмы, книги или программы – возможно придерживать. Ну да, введите платный доступ – и контент все равно найдет лазейку на свободу, ведь информационная энтропия так велика, что ее невозможно контролировать.
С другой стороны, огромные транснациональные корпорации – в том числе крупнейшие в мире и наиболее прибыльные – ныне исправно опровергают утверждение Винера о том, что «информацию» нельзя накапливать или монетизировать. По иронии судьбы, «информация», которой они обмениваются, ближе к определению Шеннона, чем к винеровскому, вопреки математичности доказательств Шеннона.
Сервис Google Books обеспечивает бесплатное распространение сотен тысяч литературных произведений, но сама компания «Гугл», наряду с «Фейсбук», «Амазон», «Твиттер» и их многочисленными подражателями, усвоила базовую форму «информации» и использует ее для максимизации своих доходов. Петабайты шенноновской информации – казалось бы, бессмысленный поток кликов, лайков и ретвитов, фиксируемый практически для каждого, кто когда-либо выходил в сеть, – просеиваются через запатентованные алгоритмы глубинного обучения для микротаргетинга всего на свете – от показа рекламных объявлений до новостей (правдивых или вымышленных), которые мы встречаем при просмотре веб-страниц.
Еще в начале 1950-х годов Винер предлагал исследователям изучать структуры и правила поведения муравьев – в отличие от людей, – чтобы в один прекрасный день машины могли обрести «почти безграничные возможности интеллектуального развития», доступные для людей (но не для насекомых). Он находил утешение в мысли о том, что машины станут господствовать над нами только на «последних ступенях возрастания энтропии», когда «статистические различия между индивидуумами» станут «равны нулю». Сегодняшние алгоритмы дата-майнинга[128] ставят винеровскую методику с ног на голову. Они приносят прибыль, эксплуатируя наши «древние» мозги, а вовсе не имитируя кору головного мозга, собирают информацию по всем нашим кликам, постам и блогам, по ночным поискам сетевых удовольствий, и стараются учитывать именно крошечные, остаточные «статистические различия между индивидуумами».
Безусловно, некоторые недавние достижения в области искусственного интеллекта оказались поразительными. Компьютеры научились творить визуальные произведения искусства и музыкальные композиции, сопоставимые с произведениями признанных мастеров, то есть создают ту «информацию», которую больше всего ценил Винер. Но на сегодняшний день наибольшее влияние на общество оказывают сбор и обработка информации в понимании Шеннона: она определяет наши покупательские привычки, участие в политической жизни, личные отношения, конфиденциальность в сети и многое другое.
Во что может эволюционировать глубинное обучение, если «информация» впредь будет толковаться так, как предполагал Винер? Куда мы придем, если исследования в области ИИ будут вдохновляться моральными убеждениями Винера, его обеспокоенностью по поводу безудержного милитаризма, стремительного усиления власти корпораций, одержимых извлечением прибыли, самоограничивающей секретности и сведения богатства способов человеческого самовыражения до обмена взаимозаменяемыми товарами? Возможно, глубинное обучение позволит культивировать осмысленную информацию и избавит нас от безудержной и безжалостной погони за бессмысленными битами.
Глава 16Масштабирование
Нил Гершенфельд
физик и директор Центра битов и атомов МТИ, автор книг «FAB» и (совместно с Аланом Гершенфельдом и Джоэлом Катчером-Гершенфельдом) «Проектирование реальности», учредитель глобальной сети фаблабов.
В ходе вышеупомянутой встречи и переговоров в Коннектикуте Нил Гершенфельд внес в обсуждение глоток свежего воздуха, когда заявил, что терпеть не может «Человеческое применение человеческих существ»; эти слова встретили улыбками, как и его заявление, что информатика – это наихудшее, что могло случиться с компьютерами и наукой. В целом же он утверждал, что Винер упустил из вида последствия цифровой революции, происходившей в 1950-е (впрочем, некоторые наверняка скажут, что нельзя предъявлять подобное обвинение человеку, обитавшему, так сказать, на первом этаже недостроенного здания и лишенному дара ясновидения).
«Хвост виляет собакой, – продолжал Нил. – В моей жизни это были фаблабы и движение творцов[129]; когда Винер рассуждал об угрозах автоматизации, он не замечал очевидного, конкретно того, что доступ к средствам автоматизации позволит людям добиваться многого, скажем, через фаблабы; в моей области рост идет по экспоненте».
В 2003 году я навестил Нила в Массачусетском технологическом институте, где он руководит Центром изучения битов и атомов. Несколько часов спустя я еле пришел в себя после подробной экскурсии с демонстрацией весьма диковинных разработок. В частности, Нил показал мне работу своего ученика из популярного курса быстрого прототипирования («Как изготовить почти всё»), скульптора без инженерного образования, который создал портативное личное пространство для криков – вопи сколько угодно, твои крики записываются и воспроизводятся по запросу. Другой ученик с того же курса создал веб-браузер, позволяющий попугаям серфить в сети. Сам Нил занимался фундаментальными исследованиями по составлению дорожной карты для сугубо, казалось бы, фантастического «универсального репликатора». Словом, мне понадобилась пара лет, чтобы прийти в себя после этого визита.
Нил управляет глобальной сетью фаблабов – малых производственных систем с опорой на цифровые технологии; эти системы обеспечивают людям возможность создавать то, что им нравится. Будучи гуру движения творцов, объединяющего цифровую коммуникацию, вычисления и производство, он порой оказывается в положении, когда может взглянуть на текущие дебаты по безопасности ИИ со стороны. «Моя способность вести исследования основывается на инструментах, расширяющих мои возможности, – говорит он. – Спрашивать, интеллектуальны эти инструменты или нет, все равно что интересоваться, откуда мне известно, что я существую; это забавный философский трюк, не предполагающий эмпирической проверки». Его интересует «соотношение битов и атомов, граница между цифровым и физическим. С научной точки зрения это самая захватывающая задача, с которой я сталкивался».