Примечания
1
Американская арт-группа, наибольшая активность которой пришлась на середину 1960-х гг. Аббревиатура USCO расшифровывается как «Наша компания» (Us Company). Группа экспериментировала с «дополненным» кино, визуализацией музыки, инсталляциями и пр. – Здесь и далее, кроме особо оговоренных случаев, примеч. ред.
2
Имеется в виду университетский центр в американском штате Массачусетс.
3
Управляющую машину (фр.). Все дальнейшие цитаты из этой работы Винера приводятся по изданию: Винер Н. Кибернетика и общество. Человеческое применение человеческих существ. М.: АСТ, 2019.
4
Сетование на пороки общества и их обличение (по образу и подобию упреков, которые бросал своим современникам библейский пророк Иеремия).
5
Крика души (фр.).
6
Зд. устаревшими (фр.).
7
Встречи ученых для обмена опытом, продолжавшиеся с 1941 по 1960 г. Проходили в помещениях благотворительного фонда им. Джозайи Мэйси-мл. в Нью-Йорке. Всего состоялось 160 конференций; хотя далеко не все встречи касались кибернетики, со временем выражение «конференции Мэйси» приобрело, так сказать, выраженное «кибернетическое» содержание.
8
Уоррен Маккаллок – американский нейропсихолог и один из основоположников кибернетики. В настоящем переводе его фамилия передается по-русски единообразно, однако в оригинале разные авторы сборника указывают ее по-разному (McCullock и McCulloch).
9
Грегори Бейтсон – британский и американский философ, кибернетик и специалист по теории информации. На русском опубликованы его ключевые труды «Экология разума» (2000), «Разум и природа» (2007), «Ангелы страшатся» (2019).
10
Хайнц фон Ферстер – австрийский физик и математик, один из основоположников кибернетики, с 1949 г. жил и работал в США.
11
В названии раздела обыгрывается суффикс «-штейн», присутствующий во всех фамилиях людей, о которых говорится ниже. В отечественной традиции закрепились различные варианты передачи этого суффикса, поэтому по-русски будет «Эйнштейн» и «Витгенштейн», но «Гертруда Стайн».
12
Дж. Лилли – американский психоаналитик и нейробиолог, представитель «ученой контркультуры» 1970-х, к которой принадлежал и известный пропагандист и популяризатор восточной философии британец А. Уоттс (последний пытался развивать «общую семантику» на основании ранних работ Н. Винера).
13
По его собственным словам, Спенсер Браун был «математиком, инженером-консультантом, психологом, педагогом и практиком образования, психотерапевтом, писателем и поэтом». Его авторству принадлежит «математико-философская» работа «Законы формы» (1969), где предлагается минимизированная система записи выражений булевой алгебры.
14
Оба ученых внесли немалый вклад в разработку экспертных систем; Дж. Маккарти, упоминаемый выше, – автор термина «искусственный интеллект», пионер функционального программирования; Дж. Трауб (ниже) – математик, вывел ряд алгоритмов и предложил (вместе с Г. Возяковским) теорию вычислительной сложности.
15
Памела Маккордак – американский историк науки, уделяет пристальное внимание развитию кибернетики и разработке искусственного интеллекта, супруга Дж. Трауба (см. выше).
16
На русском (в переводе Г. Кружкова) это стихотворение американского поэта У. Стивенса обычно называют «Тринадцать способов нарисовать дрозда»; уже первая строфа этого стихотворения показывает, что, собственно, подразумевается в данном случае под определением «дзенское по духу стихотворение»: «Среди гор, засыпанных снегом, // Единственной движущейся точкой // Был глаз черного дрозда».
17
В психологии модель человеческой личности, отражающая восприятие и опирающаяся на предрасположенности (экстравертность, доброжелательность, сознательность, эмоциональная нестабильность, интеллект).
18
Джон Дайсон Фримен – американский физик-теоретик, один из пионеров квантовой термодинамики.
19
Этот авторский список объединяет философов (Бостром как теоретик трансгуманизма, Юдковски как поборник «дружественного ИИ»), инженеров-практиков (Маск) и ученых «физической» направленности (физик Хокинг и космолог Рис); вероятно, присутствие И. Маска, а не какого-то другого инженера в данном списке объясняется – помимо того что он, наряду с перечисленными учеными, публично высказывает опасения относительно будущего человечества – его нынешней популярностью в обществе.
20
Английское слово governor («губернатор») восходит через латынь к древнегреческому kybernan («управлять, направлять»), как и предложенное Н. Винером слово «кибернетика».
21
Американский нейролингвист и математик, вместе с У. Маккаллоком исследовал возможности «компьютеризации» нейронов.
22
1 Американская сверхтяжелая ракета-носитель, использовалась для вывода в космос кораблей проекта «Аполлон» и космической станции «Скайлэб».
23
Вероятно, имеется в виду стремление Н. Винера обнаружить «язык» у животных и насекомых и приписывание человеку «врожденной» способности к шифрованию/дешифрованию сигналов.
24
В данном случае речь идет о т. н. туннельном эффекте в квантовой механике, когда частицы преодолевают энергетический барьер, величина которого превышает энергию этих частиц.
25
Американский когнитивист и кибернетик, директор центра биологического и компьютерного обучения МТИ.
26
М. Джордан – статистик и специалист по машинному обучению, профессор Калифорнийского университета в Беркли; Дж. Хинтон – британо-канадский когнитивист, ведущий научный сотрудник проекта Google Brain, где ведутся исследования ИИ на основе методов глубинного обучения.
27
Judea Perl. Causal Inference in Statistics: A Primer (with Madelyn Glymour and Nicholas Jewell). NY, Wiley, 2016. – Примеч. автора.
28
Компьютерная программа для игры в го, разработана в 2015 г.; получила дальнейшее развитие в программах AlphaGo Master, AlphaGo Zero и AlphaZero.
29
Ю. Харари – израильский историк, автор научно-популярного бестселлера «Sapiens: Краткая история человечества» (2011, рус. пер. 2016); С. Митен – английский археолог и популяризатор науки, автор книги «После ледникового периода: общая история человечества» (2003).
30
Steve Omohundro, «The Basic AI Drives», in Proc. First ОИИ Conf., 171: «Artificial General Intelligence», eds. P. Wang, B. Goertzel, & S. Franklin (IOS press, 2008). – Примеч. автора.
31
Исследователь искусственного интеллекта Джефф Хокинс, например, пишет: «Некоторые разумные машины будут виртуальными, то есть будут существовать и действовать исключительно в компьютерных сетях… Компьютерную сеть всегда можно отключить, даже если это будет тяжело». См.: https://www.recode.net/2015/3/2/11559576/. – Примеч. автора.
32
Доклад «AI-100» (Питер Стоун и др.), подготовленный по заказу Стэнфордского университета, сообщает следующее: «В отличие от того, что показывают в кино, расы сверхразумных роботов нет и не предвидится в обозримом или отдаленном будущем». См.: https://ai100.Stanford.edu/2016-report. – Примеч. автора.
33
Американский ученый, инвестор и предприниматель, соучредитель проекта Google Brain, бывший вице-президент китайской технологической корпорации «Байду», пионер онлайн-обучения (соучредитель проекта Coursera) и т. д.
34
Издание на русском языке: Бостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии. М.: Манн, Иванов и Фарбер, 2016.
35
Илон Маск, Стивен Хокинг и прочие (включая, к слову, и автора этих строк) удостоились приза «Луддит года» в 2015 г. от Фонда инновационных информационных технологий: См.: https://itif.org/publications/2016/01/19/artificial-intelligence-alarmists-win-itif%E2%180%199s-annual-luddite-award. – Примеч. автора.
36
Родни Брукс, например, утверждает, что невозможно создать настолько умную программу, чтобы «она могла изобрести способы разрушить человеческое общество для достижения целей, поставленных перед нею людьми, не сознавая, что тем самым вредит своим создателям». См.: http://rodneybrooks.com/the-seven-deadly-sins-of-predicting-the-future-of-ai. – Примеч. автора.
37
Гильотина (принцип) Юма – невозможность перехода от описательных суждений к предписывающим (вида «так есть – так должно быть»); по имени шотландского философа Д. Юма, утверждавшего, что не следует выводить моральные нормы из знаний о сущем. Натуралистической ошибкой английский философ Дж. Мур считал стремление дать определение добру как таковому и желание выводить этику из внеэтических явлений.
38
Kevin Kelly, «The Myth of a Superhuman AI», Wired, Apr. 25, 2017. – Примеч. автора.
39
Cooperative inverse-reinforcement learning.
40
См.: Hadfield-Menell et al., «The Off-Switch Game», https://arxiv.org/pdf/1611.08219.pdf. – Примеч. автора.
41
Тж. дифференциальный анализатор, механический (на шестернях и дисках) аналоговый компьютер для решения дифференциальных уравнений; первый аппарат, способный интегрировать уравнения любого порядка, был описан в 1876 г.
42
Английский философ Т. Гоббс трактовал мышление как логическую совокупность математических операций; немецкий философ Г.-В. Лейбниц предложил один из первых проектов логического исчисления («комбинаторики»).
43
Нетрудно догадаться, что автор весьма лаконично описывает эволюцию социальной сети «Фейсбук».
44
Подразумевается, что кора головного мозга у человека действует по принципу разделения системы на отдельные полуавтономные узлы.
45
Джон Серл – американский философ, критик идеи искусственного интеллекта; Дэвид Чалмерс – австралийский философ, выдвинул т. н. дуалистическую теорию сознания («легкие» проблемы сознания, доступные для решения традиционными методами, и «трудные», которые наука разрешить не в состоянии); Джерри Фодор – американский когнитивист, отстаивал гипотезу о существовании особого «языка мыш– ления».
46
О концепции сообществ разума см.: Минский М. Сообщества разума. М.: АСТ, 2018.
47
Термины теории сложности: сложная адаптивная система – «система систем», через взаимодействие со средой развивающая полезные и отвергающая бесполезные способности; странный аттрактор – характеристика нелинейных систем, «притягивание» (attraction) конкретной системы к аттрактору хаотическим образом; изучением расширенных состояний ума на рубеже минувшего и нынешнего столетий занялась нейробиология (нейротеология, нейрофилософия и пр.; гомеостаз – способность открытой системы сохранять стабильность внутреннего состояния).
48
Joseph Levine, «Materialism and Qualia: The Explanatory Gap», Pacific Philosophical Quarterly 64, pp. 354‐61 (1983). – Примеч. автора.
49
Джозеф Вейценбаум – американский ученый, один из пионеров кибернетики, автор «виртуального собеседника» ELIZA.
50
Обязательная тревога (этакий колокольный звон в голове всякий раз, когда некое слово приводится в качестве аргумента) позитивно описана мной в работе «Интуиционные насосы и другие инструменты мышления» (2013). – Примеч. автора.
51
В «Опасной идее Дарвина» (1995) я придумал аббревиатуру: слово Vast («огромный») можно расшифровать как «Намного (Very) больше, чем астрономический (ASTronomical)», а дополнительное определение «исчезающий (Vanishing)» заменяет обычные преувеличения «бесконечный» и «бесконечно малый» в обсуждении тех возможностей, которые официально не признаны безграничными, но фактически считаются таковыми на практике. – Примеч. автора.
52
Aylin Caliskan-Islam, Joanna J. Bryson & Arvind Narayanan, «Semantics derived automatically from language corpora contain human-like biases», Science, 14 April 2017, 356: 6334, pp. 183–6. DOI: 10.1126/science.aal4230. – Примеч. автора.
53
Английский физик и математик, автор гипотезы «космической цензуры» и популярной мозаики Пенроуза.
54
Тж. двигательные белки, т. е. белки, способные к перемещениям в молекулах.
55
Суперкомпьютер, способный отвечать на вопросы, задаваемые на естественном языке; назван в честь первого генерального директора компании-разработчика Т. Уотсона. В 2011 г. одержал победу над игроками-людьми в викторине «Jeopardy!».
56
Компанию Disney часто упрекают в том, что в своих фильмах и анимациях она «затушевывает» реальные проблемы.
57
Ежегодный конкурс на прохождение компьютерными программами теста Тьюринга; победителем признается та программа, которая проявит наибольшую «человечность».
58
См.: Joanna J. Bryson, «Robots Should Be Slaves», in Close Engagement with Artificial Companions, Yorick Wilks, ed., (Amsterdam, The Netherlands: John Benjamins, 2010), pp. 63‐74; http://www.cs.bath.ac.uk/~jjb/ftp/Bryson-Slaves-Book09.html; она же: «Patiency Is Not a Virtue: AI and the Design of Ethical Systems», https://www.cs.bath.ac.uk/~jjb/ftp/Bryson-Patiency-AAAISS16.pdf. – Примеч. автора.
59
Жажду странствий (нем.).
60
Топиар – искусство кустарниковой скульптуры; голые землекопы – грызуны семейства землекоповых, обитающие в Кении и Восточной Африке.
61
Проблеме разрешения (нем.). Речь о математической задаче, сформулированной Д. Гильбертом: требуется найти алгоритм, который принимает в качестве входных данных любой формальный язык/любое утверждение на этом языке, а после конечного цикла операций выдает заключение «Истина» или «Ложь» в зависимости от истинности/ложности утверждения. В статье Тьюринга (и в отдельно опубликованной статье А. Черча) доказывалось, что не существует алгоритма для определения истинности утверждений арифметики, поэтому проблема в целом не имеет решения.
62
Лауреаты Нобелевской премии по медицине (1962) за «открытия, касающиеся молекулярной структуры нуклеиновых кислот и их значения для передачи информации в живых системах».
63
«A Structure for Deoxyribose Nucleic Acid», Nature 171, 737‐738 (1953). – Примеч. автора.
64
https://en.wikipedia.Org//wiki/First_Draft_of_a_Report_on_the_EDVAC#Controversy. Фон Нейман указан как единственный автор, хотя другие ученые дорабатывали его концепцию; в общем, слава «архитектора» досталась ему одному. – Примеч. автора.
65
В этом особняке в годы Второй мировой войны располагалась Правительственная школа кодов и шифров – главное шифровальное учреждение Великобритании; среди сотрудников учреждения были А. Тьюринг и чемпионы по шахматам Х. Александер и С. Милнер-Барри.
66
Художественная субкультура, идеалом которой являются развитие общества на основе паровых технологий и квазивикторианское общественное устройство.
67
Дословно «ярмарки творцов»; мероприятия, организуемые американским журналом «Make» для «популяризации искусства, ремесел, научных проектов и прочих усилий самодеятельных творцов».
68
Имеется в виду теория статистической механики, разработанная американским ученым У. Гиббсом.
69
То есть рабочие и служащие соответственно.
70
Имеются в виду многочисленные технологические компании и стартапы, базирующиеся в Калифорнии.
71
В доме по этому адресу А. Эйнштейн проживал с 1935 по 1955 г. Сегодня там находится мемориальный музей «Дом Эйнштейна».
72
Science, 4 August 1972, Vol. 177, No. 4047, pp. 393–96. – Примеч. автора.
73
Гипотезу об инфляции (расширении) Вселенной на ранней стадии Большого взрыва выдвинул в 1981 г. американский физик А. Гут. Сегодня считается, что проверить эту гипотезу удастся, когда исследователи смогут «приблизить» свои эксперименты к моменту Большого взрыва.
74
Мысленного эксперимента (нем.). Обычно «изобретение» этого термина приписывается немецкому философу Э. Маху, который описывал воображаемое проведение некоего физического эксперимента – и затем просил своих студентов воспроизвести такой эксперимент в реальности.
75
Несведущие, не разбирающиеся в чем-либо (ит.).
76
Vincent C. Müller & Nick Bostrom, «Future Progress in Artificial Intelligence: A Survey of Expert Opinion», in Fundamental Issues of Artificial Intelligence, Vincent C. Muller, ed. (Springer International Publishing Switzerland, 2016), pp. 555‐72. https://nickbostrom.com/papers/survey.pdf. – Примеч. автора.
77
Upton Sinclair, I, Candidate for Governor: And How I Got Licked (Berkeley CA: University of California Press, 1994), p. 109. – Примеч. автора.
78
https://futureoflife.org/ai-principles/ – Примеч. автора.
79
Равновесие Нэша – одно из ключевых понятий теории игр, позиция, когда невозможно улучшить свой результат, если другие участники игры не меняют стратегий; американский математик Дж. Нэш доказал необходимость такого равновесия для всех конечных игр с любым числом игроков.
80
См., например: Hannah Arendt, Eichmann in Jerusalem: A Report on the Banality of Evil (New York: Penguin Classics, 2006). – Примеч. автора. Рус. пер.: Арендт Х. Банальность зла. Эйхман в Иерусалиме. М.: Европа, 2008.
81
См. Elizabeth Kolbert, The Sixth Extinction: An Unnatural History (New York: Henry Holt, 2014). – Примеч. автора.
82
Перевод В. Рогова. У. Хенли – английский поэт и литературный критик, друг Р. Л. Стивенсона.
83
Ирвинг Дж. Гуд – британский математик, вместе с А. Тьюрингом в годы Второй мировой войны трудился в Блетчли-парке, а после войны участвовал в разработке вычислительных машин.
84
Хью Прайс – австралийский философ-«неопрагматист», преподает в Кембриджском университете, с 2015 г. возглавляет Центр будущего интеллекта.
85
Тж. «песенная» и «поющая» революция, принятое в странах Балтии обозначение мирных акций конца 1980-х и начала 1990-х г., проводившихся с целью восстановления государственного суверенитета Латвии, Литвы и Эстонии.
86
Напечатано после смерти Тьюринга: Phil. Math. (3) vol. 4, 256‐60 (1966). – Примеч. автора.
87
Irving John Good, «Speculations concerning the first ultraintelligent machine», Advances in Computers, vol. 6 (Academic Press, 1965), pp. 31–88. – Примеч. автора.
88
Katja Grace, et al., «When Will AI Exceed Human Performance? Evidence from AI Experts», https://arxiv.org/pdf/1705.08807.pdf. – Примеч. автора.
89
Эту притчу Д. Адамс озвучил на конференции по цифровой биологии в Кембридже в 1998 г.
90
Американский инженер, теоретик молекулярной робототехники, автор апокалиптического сценария «торжества серой слизи» как итога развития ИИ.
91
DeepMind – британская компания в области искусственного интеллекта, разработчик программы AlphaGo и нейронной сети для видеоигр. OpenAI – американская некоммерческая организация в области ИИ (среди ее учредителей – И. Маск), декларирует своей целью создание «дружественного искусственного интеллекта». О проекте Google Brain см. выше.
92
Перечисляются апокалиптические сценарии гибели человеческого имущества и самого человечества из мифологии, классической литературы, современной поп-культуры и науки: Пандора в греческой мифологии – первая женщина, открыла запретный ящик с дарами богов, из-за чего на людей обрушились неисчислимые беды; в легенде о Фаусте любознательность ученого ведет к низвержению в ад (спасение души – более поздняя версия); в балладе И.-В. Гете «Ученик чародея» нерадивый подмастерье мага заставляет предметы обихода заниматься уборкой по дому – и едва не разрушает дом; ученый в романе М. Шелли «Франкенштейн» оживляет искусственного человека, который впоследствии принимается преследовать своего создателя; HAL (ХЭЛ или ЕАЛ 9000) – самообучающийся компьютер из цикла произведений «Космическая одиссея» А. Кларка, пытается умертвить экипаж звездолета; накануне 2000 г. в СМИ и в научной среде высказывались опасения, что при пересечении «рубежа столетий» компьютеры перестанут функционировать из-за нарушения логики; серая слизь – самореплицирующиеся наноботы, которые, как описывал в своей книге «Машины сознания» (1996) Э. Дрекслер, способны уничтожить все живое.
93
Жизненного духа (фр.).
94
Отсылка к знаменитым литературным произведениям – романам Дж. Оруэлла («1984») и А. Кларка («2001: Космическая одиссея»).
95
Neil Gross & Solon Simmons, «The Social and Political Views of American College and University Professors», in N. Gross & S. Simmons, eds., Professors and Their Politics (Baltimore: Johns Hopkins University Press, 2014). – Примеч. автора.
96
Отсылка к знаменитой одноименной книге Д. Карнеги.
97
Steven Pinker, «Safety», Enlightenment Now: The Case for Reason, Science, Humanism, and Progress (New York: Penguin, 2018). – Примеч. автора.
98
Квантовый алгоритм, один из первых алгоритмов для квантового компьютера.
99
Польский физик, специалист в области квантовых вычислений.
100
Кубит – квантовый разряд / наименьшая единица хранения информации в квантовом компьютере.
101
Перевод Ю. Корнеева.
102
Обезьянничанье (имитация конкретного поведения без понимания) использует «системные» функции, например зеркальную нейронную систему. Но поведение, имитируемое таким образом, существенно ограничено по сложности. См.: Richard Byrne, «Imitation as Behaviour Parsing», Phil. Trans. R. Soc., B 358:1431, 529‐36 (2003). – Примеч. автора.
103
Karl Popper, Conjectures and Refutations (1963). – Примеч. автора. Рус. пер.: Поппер К. Предположения и опровержения: Рост научного знания. М.: ACT, 2004.
104
Мем – единица культурной информации, любая идея, символ, осознанно или неосознанно передаваемые от человека к человеку посредством речи, письма, видео, ритуалов и пр.
105
Мэтт Ридли в «Рациональном оптимисте» справедливо подчеркивает положительное влияние населения на темпы прогресса. Но оно никогда не было определяющим; вспомните, например, древние Афины и их противостояние с остальным миром. – Примеч. автора.
М. Ридли – британский журналист, популяризатор науки: автор книги «Геном. Автобиография вида в 23 главах» и др.
106
Alfred, Lord Tennyson, The Revenge (1878). – Примеч. автора.
107
Якоб (Джейкоб) Броновски – британский математик и биолог польского происхождения, историк науки, автор и ведущий документального телесериала «Возвышение человека» (1973).
108
В стихотворном переводе С. Маршака смысл фразы Блейка искажен – речь не о «законе», а о разуме (mind-forg’d manacles), но в других известных переводах эта фраза вообще опущена. На самом деле речь идет о «кандалах, сотворенных разумом».
109
В оригинале: TOM – Totally Obedient Moron и DATA – Disobedient Autonomous Thinking Application.
110
Г. Саймон и А. Ньюэлл также, в частности, выдвинули т. н. гипотезу их имени, гласящую, что физическая символьная система имеет необходимые и достаточные средства для произведения основных интеллектуальных операций (т. е. символьные вычисления суть залог искусственного интеллекта).
111
Т. е. с оценкой / обновлением оценки вероятности верности гипотезы или наблюдения.
112
Дословно «сделай дрона своими руками».
113
Национальная лаборатория им. Э. Лоуренса в Беркли принадлежит Министерству энергетики США, находится в ведении Калифорнийского университета и выполняет несекретные ядерные исследования (в отличие от национальной лаборатории в Ливерморе).
114
Имеется в виду пропагандист, издатель и социальный активист Джозеф (Джо) А. Лабадье, прапрадед К. Андерсона.
115
Речь о физике-теоретике Р. Фейнмане и его сестре Дж. Фейнман, которая выбрала астрофизику.
116
Букв. «относящихся к химии».
117
Сверточная нейронная сеть использует при восприятии зрительного образа чередование сверточных (простые клетки) слоев и слоев подвыборки (сложные клетки); при этом каждый фрагмент изображения проецируется поэлементно, а результат обработки суммируется («сворачивается»).
118
Брутфорс – метод исчерпывающего перебора всех возможных параметров.
119
Имеется в виду гипотетическая физико-математическая теория, способная описать все известные фундаментальные взаимодействия в природе.
120
То есть по столице США.
121
Британский писатель и журналист, автор ряда статей для Британской энциклопедии; в поздние годы жизни активно интересовался изучением процессов научного мышления.
122
Букв. «многознатец», человек, хорошо разбирающийся как минимум в нескольких предметах.
123
Norbert Wiener, «A Scientist Rebels», The Atlantic Monthly, January 1947. – Примеч. автора.
124
Warren Weaver, «Recent Contributions to the Mathematical Theory of Communication», in Claude Shannon & Warren Weaver, The Mathematical Theory of Communication (Urbana, IL: University of Illinois Press, 1949), p. 8. Работы Шеннона за 1948 год были переизданы в этом же сборнике. – Примеч. автора.
125
Как (лат.).
126
Matthew Arnold, Culture and Anarchy, Jane Garnett, ed. (Oxford, U.K.: Oxford University Press, 2006). – Примеч. автора. Ср. изложение точки зрения М. Арнольда: «Существует универсальное благо. Оно называется культура. Ее суть обозначается непереводимым словом perfectness – «совершенство, проистекающее из завершенности и самодостаточности». Это состояние неизбежно порождает переживание окружающего мира как мира светлого и радостного и опирается на веру в Бога и на разум, просветленный знанием. Тот, кто трудится ради утверждения этого состояния, трудится во имя культуры. Тот же, кто трудится во имя машин и разного рода махинаций, тот трудится во имя ненависти, во имя всеобщей путаницы и смешения». См.: Кнабе Г. С. Тургенев, античное наследие и истина либерализма / Вопросы литературы. 2005. № 1. Электронная версия: https://web.archive.org/web/20141109170759/http://magazines.russ.ru/voplit/2005/1/kna6.html.
127
Искусство для искусства (фр.).
128
Тж. дата-майнинг, интеллектуальный анализ данных, совокупность методов обнаружения ранее неизвестных, практически полезных и доступных интерпретаций знания, необходимых для принятия решений в различных сферах человеческой деятельности.
129
Фаблаб (букв. «производственная лаборатория») – малая организация, предоставляющая возможность самостоятельного изготовления моделей, деталей и пр. Движение творцов (мастеров, созидателей и пр., в том числе «мейкеров») – свободное объединение людей, способных мастерить что-либо своими руками.
130
От начала исследований в области ИИ.
131
Перцептрон – математическая модель восприятия информации человеческим мозгом или устройство на базе такой модели.
132
Американский инженер, разработчик аналоговых компьютеров, советник по науке президента Ф. Д. Рузвельта.
133
Имеется в виду т. н. основная теорема Шеннона, которая гласит, что можно передавать сигналы со скоростью, сколь угодно близкой к максимально возможной, при сколь угодно малом числе ошибок.
134
Тж. нox-гены, большое семейство генов, определяющих схему строения тела у многоклеточных.
135
Первая цифровая революция – массовое распространение персональных компьютеров, вторая – появление сети интернет.
136
Детский конструктор, созданный в 1914 г. и выпускавшийся одноименной компанией.
137
Игра слов: то же название в переводе носила компания, основанная Д. Хиллисом и Ш. Хэндлер в 1983 г.; впоследствии компания обанкротилась и была приобретена корпорацией Sun Microsystems.
138
Перевод И. Соловьева.
139
Английский психиатр и кибернетик, описал гомеостат (самоорганизующуюся систему, которая моделирует способность живых организмов сохранять стабильное состояние).
140
В современной науке гомункул – не искусственный человек, как в классической литературе, а модель/репрезентация «большого» человека.
141
Выдающиеся логики и философы австриец К. Гедель, американец А. Черч и англичанин А. Тьюринг в эти годы вели исследования в рамках популярной тогда идеи Д. Гильберта об «аксиоматизации» математики (создании универсальной математической теории).
142
Имеется в виду Лондонское Королевское общество естественных наук; В. Рамакришнан возглавляет его с 2015 г.
143
Кейнс Дж. М. Экономические возможности наших внуков // Вопросы экономики. 2009. № 6. С. 60‐67. Перевод Д. Шестакова.
144
Американский антрополог, активный участник анархистского движения, считается идеологом движения «Захвати Уолл-стрит» («Оккупай»).
145
См. https://strikemag.org/bullshit-jobs/. – Примеч. автора.
146
Тж. экономика индивидуальной самозанятости, предполагает свободную и краткосрочную форму занятости – по принципу «участвую в проекте – иду дальше».
147
З. Гахрамани – британский ученый иранского происхождения, ведет исследования в области баейсовского вывода, графических моделей и вычислительной нейронауки. Демис Хассабис – британский когнитивист, разработчик видеоигр и предприниматель, соучредитель компании DeepMind (см. выше).
148
См., например: Dennett, From Bacteria to Bach and Back: The Evolution of Minds (New York: W. W. Norton, 2017). – Примеч. автора.
149
Отсылка к знаменитому изречению «Мыслю, следовательно, существую» («Cogito ergo sum»).
150
«Основания математики», фундаментальный труд Б. Рассела и А. Н. Уайтхеда, где предпринимается попытка показать сводимость математики к набору логических аксиом и ряда понятий.
151
Ученый глупец (фр.).
152
Так называемый принцип «кайдзен»: компания непрерывно совершенствует операционные процессы, постоянно стремясь к инновациям и развитию. См.: Лайкер Д., Хосеус М. Корпоративная культура Toyota: Уроки для других компаний. М.: Альпина, 2012.
153
См.: https://givingpledge.org/About.aspx. – Примеч. автора.
154
Американские благотворительные фонды, провозглашающие своей миссией сокращение бедности и обеспечение гарантий развития человека.
155
То есть современного искусства, творимого вне студий.
156
Зд. уникален.
157
Список наиболее влиятельных персон в мире искусства.
158
GUEST, GHOST, HOST: MACHINE!
159
Американский художник корейского происхождения, основоположник видеоарта как направления в медиаискусстве.
160
Одна из ключевых фигур европейского авангарда, друг В. Кандинского, в раннем творчестве активно экспериментировал с экспрессионизмом.
161
Выставочное онлайн-пространство «Гугл», развиваемое компанией в сотрудничестве со многими ведущими музеями и галереями мира.
162
Американский художник-экспрессионист, позднее – творец «комбинированных картин» (инсталляций) и поп-арта.
163
Художественная группа, призывавшая вывести искусство за пределы галерей и предъявить его публике в «деловом и рабочем контексте»; тем самым художники приобретут новый опыт и захотят его отразить.
164
Джон Стюарт Милль – британский философ, сторонник индивидуальной свободы, выводил моральную ценность поведения из его полезности. Б. Скиннер – американский психолог, основоположник бихевиоризма, в котором поведение человека рассматривается как реакция на внешнее раздражение.
165
Явление, сопутствующее другим явлениям.
166
Американский лингвист и философ, разрабатывал т. н. порождающую грамматику, когда в рамках системы правил «автоматически» строятся грамматически правильные предложения.
167
То есть журналы, предлагающие бесплатный полнотекстовый доступ в режиме реального времени к научным и учебным материалам в глобальной информационной сети без каких-либо ограничений.
168
Коннекционизм – моделирование поведения или мыслительных процессов в сетях простых взаимосвязанных элементов.
169
Американский психолог, изучал поведение животных, воспитание детей и реакцию публики на рекламные объявления.
170
Игровые приставки и одноименные торговые марки ряда компаний.
171
Brenden M. Lake, Ruslan Salakhutdinov & Joshua B. Tenenbaum, «Human-level concept learning through probabilistic program induction», Science, 350:6266, pp. 1332‐38 (2015). – Примеч. автора.
172
A. Gopnik, T. Griffiths & C. Lucas, «When younger learners can be better (or at least more open-minded) than older ones», Curr. Dir. Psychol. Sci., 24:2, 87‐92 (2015). – Примеч. автора.
173
A. Gopnik, et al., «Changes in cognitive flexibility and hypothesis search across human life history from childhood to adolescence to adulthood», Proc. Nat. Acad. Sci., 114:30, 7892‐99 (2017). – Примеч. автора.
174
L. Schulz, «The origins of Inquiry: Inductive inference and exploration in early childhood», Trends Cog. Sci., 16:7, 382‐89 (2012). – Примеч. автора.
175
A. Gopnik, The Gardener and the Carpenter (New York: Farrar, Straus & Giroux, 2016), главы 4 и 5. – Примеч. автора.
176
Междисциплинарная программа, охватывающая астрономию, физику и философию и направленная на всестороннее изучение черных дыр. Действует с 2016 г.
177
Так у автора. Вероятно, имеется в виду «Книга о сложении и вычитании» (она же «Книга об индийском счете»). Но не исключено, если учитывать последующее рассуждение об алгоритмах, что речь идет о «Краткой книге восполнения и противопоставления», латинский перевод которой начинается словами «Dixit Algorizmi» («сказал аль-Хорезми»).
178
William M. Grove & Paul E. Meehl, «Comparative efficiency of informal (subjective, impressionistic) and formal (mechanical, algorithmic) prediction procedures: The Clinical-Statistical Controversy», Psychology, Public Policy and Law, 2:2, 293‐323 (1996). – Примеч. автора.
179
Американский благотворительный фонд супругов Арнольд, основан в 2008 г. для «объединения филантропии и политики в рамках общего дела».
180
TED Talk, January 2014, https://www.ted.com/speakers/anne_milgram. – Примеч. автора.
181
В терминологии М. Фуко эпистема есть исторически обусловленная совокупность правил и отношений, характерных для конкретных места и времени.
182
Б. Альбин (Альбинус) – немецкий врач и естествоиспытатель, составил альбом «готичных» анатомических иллюстраций. У. Чезельден – английский хирург и анатом, немало способствовал становлению хирургии как научного медицинского направления.
183
«Камера-люцида», оптический прибор с призмой, служащий для переноса зрительно воспринимаемого образа на бумагу или холст.
184
Rebecca Wexler, «Life, Liberty and Trade Secrets: Intellectual Property in the Criminal Justice System», 70 Stanford Law Review, XXX (2018). – Примеч. автора.
185
«Илфорд фото» – британская компания – производитель фотопленки, химикатов и других фотоматериалов, один из мировых лидеров этого рынка до пришествия цифровой фотографии.
186
В генетике особые бактериальные локусы ДНК из повторяющихся последовательностей фрагментов, которые разделяются уникальными последовательностями фрагментов.
187
В фильме «Колосс» суперкомпьютер внезапно выходит из подчинения человеку. В «Терминаторе» рассказывается о противостоянии людей и машин, в «Матрице» повседневный мир оказывается виртуальной реальностью, а в фильме «Из машины» главный герой покоряется женщине-роботу с искусственным интеллектом.
188
Междисциплинарная деятельность на стыке этики и робототехники, направленная на изучение возможностей интеграции роботов в человеческое общество. Роботоэтика описывает социальные, моральные и юридические аспекты взаимодействия робота и человека.
189
Философская концепция американского палеонтолога и эволюционного биолога С. Гулда: наука и религия нигде не пересекаются. Под «магистериями» понимаются «области жизнедеятельности, где определенные способы познания обладают соответствующим инструментарием для ведения осмысленных дискуссий и принятия решений».
190
Мысленный эксперимент в этике, поставленный британской исследовательницей Ф. Фут в 1967 г.: каковы действия испытуемого при следующих обстоятельствах – неуправляемая вагонетка движется по рельсам, на ее пути находятся пять человек, которых привязал к рельсам безумный философ. Можно переключить стрелку, и вагонетка свернет на запасной путь, где привязан к рельсам еще один человек.
191
Жарг. «президентом США» (President of the United States).
192
Первый ребенок, появившийся на свет благодаря искусственному оплодотворению (ЭКО).
193
«Then, Doctors ‘All Anxious’ About Test-tube Baby», http://edition.cnn.com/2003/HEALTH/parenting/07/25/cnna.copperman/. – Примеч. автора.
194
Жарг. Суперкомпьютер.
195
То есть для белков, контролирующих синтез матричной рибонуклеиновой кислоты через конкретные участки ДНК.
196
Досл. «чудесный год» (лат.). Имеются в виду пяти открытий, сделанных А. Эйнштейном в 1905 г. – в фотоэлектрическом эффекте, в броуновском движении и в специальной теории относительности.
197
Эти ценности президент Рузвельт перечислил в ежегодном обращении к Конгрессу США 6 декабря 1941 г.
198
Американский врач и популяризатор науки Л. Касс является убежденным противником клонирования, искусственного продления жизни и эвтаназии. В его формулировке мудрость отвращения состоит в том, что интуитивное отторжение какой-либо идеи, объекта или практики нужно трактовать как признание вредоносности / ущербности этой идеи, объекта и практики.
199
«Мозговое»/«электронное» обеспечение машин – wetware (по аналогии с аппаратным и программным – hardware и software соответственно); Закон о равном доступе к технологиям для налогоплательщиков принят в США в 2015 г.; фонд «Открытые люди» – американская неправительственная организация, побуждающая делиться персональными данными «на благо образования, здравоохранения и научных исследований».
200
О П. Маккордак и Дж. Маккарти см. выше. Б. Хиббард – американский исследователь искусственного интеллекта, разработчик ряда систем визуализации данных.
201
Дилберт – герой одноименных сатирических комиксов, созданный американским художником С. Адамсом.
202
Синдром «автобиографической» памяти, когда человек предельно четко помнит собственную жизнь.
203
По описанию Дж. Серла, испытуемый сидит один в комнате. Он не знает ни одного китайского иероглифа, но при нем книга с точными инструкциями по манипуляциям иероглифами («Возьми такой-то из первой корзины и помести рядом с таким-то из второй корзины»). Информация о значении иероглифов отсутствует. Наблюдатель, знающий иероглифы, через щель передает в комнату листки с вопросами и ждет осознанного ответа. Фактически испытуемый обрабатывает компьютерный алгоритм в виде инструкции по обращению с иероглифами. Наблюдатель может отправить в комнату любой осмысленный вопрос и рассчитывать на осмысленный ответ, как при разговоре с человеком, который свободно владеет китайской письменностью.
Что касается трех законов Азимова, они следующие: «1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. 2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому закону. 3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам».
204
Так называемые социальные человекоподобные роботы двух брендов.
205
В бихевиоризме поощрение или наказание за конкретное действие.
206
Тж. синдром «лица эльфа», наследственное заболевание, внешним проявлением которого служат специфическая внешность и задержки в умственном развитии.
207
Методика диетического питания, призванная наполнять организм жирами вместо глюкозы.
208
Досл. В пробирке (лат.).
209
В ходе этих экспериментов исследовались все стадии заболевания сифилисом; испытания проводились на афроамериканцах, три четверти из которых умерли.
210
Британская исследовательница приматов, более 45 лет изучала социальное поведение шимпанзе в национальных парках Танзании.
211
См. https://www.nbcnews.com/news/us-news/lawyer-denying-chimpanzees-rights-could-backfire-disabled-n734566. – Примеч. автора.
212
В 2016 г. сотрудники Лазерно-интерферометрической гравитационно-волновой обсерватории (LIGO) в США и сотрудники Virgo (франко-итальянского проекта по изучению гравитационных волн) объявили об обнаружении волн от двух «черных дыр».
213
«Наука в научной фантастике», интервью проекту NPR.org, 22 октября 2018 г.
214
То есть о разнообразии культурных форм и движений.
215
Институт Эсален в Калифорнии ставит задачей «гармоничное развитие личности с помощью различных интегративных практик» (йога, медитация, гештальттерапия и пр.). Сегодня в Институте Эсален ежегодно проводятся около 500 различных обучающих мероприятий, конференций, семинаров и т. д.
216
То есть с формами самоорганизации машин.
217
С. Карно – французский физик и математик, заложивший основы термодинамики; Р. Клаузиус – немецкий физик и математик, автор работ по теоретической термодинамике; Дж. Максвелл – британский физик, основоположник классической электродинамики.
218
Позднее Винеру пришлось признать, что первым это слово использовал в 1834 году Андре-Мари Ампер, который подразумевал под кибернетикой «науку управления государством», но сама теория не была востребована до XX столетия. – Примеч. автора.
219
То есть «комбинаторами из фрагментов».
220
Robert Hughes, Time magazine (October 2, 1972), рецензия на выставку скульптур Цая в галерее Дениз Рене. – Примеч. автора.
221
Французская арт-группа (GRAV – Groupe de Recherche d’Art Visuel, «Группа исследователей визуального искусства») объединила художников, интересующихся кинетическим и оптическим искусством.
222
Н. Шеффер – французский художник, теоретик искусства, автор первой кинетической скульптуры с использованием электроники CYSP 1. Арт-группа ZERO стремилась «очистить немецкое искусство от абстракции».
223
См. Stephen Hawking’s The Meaning of Life (Smithson Productions, Discovery Channel, 2012). – Примеч. автора.
224
Mary Catherine Bateson, 1999 foreword to Gregory Bateson, Steps to an Ecology of Mind (Chicago: University of Chicago Press, 1972): xi. – Примеч. автора.
225
Gregory Bateson, Steps to an Ecology of Mind (Chicago: University of Chicago Press, 1972), P. 452. – Примеч. автора.
226
Ibid., pp. 467–8. – Примеч. автора.
227
Зд. Творчества.
228
Негэнтропия – противоположность энтропии, упорядоченность и организованность системы.
229
Чаще встречается формулировка «система компьютерной алгебры».
230
Речь о фильме «Desk Set» (1957), известном на русском как «Кабинетный гарнитур». Машина в этом фильме носит имя ЭМЕРАК (Electromagnetic Memory and Research Arithmetical Calculator – арифметический калькулятор для исследований и электромагнитного хранения данных).
231
ЭНИАК (электронный числовой интегратор и вычислитель – Electronic Numerical Integrator and Computer) – первый в мире электронный цифровой вычислитель общего назначения, программируемый под разные задачи.
232
Имеется в виду английский алфавит.
233
Речь о так называемой универсальной письменности, или пазиграфии, одним из образцов которой и выступает «аналитический язык» английского епископа Дж. Уилкинса, предназначавшийся для общения ученых и философов и призванный устранить двусмысленности естественного языка.
234
Г. Фреге – немецкий логик и философ, автор работы «Исчисление понятий, или подражающий арифметике формальный язык чистого мышления» (1879); Дж. Пеано – итальянский математик, создатель искусственного языка (впоследствии получил название интерлингва) и составитель аксиоматики арифметики (арифметика Пеано).
235
Персонаж одного из эпизодов австралийского телевизионного сериала «Да вы смеетесь»: пещерный человек Кранк всячески пытается приобщить своего товарища Огга к благам цивилизации, от мыла до социальных сетей, но тот раз за разом демонстрирует всю нелепость (с его точки зрения) современных изобретений.
236
Технология связи (радиосвязи) с общей полосой частот и разными кодирующими последовательностями сигналов.
237
Д. Адамс в «Путеводителе для путешествующих по Галактике автостопом» утверждает, что ответ на «Великий Вопрос Жизни, Вселенной и Всего Остального» составляет 42. Вокруг этой цифры было выстроено множество теорий, но незадолго до смерти писатель признался: «Всё очень просто. Это была шутка. Мне требовалось число, обыкновенное число, ничем не примечательное – и я выбрал 42. Двоичные представления, результат умножения на 13, козни тибетских монахов – всё чушь. Я сидел за столом, смотрел на сад и думал – точно, 42 будет в самый раз» (из ответов на вопросы читателей группы alt.fan.douglas-adams).