Генезис. Искусственный интеллект, надежда и душа человечества — страница notes из 34

Примечания

1

«Большая стратегия» (от англ. grand strategy) – ключевая категория в западной политологии, обозначающая принципы эффективного использования государством своих ресурсов для достижения военных и внешнеполитических целей. – Примеч. ред.

2

Роберт Оппенгеймер (1904–1967) – американский физик-теоретик и физик-ядерщик. Известен как научный руководитель Манхэттенского проекта, в рамках которого в годы Второй мировой войны разрабатывались первые образцы ядерного оружия, из-за чего Оппенгеймера часто называют «отцом атомной бомбы». – Примеч. ред.

3

В Гарвардском университете; в 1952 и 1954 годах Киссинджер получил соответственно степень магистра искусств и доктора философии. – Примеч. ред.

4

Разделение времени (англ. time-sharing) – способ распределения вычислительных ресурсов между многими пользователями с помощью мультипрограммирования и многозадачности. Появление данной концепции в начале 1960-х годов и активное развитие в 1970-е привело к значительному технологическому прорыву в истории вычислительной техники. – Примеч. ред.

5

Разведывательное сообщество США (Intelligence Community) – объединение правительственных ведомств, занимающихся сбором и анализом разведданных. Включает Управление директора национальной разведки, ЦРУ, подразделения Министерства обороны и разведорганы других ведомств. – Примеч. ред.

6

Дилемма безопасности – парадокс, при котором меры по укреплению безопасности одного государства воспринимаются другим как угроза, что может спровоцировать конфликт, даже если ни одна из сторон его не желает. Усиление мощи страны А вызывает контрмеры со стороны страны Б, а ее ослабление воспринимается как слабость, нарушая баланс сил и создавая угрозу. – Примеч. ред.

7

Доминирующая парадигма мышления – общепринятые и широко распространенные на данный момент времени ценности и система мышления общества (сообщества). – Примеч. ред.

8

Microsoft Research (MSR) – подразделение корпорации Microsoft, созданное в 1991 году для исследования различных вопросов и тем в области информатики. – Примеч. ред.

9

Antonio Pigafetta. The First Voyage Round the World, by Magellan [trans. from original accounts, circa 1525]. London: Hakluyt Society, 1874.

10

Ernest Shackleton. Diary entry, January 9, 1909.

11

Leif Mills. Frank Wild. Whitby: Caedmon, 1999. (State Library of New South Wales.)

12

Colin S. Shackleton Probably Never Took Out an Ad Seeking Men for a Hazardous Journey. Smithsonian Magazine, 2013.

13

María J. Benites. La mucha destemplanza de la tierra: Una aproximación al relato de Maximiliano de Transilvano sobre el descubrimiento del Estrecho de Magallanes. Orbis Tertius, 2013.

14

Zoe Hobbs. How many people have gone to space? Astronomy, Nov. 2023.

15

«Флот сокровищ» – флот Китая времен династии Мин, состоявший из самых больших деревянных кораблей в истории. Основной задачей флота было обойти как можно больше стран и привезти китайскому императору образцы того, чем эти страны богаты: золото, драгоценные минералы и сведения, полученные от местных мудрецов. – Примеч. ред.

16

Edward L. Dreyer. Zheng He: China and the Oceans in the Early Ming Dynasty, 1405–1433. Pearson Longman, 2007.

17

SpaceX (Space Exploration Technologies Corporation) – американская компания, основанная в 2002 году Илоном Маском для снижения затрат на космические полеты и для открытия пути к колонизации Марса. Разработала несколько ракет-носителей и космический корабль для снабжения МКС. Также реализует проект Starlink для глобального спутникового интернета. На 2022 год – крупнейший спутниковый оператор в мире. – Примеч. ред.

18

Полимат (от греч. polymathēs – «многоученый») – человек, обладающий глубокими познаниями в различных областях науки, искусства или культуры. Их часто называют универсальными людьми или интеллектуалами. Исторические примеры полиматов включают Леонардо да Винчи, Ибн Сину (Авиценну), Бенджамина Франклина, Михаила Ломоносова, французских энциклопедистов XVIII века (Дени Дидро, Жана Лерона д'Аламбера) и многих других. – Примеч. ред.

19

Roshdi Rashed. A Polymath in the 10th Century. Science, Aug. 2002.

20

Также около 828 года н. э. по приказу халифа аль-Мамуна в Багдаде при научной академии «Дом мудрости» создана обсерватория Шаммасия.

21

Аббасиды – династия халифов (750–1258), при которой наступил Золотой век ислама с расцветом наук, искусства и культуры. Багдад стал центром знаний, где развивались астрономия, медицина и другие дисциплины. – Примеч. ред.

22

Подробнее об этом см.: Nishikanta Chattopadhyaya (trans.). The Life and Writings of Averroes. Cheekoty Veerunnah & Sons, 1913.

23

Хемачандра (1089–1172) – индийский ученый, философ, поэт и грамматик, один из самых выдающихся эрудитов своего времени. Внес вклад в грамматику санскрита и пракритов, литературу, математику и философию. Его называли «знатоком всех знаний» за энциклопедическую образованность и многогранность. – Примеч. ред.

24

См.: Books by Shen, Kuo // Project Gutenberg. URL: https://clck.ru/3Lajyo (дата обращения: 07.04.2025).

25

Boris Menshutkin. Russia's Lomonosov: Chemist, Courtier, Physicist, Poet. Princeton University Press, 1952, p. 15.

26

Манхэттенский проект – секретный проект США (1942–1946), целью которого было создание первой атомной бомбы. В нем участвовали ведущие ученые, включая Роберта Оппенгеймера Энрико Ферми, Нильса Бора. Проект завершился испытанием бомбы в 1945 году и ее применением против Хиросимы и Нагасаки, что положило начало ядерной эре. – Примеч. ред.

27

Orrin E. Dunlap, Jr. An Inventor's Seasoned Ideas: Nikola Tesla, Pointing to Grievous Errors of the Past. New York Times, 1934.

28

Peter Martin. Von Neumann: Architect of the Computer Age. Financial Times, Dec. 24, 1999.

29

См.: Edward O. Wilson. Consilience: The Unity of Knowledge. New York: Vintage Books, 1998, p. 326.

30

«Смесь экспертов» (Mixture of Experts, MoE) – подход в машинном обучении, где вместо одной универсальной модели используется несколько специализированных моделей («экспертов»), каждая из которых решает определенные задачи лучше других. – Примеч. ред.

31

«Остров знаний окружен бескрайним океаном – неисследованным океаном неизвестного, где скрыты бесчисленные манящие тайны» – см.: Marcelo Gleiser. The Island of Knowledge: The Limits of Science and the Search for Meaning. New York: PublicAffairs, 2015, p. 8.

32

Объединение этих концепций остается одной из величайших нерешенных задач современной физики. – Примеч. ред.

33

Метод «грубой силы» (brute force) – предполагает полный перебор всех возможных вариантов, что крайне ресурсоемко. В шахматах такой подход еще применим, но для сложных игр вроде го он неэффективен из-за астрономического числа комбинаций. AlphaGo преодолела это ограничение благодаря машинному обучению, что позволило ей выработать стратегическое мышление и способность к абстракциям. – Примеч. ред.

34

Demis Hassabis. AlphaGo: using machine learning to master the ancient game of Go. The Keyword Google Blog, Jan. 27, 2016.

35

Видео партии в го Ли Седоля против AlphaGo, игра 2, ход 37, доступны в интернете. Дополнительно см.: Cade Metz. In Two Moves, AlphaGo and Lee Sedol Redefined the Future. WIRED, March 16, 2016; Graeme S. Halford et al. How Many Variables Can Humans Process? Psychological Science 16, no. 1 (2005), p. 70–76.

36

LLM, Large Language Models (Большие языковые модели) – алгоритмы ИИ для обработки естественного языка; модели, предварительно обученные на огромных объемах текстовых данных. Cпособны быстро обрабатывать запросы, синтезировать информацию и генерировать осмысленные ответы, что делает их мощным инструментом для решения сложных задач. – Примеч. ред.

37

См.: Richard Danzig. Machines, Bureaucracies, and Markets as Artificial Intelligences. Center for Security and Emerging Technology, Jan. 2022; Henry Farrell, Cosma Shalizi. Artificial intelligence is a familiar-looking monster. The Economist, Jun. 21, 2023; подробнее об аналогии с печатным станком см.: Samuel Hammond. AI and Leviathan: Part I. Second Best Substack, Aug. 23, 2023.

38

Более детальный разбор метафор, связанных с ИИ, см.: Matthijs Maas. AI is like…: A literature review of AI metaphors and why they matter for policy. Legal Priorities Project, Oct. 2023.

39

Возьмем, к примеру, случай с адвокатом, который в ходе судебного разбирательства подал исковое заявление, написанное ChatGPT, где модель сфабриковала ссылки на несуществующие «прецеденты». Судья в этом процессе наложил санкции на адвоката и его коллег. См.: Larry Neumeister. Lawyers submitted bogus case law created by ChatGPT. A judge fined them $5,000. AP News, Jun. 22, 2023.

40

Cм.: @porby. Why I think strong general AI is coming soon. LessWrong, Sep. 28, 2022.

41

Charles Darwin. On the Origin of Species. London: John Murray, 1859, p. 439. [Цит. по: Дарвин Ч. Происхождение видов / Пер. с англ. К.А. Тимирязева. М.; Л.: Сельхозгиз, 1935. – Примеч. ред.]

42

Greg Kestin. The Biggest Puzzle in Physics: Reconciling Quantum Mechanics and General Relativity. PBS, Feb. 14, 2018.

43

Здесь «разрешение» – это способность различать детали: для мозга предел задан числом нейронов, для ИИ – объемом данных и мощностью вычислений. Чем выше «разрешение» системы, тем тоньше анализ – как в случае мощного оптического прибора, но для информации. – Примеч. ред.

44

Миф о пещере Платона – аллегория из диалога древнегреческого философа Платона «Государство». Узники, прикованные в пещере, видят только тени на стене и принимают их за единственную реальность. Эта метафора иллюстрирует ограниченность человеческого восприятия и путь к познанию истины через преодоление иллюзий. – Примеч. ред.

45

Plato. The Allegory of the Cave [380 BC]. In: Collected Dialogues, P. Shorey trans. New York: Random House, 1963, pp. 747–752.

46

Geoffrey Hinton et al. The Forward-Forward Algorithm: Some Preliminary Investigations. arXiv, Dec. 27, 2022.

47

Demis Hassabis et al. Neuroscience-Inspired Artificial Intelligence. Neuron 95(2), 2017, pp. 245–258.

48

René Descartes. Sixth Meditation. In: Philosophical Writings of Descartes, vol. 2. John Cottingham et al trans. Cambridge University Press, 1984, p. 55.

49

Alfred North Whitehead. Process and Reality: An Essay in Cosmology. 2nd ed. New York: Free Press, 1979, p. 15.

50

Cм.: NYU Center for Mind, Brain, and Consciousness. Debate: Do Language Models Need Sensory Grounding for Meaning and Understanding? March 24, 2023.

51

Lauren Jackson. What If A.I. Sentience Is a Question of Degree? New York Times, Apr. 12, 2023.

52

Это верно в рамках некоторых теорий квантовой физики, где наблюдение вызывает объективные изменения в реальности. Это также верно в контексте человеческого понимания реальности, где наблюдение ИИ может вызывать субъективные изменения. См.: Marcelo Gleiser. The Island of Knowledge. PublicAffairs, 2015, Prologue: Our perception of what is real evolves with the instruments we use to probe Nature.

53

Общий искусственный интеллект, ОИИ (Artificial General Intelligence, AGI) – гипотетическая система ИИ с универсальными когнитивными способностями человека (обучение, творчество, понимание контекста). В отличие от узкоспециализированного ИИ, способна решать любые интеллектуальные задачи. На текущий момент не реализована. – Примеч. ред.

54

См. Ilya Sutskever [комментарии в:] Ross Andersen. Does Sam Altman Know What He's Creating? The Atlantic, Jul. 24, 2023.

55

Для дальнейшего изучения идеи Homo Technicus см.: Henry A. Kissinger, Eric Schmidt, Daniel Huttenlocher. ChatGPT Heralds an Intellectual Revolution. Wall Street Journal, Feb. 24, 2023.

56

См.: Salvador de Madariaga. Hernán Cortés: Conqueror of Mexico. Macmillan, 1941, p. 99.

57

По свидетельствам Кортеса и современников, он приказал затопить корабли после высадки в Мексике – это стратегическое решение лишило войска возможности отступить, вынудив их сражаться. Легендарный эпизод конкисты. – Примеч. ред.

58

Ацтеки, впервые увидев лошадей, были обескуражены. Конкистадоры использовали это в бою, укрепляя свой образ полубогов. – Примеч. ред.

59

В мезоамериканской культуре рождение детей с физическими отклонениями считалось божественным знамением, предвещающим судьбоносные события. – Примеч. ред.

60

История встречи Кортеса и Монтесумы остается спорным эпизодом истории. Испанские источники: Bernal Díaz del Castillo. The True History of the Conquest of New Spain (16th century); Hernán Cortés. Letters of Relation (1519–1526); Anonymous Nahua authors Florentine Codex (16th century); Bernardino de Sahagún Letter (1524). Альтернативную версию, ставящую под сомнение испанскую трактовку событий, см.: Camilla Townsend. Burying the White Gods: New Perspectives on the Conquest of Mexico. American Historical Review 108(3), 2003, pp. 659–687; Indigenous source. Annals of Tlatelolco (16th century); Diego Durán & Alfredo. ChaveroApendice-Explicacion del Codice Geroglifico…Vol. II, 1880, p. 71.

61

G. K. Chesterton. Christendom in Dublin. In: Collected Works, vol. 20. Ignatius Press, 2002.

62

Обратите внимание, в частности, на Калачакру[170].

63

Меритократия – система управления или общественного устройства, при которой власть, статус и возможности распределяются в зависимости от личных заслуг, способностей и достижений, а не происхождения, богатства или связей. – Примеч. ред.

64

Непотизм – практика предоставления привилегий, должностей или иных преимуществ родственникам или близким друзьям, часто в обход объективных критериев и в ущерб справедливости. Сегодня непотизм считается одной из форм коррупции и подрывает доверие к институтам власти. – Примеч. ред.

65

См.: Chamath Palihapitiya. Remarks at Stanford Graduate School of Business. Nov. 13, 2017.

66

См.: Alexis de Tocqueville. Democracy in America. Reeve trans. 2 vols. London/NY: Saunders & Otley / J. & H.G. Langley, 1835–1840.

67

Wang Yangming. Chuanxilu (Record of Transmitting the Mind). Disciples' compilation (after 1529).

68

Abir Taha. Nietzsche's Superman. Artkos Media, 2013, p. 93.

69

Правление философов-королей – адаптированная аль-Фараби платоновская модель, где власть делилась между философом (носителем мудрости) и правителем-администратором. – Примеч. ред.

70

Al-Farabi. On the Perfect State. Walzer trans. Clarendon Press, 1985, p. 253.

71

См.: T.C. A. Raghavan. Attendant Lords: Bairam Khan and Abdur Rahim. Uttar Pradesh: HarperCollins, 2017.

72

См.: Niccolò Machiavelli. The Prince. Parks trans. London: Penguin Classics, 2009.

73

См.: Strauss L. What Is Political Philosophy? Chicago, 1959.

74

См.: Johan Norberg. The Capitalist Manifesto. London: Atlantic Books, 2023.

75

Leo Tolstoy. War and Peace. Maude trans. Chicago: Encyclopedia Britannica, 1952, p. 646.

76

См.: Friedrich Hayek. The Use of Knowledge in Society, The American Economic Review, Sept. 1945; Thomas Sowell. Knowledge and Decisions. New York: Basic Books, 1996.

77

См.: Hannah Arendt. The Origins of Totalitarianism. New York: Harcourt, Brace, Jovanovich, 1951.

78

См.: Friedrich Hayek, The Road to Serfdom. Chicago: University of Chicago Press, 1944.

79

Simon McCarthy-Jones. Artificial Intelligence is a totalitarian's dream – here's how to take power back. The Conversation, Aug. 12, 2020.

80

Cм. также: Yuval Noah Harari. Homo Deus: A Brief History of Tomorrow. New York: Harper, 2017.

81

Immanuel Kant. Kant's Principles of Politics. Hastie trans. Edinburgh: T. & T. Clark, 1891, p. 36.

82

Hesiod. The Theogony. New York: Start Publishing, 2017; Aeschylus. Prometheus Bound. Roberts trans. Indianapolis: Hackett, 2012.

83

Lawrence H. Summers. Remarks at Harvard College China Forum. Apr. 17, 2022.

84

Соперничество Джона Адамса (2-го президента США) и Томаса Джефферсона (3-го президента США) – ключевой политический конфликт ранней американской истории. Начавшись как союзничество в Войне за независимость, их отношения переросли в ожесточенную вражду. – Примеч. ред.

85

Paul Scharre. America Can Win the AI Race. Foreign Affairs, Apr. 4, 2023.

86

Иран использовал центрифуги IR–1 для обогащения урана до 5% U–235. В 2010 году кибератака Stuxnet (приписываемая США и Израилю) вывела из строя около 1000 центрифуг в Натанзе (20% парка), повредив их двигатели и системы управления, что задержало ядерную программу на 1,5–2 года. – Примеч. ред.

87

William J. Broad et al. Israeli Test on Worm Called Crucial in Iran Nuclear Delay. New York Times, Jan. 15, 2011.

88

Dwarkesh Patel. Interview with Dario Amodei, CEO of Anthropic.

89

Jeremy Hsu. China's first underwater data centre is being Installed. New Scientist, Dec. 4, 2023.

90

Walter Pincus. Soviets Had Chance to Develop First A Bomb, Historian Says. Washington Post, 27 July, 1979.

91

Graham Allison, Eric Schmidt. Is China Beating the U.S. to AI Supremacy? Harvard Kennedy School Belfer Center, Aug., 2020.

92

Теория гегемонистской стабильности – концепция, согласно которой присутствие гегемона в мировой экономической системе является одновременно неотъемлемым и достаточным условием появления и сохранения либерального устройства в международной экономике. – Примеч. ред.

93

Компании Google DeepMind и Meta AI[171] уже создали алгоритмы, обыгравшие человека в стратегической игре «Дипломатия» (János Kramár et al. Negotiation and Honesty in AI for Diplomacy. Nature, Dec. 6, 2022.; FAIR Team. Human-Level Diplomacy Play via Language Models. Science, Nov. 22, 2022). Китайская академия наук создала алгоритмы ИИ на основе госданных, которые используются для оценки инвестиционных рисков и прогнозирования политических угроз. (Stephen Chen. AI in China's Foreign Policy. South China Morning Post, July 30, 2018).

94

Ксеркс I – персидский царь (486–465 до н. э.), организовавший вторжение в Грецию (480 до н. э.). Его посланцы требовали от греческих полисов символов покорности («земли и воды»). Уничтожение персидского посольства в Спарте стало формальным поводом для войны. – Примеч. ред.

95

См.: Herodotus. Histories of Herodotus. Cary trans. New York: D. Appleton and Company, 1904.

96

См.: Frank McLynn. Genghis Khan: His Conquests, His Empire, His Legacy. Philadelphia: Da Capo Press, 2015, p. 259.

97

См. «Видение Гюльви» (Gylfaginning) в «Прозаической Эдде» Снорри Стурлусона (XIII век): диалог между Гюльви (мифологизированным образом скандинавского правителя) и триадой богов – Высоким, Равновысоким и Третьим. – Примеч. ред.

98

См.: Flo Read. Nick Bostrom: Will AI lead to tyranny? UnHerd, Nov. 12, 2023.

99

Nick Bostrom. The Vulnerable World Hypothesis. Global Policy, vol. 10, no. 4, Nov., 2019.

100

Roger Crowley. Constantinople: The Last Great Siege 1453. London: Faber and Faber, 2005, 91.

101

Блицкриг (нем. Blitzkrieg – «молниеносная война») – стратегия быстрого прорыва обороны танками и авиацией с целью окружения противника до организации им эффективной обороны. – Примеч. ред.

102

В древней магии филактерий – «вместилище души» – позволял некромантам сохранять сознание даже при уничтожении тела, пока артефакт оставался целым. Такие обереги тщательно скрывали, подобно сердцам исполинов из северных саг (как в «Сапожке и шести его братьях»), дарующим неуязвимость. – Примеч. ред.

103

G. K. Chesterton. The Illustrated London News. Jan. 14, 1911.

104

Henry A. Kissinger. Diplomacy. New York: Simon & Schuster, 1994.

105

Вестфальская модель – исторически сложившаяся система миропорядка, основанная на принципах, закрепленных Вестфальским миром 1648 года, завершившим Тридцатилетнюю войну в Европе. Ключевые положения: государственный суверенитет (верховенство власти на своей территории); невмешательство во внутренние дела других государств; юридическое равенство независимых государств; дипломатия – основной инструмент взаимодействия. Эта модель стала основой современной системы международных отношений, хотя в эпоху глобализации и цифровых технологий подвергается пересмотру. – Примеч. ред.

106

Henry A. Kissinger. Nuclear Weapons and Foreign Policy. New York: Harper & Brothers, 1957, p. 429.

107

Elias Lönnrot. The Kalevala. 1835.

108

Hanna-Ilona Härmävaara. The Myth of the Sampo. TED-Ed Animation, Sept. 23, 2019.

109

«Махабхарата», «Ади парва» («Книга начала»), «Вана парва» («Лесная книга»). Ок. IV в. до н. э. Котел Дагды появляется в ирландском эпическом сказании «Вторая битва при Маг Туиред» – средневековом ирландском тексте, (XI–XII вв). «Волшебная колотушка» – из сказки «Утидэ-но-кодзути» («Маленький волшебный молоток») о легендарном герое Урасима Таро. Записана и собрана не позднее периода Эдо (1603–1868).

110

Sam Altman. Moore's Law for Everything. March 16, 2021.

111

Best-of-five – формат поединка или матча, где для победы в серии требуется выиграть три игры. – Примеч. ред.

112

См.: д/ф «AlphaGo» (реж. Грег Кос, 2020).

113

Tom Simonite. How Google Plans to Solve Artificial Intelligence. MIT Technology Review, March 31, 2016.

114

Игры с нулевой суммой – конфликты, где преимущество одного участника означает потери другого. Авторы оспаривают применимость этой модели к ИИ, считая, что технологический прогресс может создавать новые ресурсы. – Примеч. ред.

115

Arthur W. Ryder. The Bhagavad-Gita. Chicago: University of Chicago, 1929, 3:15.

116

Там же: 18:41–44. Также см.: James Hijiya. The Gita of J. Robert Oppenheimer. Proceedings of the American Philosophical Society, vol. 144, no. 2, June, 2000.

117

Sam Altman. Moore's Law for Everything. March 16, 2021.

118

Ross Andersen. Does Sam Altman Know What He's Creating? Atlantic, July 24, 2023.

119

Плоды промышленной революции изначально доставались немногим странам и элитам. Хотя средневековое общество демонстрировало изобретательность (в сельском хозяйстве, торговле), рост производительности обогащал правящий класс, вкладывавший средства в монументальные соборы, а не в экономику (Daron Acemoglu. Power and Progress. New York: Public Affairs, 2023). Предлагается установить обязательные нефинансовые критерии оценки корпоративной деятельности.

120

По данным Международного союза электросвязи (МСЭ), численность населения, не имеющего доступа к интернету, продолжает устойчиво снижаться: 2,6 миллиарда человек на 2023 год (Geneva. Press Release. Sept. 12, 2023.).

121

Jay Olson. Smartphone addiction is increasing across the world: A meta-analysis of 24 countries. Computers in Human Behavior, 129, 2022, p. 107–138.

122

«Генератор переживаний» – отсылка к предложенному Робертом Нозиком понятию «Машина опыта», Experience Machine – устройство, симулирующее идеальную реальность (Robert Nozick. Anarchy, State, and Utopia. Oxford, UK: Blackwell, 1974, p. 42.).

123

Из устава Стэнфордского университета: «Университет – это совокупность институтов, школ и лабораторий, взаимно обогащающих друг друга. В школе естественных наук мы исследуем молекулярный код человеческой природы, в гуманитарных – культуру как основу нашей сущности. Это миссия, рожденная приверженностью поиску знания».

124

Как отмечал раввин Гарольд Кушнер в предисловии к книге Виктора Франкла, «жизнь – это не поиск удовольствия (как полагал Фрейд) и не поиск власти (по Адлеру), а поиск смысла» (Harold Kushner. Preface to Man's Search for Meaning by Viktor Frankl. Boston: Beacon Press, 2006, p. 6.).

125

К «четырем искусствам» (кит. si yi) относятся: 1) цинь (струнный инструмент), 2) ци (стратегическая настольная игра го), 3) шу (каллиграфия) и 4) хуа (китайская живопись).

126

Отсылка к сократовскому методу (диалектике), где истина раскрывается через последовательность вопросов и ответов. – Примеч. ред.

127

Erik Hoel. Why we stopped making Einsteins. The Intrinsic Perspective Substack, March 16, 2022.

128

Leo Tolstoy. A Confession and Other Religious Writings. New York: W.W. Norton, 1983, p. 28.

129

См.: Donella H. Meadows. Thinking in Systems. White River Junction: Chelsea Green Publishing, 2008.

130

На сегодняшний день смертность от естественных возрастных причин продолжает превалировать над летальными исходами, обусловленными заболеваниями и внешними факторами.

131

Кофейные саженцы, доставленные Антуаном де Жюссьё с Явы, украсили Jardin des Plantes – королевский аптекарский сад, основанный в 1635 году медиками Людовика XIII. Монарх, для которого создавался сад, не дожил до его настоящего расцвета, скончавшись в 41 год (1643) (См.: Deligeorges et al. Le Jardin des Plantes. Paris: Patrimoine, 2004, pp. 13–15.). О научной экспедиции в Амазонию см. материалы Французской геодезической миссии на экватор XVIII века.

132

Метаболомика – систематическое изучение уникальных химических «отпечатков пальцев», специфичных для процессов, протекающих в живых клетках, т. е. изучение низкомолекулярных метаболических профилей, которые могут дать мгновенный «снимок» физиологических процессов внутри клетки. – Примеч. ред.

133

См.: Sima Qian. Records of the Grand Historian: Han Dynasty II. New York: Columbia University Press, 1993.

134

Jack London. Tales of Adventure. Ed. Irving Shepard. Hanover House, 1956, p. vii.

135

Лев Толстой: «Мы приблизимся к истине только настолько, насколько мы удалимся от жизни», – говорит Сократ, готовясь к смерти. – «К чему мы, любящие истину, стремимся к жизни? К тому, чтоб освободиться от тела и от всего зла, вытекающего из жизни тела. Если так, то как же нам не радоваться, когда смерть приходит к нам?»[172] Эта мысль Сократа развита в разделах 62–69 «Федона» Платона, где друзья посещают философа перед казнью.

136

Фон Нейман, рожденный в еврейской семье, в 1930 году формально принял католичество для брака, но считался агностиком. Поэтому коллеги были поражены, когда умирающий от рака ученый неожиданно исповедался католическому священнику и принял последние таинства. (John von Neumann. Catholic Scientist of the Past. URL: https://kurl.ru/vjyMG (дата обращения 21.04.2025).

137

York M., Spaulding R. Ralph Waldo Emerson: The Infinitude of the Private Man. 2008; Richardson R.D. Emerson: The Mind on Fire. 1995; Bosco R., Myerson J. Selected Lectures of Ralph Waldo Emerson. 2005.

138

«Природа» (1836) – программное эссе американского трансцендентализма, где природа трактуется как язык духовных истин и альтернатива индустриализации. – Примеч. ред.

139

Ralph Waldo Emerson. The Complete Works of Ralph Waldo Emerson. Boston: Houghton Mifflin, 1904, vol. 4, no. 12.

140

Королевский сад лекарственных растений был основан в 1635 году; Великая французская революция началась в 1789; «Галерея эволюции» открыла свои двери в 1889-м. Концепция эволюции (но не естественный отбор как ее механизм) была описана семидесятью различными авторами в период с 1748 по 1859 год – год публикации дарвиновского «Происхождения видов».

141

Термин «ледниковый период» может вводить в заблуждение – технически он включает как периоды наступления ледников (гляциалы), так и их отступления (межледниковые эпохи, интергляциалы). Хотя интергляциалы – относительно теплые периоды, они все равно считаются частью ледниковой эпохи. Как ни парадоксально, мы до сих пор живем в ледниковом периоде, находясь в текущей интергляциальной фазе.

142

Fyodor Dostoevsky. The Brothers Karamazov. Garnett trans. New York: The Modern Library, 1900, 783.

143

По разным оценкам, на Земле произошло до 20 массовых вымираний. Некоторые из них до сих пор вызывают споры.

144

David Keith. Solar Geoengineering in Climate Policy. Nobel Conference, Gustavus Adolphus College, Sept. 25, 2019.

145

Имеется в виду кальциевый цикл (англ. calcium looping) – технология, впервые предложенная японскими химиками в 1999 году и применяемая в системах прямого захвата воздуха (Shimizu, Hirama, Hosoda. Twin Fluid-Bed CO2 Removal. Trans IChemE, vol. 77, Part A, January, 1999, pp. 62–68).

146

Хотя точные оценки дать сложно, большинство аналитических прогнозов сходятся в пределах 20–30 лет. Согласно данным ведущих энергетических агентств и исследовательских центров, разведанных запасов нефти и газа при текущем уровне потребления хватит примерно на 100 лет, угля – на 200 лет.

147

Nemonte Nenquimo. This is my message to the western world – your civilisation is killing life on Earth. The Guardian, October 12, 2020. Ненкимо – представительница народа ваорани из эквадорской Амазонии.

148

В своей знаменитой речи от 4 июня 1940 года (т. н. «We shall fight on the beaches», произнесенной в Палате общин, У. Черчилль заявил: «Новый Свет приходит на помощь Старому, используя всю свою силу и мощь» (см.: Churchill. Never Give In! Pimlico, 2004, p. 218).

149

Ross Andersen. What Happens If China Makes First Contact? The Atlantic, Dec. 15, 2017.

150

Ma P. et al. Deep-Learning Search for Technosignatures. Nat Astron 7, 2023, pp. 492–502.

151

Речь идет о Каабе, где хранится Черный камень – небесный артефакт, согласно традиции, упавший с неба и символически связующий земное с божественным. Камень установлен во внешнем углу святилища в центре Запретной мечети (Масджид аль-Харам) в Мекке (Саудовская Аравия).

152

Y. Elazar. Kefitzat Haderech: Divine Intervention. Chizuk Shaya, Nov. 29, 2009.

153

Hawking, Mlodinow. The Grand Design. New York: Bantam, 2010, p. 82.

154

Для дальнейшего изучения вопроса о применении нейроинтерфейсов (BCI) в контексте коэволюции с ИИ см.: Nick Bostrom. Superintelligence. Oxford, 2014, pp. 63–67; Brain-Computer Interfaces and AI Alignment. LessWrong, 2021.

155

См.: Charles Darwin. On the Origin of Species. London: Pickering & Chatto, 1992, p. 403.

156

См.: Erich Jantsch. The Self-organizing Universe. Oxford, UK: Pergamon Press, 1980.

157

Дэниел Деннет (Daniel Dennett. From Bacteria to Bach and Back. Norton, 2017, p. 206) цитирует Роджерса и Эрлиха, исследовавших эволюцию полинезийских каноэ, а те, в свою очередь, ссылаются на французского философа Алена, писавшего о рыбацких лодках в Бретани. См. также: Edward Lee. Coevolution of Human and Artificial Intelligence. Berkeley Blogs, 2017.

158

Авторы приводят вольную интерпретацию мысли Льва Николаевича: «Без ясного понимания цели всякое движение вперед есть только самообман»: Толстой Л.Н. Исповедь. О жизни / сб. М.: Азбука, 2023. – Примеч. ред.

159

Laurance Rockefeller, Henry Kissinger, et al., Prospect for America: The Rockefeller Panel Reports. New York: Doubleday, 1961, XV.

160

Наиболее полное описание содержится у Овидия в «Метаморфозах» (8 г.н. э., книга XI, ст. 110), где рассказывается о Силене – наставнике Диониса. Альтернативные версии мифа встречаются в «Политике» Аристотеля (IV в. до н. э.) и у Александра Полигистора (I в. до н. э.); Ariel Conn. Artificial Intelligence and the King Midas Problem, Dec. 12, 2016.

161

Рон Клементс и др. «Аладдин» (Disney, 1992) – м/ф по мотивам сказки «Волшебная лампа Аладдина», записанной со слов сирийского сказителя Ханны Дьяба в 1704 году и включенной французским переводчиком Антуаном Галланом в сборник «Тысяча и одна ночь».

162

Центр безопасности ИИ предупредил об экзистенциальных рисках от развития ИИ с целями самосохранения. См.: Dan Hendrycks and Mantas Mazeika. X-Risk Analysis for AI Research. arXiv, June 13, 2022.

163

См.: Kevin Hurler. ChatGPT Pretended to Be Blind to Bypass CAPTCHA. Gizmodo, Mar. 16, 2023. В статье говорится о том, как исследователи поручили боту обойти ReCaptcha, цифровую систему проверки. Бот нанял человека через сервис для поиска помощников в домашних делах. Тот, засомневавшись, уточнил, не бот ли его хочет нанять. ИИ сознательно солгал, заявив, что он «слепой человек, нуждающийся в помощи». Неясно, была ли ложь следствием пробелов в обучении или ИИ действительно рассчитал, что правда помешает достижению цели. Человек поверил ему и выполнил просьбу.

164

Eliezer Yudkowsky. Pausing AI Developments Isn't Enough. We Need to Shut It All Down. TIME Magazine, March 29, 2023

165

Pierre Bourdieu. Outline of a Theory of Practice. Cambridge, UK: Press Syndicate of the University of Cambridge, 1977, p. 164.

166

Заземление ИИ работает за счет привязки реакций системы к реальным данным. Вместо того чтобы полагаться только на предсказание следующего слова на основе шаблонов, обоснованная система сначала будет извлекать информацию из достоверного источника, например надежной базы данных, снижая вероятность того, что ИИ что-то выдумает. – Примеч. ред.

167

Цитата отсылает к 1-му Посланию к Коринфянам 10:12, прозвучала в торжественная речи Гвидо Калабрези, бывшего декана Юридической школы Йельского университета (Guido Calabresi. Graduation Speech. Yale Law School, May 22, 2023).

168

Arthur Schopenhauer. The Basis of Morality. Bullock trans. London: Swan Sonnenschein, 1903, p. 101.

169

George S. Viereck. Glimpses of the Great. London: Duckworth, 1930, p. 373.

170

(Санскр.) «Колесо Времени», буддийское учение о циклической природе времени, объединяющее философию, астрологию и медитативные практики. Символизирует связь между макрокосмом (Вселенной) и микрокосмом (человеком), предлагая путь к просветлению через понимание этих циклов. – Примеч. ред.

171

Компания признана экстремистской в РФ, ее деятельность запрещена. – Примеч. ред.

172

Цит. по: Толстой Л.Н. Исповедь. О жизни / сб. М.: Азбука, 2023. – Примеч. ред.