Но что, если машина действительно обретет сознание? Как мы об этом узнаем? Будет ли ее сознание хоть чем-нибудь похоже на наше? Я не думаю, что существуют какие-либо фундаментальные причины, по которым мы не можем когда-нибудь в будущем создать машину, обладающую сознанием. На мой взгляд, для этого потребуется привлечь все научные дисциплины. Я думаю, что, когда это удастся, сознание машины будет чрезвычайно отличным от нашего. И я уверен, машина захочет рассказать нам о своих ощущениях. И вот тогда художественное творчество будет ключевым средством, которое позволит нам и ей понять, что значит быть ею и нами.
Возможно, лучшим средством получить какое-то представление о том, как ощущает свое существование мой iPhone, окажутся не фМРТ-сканеры, а сочинительство. Поэтому кажется, что из всех проектов в области литературного творчества искусственного интеллекта «Искатель» ближе всего подошел к тому, чего мы могли бы ожидать от машины, обладающей сознанием: алгоритму, пытающемуся проникнуться чувствами человека и понять наш мир. Не поэтому ли сочинительство может стать важным инструментом в будущем, когда мы всерьез задумаемся о возможности появления сознания у техники? Ведь именно по этой причине компьютер может ощутить потребность рассказывать истории по собственной инициативе, а не по команде, полученной от нас.
Истории – мощное средство объединения человеческого общества, и если машины обретут сознание, то способность рассказывать друг другу истории, возможно, спасет нас и от тех ужасов мира искусственного интеллекта, которые так часто описываются в наших сценариях будущего с машинами. Вспомним поразительную реакцию писателя Иэна Макьюэна на теракты 11 сентября 2001 года в Америке и его напоминание о важности эмпатии в нашем движении в будущее:
Если бы угонщики были способны проникнуться мыслями и чувствами пассажиров, они не смогли бы продолжать свое дело. Трудно быть жестоким, поставив себя на место жертвы. Способность вообразить, каково быть кем-то другим, – центральный элемент нашей человеческой сущности. В этом суть сострадания, с этого начинается нравственность.
Способность поделиться миром своего сознания при помощи историй и делает человека человеком. На это, по-видимому, не способен никакой другой вид. Если машины обретут сознание, то внушение машине эмпатии, возможно, спасет нас от осуществления тех историй про терминаторов, которые мы сочиняем о возможном будущем с участием машин.
Ридль, ведущий исследователь проекта по созданию машины-рассказчика Scheherazade-IF, был немало поражен тем обстоятельством, что алгоритм не выбирал странные, нечеловеческие маршруты через наборы альтернативных сюжетов, которые он создавал. Он учился рассказывать истории у людей: «Недавно нам удалось показать, что искусственный интеллект, обученный на историях, не способен проявлять психопатического поведения за исключением самых экстремальных ситуаций. Таким образом, искусственный повествовательный интеллект может ослабить опасения относительно возможности захвата мира вышедшим из-под контроля “злым ИИ”».
Когда и если такая сингулярность наступит, судьба человечества будет зависеть от взаимопонимания с машинами, обладающими сознанием. Но, как сказал Витгенштейн, если бы лев умел говорить, мы его, вероятно, не понимали бы. То же можно сказать и о машинах. Если они обретут сознание, вряд ли люди сразу сумеют его понять. В конце концов только их живопись, их музыка, их романы, плоды их творчества и даже их математика дадут нам хоть какую-то возможность разгадать машинный код и почувствовать, каково это – быть машиной.
Иллюстрации
С. 59. Карта с локальным и глобальным максимумами, построенная автором в системе Mathematica.
С. 63. Алгоритм Евклида.
С. 68. Схема трех взаимосвязанных веб-сайтов.
С. 70. Схема перераспределения шаров между веб-сайтами.
С. 90. Перцептрон.
С. 92. Нейронная сеть.
С. 98. Прогноз численности населения США на основе уравнения 11-й степени.
С. 109. Определение координат пользователя в трехмерном пространстве кинофильмов.
С. 111. Двумерная тень, позволяющая отличить кинодрамы от боевиков. Источник: David H. Stern, Ralf Herbrich and Thore Graepel. Matchbox: Large Scale Online Bayesian Recommendations // WWW’09: Proceedings of the 18thInternational World Wide Web Conference (2009); воспроизводится с любезного разрешения авторов.
С. 170. Схема, иллюстрирующая количество желтого цвета в картинах Пикассо и Ван Гога.
С. 171. Схема, иллюстрирующая количество синего цвета в картинах Пикассо и Ван Гога.
С. 172. Расположение картин Пикассо и Ван Гога в двумерном пространстве.
С. 176. Кривая Вундта.
С. 234. Простой канон на три голоса.
С. 241. Басы Альберти в Сонате для фортепиано до мажор Моцарта, K545.
С. 243. Анализ прелюдии op. 16 № 1 Скрябина, выполненный Дэвидом Коупом.
С. 269. Теория потока Михая Чиксентмихайи. Oliverbeatson/Wikime-dia Commons/Public Domain.
С. 302. Схема, показывающая, что сложение N последовательных простых чисел дает N-е квадратное число.
Рекомендуемая литература и материалы
Machine Learning: The Power and Promise of Computers That Learn by Example. Доклад Королевского общества, в составлении которого участвовали Маргарет Боден, Демис Хассабис и я. Выпущен в апреле 2017 г. Его можно прочитать в Сети по адресу: http://royalsociety.org/machinelearning.
Alpaydin Ethem. Machine Learning. MIT Press, 2016[132].
Barthes Roland. S/Z. Farrar, Straus and Giroux, 1991[133].
Berger John. Ways of Seeing. Penguin Books, 1972[134].
Bishop Christopher. Pattern Recognition and Machine Learning. Springer, 2007.
Boden Margaret. The Creative Mind: Myths and Mechanisms. Weidenfeld and Nicolson, 1990.
–, AI: Its Nature and Future, OUP, 2016.
Bohm David. On Creativity. Routledge, 1996.
Bostrom Nick. Superintelligence: Paths, Dangers, Strategies. OUP, 2014[135].
Braidotti Rosi. The Posthuman. Polity Press, 2013.
Brandt Anthony and David Eagleman. The Runaway Species: How Human Creativity Remakes the World. Canongate, 2017[136].
Brynjolfsson Erik and Andrew McAfee. The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies. Norton, 2014[137].
Cawelti John. Adventure, Mystery, and Romance: Formula Stories as Art and Popular Culture. University of Chicago Press, 1977.
Cheng Ian. Emissaries Guide to Worlding. Verlag der Buchhandlung Walther Konig, 2018; Serpentine Galleries/Fondazione Sandretto Re Rebaudengo, 2018.
Cope David. Virtual Music: Computer Synthesis of Musical Style. MIT Press, 2001.
–, Computer Models of Musical Creativity. MIT Press, 2005.
Domingos Pedro. The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World. Basic Books, 2015[138].
Dormehl Luke. The Formula: How Algorithms Solve All Our Problems… and Create More. Penguin Books, 2014.
–. Thinking Machines: The Inside Story of Artificial Intelligence and Our Race to Build the Future. W.H. Allen, 2016.
Eagleton Terry. The Ideology of the Aesthetic. Blackwell, 1990.
Ford Martin. The Rise of the Robots: Technology and the Threat of Mass Unemployment. Oneworld, 2015[139].
Fuentes Agustín. The Creative Spark: How Imagination Made Humans Exceptional. Dutton, 2017.
Gaines James. Evening in the Palace of Reason: Bach Meets Frederick the Great in the Age of Enlightenment. Fourth Estate, 2005.
Ganesalingam Mohan. The Language of Mathematics: A Linguistic and Philosophical Investigation. Springer, 2013.
Gaut Berys and Matthew Kieran (eds.). Creativity and Philosophy. Routledge, 2018.
Goodfellow Ian, Yoshua Bengio and Aaron Courville. Deep Learning. MIT Press, 2016[140].
Harari Yuval Noah. Homo Deus: A Brief History of Tomorrow. Harvill Secker, 2016[141].
Hardy G.H. A Mathematician’s Apology. CUP, 1940[142].
Harel David. Computers Ltd: What They Really Can’t Do. OUP, 2000.
Hayles N. Katherine. Unthought: The Power of the Cognitive Nonconscious. University of Chicago Press, 2017.
Hofstadter Douglas. Gödel, Escher, Bach: An Eternal Golden Braid, Penguin Books, 1979[143].
–. Fluid Concepts and Creative Analogies: Computer Models of the Fundamental Mechanisms of Thought. Basic Books 1995.
–. I am a Strange Loop. Basic Books, 2007.
Kasparov Garry. Deep Thinking: Where Artificial Intelligence Ends and Human Creativity Begins. John Murray, 2017[144].
McAfee Andrew and Erik Brynjolfsson. Machine Platform Crowd: Harnessing Our Digital Future. Norton, 2017[145].
McCormack Jon and Mark d’Inverno (eds.). Computers and Creativity. Springer, 2012.
Monbiot George. Out of the Wreckage: A New Politics for an Age of Crisis. Verso, 2017.