На момент создания этой книги ЕС уже изложил планы по регулированию ИИ[70], направленные на обеспечение баланса между европейскими ценностями, такими как конфиденциальность и свобода, экономическим развитием и поддержкой европейских компаний, работающих в сфере ИИ. Эти правила прокладывают для Европы курс между Китаем, где значительные средства в ИИ вкладывает государство, и США, где исследования и разработки в области ИИ в основном отданы на откуп частному сектору. Их основная цель – контролировать использование компаниями и правительствами данных и ИИ, а также способствовать созданию и росту европейских компаний, занимающихся ИИ. В нормативной базе должна учитываться оценка рисков различных видов использования ИИ. Применение правительствами некоторых технологий, считающихся высокорисковыми, таких как распознавание лиц (хотя оно имеет и полезное применение, например поиск пропавших без вести и борьба с торговлей людьми), должно быть ограничено или даже запрещено. Исходная концепция регулирования будет активно обсуждаться и изменяться, но уже сейчас она иллюстрирует то, как общество определяет необходимый для улучшения образа жизни людей диапазон ограничений ИИ.
Ключевые слои общества должны быть вовлечены в постоянное обсуждение приемлемых ограничений на развертывание ИИ. В США академические группы и консультативные органы уже начали изучать взаимосвязь существующих процессов и структур с развитием ИИ. К ним относятся такие академические активности, как инициатива МИТ, посвященная будущему трудовой деятельности[71], и такие правительственные организации, как Комиссия национальной безопасности по искусственному интеллекту[72]. Но эти усилия остаются специализированными и поэтому не всегда попадают в поле зрения электората. Страны, которые откажутся от анализа взаимодействия с ИИ, неизбежно отстанут от стран, которые занимаются таким анализом и тем самым повышают материальные и интеллектуальные преимущества, которые предлагает партнерство с ИИ.
Потребуется новая форма мышления, выходящая за рамки традиционных дисциплин или школ. Чтобы отвечать сложности происходящих изменений, необходимо научиться по-новому интегрировать области знания. Университеты, правительства, технологические компании и др. должны стремиться обсуждать – в той степени, в какой это соответствует их задачам, – свои вопросы, идеи, представления и открытия, сделанные в этой области.
Страны, которые занимаются подобными исследованиями, придут к разным выводам, отражающим их историю и взгляды. Так же, как меняются концепции и институты, разработанные разными странами для упорядочения фундаментальных знаний, будут меняться и создаваемые в разных странах ИИ, а также понимание аналитической, прогнозной и генеративной деятельности – и как это влияет на их нормы и институты. Поскольку данные, на которых обучается ИИ, содержат культурные предпочтения стран, в которых это происходит, то в одних частях света ИИ может усилить централизацию, консенсус и конформизм, а в других – способствовать либерализации и плюрализму. Для обеспечения мира во всем мире придется выработать способы сосуществования этих целей и подходов.
Изменение восприятия реальности и самих себя
Простой факт заключается в том, что реальность с точки зрения ИИ может оказаться не такой, как представляли себе люди. В ней могут быть закономерности, которых мы никогда не замечали и не сможем осмыслить. Ее глубинная структура, изученная ИИ, может оказаться невыразимой на человеческом языке. Как заметил один из наших коллег по поводу AlphaZero: «Подобные примеры показывают, что есть способы познания, недоступные людям»[73].
Если для того, чтобы обозначить границы современного знания, мы поручим ИИ исследовать недоступные нам области, он может раскрыть нам закономерности или дать прогнозы, которые мы не до конца поймем. Вновь могут оказаться актуальными идеи гностиков о личном духовном знании, более важном, чем традиционные учения и опыт. Мы можем подойти на шаг ближе к концепции чистого знания, менее ограниченного структурой нашего разума и шаблонами человеческого мышления. И тогда нам придется не только пересмотреть свою роль единственных знатоков реальности, но и переопределить саму реальность, в которой, как мы полагали, мы живем. И даже если реальность окажется именно такой, как мы думали, ИИ останется мощным инструментом для ее более глубокого анализа, переопределяющим наши взаимоотношения с новым пониманием реальности и друг с другом.
Когда ИИ распространится повсеместно, некоторые поспешат объявить о беспрецедентном успехе человечества на пути к познанию и обустройству нашего мира. Будет и противоположное мнение – что наши возможности куда меньше, чем нам казалось ранее. В любом случае мы изменим наше собственное мнение о себе и об окружающем мире. Изменится наша платформа – и вместе с ней изменятся наши социальные, экономические и политические механизмы. Средневековый мир ориентировался на imago dei[74]: отсюда его феодальные аграрные модели, почитание короны и смысл, вкладываемый в шпили соборов[75]. Эпоха Просвещения ориентировалась на cogito[76] и стремление к новым горизонтам – и вместе с этим на новое личное и общественное понимание судьбы и предназначения человека. Век ИИ еще не определил свои организационные принципы, этические концепции, цели и ограничения.
ИИ-революция явно произойдет быстрее, чем ожидают люди, и, если сегодня мы не разработаем концепции последующих преобразований, мы не будем к ней готовы. С моральной, философской, психологической и практической точек зрения мы находимся на пороге новой эпохи, и мы должны адаптировать наши отношения с реальностью так, чтобы они оставались человеческими.
Глава 7Заключение
Распознать начало новой эры и предвидеть изменения, которые она несет, нелегко. В этой книге мы поставили перед собой цель исследовать важные аспекты зарождающейся эпохи ИИ, чтобы лучше понять, предсказать и направить ее развитие.
С исторической и философской точек зрения будет уместно сопоставить назревающую ситуацию со временем развития книгопечатания в Европе XV в. Знания в средневековой Европе почитались, но книги были редкостью. Авторы создавали памятники литературы, занимались логическими умозаключениями, а также энциклопедическим компилированием фактов, легенд и верований. Книги были сокровищем, доступным немногим, – их нелегко было заполучить даже людям из образованных классов. Большую часть опыта в те времена приобретали самостоятельно, а знания передавали из уст в уста.
В 1450 г. Иоганн Гутенберг, шлифовщик из немецкого города Майнца, заняв деньги у ростовщика, создал печатный станок. Эксперимент Гутенберга едва удался – его бизнес потерпел крах, а кредитор подал в суд, – но к 1455 г. появилась Библия Гутенберга (на латыни), первая в Европе настоящая печатная книга. Технологические достижения в области печати привели к значительно более масштабной революции, которая отразилась на всех сферах жизни Запада, а в конечном счете и всего мира. К 1500 г. в Европе находилось в обороте ориентировочно 15–20 млн печатных книг, а цена отдельной книги резко упала. Были широко распространены переводы Библии на живые языки, труды классических авторов по истории, литературе, грамматике и логике[77].
До появления печатной книги европейцы той эпохи получали знания в основном путем общественных отношений – участвуя в сезонных циклах выращивания урожая, в религиозных обрядах, в цеховых объединениях ремесленников. Когда появлялась новая информация или возникали новые идеи (зарубежные новости, усовершенствования сельскохозяйственных или промышленных технологий, очередные богословские толкования), их передавали либо устно через общину, либо переписывая рукописи.
Когда широким слоям общества стали доступны печатные книги, отношение человека к знаниям изменилось. Новая информация и идеи стали распространяться быстрее и по более разнообразным каналам. Появилась возможность находить полезную информацию и самостоятельно изучать ее. Читая тексты в их исходной форме, люди могли сами анализировать общепринятые истины. Те, кто имел твердые убеждения и доступ к хотя бы скромным ресурсам или покровителя, могли публиковать свои выводы и интерпретации. Быстро тиражировалась информация о научных достижениях, общепринятым методом политических и богословских споров стал обмен памфлетами[78]. Распространение новых идей все чаще свергало или коренным образом меняло устоявшиеся порядки, приводя к интеллектуальному брожению в религии (Реформация), революциям в политике (изменение представлений о национальном суверенитете) и новым научным концепциям (новая картина мира).
Сегодня наступает новая эпоха, когда технологии меняют знания, открытия, коммуникации и индивидуальное мышление. Человечество создало новую цифровую область, и теперь мы создаем в ней новые формы интеллекта. ИИ – это не человек. Он не надеется, не мечтает, не молится и не чувствует, он не обладает сознанием или способностью к рефлексии. Это творение человека, и оно отражает разработанные человеком процессы, выполняющиеся на машинах, созданных человеком. Тем не менее в некоторых случаях, при огромных масштабах и скорости, он дает результаты, приближающиеся к тем, что до сих пор достигались только с помощью человеческого разума. Хотя этот новый интеллект разрабатывается людьми, он использует некую собственную логику, которая не похожа на нашу, но может казаться человеческой.
ИИ может открыть аспекты реальности, более невероятные, чем те, о которых мы когда-либо задумывались. Люди или государства, которые привлекут ИИ в качестве партнера для усиления навыков или реализации идей, будут способны на подвиги – научные, медицинские, военные, политические и социальные, – которые затмят достижения предшественников или соперников. Однако, если интеллектуальные машины будут рассматрива