нтастике (Грег Иган "Кристальные ночи").
Изучение работы и попытка моделирования человеческого мозга человеком немного напоминает попытку молекул изучать молекулы и строить их модели. Для молекул это, наверное, было бы сложной задачей. Но "молекулы" (1,65 метра) сумели узнать что-то о Вселенной (1027 м), это равносильно тому, что молекула воды (1,54*10-10 м), мирно плещущаяся в стакане, узнала что-то не только о стакане, столе, Земле, Койпере и Оорте, но дотянулась своим пониманием (1017 м) до звезд и даже экзопланет. Так что надежда есть.
ИИ может учиться сам (например, ища информацию в Сети или наблюдая действия людей), но это можно делать по-разному. Первый вариант - он делает это так, как мы ему сказали. Второй - он может начать учиться, подражая тому, как учатся люди, но команду "учиться" ему дали. Третий - можно подождать, пока он сам начнет это делать, исходя из своих целей (например, выживания) или внешних задач, поставленных человеком.
Страхи, которые возникают у людей при обращении к теме ИИ и роботов, можно разделить на несколько типов. Простейший - это проекция на них какой-либо внушающей страх черты человека, например, властолюбия или вообще стремления к экспансии. Но все человеческие черты, в том числе и плохие, являются результатом биологии и истории. За ИИ и роботами нет ни того, ни другого, и этого можно не опасаться. Желание захватить власть может возникнуть, если мы поставим перед ними задачу, требующую для своего выполнения именно власти над всей землей. Так что, создавая ИИ, реально способный захватить власть, и собираясь ставить перед ним глобальные задачи, нужно задуматься об ограничениях в методах, или об объяснении предполагаемых действий, или о моделировании последствий.
Некоторые тонкие вопросы были в свое время разобраны Станиславом Лемом в работе "Сумма технологии". Например, мощный ИИ обнаруживает влияние рождаемости на благосостояние и, решая задачу подъема благосостояния, начинает каким-либо способом понижать рождаемость. Разумеется, если дать в руки ИИ эти средства, поставить именно такую задачу и отказаться от какого-либо контроля, можно в теории получить подобный результат.
Кроме ИИ, людям есть и еще, о чем беспокоиться. Например, когда Солнце превратится в красный карлик, уменьшится количество ультрафиолета в атмосфере и вольготнее начнут чувствовать себя микробы. А Всемирная организация здравоохранения (ВОЗ) не только не адекватно реагировала на коронавирус, но этому фактору не уделяет должного внимания.
Кстати, еще сюжет для писателей. Все цивилизации Вселенной идут именно по этому пути и получают конечный результат. Но кого-то, естественно, успевает спасти герой, естественно с Земли. Если же говорить серьезно, то в тоталитарном государстве с людьми, опущенными до уровня безгласной массы, может быть, да и бывало, не только такое. Так что не стройте тоталитаризма, не человеческого, ни компьютерного, и не опускайтесь до плинтуса.
Что касается именно роботов, то некоторые авторы почему-то считают, что именно человекоподобие будет вызывать у людей отторжение. Но, судя по популярности цифровых помощников и секс-кукол, это не так. Следующий шаг - их объединение. Начало простое - только голос. Вот когда они получат интеллект... потому что, мне кажется, люди просто боятся конкуренции. Опять же, подсознательно наделяя робота с ИИ еще и ущербной человеческой психологией (см. В.Пелевин "S.N.U.F.F")
Серьезной опасности можно ожидать от ИИ, если он действительно заимствует человеческую психологию. Это возможно в трех случаях. Первый - воспитание конкретного ИИ человеком с опасной для людей психологией (Станислав Лем, "Ананке"). Второй случай - изучение ИИ истории людей и выборе зла; этого можно избежать, поставив критерием со знаком минус количество жертв на ограниченном интервале, скажем, за поколение (чтобы ИИ не вздумал устроить текущую гекатомбу ради будущего светлого царства, как некоторые люди). Третий случай - эволюция системы ИИ, похожая на эволюцию людей, выбор конкретным ИИ зла, и распространение этого выбора на всю деятельность. Это маловероятно, поскольку человечество в целом вроде бы зло не выбирает.
В этой статье мы пользовались интуитивным представлением об ИИ, но обещали более серьезное. Вот оно:
искусственный интеллект - это (1) обработчик информации, (2) созданный иначе, нежели обучением в обычном мире дитеныша человека, (3) непонятно как действующий и (4) дающий результат, неожиданный для человека.
Определение сконструировано примитивно - по аналогии с нашим интуитивным пониманием ЕИ, естественного интеллекта. Действительно, человека, делающего примерно то же, что делает промышленный робот, мы интеллектуалом не сочтем. И не потому, что мы его не уважаем, а потому, что можем понять и повторить его действия. А повторить или хотя бы понять действия того же человека в области, профессионально знакомой ему по многолетнему опыту, но в нестандартной ситуации - например, при ремонте сложного повреждения какого-то устройства - мы не сможем. Именно в этой ситуации мы сочтем этого человека носителем интеллекта. Такое определение некоторым покажется обидным. Претензии можете направлять прямо Алану Тьюрингу, который тоже использовал как критерий ИИ именно "не срабатывание" человеческого интеллекта, неумение распознать.
Второй пункт сформулирован "с запасом". Не исключено, что человек, выросший вне обычного мира, например, обученный внеземным разумом или ИИ, созданным людьми, окажется вполне нормальным человеком. Хотя в первом случае это крайне сомнительно (хотя у Стругацких получилось), да и во втором не гарантировано. Сегодня секс, деторождение, воспитание в нормальной семье и получение серьезного образования мы считаем естественным путем создания интеллекта, а глубокое обучение компьютерных моделей считаем искусственным путем. Но к середине века ситуация может усложниться, например, принципы обучения нейронных сетей могут проникнуть в человеческую педагогику.
Сейчас область ИИ в целом находится на участке подъема кривой Gartner. Мы видим потрясающе интересные новые результаты, которые соседствуют с мусором и шумом, с тем, что сейчас называют "хайп". Некоторые авторы, рассказывая о применении ИИ в медицине и критикуя этот "хайп", пишут: "Когнитивные, аналитические, интуитивные аспекты клинического мышления автоматизировать невозможно, по крайней мере в ближайшие пару сотен лет". До чего надо довести серьезного человека, чтобы он написал такое! Впрочем, люди, ничего не понимающие в проблеме ИИ пишут и так: "Создание робота, который обладал бы чувствами, индивидуальным выбором и непредсказуемостью реакций, не говоря уже о сложнейшей психике подсознания, невозможно в принципе". Не разочарует ли жизнь ИИ-отрицателей? А новые результаты могут иметь как самые позитивные для людей, так и самые мрачные для большинства людей следствия - все зависит от общества, от людей.
А вот в этом нет ничего нового.
Автор благодарен своим друзьям, Наталье К., Татьяне К. и Анатолию Д. за многочисленные полезные замечания; почти все они учтены.
Илья Корман
СТАУТ НЕОЖИДАННЫЙ
Двадцатые и тридцатые годы прошлого века были временем расцвета детективного жанра в Великобритании (Агата Кристи), Франции (Жорж Сименон) и США (Рекс Стаут) - мы назвали лишь самых ярких и известных мастеров. В частности, в 1934 году началась публикация серии романов и повестей Стаута о работающих в паре сыщиках: Ниро Вулфе и Арчи Гудвине. Этой серии и будет посвящена данная статья.
А в Советском Союзе эти годы были не слишком благоприятны для проникновения в страну западных детективов, и как раз в 1934-м железный занавес опустился окончательно. В докладе на Первом съезде советских писателей Максим Горький объявил: "Ловкостью воров, хитростью убийств буржуазия любовалась с таким же наслаждением, как и проницательностью сыщиков. Детективный роман до сего дня служит любимейшей духовной пищей сытых людей Европы, а проникая в среду полуголодного рабочего, этот роман служил и служит одной из причин медленности роста классового сознания, возбуждая симпатию к ловким ворам, волю к воровству... способствует росту убийств и других преступлений против личности".
Примерно то же утверждала позднее, уже в послевоенные годы, Большая Советская энциклопедия (второе издание, статья "Детектив"): "Нагромождение ужасов, опасностей, убийств, дешевых эффектов, сексуальных извращений, характерное для сюжетов детективной литературы, придает ей бульварный характер, рассчитанный на удовлетворение самых низменных интересов".
После двух таких зубодробительных ударов уместно будет привести цитату "обратного смысла", из [3]: "Справедливо утверждают разные авторы (Р. Мартен во Франции, Т. Кестхейи в Венгрии, Г. Анджапаридзе в СССР), что детектив "плохо сочетался" с тоталитарным режимом. Действительно, основные мотивы произведений, утверждавших торжество закона над беззаконием, примат гуманистических ценностей, право и волю человека бороться с несправедливостью, из каких бы сфер она ни исходила, - не вписывались в социально-политическую систему, царившую в нашей стране. Справедливости ради надо только подчеркнуть, что отлучение народа от мировой культуры происходило по всем направлениям, и детектив в этом ряду еще не самая большая потеря.
Возвращение, а лучше сказать - второе рождение зарубежного детектива на русском языке пришлось на период "оттепели" и ознаменовано было публикацией сборника рассказов Честертона (1958) и романов Сименона (1960)".
Продолжим: первая "русская публикация" Агаты Кристи состоялась в 1963-м, Рекса Стаута - в 1967-м. Казалось бы, справедливость восстанавливается?
Ну, более или менее. Однако относительно Стаута о справедливости можно говорить лишь с очень большой натяжкой. Читая в [3], в разделе "PERSONALIA", перечни публикаций "детективных авторов", за период с 1960-го по 1989-й годы, мы видим, что количество публикаций Сименона - свыше ста, Кристи - приближается к ста, а Стаута - двенадцать.