М. Ф.: Какие еще опасности, на ваш взгляд, в ближайшей перспективе и в будущем несет в себе ИИ?
Б. Г.: Лично у меня есть множество вопросов по поводу возможностей, которые дает ИИ, доступных ему методов и вариантов применения этих методов, а также по поводу дизайна ИИ-систем.
У нас всегда есть выбор. Даже когда речь заходит об оружии. Был выбор и у Илона Маска. Он мог сказать, что в автомобили Tesla встроена система помощи водителю, а не автопилот. Тем более что полноценной машины с автопилотом на самом деле не существует. Люди покупаются на рекламу, верят, что автопилот работает, а затем попадают в аварию.
Мы можем выбирать, что мы поместим в систему, какие требования к ней предъявить, как ее тестировать, проверять и настраивать. Только от нашего выбора зависит, сможем ли мы избежать будущей катастрофы.
В состав проектных групп нужно включать людей, которые будут рассматривать возможные последствия создания различных систем. Я имею в виду юридические и этические последствия и прочие побочные эффекты. Пришло время прекратить развитие технологий по принципу «интересно, смогу ли я создать что-то, что делает вот такую вещь». Нужно думать, как в долгосрочной перспективе то, что мы создаем, повлияет на нашу жизнь. Это социальная проблема.
Поэтому я вела курс «Интеллектуальные системы: проектирование и этические проблемы», а сейчас вместе с коллегами из Гарварда работаю над программой Embedded EthiCS, позволяющей интегрировать преподавание этики в каждый курс computer science.
М. Ф.: Как вы считаете, не слишком ли много внимания уделяется экзистенциальным угрозам? Нужно ли относиться серьезно к проблемам, которые могут появиться только в отдаленном будущем?
Б. Г.: Уже сейчас можно легко создать дрон, несущий на борту оружие. Но я не разделяю экстремального подхода некоторых людей, которые считают, что нужно приостановить все разработки ИИ.
М. Ф.: Вы часто говорите, что у нас есть выбор. Но принимаемые решения в значительной степени обусловлены рыночными стимулами. Кто в итоге должен делать выбор – проектировщики, инженеры, коммерсанты или государство?
Б. Г.: Вспомните самообучающегося бота Tay от Microsoft, который под влиянием пользователей всего за один день стал расистом. Сфера ИИ нуждается в регулировании с привлечением социологов и специалистов по этике.
М. Ф.: Но не поставит ли это США или западные страны в целом в невыгодное положение в конкурентной гонке с Китаем?
Б. Г.: Если мы остановим все исследования и разработки в сфере ИИ или строго ограничим их, то действительно окажемся в невыгодном положении. Ключевой вопрос в том, что произойдет, если мы не создадим оружия, управляемого ИИ, а у противников оно будет. Но это слишком большая и серьезная тема.
М. Ф.: В заключение я хочу спросить, какой совет вы можете дать тем, кто хочет работать в сфере ИИ? Каким был ваш опыт?
Б. Г.: Прежде всего эта область затрагивает одни из самых интересных вопросов в мире. Совокупность вопросов, которые поднимает ИИ, всегда требовала сочетания аналитического и математического мышления, умения думать о людях и понимать их поведение, инженерного мышления. Вы получаете возможность исследовать всевозможные способы мышления и всевозможные дизайнерские решения.
Я уверена, что другие люди считают свои области самыми захватывающими, но сейчас ИИ еще более захватывающая область, потому что у нас есть гораздо более мощные инструменты: просто посмотрите на наши вычислительные мощности. Когда я начинала работать, одна из моих коллег вязала свитер в ожидании, пока закончится обработка кода и на экране снова появится приглашение на ввод!
Как и все работающие в этой сфере, я уверена, что очень важно привлекать к разработкам ИИ-систем как можно больше людей. Я имею в виду не только женщин и мужчин, а людей разных культур, разных рас, потому что именно они будут использовать эти системы. Иначе возникают две опасности. Во-первых, такие системы, подойдут только определенным группам населения, а во-вторых, возникнет недружелюбный рабочий климат. Мы все должны работать вместе.
Я начинала, когда в этой сфере практически не было женщин, так что все зависело от отношения коллег-мужчин. Могу вспомнить как фантастически прекрасные, так и ужасные моменты. И считаю, что каждый университет и каждая компания, в которой есть группа, занимающаяся технологиями, должны поощрять и привлекать в эту сферу женщин и представителей меньшинств, потому что сейчас мы уже точно знаем, что чем многообразнее команда проектировщиков, тем лучше будет конечный результат.
Джуда Перл
“Сейчас прогресс замедлен из-за концентрации на глубоком обучении и связанных с ним непрозрачных структурах".
Профессор computer science и статистики, директор лаборатории когнитивных систем в UCLA
Джуда Перл – автор математического аппарата байесовских сетей, создатель математической и алгоритмической базы вероятностного вывода, автор алгоритма распространения доверия для графических вероятностных моделей.
Будучи выпускником Израильского технологического института, в 1960 г. приехал в США и через год получил степень магистра электротехники в Нью-Аркском инженерном колледже, ныне Технологическом институте Нью-Джерси. Степень магистра физики получил в Ратгертском университете, а докторскую степень по электротехнике – в Бруклинском политехническом институте. Занимался исследованиями в Лабораториях Давида Сарнова в Принстоне и компании Electronic Memories, Inc.
В 1969 г. начал работать в UCLA, где до сих пор возглавляет созданную им лабораторию когнитивных систем. Внес большой вклад в ИИ, теорию человеческого мышления и философию науки. Автор более 450 научных работ и трех знаковых книг: Heuristics («Эвристика», 1984 г.), Probabilistic Reasoning («Вероятностные рассуждения», 1988 г.) и Causality: models, reasoning, and inference («Причинность: модели, рассуждения и вывод», 2000 и 2009 гг.).
Член Национальной академии наук, Национальной инженерной академии и член-основатель AAAI. Обладатель многочисленных научных наград, в том числе премии Тьюринга за «фундаментальный вклад в ИИ посредством разработки исчисления для проведения вероятностных и причинно-следственных рассуждений», премии Румельхарта за «вклад в теоретические основы человеческого познания», премии Харви за «основополагающие работы, оказавшие влияние на множество аспектов современной жизни», премии Лакатоса за «лучшую книгу в области философии науки», медали Аллена Ньюэлла за «плодотворный вклад в философию, психологию, медицину, статистику, математическую экономику, эпидемиологию и общественные науки» и медали Бенджамина Франклина в области computer science и когнитивных наук.
Мартин Форд: Как началась ваша карьера в computer science и ИИ?
Джуда Перл: Я вырос в Бней-Браке. Моей любознательности способствовало воспитание в рамках израильского общества и полученное мной уникальное образование. Тогда в старших классах школы и в колледжах преподавали первоклассные ученые, приехавшие из Германии в 1930-х гг. У них не было возможности найти работу в академических кругах, поэтому им пришлось работать в школах. Они понимали, что уже никогда не вернутся к занятиям наукой, и видели в нас воплощение своей мечты. Так что моему поколению крупно повезло. Я никогда не был лучшим учеником, но всегда увлекался тем, что нам преподавали. Информация нам преподносилась в хронологическом порядке, причем повышенное внимание уделялось людям, которые стояли за каждым изобретением или теоремой. Это позволяло увидеть, что наука – это не просто набор фактов, а непрерывная борьба человека с окружающей его неопределенностью.
В армии я присоединился к кибуцу и собирался провести там всю жизнь, но умные люди сказали, что я буду счастливее, если стану развивать математические способности. В результате в 1956 г. я поступил в Израильский технологический институт и начал изучать электронику. Любимой специальности у меня не было, но мне нравились логический синтез и электромагнитная теория. В 1960 г. я получил степень бакалавра, женился и поехал в США – хотел получить докторскую степень и вернуться.
М. Ф.: Вы планировали вернуться в Израиль?
Дж. П.: Разумеется. Я поступил в Бруклинский политехнический институт, который в то время был одной из лучших школ радиорелейной связи. Но оплачивать обучение я не мог, поэтому работал в исследовательском центре Давида Сарнова в Лаборатории RCA в Принстоне. Там я входил в группу доктора Яна Райхмана, которая занималась запоминающими устройствами. Мы искали физические механизмы, пригодные для компьютерной памяти. Память на магнитных сердечниках работала слишком медленно, была громоздкой и требовала кропотливого ручного труда при производстве.
Когда стало понятно, что дни этой технологии сочтены, все – IBM, Лаборатории Белла и RCA – начали искать новые механизмы хранения цифровой информации. В то время из-за скорости и простоты подготовки были популярны сверхпроводниковые запоминающие устройства, хотя им и требовалось охлаждение до температуры жидкого гелия. Исследуя токи, циркулирующие в сверхпроводниках, я обнаружил несколько интересных явлений. В мою честь был даже назван пирловский вихрь – турбулентный поток в сверхпроводящих пленках. Это было потрясающее время.
В начале 1960-х гг. всех воодушевляли потенциальные возможности компьютеров. Никто не сомневался, что в конечном итоге компьютеры научатся выполнять большинство интеллектуальных задач лучше людей. Способы выполнения этих задач искали все, даже специалисты по аппаратному обеспечению. Мы постоянно думали, как создать ассоциативные воспоминания, как научить машины восприятию, распознаванию объектов, кодированию визуальных сцен. Руководство RCA всячески поощряло наши инициативы. Раз в неделю к нам заходил Райхман и спрашивал, что у нас можно запатентовать.