ом секторе будет работать больше программистов и операторов роботов, чем рабочих.
За это же время число рабочих мест, связанных с рутинным умственным трудом (это места в основном для офисных работников и продавцов в магазинах), возросло с 28 млн до 33 млн. При этом число рабочих мест, связанных с нерутинным ручным трудом (например, с трудом квалифицированных механиков), выросло с 14 млн до 27 млн, а связанных с нерутинным умственным трудом (например, с трудом учителей, дизайнеров, программистов и медицинских работников) с 28 млн аж до 57 млн. По крайней мере на настоящий момент мы можем констатировать, что некоторые рабочие места находятся за пределами креативного разрушения, которое несут технологии.
Впрочем, пройдет не так много времени, и ИИ затронет такие рутинные виды деятельности, как офисная и административная работа. Масштабы этих изменений будут зашкаливать, подобно объемам больших данных. Вполне возможно, что умные машины заменят выполняющих рутинные процедуры хирургов, начинающих юристов, которые помогают собрать материалы для дела, и преподавателей, читающих вводные курсы. Следующий, а может быть и последний, этап – ликвидация некоторых видов нерутинной работы, что особенно вероятно, если мы достигнем точки сингулярности.
Возьмем для примера задачи, которые выполняет хирург-профессионал в одной из самых сложных и узких специализаций, которая требует почти 10 лет обучения в вузе и практической подготовки. «Одним из прорывных моментов в роботизированной хирургии стало наложение шва на тонкую кишку свиньи роботом, который при этом опирался на собственные средства визуализации, инструменты и интеллект», – сообщил Институт инженеров по электротехнике и электронике в 2016 г. Что еще более важно, «этот робот STAR лучше справился с операцией, чем профессиональные хирурги, перед которыми была поставлена та же задача». Швы, наложенные людьми, были менее ровными и прочными по сравнению со швами в исполнении робота. По словам участвовавшего в исследовании детского хирурга Питера Кима, «хотя мы, хирурги, гордимся своим мастерством, иметь машину, которая работает вместе с нами над улучшением результатов и безопасности, было бы очень хорошо». По его мнению, робот на первых порах будет помощником для профессиональных хирургов по аналогии с тем, как автоматические системы в автомобилях «сначала помогали парковаться, а потом научились сообщать, что вы едете не в своем ряду». В этом плане робототехника вовсе необязательно заменит работников, а будет помогать им выполнять работу более эффективно.
Еще одно преимущество роботов – они не умеют неодобрительно высказываться о других (по крайней мере пока). «Мы много общаемся с Alexa и Siri, – замечает журналист Лора Сиделл. – Только представьте, если эти искусственные персоны будут частью миленького робота». Исследователь из Массачусетского технологического института Александр Ребен сделал из картона робота по имени Boxie. Однажды он увидел, что мужчина делится своими печалями с Boxie. «Он просто разговаривал с этой вещью, как с человеком». Ребен принял решение объединить усилия с художником и кинематографистом Брентом Хоффом и создать симпатичного робота, который бы приглашал людей на откровенный разговор. «Дело в идеальной улыбке, – говорит Хофф. – Робот должен быть приветливым и обаятельным, максимально непредвзятым и безобидным». Первые результаты свидетельствуют, что задумка Ребена и Хоффа работает. Эксперт по взаимодействию людей и роботов из Массачусетского технологического института Шерри Теркл замечает, что людям несложно открыть душу роботу: «Люди неприхотливы, нам много не надо».
Проблема вагонетки в эпоху умных машин
Технологии приносят с собой не только удобства, но и этические дилеммы. Представим, что автомобиль-беспилотник приближается к перекрестку, где он должен повернуть направо. Его сенсоры тщательно контролирует поведение мотоциклиста справа. Неожиданно малыш вырывается у матери на перекрестке и бросается через дорогу. У компьютера всего секунда, чтобы определиться, кого спасти – мотоциклиста или ребенка. Времени на сбор данных и выбор варианта с минимально возможным вредом нет. Чья жизнь должна быть в приоритете: малыша или мотоциклиста? Какое решение примет компьютер?
Это обновленная версия классической задачи под названием «проблема вагонетки». Ситуация заключается в следующем: по рельсам несется отцепленная вагонетка и вот-вот собьет пять человек. Будь такая возможность, перевели бы вы ее на другой путь, где стоит один человек? Проблема вагонетки представляет собой парадокс, который нельзя решить только на основе принципов морали или этики. В фильме «Выбор Софи» Мерил Стрип играет главную роль польской женщины, матери двух детей, участницы антифашистского сопротивления в Польше. Ее арестовывают и направляют в Освенцим, где немецкий офицер ставит перед ней невозможный выбор: кто из ее детей – сын или дочь – отправится в концлагерь, а кто – в газовую камеру? Софи приходится сделать чудовищный выбор за долю секунды. В аналогичной ситуации и машинист в описанном нами выше примере. Моральные дилеммы подобного типа позволяют понять, почему у операторов дронов выше уровень посттравматических стрессовых расстройств, чем у пилотов обычных самолетов. Операторы дронов принимают решения о жизни/смерти, находясь в комфортных условиях центров управления полетом в тысячах километров от места бомбежки, а пилоты самолетов, поднимаясь в воздух для нанесения удара, рискуют собственными жизнями. В опубликованной в The New York Times статье Эяль Пресс рассказывает об операторе дрона по имени Аарон: «Аарон увидел шокирующую сцену: по улицам несли гробы с жертвами налета дронов». Хотя Аарон был опытным оператором, он испытал и физические, и моральные мучения. У него появилась тошнота, крапивница и проблемы с пищеварением. «Мне было очень, очень плохо», – сказал он Прессу. Перед ним каждый день стоял мучительный выбор: кого убить, а кому оставить жизнь.
В 2016 и 2017 гг. собранная Массачусетским технологическим институтом международная исследовательская команда реализовала проект под названием «Моральная машина» – эксперимент для оценки того, как люди разных культурных традиций решают подобные дилеммы. С помощью онлайн-платформы исследователи собрали информацию о почти 40 млн решений в разных дорожных ситуациях, принятых более чем 2 млн человек из 200 с лишним стран и районов мира. Респондентам предлагали ознакомиться с 13 ситуациями, в которых чья-то гибель была неминуема. Одни решения давались проще, чем другие. Например, кому водитель должен отдать предпочтение, домашнему животному или человеку? Следует ли считать спасение большего количество жизней предпочтительным? Однако были и крайне тяжелые моральные и этические дилеммы. Кого лучше спасти: здоровых людей или людей с ограниченными возможностями? Правонарушителя или законопослушного человека? В ходе эксперимента выявилась заметная склонность респондентов спасать людей, а не животных, большее, а не меньшее число жизней, молодых, а не пожилых людей. «Эти три предпочтения можно рассматривать в качестве базы для формирования машинной этики», – делают вывод исследователи.
Как и следовало ожидать, обнаружились и особенности. И мужчины, и женщины были более склонны спасать жизни женщин, причем у женщин это проявлялось более явно. Более религиозные люди предпочитали спасать людей, а не животных. Явные расхождения фиксировались по странам. «Склонность спасать более молодых, а не старых, гораздо менее выражена в странах из восточного кластера [приверженные конфуцианским принципам страны Азии и некоторые мусульманские страны], но гораздо более заметна в странах из южного кластера [Латинская Америка и франкоговорящая Африка]. Аналогичный подход отмечается и в отношении людей с более высоким статусом». Люди из южного кластера демонстрировали «гораздо более слабую склонность к спасению людей, а не животных». Что интересно, «для всех кластеров была общей только (слабая) склонность спасать пешеходов, а не пассажиров, и (умеренная) склонность спасать законопослушных людей, а не правонарушителей». В странах с более индивидуалистскими культурами люди были более склонны спасать молодых, а люди из стран победнее были более толерантны к неосторожным пешеходам, чем к законопослушным пешеходам. Как ни печально, респонденты из стран с заметным экономическим неравенством выражали большую готовность спасать людей, имеющих высокий статус.
Как отмечает соавтор исследования Ияд Рахван, вызывает беспокойство то, что «некоторые из рассматривающих вопрос машинной этики говорят так, будто можно разработать безупречный кодекс для роботов. Из наших же данных видно, что универсальных правил нет». По мнению еще одного соавтора проекта, Эдмонда Авада, «больше людей начали понимать, что ИИ может создавать разные этические проблемы для разных групп людей. Вселяет надежду, что люди интересуются этой идеей». По словам менеджера из немецкого подразделения беспилотных автомобилей Audi Барбары Веге, «нам нужен общественный консенсус по поводу тех рисков, которые мы готовы взять на себя».
Развитие ИИ сопровождается не только вытекающими из проблемы вагонетки моральными дилеммами. Как подчеркивает генеральный директор Sonata Software Шрикар Редди (с которым мы обсуждали эти вопросы в блоге Всемирного экономического форума), нужно разделять деонтологические и телеологические этические стандарты. В первом случае мы делаем упор на намерениях и средствах, во втором – на целях и последствиях. Какой подход лучше? Зависит от технологий и контекста. «Что касается автомобилей-беспилотников, перспектива создания безошибочно функционирующей и вместе с тем эффективной и экологичной транспортной системы вполне может оправдать масштабный сбор данных о вождении при разных условиях, а равно и для экспериментов с ИИ-приложениями». В то же время с учетом печальной истории медицинских экспериментов на безвинных людях проблематично обосновывать телеологически идею проведения медицинских испытаний с использованием больших данных. Здесь более разумным представляется применение деонтологического подхода с упором на намерения и средства.