допустимыми разные распространённые ругательства, даже если они идут в ответ на брань пользователя и даже если они цензурны. Так что прописывать персонажа – это чистой воды искусство».
Кто бы ни занимался развитием характера Siri, Грубер высоко ценит его заслуги. «Он подобрал тон диалогов как истинный писатель. Он уловил главную суть: нужна личность с характером». Однако кто-то должен был озвучить эту личность. Кем-то стала Сьюзан Беннетт, шестидесятивосьмилетняя актриса озвучания, живущая в пригороде Атланты. В 2005 году Беннетт проводила каждый июльский день, записывая чётко произносимые слова и гласные звуки для компании ScanSoft. Это была сложная, изнурительная работа. «Есть такие люди, которые могут час за часом читать, читать, читать и не уставать. А вот мне становится невыносимо скучно», – говорила Беннетт. К тому же было сложно сохранять роботоподобный, нейтральный тон на протяжении нескольких часов. «Это одна из причин, почему Siri порой звучит так, будто у неё есть свой характер». ScanSoft сменила название на Nuance, и Siri обзавелась их системой распознавания голоса – голосом Siri. Беннетт не представляла, что ей предстоит стать голосом ИИ: она не знала, что стала Siri, до 2011 года, когда кто-то написал ей письмо. Apple не подтвердит причастность Беннетт, хотя речевой анализ установит, что голос Siri – её голос. «У меня смешанные чувства, – рассказывала она. – Я польщена, что меня сделали голосом Apple в Северной Америке, но сделали без моего ведома – вот это немного коробит. Особенно если учесть, что мой голос звучит на миллионах и миллионах устройств».
«Даже имя было очень тщательно выбрано, – рассказывает Грубер. – Его легко произнести, оно достаточно мягкое и имеет положительную окраску во всех известных нам языках. Думаю, среди прочего, Apple решила его оставить, потому что оно просто хорошо звучит».
Как утверждает Киттлаус, именем Siri – что, кажется, в норвежском языке означает «прекрасная победоносная советница» – он хотел назвать свою дочь. Однако у него родился сын и это имя ушло другому детищу. Так что же за существо в итоге появилось на свет? (Siri совершенно точно не женского и не мужского пола, Siri – оно.)
«Вы можете воспринимать Siri как угодно, но по сути это не человек. Если вы вслушаетесь в реплики, например, спросите: „Какой твой любимый цвет?“ – в ответ получите: „В вашем спектре его нет“, – или что-то в этом роде. Идея заключается в том, чтобы смоделировать, как бы нам отвечал ИИ, сумей мы сотворить таковой: ведь у него нет тела, вырос он не как человек и у него совершенно иные органы чувств и восприятие. Поэтому он вроде как пытается объяснить простым смертным те знания, что ему доступны».
ИИ, рождённый в виде причудливой фантазии, обрёл соответствующее воплощение.
В 2010 году, как только ассистент получил имя, а в это же время удачно подоспела и технология распознавания речи, разработчики вывели приложение в свет. Оно тут же добилось успеха. «Было просто невероятно, – рассказывает Грубер. – Мы увидели, что оно затронуло людей за живое, когда выпустили его в App Store и оно за один день стало популярнейшим в своей категории».
В Apple не заставили себя ждать и очень скоро связались с молодой компанией. «Нам быстро позвонили из Apple», – говорит Грубер. Звонил сам Стив Джобс. Проект Siri стал последним приобретением, которое он взял под своё крыло перед смертью. Apple купила их приложение за двести миллионов долларов – ровно столько же потратило DARPA на всю пятилетнюю программу CALO, которая легла в основу Siri.
Сначала Siri приобрела печальную славу из-за частого недопонимания команд, а новизна активируемого с помощью голоса ИИ, возможно, обошла его практическую пригодность. В 2014 году Apple подключила Siri к нейронной сети, совместив технику машинного обучения и глубокие нейросети и сохранив при этом большинство предыдущих возможностей, что мало-помалу улучшило производительность программы.
Насколько сообразительной может быть Siri? «Нет никаких преград овладеть суперсилой, – говорит Грубер. – Ведь она никогда не спит, может подключиться к интернету в десять раз быстрее вас или выполнять всякую прочую работу, какую вы поручили бы виртуальному помощнику, но Siri совершенно не знает вас».
Грубер объясняет, что Siri не способна к эмоциональному интеллекту – пока. Он говорит, что им сперва нужно найти алгоритм, чтобы заложить его в основу программы. «Нельзя просто сказать, ой, „стань более интересной подружкой“ или „слушай повнимательнее“. Такие высказывания не программируются. Поэтому следует говорить „Наблюдай за поведением людей“ и „Нужно делать вот это, чтобы порадовать людей, а вот такие-то вещи делать плохо; делай то, что радует людей“. Вот тогда ИИ исполнит вашу команду».
Сейчас возможности Siri ограничены базовыми функциям устройства, в котором она обитает. «Приложение выполняет множество поручений, однако не может выполнить всё, что умеет живой помощник. Мы размышляем об этом, как… ну, вот что люди делают со своими устройствами Apple? Используют как навигатор, слушают музыку? И Siri сейчас со всем этим отлично справляется». Грубер и компания осторожно просматривают запросы, которые Siri обычно получает, количество которых сейчас дошло до двух миллиардов в неделю. «Если вы занимаетесь ИИ, то это как нирвана, – говорит он. – Поэтому мы довольно много знаем о том, чего люди хотят от жизни, что они хотят сказать компьютеру и что они говорят своему помощнику.
Вся информация остаётся строго внутри компании: у нас жёсткая политика конфиденциальности. Большинство данных мы даже подолгу не храним на серверах, если вообще храним… Распознавание речи стало намного лучше, потому что мы действительно просматриваем данные и проводим с ними эксперименты».
Мы действительно просматриваем данные и проводим с ними эксперименты.
Конечно же, Грубер знает обо всех изъянах Siri. «На данный момент иллюзия разрушается, когда приложение не способно распознать вашу речь, или вы задали ему необычный вопрос, или сформулировали просьбу необычным образом… Насколько разговорчивой может быть Siri? Насколько компанейской? Какова её аудитория? Дети? Интроверты?
Но есть некоторые вещи, которые Siri сейчас не умеет делать. Например, вы не можете сказать: „Привет, Siri, не забудь, что номер моей комнаты 404“ или „Когда я проголодаюсь, напомни мне перекусить, или напомни мне попить, когда мне захочется пить“. Она не может справиться с такими просьбами. Она не знакома с окружающим миром и не видит его так, как видим мы. Однако если она обзаведётся необходимыми сенсорами, то сможет воспринимать мир так же, как и мы».
Что бы хотелось Груберу изменить в Siri? «Во-первых, мне бы хотелось, чтобы её речь была более естественной». Он надеется, что это сделает Siri более похожей на нас. «Поэтому я хочу, чтобы она больше походила на человека: никаких „бип“ и глупых „Теперь твоя очередь“ и всего прочего. Мы к этому придём. Всё будет происходить естественным образом. Мне интересно сфокусироваться на человеческих потребностях… Вот почему мы сделали и текстовый интерфейс, и голосовой ввод, – люди испытывают острую необходимость не отвлекаться на набор текста, когда сидят за рулём. Другая потребность заключается в том, чтобы облегчить использование устройства. Сейчас легко запутаться в куче разных интерфейсов, поэтому Siri – что-то вроде ГИП[52] -помощника, она может разобраться со всеми этими сложными интерфейсами, а вам остаётся только сказать: „Напомни мне, когда я приеду домой, позвонить маме“, и она определит, когда вы окажетесь дома, и скажет: „Напоминание. Коснитесь вот здесь, чтобы позвонить маме“. Конечно, она может определить, находитесь ли вы дома, только в том случае, если вы указали свой дом в адресной книге – тогда да, она узнает, что вы на месте, с помощью GPS. Она также знает вашу маму, знает, кто она, её номер телефона и всё в этом роде».
Я обратил внимание на то, что тогда Siri получит доступ к ещё большему количеству наших личных данных, а затем спросил Грубера, боится ли он, что Siri, или какой-нибудь другой ИИ, может сделать что-нибудь пагубное, обладая подобного рода информацией. А еще спросил, беспокоит ли вообще отца Siri расцвет настоящего искусственного интеллекта?
«Меня не страшит развитие компьютерного интеллекта, – отвечает Грубер. – Расцвет случится, и я буду только рад. Жду с нетерпением. Бояться ИИ – это как бояться ядерной энергетики: понимаете, если бы мы разработали ядерную технологию, зная то, что мы знаем сейчас, мы могли бы, наверно, сделать её более безопасной». Однако критики вроде Илона Маска и Стивена Хокинга обеспокоены тем, что ИИ может эволюционировать намного быстрее, чем наш контроль над ним: это может стать угрозой для существования всего человечества.
«Просто замечательно, – говорит Грубер о нашей дискуссии. – Мы сейчас достигли той стадии, когда Илон Маск от имени всего мира возвещает: „Смотрите, перед нами настолько мощная сила, что однажды она сможет уничтожить всю Землю. Что же нам делать с этой технологией?“ Мне не по душе то, что мы сделали с ядерными технологиями, однако все мы до сих пор живы. Думаю, мы теперь можем справиться гораздо лучше, ведь нам пришлось столкнуться с непростыми временами в виде холодной войны, и мы не уничтожили себя». В любом случае, нам не стоит беспокоиться о Siri. «По сути, Siri не имеет ничего общего с интеллектом в целом, её скорее можно отнести к интеллектуальному интерфейсу. И для меня это большая проблема. Наша информация и интерфейсы к ней неоправданно сложны в управлении».
У ИИ есть много возможностей принести добро людям – именно поэтому Грубер, собственно, и оказался здесь. Он отправился в круиз TED, чтобы посмотреть, могут ли как-то его знания помочь защитить моря и океаны. Пока что он встретился с командами и обсудил использование программного обеспечения по распознаванию паттернов, а также приложения Google Earth для выслеживания браконьеров и обнаружения источников загрязнения.