В 2018 году исследователи из Университетского колледжа Лондона и Google использовали глубокое обучение и lSTM для отслеживания положения виртуальной крысы в виртуальном пространстве. К своему удивлению, во время выполнения программы они наблюдали спонтанное появление шестиугольных паттернов активности, очень схожих с теми, что наблюдаются в нейронах решетки[267], составляющих основу нейронов места в гиппокампе у млекопитающих. Еще более впечатляет то, что работа смоделированных клеток использовалась смоделированной крысой для навигации по виртуальному лабиринту, включая выбор коротких путей, которые, по словам авторов, «напоминали те, которые используют млекопитающие» [39].
Безусловно, это удивительные и неожиданные результаты. Но одного лишь факта, что программа способна генерировать нечто похожее на поведение, порождаемое мозгом, недостаточно, чтобы заявить, будто обе системы имеют общую структуру или функцию. Как показала работа Ив Мардер, один и тот же результат может быть порожден множеством совершенно различных структур. Малоэффективным оказалось и предположение Марра о том, что одни и те же алгоритмы могут быть задействованы в искусственных и естественных процессах: алгоритм, изучавший формы прошедшего времени английских глаголов, не пролил никакого света на то, как дети овладевают языком.
Системы глубокого обучения отлично умеют идентифицировать данные, например о кошках.
Недавняя попытка сравнить, как животные и сети глубокого обучения идентифицируют визуальные объекты, подтвердила догадки многих биологов. Хотя машина, обезьяна и человек были способны распознать изображения собак, медведей и так далее, компьютерная программа совершала ошибки, кардинально отличавшиеся от тех ошибок, что делали животные, что свидетельствовало о том, что алгоритм не обрабатывал изображения схожим образом. Кроме того, корректировка программы не улучшила ситуацию, что говорит о некоторых фундаментальных различиях в процессах, происходящих в машине и в мозге животного [40].
В 2015 году Гари Маркус, посвятивший свою карьеру изучению подобных феноменов, подробно высказался на этот счет: «Польза нейронных сетей как моделей сознания и мозга остается несущественной, полезной лишь, возможно, в аспектах низкоуровневого восприятия, но ограниченной в объяснении более сложного, более высокого уровня познания» [41]. Это правда, что, хотя большинство исследователей в области ИИ черпают вдохновение – или получают вызов, – в биологии известно лишь несколько случаев, когда подобные модели помогли понять биологические процессы [42]. Один из них связан с обучением. Многие из наиболее эффективных программ используют то, что называется методом временных различий – разницей в точности последовательных предсказаний – для достижения своих замечательных результатов (по сути, что положено в основу программы, которая недавно обыграла человека в го) [43]. В исследовании, проведенном в 2003 году, было обнаружено, что активность дофамин-продуцирующих нейронов во время обучения у людей в точности отражает то, что было предсказано моделями временных различий, представляя убедительные доказательства того, что естественное обучение включает в себя этот процесс [44]. Учитывая, что такие модели были впервые получены на основе исследования животных, это, возможно, не так уж и удивительно.
Несмотря на интерес исследователей к области искусственного интеллекта, в биологии есть только несколько случаев, когда они помогли понять биологические процессы.
Лучший пример, хотя он еще не был полностью разработан, появился в 2013 году, когда Софи Карон и Ванесса Рута в лаборатории Ричарда Акселя в Колумбийском университете показали, что структура обонятельной обрабатывающей сети дрозофилы по существу повторяет трехуровневую структуру нейронной сети со «скрытым слоем», отвечающим за грибовидное тело[268] [45]. Организация грибовидных тел различается от мухи к мухе и кажется случайной. Работая с коллегой, нейробиологом-теоретиком Ларри Эбботом, группа Акселя предположила, что эта «случайность» может являться основой для способности мухи к обучению – то, что Эббот и Аксель исследовали в сотрудничестве с учеными из кампуса «Джанелия» [46]. Грибовидное тело каждой особи имеет специфическое устройство, и эта особенность, вместе с обратными цепями (по сути, такими же, как бэкпроп, но включающими ряд клеток), по-видимому, позволяет мухе опознавать запахи и соответствующим образом вести себя. Подобное прозрение, касающееся, вероятно, наиболее понятного на сегодняшний день мозга, было бы невозможно без работы теоретиков, использующих нейронные сети. Но работает ли мозг мухи действительно таким образом, еще предстоит выяснить [47].
Потенциальное понимание того, как улучшить искусственный интеллект, появляется благодаря наблюдению, что животные могут учиться удивительно быстро, иногда на основе одного примера, в то время как программы обычно требуют расширенного обучения и длительных тренировочных курсов [48]. Животные могут совершать такие подвиги, потому что их нервная система эволюционировала, чтобы реагировать на определенные стимулы. Благодаря кантовским сенсорным a priori мозг заранее подготовлен к созданию одних связей, а не других. Например, крыса, которая почувствует себя больной после употребления новой пищи, научится на этом единственном примере избегать ее впоследствии[269]. Такого не происходит, если вы бьете крысу током или ассоциируете чувство тошноты с новым звуком. А priori, по-видимому, включает только связь между вкусом и болезнью по довольно очевидным эволюционным причинам. Встроив такие «древние» паттерны в искусственные нейронные сети, возможно, удастся повысить их эффективность.
Несмотря на приведенные примеры, в целом удивительные современные компьютерные программы не дают четких биологических гипотез и в результате почти не объясняют того, как работает реальный мозг. Отчасти проблема использования нейросетей в качестве ориентиров для биологических исследований заключается в том, что не ясно, как именно программы выводят результаты. Это не только является загадкой для таких людей, как я, но и ставит в тупик самих исследователей. Так было всегда: в 1987 году авторы NetTalk признали, что, хотя были в состоянии понять «функцию некоторых скрытых единиц, было невозможно идентифицировать единицы в разных сетях, которые имели ту же функцию». А сегодняшние программы гораздо сложнее, и их еще труднее подвергнуть деконструкции [49].
Современные компьютерные программы не дают четких биологических гипотез и в результате почти не объясняют того, как работает реальный мозг.
В декабре 2017 года исследователь ИИ из Google, Али Рахими, назвал машинное обучение «алхимией», потому что неясно, что на самом деле делают алгоритмы [50]. Другой исследователь зашел так далеко, что заявил, что область нейронаук была «охвачена практиками карго-культа[270]» и опиралась на «фольклор и магические заклинания». В 2019 году в интервью журналу Wired о нейронных сетях Джеффри Хинтон бодро признал, что ученые «действительно не знают, как они работают» [51]. Это должно быть предупреждением для любого нейробиолога, который ищет в нейронных сетях теоретическое объяснение того, как функционирует мозг. Многие ученые в сфере IT понимают, что им тоже не хватает теории для объяснения таких сложных систем.
Несмотря на прорыв, представленный подходом PDP, некоторые критики вскоре задались вопросом, насколько полезным он будет для понимания биологических проблем. В 1989 году Крик написал четырехстраничную статью в Nature, как обычно, со звучным названием: «Недавнее волнение по поводу нейронных сетей» [52]. В 1977 году Крик перебрался в Институт биологических исследований Солка в Калифорнии, чтобы работать в области нейробиологии, где стал членом исследовательской группы PDP. Но вскоре его начало раздражать то, что он считал фундаментальными биологическими недостатками этих программ, в частности отсутствие анатомической и физиологической точности. Особенно злила его зависимость от бэкпропа. «Кажется очень маловероятным, что это действительно происходит в мозге», – писал он[271] [53].
Критика Крика была направлена на нечто большее, чем просто биологическую неточность. После весьма язвительного замечания о характере мотивации некоторых исследователей (он предположил, что «где-то в глубинах большинства моделистских душ разочарованный математик пытается расправить крылья» и что целью их было придать «вид интеллектуальной респектабельности в остальном низкопробному предприятию») Крик подчеркнул разрыв между информатикой и биологией:
«Построение работающей машины (например, высокопараллельного компьютера) – это инженерная задача. Инженерия часто основана на науке, но у нее иная цель. Успешный инженерный проект – это машина, которая делает что-то полезное. С другой стороны, понимание мозга – это научная проблема. Мозг дан нам как продукт долгой эволюции. Мы хотим знать не как он может работать, а как на самом деле работает» [54].
Для Крика смысл эволюционного прошлого мозга заключался в том, что этот орган формировался с помощью ряда шагов, каждый из которых был не совершенным, но просто адекватным. «Все будет работать, пока мозг работает», – говорил ученый. Мозг не был спроектирован, и в результате мы не можем быть уверены, что он будет воплощать «глубокие общие принципы». «Он может предпочесть серию ловких трюков для достижения своей цели», – предположил исследователь. Вместо поиска потенциально несуществующих логических принципов требовалось «тщательное изучение устройства». Крик полагал, что ученые должны «заглянуть внутрь мозга, чтобы получить новые идеи и проверить существующие». Это был путь, который четыре года спустя привел Крика к аргументации в пользу разработки карты связей (connectional map) мозга.