.
Возможно ли, что в один прекрасный день мы начнем проводить обширный скрининг, основанный на анализе мозга, чтобы предсказывать наши способности и недостатки? Ответ на этот вопрос зависит от того, с какой надежностью и точностью ученые смогут делать такие предсказания по мозгам самых разных людей. Чем серьезнее последствия предсказания, тем более высокого уровня должна достичь технология, прежде чем ее можно будет использовать в медицинских или коммерческих целях. Если это получится, многие подобные методы помогут людям быстрее и, возможно, эффективнее подобрать лечение, чем это делается другими способами. Однако нам следует также задаться вопросом, как наше общество будет использовать предсказания, основанные на анализе мозга. Если однажды мы с высокой степенью надежности и точности научимся предсказывать, что освобожденный преступник с большой вероятностью совершит новые преступления, мы учтем или проигнорируем эту информацию? Если показатели мозга указывают на то, что у ребенка будет дислексия и ему, вероятно, не помогут стандартные методики обучения чтению, приведет ли это к тому, что школа и родители приложат больше или меньше усилий, чтобы помочь ребенку научиться читать?
Кроме того, следует задуматься о том, кто должен контролировать развитие и применение подобных технологий. Коммерческие компании уже активно разрабатывают точные, практичные и недорогие интерфейсы “мозг – компьютер”. Некоторые из этих разработок направлены исключительно на медицинское применение для улучшения жизни пациентов. Другие нацелены на решение двух задач одновременно: помощь пациентам и технологические удобства для широкого круга людей. Частная компания знаменитого предпринимателя Илона Маска преследует обе цели. В 2019 году Маск провел пресс-конференцию, на которой раскрыл планы компании по созданию нейрональных имплантатов с ультратонкими электродами. Маск и другие представители компании говорили об использовании технологии для помощи людям с повреждениями мозга, но они, совершенно определенно, также предвидят возможность и более широкого коммерческого применения своих устройств. Маск объяснил, что одна из целей заключается в “достижении симбиоза с искусственным интеллектом”[296].
Маск – не единственное известное действующее лицо в гонке за создание технологии прямого взаимодействия с мозгом. Компания “Алфабет”, родственная компании “Гугл”, разрабатывает вживляемые нейроинтерфейсы[297]. Фейсбук тоже имеет собственную группу, финансирующую исследования в данной области; ученые из этой группы показали, что способны раскодировать активность, зарегистрированную на поверхности мозга говорящего человека, а затем быстро и аккуратно превратить ее в компьютерный текст[298]. Фейсбук также объявил о работе над устройством, которое считывает нейронные сигналы с поверхности головы, примерно как ЭЭГ, но только встроено в очки. Как рассказал генеральный директор компании Марк Цукерберг в 2017 году, “мы работаем над созданием системы, которая позволит печатать напрямую из мозга примерно в пять раз быстрее, чем вы сегодня можете печатать на телефоне. В конечном итоге мы хотим превратить это в портативную технологию, которую можно сделать широко доступной”[299].
Несмотря на воодушевление и надежды, связанные с новыми технологиями, требуется тщательное осмысление возможностей их коммерческого использования. Еще до того, как мы приступим к использованию данных мозга, мы уже имеем достаточно причин беспокоиться по поводу конфиденциальности. Благодаря программам машинного обучения и массивам информации о наших покупках и другой деятельности в интернете компании знают о нас гораздо больше, чем мы думаем. Поведение – продукт деятельности нашего тела и мозга, и оно представляет программам машинного обучения поистине удивительные данные относительно нашего нынешнего состояния и будущего поведения. Поэтому торговая компания может выявить, что девушка беременна, еще до того, как об этом узнают ее родители, – просто через анализ ее покупок[300]. Фейсбук использует программы, способные определить эмоциональное состояние пользователей на основании их постов[301], а с помощью этой информации можно влиять на состояние других людей или целенаправленно воздействовать на людей, чувствующих себя наиболее незащищенными. Ученые применяли программы машинного обучения для анализа ритма нажатия на клавиши при общении через Фейсбук и другие коммуникационные приложения и могут с 80-процентной точностью предсказать, есть ли у печатающего человека тенденция к развитию депрессии[302].
Другая работа в том же ключе позволяет ученым выявить людей с ранней стадией болезни Паркинсона по ритму печатания на клавиатуре и людей с болезнью Альцгеймера по движениям, зафиксированным акселерометром мобильного телефона[303]. Короче говоря, уже теперь коммерческие компании могут знать о некоторых аспектах нашего здоровья больше, чем знаем мы сами.
Открытие доступа к нашим индивидуальным нейрональным данным для коммерческих компаний и рекламодателей чрезвычайно сильно угрожает неприкосновенности частной жизни. Если ритм печатания на клавиатуре рассказывает о нарушениях в работе мозга, представьте себе, что сообщает активность мозга о нашем здоровье, настроении, наклонностях, слабостях и предстоящем выборе. Даже если эти сигналы мозга записываются с помощью электродов, встроенных в очки или шляпу, они произведут горы данных, которые можно использовать в методах машинного обучения для извлечения фактически любой информации о характеристиках, наклонностях и состояниях человека.
И эта угроза возрастет, если данные попадут в руки технологических монстров, таких как Фейсбук или “Гугл”, которые, возможно, уже имеют подробную информацию о нашей постоянной активности в интернете. Чем больше программа машинного обучения тренируется на сигналах от конкретного мозга, тем лучше она считывает смысл этих специфических сигналов от человека. Если компания способна связать нашу деятельность в определенные моменты времени (скажем, при переписке с друзьями или чтении рекламы) с сигналами мозга в эти же моменты времени, у нее есть вся информация, необходимая для тренировки программы машинного обучения на нас и нашем мозге. Учитывая количество времени, которое большинство людей проводят в интернете и пользуются электронными устройствами, такая программа очень быстро узнает нас лучше, чем знаем мы сами. И любая извлекаемая информация о наших проблемах со здоровьем, о перепадах настроения, физиологическом ритме, беспокойствах и других уязвимых местах становится ценным достоянием для тех, кто хочет нам что-то продать или повлиять на наши убеждения и поведение. Если кто-то может приобрести информацию о том, когда и как мы в наибольшей степени подвержены влиянию, это будет иметь последствия не только для маркетинга, но и для общественной жизни и демократии. В какой-то степени эти проблемы уже существуют, но доступность наших нейрональных данных для коммерческих компаний, совершенно очевидно, усугубит ситуацию.
В 2019 году академия наук Великобритании, Королевское общество, выпустила отчет о развитии технологий, основанных на анализе мозга. Отчет открывался срочным призывом к действию: “Влиятельные и ответственные лица, политики и общественность в обязательном порядке должны понять, что у них есть возможность влиять на будущее технологий с применением нейроинтерфейсов. Эти технологии создаются в настоящее время. Инвестиции увеличиваются. Результаты будут значимыми, и если мы хотим, чтобы они были положительными, общество должно подключаться к этому процессу на ранних этапах и постоянно”[304].
Но что реально можно сделать, чтобы повлиять на развитие и использование подобных технологий? На самом деле достаточно многое. Отдельные государства и международные организации, такие как ООН, имеют достаточный опыт формирования комиссий, законодательных постановлений и деклараций для наблюдения и регуляции сложных вопросов по взаимодействию науки и общества. У нас уже есть строгие правила, ограничивающие продажу и использование человеческих органов, генно-инженерных технологий, а также химического, биологического и ядерного оружия. У нас есть законы, препятствующие разглашению конфиденциальной медицинской информации о пациентах и защищающие права людей, участвующих в медицинских исследованиях. Нет причины для того, чтобы сбор и использование нейрональных данных не могли бы контролироваться аналогичным образом при наличии общественного интереса и юридической мотивации. Рабочая группа, состоящая из нейробиологов, специалистов по этике и инженеров, выступила с несколькими практическими рекомендациями, которые государства должны принять во внимание уже сегодня, чтобы предвосхитить и предотвратить возможное неправомерное использование данных о мозге[305]. В конечном итоге реакция правительства будет зависеть от того, признает ли общественность значимость и неотложность проблемы. Но коммерческие компании не теряют времени. Они частным образом будут продолжать развивать данные технологии с учетом своей практической выгоды.
Технологии, основанные на анализе мозга, развиваются. Некоторые уже существуют. Они будут совершенствоваться.
Вероятно, они не смогут похитить у нас все мысли или столкнуть нас в неприятную виртуальную реальность. Но они смогут определять наши эмоции и предсказывать некоторые наши действия, способности и недостатки. Такие технологии способны помочь беспомощным, но они также угрожают нарушением конф