Так что – давайте смиримся с этим отныне и навсегда – каждый из нас давно уже испытал на себе, что значит быть симулированным на компьютере!
«Ерунда, – первым делом скажут большинство людей. – Я уж точно не чувствую себя машиной!»
Но почему мы так уверены в этом? Как можно что-то утверждать об ощущениях, которые мы не испытывали? Или вы машина, или нет. Если, как вы говорите, вы не машина, то откуда вам знать, каково быть машиной?
«Ладно, но будь я машиной, я бы как минимум знал об этом!»
Нет. Это только грандиозно наивное допущение, равносильное утверждению: «Я мыслю, следовательно я знаю, как работает мышление». Но, как мы обнаружили, между нашими осознанными мыслями и производящей их механикой лежит столько слоёв, что это утверждение так же абсурдно, как и: «Я вожу машину, следовательно я знаю, как работают двигатели!»
«Однако, пусть даже мозг и является разновидностью компьютера, вы должны признать, что его масштабы невообразимо велики. Человеческий мозг насчитывает многие миллиарды нервных клеток – и, вероятно, каждая клетка тоже крайне сложна. Кроме того, каждая клетка сложным образом взаимосвязана с тысячами других. Вы можете называть это всё „машиной“, но наверняка никому не построить ничего столь грандиозного!»
Я всецело разделяю дух этого возражения. Сравнение с машиной унижает, как будто вас считают чем-то примитивным. Такое сравнение действительно оскорбительно – постольку, поскольку название «машина» всё ещё сохраняет значение, принятое в давно ушедшие времена. Тысячи лет мы обозначали этим словом образы блоков, рычагов, паровозов, пишущих машинок и тому подобных простых вещей; аналогично, в наши времена слово «компьютер» вызывает мысли о сложении и вычитании цифр и сохранении их в крошечной так называемой «памяти».
Однако для наших новых целей эти слова более не пригодны, они не подходят для описания машин, которые мыслят, как мы; устаревшие термины оказываются ложными именами для того, что мы хотим сказать. Так же, как «дом» может быть или большим, или ничем большим, чем просто дерево и камень, наши сознания могут быть описаны как всего лишь и в то же время значительно большее, чем просто машины.
Что же до масштабов, то эти возражения уже практически полностью устарели. Они были справедливы в 1950 году, когда ни один компьютер не оперировал и миллионом бит. Они всё ещё держались в 1960, когда миллион бит стоил миллион долларов. Но сегодня тот же самый объём памяти стоит не более сотни долларов (к тому же за это время наши правительства уменьшили и доллар) – и уже существуют компьютеры с миллиардами бит.
Нам недостаёт только знаний о том, как сделать эти машины разумными. Да, как вы могли уже догадаться, углублённые исследования в области искусственного интеллекта должны бы найти хорошие способы, как подсказывает фантазия Винджа, объединить структуры и функции при помощи символов. Когда, если вообще, это произойдёт? Никогда не говорите «никогда».