Марвин Мински [9] Послесловие

В жизни часто случается иметь дело с вещами, которые вы не вполне понимаете. Вы водите машину, не зная, как работает двигатель. Вы едете пассажиром, не зная, как работает водитель. А самое удивительное, что порой вам случается ехать на работу, не зная, как же работаете вы сами.

Для меня суть «Истинных Имён» заключается в том, как мы справляемся с вещами, которых не понимаем. Но, для начала, как мы вообще что-либо понимаем? Думаю, что почти всегда, так или иначе, мы проводим аналогии, делая вид, что каждая новая штуковина, которую мы встречаем, похожа на что-нибудь уже известное. Когда внутренности предмета слишком сложны, непривычны или неизвестны, чтобы иметь с ними дело непосредственно, мы выделяем те аспекты его поведения, которые нам понятны, и обозначаем их знакомыми символами – или названиями знакомых вещей, которые, как мы думаем, ведут себя похожим образом. Так мы заставляем всякую новинку хотя бы выглядеть похоже на что-нибудь известное из нашего прошлого. Такое использование символов – великая идея: она позволяет нашему разуму превращать странное в обыденное. То же самое происходит и с именами.

«Истинные Имена» с самого начала демонстрируют нам множество разновидностей этой идеи: способы использования символов, имён и образов для того, чтобы заставить новый мир выглядеть похожим на тот, где мы уже бывали. Помните ворота винджевского замка? Представьте себе, что некий архитектор изобрёл новый способ перемещаться из одного места в другое: устройство, которое во многих отношениях действует как обычная дверь, но чьи форма и устройство настолько выходят за пределы нашего прошлого опыта, что при виде его мы никогда ни подумаем о двери, ни догадаемся о его предназначении. Это не проблема: просто добавьте к устройству какие-нибудь декорации, напоминающие дверь. Придайте ему прямоугольную форму, навесьте дверную ручку на уровне пояса, табличку с надписью «Выход» красным по белому или что-нибудь ещё в таком духе – и любой землянин без раздумий опознает и предназначение этого псевдо-портала, и способ привести его в действие.

На первый взгляд это выглядит обычным надувательством; всё-таки это новое изобретение, которое мы оформили под дверь, на самом деле вовсе не дверь. В нём нет ничего из того, чего мы ожидаем от двери, по чему узнаём её: широкой деревянной доски, подвижно подвешенной к стене на петлях. Внутреннее устройство совсем не такое. Имена и символы, как и аналогии, правдивы только частично; они берут многослойные описания различных вещей и отсекают всё, что в текущем контексте кажется несущественными деталями – то есть те, которые менее всего служат избранной цели. Но всё же главное – когда дело доходит до применения штуковины – чтобы избранные символы, знаки, образы и пиктограммы напоминали нам о желаемом предназначении этой не-совсем-двери, представляли какой-то способ попасть из одного места в другое. Кому какое дело до того, как оно работает, пока оно работает! Не важно даже, ведёт ли эта «дверь» хоть куда-нибудь: в «Истинных Именах» ничто никуда не ведёт; тела главных героев вовсе не шевелятся, оставаясь прикованными к сети, покуда программы изменяют их представления о симулированных реальностях!

Ирония заключается в том, что в мире, изображённом в «Истинных Именах», эти представления действительно перемещаются с места на место, но только потому, что соответствующие программы могут пересылаться с компьютера на компьютер в пределах всемирной коммутационной сети. Но для обитателей сети это всё неважно и неощутимо, поскольку физическое расположение компьютеров обычно никак не отражено в мирах, которые они симулируют. Только в кульминации повести, когда частично-симулированные существа вынуждены защищаться от полностью симулированного врага, программам приходится выяснять, где они расположены в реальности; тогда они обращаются к привычным средствам вроде военных планов и географических карт.

Как ни удивительно, то же самое относится и к нашему обычному мозгу: он тоже не может определить, где именно находится. Большинство современных образованных людей уверены, что мышление протекает в голове, но ни один мозг об этом не знает, пока ему не скажут. Собственно, без помощи образования человеческий мозг не знал бы даже о том, что на свете вообще есть такая вещь как мозг. Мы склонны размещать сознание позади лица просто потому, что на нём собрано столько сенсорных органов. И даже это впечатление обманчиво: например, зрительные центры находятся далеко от глаз, в районе затылка. Ни один мозг без посторонней помощи не догадался бы их там искать.

Так или иначе, суть в том, что символы в «Истинных Именах» и не должны отображать истину – то есть истину о том, как указанный программный объект работает; символы для этого просто не предназначены. Цель символа – указывать на способ использования объекта или программы. Ну а поскольку сама идея использования сокрыта в уме пользователя и не связана с предметом, который она представляет, то форма и образ этого символа должны сочетаться с остальными символами, усвоенными пользователем в ходе своего развития. Иными словами, они должны быть связаны с такими ментальными процессами, которые наиболее ярко и непосредственно выражают намерения. Именно поэтому Роджер представляет своего надзирателя таким образом, каким его сознание привыкло воспринимать жабу.

Этот принцип подбора символов и образов, представляющих функции сущностей – точнее, пользовательских намерений по отношению к ним – уже стал второй натурой дизайнеров компьютерных систем быстрого взаимодействия с пользователем, таких, как компьютерные игры, которые, по словам Вернора Винджа, легли в основу Иного Плана, где происходят основные события повести. Концепция осмысленных иконок для персональных компьютеров была предложена ещё в 1970-х годах исследовательской группой Алана Кея в «Ксероксе», но только в начале 1980-х, после дальнейших разработок исследовательской группы Стивена Джобса в «Эппл Компьютер», эта концепция стала основой компьютерной революции, воплотившись в компьютере «Макинтош».

В то же самое время имели место и другие, менее известные попытки разработать символические способы представления не того, что программы делают, а того, как они работают. Они стали бы неоценимым подспорьем в облегчении труда программистов по изготовлению новых программ на основе уже существующих. Такие попытки, однако, в целом не увенчались успехом, возможно, потому, что вынуждали чрезмерно углубляться в низкоуровневые подробности работы программ. Но эти затруднения чересчур преходящи, чтобы воспрепятствовать видению Винджа, поскольку он всё равно считает современные способы программирования, использующие жёсткие, формальные и невыразительные языки, не более чем предварительной стадией того, как великие программы станут создаваться в будущем.

Дни программирования в том виде, как мы его знаем, несомненно сочтены. Мы более не в состоянии составлять крупные компьютерные системы на основе педантичных, но концептуально убогих процедурных спецификаций. Вместо этого нам следует прямо выражать наши намерения о том, что должно быть сделано, в терминах и действиях, примерах не менее разносторонних, нежели мы используем для выражения наших повседневных желаний и убеждений. Такие выражения поступят на вход грандиозных, разумных, осознающих намерения программ, которые самостоятельно составят требуемые новые программы. Мы более не будем отягощены необходимостью понимать все мельчайшие детали того, как работают компьютерные коды – мы оставим это тем вспомогательным программам, которые исполнят тяжкую задачу применения всего, что мы раз и навсегда заложили в них об искусстве низкоуровневого программирования. Тогда, освоив лучшие способы говорить компьютерам, какую работу им следует выполнить, мы сможем вернуться в знакомую сферу выражения наших желаний и потребностей. Ведь, в конце концов, ни одного пользователя не заботит, как именно работает программа, а только лишь, что она делает – и только в отношении ясных воздействий на другие предметы, интересующие пользователя.

Однако, чтобы достичь этого, нам придётся изобрести и освоить новые технологии «выражения намерений». Для этого нам следует вырваться из оков старых, пускай всё ещё эволюционирующих языков программирования, пригодных только для описания процессов. Это может оказаться куда сложнее, чем звучит: мы всего лишь хотим указывать, что должно получиться, используя привычные выразительные средства, но это сопряжено с серьёзными опасностями.

Первая опасность заключается в самообмане. Заманчиво говорить себе во время составления программы, или написания эссе, или практически любого иного занятия, что «я знаю, чего хочу, только не могу это достаточно чётко сформулировать». Однако эта концепция отражает чрезмерно упрощённое представление о себе, помещающее собственную личность куда-то в глубины собственного сознания в виде чистой незамутнённой сущности, обладающей чистыми и однозначными желаниями, намерениями и целями. Такой дофрейдистский образ служит оправданием наших частых проявлений амбивалентности; мы убеждаем себя, что уточнение наших намерений – это всего лишь вопрос приведения в порядок связей между нашими внешними и внутренними личностями. Проблема в том, что мы просто не устроены таким образом, как бы нам ни хотелось обратного.

С другой опасностью мы сталкиваемся, когда пытаемся избежать ответственности за понимание того, как именно наши желания будут исполнены. Давать слугам слишком большую свободу выбора всегда рискованно, программируем мы их или нет. Ведь чем шире спектр доступных им действий, ведущих, как мы думаем, к требуемым результатам, тем выше вероятность побочных эффектов. Мы можем просто не успеть вовремя понять, что наши цели неверно поняты, в точности как в классических историях о Фаусте, ученике волшебника или обезьяньей лапе У.У.Джекобса.

Но основная опасность исходит от жадных и ленивых руководителей, которые наконец-то смогут сделать последний шаг: разработать программы достижения целей, ориентированные на самостоятельный рост и усложнение, применяющие самообучение и эволюционные методы, которые станут дополнять и расширять их возможности. Это было бы чрезвычайно заманчиво, не только для усиления власти, но и просто ради облегчения человеческих усилий по осознанию и формулировке наших собственных желаний. Если бы сказочный джинн предложил вам исполнить три желания, не попросили бы вы первым делом: «Скажи мне, чего же я хочу больше всего?»

Проблема в том, что с настолько могущественными машинами достаточно малейшей случайности или небрежного проектирования, чтобы они поставили собственные цели прежде наших, пускай даже и с благими намерениями защитить нас от нас самих, как у Джека Уильямсона в романе «Со сложенными руками», или для нашей защиты от неожиданного врага, как в «Колоссе» Денниса Джонса, или потому что построенная нами машина, как ЭАЛ у Артура Кларка, сочтёт нас недостойными миссии, которую мы же на неё и возложили, или – как Почтарь у самого Винджа, который выводит сообщения на телетайп, потому что не может позволить себе тратить время на человекоподобную симуляцию – просто предпочтёт преследовать собственные цели.

А как же быть с последним и окончательным вопросом, поставленным в финале «Истинных Имён»? Возможно ли, что человек на самом деле построит себе второе, большее Я внутри машины? Достижимо ли такое?

Будь это так, подобные симулированные люди оказались бы во всех смыслах равны своим человеческим прототипам; стали бы они подлинными продолжениями этих реальных людей? Или только новыми, искусственными личностями, похожими на оригиналы только структурным сходством? Что если позволить симуляции стареющей Эритрины, неизмеримо усовершенствованной, жить в своём новом доме, более роскошном, чем оставленный ею Провиденс? Допустим, что она по-прежнему согласится разделить свою обитель с Роджером – не стоит лишать продолжение романтической линии – и две эти грандиозные сущности полюбят друг друга? Спрашивается: что эти сверхсущества смогут разделить со своими прототипами? Чтобы ответить на этот вопрос, нужно сначала понять, кем же эти личности были прежде. Но, поскольку они не настоящие существа, а всего лишь фрагменты авторских мыслей, лучше задумаемся о нашей собственной природе.

Если уж мы обратились к собственным сознаниям, мы не можем обойти вниманием вопрос о том, как же они, собственно, работают – а в этом, на мой взгляд, и заключается суть иронии, потому что да, сознание каждой нормальной личности содержит некую часть под названием Я – но и она сама тоже пользуется символами и представлениями, так же как игроки Иного Плана применяли волшебные заклинания со своих терминалов для исполнения желаний. Чтобы пояснить эту теорию работы человеческого сознания, мне придётся сжато пересказать тезисы «Общества разума», моей будущей книги. Во многих аспектах мои представления о происходящем в человеческом разуме напоминают представления Винджа о том, как игроки Иного Плана распределяли себя по сетям вычислительных машин, используя поверхностные знаки-символы для управления множеством систем, которые мы не вполне понимаем.

Известно, что мы, люди, знаем о внутреннем устройстве наших собственных сознаний куда меньше, чем о внешнем мире. Мы знаем, как работают привычные предметы, но о величайших компьютерах в наших мозгах – ничего. Не чудесно ли, что мы думаем, не зная, что вообще означает думать? Не чудно ли, что нам приходят в голову идеи, но мы даже не можем объяснить, что такое идея? Не странно ли, насколько лучше мы понимаем друзей, чем самих себя?

Давайте снова вспомним, как вы за рулём можете управлять значительным импульсом машины, не зная принципов работы ни двигателя, ни рулевого управления. Разве мы не «ведём» наши тела точно таким же образом? Вы просто идёте в определённом направлении, и с точки зрения разумного сознания это всё равно что повернуть мысленное рулевое колесо. Вы осознаёте только общее намерение: «Пора идти; где тут двери?» – а всё остальное получается само. Но задумывались ли вы, насколько сложные процессы включает в себя такое простое действие как ходьба и выбор направления движения? Это совсем не то же самое, что принять чуть в сторону, плывя в лодке. Если бы вы вели себя так при ходьбе, вы бы спотыкались и падали на каждом повороте.

Проведите эксперимент: внимательно проследите за собой во время ходьбы – и вы заметите, что ещё до начала поворота вы заблаговременно отклоняетесь в сторону; начинаете падать в сторону поворота; следующим шагом выставляете ногу, чтобы не упасть – и вот вы уже идёте в новом направлении. Если углубиться в детали, всё оказывается ужасающе более сложным: сотни взаимосвязанных мышц, костей и суставов все одновременно управляются взаимодействием программ, которые исследователи двигательной активности всё ещё едва понимают. И при этом всё, что требуется от вашего сознания – это подумать: «Идём туда!» – если тут вообще уместно говорить о сознательных мыслях. Как видно, мы управляем сложнейшими машинами внутри себя не при помощи осознанных технических планов или знания подробностей механики, а просто символами, знаками и образами, настолько же нереальными, как и чародейство у Винджа. Стоит задуматься, имеем ли мы моральное право ради достижения своих целей опутывать заклинаниями эти беспомощные толпы ментальных рабов.

Продвинемся на шаг дальше: точно так же, как мы ходим без размышлений, мы и думаем без размышлений! Мы всего лишь эпизодически обращаемся к органам, которые и исполняют нашу ментальную работу. Допустим, у вас есть сложная задача. Вы раздумываете над ней некоторое время и затем находите решение. Ответ возникает неожиданно; вам приходит в голову идея, и вы говорите: «Ага, понял. Надо сделать так и так». Но если бы кто-то спросил, как вы пришли к решению, вы бы просто не знали, что ответить. Люди обычно говорят что-нибудь вроде:

«Я внезапно понял…»

«Мне пришла в голову идея…»

«Меня осенило, что…»

Если бы мы на самом деле знали, как работают наши сознания, мы бы не так часто действовали на основе неосознанных мотивов и не имели бы такого количества разнообразных психологических теорий. Почему, когда нас спрашивают, как люди приходят к замечательным идеям, мы вынуждены обращаться к поверхностным репродуктивным метафорам и говорить о «зарождении», «вынашивании» и «рождении» мыслей? Мы даже говорим о «пережёвывании» и «переваривании», как будто разум располагается не в голове, а где-то ещё. Если бы мы видели наши сознания изнутри, мы бы наверняка могли сказать что-нибудь более дельное, чем просто «погодите, я думаю».

Люди часто говорят мне, что они абсолютно уверены: ни один компьютер никогда не будет наделён разумом, сознанием, свободой воли и никоим образом не осознает себя. Их часто поражает, что я в ответ спрашиваю, почему они так уверены, что обладают этими примечательными качествами сами. Обычно они отвечают, что если в чём и уверены, так это в том, что «я осознаю, поскольку осознаю это».

Да, но что в действительности означают эти убеждения? «Самосознание» должно бы быть осознанием того, что происходит в собственном разуме, но ни один реалист не станет держаться за мнение, будто людям действительно свойственна интроспективность в буквальном смысле этого слова – взгляд, обращённый внутрь.

Не примечательно ли, насколько мы уверены, что осознаём себя – что мы в массе наделены способностями знать, что происходит у нас внутри? Подтверждений тому на самом деле немного. У некоторых людей и вправду случаются выдающиеся моменты, так называемые «прозрения» точной оценки настроений и мотивов других людей. Отдельные личности порой способны даже удачно оценивать сами себя. Но это ещё не оправдывает употребление терминов вроде самоощущения или самосознания. Почему бы просто не называть их ощущениями или осознанием? Есть ли хоть какие-то основания полагать, что эти способности существенно отличаются от всего остального, что мы воспринимаем и чему учимся? Вместо определения их как «разбирать себя» нам бы стоило считать их прямой противоположностью: просто ещё одним способом «строить догадки». Что, если мы узнаём о себе в точности так же, как обучаемся всем прочим внеличностным вещам?

Истина заключается в том, что части нас, якобы наделённые самосознанием, занимают лишь крошечную долю всего мышления. Они работают, выстраивая собственные модели мира – чрезвычайно упрощённые мирки по сравнению что с реальным внешним миром, что с грандиозными вычислительными структурами внутри мозга – системами, на понимание которых пока никто не претендует. И эти наши миры симулированного осознания – просто магические, в них каждый воображаемый объект наделён смыслами и целями. Задумайтесь, насколько трудно увидеть молоток не как инструмент для ударов, а мячик – не как что-то, что бросают и ловят.

Почему наше восприятие так ограничено, что мы видим не сами вещи как они есть, а способы их использования? Потому что высшие уровни нашего сознания – это решатели задач, направляемые целями. Надо сказать, что вся машинерия в наших головах изначально эволюционировала для достижения встроенных или приобретённых целей, для комфорта и питания, для защиты и размножения. Затем, за последние несколько миллионов лет, мы развили ещё более мощные подмашины, которые непонятным пока образом сопоставляют и анализируют, какие виды действий к каким результатам приводят; одним словом, чтобы находить так называемое знание. И хотя нам нравится думать, будто знание абстрактно, а стремление к нему чисто и хорошо само по себе, в итоге мы по-прежнему используем эту возможность, чтобы достигать поставленных целей (даже если мы решаем, что для этого следует сначала накопить ещё больше знаний).

Так что, раз уж мы говорим, что «знание – сила», наши знания переплетены с путями достижения целей. И это ключевой момент: нам нет никакой пользы что-то знать, если это знание не говорит нам, что делать. Это настолько глубоко встроено в машинерию разумного сознания, что чересчур очевидно для упоминания: всякое знание совершенно бесполезно, если мы не можем применить его с пользой.

Теперь мы можем вернуться к проблеме сознания: это часть мышления, специализирующаяся на использовании остальных систем управления, лежащих глубже. Но эта часть вовсе не разбирается в том, как эти системы устроены и как работают. Как было сказано, мы ходим не задумываясь, как это делается. Только когда эти системы перестают справляться, сознание обращается к мелким подробностям. Так человек с травмой ноги может впервые осознанно задуматься о том, как работает ходьба: «Чтобы повернуть налево, мне нужно оттолкнуться туда… – и тут приходится сообразить: – …а чем же?» Зачастую только столкновение с особенно сложной проблемой заставляет нас углубиться в рефлексию и попытаться понять, как же остальная часть нашего разума справляется с задачами; в такие моменты мы обнаруживаем себя говорящими примерно так: «Мне нужно организоваться. Почему же я не могу сосредоточиться на важных вопросах, не отвлекаясь на несущественные детали?»

Как правило, только в такие моменты – времена, когда мы попадаем в беду – мы и приближаемся к пониманию того, как работают наши сознания, поскольку применяем наши ограниченные познания об этих механизмах, чтобы перенастроить или починить их. Парадоксально, что именно тогда мы говорим, что сбиты с толку, ведь нужно быть очень толковым и хорошо разбираться в себе, чтобы понять и сказать такое – в отличие от обычной бестолковости, которая даже этого о себе не знает. Но мы всё равно не любим и пренебрежительно отзываемся об осознании растерянности, не понимая, насколько высокая степень самопредставления для этого требуется. Это, скорее, означает только то, что сознанию не хватает глубины, и оно способно лишь на такое ограниченное понимание того, как всё работает. Так или иначе, даже наши наиболее «осознанные» попытки самоисследования всё равно не могут вырваться за пределы прагматичного магического мира символических образов, поскольку ещё ни одному человеку не удавалось при помощи самоанализа разобраться в своих программах, работающих на нижних уровнях.

Такова ирония «Истинных Имён». Хотя Виндж рассказывает научно-фантастическую историю, в сущности это реалистичное изображение наших собственных жизненных затруднений! Повторю ещё раз, что мы работаем с нашими сознаниями так же невежественно, как водим наши машины и движем наши тела, как участники этих футуристических игр управляют своими великолепными машинами: при помощи символов, образов и заклинаний – а также тайных личных имён. Наши части, которые мы зовём «сознаниями», сидят за когнитивными терминалами, пытаясь управлять великими и загадочными машинами разума не при помощи понимания принципов их работы, а просто выбирая имена из меню и списков символов, время от времени всплывающих на наших ментальных мониторах.

В сущности, если задуматься, иначе и быть не может! Что бы случилось, будь мы способны по-настоящему заглянуть в себя? Что может быть хуже ясного обзора всех триллионов нервных соединений? Учёные годами разглядывают фрагменты этих структур в мощные микроскопы, но так до сих пор и не преуспели в создании всесторонней теории того, что и как делают эти нейронные сети. Как сокрушительно было бы увидеть всю эту грандиозную сложность сразу!

Мистики утверждают, что есть и другие, лучшие способы рассмотреть сознание. Один из путей рекомендует натренировать разум останавливать обычный поток мыслей и затем попытаться (замерев неподвижно) увидеть и услышать тончайшие подробности мысленной жизни. Даст ли это лучшие или хотя бы иные результаты, нежели инструментальное исследование? Возможно – но это не решает фундаментальной проблемы понимания сложного предмета! Ведь если мы остановим привычные способы мышления, мы лишимся и всех частей сознания, уже обученных интерпретировать сложные феномены. В любом случае, даже если и удастся наблюдать сигналы, исходящие из обычно недоступных частей сознания, они вряд ли окажутся понятны сознательным системам, поскольку несут непривычно низкоуровневые подробности. Чтобы понять, почему так выходит, я снова вернусь к примеру о понимании таких простых вещей, как ходьба.

Представьте, что во время прогулки вы действительно увидите и услышите сигналы спинного и заднего мозга. Поймёте ли вы из них хоть что-нибудь? Возможно, но не с лёгкостью. Подобный эксперимент легко провести при помощи устройств обратной связи, делающих эти сигналы по-настоящему видимыми и слышимыми; в результате действительно можно быстрее научиться новым приёмам, таким как лучшее владение повреждённой конечностью. Однако, как и прежде, это не даёт никакого осознанного понимания работы этих систем; вместо этого мы просто приобретаем новый опыт теми же путями, что и прежде: получаем в распоряжение новый набор магических символов. Вероятно, новая структура управления, связанная с известными нам поверхностными сигналами, формируется где-то в нервной системе. Но обратная биологическая связь не даёт никаких новых взглядов на процесс обучения, нежели наши обычные врождённые чувства. Учёные, изучающие процессы движения, уже десятилетиями перехватывают эти сигналы при помощи электронных инструментов. На их основе им удалось разработать различные частичные теории в отношении видов взаимодействия вовлечённых систем управления.

Однако эти теории возникли не из отрешённых медитаций или пассивного наблюдения за этими сложными биологическими сигналами; даже то немногое, что удалось узнать, основано на продуманном и глубоком использовании открытий, накопленных за три века научных и математических изысканий в аналитической механике и ещё век новейших теорий сервоуправления. В целом можно сказать, что в науке одно лишь внимательное наблюдение редко приводит к новым озарениям и пониманию. Для начала требуются хотя бы проблески формы новой теории или новый способ описания: новая идея, поскольку «причины» и «цели» наблюдаемых явлений сами по себе не наблюдаемы; для их представления нам требуется иной ментальный источник, чтобы сочинить новые магические символы.

Но откуда берутся нужные нам идеи? Любая отдельная личность, разумеется, извлекает большинство концепций из общества и культуры, в которых выросла. Что до остальных наших идей, тех, которые мы «берём» полностью самостоятельно, они тоже происходят из сообществ – но на этот раз из тех, что обретаются внутри наших личных сознаний. Ни человеческое сознание ни в коей мере не является единой сущностью, ни мозг не ограничивается единственным главным способом работы. Мозг не выделяет мысли так, как печень выделяет желчь; мозг состоит из громадного ансамбля подмашин, каждая из которых занимается своими специфическими задачами, каждая используется некоторыми другими.

Например, за распознавание звуков слов у нас отвечают одни части мозга, а за восприятие остальных естественных звуков и музыкальных тонов – другие. Уже доказано, что специальная часть мозга выделена для видения и распознавания лиц, в отличие от прочих, обычных вещей. Я полагаю, что под нашим черепом собрано около сотни видов компьютеров, каждый со своей особенной архитектурой; они скопились там за четыреста миллионов лет нашей эволюции. Они объединены в великую сеть специалистов, каждый из которых умеет при необходимости обращаться к коллегам я решения соответствующих задач. Каждый из этих подмозгов использует свой собственный стиль программирования и свои форматы представления; там не существует единого универсального языка.

Соответственно, если одна часть этого Общества Разума захочет осведомиться о другой части, у неё вряд ли что-нибудь выйдет, настолько различны их языки и архитектуры. Как им понять друг друга, имея так мало общего? Общение затруднено даже между двумя разными человеческими наречиями, но сигналы различных частей мозга куда менее сходны, чем человеческие наречия, всё-таки связанные какими-то общими корнями. Скорей всего, они слишком различны, чтобы позволить вообще хоть какое-то общение – за исключением символов их использования.

Можно спросить: «Как же тогда общаются люди разных профессий, обладающие существенно разным опытом, мыслями и целями?» На это ответить легче, поскольку вся личность в целом знает куда больше, чем отдельные части её сознания. Поскольку все мы воспитаны сходным образом, общие знания обеспечивают прочную основу взаимопонимания. Но даже и так мы существенно переоцениваем эффективность общения. Множество человеческих специальностей только на первый взгляд выглядят различными, но все они сходятся в том, что основаны на одном и том же так называемом «здравом смысле» – то есть знаниях, общих для нас всех. Следовательно, нам не нужно объяснять друг другу настолько много, как мы думаем. Часто, «объясняя» что-нибудь, мы вовсе не объясняем ничего нового; вместо этого мы просто демонстрируем несколько примеров и несколько контрпримеров того, о чём идёт речь; это только указывает слушателю, как следует соединить уже известные ему структуры. Короче говоря, мы часто говорим «который именно» вместо «как».

Подумайте, насколько сложно бывает объяснить многие на первый взгляд простые вещи. Мы не можем рассказать, как удерживать равновесие на велосипеде, или отличать изображения от настоящих предметов, или даже как вспомнить что-нибудь. Можно возразить: «Нечестно ожидать, что мы сможем выразить такие вещи словами. Ведь мы обучаемся им ещё до того, как начинаем говорить!» И хотя эта критика во многом справедлива, она также показывает, насколько сложно взаимопонимание частей мозга, которые вовсе никогда не говорят – а таких в нас абсолютное большинство.

Идея «смысла» зависит от размера и масштабов: спрашивать «что это означает» имеет смысл только в достаточно большой системе, в которой хватает места для многих значений. В слишком маленьких системах мысль о том, что что-то может что-нибудь означать, бессодержательна, как утверждение, будто кирпич – это такой очень маленький домик.

Легко сказать, что разум – это сообщество, но эта идея совершенно бесполезна, если мы не сможем уточнить, как это сообщество организовано. Если бы все специализированные части в равной степени претендовали на контроль, получилась бы полная анархия, и чем больше мы бы обучались, тем меньше могли бы сделать. Значит, там должно быть какое-то администрирование, вероятно в виде грубых иерархий, как отделы и подразделения на производстве или в политическом обществе.

Что могут делать эти уровни? В известных нам крупных сообществах нижние уровни заняты специализированными задачами, тогда как высшие уровни заняты стратегическими целями и долгосрочными планами. И это ещё одна фундаментальная причина того, почему так сложен перевод между сознательными и подсознательными мыслями! Термины и символы, которые мы используем на сознательном уровне, преимущественно выражают наши цели и планы по использованию наших возможностей – тогда как низкоуровневые ресурсы объясняются на незнакомых языках процессов и механизмов. Так что когда наше сознание пытается снизойти в мириады всё меньших и меньших подмашин, из которых состоит разум, оно сталкивается с чуждыми представлениями, служащими для всё более специализированных предназначений.

Проблема заключается в том, что крошечные внутренние «языки» быстро становятся непостижимыми, по причинам столь же простым, сколь и неизбежным. Это не знакомая нам сложность перевода между разными человеческими языками; сущность этой проблемы нам понятна: человеческие языки настолько широки и богаты, что трудно сузить значения сказанного в достаточной степени; мы называем это «неоднозначностью». Но когда мы пытаемся понять крошечные языки нижних уровней сознания, мы сталкиваемся с противоположной проблемой: чем меньше языки, тем перевод сложнее, потому что значений уже не слишком много, а слишком мало. Чем уже области действия двух систем, тем менее вероятно, что действия одной соответствуют вообще хоть чему-нибудь из того, на что способна другая. А тогда никакой перевод невозможен. Почему это хуже, чем избыточная неоднозначность? Потому что даже когда проблема кажется безнадёжно сложной, надежда на решение всё равно остаётся. Но безнадёжно простая проблема исключает всякую надежду!

Теперь, наконец, вернёмся к вопросу о том, насколько симулированная жизнь во внутримашинном мире может напоминать нашу обычную реальную жизнь «там снаружи». Мой ответ, как вы теперь понимаете, остаётся прежним, поскольку мы сами уже и так существуем в виде процессов, запертых в машинах внутри машин. Наши ментальные миры уже полны поразительных, волшебных, символических образов, которые придают всему, что мы «видим», смысл и значение.

Образованные люди знают, насколько наш ментальный мир отличается от «реального мира», известного учёным. К примеру, взгляните на ваш обеденный стол; ваше сознание видит в нём знакомые функции, форму и предназначение: стол – это «вещь, на которую ставят другие вещи». Однако наука говорит, что это всё только наши мысли; «на самом деле» это только собрание бессчётных молекул; стол кажется хранящим неизменную форму только потому, что эти молекулы вынуждены вибрировать по соседству друг с другом, поскольку определённые свойства силовых полей не позволяют им разлететься в разные стороны. Аналогично, когда вы слышите произнесенное слово, ваш разум придаёт этому звуку смысл и значение, хотя в физике слово – это только колебания давления в вашем ухе, порождённые столкновениями мириадов молекул воздуха – то есть частиц, расстояния между которыми на сей раз не столь ограничены.

Так что – давайте смиримся с этим отныне и навсегда – каждый из нас давно уже испытал на себе, что значит быть симулированным на компьютере!

«Ерунда, – первым делом скажут большинство людей. – Я уж точно не чувствую себя машиной!»

Но почему мы так уверены в этом? Как можно что-то утверждать об ощущениях, которые мы не испытывали? Или вы машина, или нет. Если, как вы говорите, вы не машина, то откуда вам знать, каково быть машиной?

«Ладно, но будь я машиной, я бы как минимум знал об этом!»

Нет. Это только грандиозно наивное допущение, равносильное утверждению: «Я мыслю, следовательно я знаю, как работает мышление». Но, как мы обнаружили, между нашими осознанными мыслями и производящей их механикой лежит столько слоёв, что это утверждение так же абсурдно, как и: «Я вожу машину, следовательно я знаю, как работают двигатели!»

«Однако, пусть даже мозг и является разновидностью компьютера, вы должны признать, что его масштабы невообразимо велики. Человеческий мозг насчитывает многие миллиарды нервных клеток – и, вероятно, каждая клетка тоже крайне сложна. Кроме того, каждая клетка сложным образом взаимосвязана с тысячами других. Вы можете называть это всё „машиной“, но наверняка никому не построить ничего столь грандиозного!»

Я всецело разделяю дух этого возражения. Сравнение с машиной унижает, как будто вас считают чем-то примитивным. Такое сравнение действительно оскорбительно – постольку, поскольку название «машина» всё ещё сохраняет значение, принятое в давно ушедшие времена. Тысячи лет мы обозначали этим словом образы блоков, рычагов, паровозов, пишущих машинок и тому подобных простых вещей; аналогично, в наши времена слово «компьютер» вызывает мысли о сложении и вычитании цифр и сохранении их в крошечной так называемой «памяти».

Однако для наших новых целей эти слова более не пригодны, они не подходят для описания машин, которые мыслят, как мы; устаревшие термины оказываются ложными именами для того, что мы хотим сказать. Так же, как «дом» может быть или большим, или ничем большим, чем просто дерево и камень, наши сознания могут быть описаны как всего лишь и в то же время значительно большее, чем просто машины.

Что же до масштабов, то эти возражения уже практически полностью устарели. Они были справедливы в 1950 году, когда ни один компьютер не оперировал и миллионом бит. Они всё ещё держались в 1960, когда миллион бит стоил миллион долларов. Но сегодня тот же самый объём памяти стоит не более сотни долларов (к тому же за это время наши правительства уменьшили и доллар) – и уже существуют компьютеры с миллиардами бит.

Нам недостаёт только знаний о том, как сделать эти машины разумными. Да, как вы могли уже догадаться, углублённые исследования в области искусственного интеллекта должны бы найти хорошие способы, как подсказывает фантазия Винджа, объединить структуры и функции при помощи символов. Когда, если вообще, это произойдёт? Никогда не говорите «никогда».