"Диалоги" - читать интересную книгу автора (Лем Станислав)

VI

ФИЛОНУС. Здравствуй, Гилас. Какой сегодня прекрасный день!

ГИЛАС. А, это ты? Я так зачитался, что не слышал, как ты подошел.

ФИЛОНУС. Что за книга так тебя увлекла?

ГИЛАС. «Записки из подполья» Достоевского.

ФИЛОНУС. Правильный выбор. Это, по сути, великолепное чтение для того, кто, как ты, стремится проникнуть в тайны кибернетики.

ГИЛАС. Ты так считаешь? А у меня в процессе чтения возникло множество сомнений, которыми я бы хотел с тобою поделиться. Эти понятные, хотя и сложные конструкции, какими являются твои сети, конечно, обладают собственными целями, свободой выбора, способны понимать, обладают интеллектуальными способностями, а все-таки что общего они имеют с миром чувств и человеческих стремлений? Возникшие, как мы считаем, в результате эволюции, которая снабдила нас целым комплексом способностей к самосохранению, мы обязаны избегать страдания, владеть интуицией, стремиться к развитию, максимально реализовывать собственные возможности – в то время как действительность гораздо сложнее. Не обманывает ли человек сам себя? Не находит ли он извращенное удовольствие в страдании, даже собственном? Не нравится ли ему уничтожать? Не является ли он существом, созданием, исполненным коварства, в котором есть множество запертых дверей, безрадостных тайников, двуличия? Жертвой дурных страстей, рабом собственных желаний, пустоты, темного стремления к реализации своих амбиций, мечты о власти? Ты можешь нарисовать мне схему сети с признаками самообмана? Или сети, которая будет приносить человеческие жертвы молоху «долга»? Или такой, что стремится к максимальному чужому страданию, потому что именно в нем обретает успокоение и наслаждение? Могут ли быть, о конструктор, сети ослепленные и фанатичные, сети, чья великолепная и сложная конструкция служит единственно для обмана и унижения себя и мира? Ты сможешь сконструировать для меня такие сети, Филонус? Если нет – нет смысла рассуждать о кибернетике.

ФИЛОНУС. Вижу, что ты внимательно читал Достоевского, друг мой. Я понимаю, что не интерес к конструкции говорил сейчас твоими устами, но слова эти вызваны гневом пополам с печалью, гневом, борющимся с отчаянием, – он обычно охватывает нас, когда мы с надлежащей добросовестностью начинаем задумываться о роде человеческом. Но на самом деле эти камни – не в огород кибернетики.

Непривычно, потому что до сих пор это нигде не практиковалось, и особенно трудно, потому что граничит с насмешкой, говорить языком физика или инженера о трагических или возвышенных сторонах сущности и психики человека. Однако, коли ты спросил, я вынужден тебе отвечать. Мы предполагали поговорить сегодня о бессмертии, а точнее, о том его единственном роде, какой может предложить человеку будущее развитие кибернетики. Темы совпадают в том смысле, что это будет не то бессмертие, какое нам хотелось бы принять, признать, какого мы хотим, о каком мечтаем. Это будет бессмертие гротескное, уродливое, неприемлемое, но другого не может быть. А теперь о сетях. Сознание, как тебе известно, Гилас, это только часть процессов, происходящих в мозге. Осознанным является то, что внутренней обратной связью вводится в определенные области сети. Но содержание того, что осознается, лишь частично зависит от воли, то есть от произвольно выбранной системы предпочтений. Эта система, как и сознание в целом, удерживается и подхватывается течением всех умственных процессов, словно земной шар – плечами Атласа. Ко входу в сознание допускаются только определенные виды информации. Таким образом, сознание действует выборочно, выуживая из океана процессов лишь их часть, блокируя остальное. Какая-то информация может представляться преувеличенно, несмотря на гораздо меньшее в процентном соотношении ее реальное участие в сетевых процессах. Другая информация может быть задержана и остановлена. Отдельные системы предпочтений можно – осознав их – в какой-то степени переиначивать. Однако если предпочтения, касающиеся, например, информации о продуктах питания, вред которых мы уже осознали, изменить легко, то не так-то просто сделать это в отношении мировоззрения, основы которого кто-нибудь разрушил у нас на глазах, обнаружив их внутреннее логическое противоречие. Вообще говоря, сеть может «фальсифицировать» не только свое собственное содержание, но и свое отношение к миру. Автомат, «воспитанный» соответствующим образом, проявит все черты «иррациональной веры», «предрассудков», будет при виде черного кота выполнять символические жесты, открещиваясь от сглаза, предастся мистическим и метафизическим рассуждениям. В этом не будет ничего особенного, просто его поведение обусловлено его прошлым. И у тебя, надеюсь, нет никаких сомнений, что младенец из ХХ века, попавший к неандертальцам, вырос бы не инженером или пилотом, а охотником на мамонтов, пожирающим сырое мясо? Вот и все по вопросу о «самообмане» сети.

Что же касается «коварства», то в определенной степени оно объясняется стремлением к заместительной цели, о чем мы уже говорили. Кроме того, это та цена, какую мы платим за наши большие возможности и таланты. Независимо от количества защитных механизмов, сети с достаточно высоким уровнем сложности подвержены различным «извращениям», механизм которых разнообразен. Человек, это существо, сформированное обществом, склонен к бунту против общества. Страсть к уничтожению, жестокости, мазохизму и десятки других пороков в принципе не были «запланированы» эволюцией, как ты это определил, как не была ею «запланирована» и наша привязанность к прекрасному, к музыке, к искусству. Подумай, ведь в сетях существуют только совместно реагирующие комплексы процессов, отражающих и интерпретирующих мир. Неожиданным образом какие-то процессы, какие-то частоты биохимических изменений, задачей которых является, скажем, поиск подобия форм, под влиянием определенных сигналов изменяются настолько, что внутренний дисбаланс сети внезапно уменьшается. Блаженство, покой, утешение – все, что дает нам искусство, – являются с точки зрения кибернетики снижением внутреннего дисбаланса сети при протекании в ней процессов, связанных с поступлением информации, такой как звуки музыки или вид заснеженных вершин. К сожалению, возможны и другие комбинации этих процессов, сеть может создать такие конфигурации, когда уменьшение внутреннего напряжения будет сопутствовать, например, убийству. Рашевский сумел математически рассчитать, какие из существующих геометрических фигур человек-наблюдатель признает «эстетичными», «красивыми». Может быть, удастся вычертить последовательность процессов, формальные соединения процессов, которые отражают радость уничтожения. Разумеется, это будет объяснение, а не оправдание, поскольку, как мы уже отметили, сеть в своих начинаниях в принципе свободна. Я ответил тебе не как конструктор, а как еще неопытный адепт науки о сетях, будучи не в силах сравниться с Достоевским ни в способности произвести воздействие, ни по языку. Но ты не должен на меня за это сердиться.

ГИЛАС. Да, ты прав, не следует упрекать кибернетику и не стоит (если стоит вообще) иметь к ней претензии. Не хочешь ли ты теперь рассказать мне об этой перспективе бессмертия?

ФИЛОНУС. Охотно, тем более что я тебя уже предупредил о ее особенностях. Речь идет о продолжении сознательного существования. Тебе ведь уже известно, что процессы, происходящие в цепи, не могут быть от нее отделены. Поэтому невозможно было бы «выделить чью-нибудь печаль», чтобы поместить ее в стеклянный сосуд, – невозможно как сегодня, так и в самом отдаленном будущем. Ведь ощущение печали есть следствие взаимодействия процессов, протекающих в определенной системе, и для создания печали необходимо создать всю эту систему. Только представь себе, как мы конструируем эту систему из разнообразных материалов! А ведь ее энергетические колебания могли бы совершаться со значительно большей амплитудой температур, чем это возможно в человеческом мозге.

Для адекватного решения задачи мы преодолеем несколько этапов, произведем ряд последовательных опытов. Опыт первый – соединение (например, хирургическое) периферических нервов двух индивидуумов. На животных это можно проделать уже сейчас. Таким образом, создается возможность того, чтобы один человек чувствовал то, что воспринимают органы чувств другого человека. И тогда стало бы возможно, чтобы один человек смотрел глазами другого – после соединения периферической части его зрительных нервов с центростремительной частью нервов другого участника опыта.

Следующий этап, значительно более трудный для реализации, – это операция по соединению окончаний нервов, исходящих из двух мозгов, посредством неких проводников биологического происхождения (фрагменты живых нервных волокон) или же каких-либо других, которые, будучи подсоединенными к нервным окончаниям одного мозга, принимают проходящие через него импульсы и передают их аналогичным нервным окончаниям другого мозга.

ГИЛАС. И ты считаешь, что подобным образом, даже если бы опыт удался, можно было бы в принципе почувствовать что-нибудь осмысленное? Боюсь, что возникли бы – то есть были бы получены – ощущения хаоса, беспорядка, замешательства, и ничего больше.

ФИЛОНУС. Ты, безусловно, прав. Определенные импульсы имеют конкретное значение только в пределах данной сети, к тому же только для своих «адресатов», то есть других частей той же сети, куда они направлены. Простое перемещение серии импульсов из одного мозга в другой, несомненно, приведет только к некоему хаосу, «психической какофонии». Это одна из самых больших трудностей на пути функционального совмещения мозгов. Однако мозг способен вынести процедуру значительно более мучительную, чем введение в него функционально чуждой группы импульсов. На мозге можно проводить очень мучительные и жестокие операции, вплоть до удаления целых сегментов, даже одного полушария, и, несмотря на это, подобные операции не влекут за собой необратимого отмирания психических функций, поскольку их способность к восстановлению, даже только в частично сохранившейся сети, поистине огромна. Так вот, эксперименты упомянутого рода, несомненно, долгое время будут робкими и несмелыми – их будут производить на животных, внимательно отслеживая их поведение и реакции после подобных операций. И поскольку на этом пути не наблюдается никаких принципиальных, касающихся основ, препятствий, то после неизбежных поражений придут и удачи. Возможны ли они и каким образом будут достигнуты? Разумеется, сначала два соединенных между собой мозга (соединенных в пределах одного или нескольких нервных окончаний, то есть подкорковых ассоциативных узлов и т.п.) будут только мешать друг другу. Но тут на помощь придет материал, собранный в неврологических клиниках. Мы знаем, как выглядят тяжелые формы проявления изменения функций после обширных уничтожений или повреждений в области мозга. Однако даже самые тяжелые изменения в значительном большинстве случаев восстанавливаются, компенсируются через определенное время (настолько, естественно, насколько сохранились области коры, которые заменить нельзя, например, проекционные области органов чувств). Восстановление функций иногда происходит самопроизвольно, однако чаще для этого необходима длительная сознательная тренировка под руководством опытных педагогов. Поврежденный мозг возмещает утраченную функцию посредством изменения действий своих частей. Как это происходит? Утраченную из-за уничтожения части коры функцию учатся выполнять части коры, которые прежде в этой функции не участвовали или же участвовали в самой незначительной степени. Например, при потере внутримышечной чувствительности человек теряет восприятие информации (действие обратной связи), информирующее его о положении конечностей и туловища, что лишает его способности двигаться, особенно ходить. Однако если он научится замещать мускульное ощущение зрительным контролем, то происходит весьма существенное восстановление двигательной функции. О еще более сложной перестройке, переключении на новые механизмы свидетельствует один случай, когда человек с повреждением мозга, приведшим к потере способности говорить (моторная афазия), был не в состоянии произнести слова, например, «муха», потому что сказав «му», он уже не мог (хотя это происходит автоматически) прекратить иннервацию мышц, участвующих в говорении, и начинал механически повторять слог «му». То, что было для него абсолютно невозможным – сказать слово «муха», являющееся символическим определением насекомого, стало очень просто выполнить, когда ему предложили представить мысленно сначала мычание коровы, а потом смех (му – ха). Тогда он сказал «муха» без всякого труда, поскольку были включены совершенно отличные от предыдущих сетевые механизмы – ведь цель была другая (и, таким образом, другие обратные связи – сохраненные, а не частично утраченные). Я подвожу к тому, что, если повреждение обширных фрагментов мозга вызывает ощущение увечности, беспомощности, замешательства в психике пострадавшего, но со временем происходит улучшение, которое очень часто оказывается результатом освоения утраченной функции заново, то по аналогии следует ожидать, что, когда мозговых механизмов не убудет, а напротив, прибудет посредством подключения одного мозга к другому, то возникнет хаос и замешательство импульсов, однако если эти два мозга пробудут соединенными более длительное время, то выработается новый modus operandi, наступит координация процессов в направлении приспособляемости, то есть обучения, – и по истечении определенного времени произойдет полное совмещение функций этих мозгов. Очевидно, что результат будет решительным образом зависеть от того, что с чем мы соединим. Мы можем предполагать, что соединение фрагментов сети низшего уровня, то есть фрагментов, ответственных только за передачу информации от органов чувств (например, волокон зрительного нерва с radiatio optica[18]), вызовет помехи относительно меньшие и легче устранимые, чем соединение путей, связывающих мозговые системы высшего уровня. Это значит, что соединение этих фрагментов обеих нейронных сетей, задача которых – обеспечение высшего уровня организации, объединение и формирование процессов сознания – вызовет наиболее устойчивые проявления замешательства (может быть, даже сумасшествие?), поскольку каждая из соединенных сетей руководствуется в своих функциях абсолютно иным, своим собственным «методом шифровки», разная частота отвечает различным символам, разные процессы по-разному взаимодействуют, синтез информации достигает результата различным образом. Я умышленно так подробно анализирую эти трудности, поскольку я очень далек от того, чтобы их преуменьшать, и однако мне кажется, что достижение слаженных действий, единого действия обоих соединенных мозгов будет возможно. Разумеется, мы обязаны всегда соединять подобное с подобным, то есть соединять единицы (волокна, пути прохождения, фрагменты мозга), анатомически и физиологически соответствующие друг другу. К тому же следует избегать включения части одного мозга в другой неповрежденный мозг, поскольку в этом случае после предварительного этапа взаимных помех следует ожидать проявления тенденции функционального доминирования неповрежденного мозга над подключенной частью. В то же время, если мы перережем, например, в обоих мозгах комиссуру и соединим левое, доминирующее полушарие одного индивида с таким же левым полушарием другого, то мы можем предположить, что по прошествии периода замешательства в результате произойдет функциональное слияние обеих частей в новую функциональную единицу. Разумеется, это функциональное слияние произойдет на основе абсолютно невообразимых для нас чувств и переживаний, поскольку субъективным ощущением будет принадлежность функционально единого мозга двум отдельным телам, соединенным лишь перемычкой, проводящей нервные импульсы.

Из этого следует, что «включение в чужое сознание» с целью субъективного и непосредственного наблюдения происходящих в нем процессов невозможно, поскольку «включение» на начальном этапе вызывает значительные перебои в деятельности сознания (как того, которое «включается», так и того, к которому подключено), а затем, на этапе взаимной адаптации, возникает общее сознание, которое представляет собой не механическую сумму обеих составляющих, а новую функциональную единицу. Поэтому не может быть и речи о непосредственном наблюдении; возможно только «участие» в чужом сознании посредством превращения в «его функциональную часть». В то же время из этого следует, что успешное функциональное соединение двух мозгов идентично завершению их предыдущего индивидуального существования; по сути, исчезают сознания А и В, а вновь возникшее АВ качественно отличается от обоих. Это достаточно пессимистическое утверждение в том смысле, что некий вид, некий уровень «личностного уничтожения индивидуальности» при функциональном объединении двух мозгов неизбежен. Тут имеется то примечательное следствие, что обратный процесс, то есть успешное разделение соединенных мозгов, опять же свидетельствует об уничтожении некоей возникшей из ничего функциональной единицы, в какую они до этого превратились. Обратный процесс разделения явился бы началом нового процесса несоответствий и последующего этапа обучения (или же «отучения») тому, что было обретено в период соединения, а возникшие в процессе этой сложной и рискованной операции два отдельных мозга были бы – по крайней мере могли бы быть – отличными от первоначальных мозгов А и В в том смысле, что вызванные объединением глубинные внутрисетевые изменения, глубокие перестроения процессов не могли бы просто механическим образом восстановиться, скорее всего новая реституция реализовалась бы благодаря столь вторичным внутренним изменениям, что в конце концов мы получили бы мозги Аx и Вy, непохожие на исходные А и В.

Следует также предположить, что наибольшие шансы будет иметь соединение, образованное на наиболее ранней стадии развития, когда и сами процессы формирования сети еще в полном разгаре, при максимальной гибкости и адаптационных способностях коры. Итак, самым простым было бы соединение мозгов детей, а уж совсем наверняка – если строить предположения – соединение мозгов зародышей. Наверняка какие-то эксперименты уже ведутся на зародышах обезьян.

ГИЛАС. Все это столь же необычно, сколь и чудовищно, и я абсолютно не понимаю целесообразности таких ужасающе сложных, непомерно опасных, даже угрожающих и совершенно ничего не дающих экспериментов. Может быть, речь идет о производстве уродов? Или же мы продолжаем разговор о доказательствах невозможности «непосредственного включения в чужое сознание»? Но что общего эти доводы имеют с «кибернетическим воскрешением»?

ФИЛОНУС. Довод, о котором я упомянул, мы отыскали, так сказать, походя. Однако же мои умозаключения стремились не к этому выводу. Все это были только усилия, направленные к искомой цели, а именно – к выходу за индивидуальные границы жизни. Ты поймешь, что я имею в виду, когда я объясню тебе, как выглядит следующий и – в то же время – правильный шаг. Им станет прививка психических процессов человека на мозговой протез.

ГИЛАС. Ну вот вам и пожалуйста! И как ты себе представляешь подобную операцию?

ФИЛОНУС. В принципе этот процесс представляет собой подключение к живому мозгу, то есть к нейронной сети, сети другого типа, электрической (или электрохимической). Разумеется, сначала человечество должно научиться конструировать такие сети с уровнем сложности до десяти миллиардов функциональных элементов, то есть уровня сложности мозга – на основе общей, к этому времени уже окончательно сложившейся теории сети с внутренней обратной связью. Сама прививка должна состоять из большого числа последовательно осуществляемых этапов.

ГИЛАС. Почему?

ФИЛОНУС. Потому что подсоединить мозг к сети протеза сразу – значит подвергнуть его опасности, ведь тогда возможен полный распад процессов. Подумай сам, к основным каналам сети следует подключить «вспомогательные ветви», поскольку все они должны быть представлены в протезе. А подключить сразу ко всем каналам нейронной сети боковые ответвления – значит нарушить деятельность всей сети в целом; результаты могут быть плачевными. Сеть этого мозга является замкнутой и компактной функциональной единицей, и внезапный отток импульсов в другую, функционально пустую сеть – это определенная аналогия короткого замыкания. Я не буду более детально представлять результаты этого опыта, потому что его трудно вообразить. Возможно, я преувеличиваю опасность и трудности, но когда речь идет о проблеме такого масштаба, чрезмерная осторожность не порок. Надо, чтобы «личность» сети не была нарушена. Поэтому в эксперименте следует продвигаться постепенно, поочередно подключая к нейронной сети все новые секции протеза, чтобы электрическая сеть была как бы «функционально впитанна», «функционально ассимилированна» живым мозгом. Со временем мы к этому придем, в том-то и состоит наша цель, чтобы подсоединенная цепь приняла значительную часть общего числа психических процессов. Когда это произойдет, мы приступим к следующей фазе эксперимента, а именно – к столь же медленной и постепенной редукции нейронной сети. Мы не станем ее уничтожать, мы только будем отключать ее так, как это делается, например, во время лоботомии, когда перерезаются волокна, соединяющие лобовую долю с остальным мозгом. Если мы будем продвигаться маленькими шажками, отключая небольшие участки нейронной сети и следя за тем, чтобы не действовать преждевременно – то есть прежде чем сеть протеза переймет соответствующие функции, – наша функциональная единица, какой станет комбинированная нейронно-электрическая сеть, будет действовать без каких-либо серьезных неполадок, при этом электрическая часть начнет все больше принимать на себя постепенно затухающие функции нейронной стороны. Наконец, когда нейронная сеть будет удалена, а психические процессы целиком перейдут в сеть протеза, мы получим личность человека, полностью переместившуюся в недра протеза. Его сеть включит все психические процессы – весь загруженный объем памяти, своеобразные системы предпочтений, принципы прохождения импульсов, внутренние обратные связи – которые определяли индивидуальность живого мозга. Это будет «электрическая пересадка» живого сознания на мертвый протез. Подобный «привой» может существовать произвольно долго, поскольку его строительный материал в тысячу раз более прочен, чем материал живого мозга, а кроме того, элементы системы, которые снашиваются со временем, мы постепенно сможем заменять новыми. Вот перспективы «вечной жизни» – в рамках электрической сети или химического мозгового протеза...

ГИЛАС. Подожди, а что будет с телом, с этим живым организмом, которому «принадлежал» живой мозг?

ФИЛОНУС. Это довольно существенная проблема, но отнюдь не в смысле технических трудностей, а с точки зрения морального протеста, который, видимо, вызовет последующая необходимая процедура. После замены мозга возникнет необходимость заменить также тело...

ГИЛАС. А, опять протезом?

ФИЛОНУС. Для обеспечения долговечности это представляется неизбежным...

ГИЛАС. Таким образом, «бессмертие», предлагаемое тобой, состоит в «перемещении» психических процессов человека внутрь мертвого металлического устройства? Если бы я должен был хотя бы на мгновение всерьез воспринять подобную перспективу (что, честное слово, не так-то просто!) – то я никогда бы на это не согласился. Веками существовать в виде мыслящего железного сундука? А может, ты просто надо мной насмехаешься, Филонус?

ФИЛОНУС. Я редко бываю так серьезен, как в эту минуту, друг мой. Весь комплекс психических процессов невозможно выделить, вычленить, отделить от живого, недолговечного, непрочного тела, иначе как медленным перемещением его в пределы субстрата, который в состоянии обеспечить ему произвольно длительное существование.

ГИЛАС. Хорошо – оставлю на время аргументы нравственного свойства. Но какова гарантия, насколько можно быть уверенным, что этот комплекс процессов, перемещенный, как ты говоришь, из живой нейронной сети в рамки металлических проводников, не подвергнется какому-нибудь кардинальному изменению, увечью, дегуманизации? И неужели можно всерьез обсуждать подобные перспективы? Ведь на их основе возникает безумная картина – образ мира, где роль людей выполняют железные сундуки, снабженные точными электронными органами восприятия...

ФИЛОНУС. Ты же намеревался воздержаться от эмоциональной оценки проблемы – хотя бы на время, если я правильно тебя понял? Моей задачей было показать тебе единственно реальный или – по крайней мере на сегодня предположительно возможный – путь будущих свершений, а не высказывать собственное мнение об этих возможностях.

ГИЛАС. Хорошо. Так какие же критерии позволяют судить о том, что ни сама процедура, пусть даже медленная, не приводит к уничтожению живого мозга (если я правильно тебя понял, то она заключается в некоем втыкании проводников в живую ткань?), ни «конечный продукт» не отличается существенно от своего живого предшественника, живой человеческой личности?

ФИЛОНУС. Не стоит представлять себе эту процедуру как какую-то кровавую операцию. Замена десяти миллиардов нейронов мозговой коры аппаратиками типа катодной трубки наверняка невозможна. Даже при использовании транзисторов, полупроводниковых ламп, которые на 90% экономичнее в потреблении энергии, чем обычные лампы, и примерно на столько же, чем катодные. Для обеспечения функционирования устройства, аналогичного мозгу, понадобилось бы около ста миллионов ватт энергии, в то время как живой мозг, работая, потребляет, с натяжкой, около ста ватт – таким образом, он в миллион раз производительнее. Он также почти в миллион раз меньше размером, чем этот гипотетический «мозг на кристаллах», хотя, в связи с огромным преимуществом скорости электрических импульсов в сравнении с нервными, мыслительные процессы протекали бы в мозгу на кристаллах примерно в сто тысяч раз быстрее.

ГИЛАС. Ну и пусть, раз, как ты сам говоришь, такой мозг получился бы гигантом неслыханных размеров. Но ты, наверное, не хочешь представить дело таким образом, что на время операции «пересадки» психики человека придется на годы заключить в огромное здание-машину?

ФИЛОНУС. Фон Нейман подсчитал, что теоретически живой мозг мог бы, работая, потреблять в сто миллиардов раз меньше энергии, чем потребляет ее в действительности, то есть функционировать с производительностью, в сто миллиардов раз большей. Первый шаг на пути увеличения производительности от электронной лампы к кристаллам уже сделан. Неизбежно последуют другие. Искусственный мозг будущего наверняка будет созданием все меньших размеров при все возрастающей производительности; теоретически просчитанный предел допускает даже создание искусственного мозга в сотни раз меньшего, чем человеческий (с аналогичным количеством функциональных единиц). Физика предполагает, во всяком случае, совершенно допустимым и возможным концентрацию и размещение «личности Гамлета» в ореховой скорлупе...

ГИЛАС. А эта жестокая вивисекция, каковой является сама операция «пересадки»?

ФИЛОНУС. Сегодня предполагается, что количество основных нейронных центров, то есть замкнутых цепей в мозгу, выполняющих самую существенную роль в формировании процессов сознания, не превышает десяти тысяч (в каждый такой центр входит ряд нейронных цепей; речь идет о типе цепей, какие открыл блестящий исследователь Лоренте де Но – а именно, нейроны, создающие замкнутые петли, замкнутые на самих себя цепи обращения импульсов). Очень возможно, что функциональное соединение сетей нейронной с не-нейронной удастся провести безболезненно для того, кто подвергнется подобной процедуре. Но учти, что такие операции станут реально осуществимы не раньше чем через тысячу лет; медицина, нейрофизиология и нейрохирургия тогда будут использовать неизвестные нам сейчас методы. Затем прими во внимание, что наша процедура медленного перемещения комплекса процессов из сети нейронной в электрическую в определенном смысле является аналогом явления, постоянно происходящего в живом мозге, а именно – замены материальных элементов, обмену веществ. В нас тоже происходит обмен веществ, то есть замена материальной основы, только эта «пересадка» несравнимо более радикальна, если сопоставлять стадии начальную с заключительной (белковую с небелковой). Однако по пути мы проходим все степени перемещения, что, собственно, должно обеспечить сохранение преемственности и интегральности процессов, подвергнутых перемещению.

ГИЛАС. Даже если бы все было так, как ты говоришь, то лично я концепцию «железных мыслящих сундуков» в качестве следующего этапа развития человечества считаю неприемлемой. Правда, мне как раз сейчас пришла в голову мысль о возможности избежать столь ужасающей перспективы. Что, если перемещать психические процессы из одного живого мозга, из одной нейронной сети в другую, тоже нейронную, белковую, живую, только созданную искусственно? Что ты на это скажешь?

ФИЛОНУС. Принципиальной невозможности я не вижу, однако мне кажется, как бы парадоксально это ни звучало, что такой процесс было бы осуществить гораздо сложнее, чем провести пересадку психики на мертвый протез. Дело в том, что сконструировать мертвый протез как произведение, полностью инертное, лишенное каких-либо следов памяти, а также всех «индивидуальных предложений», несомненно, проще, чем синтезировать искусственный, живой, развитый, но одновременно «пустой», «без записи» мозг – а речь ведь идет именно об этом. Кроме того, есть еще одна существенная трудность, состоящая в том, что этот новый, следующий и живой мозг данной личности через очень небольшой промежуток времени после проведения операции ощутил бы разнообразные недомогания, дефекты и быстро закончил бы свое существование.

ГИЛАС. Как это? Почему?

ФИЛОНУС. Любая сеть обладает ограниченной «проводимостью информации»; этот термин обозначает как величину объема памяти, так и общее количество информации, происходящей все равно изнутри или извне, которая способна обращаться в ее пределах. Как на то указывают экспериментальные и клинические факты, человеческий мозг вполне очевидно обнаруживает эту ограниченность, особенно в конце жизни, в старости (между прочим, потому-то старики и не могут запомнить текущие события, прекрасно помня события прошлого). Даже небольшие гормональные проблемы, вызывающие незначительное понижение порога чувствительности нейронов, способны привести к полной блокировке прохождения импульсов в перегруженном мозгу. Так дело может дойти до сумасшествия, до распада личности, вплоть до необратимых изменений. Недавно открыли некую субстанцию, которая, как предполагается, оказывает вредное воздействие на возбудимость нейронных синапсов и – если ее ввести здоровому человеку – вызывает симптомы шизофрении. Эту субстанцию выделили из крови шизофреников. Учитывая эти данные, можно прийти к заключению, что уже в начале первого «пассажа», то есть после перемещения психических процессов старика в рамки нового мозга, этот новый мозг будет с трудом справляться с освоением процессов и лишь относительно короткое время окажется способен четко функционировать, продолжая усваивать информацию из окружающей среды. Рано или поздно неизбежно появляются симптомы достижения предела информационной проводимости.

ГИЛАС. Ну хорошо, а как же в таком случае с электрической сетью, то есть с мозговым протезом?

ФИЛОНУС. Такой протез можно сконструировать с определенным «запасом», с «функциональным резервом». Однако, как ты уже, наверное, сам догадался, даже речи не может быть о каком-то там «бессмертии», ибо его носителем должен был бы быть мозг бесконечно огромный и бесконечно сложный – чтобы вместить хотя бы только сумму бесконечного (или попросту огромного) количества воспоминаний.

ГИЛАС. То есть вся перспектива, вся эта картина «перемещения» психики – не более чем фикция?

ФИЛОНУС. Нет. Это просто маловероятная, но физически, материально неисключаемая возможность. Я тебе уже говорил накануне, что нам неизвестна верхняя граница сложности систем типа сети. Может быть, при использовании электрического тока и более совершенных, чем сейчас, функциональных единиц, тождественных нейронам, можно было бы сконструировать сеть в десять или сто раз более совершенную, чем человеческая.

ГИЛАС. Отлично. Тогда у нас получился бы «синтетический гений»?

ФИЛОНУС. Посуди сам, если мы изучим общую теорию сети, то с ее помощью мы сможем конструировать сети с произвольными признаками (физически возможными, разумеется; мы не можем построить сеть, действие которой противоречило бы законам Природы). Общее доказательство выдающегося английского математика Тьюринга представляет нам теоретическую возможность создания сети, которая «может абсолютно все», то есть, ясное дело, все, что возможно. В этом смысле возможно в будущем предположить создание сети, способной творить симфонии или рассуждать, каковы могут быть отличные от земных варианты эволюции жизни на непохожих на нашу планетах.

ГИЛАС. Филонус, ты надо мной насмехаешься!

ФИЛОНУС. Друг мой, неужели ты почувствовал себя задетым с точки зрения человеческого достоинства? Но почему тогда тебя не трогает вид подъемного крана, который в десять тысяч раз сильнее тебя, и при этом оскорбляет образ машины, в тысячу раз более понятливой, чем ты? Как энергетическая машина увеличивает силу человека, так информационная машина увеличивает его познавательные способности! Заметь, пожалуйста, что накопление знаний ставит перед нами все более трудные задачи. Математика ХХ века – значительно более сложная и требующая большего напряжения мысли область, чем математика века Х, а наши мозги остаются все такими же, как и мозги людей тысячного года, поскольку математика развивается от десятилетия к десятилетию, в то время как эволюция мозга (то есть расширение его возможностей, улучшение четкости его работы) происходит в темпе, в миллионы раз более медленном. Если сами мы не в состоянии поднять определенную тяжесть, мы строим машину, которая этот груз сдвинет. Если сами мы не в состоянии разрешить определенную интеллектуальную проблему, то мы построим машину, которая эту проблему решит. Я, право же, не понимаю, что в этом унижает человеческое достоинство? Ведь, в конце концов (если ты это имеешь в виду), это мы создадим «синтетического Эйнштейна», а не он – нас!

ГИЛАС. Дело не в этом, дело в том, что такая перспектива, такая картина будущего неотступно создает навязчивое впечатление ненужности человека. Мыслящие машины типа «синтетического гения» не нуждаются в нас, в нашем сотрудничестве, в нашем контроле, как нуждаются в них подъемные краны и паровые молоты.

ФИЛОНУС. Ну и что с того, если они работают на нас?

ГИЛАС. То есть ты считаешь, что машины в будущем станут опережать человека во всех областях?

ФИЛОНУС. Эка хватил! Уже опережают! Любая плохонькая электронная счетная машина справится с заданием, с которым за всю жизнь не справится лучший математик. Существует такой в общем-то смешной и очень наивный миф о заводах будущего как о просторных, заставленных пальмами цехах, полных автоматов, где на центральном пульте стоит человек в белоснежном халате, контролирующий производство... Это (если взять для примера химический завод новой формации) абсолютно невозможно. В новой химической промышленности внимание сосредоточено на реакциях, протекающих с огромной скоростью в раскаленных газах. В этих условиях возникают, именно в области газового пламени, различные ценные химические субстанции, существующие лишь долю секунды. Чтобы их уловить, необходимо поддерживать реакцию, являющуюся их источником, и одновременно непрерывно выводить их из области высокой температуры. Процессы контроля и управления должны происходить за доли секунды, с чем человек не в состоянии справиться, если учесть малые скорости нервных импульсов. А значит, человеку в белом халате нечего делать на этом заводе, пока производство в порядке – под контролем электронного мозга.

ГИЛАС. А если этот мозг сломается, то он его починит.

ФИЛОНУС. Или он, или соответственно настроенный на подобную операцию другой электронный мозг, который выполнит ремонт значительно быстрее и четче.

ГИЛАС. А если и тот сломается?

ФИЛОНУС. А если человек заболеет? Здесь нет никакого regressus ad infinitum, есть только определенная иерархия автоматов, взаимно контролирующих функции, замкнутый круг, который, разумеется, может разомкнуться из-за какой-то неполадки. Сегодня эти дефекты устраняют люди, но завтра?

ГИЛАС. Однако в твоем примере речь в основном идет о проворстве, о быстроте реакции, как, например, в случае со счетной машиной. Получается, что электронные мозги побивают человека только в скорости действий.

ФИЛОНУС. Согласен. Давай возьмем другой пример, где речь идет не о проворстве, а о высшей способности сети как интегрирующей единицы. Как ты прекрасно знаешь из собственного опыта, мыслительный процесс тем труднее, чем больше элементов (понятий) сознание должно охватить одновременно. Поэтому легко производить в уме простейшие арифметические операции, но трудно извлечь корень четвертой степени из десятизначного числа. Однако это всего лишь проблема «временной памяти», то есть фиксации в ней промежуточных результатов, отдельных этапов математического вычисления. В таких вычислениях мы имеем дело с раз и навсегда данными, принципиально неизменными от начала и до конца указаниями к действию (сначала ты должен умножить, потом запомнить полученный результат, потом разделить и т.д.). Когда же речь идет об обобщении большого количества фактов в теорию, по мере самого процесса организации этих фактов в обобщение высшего уровня изменяются и указания к действию, которые не являются окончательными, а следуют из очередных построений. Когда, например, из данных астрономии, физики и математики мы пытаемся создать теорию гравитации более общую, чем ньютоновская, приходится иметь дело с таким огромным количеством факторов, которые необходимо учесть одновременно, что только сеть с чрезвычайно высоким коэффициентом полезного действия может с этим справиться. Такой сетью располагал, да простится мне столь неуклюжее определение, Эйнштейн. Так вот, в будущем не каждый сможет стать Эйнштейном, но каждый будет иметь к своим услугам достаточно оперативную машину для мышления.

ГИЛАС. Но представь, какие губительные перспективы открывает такая возможность! Какое-то время набирающие мощь электронные мозги еще будут выполнять действия, которые люди смогут понять, охватить разумом, оценить хотя бы приблизительно. Однако впоследствии эта раз обнаруженная пропасть начнет расширяться. Мыслящие агрегаты станут представлять нам результаты своих теоретических разработок, которые мы, возможно, и сможем применить, но понять их мы уже окажемся не в состоянии. Будет все увеличиваться область явлений, которыми станут распоряжаться автоматы. В конце концов люди съежатся до размеров безмозглых слуг железных гениев и, может быть, начнут оказывать им божеские почести...

ФИЛОНУС. Вообрази себе, дружище, что слова твоего пророчества по отношению к роду человеческому уже исполнились, к тому же в довольно отдаленном прошлом.

ГИЛАС. О чем ты? Я не понимаю.

ФИЛОНУС. Возникновение электронных мозгов – это начало эволюции средств мышления. Потенциально они могут стать независимыми от человека, как уже стали независимыми от него результаты его общественной и производственной деятельности. С возникновением общества оформилось разделение труда, специфика производственных сил и способ производства создали машину, которая, освобождаясь от человеческой воли, все более влияла на судьбу индивидов, вплоть до того, что были времена, когда человечество этой машине – государству – стало оказывать почти божеские почести... Это не случайная и не поверхностная аналогия, мой Гилас! Люди ни в коем случае не должны – ни сейчас, ни в будущем – утратить контроль над творением их собственных рук и мозгов. Они ни в коем случае не имеют права предаваться спокойной бездумности, интеллектуальной лени, розовому оптимизму, наивной вере в то, что то или иное изобретение или та или иная общественная организация спонтанно, автоматически гарантирует наступление Золотого века. Никакие проявления неудовольствия, никакое отвращение, никакие исполненные возмущения причитания вроде: «и все-таки человек – венец творения» не изменят фактов, а создание все более совершенных и функциональных электронных мозгов есть факт бесспорный, и никто их не отменит в нашей земной жизни, раз уж они в ней появились. Если человечество не будет тщательно анализировать все, именно все, то есть также и отрицательные, самые мрачные последствия развития электронного мозга, то результаты его эволюции могут оказаться еще более губительными, чем кризисы, экономические катастрофы, безработица и хаос свободного капиталистического рынка. Именно поэтому мы так много рассуждаем о кибернетике, стремясь – зачастую тщетно – понять все, что она может нам сказать о явлениях, на первый взгляд так отдаленных во времени, как биологическая эволюция и психология, общая теория информации и социология.

ГИЛАС. Ты забыл упомянуть эсхатологию, науку о последних временах, ведь ее материалом являются представления о вечной жизни, а значит, тем самым – и о твоей пересадке живой человеческой личности на мертвый мозговой протез. Допускаешь ли ты, имеешь ли ты смелость предположить, что кто-нибудь когда-нибудь попробует реализовать подобную пересадку психики из живого тела в мертвый металл машины?

ФИЛОНУС. Система привилегированных принципов мышления, то есть система предпочтений, действует не только в отдельных нейронных сетях, друг мой, но также и в обществе. В этом смысле культура – это система исторически возникших предпочтений, суммирующих определенным образом реакции представителей человечества на внешние и внутренние импульсы. Конвенциональный, то есть исторически обусловленный, относительный характер большей части этических норм, нравственных установок, действующих законов сегодня ни у кого не вызывает сомнений. Концепция перемещения живой человеческой психики внутрь мертвой машины представляется нам сегодня чем-то в корне противоречащим нашим устоявшимся фундаментальным навыкам умственной жизни, чем-то низким, недостойным, антигуманным, чем-то неприемлемым. Однако нельзя исключать того, что в будущем – в результате глубоких изменений системы общественных предпочтений, изменения норм – восприятие этой проблемы изменится диаметрально. Посуди сам, мы говорим об операции, проведение которой станет возможным только в очень далеком, на тысячелетия отстоящем от дня сегодняшнего будущем. Эволюция электронного мозга таит в своей глубине еще не одно могучее потрясение общественного мировоззрения. Только представь себе возможность создания электронного мозга, интеллектуально и функционально более или менее идентичного человеческому, причем из этих машин можно будет «воспитывать» (как я уже говорил) верующих и святош. Понимаешь ли ты, какого чудовищного противника обретут в электронном мозге все без исключения религиозные верования? Какую софистику будут вынуждены развить богословские науки в свою защиту перед лицом несомненных фактов проявления «духа» среди электрических проводников и катодных ламп? А другая проблема, значительно более масштабная, значительно более трудная для преодоления, чем конфликт спиритуализма и кибернетики: что делать людям в обществе с полностью автоматизированным производством всего? А чудовищная, производная от этого опасность возникновения общества, только потребляющего, инертного, обреченного на жизнь в наивысшей материальной роскоши и полном умственном застое – перед фактом, что любое человеческое намерение что-либо сделать будет откровенным абсурдом в сравнении с возможностью реализовать это совершеннейшим образом с помощью мыслящих устройств? Вот проблемы, с которыми человеческий разум должен соизмеряться уже сегодня, которые он должен – любой ценой должен! – одолеть. Ты требуешь от меня ответов, которых у меня нет, Гилас. Так уж есть, и всегда так было в истории, что сначала появляется неизвестное, пусть даже дело рук человеческих, что сначала возникают вопросы, и только потом, в процессе изнурительного труда возникают ответы – формируемые жизнью целых поколений, ответы несовершенные, часто ошибочные, неполные, и прежде чем проблема оформится и разрешится, на горизонте возникают уже новые непонятные явления и новые знаки вопросов. И на этом рассуждении мы сегодня закончим, оставляя себе еще только одну, видимо наиболее сложную для обсуждения проблему. Я имею в виду социологию, изложенную в понятиях кибернетики.