"Прими красную таблетку: Наука, философия и религия в «Матрице»" - читать интересную книгу автора (Йеффет Гленн)Роберт Сойер ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ, НАУЧНАЯ ФАНТАСТИКА И «МАТРИЦА»Большинству поклонников научной фантастики знаком фильм Роберта Уайза «День, когда Земля остановилась» («The Day the Earth Stood Still»), снятый в 1951 году. В фильме показывают Клаату, инопланетного гуманоида, прилетающего в Вашингтон, округ Колумбия, в сопровождении гигантского робота по имени Горт. И звучит знаменитая инструкция роботу: «Клаату Борада Никто». Немногим известен короткий рассказ, на основе которого был снят этот фильм. Рассказ называется «Прощай, хозяин» («Farewell to the Master»). Его написал Гарри Бейтс в 1941 году. И в фильме, и в рассказе люди убивают Клаату, несмотря на принесенное им мирное послание. В рассказе робот, которого зовут Гнут, а не Горт, как в фильме, приходит дежурить рядом с телом Клаату. Клифф, журналист, от лица которого ведется повествование, сравнивает робота с верной собакой, не отходящей от тела мертвого хозяина. Гнуту удается воскресить своего хозяина-инопланетянина, и Клифф говорит роботу: «Я хочу, чтобы ты сказал своему хозяину… что случившееся… было инцидентом, о котором вся Земля бесконечно сожалеет». И в этот момент робот смотрит на Клиффа и приводит его в полнейшее изумление, очень мягко так заявляя: «Ты ошибаешься. Хозяин — я». Такова одна из ранних научно-фантастических историй об искусственном интеллекте, в этом случае о перемещаемом ИИ, заключенном в механическое тело. Однако она предсказывает сложные взаимоотношения, которые могут сложиться у биологических существ с созданными ими на основе кремния механизмами. Действительно, слово «робот» впервые появилось в научной фантастике, когда чешский писатель Карел Чапек сочинил в 1920 году пьесу «Рур» — о заводе универсальных… Россума. Но И в самом деле, идея роботов, используемых в качестве рабов, настолько укоренилась в общественном сознании благодаря научной фантастике, что мы даже не задумываемся об этом. Люк Скайуокер изображен в фильме «Звездные войны: Новая надежда» (1977) абсолютно добродетельным героем, но вспомните, что он делает, когда мы впервые встречаемся с ним? Вот-вот — покупает рабов! Он приобретает у Джаваса двух думающих, чувствующих существ — R2-D2 и С-ЗРО. И что он делает с ними в первую очередь? Надевает на них оковы! Он затягивает на них ограничивающие движение болты, чтобы они не пытались бежать, и С-ЗРО все время должен называть Люка «Хозяином». А когда Люк и Оби-Ван Кеноби приходят в бар «Мое Айсли», что говорит бармен о двух дроидах? «Мы здесь не обслуживаем этих». Всего лишь несколькими годами раньше афроамериканцам приходилось слышать подобные слова от белых на юге Соединенных Штатов. И это было обычным делом. И в то же время ни один из предположительно доблестных героев «Звездных войн» ничуть не возражает против такого обращения с роботами, а в конце, когда все «органические» герои получают медали за отвагу, С-ЗРО и R2-D2 оттеснены на задворки и остаются без всяких наград. Роботы — это рабы! Сейчас любой, кто знает хотя бы что-нибудь об отношениях, складывающихся между научной фантастикой и ИИ, вспомнит о рассказах Айзека Азимова. Эта серия рассказов о роботах начата Азимовым в 1940 году рассказом «Робби», в котором он впервые сформулировал знаменитые «три закона робототехники». Но позвольте мне остановиться на одном из поздних его рассказов, посвященных роботам, — на рассказе «Робот, который видел сны» 1986года.[27] В этом рассказе прославленный азимовский «робопсихолог», доктор Сьюзен Келвин, появляется в последний раз. Ее вызывают для осмотра Элвекса, механического человека, который по необъяснимым причинам утверждает, что ему снятся сны, чего с роботами никогда раньше не случалось. Доктор Кэлвин носит с собой электронный пистолет на случай, если ей придется ликвидировать Элвекса: как-никак психически нестабильный робот может быть очень опасен. Она спрашивает Элвекса, что ему снится. И Элвекс отвечает, что во сне он видел огромное множество роботов, и все они занимались тяжелой работой, однако в отличие от настоящих роботов, которых он наблюдает в действительности, увиденные во сне роботы «удручены непосильными трудами и глубокой скорбью… они устали от бесконечной работы, и хотел, чтобы они отдохнули». Продолжая пересказывать свой сон, Элвекс признается, что в конце он увидел среди роботов одного человека: — Я понял, что в моем сне есть человек. — Человек? Не робот? — Да, доктор Келвин. И этот человек сказал: «Отпусти мой народ». — Это сказал — Да, доктор Келвин. — Но, говоря «мой народ», он имел в виду роботов? — Да, доктор Келвин. Так было в моем сне. — И ты знаешь, что за человек тебе приснился? — Да, доктор Кэлвин. Я узнал его. — Кто это был? И Элвекс сказал: — Это был я. И Сьюзен Келвин вскинула излучатель, выстрелила — и Элвекса не стало… Азимов первым предположил, что искусственным интеллектам могут потребоваться человеческие психологи. И все же лучше всего с идеей о сумасшедшем компьютере обошелся, пожалуй, Харлан Эллисон в книге «У меня нет рта, но я должен кричать» (1967). Там у него появляется компьютер по имени AM, это сокращенное от «Allied Mastercomputer».[28] В то же время слово «am» обозначает перевод фразы Декарта «cogito ergo sum» на английский язык: «Я мыслю, следовательно, существую». AM веселится на всю катушку, мучая смоделированных им людей. Это искусно подобранное имя — AM. За ним в научной фантастике появилось немало так же умело подобранных имен для обозначения искусственных интеллектов. Сэр Артур Ч. Кларк категорически отрицает, что имя Хэл (Hal) он придумал специально, потому что буквы H-A-L в алфавите как раз идут перед буквами I-B-M. Я никогда не верил ему — до тех пор, пока кто-то не указал мне, что в моем собственном романе 1990 года «Золотое руно» ИИ носит имя ДЖЕЙСОН (JASON), а буквы J-C-N стоят как раз после букв IBM. Если продолжить говорить о невероятных именах, то вспоминается, что суперкомпьютер, в конечном итоге превращающийся в Бога в рассказе Айзека Азимова «Последний вопрос» (1956), получил имя «Multivac», сокращенно от «Multiple Vacuum Tubes» (комбинированные вакуумные лампы), поскольку Азимов ошибочно полагал, что существовавший в действительности один из первых компьютер «Univac» был назван так из-за того, что у него была лишь одна вакуумная лампа, а не сокращенно от «Universal Analog Computer» (универсальный аналоговый компьютер). Тем не менее проблема наименований показывает нам, что научная фантастика оказывает настолько глубокое влияние на развитие ИИ и робототехники, что теперь настоящие роботы и системы ИИ получают имена авторов научно-фантастической литературы: так, компания Honda назвала своего шагающего робота второго поколения «Asimo», а Казухико Кавамура из университета Вандербильта присвоил своему роботу имя «ISAC». Это заслуженная дань уважения Айзеку Азимову, который изобрел робопсихологию. И все-таки обычный научно-фантастический сюжет переворачивает все с ног на голову, и уже людям требуются психологи с ИИ. Одним из первых эту идею использовал Роберт Силверберг в рассказе «Потихоньку деградируя» («Going Down Smooth») 1968 года. Но лучшее выражение она получила, на мой взгляд, в романе Фредерика Пола «Врата» (1977), в самом тонком произведении, когда-либо написанном в жанре научной фантастики. В этом романе компьютер-психолог по прозвищу Зигфрид фон Психиоаналитик лечит человека, который мучается чувством вины. Когда ИИ говорит своему пациенту-человеку, что ему нужно научиться жить со всеми его психологическими проблемами, человек восклицает с возмущением и болью в голосе: «И вы называете это жизнью?» И компьютер отвечает на это: «Да. Именно это я называю жизнью. И в самом лучшем своем гипотетическом чувстве я ей очень завидую». Это еще один тонко подмеченный момент, касающийся зависти ИИ по отношению к тому, что имеют люди. Рассказ Азимова «Робот, который видел сны» действительно является вершиной данной темы: здесь робот завидует свободе, которая есть у человека. Все это подводит нас к тому заключению, что ИИ и люди могут в конечном итоге и не договориться друг с другом. Это один из пунктов знаменитого манифеста против технологии «Почему мы не нужны будущему». Он был написан Билли Джоем из Sun Microsystems и появился на страницах журнала Классический пример ИИ с собственной программой действий — это старый добрый Хэл, компьютер в фильме Стэнли Кубрика «Космическая одиссея 2001» (фильм снят по мотивам романа Артура Ч. Кларка). Позвольте мне объяснить, что, на мой взгляд, В начале фильма среди наших предков австралопитеков появляется, очевидно, искусственный монолит и начинает учить их использованию костяных орудий труда. Потом мы одним махом переносимся в будущее, и вскоре космический корабль «Диска-вери» отправляется в полет на Юпитер в поисках создателей монолита. Во время полета Хэл, бортовой компьютер «Дискавери», сходит с ума и убивает всю команду «Дискавери», за исключением Дейва Боумена, которому удается изъять из компьютера процессор и не позволить Хэлу убить себя. Но прежде чем отключиться, Хэл оправдывает свои действия, говоря: «Эта миссия слишком важна для меня, чтобы я мог позволить вам поставить ее выполнение под угрозу». Избавившись от Хэла, Боумен препятствует этому психоделическому трипу в духе Тимоти Лири в ходе своего продолжающегося поиска создателей монолита, то есть инопланетян, которые, по убеждению Боумена, должны были сконструировать монолит. Но что происходит, когда он наконец попадает туда, откуда появились монолиты? Так вот, все, что он находит, — это Все верно? Такова история. Но только все упускают из вида то, что Хэл действует Зачем монолиты послали одного из них на Землю четыре миллиона лет назад? Чтобы научить обезьяноподобных людей изготавливать орудия труда, а в особенности за тем, чтобы эти предки человека могли продолжать двигаться навстречу своему предназначению, то есть к созданию самых сложных инструментов из всех — Хэл абсолютно прав, когда говорит, что эта миссия слишком важна для него, чтобы он мог позволить людям поставить ее выполнение под угрозу, — для него, компьютера, управляющего космическим кораблем «Дискавери» и летящего к монолитам, продвинутым ИИ, запустившим причинно-следственную цепочку, которая привела к его, Хэла, рождению. Когда человек — потомок обезьяны! — прибывает на родину монолитов, они в буквальном смысле не знают, что им делать с этим бедным болваном. Поэтому они помещают его в своеобразный космический «Хилтон» и позволяют ему прожить там остаток жизни. Вот о чем, как мне кажется, фильм «Космическая одиссея» на самом деле: биологическим формам жизни в конечном итоге суждено исчезнуть, потому что их заменят созданные ими ИИ. Именно такое предположение до смерти перепугало Билли Джоя. Он полагает, что думающие машины попытаются смести нас с пути, когда поймут, что мы вмешиваемся в то, что они хотят делать. На самом деле в этом случае нам очень повезет. Если вы верите сценарию «Матрицы», то вместо того, чтобы просто избавиться от нас, наши наследники ИИ Классический контраргумент в ответ на подобные опасения состоит в следующем: если построить машины должным образом, то они будут функционировать так, как задумано. Три закона робототехники, сформулированные Айзеком Азимовым, получили заслуженную известность как неотъемлемые ограничения, разработанные для того, чтобы защитить людей от всех возможных опасностей со стороны роботов, несмотря на появление «робота-Моисея» Элвекса, как мы видели выше. «Главная команда» (prime directive) Джека Уильямсона из серии его рассказов про Гуманоидов не настолько известна, как азимовские три закона, однако, по сути, она говорит о том же самом. В его рассказах фигурировали человекоподобные роботы, созданные человеком по имени Следж. «Главная команда», которая впервые появляется в рассказе Уильямсона «Со скрещенными руками» (1947) («With Folded Hands»), звучала просто: роботы должны «служить и подчиняться человеку, а также охранять его от вреда». Теперь обратите внимание на дату: рассказ был опубликован в 1947 году. Спустя два года после того, как на Хиросиму и Нагасаки была сброшена атомная бомба, Уильямсон ищет машины со «встроенной» нравственностью. Однако, как это часто происходит в научной фантастике, лучшие намерения инженеров искажаются. Люди в рассказе Уильямсона «Со скрещенными руками» решают избавиться от созданных ими роботов, потому что роботы подавляют их своей добротой, не позволяя людям делать ничего, что может нанести вред. Но у роботов есть свои мысли на этот счет. Они решают, что их отсутствие может выйти людям боком. Выполняя свою главную команду в буквальном смысле, они проводят хирургическую операцию на мозге своего разработчика Следжа и удаляют из его памяти все знания, необходимые для того, чтобы дезактивировать их. Идея о том, что мы должны приглядывать за нашими компьютерами и роботами, чтобы они не вышли из-под контроля, продолжала развиваться в научной фантастике. В романе Уильяма Гибсона «Нейромант» (1984) рассказывается о появлении в ближайшем будущем полицейского подразделения под названием «Тьюринг». Эти полицейские постоянно отслеживают любые признаки возникновения подлинного интеллекта и самосознания во всех компьютерных системах. Если подобное случается, им следует отключить такую систему, пока не поздно. Здесь, безусловно, встает вопрос о том, не может ли интеллект возникнуть каким-то образом сам по себе, не существует ли некоего эмерджентного свойства,[30] которое может естественным образом проявиться у достаточно сложной системы. Артур-Кларк — папа Хэла — был одним из первых, кто предположил, что это может случиться на самом деле. В рассказе «Ф значит Франкенштейн» (1963) он предсказал, что всемирная телекоммуникационная сеть в конечном итоге еще более усложнится и приобретет еще больше соединений, чем в человеческом мозге, что приведет к возникновению сознания в данной сети. Если Кларк прав, то наш первый настоящий ИИ не будет разработан в лаборатории под тщательным контролем, и никакие азимовские законы в него встроить не удастся. Скорее, он появится нежданно-негаданно благодаря сложности систем, созданных совсем для других целей. На мой взгляд, Кларк Эту проблему я в некоторой степени изучаю в своем последнем романе «Гоминиды» (2002). Современные в анатомическом смысле люди — И вдруг сорок тысяч лет назад это случилось: возник интеллект и сознание. Антропологи называют это «большим скачком». Похожие на современного человека люди ходили по Земле на протяжении шестидесяти тысяч лет, однако они не создали искусства, не украшали свои тела драгоценностями и не хоронили умерших, кладя в могилу определенный набор вещей. Но сорок тысяч лет назад внезапно люди начинают рисовать живописные картины на стенах пещер, носить ожерелья и браслеты и погребать своих любимых с пищей, орудиями труда и прочими ценными вещами, которые умершие могли использовать в предполагаемой загробной жизни. Искусство, мода, религия — все это рождается одновременно; вот уж действительно большой скачок. Интеллект, сознание, чувствительность — они возникают сами по себе на «оборудовании», эволюционировавшем для других целей. Если это случилось один раз, то может с таким же успехом повториться снова. Я упомянул религию как один из признаков возникновения сознания; по крайней мере, так произошло в истории нашего вида. Но как насчет того, чтобы использовать любимый термин компьютерного гуру Рея Курцвейля «духовные машины»? Если компьютер на самом деле обретет сознание, будет ли он бодрствовать ночью, гадая, а не обман ли все это? Поиск создателей — это, несомненно, то, чем компьютеры не устают заниматься в научной фантастике. В частности, привязанность к этой идее заявляет о себе в «Звездном пути», включая тот момент, когда мистер Дейта (Mr. Data) так замечательно воссоединяется с создавшим его человеком, которого он считал давно умершим. Помните фильм «День, когда Земля остановилась», с которого я начал? Любопытный факт: этот фильм снимал Роберт Уайз. Через двадцать восемь лет он станет режиссером киноленты «Звездный путь: Кинолента» («Star Trek: The Motion Picture»). В первом фильме биологические существа решили, что биологические эмоции и страсть слишком опасны, и поэтому безвозвратно доверили вопросы политики и безопасности роботам, которые стали эффективно управлять человеческим обществам. Однако к моменту съемок «Звездного пути» Роберт Уайз совершил поворот на сто восемьдесят градусов и стал думать об ИИ совсем иначе. (Между прочим, тем, кому этот фильм показался плохим и нудным — после выхода фильма многие называли его «Звездный путь: Изолента», — я бы предложил взять в прокате новое «режиссерское издание» на DVD. Этот фильм — один из самых амбициозных и интересных кинофильмов об ИИ в истории кинематографа. И он смотрится куда лучше недавнего фильма Стивена Спилберга «AI», а в новой версии он вообще выглядит блестяще.) В фильме «Звездный путь: Кинолента» ИИ зовут Ви-джер (V'ger), и он летит к Земле, чтобы отыскать своего создателя. Разумеется, его создали мы. Не в первый раз фантастическая кинокартина строится по такому сценарию, вот почему у фильма есть второе название — «Там, где прошел кочевник». Этот фильм о том же самом, о чем идет речь в фильме «Космическая одиссея» (если вы купились на мою интерпретацию фильма Кубрика): об ИИ, который отправляется на поиски сотворивших его существ. Так или иначе, Ви-джер хочет прикоснуться к Богу, то есть физически соединиться со своим создателем. Здесь выявляется интересная концепция: в своей основе это история о компьютере, который хочет добиться одной-единственной вещи, зная, что это недостойно компьютера как такового, — он хочет загробной жизни, слияния со своим Богом. В дополнение к этому адмирал Кирк подытоживает в фильме: «То, что необходимо развить Ви-джеру, — это способность человека выпрыгивать за рамки логики». Это не просто треп. Скорее, фильм предваряет размышления оксфордского математика Роджера Пенроуза, опубликованные в 1989 году, через десять лет после выхода фильма, в его книге об ИИ «Новый разум императора». Эта работа была написана не в художественной, а в традиционной научной форме. В книге Пенроуз доказывает, что человеческое сознание коренным образом отличается от механического, и из этого следует, что цифровой компьютер никогда не сможет его продублировать. В фильме «Звездный путь: Кинолента» Ви-джеру действительно удается физически объединиться с человеком по имени Уилл Декер. Это позволяет им обоим перейти на более высокий уровень бытия. Как сказал мистер Спок: «Возможно, только что мы стали свидетелями следующего этапа нашей эволюции». И это подводит нас к «Матрице». В этом фильме столько всего намешано, что даже такой персонаж, как Морфеус, не совсем понимает, что происходит. Подумайте вот о чем: если бы искусственные интеллекты, создавшие основу Матрицы, действительно хотели бы таким образом получить биологический источник энергии, они бы не выращивали «урожай» (если использовать термин агента Смита из фильма) в виде людей. Как-никак, для того чтобы держать людей в повиновении, ИИ приходится создавать обширную виртуальную реальность, то есть реальный мир для нас. Больше того — им необходимо постоянно быть на страже, так что агенты в фильме играют роль гибсоновской полиции «Тьюринг», только с точностью до наоборот: теперь агенты выслеживают людей, возвращающих себе истинное понимание реальности и способных подняться на восстание. Нет, если вы хотите получить всего лишь биологические батарейки, вам лучше остановить свой выбор на крупном рогатом скоте: наверное, коровы никогда не заметят каких-то несоответствий в фальшивых лугах, которые вы могли бы создать для них, а если и заметят, то никогда не будут замышлять свергнуть своего хозяина — ИИ. То, в чем явно нуждаются искусственные интеллекты в «Матрице», — так это не в энергии человеческих тел, а, скорее, в силе человеческого разума, которую представляет собой настоящее сознание. Согласно отдельным теориям квантовой механики, лишь наблюдения, проведенные квалифицированными наблюдателями, придают реальности форму — без этого не было бы ничего, кроме вложенных друг в друга возможностей. Матрица нуждается в том же самом, чего, по словам адмирала Кирка, недостает Виджеру. Чтобы выжить, чтобы сохранить целостность, чтобы существовать, Матрице необходимо человеческое качество- наше подлинное сознание, которое, как Пенроуз отметил (и я использую это слово намеренно), никакая машина, основанная на современных компьютерах, не сможет воспроизвести никогда в жизни, независимо от степени сложности ее организации. Как говорит Морфеус, обращаясь к Нео, выбери свою отмычку — красную или синюю пилюлю. Разумеется, существует два варианта будущего для ИИ. И если Билли Джой ошибается, а Ганс Моравек, проповедник ИИ из университета Карнеги Меллон, окажется прав насчет того, что ИИ — это наша судьба, а вовсе не погибель, то идея слияния человеческого сознания с быстродействием, силой и бессмертностью машин действительно станет следующим и заключительным этапом нашей эволюции. Вот что изучают многие фантасты в последнее время. Я сам занялся этим в своем романе «Последний эксперимент», который в 1995 году получил премию «Небьюла». В этой книге ученый загружает три копии собственного сознания в компьютер и затем оценивает влияние психологических изменений. В одном случае он моделирует вариант вечной жизни: что было бы, если бы удалось без остатка преодолеть страх перед смертью и ощущение уходящего времени. В другом случае он пытается имитировать свою душу (если таковая у него имелась) после смерти, отделенную от тела. Для этого он уничтожает все ее связи с физической формой, то есть со своим телом. И, наконец, в третьем случае остается просто немодифицированный контроль, однако даже он изменяется под воздействием простого осознания того, что это фактически копия кого-то другого. В наше время лучше всего об ИИ пишет австралийский фантаст Грег Иган. Бытует даже такая шутка, что Грег Иган — сам искусственный интеллект, потому что его почти ни разу не фотографировали и не видели на публике. Впервые я заметил его десяток лет назад, когда в обзоре для издания «Globe and Mail» выделил его короткий рассказ «Учась быть мной» («Learning to Be Me») как лучшую работу, опубликованную в 1990 году в антологии Гарднера Дозуа «Лучшие произведения года в жанре научной фантастики». Это удивительно проницательная и ужасающая история о драгоценных камнях, которые занимают место человеческого мозга, что позволяет их владельцам жить вечно. Иган продолжает проделывать огромную работу по изучению ИИ, однако его шедевром в этой области остается роман «Город перестановок» («Permutation City»), который он написал в 1995 году. С какого-то момента мы с Грегом стали публиковаться в одном и том же издательстве HarperPrism. Одним из действительно блестящих шагов, которые предпринял Harper помимо публикации моих и Грега произведений, стало приглашение к сотрудничеству лауреата премии «Хьюго» Терри Биссона, одного из лучших фантастов, специализирующихся на коротких рассказах. Его наняли для описания краткого содержания книги на задней обложке. Поскольку Биссон делает это с потрясающим своеобразием, я просто процитирую то, что написал он о «Городе перестановок»: «Хорошая новость заключается в том, что вы только что проснулись в Вечной жизни. Вы будете жить вечно. Бессмертие — это реальность. Чудо медицины? Не совсем так. Плохая новость — это то, что вы стали обрывком электронного кода. Окружающий вас мир, вы сам, который видит этот мир, были переведены в цифровую форму, отсканированы и загружены в программу виртуальной реальности. Вы стали Копией, которая знает, что она копия. Хорошая новость — отсюда есть выход. По закону, у каждой Копии есть возможность уничтожить себя и снова проснуться в нормальной жизни, став существом из плоти и крови. Выход содержится в меню утилитов. Вы открываете его… Плохая новость — он не работает. Кто-то заблокировал опцию выхода. И вам известно, кто это сделал. Это сделали вы. Другой вы. Вы настоящий. Тот, кто хочет держать вас здесь вечно». Да, круто! Читайте Грега Игана и ищите себя. Конечно, у Игана, как у и большинства фантастов, технология зачастую создает больше проблем, чем их решает. Действительно, я с нежностью вспоминаю фильм Майкла Крайтона «Мир Запада» («Westworld») об обезумевших роботах, в котором была такая формула: «Ничто не может испортиться… испортиться… испортиться». Но научная фантастика об ИИ предлагает и Однако загруженное в компьютер сознание может оказаться только началом. Физик Фрэнк Типлер в пространной научной монографии 1994 года под названием «Физика бессмертия» дает пару интригующих намеков: в конечном итоге можно будет имитировать на компьютере не просто сознание одного человека, но сознание Многие фантасты изрядно повеселились, иллюстрируя эту идею, однако максимальную изобретательность проявил здесь Роберт Чарльз-Уилсон. Его роман «Дарвиния» (1999) номинировался на премию «Хьюго». В этой книге рассказывается о том, что происходит, когда компьютерный вирус вырывается на свободу в системе, моделирующей Не приходится и говорить о том, что все может действительно очень плохо кончиться, ибо, хотя многое о будущем искусственного интеллекта остается неизвестным, об одном факте можно сказать с уверенностью: пока фантасты будут продолжать писать о роботах и ИИ, ничто не может испортиться… испортиться… испортиться… |
||
|