Споры на тему Правильного Определения идут во всех сообществах, занимающихся ИИ. Часто дело едва не доходит до драки...
Сначала недоумеваешь - а какая, собственно, разница? Разве кто-то думает всерьез, что, сказав, к примеру: - "Математика - наука о величинах, их свойствах и законах их соединения", он серьезно продвинет ее вперед или сразу станет крупным математиком?
И неужели мы не понимаем на интуитивном уровне, что именно собираемся создавать? Если уж (по неведомым причинам) захочется получить определение, можно просто озвучить эти интуитивные представления, выразить их словами, и спокойно работать дальше.
Однако, рано или поздно, в любом сообществе (наше - не исключение) находится Философ, желающий высказать свою версию. После этого собеседники выражают свое недоумение, и быстро сходятся на том, что Философ сказал какую-то полную ерунду. Как любой здоровый человек с высоким самомнением, Философ не готов смиренно принять тот факт, что выпестованная им мысль является полной ерундой. И оппоненты его начинают в этом убеждать.
В процессе убеждений Оппонент 1 с удивлением замечает, что Оппоненты 2 и 3 тоже говорят полную ерунду. В свою очередь, Оппонент 2 насмешлив, он уверен, что весь этот спор не имеет смысла, так как определение интеллекта очевидно любому здравомыслящему человеку. Конечно же, интеллект - это... Оппонент 3 начинает возбужденно опровергать точку зрения Оппонента 2 как невероятно вредную. Он ссылается на книгу Маститого Ученого. Оппонент 1 замечает что Маститый Ученый был изрядным дураком, и ничего не понимал, да и вообще, жил 300 лет назад, а с тех пор все изменилось. Философ, торжествуя, поливает их грязью и вставляет язвительные замечания. Его любимой фразой становится: - "Те из вас, у кого хватит мозгов, когда-нибудь все-таки поймут, как я был прав". Спор теряет остатки приличия на глазах...
Знакомая картина?
Цель этой статьи - попытаться понять, почему обсуждение определения вызывает споры, сравнимые с религиозными по напряженности и результативности. Понять, зачем нам все-таки нужно определение понятия "интеллект". Наконец, понять, как можно было бы его сформулировать.
Цель
Обойдусь без длинных вступлений, и сказу выскажу ту мысль, ради которой я писал эту статью. В нашем случае, определение - это техзадание, сокращенное до пределов, не больше, но и не меньше. Вот почему дать определение, которое годилось бы на все случаи сразу, нельзя. Если эта мысль вызывает у Вас негодование, немедленно прекращайте читать эту статью: ничего интересного для себя Вы тут не найдете. Дальше я объясню, почему я так считаю, и приведу аргументы в пользу такой точки зрения, но, если она Вам инстинктивно не нравится, мои аргументы, конечно же, окажутся слабыми и неверными, а объяснения - глупыми и запутанными.
Определения - это не разновидность фактов. Поэтому чаще всего просто нельзя сказать, является определение "верным" или "неверным". Эта мысль не слишком сложна, но почему-то не укладывается во многих головах.
Сейчас нас, очевидно, интересует определение интеллекта с точки зрения разработчиков его искусственных моделей или аналогов. Именно поэтому нас интересует в первую очередь то, как (и насколько сильно) принятое определение влияет на процесс дальнейшей разработки.
Те примеры, которые предоставляет нам жизнь, говорят, что пренебрегать этим влиянием нельзя. Похоже, что не бывает "правильного" определения, которое бы резко ускорило процессы разработки и научного поиска. Однако "неправильное" определение (или отсутствие такового) способно в некоторых ситуациях эти процессы замедлить вплоть до замерзания. Давайте более подробно посмотрим, как это происходит.
Разновидности и эволюция определений
На первых этапах исследования и разработка идут стихийно, в небольшой группе людей, получивших похожее образование, и имеющих схожие взгляды. (Эта "группа" может состоять и из одного человека). Для них самое простое определение - это его отсутствие. До тех пор, пока они не стремятся обмениваться идеями и разработками с другими, это всех устраивает. Как только группа начинает активно контактировать с другими исследователями/разработчиками, появляется нужда в инструменте коммуникации. Нужен способ быстро объяснить, о чем идет речь в исследовании, какова его конечная цель, что относится к рассматриваемой проблеме, а что не относится. Попытки дать определения основным исследуемым понятиям в этом момент начинаются естественным образом. Если при помощи героических усилий все-таки удается сдерживать появление определений, внешние контакты группы быстро начинают приносить больше вреда, чем пользы. Все больше и больше времени группа тратит на одни и те же споры, на изложение в сотый раз своих взглядов и методик новым "интересующимся", на борьбу с "энтузиастами", предлагающими рассмотреть свой подход, "задуматься над проблемами Х и Y" и т.п. Выхода всего два: замкнуться, пытаясь и дальше вести исследования в рамках этой замкнутой группы, или все же научиться четко формулировать, чего она добивается, и какие проблемы рассматривает.
Поскольку определение появляется как защита от внешних воздействий, те люди, которые олицетворяют эти воздействия, естественно, до хрипоты спорят, пытаясь их опровергнуть. Это нелогично (примерно как пытаться оспаривать правила игры), но по-человечески понятно: если интересующие их вещи оказываются за рамками определения, нужно пытаться убедить, что определение неверно! Остается удивляться наивности тех, кто начинает убеждать: нет же, оно верно...
Обычно попытки дать определение интеллекта начинаются с чего-то такого:
"Интеллект - познавательные способности человека, определяющие уровень его мышления, способность решать сложные задачи".
"Интеллект - способность мышления, рационального познания".
"Искусственный интеллект - способность процесса обнаруживать свойства, схожие с разумным поведением человека".
Все они построены по тому же принципу, что и знаменитое определение Станислава Лема "Сепулька - это предмет, использующийся в процессе сепуления". Не очень-то это содержательно, не правда ли? С их формальной правильностью не поспоришь. Однако нам они явно не годятся. Ими нельзя пользоваться, они не инструменты. Определение понятия "интеллект" всего лишь сводится к какому-то не менее сложному понятию: "мышление", "познание", "схожесть", "разумное поведение". В общем, "непалец - это человек, зачатый непальцем и непалкой". Такое определение мало отличается от полного отсутствия, и действует на процессы разработки похожим образом. Рекурсия хороша в программировании на ЛИСП'е, и там ей самое место.
Итак, похоже, что "хорошее" определение должно выражать понятие через более простые. Рано или поздно к этой мысли приходят все. И здесь нас поджидает следующая проблема: несводимость интеллекта к сумме его признаков.
"Интеллект - это умение проводить дедуктивные рассуждения, анализировать сенсорную информацию, понимать человеческие языки, использовать долговременную память и ставить себе новые подзадачи для достижения своих целей".
Правда, звучит здорово? Итак, предположим, что у профессор Иванов руководствуется таким определением интеллекта. У профессора Иванова есть пять докторантов, которые под его чутким руководством должны создать ИИ. Профессор Иванов осуществляет общее руководство и надзор, а докторанты пишут диссертации на следующие темы: "Логические рассуждения в системах ИИ"; "Анализ сенсорной информации в системах ИИ"; "Понимание естественных языков в системах ИИ"; ... ; надеюсь, дальше продолжать не надо. Защитив с блеском пять диссертаций, научный коллектив приступает к сборке их в единое целое.
Здесь их ждет удар. Все это совершенно не хочет собираться вместе. "Система логических рассуждения" работает со строчками символов, например: "Металлические предметы, как правило, тяжелее неметаллических того же объема". Откуда взять эти строчки? Мы же не собираемся снабжать ими эту систему, иначе какой это получится интеллект? Логично было бы ожидать, что исходные данные для нее должны появиться в результате "анализа сенсорной информации". Но нет, блок, которая им занимается, на выходе генерирует только описания вроде "Красный куб стоит на столе в 5 метрах от меня". Он не изобретет нового признака, например, "металлический", если заранее не приучен к этому создателями. Так может, они хотя бы научат уже работающую систему, пользуясь "естественным языком"? Хм... Удивительно, но оказывается, что "блок понимания естественных языков" совершенно не может объяснить "блоку анализа сенсорной информации", что же такое "металлический", в понятных тому образах-шаблонах...
Ну что же, ничего страшного, коллектив продолжает "расширять" и "углублять" пять этих направлений. То, что никогда и никаким образом эти исследования не сведутся в единое целое, исследователей не волнует. К сожалению, описанная ситуация не вымышлена. Такая схема работы действительно принята в современных академических исследованиях, посвященных ИИ.
Интеллект - слишком сложная система, чтобы определять его перечислением признаков. Как известно, кибернетика называет сложной системой такую, которая обнаруживает свойства, несводимые к сумме свойств составных частей. В этом смысле интеллект - сложнейшая система. Мы можем смоделировать любое его простое проявление, но это почти ничего не дает для создания полноценного разума.
Следующая мысль, к которой приходят расстроенные исследователи, если они все еще не отказались от своих попыток - "герменевтическое" определение. Вместо того, чтобы пытаться с помощью десятка слов выразить сложные понятия, связанные с человеческим разумом, они начинают как можно более подробно исследовать его проявления во всех известных им контекстах, перечислять все его связи с другими и описывать место в общей системе своих представлений. Приводить подобный текст я, пожалуй, не буду, так как такое определение обычно занимает объем, сопоставимый со всей этой статьей. Интересующиеся могут взглянуть, к примеру, сюда (это далеко не самый монструозный образец).
"Герменевтические" определения намного полезнее всех тех типов, о которых шла речь выше, но и у них есть серьезные недостатки. Прежде всего, они субъективны. Чаще всего в них смешиваются свойства того понятия, о котором ведется речь, его проявления, и наши ассоциации, возникающие по поводу вышеперечисленного. Поэтому только их автор может быть полностью уверен, что понимает его на сто процентов. "Герменевтические" определения сложны для понимания, так как требуют от понимающего владения всеми теми контекстами, о которых в них идет речь. Наконец (и это хуже всего), они вызывают инстинктивное недоверие "технарей", полагающих, что текст такой длины свидетельствует только о запутанности мыслей автора.
Полезные определения
Давайте сформулируем признаки ценного определения. Я нашел всего два действительно важных требования; может быть, вам удастся найти больше.
Прежде всего, это независимость от контекста. Определение и как инструмент коммуникаций, и как техническое задание, должно всеми пониматься одинаково (в идеале). Это значит, что, как ни жаль, в определении должно быть как можно меньше блеска, парадоксальности, "психологизма" и ссылок на "очевидность": именно "очевидные" и "психологически глубокие" вещи всеми понимаются неодинаково.
Определение может давать ответ на вопрос "есть интеллект или нет", а может отвечать на вопрос "увеличится ли интеллект системы после такого-то ее изменения". Давайте договоримся называть первые бинарными, в отличие от итеративных. Так вот, итеративные определения лучше бинарных, так как серьезно помогают нам в процессе разработки. Фактически, итеративное определение, не зависящее от контекста - это уже серьезная "подсказка", помогающая разработать процедуру исследования или разработки.
Итак, я попытался убедить вас, что самое полезное определение выглядит примерно так: "Мы исследуем интеллект как <круг рассматриваемых проблем>. Мы хотим добиться <описание целей>. Мы считаем, что особенно важно обратить внимание на <свойства интеллекта, особенно важные для достижения вышеизложенных целей>". Когда такое определение дано, отшлифовано, и его авторы с ним согласны, разговор окончен. Спорить уже не о чем, по крайней мере до тех пор, пока они не захотят придать своему определению общезначимость и заставить всех заниматься теми же проблемами, какими занимаются сами.
Слово капитана - закон, но лишь на его собственном корабле.
Но помните: как вы судно назовете, так оно и поплывет.
Споры на тему Правильного Определения идут во всех сообществах, занимающихся ИИ. Часто дело едва не доходит до драки...
Сначала недоумеваешь - а какая, собственно, разница? Разве кто-то думает всерьез, что, сказав, к примеру: - "Математика - наука о величинах, их свойствах и законах их соединения", он серьезно продвинет ее вперед или сразу станет крупным математиком?
И неужели мы не понимаем на интуитивном уровне, что именно собираемся создавать? Если уж (по неведомым причинам) захочется получить определение, можно просто озвучить эти интуитивные представления, выразить их словами, и спокойно работать дальше.
Однако, рано или поздно, в любом сообществе (наше - не исключение) находится Философ, желающий высказать свою версию. После этого собеседники выражают свое недоумение, и быстро сходятся на том, что Философ сказал какую-то полную ерунду. Как любой здоровый человек с высоким самомнением, Философ не готов смиренно принять тот факт, что выпестованная им мысль является полной ерундой. И оппоненты его начинают в этом убеждать.
В процессе убеждений Оппонент 1 с удивлением замечает, что Оппоненты 2 и 3 тоже говорят полную ерунду. В свою очередь, Оппонент 2 насмешлив, он уверен, что весь этот спор не имеет смысла, так как определение интеллекта очевидно любому здравомыслящему человеку. Конечно же, интеллект - это... Оппонент 3 начинает возбужденно опровергать точку зрения Оппонента 2 как невероятно вредную. Он ссылается на книгу Маститого Ученого. Оппонент 1 замечает что Маститый Ученый был изрядным дураком, и ничего не понимал, да и вообще, жил 300 лет назад, а с тех пор все изменилось. Философ, торжествуя, поливает их грязью и вставляет язвительные замечания. Его любимой фразой становится: - "Те из вас, у кого хватит мозгов, когда-нибудь все-таки поймут, как я был прав". Спор теряет остатки приличия на глазах...
Знакомая картина?
Цель этой статьи - попытаться понять, почему обсуждение определения вызывает споры, сравнимые с религиозными по напряженности и результативности. Понять, зачем нам все-таки нужно определение понятия "интеллект". Наконец, понять, как можно было бы его сформулировать.
Цель
Обойдусь без длинных вступлений, и сказу выскажу ту мысль, ради которой я писал эту статью. В нашем случае, определение - это техзадание, сокращенное до пределов, не больше, но и не меньше. Вот почему дать определение, которое годилось бы на все случаи сразу, нельзя. Если эта мысль вызывает у Вас негодование, немедленно прекращайте читать эту статью: ничего интересного для себя Вы тут не найдете. Дальше я объясню, почему я так считаю, и приведу аргументы в пользу такой точки зрения, но, если она Вам инстинктивно не нравится, мои аргументы, конечно же, окажутся слабыми и неверными, а объяснения - глупыми и запутанными.
Определения - это не разновидность фактов. Поэтому чаще всего просто нельзя сказать, является определение "верным" или "неверным". Эта мысль не слишком сложна, но почему-то не укладывается во многих головах.
Сейчас нас, очевидно, интересует определение интеллекта с точки зрения разработчиков его искусственных моделей или аналогов. Именно поэтому нас интересует в первую очередь то, как (и насколько сильно) принятое определение влияет на процесс дальнейшей разработки.
Те примеры, которые предоставляет нам жизнь, говорят, что пренебрегать этим влиянием нельзя. Похоже, что не бывает "правильного" определения, которое бы резко ускорило процессы разработки и научного поиска. Однако "неправильное" определение (или отсутствие такового) способно в некоторых ситуациях эти процессы замедлить вплоть до замерзания. Давайте более подробно посмотрим, как это происходит.
Разновидности и эволюция определений
На первых этапах исследования и разработка идут стихийно, в небольшой группе людей, получивших похожее образование, и имеющих схожие взгляды. (Эта "группа" может состоять и из одного человека). Для них самое простое определение - это его отсутствие. До тех пор, пока они не стремятся обмениваться идеями и разработками с другими, это всех устраивает. Как только группа начинает активно контактировать с другими исследователями/разработчиками, появляется нужда в инструменте коммуникации. Нужен способ быстро объяснить, о чем идет речь в исследовании, какова его конечная цель, что относится к рассматриваемой проблеме, а что не относится. Попытки дать определения основным исследуемым понятиям в этом момент начинаются естественным образом. Если при помощи героических усилий все-таки удается сдерживать появление определений, внешние контакты группы быстро начинают приносить больше вреда, чем пользы. Все больше и больше времени группа тратит на одни и те же споры, на изложение в сотый раз своих взглядов и методик новым "интересующимся", на борьбу с "энтузиастами", предлагающими рассмотреть свой подход, "задуматься над проблемами Х и Y" и т.п. Выхода всего два: замкнуться, пытаясь и дальше вести исследования в рамках этой замкнутой группы, или все же научиться четко формулировать, чего она добивается, и какие проблемы рассматривает.
Поскольку определение появляется как защита от внешних воздействий, те люди, которые олицетворяют эти воздействия, естественно, до хрипоты спорят, пытаясь их опровергнуть. Это нелогично (примерно как пытаться оспаривать правила игры), но по-человечески понятно: если интересующие их вещи оказываются за рамками определения, нужно пытаться убедить, что определение неверно! Остается удивляться наивности тех, кто начинает убеждать: нет же, оно верно...
Обычно попытки дать определение интеллекта начинаются с чего-то такого:
"Интеллект - познавательные способности человека, определяющие уровень его мышления, способность решать сложные задачи".
"Интеллект - способность мышления, рационального познания".
"Искусственный интеллект - способность процесса обнаруживать свойства, схожие с разумным поведением человека".
Все они построены по тому же принципу, что и знаменитое определение Станислава Лема "Сепулька - это предмет, использующийся в процессе сепуления". Не очень-то это содержательно, не правда ли? С их формальной правильностью не поспоришь. Однако нам они явно не годятся. Ими нельзя пользоваться, они не инструменты. Определение понятия "интеллект" всего лишь сводится к какому-то не менее сложному понятию: "мышление", "познание", "схожесть", "разумное поведение". В общем, "непалец - это человек, зачатый непальцем и непалкой". Такое определение мало отличается от полного отсутствия, и действует на процессы разработки похожим образом. Рекурсия хороша в программировании на ЛИСП'е, и там ей самое место.
Итак, похоже, что "хорошее" определение должно выражать понятие через более простые. Рано или поздно к этой мысли приходят все. И здесь нас поджидает следующая проблема: несводимость интеллекта к сумме его признаков.
"Интеллект - это умение проводить дедуктивные рассуждения, анализировать сенсорную информацию, понимать человеческие языки, использовать долговременную память и ставить себе новые подзадачи для достижения своих целей".
Правда, звучит здорово? Итак, предположим, что у профессор Иванов руководствуется таким определением интеллекта. У профессора Иванова есть пять докторантов, которые под его чутким руководством должны создать ИИ. Профессор Иванов осуществляет общее руководство и надзор, а докторанты пишут диссертации на следующие темы: "Логические рассуждения в системах ИИ"; "Анализ сенсорной информации в системах ИИ"; "Понимание естественных языков в системах ИИ"; ... ; надеюсь, дальше продолжать не надо. Защитив с блеском пять диссертаций, научный коллектив приступает к сборке их в единое целое.
Здесь их ждет удар. Все это совершенно не хочет собираться вместе. "Система логических рассуждения" работает со строчками символов, например: "Металлические предметы, как правило, тяжелее неметаллических того же объема". Откуда взять эти строчки? Мы же не собираемся снабжать ими эту систему, иначе какой это получится интеллект? Логично было бы ожидать, что исходные данные для нее должны появиться в результате "анализа сенсорной информации". Но нет, блок, которая им занимается, на выходе генерирует только описания вроде "Красный куб стоит на столе в 5 метрах от меня". Он не изобретет нового признака, например, "металлический", если заранее не приучен к этому создателями. Так может, они хотя бы научат уже работающую систему, пользуясь "естественным языком"? Хм... Удивительно, но оказывается, что "блок понимания естественных языков" совершенно не может объяснить "блоку анализа сенсорной информации", что же такое "металлический", в понятных тому образах-шаблонах...
Ну что же, ничего страшного, коллектив продолжает "расширять" и "углублять" пять этих направлений. То, что никогда и никаким образом эти исследования не сведутся в единое целое, исследователей не волнует. К сожалению, описанная ситуация не вымышлена. Такая схема работы действительно принята в современных академических исследованиях, посвященных ИИ.
Интеллект - слишком сложная система, чтобы определять его перечислением признаков. Как известно, кибернетика называет сложной системой такую, которая обнаруживает свойства, несводимые к сумме свойств составных частей. В этом смысле интеллект - сложнейшая система. Мы можем смоделировать любое его простое проявление, но это почти ничего не дает для создания полноценного разума.
Следующая мысль, к которой приходят расстроенные исследователи, если они все еще не отказались от своих попыток - "герменевтическое" определение. Вместо того, чтобы пытаться с помощью десятка слов выразить сложные понятия, связанные с человеческим разумом, они начинают как можно более подробно исследовать его проявления во всех известных им контекстах, перечислять все его связи с другими и описывать место в общей системе своих представлений. Приводить подобный текст я, пожалуй, не буду, так как такое определение обычно занимает объем, сопоставимый со всей этой статьей. Интересующиеся могут взглянуть, к примеру, сюда (это далеко не самый монструозный образец).
"Герменевтические" определения намного полезнее всех тех типов, о которых шла речь выше, но и у них есть серьезные недостатки. Прежде всего, они субъективны. Чаще всего в них смешиваются свойства того понятия, о котором ведется речь, его проявления, и наши ассоциации, возникающие по поводу вышеперечисленного. Поэтому только их автор может быть полностью уверен, что понимает его на сто процентов. "Герменевтические" определения сложны для понимания, так как требуют от понимающего владения всеми теми контекстами, о которых в них идет речь. Наконец (и это хуже всего), они вызывают инстинктивное недоверие "технарей", полагающих, что текст такой длины свидетельствует только о запутанности мыслей автора.
Полезные определения
Давайте сформулируем признаки ценного определения. Я нашел всего два действительно важных требования; может быть, вам удастся найти больше.
Прежде всего, это независимость от контекста. Определение и как инструмент коммуникаций, и как техническое задание, должно всеми пониматься одинаково (в идеале). Это значит, что, как ни жаль, в определении должно быть как можно меньше блеска, парадоксальности, "психологизма" и ссылок на "очевидность": именно "очевидные" и "психологически глубокие" вещи всеми понимаются неодинаково.
Определение может давать ответ на вопрос "есть интеллект или нет", а может отвечать на вопрос "увеличится ли интеллект системы после такого-то ее изменения". Давайте договоримся называть первые бинарными, в отличие от итеративных. Так вот, итеративные определения лучше бинарных, так как серьезно помогают нам в процессе разработки. Фактически, итеративное определение, не зависящее от контекста - это уже серьезная "подсказка", помогающая разработать процедуру исследования или разработки.
Итак, я попытался убедить вас, что самое полезное определение выглядит примерно так: "Мы исследуем интеллект как <круг рассматриваемых проблем>. Мы хотим добиться <описание целей>. Мы считаем, что особенно важно обратить внимание на <свойства интеллекта, особенно важные для достижения вышеизложенных целей>". Когда такое определение дано, отшлифовано, и его авторы с ним согласны, разговор окончен. Спорить уже не о чем, по крайней мере до тех пор, пока они не захотят придать своему определению общезначимость и заставить всех заниматься теми же проблемами, какими занимаются сами.
Слово капитана - закон, но лишь на его собственном корабле.
Но помните: как вы судно назовете, так оно и поплывет.
