СИТУАЦИЯ: УПОРЯДОЧНЕННОЕ ПОВЕДЕНИЕ БЕЗ ПРАВИЛ

К оглавлению

Глава 8. СИТУАЦИЯ: УПОРЯДОЧНЕННОЕ ПОВЕДЕНИЕ БЕЗ ПРАВИЛ

При рассмотрении вопросов, связанных с решением задач и автоматическим переводом, и при попытке выяснить вопрос о релевантности и значении тех или иных фактов (или слов) мы столкнулись с угрозой "регресса в бесконечность" - не имеющим конца сведением одних правил к другим. Аналогичная опасность существует и в обучении; в самом начале процесса обучения, еще до того момента, когда какие-либо правила могут быть сообщены или использованы, что-то обязательно уже должно быть известно. Мы убедились, что в каждом из этих случаев отсутствие фактов с фиксированными значениями ведет к тому, что этот процесс сведения можно остановить только обращением к контексту.

Теперь мы должны перейти непосредственно к рассмотрению понятия ситуации, или контекста. Это поможет нам дать более полное описание уникальной способности "быть своим в мире", присущей человеку, и той исключительной роли, которую играет этот самый мир в упорядоченном, но не предписываемом правилами поведении и благодаря которой только и становится возможным подобное поведение.

Для того чтобы отчетливо представить себе, о чем идет речь, имеет смысл напомнить в двух словах точку зрения наших оппонентов. В своем анализе эпистемологического допущения (гл. 5) мы показали, что к настоящему времени в философской традиции сложился взгляд, согласно которому все, что упорядочено, может быть формально описано в терминах правил. Своего наиболее впечатляющего и категорического выражения эта точка зрения достигла во взглядах специалистов в области "искусственного интеллекта", которые утверждают, что любая форма разумного поведения может быть формализована. Минский даже развил на основе этой догмы нелепую, но наглядно демонстрирующую его позицию теорию человеческой свободной воли. Он глубоко убежден, что любая упорядоченность подчиняется правилам. Поэтому, теоретизирует он, наше поведение либо абсолютно произвольно, либо регулярно и полностью определяется правилами. Говоря его собственными словами, "всякий раз, когда [в нашем поведении] наблюдается регулярность, представ-

222

ляющее его описание попадает в область детерминированных правил"*. В противном случае наше поведение совершенно произвольно и свободно. Вариант, при котором поведение может быть регулярно и в то же время не определяться правилами, ему даже не приходит в голову.

Мы попытаемся показать, что это не только возможно, но, более того, неизбежно, поскольку полная система правил, применение которых определено заранее для всех возможных случаев,есть нечто абсолютно немыслимое.

Обсуждая выше решение задач, мы ограничились рассмотрением задач формального рода, при решении которых испытуемый должен манипулировать однозначными символами в соответствии с некоторым набором правил; кроме того, были рассмотрены и другие бесконтекстные задачи, например тесты на сообразительность при отыскании аналогий. Однако если исследователи в области моделирования процессов познания рассчитывают построить психологическую теорию (и если создатели программ "искусственного интеллекта" хотят, чтобы их программы были признаны разумными), то они должны распространить механическую переработку информации на все области деятельности человека, включая те, в которых человек сталкивается (и успешно справляется) с задачами, обладающими открытой структурой и встречающимися в его повседневной жизни**.

* М.Minsky. Matter, Mind and Models.-In: M.Minsky (ed). Semantic information Processing, p. 431.

** Требовать здесь подлинной творческой активности - значило бы требовать слишком многого. М.Минский подчеркивает, что минимальным условием успешного машинного решения задач является наличие у вычислительной машины критерия приемлемости решения: "Прежде всего мы вынуждены заменить наши интуитивные соображения четко определенными требованиями технического характера... Минимум того, что можно требовать, -это существование некоторого способа узнавания удовлетворительного решения, когда оно нам встретится. Если мы этого делать не умеем, то задача должна быть заменена другой, которая в этом смысле определена лучше, и нам остается только надеяться, что решение этой другой - подменяющей исходную - задачи окажется хоть в чем-то полезным для решения первой" (М. Мinskу- Some Methods of Artificial Intelligence and Heuristic Programming.-ln: Proc. Symposium on the Mechanization of Intelligence. London, HMSO, p. 7). Однако в процессе творческой работы, как замечают А. Ньюэлл, Дж. Шоу и Г. Саймон, в цели субъекта входит, как составная часть, сама постановка задачи и выделение тех особенностей решения, которые делают его удовлетворительным (А. Newell, J. Shaw and H.Simon. The Processes of Creative Thinking. The RAND Corporation, P. 1320, September 16, 1958, p. 4). Например, у художника нет никакого критерия, с помощью которого он мог бы определить, что является решением стоящей перед ним художественной задачи. Он придумывает и саму задачу, и ее решение по ходу дела. Впоследствии его работа, возможно, послужит основанием для определения стандартных требований, обеспечивающих успех, но тем не менее сам успех первичен по отношению к канонам, вводимым позднее критиками. Если мы стремимся к созданию творческой программы, то мы не имеем права перекладывать на

223

Задачи с открытой структурой в отличие от настольных игр и тестов поднимают вопросы, связанные с трудностями трех типов: приходится определять, какие факты могут иметь отношение к рассматриваемой задаче, какие из них действительно имеют к ней отношение и какие из этих последних существенны, а какие нет. Начнем с того, что в любой данной ситуации далеко не все факты попадают в область потенциальной релевантности. Некоторые вообще не относятся к ситуации. Так, в контексте шахматной игры физический вес фигур не имеет никакого отношения к делу. О нем даже речь не заходит, не говоря уже о том, чтобы определять, существен он при выборе конкретного хода или нет. Вообще говоря, решить, имеют данные факты отношение к делу или не имеют, существенны они или не существенны, не так-то просто: это ведь не нагромождение кубиков, один из которых можно достать, не коснувшись остальных. Что считать существенным, зависит от того, что мы признали несущественным, и наоборот, и разделение это не может быть произведено независимо от какой-либо конкретной задачи или конкретной стадии какой-либо конкретной игры. Ну а поскольку релевантность фактов не закреплена за ними жестко, а определяется в зависимости от намерений человека, для каждого факта найдется такая ситуация, в которой он может иметь отношение к делу. Так, например, вес может иметь отношение к делу в ситуации, связанной с изготовлением шахмат (хотя в большинстве вопросов, принимаемых в расчет при изготовлении и продаже шахмат, он фактически не является релевантным, не говоря уже о его существенности). Такая зависимость релевантности от ситуации распространяется и на нерелевантность: в каждой конкретной ситуации существует неопределенное число фактов, которые могут иметь отношение к делу, и неопределенное число фактов, которые к нему отношения не имеют. Однако поскольку вычислительная машина не может "находиться в ситуации", она должна в каждый момент времени учитывать все факты, как, возможно, имеющие отношение к делу. В связи с этим перед исследователями в области ИИ возникает дилемма: либо они должны решить проблему хранения бесконечного числа фактов и доступа к этим фактам, либо они будут вынуждены исключить из сферы машинного анализа какие-то факты, возможно имеющее отношение к делу.

программиста работу по постановке задачи и определению правил для распознавания удовлетворительных решений. Однако невозможно даже представить себе, каким образом машина» программа могла бы творчески решить какую-то задачу или узнать, что она сделала что-нибудь в этом роде: ведь для этого программа должна содержать четкий критерий, определяющий, что есть задача и в какой момент ее можно считать решенной.





224

Но даже если бы для каждой конкретной задачи удалось свести соответствующий универсум к фактам, которые, возможно, являются релевантными (а пока это может делать только математик-программист, а не программа), остается еще проблема отыскания среди этих фактов тех, которые на самом деле релевантны, т. е. в действительности имеют отношение к делу. Даже в такой неформальной игре, как игра на скачках (которая гораздо более систематична, чем задачи с открытой структурой, встречающиеся в повседневной жизни), к числу возможно релевантных оказывается отнесенным неограниченное, неопределенно большое число фактов. Делая ставку на лошадь, мы обычно можем ограничиться рассмотрением фактов, касающихся возраста лошади, того, кто ее жокей, как она показала себя на предыдущих состязаниях и какие у нее конкуренты. Не исключено, что, анализируя только эти указываемые в программе скачек факты, машина сможет довольно неплохо играть, возможно даже лучше, чем средний игрок; но ведь всегда существуют другие факторы, которые в некоторых случаях могут оказаться решающими; например, может случиться так, что у лошади аллергия или что жокей только что повздорил с владельцем лошади. Нельзя сказать, что игрок-человек более всеведущ, чем машина; во всяком случае, если человек столкнется с такого рода фактом, то сумеет понять, что последний имеет отношение к делу. С точки зрения "искусственного интеллекта" такую способность человека можно было бы промоделировать, если бы удалось ввести в машину сведения из области ветеринарии, знание поведения людей непосредственно после неприятного разговора с начальством и так далее. Но здесь возникает проблема сортировки этого огромного запаса данных. На это нам отвечают, что вся информация будет надлежащим образом закодирована и снабжена метками в памяти машины, так что машине нужно будет только произвести просмотр по ключу "ставка на скачках", чтобы выбрать весь материал, который имеет отношение к данному вопросу. Однако может случиться, что какая-то информация не будет снабжена кодом, содержащим ссылку на это конкретное использование. Подробно разбирая этот пример, Ч.Тэйлор подчеркивает:

"Может оказаться, что на этого жокея сегодня не стоит ставить из-за того, что вчера умерла его мать. Однако, вводя в запоминающее устройство информацию о том, что человек непосредственно после смерти близких часто оказывается не на высоте своих лучших результатов, мы вряд ли можем рассчитывать на то, что при этом она будет снабжена ссылкой на скачки. Эта информация может иметь отношение к бесконечному числу контекстов.

Машина могла бы основывать свой выбор на ключевых понятиях, таких, как "лошадь", "жокей", "жокей Смит" и так далее, выбирая все относящиеся к ним факты. Но это также привело бы к абсурдно большому

225

перебору. Не исключено, что поиск, начавшийся с "жокея", "человека" и "лошади", привел бы нас ко всему, что имеет отношение к кентаврам. Единственный способ, с помощью которого машина могла бы концентрировать внимание на релевантных фактах, состоит в том, чтобы ввести в рассмотрение соответствующий обширный класс фактов (или какой-нибудь другой класс, выбранный на столь же широком основании) и затем проверить каждый его элемент с тем, чтобы убедиться, что он причинно связан с исходом скачек, оставляй для дальнейшего рассмотрения только релевантные факты и отбрасывая все остальные"*.



" Многое из того, что человек знает о ситуациях и их возможном развитии, представляет собой "знание дела", то есть знание, которое не может быть разложено до уровня набора конкретных указаний или утверждений о фактах; оно представляет собой просто общую способность генерировать соответствующие данной ситуации действия, а, следовательно, в случае необходимости и "указания", на которых они основываются. Обычно мы представляем себе эту неопределенную- не разложимую далее форму знания как нечто неразрывно связанное с тем "знанием дела", которое лежит в основе наших действий. Однако и в основе наших переживаний, наших "страстей", лежит знание того же рода. Точно так же, как я пользуюсь некоторыми общими представлениями, позволяющими мне совершать прогулки, работать в саду, водить машину, вести дело в

* М.Мinsky. Introduction.-In: M.Minsky. Semantic Information Processing, p. 27.

227

суде (если я юрист) и т. д., я пользуюсь общими представлениями, позволяющими мне чувствовать, что значит подвергаться угрозам, слышать хорошие новости, быть обманутым моей возлюбленной, оказаться предметом насмешек в присутствии посторонних.

Вернемся к человеку, играющему на скачках. У него есть общее представление о некоторых обычных для человека действиях и страстях. Он воспринимает скачки как рискованное мероприятие, для победы в котором жокею (и лошади) понадобится максимальное напряжение воли и сил. Но восприятие этого включает в себя умение представить в воображении или угадать то бесчисленное множество опасностей, из-за которых эта воля и эти усилии могут испортить дело или рухнуть под ударами судьбы. Сведения об этих опасностях не хранятся где-то в уме или в мозгу в виде отдельных фактов, они не "разложены по полочкам", просто они обладают способностью возникать из общего представления о ситуации. Конечно, у разных людей эти общие представления различны по широте и точности. Если играющий на скачках сам когда-нибудь ездил верхом, то его представление об этом роде занятий гораздо четче; он может гораздо острее чувствовать момент, когда все может пойти прахом. Но даже у городского гангстера есть некоторое общее представление о том, что значит бороться до последнего и какое напряжение требуется для того, чтобы прийти первым в заезде.

Однако сторонник "искусственного интеллекта" может возразить, что все это есть не что иное, как просто некоторый отличный от машинного вариант того же процесса занесения и извлечения информации из "запоминающего устройства". Даже если он признает, что для машины этот метод недоступен, не исключено, что он все же поставит вопрос, как при этом решается задача поиска информации. Как играющий на скачках определяет, каковы те случайные факторы, которые имеют отношение к делу? В ответ на это можно сказать следующее: если мы отдаем себе отчет в том, что наше представление о мире возникает в результате нашего воздействия на него в соответствии с присущими нам разнообразными способностями, а также в результате нашей подверженности его влиянию, зависящей от различной направленности наших интересов, - если мы это понимаем, то нам должно быть ясно, что вопрос о том, как данная направленность интересов или данное намерение определяет наш выбор релевантных признаков из того, что нас окружает, даже не возникает. Потому что быть некоторым образом заинтересованным в чём-то или иметь те или иные намерения значит остро чувствовать ситуацию, в которой мы находимся; осознавать ее в том или ином аспекте, в связи с той или иной структурой. Так, беспокойство за собственную жизнь, когда меня окружает шайка головорезов, есть не что иное, как ощущение угрозы, исходящее от чего-то тяжелого, спрятанного в кармане одного из них, чувство незащищенности моего лица от кулаков другого, который может в любой момент ударить меня, и т. д."

Итак, человеческий мир заранее структурирован в терминах намерений человека и направленности его интересов, причем таким образом, что именно направленность интересов определяет, что считать объектом или важной особенностью объекта. Здесь машина ничего не может сделать, потому что она в состоянии иметь дело только с уже определенными объектами; пытаясь построить модель такого рода поля направленности интересов, программист может только приписать уже определенным фактам другие определенные факты, называемые значениями, которые ничего, кроме усложнения процесса поиска информации, не дают.

228

В своей книге "Бытие и время" М.Хайдеггер приводит описание человеческого мира, в котором человек чувствует себя как дома. Описание дается в виде схемы, представляющей собой мозаику взаимосвязанных орудий или инструментов (Zuenge), каждый из которых предполагает все остальные, всю "мастерскую" в целом и в конце концов намерения и цели человека. Сигнал поворота, который дает водитель автомашины, служит примером "факта", получающего свое значение из прагматического контекста:

"Сигнал поворота - это элемент оборудования, который "всегда под рукой" у водителя, находящегося за рулем; да и не только у него: те, кто не сидит в его машине (и они-то в первую очередь), тоже пользуются им, либо уступая дорогу с нужной стороны, либо останавливаясь. Этот сигнал находится "под рукой" в пределах мира, окруженный всем контекстом, связанным с оборудованием средств передвижения и регулирования дорожного движения. Это - оборудование для указания, и как всякое оборудование образовано ссылками на него или его предназначением".



У Л. Витгенштейна тоже нередко можно встретить ссылки на человеческие формы жизни и направленность человеческих интересов, так же как и на носящие очень общий характер "факты естественной истории", которые мы считаем чем-то само собой разумеющимся, когда пользуемся языком или организуем свою повседневную деятельность. Между прочим, это факты совершенно особого рода: они, по-видимому, ускользнули бы от внимания программиста, вздумай тот запрограммировать весь багаж человеческих знаний. Как сказал Л.Витгенштейн, "те стороны вещей, которые наиболее важны для нас, мы не замечаем, из-за их обыденности и простоты. (Так, человек может не заметить какую-нибудь вещь, потому что она постоянно находится у него перед глазами.)"** .И, что еще более существенно, эти факты таковы, что их связь с другими фактами пронизывает все, что нам известно; поэтому, даже если бы нам удалось найти точное выражение для этих фактов, классифицировать их оказалось бы очень трудно, а может быть, и невозможно. Основная глубинная идея, направляющая весь этот анализ, заключается в следующем: ситуация с самого начала организована в терминах человеческих потребностей и склонностей, благодаря которым факты получают свое значение, превращаясь в то, что они есть, поэтому вопрос о хранении и классификации огромных списков бессмысленных, изолированных данных никогда не возникает.

* М Heidegger. Being and Time. New York, Harper and Row, 1962, p. 109.

** L. Wittgenstein. Philosophical Investigations, p. 50.

229

С.Тоудс* подробно описал структуру поля жизненного опыта, первичную по отношению к фактам и неявно определяющую их релевантность и значение. Он подчеркивает, что в наш жизненный опыт мир входит в виде полей, вложенных друг в друга. Части объектов или те или иные их аспекты переживаются не как изолированные факты, а вложенными последовательно в целый ряд контекстов. И предлог "в" имеет множество различных смыслов, ни один из которых не совпадает с тем простым физическим включением части в целое, которое М.Минский и Дж.Маккарти принимают за основное. Части объектов переживаются как находящиеся в объектах, которые из них состоят, объекты находятся в местах, которые они заполняют, место расположено в своем локальном окружении, которое само помещается в слое возможных ситуаций в человеческом мире. Следовательно, данные - это далеко не такая простая вещь; те или иные аспекты объектов не даны непосредственно в мире, а характеризуют объекты в различных его местах, в их локальном окружении, в пространстве и времени. Нам удается сосредоточивать внимание на значимом содержании поля нашего жизненного опыта, потому что это поле не нейтрально по отношению к нам, а, наоборот, структурировано в терминах наших интересов и нашей способности понимать, что в нем содержится. Всякий объект, с которым мы сталкиваемся, обязательно появится в этом поле и поэтому обязательно должен быть представлен в терминах доминирующей в данный момент направленности интересов, причем как объект, достижимый для некоторой формы деятельности, порождаемой этим полем. Поскольку данное поле создается в терминах нашей заинтересованности, нам могут встретиться только такие факты, которые могут иметь отношение к делу. Таким образом, релевантность уже заранее встроена в наше поведение. Возвращаясь к рассмотренному выше примеру, мы можем сказать, что скачкам соответствует гнездо контекстов, вложенных один в другой; в него входят деятельность, игры, спортивные состязания, соперничество. Представить себе, что * S. Тоdes. The Human Body as the Material Subject of the World, 1963 (диссертация, выполненная в Гарвардском университете) , См. также: Comparative Phenomenology of Perception and Imagination-Part I: Perception.-Journal of Existentialism, 1966, Работа Тоудса содержит также несколько интересных догадок, касающихся некоторых неотъемлемых особенностей тела и их роли. Он описывает отдельные свойства телесной организации человека, например тот факт, что тело с большей легкостью может двигаться вперед, чем назад, что оно порождает право-левую структуру поля, что оно должно противостоять действию гравитации, стремящейся нарушить его равновесие; он показывает, какую роль играет такого рода опыт в нашем знании предметного мира. 230 некоторая деятельность есть скачки,- значит организовать ее в терминах стремления к победе, выигрышу. Вернемся к описанию, данному Ч.Тэйлором: "Играющий на скачках заинтересован в том, чтобы верно определить победителя. Поскольку он человек, у него есть представления о том, какие обстоятельства обычно важны в борьбе за победу, так что его заинтересованность означает, что и лошадь, и жокей, и все остальное воспринимаются им под углом зрения возможности тех или иных промахов. Поэтому, заметив в колонке некрологов сообщение о том, что вчера умерла мать Смита (Смит - жокей, эмоциональная чувствительность которого игроку хорошо известна), он в виде исключения не ставит на Смита вопреки тем сведениям, которые помещены в бюллетене о скачках. Машина восприняла все сообщение о смерти матери Смита как некоторый факт, касающийся Смита, наряду со всеми остальными фактами, такими, например, как сообщение о том, что троюродный брат Смита назначен ответственным за отлов бродячих собак в таком-то городе, и т. д.; затем машине пришлось бы произвести проверку наиболее вероятных следствий из этого разнообразия фактов. Это необходимо для того, чтобы решить, какие из них следует учитывать при выборе ставки". Таким образом, направленность наших текущих интересов, а также накопленные знания и умения всегда заранее определяют, что будет оставлено без внимания, что останется в качестве потенциально релевантного во внешнем горизонте нашего жизненного опыта и что будет немедленно учтено как существенное. Л.Витгенштейн постоянно подчеркивает, что анализ ситуации, сводящий ее до уровня фактов и правил (уровня, с которого, по мнению "традиционных" философов и специалистов в области вычислительных систем, как раз и следует начинать), сам по себе осмыслен только в некотором контексте и с учетом тех или иных намерений. Таким образом, элементы этого анализа уже отражают цели и намерения, с ориентацией на которые они были выдвинуты. При попытке найти окончательные бесконтекстные и бесцелевые элементы, которые нам нужны, чтобы найти не разложимые далее кванты информации, вводимые в машину (кванты данных, которые должны иметь отношение абсолютно ко всем задачам, поскольку они не выбирались специально ни для одной из них), мы фактически стараемся очистить факты нашего жизненного опыта именно от той прагматической организации, благодаря которой только и возможно их гибкое использование, приводящее к решению повседневных задач, Правда, нельзя сказать, что в машинной модели всегда в действительности отсутствует цель; даже модель, построенная в терминах ввода и извлечения информации из запоминающего устройства, так или иначе обязательно отражает контекст; но анализ контекста в терминах фактов и правил оказывается в этом случае жестким и ограничивающим. Для того чтобы это понять, допустим на минуту, что все свойства объектов (что бы ни понималось под этими словами) можно выразить в точной форме в 231 виде дерева решений так, чтобы в каждой вершине отмечалось, что выполняется дли этого объекта: данный, не зависящий от ситуации предикат или его отрицание. Такого типа структура классификации была запрограммирована Э.Фейгенбаумом в его модели ЕРАМ*. Эта распознающая сеть могла бы в принципе служить точным, исчерпывающим, не зависящим от ситуации описанием объекта или даже ситуации - в той мере, в какой ситуацию можно считать объектом. Может, таким образом, показаться, что эта сеть обеспечивает эффективное накопление информации, обходя вопрос о различении "поля" и "объекта". Однако в подобном описании такого рода информационной структуры упущено нечто очень важное - выпала организация самой структуры, играющая решающую роль в процессе накопления информации. Накопление информации и доступ к ней в этом дереве происходят по-разному в зависимости от того порядка, в котором производится проверка признаков. Анализируя программу ЕРАМ, У. Винн пишет: "В программе ЕРАМ процесс классификации... слишком зависит от предшествующего пути и слишком плохо поддается адаптивной перестройке, так как распознающая сеть может наращиваться только с самого низа и не допускает реорганизации, начинающейся с верхнего уровня. Использованная в сети тестовая процедура, относительно которой в дальнейшем ходе процесса выясняется, что она не имеет существенного значения для распознавания данного множества стимулов, не может быть ни исключена, ни заменена новой процедурой, поскольку это затронуло бы вышележащую часть сети. Таким образом, будучи однажды построенной, распознающая сеть ЕРАМ с трудом поддается реорганизации, которая может потребоваться для повышения эффективности поиска информации. Любая процедура реорганизации тестовых проверок в этой структуре значительно затрудняет поиск многих элементов информации, хранящихся в памяти"**. Таким образом, все решает порядок проверки признаков. A ведь в реальном мире все предикаты имеют одинаковый приоритет. Только имеющееся у программиста чувство ситуации определяет порядок построения дерева решений. Характерные различия между "полем" и "объектами" отражаются в машинной модели * E.H.Feigenbaum. An Information Processing Theory of Verbal Learning, The RAND Corporation, P-1817, Santa Monica, 1959. "В моделях типа, ЕРАМ подобная структура классификации, называемая "распознающей сетью", служит первичной информационной структурой. Она возникает как результат обучения распознаванию и воплощает в себе в каждый момент времени все то умение распознавать, которое уже приобретено к данному моменту. Распознающая сеть программы ЕРАМ представляет собой структуру типа дерева, поскольку к любому данному узлу ведет сверху только одна ветвь: от самого верхнего узла, называемого корнем, к любому узлу дерева ведет только один путь. Объект-стимул, предъявляемый программе для распознавания, может быть отнесен к тому или иному классу путем последовательного прохода через узлы ветвления к какому-то из конечных узлов сети" (W.Wуnn. An Information Processing Model of Certain Aspects of Paired-Associate Zearing; p. 5)90. ** W,Wynn. Op.cit., p.9. 232 только в преломлении, определяемом субъективными суждениями программиста. Учитываемый программистом прагматический контекст, очевидно, может в свою очередь быть описан с помощью дерева решений, но теперь уже порядок проверки признаков будет отражать некоторый более широкий контекст. Информация, касающаяся этого более широкого контекста, на каждом уровне представлена общей структурой дерева, а не какой-нибудь конкретной его вершиной. На каждом уровне порядок тестовых проверок управляется прагматической интуицией программиста, в которой находит свое отражение рассматриваемая ситуация; но при этом факты фиксируются в одном определенном порядке, который выбирается в соответствии с некоторой конкретной целью, что неизбежно приводит к отсутствию гибкости, отмеченному Винном. Кроме того, если бы можно было во имя гибкости избавиться от какого бы то ни было прагматического упорядочения с тем, чтобы получающийся в результате бесструктурный список очищенных фактов можно было бы ввести в машину (это могут быть факты о размерах и формах различных объектов физического мира и даже факты о возможностях использования объектов, представляющие собой их поддающиеся выделению функции), тогда при каждом вычислении пришлось бы решать, вводить или исключать из рассмотрения каждый факт, причем в явном виде, и машина захлебнулась бы в этом бесконечном процессе. Это не значит, что человек никогда не выделяет изолированные данные и не пытается найти их значение, стараясь согласовать их с уже имеющейся в памяти информацией. Именно это и составляет основу умозаключений Шерлока Холмса и других детективов; в незнакомой ситуации каждый человек ведет себя подобным же образом. Но даже в этом случае должен существовать какой-то более общий контекст, в котором мы ощущаем себя как дома. Если бы у нас на Земле очутился марсианин, ему, наверное, пришлось бы действовать в абсолютно незнакомой обстановке; задача сортировки релевантного и нерелевантного, существенного и несущественного, которая бы перед ним возникла, оказалась бы для него столь же неразрешимой, как и для цифровой машины,- если, конечно, он не сумеет принять в расчет никаких человеческих устремлений. Все мы знаем также, что значит запоминать и использовать некоторые данные в соответствии с некоторыми правилами в каком-то узком контексте. Например, мы делаем это, когда играем в такие игры, как бридж, хотя даже в этом случае хороший игрок запоминает данные в терминах намерений и стратегий и довольно свободно обращается с эвристическими правилами. Иногда мы также "проигрываем" в своем воображении возможные альтернативы, для того чтобы предсказать, что 233 может произойти в реальной игре, которая нам предстоит. Однако, когда нам приходится ориентироваться в незнакомом, чуждом для нас мире, или когда мы следуем правилообразным указаниям типа эвристик для повышения ставки в бридже, или когда мы моделируем в нашем воображении те события, которые еще не произошли, мы осознаем свое поведение - осознаем именно потому, что большую часть времени мы ничего подобного не делаем; утверждение, что мы все же производим соответствующие операции, но только подсознательно, представляет собой либо эмпирическое положение, в пользу которого не существует никаких подтверждающих его данных, либо априорное утверждение, базирующееся на той самой предпосылке, справедливость которой мы здесь оспариваем. Когда мы чувствуем себя в мире как дома, осмысленные объекты, включенные в контексты связей, в гуще которых мы живем, не образуют ту модель мира, которая хранится в нашей памяти или в нашем мозгу, а являются самим этим миром. Это может показаться вполне правдоподобным при рассмотрении общедоступного мира обычных стремлений, регулировки уличного движения и т. д. "А как насчет моего жизненного опыта,- можем мы услышать вопрос,-мое личное множество фактов - оно-то, уж конечно, находится в моем мозгу". Так кажется только потому, что этот мир все еще смешивается в нашем сознании с той или иной разновидностью физического универсума. Мои личные планы и воспоминания запечатлены в окружающих меня вещах точно так же, как и обычные, включенные в общественные связи цели людей. Мои воспоминания хранятся в хорошо знакомом мне внешнем облике этого стула или в том ощущении опасности, которое связано с уличным перекрестком, где на меня однажды напали бандиты. Мои планы и страхи уже встроены в мое восприятие, в переживание мною одних объектов как привлекательных, а других - как отталкивающих. На те "данные", которые имеют отношение к социальным задачам и целям, встроенным в объекты и участки пространства, окружающие меня, накладываются мои личные "данные", и они имеют такое же право считаться частью моего мира, как и первые. В конце концов, личное чувство опасности или заинтересованности не более субъективно, чем общие для всех людей человеческие стремления. Теперь нам становится понятно, почему, даже если под нервной системой понимать физический объект (своего рода аналоговую машину), энергетический обмен которого с внешним миром должен в принципе допускать описание в виде функции вида "вход - выход", предположение о том, что на уровне переработки информации человек в процессе восприятия может быть представлен в виде аналоговой вычислительной машины, точная 234 "входо-выходная функция которой воспроизводима на машине дискретного действия, вызывает сомнения и часто приводит к путанице. Вообще говоря, модель "вход - выход" не имеет здесь никакого смысла. Нет оснований полагать, что человеческий мир может быть разложен на независимые элементы; если бы даже это было так, невозможно было бы определить, что собой представляют эти элементы -"вход" или "выход" человеческого разума. Если эта идея кажется малоприемлемой, то только потому, что такое феноменологическое объяснение не согласуется с нашим традиционным картезианством, согласно которому физический мир приходит в столкновение с нашим разумом, что и приводит к организации последним окружающего мира в соответствии с прошлым опытом и врожденными идеями или правилами. Но даже у Р.Декарта нет той путаницы, в которой, по всей видимости, увязли современные психологи и исследователи, работающие в области "искусственного интеллекта". Декарт утверждает, что воздействующий на нас мир есть мир чисто физических движений, в то время как мир "в нашем уме" есть мир объектов, орудий, и т. д.; неясно только, как связаны между собой эти два мира. А в представлениях таких теоретиков "искусственного интеллекта", как М, Минский, картина мира очерчена гораздо более грубо: мир орудий в ней даже не появляется. С их точки зрения, разум воспринимает отдельные детали повседневного мира - так сказать, мгновенные снимки столов, стульев и пр. Затем эти фрагменты вновь подвергаются сборке- уже в терминах некоторой модели, построенной из других, ранее накопленных разумом фактов. Внешний мир, представляющий собой массу изолированных фактов, интерпретируется в терминах других изолированных фактов, хранящихся внутри нас и уже организованных с помощью безупречно составленного каталога (такой внутренний массив фактов строится каким-то образом на основе предшествующего опыта общения с этим фрагментарным миром). В результате внутренняя модель обрастает дополнительными деталями. В этом описании нет места для хорошо знакомого нам мира орудий, организованного в терминах наших намерений. М. Минский пытается развить этот машинный вариант картезианства до уровня философской системы. Он начинает с того, что дает вполне правдоподобное описание того процесса, который на самом деле отражает роль воображения: "Если некоторое существо может ответить нз тот или иной вопрос, касающийся гипотетического эксперимента, не проводя этого эксперимента в действительности, то оно тем самым доказывает, что обладает некоторым знанием о мире. Ибо его (sic! - Х.Д.) ответ на данный вопрос обязательно должен иметь вид закодированного описания поведения (внутри этого существа) некоторой субмашины, или "модели", соответствующей за- 235 кодированного описанию той ситуации в мире, о которой идет речь в заданном вопросе"* Затем М.Минский без каких бы то ни было объяснений или оправданий распространяет это правдоподобное описание функции воображения на любого рода восприятие и познание: "На вопросы о тех или иных объектах рассматриваемого мира можно ответить некоторым утверждением о поведении соответствующих структур в той модели мира, которая существует у того, к кому обращен вопрос"**. Таким образом, М. Минский оказывается вынужденным ввести формализованную копию внешнего мира- как будто, помимо объектов, побуждающих нас действовать, нам еще нужна энциклопедия, в которой мы можем посмотреть, где мы находимся и что мы делаем. "Структура человеческой модели мира совершенно отчетливо распадается на две части: одна из них имеет отношение к вопросам механического, геометрического и физического характера, в то время как другая ассоциируется с такими вещами, как цели, значение, социальные проблемы и т. п."*** Если для всякого знания требуется модель, то, разумеется, человеку нужна и модель самого себя. "Когда человеку задают вопрос общего характера, касающийся его самого, он пытается дать общее описание имеющейся у него модели своей натуры"**** . И конечно, если мы хотим, чтобы это самоописание было полным, нужно включить в него описание нашей модели, отображающей модель самого себя и т. д. М.Минский считает, что этот бесконечный процесс построения моделей самого себя является источником философской неразберихи, царящей в вопросах, связанных с понятиями разума, тела, свободной воли и т. д. Он не осознает, что "регресс в бесконечность" возникает потому, что он настаивает на введении моделей, и что это осложнение доказывает философскую непоследовательность его предпосылки, согласно которой мы никогда ничего не знаем прямо, а только посредством моделей. И вообще, чем больше задумываешься над этой картиной, тем труднее становится ее понять. Кажется, существует два мира: один имеет внешнюю структуру данных, а другой - внутреннюю, причем ни один из них мы не ощущаем в нашем опыте и ни один из них не есть ни физический универсум, ни тот мир орудий, в котором мы действуем в нашем опыте. Для физического универсума или для нашего мира взаимосвязанных объектов, по-видимому, места не остается; все занято некоторой библиотекой, * M.Minsky. Matter, Mind and Models. -In: M.Minsky (ed.). Semantic Information Processing, p. 425-426. ** Ibid.,p. 426. *** Ibid., p. 427. **** Ibid., p. 428. 236 содержащей описания универсума и человеческого мира, который, согласно этой теории, не может, однако, существовать. Отказ от этой теории в связи с ее непоследовательностью отнюдь не равносилен отрицанию того, что наш физический организм постоянно бомбардируется физической энергией, результатом чего и является наше восприятие мира через опыт. Отказ этот просто сводится к тому, что физическое преобразование физической энергии представляет собой не психический процесс и происходит не в терминах сортировки и запоминания подогнанных под человека фактов о столах и стульях. Естественно думать, что человеческий мир является результатом этого энергетического процесса и для того, чтобы быть воспринятым и понятым, человеческий мир не нуждается еще в одном механическом повторении того же самого процесса. Смысл этого рассуждения настолько очевиден и в то же время настолько труднодоступен для человека, воспитанного в картезианском духе, что, может быть, нелишне еще раз повторить его основные моменты, на этот раз вернувшись к конкретному примеру рассматриваемого нами смешения понятий. Как мы уже видели, Ниссер начинает свою книгу "Психология познавательных процессов" с изложения того, что он называет "центральной проблемой познавательных способностей": "Безусловно, существует реальный мир, мир деревьев, людей, автомобилей и даже книг... Но у нас нет непосредственного доступа ни к этому миру, ни к какому-либо его свойству"*. Как мы уже отмечали в гл. 4, уже на этом этапе суть вопроса безнадежно искажается. Действительно, существует мир, к которому мы не имеем прямого доступа. Мы не воспринимаем непосредственно мир атомов и электромагнитных колебаний {даже если вообще имеет смысл говорить об их восприятии), но мир машин и книг - это как раз и есть тот мир, с которым мы как раз и имеем дело в непосредственном опыте. В гл. 4 мы видели, что в этом месте Ниссер обращается за поддержкой к необоснованной теории, согласно которой мы воспринимаем "моментальные снимки", или данные органов чувств. Его последующие объяснения только усугубляют возникающую путаницу: "Физически данная страница представляет собой совокупность крохотных выпуклостей типографской краски, расположенных определенным образом на имеющей больший коэффициент отражения поверхности бумаги"**. Однако, уж если рассматривать это с физической точки зрения, то мы имеем перед собой движущиеся атомы, а не бумагу и выпуклости типографской краски. Бумага и выпуклости суть * U.Nеisser. Cognitive Psychology, p. 3. **Ibid. 237 элементы человеческого мира. Однако У.Ниссер делает попытку взглянуть на них с некоторой особой точки зрения, как если бы он был дикарем, марсианином или вычислительной машиной, которые не знают, для чего эти элементы существуют. Однако нет оснований полагать, что столь странным образом выделенные объекты и есть то, что человек воспринимает непосредственно (хотя, быть может, некоторое приближение к этому мироощущению можно найти в чрезвычайно отвлеченном состоянии ума, которое находит на специалистов по психологии познавательных процессов, когда они берутся писать книгу). В обычном психическом состоянии мы воспринимаем только печатную страницу. Вводимый У.Ниссером промежуточный мир, который не совпадает ни с миром физики, ни с человеческим миром, оказывается искусственным построением. Ни один человек никогда не видел этого жутковатого мира и ни один физик не найдет для него места в своей научной системе. Однако, как только постулируется его существование, мы неизбежно приходим к тому, что нам нужно каким-то образом воссоздать человеческий мир из этих обрывков. "На человека обрушивается шквал ежесекундно меняющихся раздражителей, которые мало чем напоминают как реальный объект, послуживший причиной их возникновения, так и объект опыта, который на их основе будет построен воспринимающим субъектом"*. ** Там же, с. 68. *** Там же, с. 71. **** См. там же, с. 33. 249 И действительно, без парадигмы неясно даже, что вообще считать фактом, поскольку факты вырабатываются в терминах конкретной парадигмы для интерпретации жизненного опыта. Следовательно, нахождение новой парадигмы есть своего рода скачкообразный переход того типа, с которым мы встретились у Кьеркегора: "Именно потому, что это переход между несовместимыми структурами, переход между конкурирующими парадигмами не может быть осуществлен постепенно, шаг за шагом, посредством логики и нейтрального опыта. Подобно переключению гештальта, он должен произойти сразу (хотя не обязательно в один прием) или не произойти вообще"*. Вот тут-то и становится совершенно ясно, что если представлять себе решение задач как простое накопление данных в запоминающем устройстве с последующей их сортировкой для достижения какой-то определенной конечной цели, то нам никогда не удастся отвести должное место этим фундаментальным концептуальным изменениям, А ведь именно такие изменения определяют то понятийное пространство, в котором вообще только и может быть поставлена задача и в терминах которого все данные без исключения приобретают свою релевантность и свою значимость, что и дает возможность решить задачу. Преобладающая над остальными концептуальная схема молчаливо подсказывает направление развития, точно так же как перцептивное поле направляет наше восприятие объектов. Наконец, революции культур представляют собой еще более фундаментальное явление, чем исследованные Т. Куном концептуальные революции. Зарождающаяся греческая философия, например, определила, как мы видели, некоторые взгляды на природу человека и на понятие рационального, подвергавшиеся тем или иным изменениям во всех последующих концептуальных революциях. С возникновением христианства не менее радикально изменяются представления о любви - возникли такие представления, которые были немыслимы в Древней Греции; в героизме стали усматривать признаки гордыни, а идеалом добродетели стала святая жертвенность. Эти революции культур наглядно демонстрируют нам, что (как одним из первых заметил Б, Паскаль) резкой грани между природой и культурой не существует (ведь даже инстинктивные потребности могут быть преобразованы и разгаданы в терминах парадигм) и что, следовательно, не существует жестко фиксированной природы человека. Человеческая природа действительно весьма податлива: не исключено, что и сегодня она снова находится на пороге изменения. Если парадигма вычислительной машины станет настолько * Там же, с. 191. 250

преобладающей, что люди начнут воображать себя цифровыми устройствами - в том плане, в каком это мыслится исследователями, работающими в области "искусственного интеллекта", - то, поскольку (по тем причинам, которые мы не раз повторяли на этих страницах) машины не могут стать похожими на человека, человек постепенно начнет приобретать сходство с машиной. За прошедшие две тысячи лет такие представления, как уверенность в основополагающей роли объективности, убежденность в том, что действия человека управляются фиксированными оценками, ценностями, представления о возможности формализации навыков, умений и мастерства и вообще о том, что теория практической деятельности может быть построена, - все это постепенно завоевывало все большее признание в психологии и социальных науках. Среди людей уже встречаются такие, которые мыслят себя объектами, укладывающимися в рамки безошибочных вычислений лишенных тела машин, тех машин, для которых человеческие формы жизни представляют собой не изменчивую и гибкую предрациональную основу всего рационального, а нечто такое, что должно быть разложено в неосмысленный список фактов. Нам грозит не пришествие сверхразумных вычислительных машин, а появление неполноценно мыслящих человеческих существ. ЗАКЛЮЧЕНИЕ Предлагаемая альтернатива представлений о человеке и о его способности к разумному поведению основана на анализе того, каким образом совершенствование навыков и умений, которыми наделено человеческое тело - совершенствование, происходящее по мере деятельности человека, направленной на удовлетворение его потребностей, - приводит к возникновению человеческого мира. Этот мир и устанавливает те условия, при выполнении которых человек получает доступ к конкретным фактам, воспринимаемым в их бесконечном разнообразии и открытости, поскольку эти факты с самого начала организованы в терминах его потребностей. Такой подход дает возможность понять фундаментальнейшие различия между человеческим разумом и "машинным интеллектом". "Искусственный интеллект" вынужденно начинается на том уровне, где факты уже сформулированы. Абстрагируя эти факты* от ситуации, в которой они являются частью ее структуры, "искусственный интеллект" пытается использовать получающийся при этом результат для моделирования разумного поведения. Но эти факты, оторванные от контекста, представляют собой страшно громоздкую массу нейтральных данных, с которой специалистам в области "искусственного интеллекта" до сих пор не удалось ничего сделать. Все существующие программы "по мере роста массивов информации безнадежно увязают в массе фактов"**. На сегодняшний день не существует никакого метода обработки данных, кроме накопления фактов, и, поскольку главные философские предпосылки, лежащие в основе разработок, ведущихся в сфере "искусственного интеллекта", оказались под * Факты типа "у человека две руки", а не типа "контакт К замкнут". Различие между этими фактами аналогично различию между фактом, относящимся к содержанию какого-нибудь рисунка, и фактом, касающимся одной из множества составляющих картину точек. Совершенно ясно, что под вопрос поставлена реальность мира фактов первого типа, поскольку М. Минский говорит, что нам приходится иметь дело с миллионами фактов, а не с миллионами квантов информации. ** М.Мinsky. Introduction.-in: M.Minsky (ed.). Semantic Information Processing, pr 18. 252 сомнением, потеряло убедительность предположение, что методы хранения и поиска дискретных данных рано или поздно достигнут достаточного уровня развития - достаточного для того, чтобы справиться с тем объемом данных, который возникает при попытке выразить в точной форме наше знание мира. Поскольку масса этих данных о мире может оказаться бесконечной, а формализация нашей формы жизни невозможной, есть всe основания полагать, что дискретные методы хранения информации никогда не станут адекватными поставленной цели. Более того, если данное нами феноменологическое описание человеческого интеллекта соответствует истине, то существуют принципиальные соображения, по которым искусственный интеллект вообще не может быть полностью реализован. Помимо технологических трудностей, возникающих в связи с хранением огромного количества нейтральных данных, возникает проблема, связанная с тем, что если довести анализ до конца, то у нас совсем не останется фиксированных фактов - будь их перед этим хоть миллион, хоть десять миллионов, как того хочется М.Минскому. При концептуальных революциях изменяются даже сами факты, поскольку они создаются человеком. И наконец, если найдется такой философ или исследователь в области "искусственного интеллекта", который предложит в ответ на это возражение формализовать сами человеческие потребности, порождающие этот все время меняющийся контекст, то он столкнется с целым потоком тех же самых трудностей. Неопределенные потребности и цели, так же как переживание чувства вознагражденности, направляющее их относительное уточнение, не могут быть заложены в дискретную машину, для которой мыслима только одна форма существования - последовательность детерминированных состояний. И пожалуй, именно потому, что эти потребности ни у индивида, ни у человечества в целом никогда не становятся полностью определенными, они сохраняют способность к уточнению, а природа человека получает возможность повторных изменений в ходе революций личностей и культур 253 ЗАКЛЮЧЕНИЕ ВОЗМОЖНОСТИ И ПРЕДЕЛЫ ИСКУССТВЕННОГО РАЗУМА Глава 10 ПРЕДЕЛЫ "ИСКУССТВЕННОГО ИНТЕЛЛЕКТА" Теперь мы подготовлены к тому, чтобы объединить в одно целое все многообразие философских соображений, касающихся ограниченных возможностей "искусственного интеллекта". Введенное нами разделение области "искусственного интеллекта" в широком смысле на две части - на моделирование процессов познания и "искусственный интеллект" в собственном смысле (ИИ) - позволило нам рассмотреть два отдельных, но взаимосвязанных вопроса: 1) Действительно ли человек "в процессе переработки информации" следует некоторым формальным правилам, подобно цифровой машине? и 2) Может ли поведение человека, независимо от того, как оно возникает, быть описано средствами какого-либо формализма, допускающего реализацию с помощью цифрового устройства? Обсуждая эти вопросы, мы пришли к выводу, что, во-первых, данные описательного или феноменологического характера - если подходить к ним с позиций, свободных от предрассудков традиционной философии, - указывают на то, что в разумном поведении любого рода принимают участие непрограммируемые способности человека. Более того, мы показали, что все эмпирические соображения, приводимые в защиту противоположного взгляда, с методологической точки зрения не выдерживают критики. Таким образом, в той мере, в какой вопрос о возможности создания искусственного интеллекта представляет собой вопрос эмпирический, можно, по-видимому, утверждать, что появление в процессе дальнейшей работы сколько-нибудь значительных результатов в области моделирования процессов познания и "искусственного интеллекта" (в собственном смысле) в высшей степени маловероятно. Таким образом, если исследователи, работающие в области "искусственного интеллекта" в широком смысле, несмотря на все трудности, все-таки считают свой оптимизм оправданным, то бремя доказательства целиком ложится на их плечи; они должны доказать, что вопреки этим эмпирическим трудностям должен существовать некоторый путь, ведущий к построению такого интеллекта. Однако в данном случае априорная сторона вопроса о 257 достижимости искусственного интеллекта еще более уязвима, чем эмпирическая. Те самые доводы, которые, по предположению, должны свидетельствовать в пользу того, что формализация, несомненно, возможна, оказываются либо непоследовательными, либо противоречащими сами себе и оборачиваются доказательством того, что без поддержки определенных в высшей степени малоправдоподобных эмпирических предпосылок провести формализацию невозможно. Таким образом, априорные доводы в пользу формализации оказываются доводами против - доводами, говорящими о невозможности "моделирования процесса познания" и "искусственного интеллекта". Рассмотрим эти доводы более подробно. Обсуждая моделирование процесса познания, мы обнаружили, что в таких играх, как шахматы, в таких процессах, как решение сложных задач, распознавание подобия и фамильного сходства, в метафорическом использовании языковых средств, так же как в тех случаях употребления языка, которые нам кажутся странными или грамматически неправильными, - во всех этих случаях как сам человек, так и анализирующий его действия наблюдатель согласны с тем, что, по всей видимости, соответствующее поведение не подчиняется правилам. Наоборот, создается впечатление, что в таком поведении человек пользуется глобально воспринимаемой им организацией, прагматическим различением существенных и несущественных операций, обращением к парадигме, а при передаче смысла некоторого высказывания другому лицу - обращением к разделяемому обоими участниками чувству ситуации. Разумеется, вся эта упорядоченная, но, очевидно, не правило-образная деятельность могла бы, тем не менее, оказаться результатом подсознательного следования правилам. Однако если попытаться в качестве некоторого философского предположения развить гипотезу, согласно которой всякое поведение обязательно следует понимать как возникающее в результате применения некоторого набора правил, то мы сталкиваемся с не имеющим конца процессом обращения к правилам, к правилам применения правил и т. п.- с регрессом в бесконечность. Этот процесс не может завершиться обращением к обычным фактам, потому что, согласно исходному утверждению, сами факты всегда узнаются и интерпретируются в свою очередь по некоторым правилам. Чтобы избавиться от трудностей, связанных с этим "регрессом в бесконечность", можно ввести предположение, что изначальные данные представляют собой входные потоки энергии, которые всегда допускают выражение в численном виде и обработку в соответствии с некоторым правилом. По-видимому, к этому сводится точка зрения Дж.Фодора. Утверждение, согласно которому поступающая на входы энергия преобразуется, проходя 258 последовательность операций, представляющую собой нечто вроде программы для машины дискретного действия, нельзя назвать невразумительным, однако - по признанию самого Фодора - для этого требуется невероятно сложный формализм, который пока что никому не удалось ни обнаружить, ни изобрести. Пока у нас нет никаких эмпирических или априорных доводов в пользу того, что такой формализм для описания преобразования физических входных сигналов существует (или должен существовать); эмпирические данные свидетельствуют о том, что мозг функционирует подобно аналоговой вычислительной машине. Учитывая все это, приходится заключить, что нет никаких оснований полагать (но есть все основания сомневаться), будто обработка физических входных сигналов в мозгу человека может быть представлена в виде программы для цифровой вычислительной машины. Если мы хотим избежать "регресса в бесконечность", проистекающего из незавершимости процесса введения правил, правил о правилах, правил о правилах правил и т. д., нам остается единственный выход - изменить исходный тезис - и заявить, что на самом низшем уровне правила применяются автоматически, без использования каких-либо инструкций. Но это ведет к затруднениям двоякого рода. Во-первых, раз уж произведено описанное выше ослабление априорного тезиса (гласящего, что всякое поведение обязательно подчиняется тем или иным инструкциям), мы можем с тем же успехом утверждать, что и на любом уровне поведение, требующее умений, навыков и мастерства, не должно основываться на подсознательном следовании инструкциям, так что надлежит вообще отбросить аргумент, согласно которому - в противоречие с феноменологическими данными - испытуемый обязательно следует правилам. Во-вторых, если, тем не менее, кто-нибудь возьмется настаивать на том, что обязательно существует изначальный уровень неинтерпретируемых фиксированных характеристик и что эти фиксированные характеристики не являются ни физическими входными сигналами, ни обычными объектами, то ничего не остается, кроме как предположить, что они должны представлять собой лишенные содержания "кванты" информации о человеческом мире. Так мы приходим к понятию "информации, содержащейся в раздражителе", чувственным или мгновенным снимкам, введенным У.Ниссером. Однако априорное понятие информации, несомой стимулом, оказывается совершенно непонятным. Все, что мы имеем с эмпирической точки зрения, - это, с одной стороны, непрерывные физические входные сигналы, поступающие в организм, а с другой - мир обычных объектов, данный воспринимающему субъекту. Ни одному специалисту по психологии процессов познания не удалось дать определение какого-нибудь третьего вида входных сигналов, лежащего где-то между этими двумя и дающего возможность 259 выделить те изначальные "биты" информации, к которым должны примениться правила. Все предложенные до сих пор определения на поверку оказываются несуразной смесью физических описаний, производимых в терминах энергии, и феноменологических описаний, которые даются в терминах непосредственных чувственных данных, для которых невозможно дать строгое определение. Таким образом, с психологической точки зрения, утверждение, согласно которому разумное поведение может, вопреки очевидным свидетельствам противного, осуществляться посредством применения тех или иных фиксированных формальных правил (как это имеет место в цифровой вычислительной машине), "не работает", поскольку при этом возникает бесконечный процесс введения правил применения правил. Ни обращение к понятию физического входного сигнала (применение которого оказывается невозможным), ни использование понятия входного стимула (для которого не удается найти подходящего определения) не могут устранить этот "регресс в бесконечность". Несмотря на то, что ни психологин, ни последние достижения в области вычислительных систем не дают достаточных эмпирических оснований надеяться на успех, исследователи, работающие над проблемой "искусственного интеллекта",- так же как специалисты, разрабатывающие модели процессов познания,- уверены в том, что формализация разумного поведения возможна. Четкой формулировки их доводов обнаружить не удается; по всей видимости, они основываются на онтологическом допущении, согласно которому мир может быть разложен на независимые друг от друга логические элементы, и на эпистемологическом допущении, согласно которому наше понимание мира может быть затем восстановлено путем комбинирования этих элементов в соответствии с некоторыми эвристическими правилами. Первое допущение не грозит никакими затруднениями. Поскольку исследователь в области "искусственного интеллекта", в отличие от психолога, изучающего познавательные процессы, не обязан непременно ориентироваться на человеческие свойства, он может легко выделить изначальные элементы, к которым должны применяться правила, - это дискретное представление звуковых волн и элементы мозаики телевизионного экрана. Их можно распознать без дальнейших обращений к правилам. Однако использование второго допущения (гласящего, что эти элементы могут быть затем воссоединены), выдвинутое как априорно необходимое, влечет за собой представление о правилах все более и более высокого порядка - процессе, обратном тому "регрессу в бесконечность", с которым мы сталкиваемся при моделировании процессов познания. 260 Поскольку каждый из упомянутых логических элементов предполагается независящим от всех остальных, ему нельзя приписать никакого значения, до тех пор пока он не будет соотнесен с остальными элементами. Но после того, как эти элементы изъяты из контекста и очищены от всякого значения, совсем не так просто вернуть им его. Значение, которое должно быть приписано каждому логическому элементу, зависит от других логических элементов, и для того, чтобы можно было сказать, что те или иные входные сигналы формируют сначала образы, а в конце концов - объекты и осмысленные высказывания каждый из этих сигналов должен быть соотнесен по некоторым правилам с другими сигналами.. Но ведь в соответствии с различными правилами элементы могут иметь различную интерпретацию, выбор же правила определяется контекстом. А вычислительная машина может распознавать контексты только с помощью некоторых правил. Следует также заметить, что этот навязываемый вычислительной машиной способ анализа противоречит нашему опыту. Феноменологическое описание нашего опыта, связанного с пребыванием в ситуациях, наводит на мысль, что мы всегда находимся в какой-либо ситуации или контексте, который мы переносим из ближайшего прошлого и подгоняем под настоящее в терминах тех событий, которые в свете минувшей ситуации представляются нам значительными. Каждый раз мы сталкиваемся не с бессмысленными элементами, в терминах которых мы должны идентифи цировать контексты, а только с фактами, которые уже имеют интерпретацию и в свою очередь определяют ситуацию, в которой мы находимся. Жизненный опыт человека можно понять только в том случае, когда он организован в терминах ситуаций, в которых уже заданы релевантности и значения. Такого рода необходимость в первичной организации в случае "искусственного интеллекта" принимает вид задачи разработки иерархии контекстов - иерархии, в которой более широкий контекст (контекст более высокого уровня) используется для определения релевантности и значения элементов более узких контекстов (или контекстов более низкого уровня). Рассмотрим пример. Для того чтобы установить релевантность объекта "нож" и определить однозначный смысл объектов и высказываний, имеющих к нему отношение, необходимо знать, в каком из контекстов мы находимся - бытовом, медицинском или относящемся к столкновениям между людьми (это лишь некоторые примеры). Только в таких контекстах появление "ножа" становится релевантным и получает значение. После того как контекст установлен, он может быть использован для интерпретации объектов или высказываний с тем, чтобы определить подконтекст более низкого уровня. Например, если мы встретим 261 "нож" в бытовом контексте, это приведет, как правило, к рассмотрению подконтекста питания, в котором уточнение смысла объектов и высказываний будет ориентировано на "прием пищи", а не на "нападение". Но ведь если каждый контекст может быть опознан только в терминах признаков, выбранных по их релевантности, и интерпретирован только в терминах более широкого контекста, то перед исследователем в области "искусственного интеллекта" возникает задача преодоления явления неограниченного сведения одних контекстов к другим. Как и в случае моделирования процесса познания, можно было бы попытаться найти эмпирический выход из этого "регресса в бесконечность". Точно так же, как в упомянутом моделировании изначальные неинтерпретируемые элементы могут быть дискретными представлениями физических входных сигналов, здесь, в "искусственном интеллекте" за изначальный контекст или множество контекстов можно было бы принять контексты, выразимые в терминах некоторых образов или объектов, которые имеют фиксированные значения и могут быть использованы для переключения программы на соответствующие подконтексты объектов или высказываний. Но, как и в "моделировании процесса познания", имеющийся материал не свидетельствует в пользу этой эмпирической возможности. По всей видимости, не существует таких слов или объектов, которые имеют отношение ко всем ситуациям и всегда имеют одно и то же значение, подобно тому, как красное пятнышко на самке колюшки всегда означает для самца начало брачного сезона. Остается одно-единственное возможное "решение". Программист может сам задать вычислительной машине иерархию контекстов и общие правила их организации. При этом он будет руководствоваться присущим ему глобальным чутьем, которое подсказывает ему, что вообще релевантно и значимо для человека. Однако любой факт может стать важным в некоторых ситуациях. Для осуществления такой формализации, при которой вычислительная машина могла бы проявить человеческую гибкость и приспособляемость, программисту пришлось бы умудриться выразить в явной форме все то, что он обычно принимает за само собой разумеющееся для любого человека. Однако как только он попытается подойти к ситуации, в которой он находится, с позиции машины, как бы смотрящей на нее со стороны, он столкнется с неограниченно большим количеством неосмысленных фактов, релевантность и значение которых можно определить только в более широком контексте. Таким образом, оказывается, что логико-атомистическая онтология не может служить гарантией истинности логико-атоми­стической эпистемологии. Даже если бы удалось с помощью техники сканирования, использующей логически независимые 262 элементы, загнать весь мир в вычислительную машину, это еще не означало бы a priori, что его можно снова воссоединить в единое целое Фактически сами попытки обосновать a priori тезис, что, поскольку мир может быть разложен на элементы, его можно интерпретировать с помощью формальных правил, приводят как раз к обратному заключению. Изложенные выше соображения подтверждаются общей теорией человеческого жизненного опыта как "бытия в ситуации", в котором факты всегда имеют интерпретацию. В этой теории предполагается, что каждая первичная ситуация, в которой оказывается человек, зависит от его намерений, представляющих в свою очередь функцию его тела и его потребностей; предполагается также, что эти потребности не фиксированы раз и навсегда, а интерпретируются и становятся определенными в процессе принятия той или иной культуры, проходя тем самым через изменения интерпретации человеком самого себя. Таким образом, из данного анализа становится понятным, почему не существует ни фактов с встроенными в них заранее значениями, ни каких-либо фиксированных человеческих форм жизни, которые можно было бы надеяться когда-нибудь запрограммировать. Из сказанного отнюдь не следует, будто маленький ребенок не начинает с определенных фиксированных ответных реакций - на самом деле, если бы этого не происходило, то обучение никогда не могло бы начаться, - просто эти ответные реакции очень скоро становятся ребенку недостаточными и отбрасываются им по мере его развития. Таким образом, у взрослого человека не остается фиксированных ответных реакций, которые не находились бы под контролем значимости ситуации. Но тогда возникает вопрос: почему не запрограммировать вычислительную машину так, чтобы она вела себя сначала как маленький ребенок, а затем направлять ее по пути к разуму? Этот вопрос уводит нас за пределы сегодняшнего уровня проникновения в тайны психологии и сегодняшних возможностей вычислительной техники. При написании этой книги я ставил перед собой только одну задачу: показать, что существующие в настоящее время попытки заложить в машину полностью сформировавшийся интеллект (как его представляли себе афинские мыслители) наталкиваются на эмпирические трудности и фундаментальные понятийные противоречия. Может ли машина-ребенок начать с независящих от ситуации ответных реакций и постепенно обучиться - это зависит от того, насколько существенна роль, которую играют в обучении нежестко определенные потребности и способность реагировать на глобальный контекст. Например, судя по результатам, полученным Ж.Пиаже в его исследованиях процесса обучения, можно сказать, что в явлениях, связанных с 263 обучением, используются те же формы "переработки информации", что и в разумном поведении взрослого человека, и что развитие интеллекта идет по пути "концептуальных революций"95. Это не должно нас удивлять. Вычислительные машины могут иметь дело только с фактами, а ведь человек- источник фактов - представляет собой не факт и не множество фактов, а существо, создающее в процессе своей жизни в мире и самого себя, и сам мир фактов. Этот человеческий мир со всеми его различными объектами организован людьми, которые пользуются особенностями и возможностями своего тела для того, чтобы удовлетворять свои потребности. Нет никаких оснований полагать, что к миру, организованному в терминах этих фундаментальных человеческих способностей, можно подойти с какими бы то ни было другими мерками. Будущее "искусственного интеллекта” Проанализированные нами трудности сами по себе не дают возможности судить о будущем "искусственного интеллекта". Даже если любая попытка программирования изолированных аспектов разумной деятельности всегда безоговорочно требует программирования всего образа жизни зрелого человека и даже если в принципе невозможно создать цифровую машину на "афинский" лад (то есть если зрелый человеческий интеллект организован в терминах некоторого поля, которое в свою очередь определяется объектами, входящими в него, и которое подвержено радикальным изменениям),- даже в этом случае остается открытым вопрос, до какой степени исследователям, работающим в области "искусственного интеллекта", с помощью используемых ими фрагментарных методов удастся приблизиться к разумному поведению человека. Для того чтобы наш анализ возможностей и ограничений "искусственного разума" был полным, мы должны теперь указать в общих чертах практические следствия, вытекающие из изложенных выше доводов. Однако прежде чем перейти к практическим выводам, нам будет удобнее подразделить разумное поведение на четыре сферы. Наша задача затем будет состоять в определении того, в какой мере разумное поведение в каждой из этих сфер предполагает использование тех четырех форм "переработки информации" человеком, которые мы выделили в ч. I данной книги. Это даст нам возможность объяснить те успехи, которые были достигнуты до настоящего времени, и предсказать, в каких пределах мы вправе рассчитывать на прогресс в дальнейшем. Можно выделить четыре типа разумного поведения (табл. 1). Как мы видели, первые два типа поддаются моделированию на 264 Таблица 1 Классификация разумной деятельности I. Ассоциативная II. Простая формальная III. Сложная формальная IV.Неформальная Характеристики деятельности Независимость от смысла и ситуации Смысл не зависит от ситуации и полностью представим в точной форме В принципе то же самое, что и в случае II, на практике - зависимость от ситуации во внутреннем контексте; зависимость от внешней ситуации отсутствует. Обучение с помощью правил, а также практики Зависимость от смысла и ситуации, непредставимых в явном виде Обучение с помощью непосредственно понимаемых примеров Игры на вспоминание, например "игра в города" (ассоциации) Лабиринтные задачи (метод Проб и Ошибок) Пословный перевод (использование машинного словаря) Реакция на жесткий стимул (врожденные механизмы Разрешимые и квазиразрешимые игры, например "ним" или "крестики и нолики" (алгоритмы поиска или просчитывание) Комбинаторные задачи (неэвристический анализ в терминах "средств и целей") Доказательство теорем с помощью машинно-автоматических процедур (алгоритмы поиска доказательств) Распознавание простых четких образов, например чтение пе- Сложные комбинаторное задачи (планирование, анализ путей в лабиринте) Доказательство теорем, для которых не существует машинно-автоматических процедур (интуиция и про-считывание) Распознавание сложных образов при наличии шума (поиск Задачи с открытой структурой (интуиция, инсайт) Перевод с одного естественного языка на другой (понимание языковых выражений в контексте их использования в языке) Распознавание видоизмененных и искаженных образов родовое 265 Продолжение таблицы I. Ассоциативная II. Простая формальная III. Сложная формальная IV. Неформальная и классический условный рефлекс) чатного текста закономерностей) ( поиск признаков, конъюнкция которых определяет принадлежность к соответствующему классу) разпознавание или использование парадигм) Типы программ Дерево решений. Поиск по спискам. Сравнение с образцом Алгоритмы Эвристики, служащие для сокращения перебора Никаких цифровой машине, в то время как третий тип лишь частично программируется, четвертый же абсолютно не программируем. В сфере I лучше всего себя чувствуют психологи, занимающиеся изучением поведения, допускающего описание по схеме "стимул - реакция". К этой сфере относятся все виды элементарной ассоциативной деятельности, в которой смысл и контекст не играют никакой роли. Из всех видов поведения, запрограммированных на сегодняшний день, заучивание бессмысленных слогов представляет собой наиболее характерный пример поведения этого типа (хотя с тем же успехом здесь можно было бы привести любую форму условного рефлекса). Кроме того, к этой сфере принадлежат такие игры, как "игра в города" (она сводится к тому, что игрок называет город, начинающийся с той буквы, на которую оканчивается название города, предложенного предыдущим игроком). В области автоматического перевода этому классу соответствует уровень машинного словаря; в решении задач - программы чистого поиска методом проб и ошибок; в распознавании образов - сравнение входного образа с фиксированными стандартами. - , Сфера II соответствует esprit de geometrieque Б. Паскаля96;это излюбленная область "искусственного интеллекта". Она объемлет с 266 В сфере И мы имеем дело не с естественным, а формальным языком* наилучшим примером здесь служат логические исчисления. Игры описываются точными правилами и допускают полное просчитывание, как в случае игры "ним" или "крестики и нолики". Распознавание на этом уровне происходит путем установления соответствия между опознаваемым образом и четко определенными типами образов, которые задаются с помощью списка признаков, характеризующих принадлежащие к рассматриваемому классу отдельные образы. Решение задач сводится к сокращению расстояния между текущим состоянием и целью с помощью последовательного применения формальных правил- формальные системы, входящие в эту область, достаточно просты и ими можно пользоваться с помощью таких алгоритмов, которые совершенно не требуют поисковых процедур (такова, например, логическая программа Хао Вана). Эвристики здесь не только не нужны, они положительно мешают, как это легко видеть из явного превосходства алгоритмической логической программы Хао Вана над эвристической логической программой А.Ньюэлла, Дж.Шоу и Г.Саймона. Только в этой сфере"искусственный интеллект" добился безоговорочных успехов. Сфера III - область сложных формальных систем - труднее других поддается определению; именно с ней связано большинство недоразумений и трудностей, о которых говорилось в этой книге. В нее входят те формы поведения, которые в принципе воспроизводимы машиной, но на практике оказываются для нее недоступны; ибо по мере роста числа элементов число необходимых преобразований растет экспоненциально. Мы будем называть "сложными формальными системами" такие системы, к которым практически нельзя применить алгоритмы исчерпывающего перебора (шахматы и др.) и которые поэтому требуют использования эвристических программ*. * Довольно трудно подвергнуть классификации и оценке всю совокупность разнообразных одноцелевых программ, разработанных для проектирования двигателей, наладки конвейерных линий, сборки узлов машин и т. д. Эти программы имеют некоторое отношение к исследованиям в области "искусственного интеллекта", однако считать их успешно выполняющими свое назначение можно только в том случае, если: а) проведено сравнение их эффективности с работой человека-профессионала (как это имеет место в случае шахматных и шашечных программ) и б) задачи, для решения которых предназначены эти программы, в достаточной степени формализованы (если это возможно), так что соответствующие программы можно сравнить с неэвристическими программами, составленными для решения тех же задач, (Во всех случаях, когда такое сравнение удалось произвести - игра в шашки, задачи из области логики, распознавание образов, игра в шахматы,- неэвристические программы оказывались либо эквивалентными по эффективности, либо более эффективными, чем эвристические.) Следует заметить, что программы, моделирующие банковские операции или что-то в этом роде, не имеют никакого отношения ни к моделированию 267 Сфера IV может быть названа областью неформального поведения. Сюда входят все те случаи повседневной деятельности в нашем человеческом мире, которые регулярны, но не подчиняются правилам. Самым ярким примером такой управляемой неточности является то, как мы справляемся с многозначностью естественного языка. В этот класс входят также игры, правила которых не определены, например отгадывание загадок. Распознавание образов в этом классе основывается на узнавании родовых, типических черт в рамках некоторой парадигмы. Задачи на этом уровне являются задачами с открытой структурой, для решения которых необходимо отыскание релевантных признаков и интуитивное постижение существенности тех или иных операций еще до того, как начинается процесс решения*. В этом случае методика обучения основывается обычно на обобщении примеров, а само обучение проводится на интуитивном уровне, без обращения к правилам. Можно было бы принять терминологию Б. Паскаля и назвать сферу IV обителью esprit de fitesse. Поскольку в этой сфере во избежание необходимости запоминания бесконечно большого числа фактов требуется учет глобального чувства ситуации, использование дискретных методов для непосредственного воспроизведения поведения взрослого человека оказывается невозможным. Заметим, что сведение всех четырех сфер в единую таблицу уже само по себе может породить неверный взгляд на эту сферу, поскольку может вызвать ощущение, будто она отличается от сферы III просто добавлением некоторого более высокого процессов познания, ни к "искусственному интеллекту". Они просто свидетельствуют о том, что некоторые формы человеческой деятельности столь просты и стереотипны, что их можно формализовать. Несомненно, при формулировании правил, которыми должны руководствоваться вкладчики, составляя перечень ценных бумаг, дело не обходится без интеллекта; однако формализация этих правил говорит лишь о том, что они представимы в точной и недвусмысленной форме, и никак не помогает проникнуть в процессы интеллекта, связанные с их определением или применением. Стоящие перед искусственным интеллектом проблемы относятся не к такого рода ex post facto формализациям конкретных задач - они лежат в сфере II, для которой формализация сама по себе достаточно сложна и поэтому требует элегантных методов для ее проведения, -а к сфере III, где формальные системы настолько сложны, что для них не существует разрешающих процедур и приходится прибегать к помощи эвристик, и к сфере IV, характеризующейся гибким поведением, которое не может быть строго формализовано, *Типы деятельности, попадающие в сферу IV, можно представить себе в виде тех самых "вех", которых требовал П.Армер: "Для этой цели нам нужна четко сформулированная задача, представляющая в настоящий момент исключительно объект деятельности человека (и поэтому она должна быть, несомненно, из области мышления), но такая, чтобы мы могли надеяться на ее решение в будущем с помощью машины" (П.Армер. О возможностях кибернетических систем. - В кн.: М. Таубе. Вычислительные машины и здравый смысл. Миф о думающих машинах. М-, 1964, с. 170), 268 уровня сложности, в то время как на самом деле сфера IV имеет совершенно иную природу, нежели сфера III. Она отнюдь не более сложна; по сути дела, она даже более примитивна, предшествуя, с точки зрения эволюционной, онтогенетической и феноменологической, сферам II и III, точно так же как естественный язык предшествует математике. В литературе по "искусственному интеллекту" эти четыре сферы обычно не различаются97. Например, А.Ньюэлл, Дж.Шоу и Г.Саймон заявляют, что их машина "Логик-теоретик" "была разработана для того, чтобы изучить возможность решения таких трудных задач, как доказательство математических теорем [сферы II или III - Х.Д.], выявление научных законов в совокупности опытных данных [сферы III или IV. - Х.Д.], игра в шахматы [сфера III.- Х.Д.] или понимание смысла английской прозы [сфера IV. - Х.Д.]*. Принятие тезиса (ясно выраженного Армером из корпорации RAND), согласно которому все формы разумного поведения принадлежат к одному и тому же типу, позволило упомянутым исследователям на базе успехов, достигнутых в первых двух рассмотренных нами сферах, прийти к необоснованным надеждам на успех в двух остальных. Такого рода путаница таит в себе двоякую опасность. Во-первых, существует тенденция (ее типичный представитель Г.Саймон) полагать, что эвристики, обнаруживаемые в одной области разумной деятельности, например в доказательстве теорем, должны что-то говорить нам о "переработке информации" в любой другой области, такой, например, как понимание естественного языка. Тем самым некоторые простые формы переработки информации, применимые в сферах I и II, навязываются и сфере IV, в то время как уникальный по своему характеру тип "переработки информации", присущий этой сфере, а именно тот факт, что "данные" вообще не "перерабатываются", остается незамеченным. В результате та самая проблема экспоненциального роста, которая приводит к трудностям при распространении методов, применяемых в сферах I и II, на сферу III, возникает и при попытках моделирования поведения, характерногодля сферы IV**. * А. Ньюэлл, Дж. Шоу и Г. Саймон. Эмпирические исследования машины "Логик-теоретик"; пример изучения эвристики. - В кн.: Вычислительные машины и мышление, с. 113. ** "Преграда... стоящая на пути дальнейшего развития семантических информационно-поисковых систем, - это та же преграда, на которую мы наталкиваемся в программах по доказательству теорем, в программировании игр и других областях "искусственного интеллекта": проблема поиска в экспоненциально растущем пространстве возможных решений. Здесь не существует никаких коренных переформулировок этой проблемы - переформулировок, которые дали бы возможность обойти тот чисто математи- 269 Во-вторых, существует и обратная опасность. Успехи "искусственного интеллекта" в сфере II во многом зависят от того, насколько удастся ограничить рассмотрение только дискретными, определенными, не зависящими от контекста ситуациями. В связи с тем, что сложные системы из сферы III, так же как и простые системы из сферы II, полностью формализуемы, у исследователя, занятого построением моделей, складывается впечатление, что тот или иной тип поведения, принадлежащий сфере III, воспроизводим на цифровой машине. А когда различие в степени между простым и сложным оказывается на практике различием в качестве (т. е. когда экспоненциальный рост превращается в серьезную проблему), тогда программист, не отдавая себе отчета в особенностях, характерных для этих двух сфер, пытается в сфере III ввести в рассмотрение процедуры, заимствованные из наблюдений за человеческой деятельностью, принадлежащей сфере IV (например, за тем, как человек оценивает позиции в шахматах, решает задачи, используя понятия о целях и средствах, и апеллирует к смыслу при доказательстве теорем). Однако эти процедуры, когда ими пользуется человек, зависят от одной или нескольких специфически человеческих форм "переработки информации"; так, использование шахматных эвристик предполагает- по крайней мере у человека - феномен восприятия, с помощью периферийного сознания, сильных и слабых сторон позиции; проведение анализа в терминах "средств и целей" рано или поздно делает необходимым планирование, а тем самым и отделение существенных операций от несущественных; для семантических же рассмотрений требуется чувство контекста» Математик-программист уверен, что сфера III в принципе формализуема- точно так же как сфера II. Он не отдает себе отчета в том, что, перенося методы, практикуемые в сфере IV, на сферу III, он распространяет на отношение между ними - отношение, характеризующееся скачком,- то свойство непрерывности, которое присуще отношению между сферами II и III, что влечет за собой все те трудности, которые связаны с формализацией неформального поведения. Таким образом, проблемы, которые в принципе должны возникать только при попытках программирования задач "с плохой структурой", то есть "открытых" видов деятельности, встречающихся в повседневной жизни,- проблемы эти возникают в практике обращения со сложными формальными системами. Поскольку в сфере III совершенно четко можно сформулировать, какие данные считаются имеющими отношение к делу, а какие нет, здесь до некоторой степени могут работать ческий факт, что число возможных связей, соединяющих различные элементы, есть экспоненциальная функция от числа рассматриваемых элементов" (Raphael- SIR: Semantic Information Retrieval.-In: M.Minsky (ed.). Semantic Information Processing, p. 114). 270 эвристики (как в шашечной программе А. Сэмюэля). Однако поскольку сфера IV представляет собой именно ту область разумного поведения, в которой всякая попытка программирования для цифровой машины полностью сформированного поведения взрослого человека обречена на неудачу, неизбежное в сфере III обращение к эвристикам, подразумевающим возможности сферы IV, рано или поздно обязательно приводит к трудностям. Как далеко может продвинуться эвристическое программирование в сфере III, прежде чем оно натолкнется на препятствия, связанные с необходимостью введения в рассмотрение периферийного сознания, феномена "допустимой неоднозначности", способности к отделению существенного от несущественного и т. д., представляет собой чисто эмпирический вопрос. Тем не менее, как мы видели, существуют некоторые признаки, свидетельствующие уже сейчас о существовании препятствий на этом пути: это неудавшиеся попытки создания машинного "шахматного чемпиона", машинного доказательства какой-нибудь интересной теоремы, автоматического перевода с одного естественного языка на другой и, кроме того, отказ от дальнейшей работы над программой GPS. Однако в сфере IV имеются некоторые средства сокращения перебора, которые могут быть использованы для продвижения в решении задач, относящихся к сфере III,- средства, не предполагающие упомянутых человеческих процессов "переработки информации", которые не могут быть воспроизведены какой-либо программой, организованной в соответствии с принципами древних афинян. Чтобы преодолеть тот застой, который наблюдается сейчас в сфере III, требуется, по-видимому, использование следующих более совершенных методов. 1. Поскольку современные вычислительные машины, включая даже примитивные роботы типа "глаз - рука", не имеют тела - в том смысле, в каком это описано в гл. 7,- и поскольку никто не понимает и не имеет ни малейшего представления о том, как заложить в программу ту глобальную организацию и оперирование с неопределенностями, которые столь характерны для человеческого восприятия и для приобретения человеком связанных с телом умений и навыков, мы можем в настоящее время рассчитывать на реализацию только какого-то грубого, целостного первичного процесса, являющегося некоторым приближением к человеческой способности концентрировать внимание на том или ином участке поля жизненного опыта еще до того, как начинаются точные, подчиняющиеся правилам манипуляции и просчитывание. Это, однако, не означает добавления новых точных способов выявления тех областей, которые заслуживают дальнейшего исследования. Например, в случае шахматных программ ныне 271 становится все более очевидным, что введение в программу порождения приемлемых ходов все новых и новых конкретных элементов шахматной теории приводит к тому, что программа захлебывается от изобилия подпрограмм, реализующих соответствующие искусственные приемы. (Как считает А, Сэмюэль*, именно этим объясняется отсутствие сообщений о новых результатах работы над шахматной программой Р. Гринблата.) Программе чего-то не хватает, а именно того, что соответствует умению мастера воспринимать позицию на доске как распадающуюся на систему многообещающих и опасных зон. На что именно мог бы походить такой "холистский" процесс, сказать трудно, особенно если принять во внимание дискретную природу любой машинной вычислительной процедуры. Сейчас, по-видимому, здесь конкурируют две различные идеи. Когда М. Минский и С. Пейперт говорят об отыскании "глобальных признаков", они, вероятно, имеют в виду нахождение некоторых поддающихся выделению и вполне определенных отличительных особенностей образа (примером может служить тот или иной угол, под которым пересекаются две линии), которые позволяли бы программе строить обоснованные догадки об образе в целом. Это приводит просто к введению дополнительных эвристик и не представляет собой ничего интересного с точки зрения целостного взгляда на объекты и образы. Но вот предложение У.Ниссера, выдвинутое им в ходе рассмотрения проблемы предварительного разбиения на части предъявляемых для распознавания контуров изображения - предварительного в том смысле, что оно должно предшествовать более подробному его анализу,- претендует на нечто большее. "Поскольку процесс сосредоточения внимания не может одновременно охватить все зрительное поле, он должен происходить только после того, как отдельные зрительные элементы образа уже выделены с помощью некоторых предварительных операций. Эти предварительные операции сами по себе представляют значительный интерес. Они частично соответствуют тому, что гештальтпсихологи называют "автохтонными силами"; результатом их является то, что Хебб называет "первичными единицами"- Я буду называть их процессами предвнимания, с целью подчеркнуть, что получающиеся в их результате объекты предстоит еще наполнить содержанием и найти их интерпретацию. Из самой постановки этой задачи следует, что процессы предвнимания должны быть по-настоящему "глобальными" и "целостными". Каждая фигура и каждый объект должны быть отделены от всех остальных во всей своей цельности, образуя потенциальную рамку для последующего более детального анализа, проводимого на основе концентрации внимания"**. Однако, когда У.Ниссер переходит к объяснению того, как * Эта мысль была высказана им на лекции в Калифорнийском университете в Беркли в марте 1970 г. ** U. Nеisser. Cognitive Psychology, p. 89. 272 такое первое грубое приближение должно осуществляться на цифровой машине, нас ждет разочарование. Очевидно, он имеет в виду только "подчищающие" эвристики, которые, по неявному его допущению, начинают работать только после того, как границы образов оказываются уже довольно четко обозначены. "При условии, что отдельные элементы образа имеют непрерывные контуры, или что между этими элементами существуют пустые пространства, разделение элементов осуществляется очень простыми операциями. Например, машинные программы, прослеживающие линии или обнаруживающие пустоты, не более сложны, чем те, которые заполняют пропуски и подправляют локальные отклонения"*. Но ведь эти методы оказываются неэффективными, например в случае распознавания рукописного текста. Конечно, трудно предложить хоть что-нибудь взамен этого. Речь идет о способе обращения к полю жизненного опыта еще до того, как оно оказывается разбитым на отдельные четко выделенные объекты; однако такого рода предобъектный жизненный опыт лежит вне пределов досягаемости цифрового устройства. Вычислительная машина должна применять специфицированные правила к четко определенным данным; если задача заключается в том, чтобы сначала выделить эти четко определенные данные, то программисту приходится задуматься над проблемой применения четко определенных правил к чему-то вроде расплывающейся кляксы. Следовательно, лучшее, на что мы можем рассчитывать в своих попытках обойти способы действия, характерные для сферы IV,- это, вероятно, такого рода хитроумные эвристики, которые предлагают М. Минский и С.Пейперт для того, чтобы дать программе возможность уже при первом просмотре выбрать некоторые конкретные признаки - признаки, которые впоследствии должны оказаться полезными для управления работой программы, когда она будет производить более подробный анализ образа. Но применение приемов ad hoc всегда чревато опасностью выхода за пределы обозримости программы и уж во всяком случае никогда не может дать той общности и гибкости, которая свойственна глобальной ответной реакции человека. 2. Вторая трудность проявляется в связи с представлением задачи в машинной системе. Она отражает потребность в отделении существенного от несущественного. Обсуждая проблемы, стоявшие перед исследователями, работавшими в области "искусственного интеллекта" во втором десятилетии, Э. Фейгенбаум называет данную проблему "важнейшей, хотя и не поддаю- * Ibid 273 щейся самому быстрому решению"*. Он следующим образом объясняет сущность этой проблемы: "В эвристических программах решения проблем предусматривается, что поиск решения в пространстве задачи направляется и контролируется эвристическими правилами. Представление, задающее пространство задачи, определяется отношением исследователя к данной проблеме, его точкой зрения, и оно же предопределяет вид решения. Выбрав для задачи удачный способ представления, можно существенно повысить эффективность процессов поиска решения. Выбор способа представления задачи является уделом разрабатывающего программу исследователя и есть акт творческий"** Это тот самый род деятельности, который мы назвали нахождением глубинной структуры задачи или инсайтом, Поскольку современные вычислительные машины, включая современные примитивные роботы, не обладают потребностями в том смысле, в каком мы их трактовали в гл. 9, а также поскольку никто на свете не имеет ни малейшего представления о том, как ввести такие потребности в машину, в настоящее время нет никакой надежды обойтись без этого "творческого акта". На данном этапе мы можем рассчитывать в лучшем случае на разработку программ с конкретными конечными целями, программ, служащих для активной организации данных, а не просто пассивно воспринимающих их. Программисты отмечают, что при анализе сложных сцен целесообразно заставить программу сформулировать некоторую гипотезу о том, что она могла бы обнаружить, исходя из уже имеющихся у нее данных, и затем организовать поиск в соответствии с этой гипотезой. Этот процесс не следует путать с тем, как человек организует нечто, принимаемое им за данное, в терминах поля своих намерений. Все, на что можно рассчитывать,- это на фиксированные правила в применении к фиксированным данным; другими словами, в программу должно быть заложено множество альтернатив, и на основе уже имеющихся данных она должна уметь произвести выбор одной из этих альтернатив - наиболее вероятной - с тем, чтобы дальнейший поиск данных происходил в соответствии с прогнозом, заключенным в альтернативе. Таким образом, в игровые программы и в программы для решения задач можно будет встроить конкретные долговременные цели или набор альтернативных долговременных целей, так чтобы в некоторых ситуациях машина делала попытку использовать некоторые стратегии (и предсказывать стратегии противника). Конечно, этот метод не устраняет ограничения, связанного с тем, что все альтернативы должны быть заранее введены в память машины и в явной форме учитываться в определенных * Э. Фейгенбаум. Искусственный интеллект; темы исследований во втором десятилетии развития. - Кибернетический сборник, новая серия, вып. 10, с. 194. ** Там же, 274

местах программы, в то время как намерения человека каждое мгновение неявно организуют и направляют его деятельность. Таким образом, даже с учетом такого рода прогресса вычислительная машина не может достичь гибкости, проявляемой человеком при решении задач с открытой структурой (сфера IV) ; однако эти методы были бы полезны в случае сложных формальных задач, таких, как выбор стратегии игры или долгосрочное планирование при организации анализа в терминах "средств и целей". 3. Поскольку вычислительные машины не могут "находиться в ситуации", и поскольку никто не может представить себе, как следует подходить к программированию примитивных роботов {даже таких, которые могут передвигаться с места на место), с тем чтобы у них существовал свой мир, специалисты в области вычислительных систем стоят перед решающей проблемой, - проблемой, от которой зависит вся их работа: как заложить в программу представление об окружающей среде, о внешнем мире вычислительной машины. Мы видели, что существующие попытки введения в запоминающее устройство всех фактов о внешнем мире с целью создания некоторой внутренней модели внешней среды наталкиваются на трудности, связанные с необходимостью запоминания и извлечения из памяти всего этого громадного, может быть, бесконечного объема данных. Иногда эту проблему называют задачей разработки большой базы данных. В книге М. Минского, как мы видели, предлагается несколько отдельных приемов ad hoc, с помощью которых можно пытаться обойти эту проблему, однако пока что оказывается, что ни один из них не поддается обобщению. Вопреки заверениям М, Минского о том, что, мол, на пути к решению этой проблемы уже сделаны первые шаги, С.Роузен в своем обзоре текущего состояния разработок по теме "Роботы", осуществленных уже после исследований, рассмотренных в книге М. Минского, признает, что в этой области все еще ощущается острая потребность в новых методах. "Заглядывая вперед, мы можем сказать, что если все пойдет хорошо, то мы научимся вводить в память вычислительной машины целые энциклопедии фактов об интересующих нас конкретных особенностях внешнего мира; однако нам страшно не хватает новых методов организации памяти, с помощью которых можно было бы осуществлять как быстрый поиск информации, так и эффективные процессы логической дедукции"*. В обзоре Э.Фейгенбаума мы, наконец, встречаемся с признанием серьезности этой проблемы и даже с некоторым предложением, касающимся альтернативного способа ее решения. Обсуж- * C.A.Rosen. Machines That Act Intelligently.- Science Journal, 1968, October, p. 114. 275 дая проект двигающегося робота, разрабатываемый в Станфордском исследовательском институте, Фейгенбаум пишет: "Группа Станфордского исследовательского института считает, что наиболее неудовлетворительным элементом ее модели является воспроизведение среды. Кроме того, она указывает, что девяносто процентов усилий, затраченных ее специалистами на моделирование, было посвящено именно этой части модели. Оказалось крайне сложным вложить в вычислительную машину все то разнообразие свойств среды, которое необходимо роботу с хорошими адаптивными характеристиками для того, чтобы он проявил интересные формы поведения"*. Как мы видели, человеку удается обойти эту проблему только потому, что его модель мира есть сам мир. Любопытно, что работа в Станфордском исследовательском институте, оказывается, продвигается в этом направлении: "Легче и дешевле построить робота "во плоти" для того, чтобы выяснить, в какой информации из реального мира он нуждается, чем синтезировать и воспроизвести на вычислительной машине модель, хорошо представляющую объект. Грубо говоря, точка зрения группы Станфордского исследовательского института сводится к тому, что наиболее экономичным и эффективным хранилищем информации о реальном мире является сам реальный мир"**. Это интересная идея - попытаться обойти проблему большой базы данных путем нового пересчета большинства данных, осуществляемого каждый раз, когда эти данные оказываются нужными. Однако пока неясно, сколь многого можно достичь на этом пути. Здесь предполагается, что некоторое решение проблемы целостности, обсуждавшейся выше, уже имеется, благодаря чему в рассматриваемой сфере могут быть выделены участки, поддающиеся распознаванию. Для этого необходим, кроме того, некоторый способ отделения существенных от несущественных факторов. Самым фундаментальным ограничением, присущим этому методу, является, конечно, необходимость трактовать реальный мир (независимо от того, хранится он в памяти робота или считывается с телевизионного экрана) как совокупность фактов; а ведь человек так организует мир в терминах своих интересов, что факты должны уточняться только по мере того, как они начинают становиться релевантными. На что мы можем рассчитывать в ожидании развития и применения этих более совершенных методов? Очевидно, можно надеяться на успех в сфере II. Как подчеркивает Хао Ван, "мы стали обладать рабами, необычайно упорными и трудолюбивыми"***. Мы можем найти им прекрасное применение в сфере простых формальных систем. Более того, как следует из отчетов * Э. Фейгенбаум. Цит. соч., с. 178-179. ** Там же. *** Ван Xао. На пути к механической математике. -Кибернетический сборник, вып. 5. №., 1962, с. 116. 276 испытуемых, собранных А. Ньюэллом, Дж. Шоу и Г. Саймоном, и человек иногда действует как цифровое устройство, правда, в контексте более глобальных процессов. Поскольку мощь цифровой вычислительной машины в манипулировании символами ппевосходит соответствующие способности человека, машины должны по мере возможности взять на себя цифровые аспекты человеческих "информационных процессов". Для того чтобы использовать вычислительные машины в сферах III и IV, мы должны соединить способность машин к быстрым и точным вычислениям с актами непосредственного постижения, которые у человека осуществляются благодаря периферийному сознанию, инсайту и допустимости неоднозначности. Еще Лейбниц утверждал, что вычислительная машина может привести к росту способностей разума в гораздо большей степени, чем оптические инструменты усиливают глаз. Но микроскопы и телескопы бесполезны без этого глаза, осуществляющего выбор и интерпретацию. Так, шахматист, который мог бы обращаться к машине для просчитывания альтернатив после того, как он сосредоточил свое внимание на многообещающих сторонах своей позиции, мог бы стать чрезвычайно опасным противником. Точно так же в решении задач: после того как найдена структура задачи и построен план поиска, машина могла бы взять на себя разработку деталей решения (как в случае организации снабжения запасными частями или распределения банковских инвестиций). Машинный словарь, позволяющий выводить на экран все значения слова в порядке их возможной релевантности, оказался бы полезен в задачах перевода. Вычислительные машины могут использоваться для распознавания некоторых сложных образов, которые человек не различает в силу того высокого положения, которое он занимает в природе. И.Бар-Хиллел, А.Эттингер и Дж.Пирс предлагают каждый свой вариант развития работ над системами, осуществление которых будет способствовать развитию симбиоза вычислительной машины и человека. На одном из последних симпозиумов У.Розенблит заметил: "Человек и вычислительная машина в состоянии сделать то, что ни тот, ни другой не могут сделать в одиночку"*. Действительно, недавно появилось сообщение о первом успешном использовании вычислительной машины для усиления, а не для замены человеческого интеллекта98. Программа для доказательства теорем, называемая SAM (Semi-Automated Mathematics - "Полуавтоматическая математика"), нашла решение одной из открытых проблем теории решеток". Создатели этой программы утверждают: полуавтоматическая математика представляет собой некоторый под- * W.Rоsenblith. Computers and the World of the Future, p. 309. 277 ход к доказательству теорем, при котором делается попытка сочетать автоматические логические подпрограммы с обычными способами доказательства, причем делается это так, чтобы возникающая в результате этого процедура одновременно была и эффективной, и допускала вмешательство человека в целях управления и контроля над ней, В связи с тем, что математик при этом становится существенным фактором в процессе поиска решения, этот подход отличается от обычных попыток программирования доказательства теорем, в которых вычислительная машина занимается поиском доказательств без чьей-либо помощи"* Естественно, можно надеяться, что математик со своим ощущением релевантности поможет вычислительной машине сосредоточиться на заслуживающей просчитывания области. И действительно, именно это и происходит. "Существует несколько способов вмешательства пользователя в процесс доказательства. Конечно, важным фактором в определении избираемого "Авто-Логиком" направления служит выбор пользователем исходных формул. Слишком большое или плохо подобранное множество исходных формул имеет тенденцию загружать "Авто-Логика" доказательством тривиальных и неинтересных теорем, так что до интересных формул он так и не добирается. Однако если исходное множество формул подобрано хорошо, то "Авто-Логик" выдает полезные и интересные результаты. Как только пользователь замечает, что "Авто-Логику" начинает не хватать удобных способов использования исходных формул, он может остановить процесс и ввести дополнительные аксиомы или другой материал. Он может также направлять процесс, выбрасывая формулы, которые кажутся ему несущественными или уводящими в сторону. Такого рода взаимодействие в реальном времени между человеком и машиной оказалось весьма захватывающим и плодотворным родом деятельности"**. Однако вместо стремления к использованию специфических возможностей вычислительных машин, исследователи, работающие в области "искусственного интеллекта", ослепленные своими первоначальными успехами и загипнотизированные предположением, согласно которому мышление континуально100, не согласны ни на что меньшее, кроме как на самостоятельно действующий интеллект. Коллективный труд, составленный Э.Фейгенбаумом и Дж. Фельдманом, открывается совершенно неприкрытой формулировкой этого сомнительного принципа: "Если рассматривать континуум разумных поведений, предложенный Армером, то программы вычислительных машин, которые мы оказались способными создавать к настоящему времени, находятся все еще на самом низком уровне. Важно подчеркнуть, что развитие этой области идет по пути приближений к возможностям человеческого разума. Есть ли какие-либо основания полагать, что этот уровень никогда не будет достигнут? Такие основания отсутствуют. Нет никаких данных, ни одного логического * J.R.Guard, F.C.GgIesby, J.Bennett and L.G.Settle . Semi-Automated Mathematics.-Journal of the Association for Computing Machinery, vol.16. No 1, January 1969, p. 49. ** J.R.Guard, F.C.Oglesby, J.H. Bennett, and L.G. Settle. Op. cit., p. 57, 278 аргумента или доказательства в пользу существования непреодолимых препятствий на пути развития в пределах указанного континуума"*. П. Армер благоразумно намекает на существование такого барьера, однако и он настроен оптимистически. Рассматривая вопрос о "верхней границе" машинных возможностей, он говорит: "В отношении вопроса о важности исследований в области дальнейшего развития машин в нашем континууме не имеет значения, существует верхняя граница или нет"**; "совсем не обязательно уверовать в то, что верхняя граница ... не существует, нужно всего лишь согласиться с тем, что она находится значительно выше того положения, которое занимают сегодняшние машины"***. Нынешние трудности, если мы дадим им не зависящую от оптимистических априорных предпосылок интерпретацию, наводят, однако, на мысль, что различные сферы разумного поведения не связаны между собой и что мы недалеки от упомянутой границы. Трудности продвижения вперед, наблюдающиеся в каждом конкретном направлении "искусственного интеллекта", создают впечатление, что в рамках какого-либо отдельно взятого вида человеческих действий не может произойти прорыва- прорыва частичного, локального по своему характеру, ведущего к полностью сформировавшемуся, зрелому разумному поведению. Программирование игр, автоматический перевод, решение задач и распознавание образов- все зависит от специфически человеческих форм "переработки информации", которые, в свою очередь, основаны на умении человека чувствовать себя в мире как дома. А это умение "находиться в ситуации" оказывается, в принципе, не программируемым никакими мыслимыми сегодня средствами. Достижения алхимиков, открывших методы извлечения ртути из того, что они считали землей, оказали на них такое действие, что после нескольких столетий безуспешных попыток превращения свинца в золото они все еще отказывались верить, что на химическом уровне преобразование одного металла в другой невозможно; тем не менее, в качестве побочных продуктов, ими были разработаны разнообразные тигли, реторты, штативы и т. д. Точно так же в наши дни специалисты в области вычислительных систем, не создав искусственного интеллекта, разработали программы-сборщики, программы-отладчики, программы, редактирующие другие программы, и т. д., а группа специалистов из Массачусетского технологического института, работающая над конструированием роботов, построила отличную механическую руку. * Вычислительные машины и мышление, с. 31-32. П. ** Армер. Цит.соч., с. 171. *** Там же, с. 172. 279 Для того чтобы нас не постигла участь алхимиков, пора задуматься над тем, чего же мы достигли. Именно сейчас, прежде чем вкладывать в изучение информационных процессов дополнительные средства и время, следует задаться вопросом, действительно ли из сравнения отчетов испытуемых и имеющихся на сегодняшний день программ вытекает, что машинный язык подходит для задач анализа поведения человека. Можно ли исчерпывающим образом разложить человеческий разум на совокупность подчиняющихся правилам операций над дискретными, четко определенными и не зависящими от контекста элементами? Есть ли хоть какая-нибудь надежда на решение - пусть приближенное - этой задачи? По-видимому, на все эти вопросы следует ответить "нет". Значит ли это, что все усилия и средства, вкладываемые в "искусственный интеллект", были потрачены зря? Нет; но "нет" только при одном условии - если вместо того, чтобы игнорировать имеющиеся трудности, мы попытаемся понять, о чем они говорят. Первоначальные успехи и последовавшее за ними торможение в области моделирования процессов познания и "искусственного интеллекта" плюс вездесущие проблемы распознавания образов и понимания естественного языка и их неожиданная сложность должны побудить нас сосредоточить усилия на изучении соответствующих человеческих форм "переработки информации", а также на исследовании основы всех этих проблем - зависимости рассудка (принадлежащего живому человеку) от ситуации. Без учета этих специфически человеческих способностей можно обойтись лишь при формализации тех сфер интеллектуальной деятельности, в которых направление "искусственного интеллекта" добилось своих первых успехов; но в тех областях разумного поведения, где это направление терпит неудачи, они как раз и существенны. Следовательно, мы можем рассматривать последние исследования в данной области как решающий эксперимент, - эксперимент, опровергающий справедливость традиционных предпосылок, согласно которым человеческий разум может быть представлен в виде совокупности подчиняющихся правилам операций над независящими от ситуации дискретными элементами. Из всех выдвигавшихся до сих пор опровержений данного метафизического принципа это - важнейшее. Подобный метод воплощения наших философских допущений в технические конструкции - метод, показывающий ограничения, присущие этим допущениям, - открывает новый увлекательный путь в фундаментальных исследованиях. К.Шеннон, создатель теории информации, до некоторой степени отдает себе отчет в том, насколько "разумные машины" должны отличаться по своим возможностям от цифровых устройств. При обсуждении вопроса "В чем назначение вы- 280 числительных машин?" он отметил: " Эффективное машинное решение таких задач, как распознавание образов, автоматический перевод и т. д., может потребовать создания вычислительного устройства совершенно другого типа, чем то, которым мы располагаем сегодня. Как мне представляется, это будет устройство, естественное функционирование которого происходит с помощью образов, понятий и смутных подобий, а не с помощью последовательных операций над числами в десятичной системе счисления"* Как мы видели - и насколько мы можем судить по опыту единственного существа, умеющего справляться с такого рода "смутностью",- "машина", которая могла бы пользоваться естественным языком и узнавать сложные образы, должна обладать телесной организацией, позволяющей ей "чувствовать себя в мире, как дома". Однако коль скоро роботы для обработки неформальной информации должны быть, согласно предположению К.Шеннона, абсолютно непохожими на современные цифровые машины, то чем же заниматься в настоящее время? Если вести речь о задаче непосредственного программирования разумного поведения, то ровным счетом ничем. В ближайшей перспективе мы должны думать о "сотрудничестве" человека и цифровой машины, и только в далеком будущем - о нецифровых автоматах, которые, если их "поместить в ситуацию", будут демонстрировать формы "переработки информации", существенные при общении с нашим неформальным миром. Тех теоретиков "искусственного интеллекта", которые считают, что лучше хоть какие-то конкретные результаты, чем ничего, и что не следует откладывать работу в данном направлении до того дня, когда мы будем в состоянии создать такого рода "искусственного человека", опровергнуть невозможно. Долгое царствование алхимии показало, что любые исследования, начало которых принесло успех, всегда могут быть оправданы и всегда кажутся заслуживающими продолжения в глазах тех, кто предпочитает авантюру терпению**. Если требовать априорных доказательств невозможности успеха, то, как мы видели, весьма трудно показать ошибочность выбранного направ- * C.Shannon, Op. cit, p. 309-310. ** Может быть, следующая средневековая аранжировка утверждения Э.Фейгенбэума и Дж.Фельдмана подействует на энтузиастов "искусственного интеллекта" несколько отрезвляюще: "Если рассматривать континуум субстанций, предложенный Парацельсом, то преобразования неблагородных металлов, которые мы оказались способными производить к настоящему времени, находятся все еще на самом низком уровне. Важно подчеркнуть, что развитие этой области идет по пути приближения к созданию философского камня. Есть ли какие-либо основания полагать, что этот уровень никогда не будет достигнут? Такие основания отсутствуют. Нет никаких данных, ни одного логического аргумента или доказательства в пользу существования непреодолимых препятствий на пути развития в пределах указанного континуума". 281 ления исследований - разве что прибегнуть к отрицанию поистине фундаментальных допущений, общих всему точному знанию. А эти доводы всегда можно парировать, заявив, что продвижение к поставленной цели все-таки происходит. Но если мы согласимся считать практические результаты критерием правильности выбора направления приложения сил, то нам достаточно сравнить, что предсказывалось и что исполнилось. И даже если бы не было никаких предсказаний, а только надежды - как в области автоматического перевода - все равно полученные результаты настолько разочаровывающи, что говорят сами за себя. Если бы алхимик перестал возиться с ретортами и пентаграммами и занялся изучением глубинной структуры проблемы - подобно тому, как первобытный человек оторвал взгляд от Луны, спустился с дерева, научился пользоваться огнем и изобрел колесо, - в таком случае развитие науки было бы более плодотворным. В конце концов, через триста лет после алхимиков мы-таки получили золото из свинца (и ступили на поверхность Луны) - но только после того, как прекратили работу на уровне алхимии и занялись постижением явлений химического и гораздо более глубокого - ядерного уровня 282 ПРИМЕЧАНИЯ 1. Оригинал: M.L. Minsky. Computation: Finite and Indefinite Machines. Prentice Hall, Inc., Englewood Cliffs, N.J., 1967, При переводе настоящей книги ее редакторы - титульный и издательский - стремились к тому, чтобы цитаты и ссылки на зарубежные работы, вышедшие е СССР, были даны по русским переводам. Поскольку, однако, для аргументации Х.Дрейфуса, вообще говоря, существенное значение имеет как год публикации соответствующей работы, так и другие ее выходные данные, мы в примечаниях приводим необходимые сведения об оригиналах (это не касается классиков философии, оригиналы работ которых - если они имеются в русском переводе - не указываются) . В выходные данные некоторых изданий, упоминаемых Х.Дрейфусом, редакторам пришлось внести, исправления и уточнения. В тех случаях, когда надлежащие уточнения сделать не удалось, в соответствующем подстрочном примечании оставлены только цитируемый автор и название его работы. (Стр. 7.) 2. Термин кибернетика имеет большую историю. "Древняя кибернетика,- пишет Г.Н. Поваров, - родилась на вольном морском просторе, у эллинов - народа-мореплавателя. Управление кораблем приобрело у древних греков смысл наглядно-образной иллюстрации управления вообще, а слово "кибернет" стало обозначать не только кормчего, но и правителя над людьми, в широком смысле, будь то царь, архонт или тиран. Подобное расширение значения испытал и глагол «управляю кораблем и понятие «искусство управления кораблем, искусство кормчего»" (Г.Н. Поваров), Ампер и кибернетика-М., "Советское радио", 1977, с. 47}. Платон в своих сочинениях просто использовал "кибернетические" термины, причем в обоих смыслах; в прямом - как управление кораблем или колесницей (в этом смысле кибернетика есть искусство кормчего), и в переносно-обобщенном - как искусство управления людьми. Впоследствии термин "кибернетика" был использован A.M. Ампером а разработанной им классификации наук (Ампер назвал кибернетикой науку об управлении государством; см. упомянутую выше книгу Г.Н. Поварова) ; но лишь с появлением знаменитой книги Н.Винера " Кибернетика, или Управление и связь в животном и машине" (1948) этот термин приобрел свой современный смысл. (Стр. 8) 3. Взгляд на Платона как на предтечу современных исследований в области "искусственного интеллекта" имеет под собой только то основание, что диалоги античного мыслителя ярко выразили тенденцию к четкому формально-логическому представлению рассуждений (историческая преемственность логических идей, связывающих Платона и современную кибернетику, прослеживается в книге Б. В. Бирюкова и В. Н. Тростникова "Жар холодных числ и пафос бесстрастной логики. Формализация мышления от античных времен до эпохи кибернетики", М., "Знание", 1977), Дрейфус же (здесь и в ряде других мест книги) развивает одностороннюю интерпретацию платоновского учения о познании, включавшего известную теорию знания как воспоминания души об идеальных образцах вещей, созерцавшихся ею в мире идей до переселения в земную реальность. Попытка представить Платона своего рода "протокибернетическим детерминистом”, толковавшим знание и практику как следование определенным правилам, попытка, которую автор неоднократно предпринимает в книге, не убедительна. Так, уже приведенная выше цитата из диалога "Евтифрон" допускает не только то прочтение, которое предлагает Дрейфус (обращение к 283 "образцу" есть следование правилам); но и иное, менее "жесткое" понимание: "образец" - это идеальный пример, которому, сам того не замечав, следует человек. Впрочем, ниже сам Дрейфус признает, что "правила", императив следования которым он приписывает Платону, согласно последнему, "не могут быть полностью формализованы". (Стр. 8) Натяжки X. Дрейфуса в оценке роли Платона в развитии предкибернетических идей становятся еще более очевидными в широком контексте взглядов великого античного диалектика. Не излагая здесь философского учения Платона, отметим лишь один пункт, существенный в связи с теми историко-философскими экскурсами, которые содержатся в данной книге. В диалоге "Государство", к которому ниже апеллирует автор, рассматривается "идея блага" как самого важного знания. Единственно надежным и универсальным методом постижения этой идеи является, по Платону, диалектика, а не конкретные науки, которые изучают только чувственно-вещественные пронесения этой идеи в осязаемом видимом мире; роль диалектического метода, комментирует Платона А. Тахо-Годи, состоит в том, что он "потихоньку высвобождает, словно из какой-то варварской грязи, зарывшийся туда взор нашей души и направляет его ввысь" (Платон. Сочинения в трех томах, т. 3, М., 1971, с. 345) . Таким образом, концепция Платона весьма далека от того примитивного ''следования правилам", о котором говорит Дрейфус. (Стр. 8.) 4. М. Минского, которого Дрейфус здесь сопоставляет с Платоном, нет ни слова об авторе знаменитых диалогов, и эта параллель между взглядами автора "Государства" и современными математико-кибернетическими представлениями об эффективности (которые не являются чем-то принадлежащим исключительно М. Минскому, а составляют завоевание современной математико-логической мысли в целом) является достаточно искусственной. (Стр. 8) 5. Не ясно, что здесь хочет сказать Дрейфус, противопоставляя Аристотеля Платону. На деле Аристотеля в большей мере, чем Платона, можно считать отдаленным предтечей идей современной кибернетики, поскольку он явился создателем формальной логики как науки, в частности силлогистики, представлявшей собой исторически первую формальную систему.(Стр. 8.) 6. Так мы переводим здесь биты : "bits" (это слово здесь берется в кавычки самим автором) . В последующем тексте термин bit (bits), широко используемый в книге, переводится как "квант" ("кванты"), если речь идет об элементарных порциях информации, не предполагающих аппарата статистической теории информации, и "бит" ("биты") , если из контекста следует, что понимать его можно в смысле единицы информации теории передачи сообщений по каналу связи (где считается, что сообщение несет 1 бит информации, если устраняет неопределенность состояния приемника, сообщая, какая из двух единственно возможных и равноправных альтернатив реализовалась) . (Стр. 9.) 7. Это утверждение автора о Лейбнице неточно. Великий философ и математик вовсе не считал, что ему "удалось найти" универсальный логико-математический метод знакового представления и развития любого знания - он лишь выдвинул замысел такого метода и пытался продвинуться в его разработке. О том, что Лейбниц не претендовал здесь на завершенное открытие, свидетельствует уже тот факт, что он не решился на публикацию значительной части своих идей и разработок, связанных с "универсальной характеристикой". Соответствующие фрагменты Лейбница увидели свет лишь после его смерти, а некоторые - лишь в начале нашего века. Таким образом, слова Дрейфуса о том, что Лейбниц смотрел на свою программу как на "почти завершенную" (с. 10), не соответствуют действительности. Однако Лейбниц и в самом деле придавал большое значение своей программе - и, как теперь очевидно, вполне заслуженно, так как она вдохновила многих из тех ученых XIX века, которые закладывали 284 основы математической логики - этого неотъемлемого инструмента кибернетики наших дней. (Стр.9.) 8. В этой и последующей ссылках издание Лейбница, которое использует автор (G.W. Leibniz, Selections, N.Y., 1951), заменено выпущенными в ГДР Лейбницевыми "Фрагментами по логике". Приведенная цитата переведена редактором с текста этого издания. Два последующих отрывка из Лейбница даны в переводе с немецкого, сделанного А. Д. Гетмановой и отредактированного С.А. Яновской (см,: А. Д. Гетманова, О взглядах Лейбница на соотношение математики и логики. - В кн.; Философские вопросы естествознания. IL Некоторые философско-теоретические вопросы физики, математики и химии, [М.],1959, с. 189 и 188), но со ссылкой на "Selections" 1951 г. Последний из приводимых здесь Лейбницевых отрывков - так же как извлечения из Лейбница на с 172 - представляет собой перевод (с английского) цитаты, выписанной Дрейфусом из "Selections". (Стр. 9.) 9. Ниже у автора фигурирует весьма неполный перечень равенств (равносильностей), определяющих булеву алгебру; в частности, не указаны равенства, содержащие операцию отрицания, которая необходима для задания булевой алгебры. В качестве примера полной системы равенств, определяющей булеву алгебру можно указать список равносильностей, приведенный в книге П. С. Новикова "Элементы математической логики" (М., "Наука", 1973, с. 42) . Следует заметить, что в выписанных автором равенствах (так же как в системе равносильностей, фигурирующей в книге П. С. Новикова) союз "или" понимается в соединительном смысле (слабая дизъюнкция: "верно или а, или b, или и то и другое вместе"). Дж. Буль же в своей логической алгебре использует аналогичный разделительный союз (строгую дизъюнкцию: "или а, или b, но не то и другое вместе"). Из этого, в частности, следует, что алгебрологическая теория Буля не была булевой алгеброй в собственном смысле слова (хотя логические возможности Булева логического исчисления совпадают с возможностями булевой алгебры) . Но от Буля идет построение логических систем, переменные которых принимают одно, и только одно, из двух значений истинности - "истинно", "ложно"; к числу таких систем принадлежит и то, что ныне называют булевой алгеброй. (Стр. 10.) 10. Автор здесь искажает историческую перспективу. Автоматизация вычислений до середины нашего века развивалась независимо от математической логики, одним из ответвлений которой является булева алгебра. Изобретения Ч, Бзббеджа в области вычислительной техники не были связаны с алгеброй логики -- хотя бы уже потому, что сделаны они были еще до появления первых математико-логических работ Дж, Буля: разностная машина была сконструирована Бэббеджем в 1820-1822 гг., проект аналитической машины был разработан им в 1834 г., а труд Дж. Буля "Математический анализ логики" вышел в 1847 г. Таким образом, утверждение X. Дрейфуса о том, что с появлением изобретений Ч. Бэббеджа (вычислительная) практика стала догонять (логико-алгебраическую) теорию, не соответствует фактам; в том смысле, который имеет в виду автор, "практика стала догонять теорию" только с появлением электронных цифровых машин и кибернетики. 11. Это не совсем верно. Сын Ч. Бэббеджа после смерти отца сумел частично достроить аналитическую машину, и в 1888 г. она вычислила и напечатала произведение числа Я на числа натурального ряда с 29 знаками. См,: Р.С. Гутер, Ю. Л. Полунов. От абака до компьютера. М., "Знание", 1975. (Стр. 11.) 12. Ниже автор приводит отрывок из известной статьи А. Тьюринга Вычислительные машины и интеллект" (A.M. Turing. Computing Machinery and Intelligence, "Mind", 1950, vol. 59, p. 433-460; статья перепечатана в кн.: The World of Mathematics, ed. J. RJewman, vol. N.Y., Simon and Schuster, 1956, а также в кн.: Minds and Machines, ed. A, R, An- 285 dersоn. Englewood Cliffs, N. J., Prentice Hall,1964); Дрейфус приводит высказывания Тьюринга по изданию А. Андерсона 1964 г. Русский перевод статьи, который цитируется в данном издании, выполнен по книге Дж. Р. Ньюмена (1956 г.) , в которой статья Тьюринга носит заглавие "Can the machine think?". Отметим, что "определение цифровой вычислительной машины", о котором говорит Дрейфус, имея в виду эту (по существу, популярную) статью Тьюринга, идейно восходит к выдающейся работе этого же математика - его статье "On computable numbers, with an application to the Entscheidungsproblem". Proc. London Math. Soc, Ser. 2, vol. 42, 1936-1937. В этой статье описана абстрактная вычислительная машина, за которой впоследствии закрепилось название "машины Тьюринга". Обширные выдержки из этой статьи, содержащие Тьюрингову аргументацию в пользу интерпретации своей машины в качестве идеализированного вычислителя, приводит М. Минский в книге "Вычисления и автоматы" (М., 1971, с, 137-142). Теория машин Тьюринга является в настоящее время интенсивно развивающимся разделом теории эффективной вычислимости (теории алгоритмов). (Стр. 11.) 13.Эта и другие имеющиеся в книге цитаты неанглоязычных авторов, заимствованные из работ, которые не опубликованы в СССР, приведены по тексту книги X. Дрейфуса, то есть по их английским переводам. (Стр. 13.) 14.Статью К. Шеннона (C.Shannon) "Chess piaing machine" автор цитирует по книге "Мир математики" под редакцией Дж. Р. Ньюмена, указанной в примечании 12. Первоначально статья была опубликована в журнале Scientific American, 1950, vol, 2. (Стр. 15.) 15.Оригинал этой коллективной монографии, в которой в качестве Главы 13 помещена данная статья А. Ньюэлла, Дж. Шоу и Г. Саймона: A. Newell, J. Shaw and H.Simon. Computers and Thought. A collections of articles. Ed, E. A. Feigenbaum and J, Feldman. New York - San Francisco - Toronto - London, McGraw-Hill, 1963. (Стр. 16.) 16.Операнды - объекты (например, числа или буквы, представляющие те или иные элементы задачи, определенные состояния системы, процесса и т. п.), над которыми производится некоторая операция (операции) .(Стр. 18.) 17.Задача о людоедах и миссионерах, широко обсуждаемая в работах по "искусственному интеллекту", формулируется следующим образом. Три миссионера и три людоеда должны переправиться через реку. Имеется лодка, которая вмещает не более двух человек, Если число людоедов на каком-либо из берегов превысит число миссионеров, то миссионеры будут съедены людоедами. Требуется найти способ переправы всех шести человек, безопасный для миссионеров. Анализ этой задачи и ее обобщений производился, в частности, С. Амарелом (S. Amarel.On representations of problems of reasoning about actions* - In: D, Miche (ed.l, Machine Intelligence, vol. 3, N.Y., Amer. Elsevier Publ. Сотр., р, 131 -171). В отечественной литературе соответствующий материал можно найти в книге Э. В. Попова и Г, Р. Фирдмана "Алгоритмические основы интеллектуальных роботов и искусственного интеллекта" (М,, "Наука", 1976, с. 42 и далее). (Стр. 18.) 18.Термин искусственный интеллект несет в себе двойной смысл. С одной стороны, он используется для обозначения машинных систем, запрограммированных так, что они проявляют, как считается, некоторые черты интеллектуально-творческого поведения (мышления, познания), характерного для человека; с другой стороны, он служит наименованием комплекса исследований, направленных на разработку такого рода систем. В некоторых контекстах (например, в выражении "задачи, которые решаются искусственным интеллектом") происходит "интерференция" обоих значений. В русском переводе данной книги (в отличие от оригинала) мы, как правило, берем выражение "искусственный интеллект" 286 кавычки, так как это позволяет лучше передать упомянутый двойной смысл; в одном случае кавычки указывают на то, что системы искусственного разума еще не созданы и не ясно, в какой мере на кибернетическом пути вообще возможно приближение к идеалу разумности; в другом случае они служат указанием того, что речь идет об определенном исследовательском направлении. (Стр. 19.) 19.Оригинал: N. Chomsky. Language and Mind. New York, Harcourt, Brace and World, 1968. (Стр. 21.) 20.Автор, книга которого, как следует из данного высказывания, была завершена в 1971 г. (а вышла из печати в 1972 г.), акцентирует внимание том, нто целый ряд предсказаний Г. Саймона и других исследователей в области "искусственного интеллекта" относительно сравнительно быстрого оешения стоящих перед ними проблем - предсказаний, сделанных в 50-х годах,-не оправдался. Последующее изложение, и прежде всего вся первая часть книги, посвящено разбору работ 1957-1967 годов (автор привлекает в своем критическом анализе лишь отдельные работы 1968- 1969 гг.) именно в этом плане. Действительно, развитие показало, что трудности, возникающие перед кибернетическим моделированием процессов познании и созданием систем, проявляющих отчетливые черты "разумности" (в достаточно приемлемом смысле этого термина), гораздо более значительны, чем это представлялось на заре развития кибернетики. Однако негативные заключения Х. Дрейфуса о перспективах данного направления, а также его резкие суждения по адресу творчески работающих кибернетиков не представляются оправданными. Подробнее об этом см. помещенную в конце данной книги статью редактора "Что же могут вычислительные машины?". (Стр. 23.) 21. Rons asmorum - мост для ослов - возникшее, как предполагают историки математики, в схоластической науке средних веков название предложения (теоремы) 5 книги I "Начал" Евклида. Евклидова формулировка гласит: "У равнобедренных треугольников углы при основании равны между собой, и по продолжении равных прямых углы под основанием будут равны между собой" (Начала Евклида, книги I-II. Перев. с греч. И комментарии Д. Д. Мордухай-Болтовского, М.- Л., 1950, с. 19) . Как отмечается в примечании к Евклидовой формулировке теоремы, устанавливаемое ею свойство равнобедренного треугольника, по свидетельству Прокла, обнаружил еще Фалес Милетский. Название теоремы, по-видимому, "происходит от того, что чертеж Евклида (вместе с дополнительными линиями, требуемыми в его несколько усложненном доказательстве) напоминает мост, и от мнения, что тот, кто не способен перейти через этот мост, должен быть ослом" (Г. С. МоКокстер. Введение в геометрию, М-, "Наука",1966, с. 20). (Стр.24.) 22.Оригинал: P.Armer. Attitudes toward intelligent machines. In: Computers and Thought. Ed. E, A. Feigenbaum and J. Fefdman, 1963. (Стр. 26.) 23.Соответствует примерно третьему разряду по шахматам в советской спортивной классификации. (Стр. 28.) 24.Под решением задач (Problem solving) в англо-американской кибернетической литературе понимается решение невычислительных задач, требующее применения того или иного способа ограничения перебора вариантов в ходе поиска требуемого результата. (Стр.28.) 25.В отчете испытуемого под "левой и правой частями уравнения" имеются в виду члены конъюнктивной формулы в которой & есть знак операции конъюнкции (логического союза "и"), есть знак импликации (союза "если.... То"), а ~~| есть знак отрицания. В контексте данной задачи под "уравнением" _ или лучше "равенством" - можно было бы, на первый взгляд, понимать запись (/ОпЯ)" ^R-Q)=L*\(~P). Однако это равенство не справедливо, и, как следует из приведенного на с. 286 книги "Вычислительные машины и мышление" 287 "полного хода решения данной задачи", речь идет о дедукции следствия (-\Q'P) из посылки (RD~P)-("~\RDQ). При этом испытуемым разрешалось пользоваться двенадцатью правилами пропозициональной логики и информацией о том, что ПП эквивалентно Р. Правила 8 и 6, которые упоминаются X, Дрейфусом, имеют вид: (8) А 'В^-А, А 'В-+В, (6) АЭВ-*~ЛА\/В (здесь V есть знак операции дизъюнкции, соответствующей неразделительному логическому союзу "или", а -э- означает логическую выводимость). (Стр. 35.) 26. Рисунок 1 представляет собой русский перевод распечатки на английском языке, выданный машиной, решившей соответствующую задачу. (Стр. 36.) 27. На русском языке имеется два разных перевода этой работы А. Ньюэла и Г. А. Саймона - в кн.: "Кибернетика и живой организм" (Киев, "Наукова думка", 1964) под названием "Моделирование человеческого мышления на вычислительной машине" и в кн. "Психология мышления. Сборник переводов" (М., "Прогресс", 1965) под заголовком "Имитация мышления человека с помощью электронно-вычислительной машины". Оба перевода выполнены, однако, не с первичного издания (Корпорации RAND), на которое в дальнейшем ссылается X. Дрейфус, а с вторичной публикации в журнале "Science". Поэтому мы отказались от цитирования по русским изданиям. (Стр. 36.) 28. Работа Хао Вана (Wang Hао. Toward mechanical mathematics.- IBM Jorn. Res. Devel., vcl, 1, № 4, 1960; русский перевод: Ван Хао На пути к механической математике.-"Кибернетический сборник", вып. 5, М., 1962) представляет собой вовсе не "величайшее достижение' - ирония автора здесь не уместна,- а пионерскую работу в области неэвристически алгоритмического решения задач логической дедукции. Результаты Хао Вана вскоре были превзойдены последующими работами. Одной из них явилась разработка коллективом советских математических логиков под руководством И. А. Шанина машинно реализуемого алгоритма поиска естественного - то есть приближенного к тому, как человек решает подобные задачи,- логического вывода в классическом исчислении высказываний (см.: Н. А. Шанин, Г. В, Давыдов и др. Алгоритм машинного поиска естественного логического вывода в исчислении высказываний, М., "Наука", 1965). К настоящему времени создано большое количество алгоритмов и машинных программ (относящихся не только к математической логике, но и к другим разделам математики) поиска логических выводов и доказательств теорем - как неэвристических, так и эвристических (отличающихся тем, что они не гарантируют решение, даже в принципе, каждой из задач данного класса, поддающихся соответствующей формализации). См., например, следующие статьи: Д. Правиц. Достижения и проблемы о развитии процедур механического доказательства. - "Кибернетический сборник". Новая серия, вып. 9. М., "Мир", 1972; Ю. В. Капитонова, В. Ф. Костырко и др. Краткий обзор и библиография работ по автоматизации поиска доказательств теорем в формальных теориях, - "Кибернетика", Киев, 1972, №5; С. Ю.Маслов. Поиск вывода как модель эвристического процесса. - Там же; Ю. В. Капитонова, А. И.Дегтярев, А. В. Лялецкий. Использование эвристики в программах для поиска доказательств теорем (Обзор) . - "Кибернетика", Киев, 1973, № 4; С. Ю. Маслов. Теория поиска вывода и некоторые ее применения. - Там же, 1975, № 4. (Стр. 38.) 29. В перевод следующей ниже цитаты из русского издания книги "Вычислительные машины и мышление" внесены коррективы стилистико-смыслового характера. Подобные же изменения произведены и в ряде других приводимых Дрейфусом извлечений из авторов, чьи работы опубликованы в советских изданиях. (Стр. 39.) 30. Латинское выражение ad hoc ("к этому"), имеющее смысл "для данного случая", "для данной конкретной цели" и широко используемое 288 автор когда он говорит о методах, которые, по его мнению, не допускают обобщения и в этом отношении имеют специальный или даже искусственный характер, в данном переводе нередко передается соотвествующим контексту описательным оборотом. (Стр. 40.) 31 Оригинал данной коллективной монографии: Recognizing Patterns: Studies in Living and Automatic Systems, ed. P. A. Kolers and M, Eden. Cambridge (Mass,), M.IT. Press, 1968. (Стр. 40.) 32.Так мы в данной книге переводим английское слово due, носящее у Дрейфуса терминологический характер. (Стр. 47.) 33. В аналогичном опыте, который проводил В. Б. Малкин, гроссмейстер не сумел запомнить позицию, но дал ее верную оценку (сообщение Ю. А. Шрейдера). (Стр. 49.) 34.Вряд ли можно согласиться с той оценкой перспектив работ по эвристической алгоритмизации и программированию шахматной игры,которую здесь и далее дает Дрейфус. Об успехах в области программирования шахмат свидетельствует уже тот факт, что начиная с 1974 г, проводятся чемпионаты на первенство мира между шахматными программами. Чемпионаты приурочиваются к конгрессам МФПИ - Международной федерации по переработке информации,- проходящими один раз а три года. Чемпионат "шахматных машин" организуется так, что за шахматными досками сидят авторы программ. С помощью терминалов по соответствующим каналам связи они передают своим ЭВМ очередной ход программы противника. Ответный ход вычислительной машины воспроизводится на дисплее и повторяется на шахматной доске. За последние годы соперничество шло в основном между двумя сильнейшими программами - созданной советскими учеными (Г, М. Адельсон-Вельский, В. Л. Арлазаров,М.В.,Донской) "Каиссой" и разработанной в США (авторы - Д. Слейт и Л. Аткин) "Чесе 4". На первом чемпионате мира (Стокгольм, 1974) победу одержала "Каисса". На состоявшемся в августе 1977 г. втором чемпионате (Торонто, Канада) модернизированная "Чесе 4.6" победила "Кэиссу". В миттельшпиле,обе программы играли приблизительно в силу второго разряда. При этом различие в уровне игры не было заметным. Но в эндшпиле, когда существенное значение приобрела глубина рассчитываемых вариантов, перевес оказался на стороне программы "Чесе", так как американская машина работала быстрее и могла поэтому считать варианты на большее число ходов. По мнению М. М. Ботвинника, однако, обе программы страдают тем недостатком, что слабо используют чисто человеческие приемы отбрасывания заведомо не подходящих вариантов и расчета "релевантных" направлений игры на переменное - соответствующее положению на шахматной доске - число ходов. Под руководством эксчемпиона мира по шахматам разработана программа иного рода (она получила название "Пионер") : такая, что в нее заложены некоторые немаловажные черты, характеризующие игру шахматного мастера. Эта программа обещает значительное повышение класса машинной игры. На фоне современных работ по программированию шахмат, и особенно исследований М. М, Ботвинника, успешно работающего над созданием игровой программы большой силы (вплоть до уровня гроссмейстера), утверждения Дрейфуса по данному вопросу выглядят достаточно архаичными. (См. также статью "Что же могут вычислительные машины?", с. 330 настоящей книги.) (Стр. 50.) 35. Ср.А.Ньюэлп, Дж. Шоу, Г. А. Саймон. Процессы творческого мышления. - В кн.: Психология мышления. Сборник переводов, с. 525. перевод сделан с публикации: A. Newell, Сhaw, H. A. Simоп. The processes of creative thinkingT- In: Contemporary approaches to creative thinking. A Symposium held at the University of Voiorad H. E. Gruber, G. Terrell, M. Wertheimer (eds ). N.Y., Press, 1963. (Стр. 62.) 289 36.Оригинал: G. A. Miller, E.Galanter, К. Н. Рribram. Plans and the Structure of Behavior, N.Y.. Henrv Holt and Сотр., 1960, (Стр. 62.) 37.В опубликованном в "Кибернетическом сборнике" переводе этого места ошибочно говорится о шахматной программе. (Стр. 65.) 38.В приводимой далее цитате М. Мерло-Понти - а вслед за ним и X. Дрейфус - ошибаются, приписывая описываемый ниже эксперимент В. И., Пудовкину. В действительности эксперимент был произведен советским кинорежиссером Л. В. Кулешовым. Исчерпывающую справку по этому вопросу можно найти, например, в книге А. В. Караганова "Всеволод Пудовкин" (М., "Искусство", 1973, с, 14) : "Хрестоматийно известен эксперимент Кулешова с переосмысливанием внутрикадрового материала путем изменения монтажного контекста: крупный план лица артиста И. Мозжухина по-разному читается, когда монтируется с изображением молодой женщины в гробу, дымящейся тарелки супа или играющей девочки, (Кстати, пудовкинское описание этого эксперимента - в книге "Кинорежиссер и киноматериал"-стало первоисточником для всех последующих его толкователей, для исследования понятия "эффект Кулешова", вошедшего в эстетическую сокровищницу мирового кино.)" (Стр. 72.) 38.Автор недооценивает значение теории расплывчатых (нечетких, размытых) множеств Л. Заде, Эта бурно развивающаяся теория охватила ныне "расплывчатой логикой" не только теоретико-множественные и логические понятия, но и алгоритмы, автоматы, графы, системы управления и т. п.; она привела к новым подходам к семантике естественных языков, к вопросам принятия решений и пр. Подробнее об этом см. в статье редактора "Что же могут вычислительные машины?", с. 308-310 настоящей книги. (Стр. 74.) 39.Вопреки автору, никакого "затишья" в области моделирования процессов познания не наступило. Из того, что отдельные предположения кибернетиков относительно перспектив тех или иных линий исследований не оправдались, вовсе не следует какого-то "крушения" всего направления моделирования и автоматизации интеллектуально-творческих процессов. Наоборот, за годы, истекшие со времени написания книги Дрейфуса, модельно-кибернетические представления и средства исследования прочно вошли в арсенал анализа и объяснения познавательных механизмов, а содружество кибернетиков и психологов приобрело в данной исследовательской области во многом регулярный характер. См. статью "Что же могут вычислительные машины?", помещенную в конце данной книги.(Стр. 77) 40. Это противопоставление моделирования познавательного процесса (процессов работам в области "искусственного интеллекта"- области, в которой центральную роль играет переработка семантической информации,- достаточно натянуто и отражает разве что вполне естественную динамику в акцентах единого по своему "замыслу" направления кибернетических исследований (так же как и соответствующие изменения в терминологии) - направления, в меру своих возможностей старающегося учесть интимнейшие феномены осмысления и понимания, свойственные человеку. (Стр. 78.) 41.Обращаем внимание читателя на различный смысл термина "кибернетика" в отечественной и зарубежной, в частности американской, научной литературе. В нашей стране под кибернетикой понимается научное направление, охватывающее комплексным изучением процессы управления и переработки информации в сложных динамических системах различной природы (техника, жизнь, социальные процессы), в котором используются точные методы математики и средства современной автоматики, прежде всего ЭВМ. При таком понимании кибернетики в область ее исследований входят как теория автоматов и вычислительных систем, так и моделирование познавательных процессов и "искусственный интеллект". В США термин "кибернетика применяется в более узком смысле- как правило, для обозначения работ по моделированию процессов и систем живой природы, включая человеческую форму переработки информации. Поэтому принятому в советской литературе понятию "кибернетика" в американской литературе соответствует набор различных терминов, в частности (general) system theory и computer science. (Стр. 79) 43, Вряд ли можно согласиться со столь пренебрежительной оценкой разработок в области персептронов. Работа Ф. Розенблата (F. Rosenblatt. Principles of Neurodynarnics. Perceptrons and the Theory of Brain Mechanisms, Washington, D.C, Spartan Books, 1962; русский перевод: ф розенбпатт, Принципы нейродинамики. Лерсептроны и теория механизмов мозга. IVL, "Мир", 1965) в свое время была пусть скромным, но шагом вперед в моделировании некоторых нейродинамических структур. Возможности и ограничения, присущие схеме Розенблата (как и пер-септронэм вообще), быстро были выявлены исследователями; связанные с этим вопросы проанализированы М. Минским и С. Пейпертом в их книге "Персептроны" (М. Мinsky, S. Papert. Perceptrons. An Introduction to Computational Geometry. Cambridge, Mass., and London, МАЛ. Press, 1969). (Стр. 80.) 44. Оригинал издания, в котором опубликована данная статья М. Минского, представляет собой тематический выпуск журнала "Scientific American", vol. 215, N°3, September, 1966. (Стр. 82.) 45.Аналогом этого примера на русском языке может служить фраза "число попыток отнять мячик у собаки", где "отнять" может рассматриваться как оператор "вычесть". (Стр. 83.) 46.Автор прав, подчеркивая глубокие различия между машинным "пониманием" и осмыслением человеком явлений реальности и своего внутреннего мира - осмыслением, связанным с феноменом сознания. Однако невозможно согласиться с категорически негативной оценкой Дрейфусом возможности кибернетического моделирования некоторых - быть может, и существенных - черт человеческого понимания. См. об этом статью "Что же могут вычислительные машины?"(Стр. 86.) 47.Язык со структурой непосредственных составляющих - язык, рассматриваемый в качестве множества выражений; возникающих в ходе порождающего процесса, регулятиеы (правила преобразования) которого учитывают, грубо говоря, контексты тех выражений, которые подвергаются изменениям по соответствующим правилам.Языки с подобной структурой были впервые изучены в работах Н, Хомского, См.:А. В. Гладкий. Формальные грамматики и языки. М., "Наука", 1973. (Стр. 89.) 48.Имеется в виду фигура А на рис. 2. (Стр. 97.) 49. Критика X. Дрейфусом рассматриваемых им машинных программ за то, что они - каждая в отдельности - не допускают обобщения и развития, делающего их применимыми к более широкому и сложному кругу задач, бьет мимо цели, так как прогресс в кибернетическом моделировании процессов познания и создания систем "искусственного интеллекта" происходит не столько путем усовершенствования имеющихся программ, сколько посредством разработки новых алгоритмов и их машинных реализаций, основанных на новых идеях и обладающих более богатыми возможностями. При этом исследователи вовсе не "остаются на безопасном расстоянии от подлинной проблемы сложности", как утверждает автор, но как раз и работают над ее решением, не пытаясь предрешить вопрос о том, в какой мере последнее окажется теоретически возможным и практически осуществимым. (Стр. 97.) 50.Статья Ф. Тонга, входящая в раздел 3 части I данного коллективного труда, опубликована в нем с сокращениями. Цитируемый ниже текст в книге "Вычислительные машины и мышление" отсутствует. (Стр. 100.) 291 51. Для кибернетического моделирования познавательных процессов - а если говорить о позиции автора, для формулируемых им "допущений" - существенно не то, что переработка информации может производиться в двоичном коде, а то, что ее возможно представить как процесс преобразования конечных последовательностей (слов), состоящих из знаков некоторого (быть может, и весьма богатого) алфавита. Ниже, в примечании нас. 168, Дрейфус сам фактически отмечает это обстоятельство. (Стр.106.) 52.Это утверждение Дрейфуса - которое в различных вариациях неоднократно повторяется в книге - свидетельствует об упрощенном представлении автора о "философской традиции". В статье "Что же могут вычислительные машины?" читатель найдет относящиеся к этому вопросу необходимые разъяснения. Здесь мы только отметим, что если уж говорить о традиции, которая связывает духовное наследие прошлого с современной кибернетической установкой в изучении мышления и поведения человека, то ее, скорее всего, следует искать в идеях дедуктивной логики, связующих Лейбница с Дж. Булем, Г. Фреге и Д. Гильбертом и в середине нашего века приведших к мощны.,: концепциям и теориям современной математической логики. (Стр 106.) 53.Автор очень узко понимает логические отношения - только как логику высказываний, принимающих значение "истинно" либо "ложно". На деле современные методы логической формализации охватывают не только эти - элементарные - логические средства и не только их расширение в более богатую выразительно-дедуктивными возможностями логику предикатов, но и гораздо более широкий спектр логических построений (см. статью "Что же могут вычислительные машины?", с. 319 данной книги).(Стр. 106.) 54.Оригинал: J. von Neumann, Probabilistic logic and the synthesis of reliable organisms from unreliable components.-In: Automata Studies, ed. С. Е. Shannon and J. McCarty. Princeton Univ. Press, 1956. В перевод данной и следующей цитат из фон Неймзна, опубликованных в советских изданиях, редактором внесены уточняющие изменения. (Стр. 109.) 55. Оригинал: J. vori Neumann. The general and logical theory of automata-In: Cerebral Mechanisms in Behavior. The Hixon Symposium, ed. A. Jef- fress. New York - London, 1Э51; статья перепечатана во втором томе 'Мира математики" (см. прим. 12) . (Стр. 110.) 56.Аналоговый характер функционирования той или иной системы вовсе не является принципиальным препятствием для ее точного описания, что нижу признает и сам автор, и данное высказывание нельзя квалифицировать иначе, как выражение агностической установки вотношемии познания нейрофеноменов. (Стр. J11,) 57.Оригинал: С. E.Shann on. The mathematical theory of communication.-In: C.E. Shannon and W.Weaver. The Mathematical Theory of Communication. Urbana, Univ. of Illinois Press, 1962. (Стр. 115.) 58. Имеется в виду статья К. Шеннона "Бандвзгон" (1956). Шеннон говорит в ней, что "основные положения теории информации касаются очень специфического направления исследования, направления, которое совершенно не обязательно должно оказаться плодотворным в психологии, экономике и в других социальных науках... Я лично полагаю, что многие положения теории информации могут оказаться очень полезными в этих науках; действительно, в ней уже достигнуты некоторые весьма значительные результаты. Однако поиск путей применения теории информации в других областях не сводится к тривиальному переносу терминов из одной области науки в другую. Этот поиск осуществляется в длительном процессе выдвижения новых гипотез и их экспериментальной проверки". (К.Шеннон. Работы по теории информации и кибернетике, с, 668 J Шеннон, таким образом, вовсе не был противником распространения 292 теоретико-информационных методов на изучение семантических (осмысленных, значимых для человека) сообщений. Последующее развитие теории семантической информации - начиная с теории Р. Кэрнапа и И. Бар-Хиллела - показало, что хотя эти теории пользуются иным кругом понятий другим формализованным аппаратом, чем статистическая теория связи (прежде всего понятиями и аппаратом логики), они могут (и должны) быть согласованы с классической шенноновской теорией передачи сообще­ний по каналу связи. О теориях семантической информации и вообще об имеющихся подходах к логической теории смысла (значения) сообщений, в частности в работах советских ученых, см., например, в кн.: Управление, информация, интеллект, под ред. А. И. Берга и др, (М., "Мысль", 1976, "Щгл.ПЬ (Стр. 115.) 59.Термин information processing в данной книге в зависимости от контекста переводится двояко: и как "переработка (обработка) информации" (терминология, принятая в теории информации и технической кибернетике) , и как "информационный процесс (процессы) " (терминология, используемая чаще всего в психолого-кибернетической литературе). Следует заметить, что данный термин автор связывает исключительно с дискретной переработкой информации. Употребление этого понятия в отечественной литературе не обязательно предполагает подобное сужение, хотя бесспорно, что в кибернетике широко используется математический аппарат описания дискретных структур и систем. (Стр. 116.) 60.Это утверждение Дрейфуса нэ совсем ясно. Если бы мозг был гигантским скоплением нейронов, случайные связи между которыми не были бы подчинены никаким закономерностям, то он не мог бы целесообразно функционировать. Поскольку же упомянутые закономерности имеются, мозг как раз и оказывается сложной динамической системой в смысле кибернетики; вероятностный характер функционирования системы вовсе не противоречит определенной регулярности ее поведения, как, по-видимому, считает автор. (Стр. 116.) 61. Оригинал: Тh. Kuhn. The Structure of Scientific Revolutions. Chicago, Univ. of Chicago Press, 1962 (русский перевод сделан со второго, дополненного издания 1970 г.). (Стр. 123.) 62.По-видимому, имеется в виду планирование в смысле, близком к тому, что под этим понятием подразумевают Дж, Миллер, Е. Галантер и К. Прибрам в ккиге "Планы и структура поведения" (план - это "всякий иерархически построенный процесс в организме, способный контролировать порядок, s котором должна совершаться какая-либо последовательность операций", с. 30) . (Стр. 125.) 63.В своей интерпретации этой фразы автор использует тот факт, что местоимение he (он) в английской речи применяется обычно к одушевленным предметам, (Стр. 131.) 64. Лилибурлеро (Lifliburlero) - ирландская мелодия; сочинена либо обработана выдающимся английским композитором и органистом XVII века Г. Пёрселлом. В конце XIX- начале XX столетия легла в основу известной песни ирландских ультрапротестантов "Protestant Boys ". (Стр. 138.) 65.Возражения автора против реальности уровня информационных процессов в применении к человеческой психике и поведению не убедительны по крайней мере в том отношении, что "инварианты", о которых идет речь в приводимой в книге цитате из Дж- Фодора, на деле достаточно убедительным образом вы делимы на путях модельно-кибернетического исследования. См. статью "Что же могут вычислительные машины?", где в этой связи отмечаются работы советского исследователя Р. X. Зарипова. (Стр. 140.) 66.Так переведен используемый здесь автором термин performance. В этой главе Дрейфус широко использует идущее от Н. Хомского противопоставление лингвистической компетенции (linguistic competence), то 293 есть знания языка его носителем, и употребления языке (linguistic performance), то есть реального использования языка в конкретных ситуациях (см.: Н. Xомский. Аспекты теории синтаксиса, (MJ, Изд-во Московского ун-та, 1972, с. 9) , распространяя его за пределы сферы языка и речи и охватывая им поведение вообще (ср. использование понятия компетенции уже в следующем абзаце); далее, в разделе "Ошибочный аргумент, основанный на успехах современной лингвистики" данной главы пределы этого противопоставления сужаются до области собственно (психо) лингвистики (по Хомскому). В недавно вышедшей книге Д. Слобина и Дж. Грина "Психолингвистика" (перев. с англ., М., "Прогресс", 1976) упомянутые понятии Хомского переводятся соответственно как "языковая способность" и "языковая активность". Однако данный перевод затрудняет переход к тому обобщенному смыслу этого противопоставления, которым очень часто оперирует Дрейфус. Поэтому мы отказались от этих - весьма удачных - русских терминов и в зависимости от контекста варьируем русскоязычные эквиваленты обоих английских выражений; performance большей частью передается как действия, исполнение (правил), использование, употребление, применение и т. п.,a competence- как компетенция, знание. Фигурирующие ниже в тексте Дрейфуса термины theory of competence, theory of performance переводятся соответственно как "теория компетенции" и "теория деятельности". (Стр. 143.) 67.Оригинал: N.Chomsky. Aspects of the Theory of Syntax. Cambridge (Mass.), M.IT. Press, 1965. (Стр. 154.) 68.В оригинале: The idea is in the pen. (Стр. 158.) 69. Имеются в виду законы естественного и точного знания (англ- science). (Стр. 160.) 70. База данных - массив информации, хранящейся в памяти цифровой вычислительной машины (или вычислительной сети), с которым взаимодействуют вводимые в машину программы. (Стр. 169.) 71. Тезаурус - список выражений (словарь), отражающий семантические (смысловые) связи, существующие между выражениями некоторого языка или его фрагмента (принадлежность некоторых выражений к одной и той же смысловой рубрике; синонимия; отношение логического подчинения; связи части и целого между объектами, обозначаемыми соответствующими выражениями, и т.п.). (Стр. 170.) 72.."Маленький Джон искзл свой ящик с игрушками. Наконец он его нашел. Ящик был в его манеже. Джон очень обрадовался". Английское слово реп в числе своих многочисленных значений имеет: "ручка (для письма) ", " (детский) манеж" и "загон (для скота)". (Стр.177.) 73."Маленький Джонни играл на полу рядом со своим манежем ( реп ), Красной ручкой (реп) на зеленом листе бумаги он рисовал картинку. Закончив рисовать, он стал искать свой ящик с игрушками и нашел его в манеже ( реп )". (Стр. 177.) 74. Имеется в виду теория принятия человеком решений, касающихся осмысления высказываний и выбора способа речевого поведения. (Стр. 179.) 75. Референт - внеязыковой объект, являющийся значением данного языкового выражения. (Стр. 179.) 76. Хэш-кодирование (hash coding), или расстановочное кодирование,- кодирование номеров ячеек машинной памяти, при котором необходимая последовательность ячеек выбирается с помощью расстановочной функции, выдающей номер очередной ячейки по аргументам, значениями которых являются номера ранее выбранных ячеек. (Стр. 187.) 77. Критика понимания человека как пассивного “объекта" или "устройства"- в своей рациональной части - имеет иные и гораздо более глубокие философские истоки, нежели те, которые усматривает X. Дрей- 294 фуc. См. об этом статью "Что же могут вычислительные машины?' , с. 321 - 322 настоящей книги. (Стр. 197.) 78.Отождествление "моральной" невозможности и практической неосуществимости здесь не совсем точно. Невозможность машинного разума вытекает из религиозно-философской концепции Декарта, согласно которой "бог создал разумную душу и... соединил ее с телом" (Р. Декарт. рассуждение о методе. В кн.: Р. Декарт. Избранные произведения. М., 1950, с 293), автоматы же лишены души. Отсюда Декарт делает вывод, что, если бы были созданы говорящие машины, поведение которых имитирует человеческое, "они никогда не могли бы пользоваться ни словами, ни другими знаками, составляя их так, как делаем это мы, чтоб передавать другим наши мысли" (там же, с. 31 ) (Стр. 199.) 79.Здесь под феноменологией автор имеет в виду философское направление, связанное с именем Э. Гуссерля. Соответствующее прилагательное ниже часто употребляется в смысле "относящееся к феноменологии". Вместе с тем на протяжении всей книги автор использует его и в более общем (но в изложении Дрейфуса связанном с гуссерлианским) смысле "относящегося к миру явлений", данного человеку в его психической жизни. (Стр. 201.) 80.В следующем ниже анализе феноменов восприятия и мышления, а отношении которых Дрейфус верно подчеркивает аспекты их целостности и заключенного в них предвосхищения (установки), автор апеллирует к психологическим выводам трансцендентальной феноменологии (Гуссерль), экзистенциальной феноменологии (Мерло-Понти), а также к гештальтпсихологии. Если остаеить в стороне философскую ориентацию этих направлений, которая, в общем, не существенна для аргументации автора (и в отдельных пунктах даже критикуется им, ср. с, 210), -то окажется, что соответствующие взгляды (в их разумной, а не крайней форме, представленной у Дрейфуса) не являются чем-то новым, а составляют, пожалуй, "общее место" научной психологии. Во венком случае представления о целостности восприятия и моментах осмысления и предвосхищения, в нем заключенных, прочно входят в арсенал отечественной психологической мысли, развивающей традиции Л. С. Выготского, Д. Н. Узнадзе, С. Л. Рубинштейна и А. Р. Лурия. (Стр. 202.) 81.В сводных библиографических справочниках-ка 82.Гилетические данные (hyletic data) - от греч. "вещество", "материал", "материя". (Стр. 206.) 83. В перевод цитируемых слов М. Минского, как он фигурирует в указываемом источнике, внесены существенные изменения. (Стр. 208.) 84. Логическая ошибка поп sequitur (лат.) - "не следует" заключается в том, что некоторое суждение, логически не вытекающее из данных суждений (посылок), тем не менее принимается в качестве их следствия. (Стр. 211.) 85.Wunderbare (нем.) - чудесная, удивительная (способность). (Стр. 212.) 86.С лингво-информационным аспектом этой работы читатель может ознакомиться по книге Т. Винограда "Программа, понимающая естественный язык" (М., 1976; оригинал вышел в 1972 г.), О значении этой работы М. Минский говорил на Первой советско-американской конференции по проблеме связи с внеземными цивилизациями, состоявшейся в 295 сентябре 1971 г. в Бюрэкане (Армения) (см. Проблема CETI (Связь с внеземными цивилизациями), М., "Мир", 1975) . (Стр. 215.) 87.Негативная оценка автором перспектив роботостроения не может не вызвать возражений. Реальным ее опровержением является уже советский луноход. Разработки в области роботостроения идут в нарастающем темпе, хотя, разумеется, никто из специалистов, занятых в данной области, не ставит перед собой задачи "замены" человека автоматом. (Стр. 216.) 88.Психологическая теория Ж. Пиаже достаточно далека от гештальт- психологии. Концепция "системности" операций интеллекта, разработанная швейцарским психология, в определенном отношении ближе к "общей теории систем" (Л. Берталэнфи) и некоторым современным кибернетическим идеями, чем к психологии "гештальта". (См. А. Г. Ярошевский. Психология в XX столетии. Теоретические проблемы развития психологической науки. М., Политиздат, 1971, с. 237 и сл.). (Стр. 218.) 89.Это касается поздней фазы развития философских взглядов Витгенштейна. (Стр. 231.) 90.См. также: Вычислительные машины и мышление, с. 302 и сл. (Стр. 232.) 91. Функцией полезности называется функция, отражающая предпочтение одних альтернатив перед другими в некоторой ситуации,- предпочтение, которым руководствуется лицо, принимающее решение, в своем стремлении максимизировать положительный эффект собственного поведения. Характер функции полезности (принимающей значении из некоторого числового множества) существенно зависит от логических свойств рассматриваемого отношения предпочтения и от способа оценки ("взвешивания") альтернатив. (Стр. 241.) 92.Не ясно, что хочет сказать автор в этой и следующей фразе. По-видимому, он имеет в виду, то любые два объекта обладают некоторым набором общих свойств, а различение объектов означает выделение свойств ("более важных признаков"), которые присущи одному из них, но не присущи другому. (Стр.242.) 93. Оригинал: W.R.Reitman. Cognition and Thought. An Information- Processing Approach. New York - London - Sydney, J. Wily and sons, (Стр. 245.) 94.Это, разумеется, не относится к диапектико-материалистической "философской и психологической традиции". В советской психологии и социологии в полной мере учитывается значение потребностей - физиологически-материальных, ителлектуальных и особенно социально-нравственных - как регуляторов поведения. (Стр. 246.) 95.Согласно психологической теории Ж. Пиаже, процесс формирования интеллекта -от первых реакций младенца до развитого мышления взрослого - необходимо проходит четыре качественно различных стадии, из которых завершающая является стадией "формальных операций", то есть стадией овладения формальной логикой и навыками дедуктивно-гипотетического мышления, (Стр.264.) 96.Работа Б. Паскаля "О духе геометрии" (De l'esprit geometrique) и тематически связанная с ней работа "Об искусстве убеждения" (De l'art de persuader) посвящены характеристике математического мышления и формулировке некоторых важных принципов формальной логики (см. В. Рasсal. Oeuvres, vol. IX. Paris, 1914). Ниже, используя аналогию с паскалевым "духом геометрии", автор называет выделяемую им сферу IV разумного поведения обителью esprit de finesse - "духа проницательности". (Стр. 266.) 97.Из отечественных работ, в которых проводится различение форм интеллектуальной деятельности - формализованной (формализуемой), эвристической и творческой, - можно назвать коллективный труд "Управление, информация, интеллект", на с. 316-317 которого читатель может 296 найти предложенное 3. Л. Рабиновичем схематическое представление соотношения упомянутых проявлений человеческого разума. (Стр. 269) 98. Интересная идея разработки системы автоматической дедукции для математики, предполагающая такое взаимодействие людей-пользователей с вычислительно-информационным комплексом, которое приводит к обогащению дедуктивно-выразительных возможностей системы, предложена В.М. Глушковым (см. В. М. Глушков, Ю.В. Капитонова. Автоматизация поиска доказательств теорем математических теорий и интеллектуальные машины,- "Кибернетика", Киев, 1972, № 5; Ф.В.Ануфриев, З.М.Асельдеров. Алгоритм очевидности,' - Там же" "Управление, информация, интеллект", параграф "Новый подход к автоматизации дедуктивных построений. Алгоритм очевидности”.). (Стр. 277.) 99. Теория решеток (lattice theory), или теория структур, - теория алгебраических систем определенного вида, частным случаем которых является булева алгебра. (Стр.277.) 100. Автор имеет в виду взгляды П. Армера, согласно которым "мышление - это континуум, /т-мерный континуум" (П.Армер. О возможностях кибернетических систем. В кн.: М.Таубе. Вычислительные машины и здравый смысл. Миф о думающих машинах. М., "Прогресс", 1964); градации возможностей мышления (рассматриваемого в различных "измерениях") располагаются не на прерывной, а на непрерывной шкале для развития машин в этом "континууме", по Армеру, не существует априорных ограничений. (Стр. 278.) К послесловию (Б.Бирюков)

Содержание раздела

---

---