Искусственный интеллект
Когда Роджер Шенк выражал надежду на возможность создания программы, способной обучаться подобно тому, как это делает ребенок, он вторил словам Г. А. Саймона, сказанным им за 10 лет до того:
"Если система GPS представляет собой некоторую теорию, описывающую, каким образом машина может самостоятельно достичь более высокого уровня интеллекта или как люди обучаются языку, то пусть она совершенствует свой интеллект и пусть она обучается языку. Это вполне законное требование ... Не только от своего имени, но и от имени всех, работающих в этой области, я принимаю это требование и выражаю надежду, что один из нас в течение не очень продолжительного времени разработает соответствующие программы"1.
И Саймон, и Шенк выразили те безбрежные и грандиозные мечты, которые служат стимулом для работы в области искусственного интеллекта: в сущности, все это значит ни больше ни меньше, как построить машину, являющуюся моделью человека, робот, который должен иметь детство, обучаться языку, как это делает ребенок, пополнять свои знания о мире, воспринимая его при помощи своих органов чувств, и в конечном счете охватить всю сферу человеческой мысли. (Неважно, правда, лишь в данный момент, что осуществись эта мечта - мы будем располагать машиной, понимающей язык, но все еще не собственно теорией понимания языка, так как лицезрение некоторой машины, "обучающейся подобно тому, как это делает ребенок", не эквивалентно пониманию процесса овладения языком.)
Возможность или невозможность создания такой программы определяется тем, является ли человек просто одним из видов рода "систем обработки информации" или он представляет собой нечто большее. Я настаиваю на том, что в научном и в обыденном сознании чрезмерно упрощенное в целом понятие интеллекта преобладает и именно это понятие частично позволило разрастись грандиозным, но порочным фантазиям искусственного интеллекта. Я настаиваю также на том, что живой организм в значительной степени определяется теми задачами, с которыми он сталкивается.
Перед человеком возникают такие задачи, с которыми никакая машина никогда не сможет встретиться. Человек-это не машина. Еще я настаиваю на том, что, хотя человек почти наверное обрабатывает информацию, совсем необязательно он делает это так, как вычислительные машины. Люди и вычислительные машины не являются разными видами одного и того же рода.
Немногие научные концепции внесли такую сильную путаницу в мышление и ученых, и широкой публики, как "коэффициент умственных способностей" или, как его называют, intelligence quotient (I. Q.). Сама идея того, что интеллект можно количественно оценить с помощью простой линейной шкалы, причинила неописуемый вред нашему обществу вообще и образованию в частности. Например, в Соединенных Штатах она породила мощное направление педагогического тестирования, оказавшее серьезное влияние на академическую судьбу миллионов студентов, а следовательно, и на то, какие ученые степени смогли они получить. Она, в сущности, определяет тот "успех", которого сможет на протяжении своей жизни добиться человек, поскольку, по крайней мере в Соединенных Штатах, возможности "преуспеть" в общем открываются лишь для обладающих надлежащими дипломами, т. е. учеными степенями, свидетельствами о профессиональном образовании и т. п.
Когда современные педагоги утверждают, что тесты для определения умственной одаренности измеряют способность испытуемого хорошо учиться, они имеют в виду немногим более того, что эти тесты "прогнозируют" способность испытуемого успешно проходить через испытания типа экзаменов. Такая способность, естественно, обеспечивает получение степени и, следовательно, "успех". Таким образом, любая взаимосвязь результатов подобных тестов и "успеха" человека в том смысле, в каком это понятие, в общем, трактуется в обществе, должна неизбежно оказываться артефактом процедуры тестирования, Сам тест становится критерием того, с чем должна быть установлена его взаимосвязь! "Психологи должны стыдиться того, что они способствовали возникновению представления об общем умственном развитии, которое породило подобную программу тестирования"2.
Меня в данном случае заботит то обстоятельство, что мифы, окружающие тестирование с помощью I.Q., породили широко распространенное и глубоко ошибочное представление об интеллекте как в конечном счете о постоянном, непреложном и независимом в культурном отношении свойстве индивидуума (например, нечто вроде цвета его глаз) и, более того, как о признаке, допускающем даже генетическую передачу от поколения к поколению.
Недостаток тестирования с помощью I.Q. связан не с его ложностью, а с его неполнотой. Измеряются некоторые умственные способности, возведенные влиятельными кругами западноевропейских обществ по политическим мотивам в статус основных человеческих ценностей и, следовательно, "sine qua non" [Прим. перев.: Неизменное условие (лат.)] успеха. Такое тестирование неполно по двум причинам: во-первых, оно не учитывает, что творчество человека зависит не только от интеллекта, но и в очень большой степени от взаимодействия между интеллектом и другими методами мышления: интуицией и здравым смыслом; во-вторых, оно характеризует интеллект как линейно измеримое явление, существующее вне всякой системы отсчета.
Эйнштейн научил нас тому, что идея движения как такового бессмысленна, т. е. имеет смысл говорить лишь о движении объекта относительно некоторой системы отсчета, но не о каком-то абсолютном движении объекта. Когда, говоря неформально, мы замечаем, что поезд двигался, мы имеем в виду, что он двигался относительно некоторой фиксированной точки на Земле. В обыденном разговоре нам нет необходимости подчеркивать это обстоятельство, поскольку Земля (или наше тело) служит для нас своего рода "отсутствующей" системой отсчета, существование которой в большинстве обычных разговоров неявно предполагается и учитывается. Но физик, выступающий в качестве физика, не может позволять себе подобных вольностей. Его уравнения движения должны быть записаны применительно к той системе координат, относительно которой совершается описываемое ими движение.
Tочно так же обстоит дело и с интеллектом, который сам по себе - понятие бессмысленное.
Чтобы придать ему смысл, требуется некоторая система отсчета и задание соответствующей сферы мышления и деятельности. Причина, по которой эта необходимость не затрагивает нас в процессе обыденного обсуждения интеллекта, заключается в том, что соответствующая система отсчета (наши культурные и социальные установки вместе с их характеристическими сферами мышления и деятельности) в такой степени нас пронизывает, что подсознательно предполагается ее очевидность. Но наша культурная и социальная среда в действительности ни универсальна, ни абсолютна. Следовательно, как бы мы не использовали термин "интеллект" - в качестве ученых или педагогов, необходимо явно выделить сферу мышления и деятельности, заслуживающую термина "интеллектуальная".
Наша повседневная жизнь в изобилии дает нам примеры того, что интеллект проявляется лишь в конкретных социальных и культурных условиях. Самая необразованная мать, неспособная грамматически правильно написать на своем родном языке простейшую заметку (как, правда, многие профессора не в состоянии сделать этого на языках, которыми они владеют), постоянно находит тонкие и разумные (решения, касающиеся жизни ее семьи. Известные ученые-гуманитарии признаются, что не обладают интеллектом, необходимым для овладения школьным курсом алгебры. Признанные гении иногда проявляют совершенную бестолковость в организации собственной частной жизни. Вычислительные же машины совершают поразительные "интеллектуальные подвиги", например, обыгрывают в шашки чемпиона по шашкам и решают сложнейшие системы уравнений, но не могут перепеленать ребенка. Можно ли сравнивать между собой эти интеллекты? Нельзя.
Тем не менее идея измеримости интеллекта по некоторой абсолютной шкале, следовательно, сравнимости интеллектов, в различных формах глубоко проникла в мышление современного общества. На этой идее лежит ответственность, по крайней мере частичная, за многочисленные бесплодные дебаты о .том, возможно ли "в принципе" создать вычислительные машины, более разумные, чем человек.
Даже умеренные и разумные психологи, например Джордж А. Миллер, порой ошибаются, выступая с высказываниями типа:
"Я с очень большим оптимизмом смотрю на окончательный результат работ, посвященных машинному решению интеллектуальных задач. На протяжении нашей жизни машины могут превзойти нас по общему умственному развитию"3.
Отождествление интеллекта с I. Q. существенно извратило первоначально математический вопрос о том, что вычислительные машины могут и чего не могут делать, превратив его в бессмысленный вопрос: "Сколько" интеллекта можно (снова "в принципе") придать вычислительной машине? И, естественно, безрассудная антропоморфизация вычислительной машины, столь сейчас распространенная, особенно в среде "искусственной интеллигенции", легко сочетается с такими бесхитростными представлениями об интеллекте. Это соединение неоправданной метафоры с плохо продуманной идеей затем порождает (и воспринимает) как вполне закономерное предположение: вычислительную машину можно запрограммировать так, чтобы она эффективно выполняла функции психотерапевта.
Однажды я высказал надежду, что можно будет доказать существование некоторого предела (верхней грани) интеллекта, достижимого для машин, точно так же, как Клод Шеннон, создатель современной теории информации, доказал существование верхней грани для количества информации, которое можно передать по некоторому заданному информационному каналу. Шеннон доказал, например, что по определенному телефонному кабелю одновременно можно вести не более некоторого фиксированного числа телефонных переговоров. Однако прежде чем хотя бы просто сформулировать этот теперь по праву знаменитый результат, он должен был располагать каким-то способом квантификации информации. Как бы в противном случае он мог говорить о пропускной способности канала, обеспечивающей передачу "такой-то", но не "большей" информации? В самом деле, создание Шенноном меры величины информации уже само по себе представляет важный вклад в современную науку. (Учитывая, естественно, что он также разработал и убедительную теорию, в которой его мера играет решающую роль.)
Мне теперь ясно, что, поскольку об интеллекте можно говорить лишь применительно к определенным сферам мышления и деятельности и поскольку эти сферы не поддаются измерению, мы не можем воспользоваться какой-нибудь мерой интеллекта шенноновского типа и, следовательно, не существует теоремы того рода, на доказательство которой я рассчитывал. Проще говоря: можно выразить пожелание, даже высказать мнение о том, что имеется определенный предел интеллекта, достижимого машинами, но у нас нет способа придать этим пожеланиям и оценкам точное значение и безусловно нет способа доказывать их.
Является ли отсутствие возможности вычислить верхнюю грань для машинного интеллекта основанием для "оптимистического" вывода о том, что "машины могут превзойти нас в общем умственном развитии" или для того же "пессимистического" вывода? [прим авт.: Оптимист говорит: "Это наилучший изо всех возможных миров!" Пессимист отвечает: "Это верно"] Нет, это не основание ни для того, ни для другого. Мы установили, что дело обстоит как раз наоборот: любой довод, предполагающий получение или опровержение подобного вывода, сам сформулирован неверно и потому бесплоден.
Эти соображения проливают дополнительный свет на проблему, упоминающуюся в гл. 7, где говорилось о "целях, неуместных применительно к машинам". Многие станут утверждать, что прежде всего не имеет смысла говорить о целях машин. Но эта риторическая увертка, если отнестись к ней серьезно, оказывается просто голословным утверждением, так как она игнорирует то обстоятельство, что в реальной действительности люди перепоручают ответственность вычислительным машинам и наделяют их целями и намерениями.
Вопрос, который я пытаюсь здесь выяснить, заключается в следующем: "Какие цели и намерения человека не подходят для того, чтобы возлагать их на вычислительные машины?" Можно сконструировать автопилот и возложить на него задачу удержания самолета во время полета на заданном курсе.
Эта задача представляется подходящей для передачи ее выполнения машинам. Технически возможно также создать вычислительную систему, которая сможет проводить опрос больных, обращающихся в психиатрической диспансер, и подготавливать графическое отображение результатов опроса психически больного в виде таблиц и графиков, снабженных комментариями на естественном языке. Проблема состоит не в возможности сделать нечто, а в уместности передачи машине некой функции, прежде являвшейся прерогативой человека.
"Искусственная интеллигенция", как мы убедились, утверждает, что нет такой сферы человеческого мышления, которая была бы недоступна машинам. Они считают само собой разумеющимся, что машина может думать точно так же, как думает психиатр, занимаясь со своим пациентом. Они настаивают на том, что необходимость повышения производительности труда и снижения затрат диктует необходимость передачи подобных обязанностей машинам. Как заметил мне однажды во время дискуссии профессор Джон Маккарти: "Что из известного судьям мы не могли бы сообщить вычислительной машине?" Его ответ на этот вопрос, являющийся на самом деле снова нашим вопросом, но представленным в иной форме: естественно, "ничего". И, как он далее утверждал, совершенно естественно, что искусственный интеллект стремится создать машины для вынесения судебных решений.
Утверждение о том, что судьи и психиатры не знают чего-либо, не пригодного для передачи вычислительной машине, является следствием значительно более общего утверждения, с которым согласна вся "искусственная интеллигенция", а именно: среди всего, что вообще известно человеку, нет ничего такого, что, по крайней мере, в принципе нельзя было каким-то образом сделать доступным вычислительным машинам.
Не все специалисты в области информатики столь наивны, чтобы считать, что знание представляет собой просто определенную организацию "фактов" (в чем их когда-то обвиняли). Различные программы понимания языка и машинного зрения, в частности, хранят одну часть своих знаний в виде утверждений, т.
е. аксиом и теорем, а другую - в виде процессов. Действительно, планируя и исполняя некоторые сложные процедуры, эти программы синтезируют подпрограммы - воспроизводят новые процессы, которые в явном виде не определялись программистами. Некоторые существующие вычислительные системы, в частности, так называемые системы "рука - глаз", приобретают знания, непосредственно изучая среду, в которой они действуют. Следовательно, подобные машины узнают новое не только, когда им что-то сообщается в явном виде, но также и открывая "новое" в процессе непосредственного взаимодействия со своим внешним миром. И наконец, определенным навыкам вычислительную машину можно обучить; скажем, удержанию в равновесии метловища, опирающегося на один конец, показывая, как это делается, причем даже в том случае, когда сам инструктор совершенно не в состоянии на словах объяснить, как он делает этот трюк. Дело обстоит таким образом, и это действительно реальный факт, что знание людьми каких-то вещей, которые они не в состоянии передать с помощью устного или письменного сообщения, само по себе не является достаточным основанием для утверждения о существовании неких знаний, в принципе, не доступных вычислительным машинам.
Однако, чтобы "признание" мной наличия у вычислительных машин мощи, дозволяющей им приобретать знания многими способами, не рассматривалось как значащее больше, чем я имел в виду, попробую сформулировать свою позицию вполне определенно.
Во-первых (это наименее важно), способность даже наиболее совершенных из ныне существующих вычислительных систем собирать информацию методами, отличными от определенных Шенком как "кормление с ложечки", все еще чрезвычайно ограниченна. Мощь существующих эвристических методов выделения знаний даже из естественноязыковых текстов, вводимых в вычислительные машины непосредственно "с ложечки", базируется на шаткой основе, по выражению Винограда, "тончайшего пласта необходимого знания". Просто абсурдно считать, что любая из существующих вычислительных систем может вообще как-то узнать известное, скажем, двухлетнему ребенку об игрушечных кубиках.
Во-вторых, совсем не очевидно, что все человеческие знания представимы с помощью "информационных структур", даже самых сложных. Человек может, например, знать, какое именно эмоциональное воздействие окажет касание руки другого человека и на этого человека, и на него самого. Приобретение таких знаний определенно не является функцией одного только мозга; оно не может просто сводиться к некоторому процессу передачи какой-то информационной структуры из определенного источника во внешнем мире в определенный участок мозга. Соответствующие знания частично имеют кинестетический [Прим. перев.: Кинестетический - относящийся к движению. Известны так называемые кинестетические ощущения, т. е. ощущения движения ("мускульное чувство"), сигнализирующее о сокращении мышц и о положении членов тела. У человека все мышцы, сухожилия и суставы снабжены так называемыми проприоцепторами, чувствительными к напряжению и растяжению мышц, натяжению сухожилий и т. п.] характер; для получения их необходимо как минимум иметь руку. Существуют, таким образом, определенные вещи, которые люди узнают благодаря наличию у них тела. Ни один живой организм, не обладающий телом, подобным телу человека, не в состоянии знать эти вещи так, как знают их люди. При любом символическом представлении их утрачивается какая-то информация, существенная с точки зрения определенных человеческих целей.
В-третьих (пример с касанием руки относится и к этому случаю), существуют некоторые вещи, которые люди узнают только в результате того, что другие люди воспринимают их в качестве людей и обращаются с ними соответствующим образом. Ниже я подробнее остановлюсь на этом моменте.
И, наконец, в-четвертых, даже те разновидности знаний, которые внешне кажутся поддающимися передаче от одного человека другому исключительно посредством языка, на самом деле совсем не столь пригодны для коммуникации. Клод Шеннон показал, что даже в абстрактной теории информации "информационное содержание" некоторого сообщения является функцией не только самого сообщения, но решающим образом зависит от уровня знаний принимающего и от того, чего он ждет.
Сообщение: " Прибываю семичасовым самолетом, люблю, Билл" - несет различное информационное содержание для жены Билла, знающей, что он должен вернуться домой, но не знающей, каким именно самолетом, и для какой-нибудь девушки, которая вообще никакого Билла не ждет и удивлена его признанием в любви.
Язык в реальном употреблении отличается неопределенностью, совершенно несоизмеримой, естественно, с неопределенностью тех аспектов языка, которые поддаются анализу с помощью теории информации. Но даже приведенный мной пример, показывает, что язык связан с биографиями тех, кто им пользуется, а следовательно, и с историей общества, т. е. на самом деле вообще всего человечества. Язык же человека не столь чисто функционален в этом смысле, как функциональны машинные языки. Язык человека не отождествляет вещи и слова лишь с теми целями, к достижению которых он непосредственно стремится, или объектами, подлежащими преобразованию. Употребление человеком языка - проявление его памяти, которая-совершенно иное, чем запоминающее устройство вычислительной машины, приобретшее в результате антропоморфизацин статус "памяти". Например, память человека порождает надежды и страхи, однако трудно представить себе, что могли бы означать слова "вычислительная машина надеется".
Эти соображения затрагивают не только определенные технические ограничения, свойственные вычислительным машинам, но связаны также и с основной проблемой - что значит быть человеком и что значит быть вычислительной машиной.
Я согласен с положением, что современная вычислительная система достаточно сложна и автономна, чтобы о ней можно было говорить, как о некотором организме. Учитывая ее возможности воспринимать свою среду и воздействовать на нее, я согласен даже с тем, что в некотором крайне ограниченном смысле ее можно сделать "социальной", т. е. модифицирующей в соответствии с опытом, приобретаемым ею в ее мире [Прим. перев.: Под социализацией в социологии понимается процесс усвоения человеческим индивидом определенной системы знаний, норм и ценностей, позволяющих ему функционировать в качестве полноправного члена общества; включает как целенаправленное воздействие на личность (воспитание), так и стихийные, спонтанные процессы, влияющие на ее формирование].
Я признаю также и то, что у сконструированного должным образом робота можно вызвать чувство самоощущения - он может, например, научиться различать части своей конструкции и объекты, находящиеся вне его, робота можно заставить назначать более высокий приоритет защите своих частей от механических повреждений, чем аналогичной защите объектов, не принадлежащих его конструкции, он может сформировать некоторую модель самого себя, которую в определенном смысле можно было бы рассматривать как своего рода самосознание. Следовательно, когда я говорю о своей готовности считать подобного робота неким "живым организмом", я выражаю свое согласие рассматривать его как некое животное. Кроме того, я уже признал, по крайней мере в принципе, что не вижу способа определить границу степени разумности такого рода "живого организма".
Я сделал эти оговорки, как назвали бы их юристы, не потому, что считаю возможным создание в "обозримом будущем" "социального" робота, признаваемого таковым любым объективным наблюдателем. Я не считаю это возможным, но пояснение нужно для того, чтобы избежать ненужных, бесконечных и в итоге бесплодных упражнений на тему создания каталога, доступного и недоступного вычислительным машинам здесь или где-нибудь еще, сегодня или когда бы то ни было. Эти упражнения отвлекут нас от главной проблемы: существуют ли цели, достижение которых неуместно перекладывать на вычислительные машины.
Если и люди, и машины поддаются социализации, то следует спросить, в чем социализация человека должна обязательно отличаться от социализации машины. Ответ, естественно, столь очевиден, что сама постановка такого вопроса кажется смехотворной, если не неприличной. Ставить подобную проблему - один из признаков безумия нашего времени.
Любой живой организм социализируется в процессе разрешения возникающих перед ним задач. Именно те биологические характеристики, которые выделяют один вид из ряда других, определяют, с каким перечнем задач он будет сталкиваться и в чем состоит их отличие от задач, возникающих перед любым другим видом.
Каждый вид, хотя бы только поэтому, будет специализироваться по-своему.
Человеческий детеныш, как отмечали многие, рождается преждевременно, т. е. в состоянии абсолютной беспомощности. Но у младенца имеются биологические потребности, которые, чтобы он просто выжил, должны удовлетворяться кем-то другим. Действительно, многочисленные исследования детских домов показывают, что грудной ребенок нуждается в удовлетворении не только элементарных физических потребностей; младенец умрет, если он накормлен и умыт, но с самого момента рождения не окружен нежностью и лаской, т. е. если другие люди не относятся к нему как к человеку4.
Катастрофа, по выражению Эрика Эриксона, заключается в том, что любой человек обязательно должен сам пройти через библейскую историю о рае. В течение некоторого времени ребенок только требует и любая его потребность должна удовлетворяться; от него же ничего не требуется. Затем, часто после того, как у ребенка появляются зубы и он начинает кусать грудь, которая его кормит, единство между ним и его матерью нарушается. Эриксон полагает, что эта универсальная драма человека (представляет собой онтогенетический вклад в библейское сказание об эдемском саде [Прим. перев.: Под социализацией в социологии понимается процесс усвоения человеческим индивидом определенной системы знаний, норм и ценностей, позволяющих ему функционировать в качестве полноправного члена общества; включает как целенаправленное воздействие на личность (воспитание), так и стихийные, спонтанные процессы, влияющие на ее формирование]. Этот период настолько важен в жизни ребенка, что
"внезапное лишение привычной материнской любви без соответствующей компенсации на протяжении этого периода [при прочих неблагоприятных условиях] может привести к возникновению у младенца острой депрессии или к слабо выраженному, но хроническому плачу, способному вызвать депрессивный фон, который сохранится на протяжении всей его жизни. Но даже и при самых благоприятных обстоятельствах этот период оставляет после себя в наследство первородное ощущение греха, рока и вселенской ностальгии по потерянному раю.
Следовательно, [эти ранние стадии] формируют у младенца начала основного чувства доверия и основного чувства недоверия, которые остаются на протяжении всей жизни источником самозарождения и основных надежд, и чувства рока"5.
Таким образом начинается восстановление мира в воображении отдельного человека. Мир этот, как я отмечал выше - хранилище субъективизма человека, стимулятор его сознания и в конечном счете творец тех будто бы внешних сил, с которыми человек должен сталкиваться на протяжении всей своей жизни.
"По мере того, как диапазон понимания, установления связей и восприимчивости ребенка расширяется, он встречается с учебными элементами своей культуры и в результате узнает основные атрибуты человеческого существования, каждый существенный в личном или культурном отношении путь ... Приобретать ... означает воспринимать и усваивать то, что дается. Это первый социальный метод, который усваивает человек; причем звучит это проще, чем оказывается на самом деле. Дело в том, что продвигающийся на ощупь неустойчивый организм новорожденного обучается этому приему только после того, как приобретает умение регулировать свои системы органов в соответствии с тем способом, которым материнская среда реализует свои методы ухода за ребенком..."
"В целом оптимальная ситуация, обеспечивающая подготовленность ребенка к получению того, что ему дается, - это взаимная подстройка ребенка и матери, позволяющая ему развивать и координировать свои методы получения по мере того, как она развивает и координирует свои методы, посредством которых она "дает". ... Кажется, что рот и сосок груди служат просто центрами общей ауры сердечности и взаимной зависимости, которой наслаждаются и на которую реагируют расслаблением не только эти органы, находящиеся в центре событий, но и оба организма в целом. Взаимность ослабления напряжения, возникающая таким образом, имеет первостепенную важность для первого опыта общения с дружелюбной внешней силой. Можно сказать ..., что в процессе получения того, что ему дается, и обучения давать другому возможность делать для себя то, что он хотел, чтобы было сделано, ребенок создает также в себе необходимую основу для главного: самому начать становиться человеком, дающим что-то другим."6
Из этих замечаний Эриксона ясно, что начальные (и решающие) этапы социализации человека обеспечивают тотальную связь двух живых организмов - ребенка и его матери, приводящую к нерасторжимой взаимозависимости удовлетворения их глубочайших биологических и эмоциональных потребностей. И из этого чреватого проблемами вновь обретенного единства матери и ее ребенка (так как порождает травмы, связанные с их разлучением) возникают основы понимания человеком того, что значит давать и получать, доверять и не доверять, быть чьим-нибудь другом и самому иметь друга, ощущать надежду и испытывать удары судьбы.
Говоря о теориях (с. 189), я отмечал, что ни один термин ни одной теории нельзя понять полностью. То же самое можно сказать о словах вообще, особенно о таких словах, как "доверие", "дружба", "надежда", и образованных из них словах. Эриксон показывает, что подобные слова получают свои значения из самого раннего и универсального опыта человека, а понимание этих слов всегда неизбежно носит метафорический характер. Эта глубокая истина свидетельствует также о том, что понимание человеком мира в целом, поскольку оно достигается при помощи языка, всегда обязательно вынуждено обходиться метафорическими описаниями. И поскольку ребенок, как указывает Эриксон, "встречается с учебными элементами своей культуры" и "в результате узнает основные атрибуты человеческого существования, каждый существенный в личном и культурном отношении путь", то любая культура, т. е. на самом деле любой отдельный человек, принадлежащий этой культуре, понимает подобные слова и язык, а следовательно, и собственно мир способом, идиосинкразическим в культурном и личном отношениях.
Я мог бы продолжать описывать и более поздние этапы социализации человека - влияния, оказываемые обучением в школе, браком, тюремным заключением, войной, ненавистью и любовью, переживаниями, связанными с чувствами вины и стыда, столь радикально отличающимися в разных человеческих культурах, и т.
д. Однако это ничуть не помогло бы тем, кто еще не убежден в том, что всякое "понимание", которым, как можно считать, обладает вычислительная машина, а следовательно, любой "интеллект", который ей можно приписать, имеет лишь самое отдаленное отношение к пониманию и интеллекту, свойственным человеку. Мы же сделаем вывод о том, что какого бы интеллекта не смогли сегодня или в будущем достичь вычислительные машины, их интеллект всегда будет чужд истинным проблемам и заботам человека.
И тем не менее экстремистское (закоренелое) крыло "искусственной интеллигенции" будет настаивать на том, что человек в целом (снова используем выражение Саймона)-это, в сущности, некая система обработки информации и, следовательно, информационная теория человека должна оказаться адекватной для объяснения поведения человека во всей его полноте. Можно было бы принять большую посылку, но не считать, что из нее необходимо следует указанный вывод.
Мы уже убедились в том, что часть "обрабатываемой" человеком информации имеет кинестетический характер, т. е. "хранится" в его мышцах и суставах. Просто неочевидно, что такую информацию и соответствующую ее обработку можно вообще представить в виде структур данных и программ вычислительных машин.
Естественно, можно доказывать принципиальную возможность имитации на вычислительной машине всей сети клеток, образующих тело человека, но в этом случае должна возникнуть теория обработки информации, совершенно отличная от всего созданного в этой области до сих пор. Кроме того, подобная имитация приведет к "поведению", реализуемому в таком невероятно большом масштабе времени, что ни один робот, построенный на основании этих принципов, не имел бы, на - самом деле, возможности вступать во взаимодействие с человеком. И наконец, нет никаких надежд на то, что в ближайшие несколько сот лет человечество разовьет нейрофизиологию в степени, достаточной для создания интеллектуального фундамента, который позволил бы создать такую машину.
Следовательно, подобными доводами можно пренебречь.
Существует еще одно допущение, введенное создателями моделей человека, придерживающимися информационного подхода, которое может оказаться неверным, причем его опровержение существенно подрывает всю их программу. Речь идет о существовании одного и только одного класса информационных процессов и сводимости любого элемента этого класса к тому роду информационных процессов, примерами которых служат системы типа GPS и формализмы понимания языка шенковского типа. Все-таки у любого человека возникает впечатление, что он мыслит при помощи интуиции, озарения и прочих неформальных механизмов подобного типа, по крайней мере в той же степени, как и посредством логических средств. Вопросы типа "Может ли вычислительная машина иметь оригинальные идеи? Может ли она придумать метафору, написать симфонию или поэму?" не прекращаются. Дело обстоит так, будто обыденное сознание знает разницу между машинным мышлением и тем способом мышления, который обычно практикуют люди. Естественно, "искусственная интеллигенция" не считает, что какая-то разница должна существовать. Эти люди улыбаются и говорят: "Не доказано".
Тем не менее на протяжении приблизительно 10 последних лет началось накопление неврологических данных, позволяющее допустить наличие научных оснований для указанной позиции обыденного сознания7. Уже давно известно, что мозг человека состоит из двух полушарий, кажущихся по крайней мере с первого взгляда, идентичными. Однако обе половины, которые будем называть ЛП (левое полушарие) и ПП (правое полушарие), выполняют совершенно разные функции. Грубо говоря, у людей, делающих все правой рукой (для простоты можно ограничить наше обсуждение ими), ЛП управляет правой половиной тела, а ПП - левой половиной. (На самом деле эти связи несколько сложнее, в частности, те, которые существуют между обеими половинами мозга и глазами, но здесь я не буду рассматривать эти подробности.) Значительно важнее то, что обеим половинам мозга как бы свойственны два совершенно различных способа мышления.
ЛП обладает, так сказать, упорядоченным, последовательным и, как можно было бы сказать, логическим мышлением. ПП, судя по всему, мыслит в терминах холистических образов [Прим. перев.: Холистический - производное от греческого "холос" ("holos") - целый, весь, т. е. в нашем случае - целостный. Отметим, что в философии под названием "холизм" известна одна из так называемых организмических теорий - философско-методологических и естественнонаучных концепций об органической целостности и возникновении новых качеств или законов при повышении организации]. Обработка языка как будто бы полностью сконцентрирована в ЛП, а ПП тесно связано с выполнением таких задач, как пространственная ориентация или создание и понимание музыки.
Различие функций двух полушарий драматически проявляется у больных, страдающих острыми формами эпилепсии и подвергшихся в связи с этим операции хирургического разделения обоих полушарий. У человека два полушария соединяются частью мозга, называющейся corpus callosum [Прим. перев.: Мозолистое тело (лат.)]. После его рассечения всякая связь между двумя полушариями становится невозможной. Было обнаружено, что, если так называемый больной с расщепленным мозгом не видит своих рук, а в его, скажем, левую руку вкладывают карандаш, то он не может сказать, что именно ему дали, но в состоянии продемонстрировать, что это был карандаш, нарисовав его или выбрав изображение карандаша из изображений множества различных предметов. При проведении такого же эксперимента с правой рукой больной в состоянии сказать, что получил карандаш, но не в состоянии воспроизвести или узнать его изображение. В первом случае ПП воспринимало "изображение" карандаша и было способно перекодировать его в зрительное представление, но не в лингвистические структуры. Во втором случае ЛП воспринимало "изображение" карандаша и было способно дать его лингвистическую, но не зрительную кодировку.
Имеются также убедительные данные (на которых я не буду здесь подробно останавливаться), свидетельствующие о том, что ПП служат основной резиденцией интуиции и мыслит совершенно независимо от ЛП.
Один из способов определения интуитивного мышления заключается в констатации того, что, хотя оно и имеет логический характер, тип данных, используемых им при получении суждений, резко отличается от тех стандартов доказательств, которые обычно ассоциируются с логическим мышлением. Например, обычно говоря об одинаковости каких-то двух вещей, мы имеем в виду, что они идентичны почти во всех отношениях; стандарты доказательств, необходимых для обоснования подобного вывода, исключительно высоки. Когда же мы строим метафору, мы имеем в виду одинаковость двух каких-то вещей в совершенно ином смысле. Метафоры просто не обладают логикой; при буквальном их восприятии они становятся явно бессмысленными. Другими словами, ПП пользуется критериями абсурдности, которые существенно отличаются от подобных критериев ЛП.
История человеческого творчества переполнена рассказами о людях искусства и ученых, после упорной и продолжительной работы над какой-то задачей сознательно решавших "забыть" о ней, т. е. в сущности передать ее в свое ПП. По прошествии определенного времени, часто совершенно внезапно и абсолютно неожиданно, перед ними возникало решение их задачи в почти законченной форме. Очевидно, ПП может справляться с самыми трудными логическими и регулярными задачами с помощью, как мне кажется, смягчения жестких стандартов мышления, свойственных ЛП. Задавшись более свободными стандартами, используемыми ПП, можно было бы, вероятно, спланировать такие эксперименты в области мышления, с которыми ЛП из-за его негибкости просто не смогло бы справиться. ПП, таким образом, способно находить решения, которые затем, естественно, могут быть с помощью ЛП сформулированы в строго логических терминах.
Можно предположить, что у детей канал связи между двумя половинами мозга широко открыт; таким образом, сообщения совершенно свободно циркулируют между двумя половинами мозга. Может быть, именно поэтому дети обладают таким необузданным воображением - например, сейчас коробка из-под сигар для них - автомобиль, а через минуту - лошадь.
У взрослых этот канал становится значительно уже - не знаю, то ли вследствие получаемого образования, то ли из-за процессов физиологического созревания, то ли из-за действия обоих этих факторов. Но очевидно, что он, несколько расширяется во время сна.
Можно предположить также, что психоаналитики помимо проведения входящей в их функции психотерапии обучают людей и пользованию этим каналом. Во время психоанализа человек, по удачному выражению Теодора Рейка, учится слушать "третьим ухом", т. е. внимать "голосу" бессознательного. Возможно, различные созерцательные дисциплины служат этой же цели.
Все это явные догадки, не дающие нам оснований, для каких-либо выводов о том, как люди или вычислительные машины обрабатывают информацию. Но даже как предположения они поднимают очень серьезный вопрос об универсальности того метода обработки информации, который мы обычно связываем с логическим мышлением и программами вычислительных машин.
Свидетельства в пользу гипотезы о том, что правое полушарие мозга - это, грубо говоря, "резиденция интуиции", как будто бы продолжают поступать. Но имеющиеся данные все еще не убедили ни одного философа или психолога настолько, чтобы он решился включить эту гипотезу в свою теорию работы мозга.
Однако в этом направлении многое уже установлено твердо: два полушария мозга человека мыслят независимо друг от друга; они мыслят одновременно; способы их мышления различны. Более того, нам есть что сказать об этих двух способах.
Великий математик Анри Пуанкаре писал в своем знаменитом эссе "Математическое творчество"8 .
"...Сознательное "я" в крайней степени ограничено; что же касается подсознательного "я", то нам неизвестны его границы..."
"самые же вычисления приходится выполнять... во время периода сознательной работы, следующего за озарением, когда проверяются результаты, принесенные озарением, и выводятся из них следствия. Правила этих вычислений отличаются строгостью и сложностью; они требуют дисциплины, внимания, участия воли и, следовательно, сознания.
В подсознательном же "я" господствует в противоположность этому то, что я назвал бы свободой, если бы только можно было дать это имя простому отсутствию дисциплины..." .
"Среди не сознаваемых явлений привилегированными, т. е. способными стать сознаваемыми, оказываются те, которые прямо или косвенно оказывают наибольшее воздействие на нашу способность к эмоциональной восприимчивости".
"...Роль этой бессознательной работы в процессе математического творчества кажется мне неоспоримой; следы ее можно было найти и в других случаях, где она является менее очевидной" [Прим. перев.: Цитаты из эссе Пуанкаре в основном приводятся по тексту русского перевода (с учетом изменений, происшедших в орфографии русского языка с момента ее выхода): Г. Пуанкаре, Наука и метод: пер. с франц. И. К. Брусиловского/ Под ред. приват-доцента В. Ф. Кагана. - Одесса; изд-во "Матезисъ", 1910, с. 48-74 (см. [8])]
Конечно, Пуанкаре, писавший это в начале XX в., ничего не знал об открытиях исследователей мозга, работающих сейчас. И мы перескакиваем через необходимые этапы доказательств, когда отождествляем то, что Пуанкаре называл сознательным и бессознательным "я" с левым и правым полушариями мозга соответственно. Наше же утверждение сейчас состоит в том, что имеются два различных способа человеческого мышления, действующих независимо и одновременно. И это утверждение слова Пуанкаре поддерживают.
Наш современник, чрезвычайно уважаемый ученый, психолог Джером Брунар пишет по тому же поводу в несколько ином ключе (напомним, что правая рука связывается с левым полушарием, а левая - с правым, или "интуитивным", полушарием):
"В течение пятнадцати лет я прилежно изучал процесс познания, оставаясь "психологом, действующим правой рукой": я пытался выяснить, каким образом мы приобретаем, храним и преобразуем знания о мире, в котором мы все живем, - мире, существующем частично "вне", а частично "внутри" нас.
При этом я пользовался теми средствами, которые употребляет ученый-психолог, изучая восприятие, память, обучение, мышление, причем (будучи сыном своего времени) я адресовал свои вопросы и лабораторным крысам, и людям. Временами, однако, я брал на себя роль врача и занимался лечением детей. ...Было время, когда, несколько обескураженный сложностью психологии познания, я пытался найти спасение в нейрофизиологии, но обнаружил, что нейрофизиолог может помочь мне лишь в постановке разумных психологических вопросов".
"Одно становилось мне все яснее в процессе изучения природы знания. Это то, что общепринятый аппарат психолога - и его средства исследования, и понятийные инструменты, используемые им при интерпретации данных, - не затрагивают один подход. Это тот подход, в котором средством обращения служит метафора, обеспечиваемая левой рукой. Это способ, рождающий удачные прозрения и "счастливые" догадки, побуждающие поэта и чародея находить между вещами связи, не доступные обычному взгляду. Эти прозрения и интуитивные догадки рождают собственную грамматику - поиска связей, установления сходств, свободного сплетения идей в ткань новых представлений..."
"[Психолог] тоже прибегает к обширному метафорическому поиску сравнений. Он читает романы, рассматривает, а иногда и сам пишет картины, поражается силе мифов и подсознательно благоговеет перед человеком. Ведя себя таким образом, он лишь отчасти поступает, как должно психологу, загоняющему экспериментальные "случаи" в прокрустово ложе критериев, выводимых из своих гипотез.
Подобно другим он наблюдает жизнь человека со всей той восприимчивостью, которую он может воспитать в себе в надежде на углубление ее постижения. Если ему повезет или если он обладает тонкой психологической интуицией, то время от времени у него будут возникать озарения - комбинаторные результаты его метафорической деятельности. Если он не будет пугаться этих продуктов собственной субъективности, то ему удастся добиться "приручения" метафор, порождающих его прозрения; он овладеет ими в том смысле, что сможет перенести их из левой руки в правую, сформулировав их в поддающихся проверке категориях.
В результате наблюдения за своей деятельностью и деятельностью коллег у меня сложилось впечатление, что "перековывание метафорических прозрений в поддающиеся проверке гипотезы происходит постоянно""9.
У меня, естественно, тоже создалось такое впечатление. Здесь Брунер явно говорит о левой руке, т. е. о правом полушарии мозга, как о художественном, интуитивном и тому подобном, и о правой руке, т. е. левом полушарии мозга, как об "общепринятом аппарате психолога", и указывает на неадекватность его "понятийных инструментов".
Из свидетельств сотен творчески одаренных людей, а также из нашей собственной интроспекции мы знаем, что творческий акт человека всегда включает сознательную интерпретацию сообщений, поступающих из подсознания, т. е. перенос, по выражению Брунера, идей из левой руки в правую.
Бессознательное, естественно, бессознательно. Оно подобно штормовому морю, бушующему в нас. Его волны набегают на границы нашего сознания. И все, что мы узнаем благодаря подсознанию или о подсознании, основывается на тех выводах, к которым мы приходим, оценивая значение могучих валов, зыби и гребней волн, накатывающихся на наше сознание, и мелкой ряби волн, плещущихся у его краев. Иногда, находясь в том полугипнотическом состоянии, которое отделяет бодрствование от сна, мы пристальнее вглядываемся в этот прибой. Но обнаруживаем мы лишь полный хаос. Все наши навыки мышления оказываются совершенно перепутанными. Если же мы разрываем путы сна, то не в состоянии выразить, не можем перевести или преобразовать в лингвистические формы то, что мы испытывали в мыслях.
Разве несомненное существование этого смещения, если его сопоставить с остальными приводившимися мной свидетельствами, не придает вес в общем вполне правдоподобному предположению о том, что виды информации, обрабатываемой в правом полушарии, так же, как и соответствующие информационные процессы, просто другие, не такие, как вид информации и информационные процессы левого полушария? И не может ли оказаться так, что мы, в принципе, в состоянии понять эти неизвестные нам виды информации и информационные процессы лишь в терминах, по существу не пригодных для понимания того рода, к которому мы стремимся? Когда в отдаленном будущем будут установлены детали работы мозга на нейрофизиологическом уровне, мы сможем дать фактически редукционистское объяснение работы правого полушария [Прим.
перев.: Под редукцией понимается методологический прием, заключающийся в приведении некоторых данных, задач в удобный для анализа или решения вид, а также в восстановлении прежнего состояния, приведении сложного к более простому. Этот прием широко используется в математике, биологии, лингвистике и т. д. В западной литературе проблемы редукции до последнего времени рассматривались в рамках двух довольно слабо связанных между собой направлений. Философия науки изучала вопрос о возможностях редукции одной (предположительно более частной) теории к другой (более общей). Другой аспект проблемы редукции связан с изучением возможностей и границ применения в биологии физических и химических методов, с особенностями проявления физико-химических закономерностей в живых структурах. Абсолютизация редукции приводит к так называемому "редукционизму" - концепции, утверждающей возможность полного сведения высших явлений к низшим, основополагающим. Редукционизм прослеживается в "механицизме"-стремлении рассматривать психическое только как результат физиологических, информационных и других процессов. "Принципиальное отличие диалектико-материалистического подхода к методологии биологического исследования... состоит в признании внутреннего единства, органической взаимозависимости и существенной взаимодополнительности физико-химических и вообще аналитических, системно-целостных и эволюционно-исторических методов познания жизни. Путь редукции, при всей его важности и необходимости для биологического познания, оказывается методологически плодотворным и перспективным лишь в том случае, если движение по этому пути осуществляется в тесной связи с движением в направлении теоретического синтеза, интеграции добытого знания в целостную картину организации и эволюции живого" (из "Предисловия" И. Т. Фролова и Б. Г. Юдина к переводу на русский язык книги М. Рьюза "Философия биологии", под общей редакцией чл.-кор. АН СССР И. Т. Фролова. - М.: Прогресс, 1977)].
Однако это не будет тем пониманием, о котором мы говорим сейчас, по крайней мере не больше, чем доскональное изучение электрических процессов, происходящих в работающей вычислительной машине, дает или хотя бы может дать понимание программы, выполняемой вычислительной машиной. С другой стороны, объяснение работы правого полушария как работы более высокого уровня всегда чревато возможностью упустить какие-то из его наиболее существенных особенностей, а именно те, которые отличают его работу от работы левого полушария. Дело в том, что ограничения, связанные с нашими навыками левополушарного мышления, всегда заставляют нас интерпретировать сообщения, поступающие из правого полушария, на языке, свойственном левому.
Возможно, приемы мышления ЛП напоминают метод системы GPS, но при этом я имею в виду лишь то, что их в принципе каким-то образом удастся сформулировать (но отнюдь не то, что система GPS представляет собой хотя бы какой-то вариант подобной формулировки). Возможно, ЛП переводит задачу типа "у Тома рыб в два раза больше, чем у Мэри - гуппи. Если у Мэри есть три гуппи, то сколько рыб у Тома?" на собственный язык, скажем, представляет ее в следующем виде: х=2у; у=3. Решая ее, оно, возможно, пользуется методами обработки информации и преобразования символов, характерными для приемов "мышления" свойственных системам типа GPS. Но в таком случае подобный механизм не может иметь ни малейшего представления о том, что такое рыбы и гуппи или что значит быть мальчиком по имени Том и т.д. Кроме того, символическое представление этой задачи нельзя перевести в ее исходную формулировку. Решение же задач человеком, возможно, даже его самые рутинные и механические разновидности, требуют использования как "левых", так и "правых" приемов мышления. И совершенно очевидно, что непосредственная коммуникация между людьми решающим образом зависит от использования обоих полушарий.
Совсем легко, особенно специалистам в области информатики, оказаться загипнотизированными тем "фактом", что языковые высказывания можно представить линейными цепочками символов.
Из этого "факта" легко сделать вывод, что языковая коммуникация-это сфера деятельности исключительно левого полушария. Однако человеческая речь обладает также мелодией, и в процессе коммуникации участвуют как ее либретто, так и ее напев. Музыка-это сфера деятельности правого полушария, так же как и восприятие телодвижений. Что касается коммуникации посредством письма, то ее функции, несомненно, состоят главным образом в стимулировании и возбуждении звуковых образов как у пишущего, так и у читающего.
Может быть, мы никогда не сможем установить, верно или ложно предположение о том, что часть людей мыслит на языке символических структур, поддающихся лишь восприятию, а не удобоваримой экспликации. Ученые, естественно, испытывают отвращение к гипотезам, которые, как кажется, нельзя проверить. И тем не менее может оказаться, что в каком-то абсолютном смысле эта гипотеза истинна. Возможно, она поможет нам понять, почему на протяжении всей жизни мы остаемся чужестранцами для самих себя и для всех остальных, почему любое слово нашего лексикона окутано по крайней мере минимальной тайной и почему любые попытки решать жизненные проблемы чисто рациональными средствами заканчиваются провалом.
Вывод, который я хочу сейчас связать со своим допущением, заключается в следующем: поскольку нам не дано знать, в какой степени это допущение ложно или истинно, то у нас нет никаких оснований для того высокомерия, которое столь надменно демонстрирует "искусственная интеллигенция". Даже "вычислительные" причины рождают убеждение в том, что мы должны благоговейно взирать на то непостижимое зрелище, которое представляет собой человек как таковой (и я добавил бы даже: муравей как таковой).
Было время, когда физики мечтали объяснить весь реальный мир только с помощью всеобъемлющего формализма. Лейбниц утверждал, что если бы были известны положение и скорость любой элементарной частицы вселенной, то мы были бы в состоянии предсказать все будущее развитие вселенной.
Позже Вернер Гейзенберг доказал, что те инструменты, которые человек вынужден использовать для измерения характеристик физических явлений, искажают сами эти явления и, следовательно, принципиально невозможно одновременно абсолютно точно определить положение и скорость даже единственной элементарной частицы. Он не опроверг тем самым допущение Лейбница, но действительно доказал, что его основное условие неосуществимо. Этого, естественно, было вполне достаточно для того, чтобы вдребезги разбить лейбницеву мечту. Лишь немногим позднее Курт Гёдель продемонстрировал зыбкость самих оснований математики и логики, доказав, что любая представляющая интерес формальная система содержит утверждения, истинность или ложность которых нельзя установить при помощи формальных средств соответствующей системы, т. е. что математика неизбежно всегда должна оставаться неполной. Из этого и других результатов Гёделя следует, что
"мозг человека не в состоянии полностью сформулировать (или "механизировать") свою математическую интуицию. Это означает, что если он добивается успеха, сформулировав какую-то часть своих интуитивных математических знаний, то сам этот факт уже порождает новое интуитивное знание"10.
И так называемый принцип неопределенности Гейзенберга, и теорема Гёделя о неполноте породили в мире физики, математики и философии науки ужасные ударные волны. Однако никто не прекратил борьбу. Физики, математики и философы с большим или меньшим изяществом приняли ту неопровержимую истину, что существуют пределы постижения мира, осуществляемого исключительно в лейбницевых категориях.
Уже чрезвычайно много было сказано о предполагаемых следствиях результатов Гейзенберга и Гёделя для искусственного интеллекта. Я не намерен здесь заниматься обсуждением этой проблемы. В одном отношении психология и искусственный интеллект могут извлечь для себя пользу, последовав этому примеру смирения, вновь обретенного современной математикой и физикой: им следует осознать, что, "хотя ограничения и пределы возможностей логики не влияют на ход событий в реальном мире, они действительно ограничивают и определяют то, что претендует на статус обоснованных описаний и интерпретаций этих событий"11.
Осознай они это обстоятельство, им можно было бы продвинуться на следующий освободительный этап: осознание также и того, что истина неэквивалентна формальной доказуемости.
Урок, который я хотел здесь преподать, не заключается в том, что мозг человека подчиняется гейзенберговским неопределенностям (хотя, возможно, это так и есть), и нам, следовательно, никогда не удастся постичь его полностью в рамках тех типов редукции к дискретным явлениям, которые имел в виду Лейбниц. Урок в данном случае, скорее, состоит в том, что та часть человеческого мозга, которая вступает с нами в коммуникацию с помощью рационального и научного языка, сама представляет собой некий инструмент, искажающий объект своего наблюдения, в частности, своего бессловесного партнера - бессознательное, между которым и нашим сознательным "я" оно служит связующим звеном. Связи и ограничения этого инструмента определяют то, что должно составлять рациональные (и снова, если хотите, научные) описания и интерпретации явлений, свойственных нашему миру. Следовательно, эти описания никогда не могут быть полными, точно так же, как партитура не может обеспечивать исчерпывающего описания или интерпретации даже самой простой песенки. Но (и спасительную силу этого феномена высокомерный и беспардонный сциентизм пытается отнять у нас) мы познаем и понимаем не исключительно посредством сознательных механизмов [Прим. перев.: Сциентизм - концепция, заключающаяся в абсолютизации роли науки в системе культуры; представляет собой не строго оформленную систему взглядов, а определенную социально-культурную позицию, проявляющуюся как во внешнем подражании точным наукам, принимаемым в качестве эталона научного знания вообще, так и в абсолютизации естественных наук в качестве единственно научного знания и отрицания философско-мировоззренческой проблематики]. Мы в состоянии слышать "третьим ухом", ощущать животрепещущую истину, являющуюся истиной, выходящей за пределы любых стандартов доказуемости. Я утверждаю, что именно эта разновидность понимания и соответствующая разновидность интеллекта, из него выводимая, не поддаются имитации на вычислительных машинах.
У нас есть обыкновение ( и иногда мы извлекаем из этого пользу) говорить о человеке, мозге, разуме и прочих универсальных понятиях подобного рода. Однако постепенно, исподволь наш мозг заражается тем, что А. Н. Уайтхед назвал ошибкой неуместной конкретности. Мы начинаем считать, что эти теоретические понятия в конечном счете интерпретируемы как наблюдения и что в "обозримом будущем" мы будем располагать тонкими инструментами, позволяющими измерять "объекты", к которым эти понятия относятся. Но не существует такой вещи, как мозг вообще; есть лишь индивидуальные мозги, каждый из которых принадлежит не человеку вообще, а отдельному человеческому существу.
Я настаиваю на том, что невозможно измерять интеллект искусно сконструированными мерными рейками, располагаемыми вдоль одномерного континуума. Конструктивное обсуждение интеллекта возможно лишь применительно к определенным областям мышления и действия. На основании этого я делаю вывод о том, что не может принести никакой пользы организация серьезной работы на основе представлений о том, "сколько" интеллекта можно придать вычислительной машине. Полемика, базирующаяся на идеях такого рода (например, "превзойдут ли вычислительные машины когда-либо человека в области разума?"), бесплодна.
Я утверждаю, что человек как индивидуум, подобно любому другому живому организму, определяется теми задачами, с которыми он сталкивается. Уникальность человека связана с тем обстоятельством, что он неизбежно сталкивается с задачами, порождаемыми его уникальными биологическими и эмоциональными потребностями. Человеческий индивидуум постоянно пребывает в состоянии становления. Поддержание этого состояния, формирование человеческой природы, в сущности, обеспечение самого выживания человека зависит от того, что он сам и другие люди относятся к нему как к человеческому существу. Никакой иной живой организм и тем более ни одну вычислительную машину невозможно заставить воспринимать сугубо человеческие проблемы в чисто человеческих категориях.
И поскольку сфера действия интеллекта человека определяется его человеческой природой (за исключением небольшой труппы формальных задач), то любой иной интеллект, сколь бы велик он ни был, неизбежно окажется чужд этой сфере.
Я утверждаю, что существует одна особенность мозга человека - бессознательное, не поддающееся объяснению в терминах непроизводных элементов процессов обработки информации, т. е. элементарных информационных процессов, связываемых нами с формальным мышлением, вычислительными процедурами и строгой рациональностью. И тем не менее мы вынуждены пользоваться ими, занимаясь научным изучением, описанием и интерпретацией. Это заставляет нас ясно отдавать себе отчет в скудости наших объяснений и исключительной ограниченности их возможностей. Неверно утверждать, что можно дать строго научное решение "проблемы человека". Существуют вещи, выходящие за пределы возможностей науки.
[Прим. перев.: С последним замечанием Дж. Вейценбаума никак нельзя согласиться. Возможно, речь идет об ограниченности перспектив полного решения "проблемы человека" посредством чисто формально-логических построений. Тем не менее здесь нетрудно обнаружить и отголоски антисциентиской позиции, т. е. убеждения в невозможности только научными методами решить проблемы человеческого4 бытия, базирующейся на подходе, близком к философской антропологии.
Ученые-марксисты, в свою очередь, считают, что в настоящее время "проблема человека" как раз становится одним из центральных моментов научного развития. Как указывал выдающийся советский психолог Б. Г. Ананьев (1907-1972), "...об этом можно судить по трем важным особенностям современной науки, связанным именно с проблемой человека. Первой из них является превращение проблемы человека в общую проблему всей науки в целом, всех ее разделов, включая точные и технические науки. Вторая особенность заключается во все возрастающей Дифференциации научного изучения человека, углубленной специализации отдельных дисциплин и их дробления на ряд все более частных учений.
Наконец, третья особенность современного научного развития характеризуется тенденцией к объединению различных наук, аспектов и методов; исследования человека в различные комплексные системы, к построению синтетических характеристик человеческого развития" (Б. Г. Ананьев. О проблемах современного человекознания.-М.: Наука, 1977, с. 6).
Марксизм связывает понимание сущности человека с общественными условиями его функционирования и развития, сознательной деятельностью, в ходе которой человек оказывается и предпосылкой, и продуктом истории.
Общепризнано, что, как показывает опыт, попытки разрешить проблему человека открывают все большие глубины непознанного в этой области исследования, недостаточность знаний человека об исторической природе человека и предельных значениях потенциала этой природы. Это наблюдение и служит, в сущности, основной предпосылкой для должной оценки роли кибернетики в изучении и имитации когнитивных процессов человека, а следовательно, ее вклада в разрешение "проблемы человека".
Как нам кажется, будущее (и настоящее) кибернетики в решении; "проблемы человека" определяется не антисциентистской позицией автора, но конкретной программой научных исследований, базирующихся на абстракции потенциальной осуществимости и предусматривающих синтетическое использование данных, получаемых различными, в том числе формально-логическими и "кибернетическими", в рамках отдельных направлений "человекознания". Более подробные сведения по этому поводу можно, помимо упоминавшихся в данном примечании, найти в следующих источниках: Б. Г. Ананьев. Человек как предмет познания, - Л.: изд-во ЛГУ, 1968; Б. В. Бирюков. Кибернетика и методология науки. - М.: Наука, 1974; Б. В. Бирюков, Е. С. Геллер. Кибернетика в гуманитарных науках. - М.: Наука, 1973; Кибернетика и современное научное познание. - М.: Наука, 1976; Кибернетика и диалектика. - М.: Наука, 1978; И. Б. Новик. Философские вопросы моделирования психики. - М.: Наука, 1969; Управление.
Информация. Интеллект/ Под ред. А. И. Берга, Б. В. Бирюкова, Е. С. Геллера, Т. Н. Поварова. - М.: Мысль, 1976; А. А. Братко, П. П. Волков, А. Н. Кочергин, Г. И. Царегородцев. Моделирование психической деятельности. - М.: Мысль, 1969; А. В. Брушлинский. Мышление и прогнозирование (логико-психологический анализ). - М.: Мысль, 1979; Человек и его бытие как проблема современной философии. Критический анализ некоторых буржуазных концепций. - М.: Наука, 1978]
Концепция чужеродности интеллекта определенным сферам мышления и действия является ключевой для понимания того, что, может быть, служит наиболее важным ограничением возможностей искусственного интеллекта. Однако эта концепция связана с взаимоотношениями людей, их отношением к машинам, а также узами, существующими между машинами и человеком. Дело в том, что социализация человека, хотя и основана на биологической конструкции, общей для всех людей, жестко детерминирована культурой. Человеческие же культуры очень разнообразны. Бесчисленные исследования подтверждают то, что должно было бы быть очевидным для всех наблюдателей панорамы человеческой жизни, за исключением самых узколобых: "Влияние культуры универсально в том смысле, что в некоторых отношениях она побуждает человека учиться быть таким, как все люди; особенно это проявляется в том, что человек, воспитывающийся в определенном обществе, учится быть в некоторых аспектах таким, каковы все члены этого общества, и отличным от того, каковы люди в иных обществах"12. Авторы этого высказывания специально занимались изучением японского общества и прожили много лет среди японцев. Продолжим знакомство с их наблюдениями:
"Нормой семейной жизни в Японии является акцент на взаимозависимость и взаимную поддержку, в то время как в Америке во главу угла ставится независимость и настойчивое отстаивание своих прав ... В Японии ребенок рассматривается как самостоятельный биологический организм, интересы развития которого с самого начала требуют его вступления в отношения взаимозависимости с другими людьми, со временем разрастающиеся во все большей и большей степени.
В Америке ребенок рассматривается, скорее, как зависимый биологический организм, интересы развития которого требуют обеспечения его все большей независимости от других людей."
"Японский ребенок кажется пассивным; он тихо лежит, издавая время от времени недовольные звуки, а его, мать, ухаживая за ним, в основном убаюкивает, укачивает и носит его на руках. Кажется, что главным образом она старается унять, успокоить ребенка и поддерживает с ним скорее физический, чем вербальный контакт. Американский же ребенок ведет себя активнее, издает радостные возгласы и исследует среду, которая его окружает; его мать, заботясь о нем, больше наблюдает за своим ребенком и разговаривает с ним. Судя по всему, она стимулирует активность ребенка и его голосовые реакции. Создается впечатление, что американская мать стремится иметь шумного и активного ребенка, а японская - спокойного и удовлетворенного. Характер материнского ухода, свойственный каждой из двух этих культур, обеспечивал им достижение того, к чему они, очевидно, стремились... значительная доля обучения, подготавливающая ребенка к жизни в определенной культуре, осуществляется в первые три-четыре месяца после рождения. ...за этот период ребенок обучается быть японцем или американцем в том отношении, что начинает вести себя именно таким образом, как ожидает от него его мать".
"[Взрослые] японцы отличаются более "коллективистскими" настроениями и осознанием взаимозависимости в своих отношениях с другими людьми, в то время как американцы более "индивидуалистичны" и независимы. ...Японцы стараются держаться более незаметно и ведут себя пассивнее, чем американцы, выглядящие более напористыми и энергичными...
Японцы более восприимчивы к невербальной коммуникации в отношениях между людьми и сознательно используют ее в различных формах при помощи жестикуляции и физического контакта в отличие от американцев, пользующихся преимущественно вербальной коммуникацией и не прибегающих с этими целями к физическому контакту".
" Если эти различные типы поведения могут быть освоены в возрасте три-четыре месяца и если они свойственны человеку на протяжении всей его жизни, то весьма вероятно существование важных областей жизни, в которых сопоставимые эмоциональные реакции людей, принадлежащих разным культурам, отличаются. Подобные различия с трудом поддаются сознательному контролю и помимо (в основном) воли человека они придают характерность и колоритность поведению человека. Эти различия... могут также вносить свою лепту в неразбериху и антагонизм, возникающие при попытках людей вступать в коммуникацию, минуя эмоциональные барьеры, воздвигаемые неодинаковостью их культур"13.
Столь глубокие различия в обучении на ранних стадиях жизни оказывают кардинальное влияние на характер общества в целом. Эти особенности, естественно, передаются от поколения к поколению и таким образом увековечиваются. Кроме того, они, конечно, должны помогать определению того, что членам соответствующих обществ известно о мире, в котором они живут, что следует считать "универсальными" культурными нормами и ценностями и к чему, следовательно, в каждой культуре стоит или не стоит относиться как к реальности. Эти особенности, например, устанавливают (это, в частности, относится к различиям между японскими и американскими социальными нормами), что отличает частные конфликты от общественных и какие, следовательно, методы разрешения конфликтов посредством судебного разбирательства уместны для защиты соответствующих интересов человека. Японцы традиционно предпочитают разрешать споры (даже те, официальное разрешение которых предусмотрено законом) теми средствами, которые на Западе рассматривались бы как неформальные. На самом деле в большинстве случаев эти средства определяются строгими ритуальными нормами, никак в явном виде не кодифицированными, но известными каждому японцу, принадлежащему соответствующей социальной страте. Этот тип знания впитывается с молоком матери и пронизывает весь процесс социализации, причем последний чрезвычайно тесно связан с процессом овладения человеком своим родным языком.
Это знание нельзя почерпнуть из книг; оно не поддается любым формам интерпретации - только сама жизнь может дать ее.
Таким образом, судья-американец, сколь бы высокими интеллектом и чувством справедливости не был наделен, не мог бы быть членом японского семейного суда. Его интеллект просто не приспособлен для решения проблем, возникающих в японской культуре. Верховный суд Соединенных Штатов полностью отдавал себе отчет в этом обстоятельстве еще в те времена, когда его юрисдикция распространялась на "заморские" территории. Например, рассматривая дело "Диас против Гонсалеса", слушавшееся в суде первой инстанции в Пуэрто-Рико, Верховный суд отказался отменить решение суда первой инстанции, т. е. местного суда. Судья Оливер У. Хоумс, формулируя решение суда, указал:
"Верховный суд неоднократно демонстрировал уважение к разрешению местными судами дел, имеющих сугубо локальный характер. Это особенно относится к решениям судов, имеющих традиции и действующих в системах, отличных от господствующих здесь. Когда мы рассматриваем подобную систему извне, она кажется нам глухой каменной стеной; каждая часть системы неотличима от остальных, по крайней мере до тех пор, пока подготовка, полученная нами в духе наших собственных "локальных" традиций, не заставит нас выделить те связи, к которым мы привыкли. Но для человека, воспитанного в такой системе, перемена акцентов, скрытые допущения, написанная практика, тысячи воздействий, которые может породить лишь сама жизнь, способны придать отдельным элементам совершенно новые значения, которые никак не удалось бы извлечь из книг ни с помощью логики, ни с помощью грамматики"14.
Таким образом, интеллект любого человека оказывается чужеродным для целого ряда сфер мышления и действия. Во всякой культуре существуют обширные области сугубо человеческих проблем, для которых ни один человек, принадлежащий иной культуре, не в состоянии дать конструктивных решений. Это не значит, что "посторонний" вообще не способен принимать решения - он всегда может, например, бросить монетку; дело, скорее, обстоит таким образом, что фундамент, на котором он должен был бы основывать свои решения, неизбежно окажется не соответствующим контексту искомого решения.
Что может казаться очевиднее такого факта: какого бы интеллектуального уровня вычислительная машина не смогла достигнуть (независимо от того, каким образом это могло бы быть обеспечено), этот интеллект всегда и неизбежно должен быть чужеродным всем истинно человеческим проблемам вместе взятым и каждой из них отдельно. Сама постановка вопроса "Что такого знает судья (или психиатр), чего мы не смогли бы сообщить вычислительной машине?" - чудовищное бесстыдство. То, что такой вопрос смог вообще попасть в печать, даже ради демонстрации его патологической природы, символ безумия наших дней.
Вычислительные машины способны выносить судебные определения, принимать решения, касающиеся судьбы психически больного. Они в состоянии подбрасывать монетки значительно более изощренными способами, чем самый упорный человек. Но дело в том, что вычислительным машинам не следует поручать решение подобных задач. В некоторых случаях они могли бы даже находить "правильные" решения, однако всегда и неизбежно на такой основе, которую ни один человек не захочет принять.
Было множество споров на тему "Вычислительные машины и Мозг". Я пришел к следующему выводу: проблемы, возникающие в рамках таких дебатов, не являются ни техническими, ни даже математическими: это этические проблемы. Их нельзя разрешать, ставя вопросы, начинающиеся с "можно ли...". Пределы применимости вычислительных машин по существу поддаются формулировке лишь в терминах долженствования. Самое простое соображение, вытекающее изо всего этого, заключается в том, что поскольку сегодня мы не знаем способов сделать вычислительные машины мудрыми, то мы не должны возлагать на них задачи, разрешение которых требует мудрости.
