ПРОЦЕССЫ ПЕРЕРАБОТКИ СЕМАНТИЧЕСКОЙ ИНФОРМАЦИИ

К оглавлению

Глава 2. ВТОРОЙ ЭТАП

(1962-1967)

ПРОЦЕССЫ ПЕРЕРАБОТКИ СЕМАНТИЧЕСКОЙ ИНФОРМАЦИИ

Для того чтобы определить место первого этапа в общей картине развития и дать представление о том, что ожидалось и что было сделано на втором этапе, начнем с того, что приведем цитату из краткого обзора истории работ по "машинному интеллекту", произведенного М.Минским:

"В начале 50-х годов, когда универсальные вычислительные машины стали доступным средством научных изысканий, кибернетика распалась... на три главных направления, В исследованиях, происходивших в рамках первого из них, продолжались поиски простых фундаментальных принципов. Целью этих поисков стало отыскание того, что мы могли бы назвать "минимальными самоорганизующимися системами". Для этого подхода характерна установка на построение большого набора, как правило, однотипных элементов, который, будучи организован в некоторую структуру с очень слабыми ограничениями и погружен в соответствующую внешнюю среду, начинает вести себя "адаптивным" образом. В конечном счете можно полагать, что разумное поведение возникает на основе эволюции такого рода систем"*.

Поскольку исследователи, до сих пор придерживающиеся этого направления (его иногда называют кибернетикой) 42, не создали ничего интересного - несмотря на то, что выразитель соответствующих идей Ф.Розенблат является автором самых фантастических предсказаний и заявлений**,- здесь мы не будем касаться их работ.

* М. Minsky. Introduction.-In: M. Minsky (ed). Semantic Information Processing, Cambridge, p, 6-7.

** Например, следующее сообщение, помещенное в "Chicago Tribune" от 7 июня 1963г.: "Вчера один из сотрудников Корнелльского университета, специалист по обучающимся машинам, сообщил о разработке машины, которая может выдавать на печать текст любого воспринимаемого ею выступления на уровне секретаря-машинистки. Ожидается, что к осени (Sic! - Х.Д-) устройство будет готово. Ф. Розенблат, руководитель проводимых в Корнелльском университете разработок по моделированию познающих систем, сказал, что эта машина станет самым крупным "мыслящим" устройством, известным на сегодняшний день, Розенблат выступил с этим заявлением на одном из совещаний по обучающимся машинам, которое проходило в Технологическом институте Северо-западного университета".

чающиеся машины" и как таковые обсуждались в многочисленных книгах, журнальных статьях и объемистых "отчетах". Большая часть этих творений», лишена научной ценности" [М, Минский, С. Пейперт. Перцептроны. М., 1971, с. 10); «схемы Розенблата [1958] быстро укоренились, и в скором времени буквально сотни групп, больших и малых, стали проводить опыты с этой моделью под видом либо "обучающейся машины", либо "адаптивной", то есть "самоорганизующейся" системы, либо систем! "автоматического управления".

Результаты этих сотен проектов и опытов, как правило, разочаровывали, а объяснения не убеждали. Машины обычно хорошо еели себя на очень простых задачах, но весьма быстро сдавали позиции, как только порученные им задания становились сложнее» (там же, с. 25) .

В свете этих практических трудностей и теоретических ограничений, обрисованных Минским и Пейпертом, энтузиазм по поводу ожидающего перцептроны будущего представляет собой идеальную иллюстрацию эффекта "обманчивости первого шага"43 (см. подстрочное примечание на с. 78), Характерное выражение подобная ошибочная экстраполяция нашла в заявлении Тофлера («Future Shock)), p, 186): "Эксперименты Фрэнка Розенблата и других доказывают, что машины могут учиться на своих ошибках, улучшать свои результаты, а в случае некоторых ограниченных типов процесса обучения они в состоянии превзойти человека". Тофлер ничего не говорит о том, насколько серьезны эти ограничения.

* M.Minsky. Introduction.-In: M. Minsky (ed.) Semantic Information Processing, p. 7,

** Ibid,, p. 8.

*** M.Minsky. Descriptive Languages and Problem Solving.-In: M.Minsky (ed.). Semantic Information Processing, p. 419.

80

ботку самоорганизующихся систем малообещающим или, лучше сказать, преждевременным делом. Даже если принять в качестве основной цели простоту изначальной организации, не исключено, что потребуется накопление предварительного опыта с действующими "разумными системами" (принцип действия которых, если нет другого выхода, может быть основан на приемах ad hoc ), прежде чем в конце концов удастся построить более экономичные модели"*.





Перейдем к рассмотрению этого третьего и сравнительно недавнего направления и попытаемся на основе результатов, опубликованных в книге М. Минского "Процессы переработки семантической информации", разобраться, что же в действительности было сделано. Сам Минский однажды предложил для оценки программ, представленных в его книге, пользоваться следующими пятью вопросами:

1.Почему были выбраны именно данные конкретные задачи?

2.Как работают данные программы?

3.Каковы пределы возможностей программ?

4.Что реально они делают?

5.Как может быть расширена область их применения?

Если в соответствии с этими вопросами мы проанализируем программы, которые Минский считает лучшими из всех написанных с 1962 г., мы увидим, что в отличие от работ, выполненных до 1961 г, (когда впечатление "разумности" создавалось в основном за счет моделирования простых механических аспектов разумного поведения), для предлагаемого подхода характерно следующее: с помощью специальных приемов, подбираемых ad hoc, решаются искусно подобранные задачи, создающие иллюзию сложной интеллектуальной деятельности. Однако проблемы, бывшие камнем преткновения на первом этапе, так и остаются нерешенными. Кроме того, мы еще раз убедимся в том, что лишь не допускающая никаких сомнений изначальная уверенность таких исследователей, как Минский, дает им возможность считать существующую ситуацию обнадеживающей.

Рассмотрим эти программы более подробно.





I. Анализ программ переработки семантической информации



Программа, "понимающая английский язык" - программа STUDENT, составленная Д. Бобровым.



STUDENT- это программа для решения алгебраических задач на составление уравнений. Она рассматривается в качестве лучшей из всех пяти программ переработки семантической информации, представленных в книге М. Минского. Программа Д. Боброва,

* М. Мinsky. Introduction.-in: M. Minsкy (ed.). Semantic Information Processing, p, 8.

81

говорит Минский -"блестящая демонстрация возможностей использования смысла при решении лингвистических задач"*. И действительно. Минский посвящает этой программе значительную часть своей статьи в журнале "Scientific American", где считает возможным утверждать даже, будто эта программа позволяет машине "понимать английский язык"**.

Поскольку эту программу на сегодняшний день считают наилучшей, начнем с детального ее анализа в соответствии с предложенными М. Минским пятью вопросами.

Почему были выбраны именно данные конкретные задачи?

Саги Д. Бобров говорит:

"При построении системы, отвечающей на вопросы, многие задачи значительно упрощаются, если ограничивать их контексты"***.



Более того:

"Существует несколько причин, в связи с которыми именно алгебраические задачи на составление уравнений были выбраны в качестве материала для развития методов, позволяющих машинной системе для решения задач воспринимать информацию, выраженную на естественном языке. Во-первых, уже существует хорошая структура данных, дающая возможность заносить в память машины сведения, необходимые для ответа на вопросы, которые относятся к контексту алгебраических задач, а именно алгебраические уравнения"****.

Существенно, что выбор данной задачи связан с тем, что ограниченность контекста облегчает ее решение. Вся важность этого ограничения станет очевидна только после рассмотрения следующих двух вопросов.

Как работает данная программа?

Программам попросту разбивает предложения, фигурирующие в тексте задачи, на отдельные блоки, пользуясь для этого такими ориентирами, как слова "больше чем", "равно", "во столько-то раз" и т. д.; затем, используя переменные х и у, она приравнивает друг к другу полученные куски предложений и пытается добиться одновременного выполнения получившегося равенства. Если полученные уравнения решить не удается, программа переходит к другим правилам разбиения данных предложений и предпринимает новую попытку решения. Вся эта схема может работать только потому, что выполняется некоторое ограничение (отсутствующее в задачах на понимание обычной разговорной речи), благодаря которому тот или иной способ замены кусков предложений переменными приводит к уравнениям, имеющим решение. По выражению Минского, "некоторая возможность синтакси-

* Ibid, р.5.

** См.: М. Минский, Искусственный разум. В кн.: Информация М., 1968, с. 210.

*** D. Вobrow. Natural Language Input for a Computer Problem Solving Sistem.ln: M.Minsky (ed). Semantic Information Processing p. 135



**** Ibid,, p. 137.

82

ческой неоднозначности на входе устраняется, исходя из общего принципа алгебраической непротиворечивости"*.

Существует также еще одна особенность задач на составление уравнений, благодаря которой выбор пал именно на них.

"В естественном языке неоднозначность возникает не только в связи с тем, что слова в предложении могут быть по-разному структурированы за счет разбиения на группы различными способами, но также в связи с тем, что каждому отдельному слову можно приписать разные значении, В программе STUDENT положение более или менее облегчается тем, что выполняется такое сильное семантическое ограничение, при котором рассматриваемые предложения выражают алгебраические соотношения между обозначаемыми сущностями"**.

Каковы возможности этой программы?

Использование алгебраического контекста, с одной стороны, несет с собой определенные преимущества; с другой же стороны, однако, оно существенно ограничивает область применения программы. Подобное "сильное ограничение" исключает из рассмотрения как раз тот аспект естественного языка (а именно его неоднозначность), который усложняет задачу машинной обработки естественного языка и, быть может, делает ее вообще неразрешимой. Подобные программы настолько далеки от семантического понимания как такового, что, как признает сам Бобров, "фраза the number of times I went to the movies, которая должна была бы интерпретироваться как последовательность, имеющая характер переменной, будет неправильно истолкована программой как результат применения оператора к двум переменным- number of и I went to the movies,- поскольку times всегда рассматривается как знак операции"***.

Что же, собственно, было достигнуто?



Д. Бобров довольно осторожен. Хотя его работа несколько опрометчиво озаглавлена "Программа решения задач на ЭВМ с вводом исходных данных на естественном языке", он с самого начала недвусмысленно говорит, что его программа способна "воспринимать достаточное, но ограниченное подмножество выражений английского языка"****. Затем он добавляет:

"В дальнейшем изложении я буду пользоваться фразами типа "программа понимает английский". Во всех подобных случаях под "английским" понимается ограниченное подмножество выражений английского языка, допустимое на входе обсуждаемой программы для вычислительной машины"*****

* М. Мinsky. Introduction.-In: M. Minsкy (ed). Semantic Information Processing, p. 18.

** Ibid., p. 20.

*** D. Воbrow. Op. cit., p. 1B345.

**** D. Bоbrоw. Natural Language Input for a Computer Problem Solving Program, MACTR-1, V.Y.T.,abstract of thesis, p. 3 (курсив мой.-Х-Д.).

***** D. Bobrow. Natural Language Input for a Computer Problem Solving System,-In: M. Minsky (edj. Semantic Information Processing, p. 135,

83

Достаточно прямолинейное заявление. Автор программы претендует только на то, что оправдано ограниченным выбором материала. Он подчеркивает, что "программа STUDENT воспринимает слова как символы и ограничивается лишь тем минимумом знания слов, который необходим для решения данной конкретной задачи"*.



Другими словами, эта программа воплощает в себе некий минимум семантического понимания, Бобров горд тем, что достиг столь многого при минимальных затратах. "В основу семантической модели системы STUDENT положено одно отношение (равенство) и пять основных арифметических функций**.

В равной степени осторожность Боброва проявляется в подчеркивании специфичности значения глагола "понимать".

Для целей данной работы я воспользовался следующим операциональным определением термина "понимание". Вычислительная машина понимает предложение из определенного подмножества предложений английского языка, если она воспринимает это предложение и отвечает на вопросы, касающиеся информации, в нем содержащейся. В этом смысле система STUDENT понимает английский язык"***.

В заключение Бобров осторожно пишет: "Я полагаю, что нам далеко еще до написания программы, которая могла бы понимать весь английский язык или хотя бы его достаточно большую часть. Однако в своей узкой специальной области программа STUDENT доказала, что "понимающие" машины могут быть построены"****.

Тем не менее в своей статье в журнале "Scientific American" М. Минский говорит, что "STUDENT -- понимает английский язык". Что же произошло?

Дело в том, что Бобров ставит слово "понимает" в кавычки. Следует все время помнить, что "понимает" для него значит просто "отвечает на вопросы, относящиеся к некоторой части английского языка, ограниченной контекстом задач на составление алгебраических уравнений". При этом он предпочитает говорить "понимает", а не "перерабатывает информацию"- Однако невольно возникает ощущение, что его программа имеет какое-то отношение к человеческому пониманию. Этим и воспользовался Минский: в своей риторической статье он просто опустил кавычки.

Еще более удивительны и чреваты ошибочными выводами

* D.Bobrow. Natural Language Input for a Computer Problem Solving System.- In: M. Minsky (ed.). Semantic Information Processing, p. 144.

** Ibid. p. 191.



*** Ibid,, p. 135, В том смысле, в каком Бобров употребляет слова "понимает" и "английский язык", даже машина, которая, будучи снабжена фразой "You are on" ("Вы включены"), только и может что ответить "Yes" на вопрос "Are you on?", уже "понимает английский язык

**** Ibid. 194.

84

заявления М.Минского, касающиеся «огромного потенциала обучения» программы Д. Боброва:

"Обратите внимание на то, как качественно меняется вся работа программы Боброва STUDENT после того, как ей скажут, что "расстояние равняется скорости, умноженной на время"! Уже этот единичный акт расширения ее опыта дает ей возможность решать новый род задач школьной алгебры, а именно физические задачи, в которых фигурируют расстояние, скорость и время. Не следует думать, что кривая научения всегда должна медленно ползти вверх на фоне тошнотворно частых повторений. Очень важно отвыкнуть от взгляда, что обучение есть только там, где имеет место этот процесс.

В программе Боброва нет никаких специально предусмотренных статистических механизмов, так что ей не нужно повторять что-то снова и снова; ее обучение настолько блестяще, что его и не назовешь обучением"*.

Однако в этом случае нетрудно показать, что процесс, который происходит в машине, никак нельзя назвать "пониманием". В машину действительно было введено еще одно уравнение, но машина не понимает, что это формула; иначе говоря, программа может, конечно, подставить в уравнение d- r-t одно значение расстояния, одно значение скорости и одно значение времени, но она ничего не понимает, так как не может использовать это уравнение дважды в одной и той же задаче, поскольку неспособна решать вопрос о том, какие величины связывают друг с другом те или иные уравнения. Как признает Бобров, "в задаче одна и та же переменная должна быть представлена одной и той же фразой"**. Итак, обучения не произошло.

Отбросив кавычки в слове "понимает", а в слове "обучение" сделав их символом сверхчеловеческого обучения. Минский переходит в область умозрительных рассуждений:



" Чтобы машины могли хотя бы улучшить свою работу, существенно необходимо иметь в машине элементарное понимание собственного процесса решения задач и некоторую способность распознавать улучшение, когда оно найдено. Я не вижу веских причин, почему это невозможно для машины. Если заложить в машину модель ее собственной работы, она наряду с решением других задач могла бы работать и над задачей самосовершенствования..,

После того как мы создадим программы, наделяющие машины подлинной способностью к самоулучшению, начнется быстро развивающийся процесс в этой области. Поскольку машина улучшает и самое себя и собственную модель, мы сумеем увидеть все те явления, которые мы связываем с такими понятиями, как "сознание", "интуиция" и даже "разум". Трудно сказать, насколько близко мы подошли к этому порогу, но когда-нибудь мир переступит через этот порог и ему уже невозможно будет остаться прежним"***

* М. Мinsky. Introduction.-In: М. Мinsky (ed). Semantic Information Processing, p, 14.

** D.Bobrow. Op. cit.-In: M.Minsky (ed.). Semantic Information Processing, p. 192.

*** M. Mинский. Искусственный разум. - В кн.: Информация,с. 214-215.

85

Однако не так уж трудно, вопреки мнению М. Минского, сказать, насколько близки мы к этому порогу. Поскольку считается, что в программе Д. Боброва реализованы те зачатки понимания и обучения, на которые рассчитывает Минский, нам остается только поставить вопрос: до какой степени могут быть обобщены и расширены методы, использованные Бобровым?

Это приводит нас к последнему вопросу; каким образом можно распространить рассматриваемую программу на более широкие области применения?



Здесь уже и Д. Бобров отбрасывает всякую осторожность: вопреки своему прежнему замечанию о том, что семантическая модель построена на единственном отношении (равенстве) и, следовательно, может составлять и решать уравнения только в тех случаях, когда удается использовать некоторое алгебраическое условие, он заявляет, что его "семантическая теория словесного общения может послужить основой для значительно более общей системы переработки языковых соотношений"*. Автореферат своей диссертации Бобров заключает уже знакомой нам вариацией на тему "первого шага". "Система STUDENT- это первый шаг к общению с вычислительной машиной на естественном языке. Дальнейшая работа над этой семантической теорией должна привести к гораздо более тонким и богатым системам"**.

Со времени этого заявления прошло пять лет, однако никакой более богатой возможностями семантической теории не появилось46.Трудно понять, почему Д.Бобров и М.Минский, отдавая себе отчет о всех специфических ограничениях, соблюдение которых необходимо для нормальной работы данной программы, считают тем не менее, что такое обобщение наверняка возможно. Я полагаю, что ни оправдать, ни хотя бы объяснить их оптимизм по отношению именно к этому, по общему признанию весьма ограниченному, подходу ad hoc нельзя ничем. Что же касается их "глобального" оптимизма в отношении того, что некоторый машинный подход в данной области обязательно будет реализован, то его истоки можно проследить вплоть до фундаментальной метафизической предпосылки, касающейся природы языка и разумного поведения человека, согласно которой любое упорядоченное поведение человека может быть в принципе формализовано и представлено в виде программы для цифровой вычислительной машины (см, гл. 5). Этим и объясняется уверенность М.Минского и Д.Боброва, позволяющая им расценивать все трудности, возникающие на их пути, как технологические затруд-

* D.Bobrow. Op.cit.-In: М.Мinsky. (ed.). Semantic Information Processmg, p. 194.

** D.Bobrow. Natural Language Input for a Computer Solving Program. Abstract of thesis, p, 3.

86

нения, связанные, в частности, с ограниченной емкостью запоминающих устройств современных ЭВМ*.

Не будь этой предпосылки, частичный успех работы Д.Боброва, которую М.Минский объявил наиболее многообещающей из существующих, был бы воспринят как искусный трюк, ничего не говорящий ни за, ни против возможности существования машинного понимания. Тот факт, что эта работа - лучшее, что сумел создать столь незаурядный человек, как Д.Бобров, пробудил бы сомнения в возможности достижения рубежа, за которым начинаются самосовершенствующиеся машины.

Программа определения аналогий, разработанная Т. Эвансом

Вся "коллекция" аргументов М. Минского сделана по одному шаблону: о решении с помощью приема ad hoc некоторой ограниченной задачи сначала сообщается с некоторой осторож­ностью, а затем это решение трактуется как первый шаг к развитию более общих методов. Но все работы, представленные в сборнике М. Минского, были закончены к 1964 г., и, хотя с той поры прошло еще семь лет, ни одно из прокламированных обобщений так и не было осуществлено.



Рассмотрим, к примеру, программу определения аналогий Т.Эвзнса - сложную, умело написанную программу для решения задач на обнаружение сходства типа тех, которые используются в тестировании интеллекта (рис.). Программа решает крайне специфическую задачу, и решает ее на уровне среднего десятиклассника, что, учитывая современный уровень таких программ, является выдающимся достижением. Что еще более существенно, Эванс отдает себе отчет в том, что эта удачная сама по себе работа мало что дает: ее можно признать успешной только в том случае, если методы, использованные в ней, допускают какое-то обобщение. Но в отличие от Д. Боброва он не удовлетворяется утверждением, что такое обобщение возможно- В заключении к своей работе он пытается набросать в общих чертах такое обобщение и описать те преимущества, которые при этом получат программы для решения задач (типа GPS) и распознавания образов:

* В статье, помещенной в журнале "Scientific American", М. Минский ставит вопрос: "Почему машины не более разумны, чем это есть на самом деле?" - и отвечает: "До настоящего времени были весьма ограничены ресурсы в людях, времени и сами возможности вычислительных машин. Некоторые наиболее тщательно продуманные и серьезные попытки разработки разумных машин уже приближаются к поставленным частным целям...; другие исследован ив были ограничены возможностями оперативной памяти вычислительной машины; третьи столкнулись с трудностями программирования" (М. Минский, Искусственный разум, - В кн.: Информация, с. 213-214) .

87

«На последних страницах этой главы мы опишем процесс "распознавания образов", главные идеи которого основываются на описанном выше понятии аналогии. Предлагаемый подход претендует на некоторые преимущества, глазным образом за счет того, что вводятся более мощные и более общие схемы описаний для рассматриваемых "объектов"».

"GPS трактует составные части некоторого данного объекта с помощью организации его в терминах целей и подцелей. Тем самым GPS уходит от рассмотрения сложных структур на каждом конкретном уровне путем разложения их на более мелкие структуры, связанные с подцелями. Таким образом, GPS никогда не воспринимает отдельную сложную структуру как таковую; когда какая-либо подструктура рассматривается на более глубоком уровне подцелей, она находится "вне контекста" в том смысле, что отсутствует необходимая информация о том, что даст достижение этой подцели для продвижения к цели более высокого уровня. Ньюэлл обсуждает одну из таких "бесконтекстных" задач и делает несколько довольно безуспешных попыток ее решения. Описанный нами в общих чертах механизм представляет собой систему распознавания образов, которая в состоянии воспринимать "глобальный" аспект задачи и в то же время имеет доступ ко всей ее структуре. "Глобальное" управление такого рода может оказаться полезным для GPS, давая возможность экономить время (поскольку при существующем варианте программы много времени тра­тится на выдвижение и достижение подцелей, не ведущих к целям самого высокого или близкого к нему уровня) . Уже одно это будет большим шагом вперед"**.

Т.Эванс выдвигает также некоторые предложения, касающиеся обучения:

* Th. Evans. A Program for the Solution of a Class of Geometnc-Analocy Intelligence Test Question.- In: M.M i n s k у (ed.). Semantic Information Processing, p.346-347.

** Ibid., p. 349.



88

"Разумеется, изучение этих проблем в относительно хорошо разработанной области языков со структурой непосредственных составляющих^ представляет собой естественный шаг вперед по направлению к созданию настоящего машинного "обучения обобщению"; кроме того, решение этих задач откроет путь к исследованию проблемы моделирования обучения в случае более сложно описываемых языков. Поскольку правила преобразования могут быть сами выражены в терминах структуры непосредственных составляющих, одна из интересных возможностей состоит в том, чтобы применить совокупный аппарат "структура непосредственных составляющих плюс GPS" для улучшения собственного набора правил преобразования"*.

Т.Эванс понимает, что "это, по-видимому, крайне трудная задача"**. Скорее всего, так оно и оказалось, поскольку с момента завершения в 1963 г. его работы над этим проектом о нем больше не было опубликовано ни слова. Как мы видели, Ньюэлл также забросил свою GPS, а распознающие программы, по словам М.Идена, в 1968 г. основывались по-прежнему на приемах ad hoc. Отсюда вновь следует знакомый вопрос: почему М.Минский и Т.Эванс так уверены, что метод ad hoc, приведший к решению этой специфической и довольно сложной задачи отыскания аналогий, может быть обобщен? Некоторый намек на причины этой уверенности можно найти в довольно неожиданном сравнении, которое проводит Минский между программой Эванса и человеческим способом решения задач, основанном на аналогии. Вопреки своим обычным заверениям о том, что ИИ не имеет отношения к моделированию познания, Минский дает следующее "менталистское" описание работы программы Эванса:

"Для изложения сущности этой работы лучше всего описать данную программу в менталистских терминах. Если задан некоторый набор фигур, то программа строит набор гипотез или теорий следующим образом:

1. Основываясь на описаниях D(A) и D(B) фигур А и В (см.рис.2, - Х-ДЛ, можно выбрать много путей преобразования D(A) в D(B); выбери ОДИН ИЗ НИХ,

2. Существует также много путей установления соответствия между частями фигуры А и частями фигуры С; каждое такое соответствие может стать основой некоторого отношения того типа, о котором шла речь в п.1, но на сей раз связывающего фигуру С с какими-то другими фигурами,

3. Маловероятно, что какое-нибудь из отношений, найденных в п.2, окажется полностью применимым к какой-нибудь фигуре-ответу. (Если оно окажется таковым, то соответствующая фигура и есть результат работы программы.) Для каждой фигуры-ответа каждое отношение должно быть "ослаблено" (то есть обобщено) ровно настолько, насколько это нужно для того, чтобы оно оказалось применимо к данной фигуре.

4. И наконец, программа учитывает степень ослабления каждого отношения. Она выбирает то из отношений, которое требует наименьшего изменения и выдает в качестве результата соответствующую фигуру из множества фигур-ответов.



Выбирая гипотезу, связанную с минимальным "ослаблением" исходного преобразования А ~^ В, программа тем самым отдает предпочтение

* Ibid., p. 350.
** Ibid.

89

тому объяснению, в котором заключено больше информации, общей для отношений А~> В и С^* D. Подробности правил выбора на этапах 1, 2, 3, 4 и составляют, в сущности, предложенную Эвансом теорию человеческого поведения в подобных ситуациях, Я совершенно убежден в том, что любое рассуждение по аналогии включает в себя нечто, имеющее именно такой общий характер"*.

В статье, опубликованной в журнале "Scientific American", М.Минский сформулировал это "нечто" более четко: "Я убежден, что все виды рассуждения по методу аналогии повинуются этим правилам"**. Это та же самая предпосылка, которая, как мы видели, лежит в основе работ Ньюэлла и Саймона в области моделирования процессов познания. При описании процедуры решения задачи Т.Эванс фактически повторяет Ньюэлла:

"Эти программы, в сущности, похожи. Их работа - процесс не простой, так что мы можем сказать, что обе программы действительно решают задачу, а не просто осуществляют шаг за шагом те процедуры поиска решения, которые придумал программист. Они имеют дело с формализованными задачами, хотя и трудными, но с "хорошей структурой". Программы строятся на единой системе понятий: они находят комбинаторную интерпретацию задачи, сводя ее к поиску правильной последовательности операций среди множества всех возможных последовательностей. Все программы порождают то или иное дерево возможностей и шаг за шагом исследуют все допустимые последовательности. Множество всех последовательностей слишком необъятно, его нельзя построить и просмотреть in toto, поэтому для сокращении числа возможностей до разумных пределов, поддающихся машинной обработке, используются различные ухищрения, называемые эвристиками".

В заключение Т.Эванс пишет:

"Программа геометрических аналогий также подпадает под это описание. Говоря очень кратко, при рассмотрении задач такого типа программа использует различные эвристики для выбора (за разумный срок) "адекватного" правила из очень широкого класса допустимых



Можно с уверенностью сказать, что если бы человек решал задачи поиска аналогий именно таким образом, то были бы все основании надеяться на улучшение и обобщение программы Эванса, поскольку человек, разумеется, далеко превосходит уровень, демонстрируемый существующими программами. Однако, как и в случае GPS, ничто не говорит в пользу того, что человек действует именно таким образом, а данные эмпирической психологии свидетельствуют как раз об обратном.

Р.Арнхейм, профессор психологии Гарвардского университета, анализируя работу Эванса, указал на иной подход, которым пользуется человек, решая задачи такого рода. Слова Арнхейма стоят того, чтобы привести их полностью:

* М.Мinsky - Introduction.-In: M.Minsky (ed). Semantic Information Processing, p.16 (курсив мой.-X.Д.)

** М.Минский. Искусственный разум. - В кн.: Информация, с. 206.

*** Th.Evans. Op.cit.-In: M. Minsky (ed.) Semantic Information Processing, p. 280

90

“Что происходит, когда человек сталкивается с фигурой, подобной той, которая изображена на рис. [2]? Реакция будет несколько меняться от человека к человеку, поскольку нет никакого конкретного контекста, способствующего концентрации внимания на тех или иных специфических структурных признаках. Однако в общем и целом испытуемый, вероятнее всего, заметит своего рода вертикальную организацию, состоящую из двух частей, верхняя из которых сложнее и больше по величине, чем нижняя48

он может заметить также различия в контурах. Другими словами, он воспримет качественные характеристики конфигурации, относительные величины и очертания, в то время как большинство метрических свойств, с учета которых должно начинаться восприятие образа вычислительной машиной, а именно абсолютные размеры и те или иные длины и расстояния, характеризующие данную конкретную фигуру, он вряд ли заметит. Если попросить испытуемых нарисовать фигуру, которую они воспринимают, то выяснится, что они обращают внимание на топологические особенности и пренебрегают точными размерами.



Если теперь испытуемый столкнется с сочетанием фигур Аи В, опыт его резко расширится и обогатится. Сначала у него появится смутное ощущение сходства между совершенно различными как будто изображениями. Конструкция, состоящая из двух данных фигур, в целом может показаться несоединимой, иррациональной, непостижимой. Налицо две вертикальные организации, сочетающиеся в своего рода симметрии, которая разрушается отношениями по диагонали между двумя большими "заполненными" кругами и двумя маленькими "незаполненными" фигурками. Многообразие структурных характеристик никак не складывается в единое, устойчивое и доступное пониманию целое. Не исключено, однако, что испытуемый внезапно уловит, что четыре меньших фигуры - два равных кружка вверху и два равных квадрата внизу - составляют вместе простую прямоугольную структуру. Как только эта структура станет доминирующим мотивом или организующей основой целого, остальные фигурки-два больших круга - добавятся к основному образу в качестве второстепенных "диагональных украшений". Иерархия структур установлена. Теперь конструкция из двух фигур устойчива, обозрима, доступна пониманию и потому готова к сравнению с другими фигурами. Первый акт поиска решения задачи произошел.

Когда после этого человек обратится к фигуре С, то новое в ней для него с самого начала будет определяться опытом, накопленным при рассмотрении фигур А и 6. Будучи сравниваема с фигурой А, фигура С обнаруживает аналогичную вертикальную структуру, отличающуюся от структуры А по существу второстепенным различием контуров фигурок. «Фамильное» сходство обеих фигур достаточно велико, и отношения между ними устанавливаются просто. Если же теперь С сопоставить с D-], то их сходство кажется избыточным, симметрия слишком совершенной. Сравнение с D2, напротив, дает слишком малое сходство. Если отношение между А и В было установлено правильно, то D3 сразу распознается как подходящая к С пара - недостающий четвертый элемент аналогии.

Этот пример из области перцептивного решения задач включает все характеристики подлинного мышления: проблемную ситуацию, продуктивный поиск, надежды и догадки, частичные решения, неприятное ощущение противоречия, внезапное озарение, ведущее к окончательному решению, адекватность которого очевидна, структурные преобразования, возникающие под давлением изменения ситуации в целом, обнаружение элементов сходства между различными образами. Все это, вместе взятое, представляет собой в небольшом масштабе живой опыт, достойный существа, которому дарован разум. Когда решение наконец найдено, мы ощущаем спад напряжения, удовлетворение, покой.

В вычислительной машине все происходит иначе, и не потому, что она не обладает сознанием, а потому, что принцип ее действия в корне иной. Мы

91

поражаемся, когда узнаем, что для того, чтобы научить машину решить задачу по аналогии, экспериментатору "пришлось разработать, пожалуй, одну из самых сложных из всех когда-либо написанных программ". Дли нас эта задача не сложна - она доступна начинающим студентам. Причина такого различия в том, что подобные процессы требуют рассмотрения топологических отношений, а это влечет за собой отбрасывание отношений чисто метрических. Мозг приводится в движение именно такими "топографическими" признаками, так как они дают нам информацию о типовых характеристиках вещей, а не об их конкретных количественных характе­ристиках"*

Как и в шахматах, глобальное перцептивное разбиение на группы обязательно предшествует управляемому правилами перебору - единственному виду деятельности, доступному машине. Как пишет Р.Арнхейм, "топология была открыта перцептивной мощью мозга и рассчитана на перцептивные, а не арифметические его возможности"**.

По-видимому, Минский и Эванс полагают, что человек находит аналогии с помощью правил преобразования, поскольку прогресс в развитии ИИ возможен только в предположении, что человек решает задачи именно таким образом. Но это рассуждение заведомо порочно, поскольку нельзя основывать свой оптимизм на гипотезе, которая в свою очередь подтверждается только тем фактом, что, окажись она верной, оптимизм ее сторонников был бы оправдан.



Программа организации семантической памяти, составленная Р. Кеиллианом

Последняя из рассматриваемых нами программ самая интересная, так как она наиболее обща и наименее претенциозна - по крайней мере ее автор (он работает под руководством Г.Саймона, а не М. Минского) не делает никаких огульных заявлений и обещаний***. Это программа подтверждает общее правило оценки качества эвристических программ (вспомним сдержанность А. Сэмюзля, когда он говорит о своей программе, и ее результативность, с одной стороны, и претенциозность Г. Саймона и X. Гелернтера при очень скромных успехах - с другой), которое заключается в следующем: значимость программы часто находится в обратной зависимости от обещаний и рекламных заявлений ее авторов.

* F.Arnheim. Intelligence Simulated. -"Midway", University of Chicago, June 1967, p.85-87.
** Ibid

*** В отличие от М. Минского Г. Саймон, по-видимому, не требует от своих учеников публичного обета верности, хотя сам принадлежит к числу "верующих".

92

Р.Квиллиан, как и Д.Бобров, занимается моделированием явления понимания естественного языка, но в отличие от Боброва и Минского он отдает себе отчет в том, что к этой задаче нет смысла подходить с позиции поиска решения с помощью приемов ad hoc.

"Прежде всего, мы полагаем, что авторы теорий переработки информации или машинных моделей, если они хотят добиться успеха, не должны игнорировать семантику или устранять ее, как это до сих пор имеет место в большинстве программ по переработке информации, заданной на естественном языке. Неважно, что именно по замыслу автора должна делать программа - производить грамматический анализ предложения, переводить с одного языка на другой или отвечать на вопросы, задаваемые на естественном языке,- если в ней не учитываются семантические характеристики, причем изначально и достаточно часто, то, я думаю, у нее нет шансов достичь уровня человека"*.

Предприняв обзор всех имеющихся в этой области работ, включая работу Д. Боброва,?. Квиллиан пишет:



"Программы, подобные программе Боброва, в состоянии составлять уравнения, соответствующие некоторым текстовым алгебраическим зада­чам, с помощью почти полностью "синтаксической" процедуры. ...Однако если попытаться расширить ту часть языка, которая доступна такой программе, то неизбежно придется вводить в нее все большее число семантических фактов"**.

В заключение Р.Квиллиан говорит:

"...вопрос о том, что должно храниться в общей долговременной памяти, подобной памяти человека, как должна записываться в ней информация, как память должна быть организована, в предшествующих моделирующих программах не был рассмотрен во всей его общности... Дальнейшее развитие моделирования решения задач, моделирования игр, а также речевого поведения, несомненно, потребует создания программ, организующих большие массивы памяти и взаимодействующих с ними"***.

Затем Квиллиан переходит к описанию своей сложной эвристической программы, обеспечивающей занесение в память и извлечение из нее значений слов и "всего того, что можно выразить в языке, почувствовать в восприятии или каким-либо иным путем постигнуть и запомнить"****, - программы, организующей содержание памяти в виде одной "огромной, взаимосвязанной сети"*****- По предположению Квиллиана, в этой программе воплощена "разумная точка зрения на то, как организована

* R.Quillian. Semantic Memory.- In: М.Мinsky (ed.). Semantic Information Processing, p,251.

** R. Quillian. Semantic Memory. Bolt, Beranek and Newman, Inc., Paper AFCRL-66-189, 1966, October, p. 54. (В сжатом варианте диссертации, приводимом в книге под редакцией М. Минского, этого нет.)

*** R. Quillian. Op. cit.-In: M. Minsky (ed.). Semantic Information Processing, p.219-220.

**** Ibid., p,221. *****lbid.,p.222.



93

семантическая информация в мозгу человека"*. Однако никаких доводов в пользу разумности этой точки зрения он не приводит, за исключением разве что того соображения, что если бы необходимость хранения семантической информации возникла перед вычислительной машиной, то предлагаемая программа оказалась бы для этого разумной моделью. В действительности человек не осознает того, как он проводит сложные процессы занесения в память и извлечения из нее, о которых говорит Р. Квиллиан, Однако последнего это мало волнует; он, как и его учитель Саймон, всегда может сказать, что эти процессы все же происходят, подсознательно,

"Хотя процесс кодирования текста, разумеется, не совпадает с тем скрытым от нас процессом, который приводит к пониманию текстового материала при обычном чтении, все же он... в каком-то смысле является его замедленной и доступной для обозрении версией**.

Тот факт, что подобная подсознательная переработка информации действительно имеет место и, более того, происходит в соответствии с эвристическими правилами, отнюдь не очевиден. Мы уже видели, что и в игре в шахматы, и при отыскании аналогий решающее значение имеет разбиение объектов на группы, основанное на целостном восприятии; очень может быть, что и в данном случае это так. Но создается впечатление, что Р. Квиллиан усвоил от Ньюэлла и Саймона безоговорочно принимаемое ими допущение, что человек действует по эвристическим программам.

"Эвристические методы, с помощью которых выбирается единственное конкретное осмысление текста, составляют центральную проблему для всякого, кто хочет объяснить "понимание"; точно так же эвристические методы, с помощью которых выбирается единственный конкретный ход из всех возможных ходов, составляют центральную проблему для всякого, кто хочет объяснить процесс игры в шахматы"***.

Приняв такое допущение, Квиллиан с неизбежностью должен предположить, что идеал программы должен состоять в том, чтобы задавать функционирование системы в направлении "от частей к целому",

"Выбирая задачу, в рамках которой можно было бы работать с моделью памяти, естественно начать со способности к пониманию незнакомых предложений- По-видимому, разумно предположить, что у человека нет другого пути понимания новых предложений, кроме извлечения из памяти хранящейся в ней информации о значениях отдельных слов и словосочетаний (и, возможно, небольшого изменения э~их значений) с последующим комбинированием значений в целях формирования смысла предложения. В

* Ibid., р. 216. **Ibid., р. 247.



*** R. Quillian. Semantic Memory, Bolt, Beranek and Newman, Inc., Paper AFCRb66-189, p. 113.

94

соответствии с этим в нашу задачу входит построение модели хранения семантических сведений и формулирование правил комбинирования, по которым из хранящихся в памяти смыслов слов происходит построение значений предложений"*.

Квиллиан также ждет от своей системы многого:

"Далее, вполне правдоподобно, что если бы удалось адекватно закодировать и вложить в память ЭВМ хотя бы несколько значений слое, а затем формализовать на уровне машинной программы работоспособный набор правил их комбинирования, то можно было бы слово за словом наращивать запас закодированных значений наподобие шнуровки на ботинках; тогда вычислительная машина сама бы "понимала" предложения, которые ею построены, и использовала их для формулировки определений других слов. А это значит, что если новое, еще не закодированное слово может быть определено с помощью предложения, в которое входят только слова с уже закодированными значениями, то машина в состоянии построить объект, представляющий смысл этого предложения, исходя из уже имеющихся у нее сведений и правил комбинирования;объект этот - представитель смысла - и будет тем соответствующим предложению кодом, который следует добавить к содержимому в памяти в качестве значения нового слова"**.

С откровенностью, столь редкой в публикациях на данную тему, Р. Квиллиан сообщает также и о своих разочарованиях;

"К сожалению, два года работы над данной проблемой показали, что для нынешнего уровня знаний эта задача слишком трудна. Процессы, происходящие в мозгу человека, когда он "понимает" предложение и включает его смысл в свою память, очень сложны, и происходят они практически без участия сознания"***.

Масштабы задачи, стоящей перед Р.Квиллианом, станут яснее, если мы заметим, что



" определение восьмисот пятидесяти слое вмещает в себя больше информации, чем в состоянии вместить магнитные запоминающие устройства современных вычислительных машин"****.

Эти трудности наводят на мысль, что, быть может, ошибка кроется в самой модели, то есть в идее о том, что наше понимание естественного языка включает в себя построение структурированного целого из огромного числа точно описанных частей. Работа Р. Квиллиана скорее ставит, чем решает вопрос о запоминании этого колоссального множества фактов, - вопрос, возникающий в связи с тем, что в проводимом анализе отсутствуют перцептивные гештальты. Если структура данных по мере добавления новых определений будет расти слишком быстро, то и без того не слишком обнадеживающую работу Квиллиана можно считать reductio ad absurdum всего машинно-ориентированного

* R.Quillian. Semantic Memory.- In: M.Minsky (ed.). Semantic Information Processing, p,235. Ibid, p.235.

95

подхода. Прежде чем решить, дает ли работа Квиллиана основание для оптимизма, любопытно получить ответ на коренной вопрос: как с увеличением числа элементов растет база данных у Квиллиана - линейно или экспоненциально?

По поводу этого основного вопроса, как это ни удивительно, можно встретить массу обнадеживающих заверений, но мало информации. Программа Квиллиана имеет дело только с 50 - 60 словами. М. Минский в сборнике, вышедшем в 1968 г., то есть спустя три года после завершения этой программы, вынужден признать, что «пока мы еще мало знаем о том, насколько эффективными станут методы Квиллиана при использовании более содержательных "банков знаний"»*. И опять о дальнейшем развитии сообщений не имеется.





II. Значение сегодняшних трудностей



Каковы разумные перспективы? По оценке М. Минского, в настоящее время программа Квиллиана содержит несколько сотен фактов, в то время как "для мощного интеллекта потребуется миллион фактов"**. Он также признает, что каждая из "рассмотренных (в его книге,- ХД) программ лучше всего будет работать при условии обеспечения ее только необходимыми фактами, ибо по мере роста массивов информации программы безнадежно увязают в массе фактов"***.



Если так, то возникает вопрос, существуют ли хотя бы какие-нибудь основания для уверенности в том, что эти программы приближают нас к тем "эвристикам высшего уровня, управляющим познавательной структурой", которыми, как считает Минский, располагает человек? Можно ли согласиться со следующим заявлением Минского, сделанным в другой его работе:

"При жизни нашего поколения... останется лишь немного интеллектуальных задач, которые будут не под силу машинам: проблема создания "искусственного интеллекта" будет в основном решена"****.

Во всяком случае, труд "Процессы переработки семантической информации" не дает оснований для такой уверенности.1 М. Минский, как мы видели, критикует более ранние программы за недостаточную общность. "Каждая программа работает только в соответствующей специальной области, и стыковать две разные программы оказывается совершенно невозможно"*****. Однако

* M. Мinsky (ed.). Semantic Information Processing, p. 1.

** Ibid., p. 26. *** Ibid.rP; 18.

**** M.Minsky. Computation: Finite and Infinite Machines. Engluwood Cliffs, N J., Prentice-Hall, 1967, p. 2.

***** M.Minsky (ed.). Semantic Information Processing, p. 13.

96

предлагаемые Минским решения остаются, как правило, на уровне приемов ad hoc, и тем не менее с некоторой долей беспечности он пишет далее:



"Рассмотренные в данной книге программы все еще страдают этим недостатком, но их авторы уже не игнорируют этой проблемы. Их основная задача фактически состоит в том, чтобы решить ее"*.

Но как-то незаметно, чтобы хоть одна из представленных М, Минским работ что-нибудь решала. Ни одной общей характеристики способности человека к разумному поведению найти не удалось. Все, что предлагает Минский, - это частные решения отдельных задач, как у Боброва и Эванса, или предельно упрощенные модели, как у Квиллиана, которые работают именно потому, что проблема структурирования и хранения необходимого объема данных была исключена из рассмотрения. Минский, конечно, уже ответил на эти очевидные обвинения новой вариацией на тему "первого шага":

"Хотя область применения предлагаемого пакета программ see еще производит впечатление довольно узкой, это не доказывает отсутствия прогресса в движении к более общим результатам. Каждая из этих программ - шаг вперед к управлению знанием"**.

По-видимому, на втором этапе игра заключается в следующем: выяснить, в какой мере можно наращивать видимость сложного, оставаясь в то же время на безопасном расстоянии от подлинной проблемы сложности, а затем, убедившись, что обобщение невозможно, объявить, что сделан только первый шаг49.

Такой подход неизбежен до тех пор, пока исследователи в области ИИ будут стремиться к эффективным результатам, не решив практической задачи хранения в памяти большого объема данных, необходимого - хотя, быть может, и недостаточного - дли всесторонней гибкой переработки семантической информации. Оглядываясь на достигнутые результаты, М. Минский с удовлетворением отмечает: "Трудно сдержать изумление, видя, как много все-таки достигнуто при столь ограниченной семантике"***. И. Бар-Хиллел в беседе с представителями SIGART (Special Interest Group in Artificial Intelligence of the Association for Computing Machinery} подчеркнул, что такого рода заявления лишь вводят в заблуждение:

"Существует немало людей во всех областях знания и особенно в сфере ИИ, которые расценивают любой первый шаг в использовании ЭВМ там, где

* Ibid.

** Ibid, (курсив мой,- Х.Д.)

*** Ibid., p. 26.

97



они ранее не применялись, как такое достижение, которое делает оставшиеся шаги делом "простой техники". В сущности, такая точка зрения равносильна утверждению, что если какая-то работа может быть вообще передана вычислительной машине, то она будет выполняться ею хорошо. Дело обстоит как раз наоборот: шаг, ведущий от полной невозможности выполнить что-то к возможности выполнить это хоть как-нибудь, значительно короче следующего шага, приводящего к умению выполнить это хорошо. В исследованиях в области ИИ подобное заблуждение встречается постоянно"*.

Однако И.Бар-Хиллел, пожалуй, излишне простодушен, если полагает, что это непонимание является простым следствием недооценки трудностей, связанных с прогрессом в данной области. Для того чтобы иметь основание утверждать, что первый, пусть даже маленький шаг уже сделан, надо быть уверенным в том, что последующие шаги в конце концов достигнут желаемой цели. Как мы видели, книга М. Минского таких оснований не дает. Вполне возможно, что вышеупомянутые шаги окажутся семимильными шагами в противоположном направлении. Ограниченность результатов, описываемых Минским, в сочетании с тем фактом, что за последние пять лет ни одно из множества прокламированных обобщений не было реализовано, наводят на мысль, что человек в отличие от ЭВМ вовсе не имеет дела с массой изолированных фактов, поэтому ему нет необходимости накапливать и извлекать из памяти эти факты, пользуясь эвристическими правилами. Судя по его поведению, человек обходит те трудности, с которыми на каждом шагу сталкиваются исследователи в области моделирования процесса познания и создания искусственного интеллекта, он делает это, избегая дискретного метода переработки информации, который эти трудности вызывает. Таким образом, весьма сомнительно, чтобы тот сдвиг, который М. Минский называет шагом к управлению "знанием" (пусть незначительным шагом), вообще вел к искусственному интеллекту.





ЗАКЛЮЧЕНИЕ



Как мы видели, первый этап - этап, провозглашенный "первым шагом", - не привел к успеху. Это относится как к GPS, так и вообще ко всем программам моделирования доказательства теорем, игры в шахматы и перевода с одного естественного языка на другой, созданным на этом этапе, М. Минский и сам признает неудачу; его диагноз точен, хотя он и пытается свести понесенные потери к минимуму:

* Y.Bar-Hillel. Critique of June 1966 Meeting, SIGART Newsletter, p.1.

98

Несколько исследований, по существу, не оправдали возлагавшихся на них надежд- Я имею в виду весьма нашумевшие проекты по переводу с одного языка на другой и доказательству математических теорем. Я думаю, что в обоих случаях это были незрелые попытки комплексной формализации, не подкрепленные достаточно глубоким постижением смысла самих объектов формализации"*.

Второй этап - новый "первый шаг" - начался где-то в 1961 г., когда в Массачусетсом технологическом институте ученики Минского начали работать над диссертациями, темы которых были определены задачей преодоления этих трудностей. Его конец можно отнести к 1968 г., когда вышла в свет книга под редакцией М. Минского "Процессы переработка семантической информации" - своего рода отчет об этих попытках, завершенных уже к 1964 г. Учитывая, по общему признанию, узкий -ad hoc - характер соответствующих программ, которые Минский считает наиболее удачными, и отмечая отсутствие дальнейшего их развития за последние пять лет, мы можем сделать единственный вывод: второй этап тоже не привел к успеху.



Авторы большинства работ, посвященных описанию состояния дел в этой области, не подчеркивают этот факт. Р.Соломонов в своем обзоре, опубликованном в "Трудах Института инженеров по электротехнике и радиоэлектронике" в 1966 г. и посвященном обзору работ в области ИИ, вышедших после 1960 г., первые три страницы уделяет программе GPS и другим достижениям прошлого, уже завершенным к 1960 г.; на следующих трех страницах обсуждается блестящее будущее работы С.Амареля, посвященной индукции: "Хотя Амарель не представил ни одну из своих теорий в виде программы, важность его идей и проведенного им анализа несомненна"**. О программах для переработки семантической информации, которым М. Минский придает такое значение, почти ничего не говорится. Все надежды возлагаются на индукцию и обучение. К сожалению, "во всех упомянутых обучающихся системах машина может самосовершенствоваться только в очень ограниченных пределах... Перед нами все еще стоит вопрос о том, какого типа эвристики требуются для нахождения эвристик; неизвестно также, в каких языках удобнее их описывать"***.

Поскольку не нашлось никого, кому удалось бы хоть что-нибудь сделать для нахождения таких эвристик, Р.Соломонов возлагает свои последние надежды на искусственную эволюцию;

"Перспективность искусственной эволюции объясняется тем, что о механизмах естественной эволюции мы знаем очень много и о многом

* М.Минский. Искусственный разум. - В кн.: Информация, с.214.

** R.Sоlоmоnоff. Some Recent "Work in Artificial Intelligence.-Pro ceedings of the IEEE, vol.54, No. 12, 1966, December, p. 1689.

*** Ibid., p. 1691.

99

догадываемся. А ведь эти механизмы могут быть прямо или косвенно использованы для решения тех проблем, которые возникают в их искусственных аналогах. Моделирование эволюции предоставляет исследователям в области "искусственного интеллекта" несравнимо более богатые возможности, чем моделирование нейронных сетей, поскольку о нейронных сетях почти ничего не известно из того, что могло бы хоть сколько-нибудь помочь в решении сложных проблем"*.

Однако такого рода работа по искусственной эволюции только начинается. "Исследования в области моделирования эволюции до сих пор чрезвычайно ограничены как количественно, так и качественно"**.



Когда статья, предназначенная для подведения итогов работы, проделанной с 1960 г., начинается с упоминания достижений предшествующих лет и кончается общими рассуждениями без единого примера, подтверждающего действительный прогресс, то между строк с отчетливостью проступают признаки застоя.

Подчас и в самих строках можно уловить оттенок разочарования. Так, например, Ф.Тонг в своей серьезной, без претензий статье об эвристическом алгоритме балансирования работы сборочного конвейера, опубликованной в 1968 г, и позднее вошедшей в коллективный труд "Вычислительные машины и мышление”, заканчивает обзор работ по "искусственному интеллекту" следующими славами;

"Несмотря на создание множества интересных программ (и нескольких любопытных устройств), прогресс в области "искусственного интеллекта" нельзя назвать ни волнующим, ни блестящим... По крайней мере в некоторой степени это связано с тем, что во многих публикациях, и в прошлом, и в настоящем, отсутствует четкое различение того, что достигнута, и того, что еще предстоит сделать. В этой области, как и во многих других, существует огромная разница между утверждением, что то или иное усовершенствование "по всей вероятности может быть" реализовано, и его действительной реализацией.

Очень мало ощутимых, значительных переломных достижений"***.

Затем Тонг перечисляет те достижения, которые он считает "переломными". Сюда входят: программа Ньюэлла, Шоу и Саймона "Логик-теоретик", шашечная программа Сэмюэля и распознающая программа Л.Юра и Ч.Фосслера. Но все три работы закончены задолго до 1961 г. и все три - тупиковые, если об этом позволительно судить по дальнейшим работам.

Чтобы отклонить возможные упреки в пристрастности моей оценки этой обзорной работы Тонга, сошлюсь для сравнения на следующий принадлежащий П. Гринвуду реферат, помещенный в реферативном журнале "Computing Reviews": "Из этого сжатого описания сегодняшнего состояния дел по

* Ibid. p. 1693.

** Ibid.

*** F.M.Tonge. A View of Artificial Intelligence.- In: Proceedings, A.CM.National Meeting, 1966, p. 37950.



100

проблеме " искусственного интеллекта можно сделать вывод, что за период, истекший с 1960 г., прогресс в этой области был весьма незначителен, а перспективы на ближайшее будущее оставляют желать лучшего"*.

Остается непонятным, почему эти трудности не смущают исследователей, работающих в области моделирования процесса познания, которые полагают, что переработка информации, производящаяся вычислительной машиной, проливает свет на скрытые от нас информационные процессы у человека, и почему те, кто занимается "искусственным интеллектом", считают, что должен существовать дискретный метод решения тех задач, которые разрешимы для человека. Насколько мне известно, в этой области исследований не нашлось никого, кто задумался бы над этими вопросами. Фактически во всем конгломерате естественных наук "искусственный интеллект" представляет собой наименее самокритичную область. Должна же существовать какая-то причина, объясняющая тот факт, что все эти разумные люди почти единогласно сводит к минимуму или вообще отказываются видеть возникающие на их пути трудности и продолжают догматически верить в успех. Очевидно, какая-то сила, заключающаяся в их исходных допущениях (а отнюдь не в успехах их работ), заставляет их игнорировать необходимость оправдания этой уверенности. Теперь нам необходимо разобраться, почему, несмотря на всевозрастающие трудности, исследователи в области "искусственного интеллекта" сохраняют столь непоколебимую твердость.

* Computing Reviews, vol. 8, No, 1, 1967, January-February, p. 31

101





Часть II

ДОПУЩЕНИЯ, ЛЕЖАЩИЕ В ОСНОВЕ "СТОЙКОГО ОПТИМИЗМА

ВВЕДЕНИЕ



Несмотря на серьезные трудности, исследователи, работающие в области моделирования процесса познания и создания "искусственного интеллекта", не пали духом. Более того, они настроены на редкость оптимистично. Их оптимизм основан на убеждении, что у человека переработка информации, вне всякого сомнения, носит дискретный характер, подобно тому как это происходит в цифровой машине, Коль скоро природа, основываясь на этом принципе, уже реализовала разумное поведение, то, составив соответствующую программу, мы имеем возможность наделить такой же способностью и вычислительные машины. При этом мы можем идти по пути имитации природы, либо программирования ее внешних проявлений.



Предположение, согласно которому как у человека, так и у машины переработка информации в конечном счете основана на одних и тех же элементарных действиях, высказывается порой с наивной откровенностью. А.Ньюэлл и Г.Саймон начинают одну из своих статей следующим замечанием:

"Ясно, что при таком подходе не делается каких-либо предположений о сходстве конструкции машины и мозга, за исключением того, что обе эти системы представляют собой универсальные устройства символьной переработки информации, и того, что должным образом запрограммированная вычислительная машина может выполнять элементарные информационные процессы в функциональном отношении точно так же, как они происходят в мозгу"*.

Это предположение, однако, не столь невинно и очевидно, как представляется на первый взгляд. Что такое "универсальное устройство символьной переработки информации"? Каковы те "элементарные информационные процессы", которые, как утверждается, одинаковы для человека и машины? Все работы по "искусственному интеллекту" осуществляются на цифровых машинах, поскольку это единственное универсальное устройство переработки информации, которое мы в настоящее время умеем конструировать и вообще можем себе представить. Вся информа-

A.Newell, H.A.Simоn. Computer Simulation of Human Thinking.- The RAND Corporation, P-2276, 1961, April 20, p. 9

105

ция, с которой работают эти ЦВМ, должна быть выражена в терминах дискретных элементов. Для современных цифровых машин информация представляется в двоичной форме, то есть в виде последовательностей сигналов "да" и "нет" либо "включено" и "выключено". Машина должна обрабатывать строчки определенных элементов конечной длины как последовательности объектов, отношения между которыми задаются строгими правилами. Таким образом, предположение, согласно которому человек действует подобно устройству для символьной обработки информации, связано со следующими допущениями.

1. Биологическое допущение: на некотором уровне - обычно полагают, что на уровне нейронов, -операции по переработке информации носят дискретный характер и происходят на основе некоторого биологического эквивалента переключательных схем,

2. Психологическое допущение: мышление можно рассматривать как переработку информации, заданной в бинарном (двоичном) коде51, причем переработка происходит в соответствии с некоторыми формальными правилами. Таким образом, в психологии вычислительная машина служит в качестве модели рассудка, каким его представляли эмпирики, такие, например, как Д.Юм (в этом случае информационным "битам" соответствуют атомарные впечатления), или идеалисты вроде И.Канта {в этом случае программа реализует правила мыслительного процесса) . Они подготовили почву для модельного представления мышления в виде процесса переработки информации - безличного процесса, в котором "процессор" не играет существенной роли52.



3. Эпистемологическое допущение: все знания могут быть формализованы, то есть все, что может быть понято, может быть выражено в терминах логических отношений, точнее, в терминах булевых функций - логического исчисления, задающего правила обращения с информацией, заданной в двоичном коде53.

4. Наконец, поскольку вся информация, которая вводится в машину, должна быть представлена в двоичной форме - в битах,- машинная модель мышления предполагает, что все сведения о мире, все, что составляет основу разумного поведения, должно в принципе допускать анализ в терминах множества элементов, безразличных к ситуациям. Таково онтологическое допущение: все, происходящее в мире, можно представить в виде множества фактов, каждый из которых логически не зависит от остальных. В следующих главах мы перейдем к анализу правдоподобия каждого из этих допущений. Мы убедимся, что, как правило, то, что исследователям, работающим в области моделирования процесса познания и создания "искусственного интеллекта", представляется аксиомой, гарантирующей получение результатов, в действительности является лишь одной из возможных гипотез, подлежащих проверке в ходе дальнейшей работы. Более того, ни

106

одно из этих четырех допущений не может быть оправдано ни эмпирически, ни a priori. Наконец, последние три допущения - носящие скорее философский, чем эмпирический характер,- можно подвергнуть критике с философских позиций. Каждое из них при последовательном применении к осмыслению разумного поведения ведет к затруднениям концептуального характера.

После анализа каждого из этих допущений нам будет легче понять устойчивый оптимизм специалистов в области "искусственного интеллекта", а также оценить действительную значимость результатов, полученных ими к настоящему времени.

Глава 3. БИОЛОГИЧЕСКОЕ ДОПУЩЕНИЕ В период между изобретением телефонного реле и созданием вычислительной машины - этой кульминации принципа, заложенного в основу работы реле,- мозг всегда представлялся в терминах новейших технических достижений: его функционирование мыслилось по аналогии с работой большой телефонной станции, а значительно позднее - с электронной вычислительной машиной. Эта модель мозга связана и с исследованиями в области нейрофизиологии, в результате которых было обнаружено, что нейроны дают всплески электрической активности по принципу "все или ничего". Такой всплеск, или импульс, стали рассматривать как единицу информации, циркулирующей в мозгу, подобно машинному "биту". Эта модель, и по сей день некритически принимаемая всеми, кто непосредственно не связан с нейрофизиологией, и является основой наивного представления о тоги, что человек - это ходячий пример успешно работающей программы для цифровой вычислительной машины. Начнем с того, что, даже если бы мозг на некотором уровне действительно работал подобно цифровой машине, это совсем не обязательно оправдало бы надежды специалистов в области моделирования познавательных процессов и "искусственного интеллекта". В самом деле, можно представить себе, что мозг смонтирован как большое скопление случайно соединенных нейронов. Именно по такому принципу был построен перцептрон, предложенный группой "ранних кибернетиков", как их пренебрежительно называет М.Минский*. Такая нейронная сеть может быть промоделирована с помощью программы для вычислительной машины, однако подобная программа не будет эвристической * В свете предстоящего анализа следует заметить, что, даже если удастся показать, что перцептроны из некоторого узкого класса подобных систем неспособны к распознаванию образов или обучению (см. с. 79) , это не исключает теоретической возможности того, что достаточно сложная ней­ронная сеть проявит эту способность. Такую возможность не следует упускать из виду при оценке тех аргументов в пользу биологического и психологического допущений, согласно которым мозг или мышление должны функционировать по типу эвристически запрограммированной цифровой вычислительной машины. 108 ни в каком смысле этого слова. Таким образом, тот факт, что мозг может оказаться цифровой машиной, отнюдь не дает достаточно оснований для оптимистических настроений относительно возможности создания искусственного интеллекта, как его определяют Саймон и Минский. Более того, вопрос о том, в какой мере элементарные информационные процессы мозга могут быть поняты в терминах цифровой модели, требует экспериментальной проверки. Мозг, быть может, перерабатывает информацию совершенно иным, полностью отличным от машинного способом. Информация, например, может перерабатываться глобально, подобно тому как это происходит в состоящих из электрических сопротивлений аналоговых схемах при решении задач на определение кратчайшего пути в некоторой сети. Как показали многочисленные экспериментальные данные, модель мозга, построенная на "нейронных переключателях", практически не находит подтверждения. Уже в 1956 г. Дж. Нейман - один из создателей современной вычислительной техники - высказал следующие сомнения: "Если теперь говорить конкретно о нервной системе человека, то это- механизм огромной сложности, по крайней мере в 1СР раз большей, чем любой известный нам искусственный механизм, и его действия соответственно этому разнообразны и сложны. В число функций этого механизма входит интерпретация внешних чувственных восприятий, а также сообщений о физических или химических условиях, управление двигательной активностью и внутренними химическими уровнями, функция памяти с ее очень сложными действиями преобразования и отыскания информации и, разумеется, непрерывная передача кодированных приказов и более или менее количественно выраженных сообщений. Все эти процессы могут трактоваться при помощи цифровых методов (то есть с использованием чисел, выраженных в двоичной системе или при помощи некоторых дополнительных приемов кодирования, в десятичной или какой-либо другой системе), в терминах обработки цифровой (обычно числовой) информации алгебраическими (то есть в основном арифметическими) методами. Это наиболее вероятный путь, по которому в настоящее время пошел бы человек, пытаясь решить такую проблему ...доступные нам сведения, хотя они скудны и не точны, указывают, скорее на то, что нервная система человека использует иные принципы и процессы. Так, цепочки импульсов, по-видимому, передают информацию, используя аналоговый принцип (однако, в пределах импульсных кодов, то есть здесь мы имеем дело со смешанной системой, которая частично цифровая, частично аналоговая), как, например, временную плотность последовательности импульсов в одной линии, корреляции во времени серий импульсов в различных волокнах одного пучка и т. д."*. Что он имеет в виду под "смешанным характером живых организмов", фон Нейман уточняет следующим образом: * Дж. Нейман. Вероятностная логика и синтез надежных организмов из ненадежных компонент. - В сб.: Автоматы, под ред. К.Э.Шеннона и Дж. Маккарти. М., 1956, с, 129 54 109 "Нейрон подает импульс. Нервный импульс в основном подчиняется принципу "включено - выключено", "все или ничего", и его можно срав­нить с двоичной цифрой. Таким образом, наличие цифрового элемента очевидно, но также очевидно, что это еще не все. Многое из того, что происходит в организме, обусловлено не явлениями этого рода, а зависит от общего химического состава крови и других гуморальных сред. Хорошо известно, что в организме имеется множество сложных функциональных цепей, в которых переход от первоначального раздражения к конечному эффекту осуществляется через целый ряд этапов; некоторые из этих этапов являются нейронными, то есть цифровыми, другие - гуморальными, то есть аналоговыми"*. Но даже и это описание отдает слишком большую дань цифровой модели. Из того факта, что нервные импульсы построены по принципу "все или ничего", вовсе не следует, что имеет место цифровой процесс в любой его форме. Различие между цифровым и аналоговым вычислением - это логическое различие, которое не зависит ни от конструкции системы, ни от вида используемых в ней электрических импульсов. Существенное различие между цифровым и аналоговым способами переработки информации состоит в том, что при цифровом способе отдельный элемент представляет символ некоторого описательного языка, то есть несет конкретный квант информации, тогда как в устройствах, работающих по аналоговому принципу, подлежащая обработке информация представляется непрерывными физическими величинами. Мозг, оперирующий потоками импульсов, можно считать цифровым вычислительным устройством только в том случае, если каждый импульс окажется связанным с определенным шагом в процессе переработки информации; если же, напротив, обнаружится, что минимальной "единицей" в модели информационного процесса должна быть частота импульсации - как, по-видимому, считает Нейман,- то мозг работает как аналоговое устройство**. После такого разъяснения понятий мы можем считать, что фон Нейман предложил чисто аналоговую модель работы мозга; и последующие исследования, видимо, это подтверждают. Даже для тех, кто не знаком со специальными вопросами, которым посвящена цитируемая ниже работа, понятен смысл следующих слов: "У высших беспозвоночных мы впервые сталкиваемся с такими явлениями, как нарастающий синаптический потенциал, при котором перед возникновением постсинаптического импульса происходит алгебраическое сложение действия нескольких входных пресинаптических воздействий, осуществляемое сложным механизмом. Эти входные воздействия имеют различную значимость в зависимости от характера проводящего пути и состояния синапса. Это нелинейное и локальное явление, предшествующее * Дж. фон Нейман. Общая и логическая теория автоматов55-- В кн.: А.Тьюринг. Может ли машина мыслить? М., 1960, с. 70. ** Это различение мне помогли сформулировать У. Эльзассер и П. Грегори, за что я им весьма признателен. 110 возникновению всякого постсинэптического импульса, может быть настолько существенным, что мы не можем более считать типичный синапс в интегрирующих системах чисто цифровым устройством, как обычно предполагалось несколько лет назад. Это, скорее, сложное аналоговое устройство"* Сравнительно недавно Дж. Летвин, сотрудник Массачусетского технологического института, высказал предположение, что толщина аксона может играть решающую роль в переработке информации, так как она определяет параметры аксона как фильтра**. Отдельный нейрон возбуждается с определенной частотой. Различные ветви его аксона действуют как низкочастотные фильтры, полоса пропускания которых определяется диаметром ветви. Поэтому выходной сигнал клетки будет вызывать сигналы раз-ных частот на разных окончаниях аксона. Вообще характеристики аксона как фильтра изменяются с его диаметром, который в свою очередь, быть может, зависит от времени, прошедшего с момента предыдущего его "срабатывания", и даже, возможно, от активации непосредственно примыкающих аксонов. Если подобные временные факторы и пространственные взаимодействия играют решающую роль, то нет никаких оснований надеяться, что переработка информации на нейрофизиологическом уровне может быть описана в терминах цифрового формализма или какого бы тони было формализма вообще56. В 1966 г. У. Розенблит, также сотрудник Массачусетского технологического института и один из пионеров использования ЭВМ в нейрофизиологии, подвел итоги сложившейся ситуации следующим образом: "Более того, мы не придерживаемся ранее широко распространенного мнения, что закон передачи нервных импульсов по так называемому принципу "все или ничего" дает нам право считать реле хорошей моделью нейрона. Кроме того, на нас производит все большее впечатление то взаимодействие, которое имеет место между нейронами: в некоторых случаях последовательность нервных импульсов может достаточно четко отражать работу буквально тысяч нейронов. Но если мы имеем дело с системой, многочисленные элементы которой вступают между собой в столь сильное взаимодействие, то описание в терминах поведения индивидуальных нейронов вряд ли обеспечит ее наилучшее понимание... Попытка установления детальной аналогии между организацией мозга и структурой вычислительной системы была бы тщетной и неубедительной"***. Итак, точка зрения, согласно которой мозг как универсальная система переработки символьной информации работает подобно * Th.H.Bullосk. Evolution of Neurophysiological Mechanisms.- In: Behavior and Evolution, A.Roe and G.Simpson (eds.), New Haven, Conn., Yale University Press, 1958, p. 172. ** J. Lettvin. Lecture at the University of California. Berkeley, November 1969. *** W. A. Rоsenblith. On Cybernetics and the Human Brain.-The American Scholar, 1966, Spring, p, 247, 111 цифровой машине, является эмпирической гипотезой, время которой уже прошло. Современные экспериментальные данные о работе мозга не дают никаких аргументов в пользу возможности создания "искусственного интеллекта". В действительности мы отчетливо видим различие между организацией мозга, основанной на "сильном взаимодействии" его элементов, и структурой машины, лишенной такого взаимодействия. Если признать биологические данные существенными, то это различие свидетельствует против возможности создания интеллекта на базе цифровых ЭВМ. Глава 4. ПСИХОЛОГИЧЕСКОЕ ДОПУЩЕНИЕ Вопрос о том, действует ли мозг подобно цифровой машине, является чисто экспериментальным, и разрешить его должна нейрофизиология. "Компьютерная" модель просто не согласуется с фактами. Однако нельзя дать столь однозначный ответ на связанный с предыдущим, но совершенно иного плана вопрос; работает ли разум на тех же принципах, что и цифровая вычислительная машина, то есть оправдано ли применение машинно-цифровой модели в психологии? В данном случае значительно труднее определить суть вопроса. Мозг - это, безусловно, физический объект, в котором происходит преобразование энергии физического мира на основе физических процессов. Но, коль скоро психология отличается от биологии, психолог обязан выделить несколько иной уровень функционирования, чем уровень физико-химических реакций мозга. Теория, которую мы будем оспаривать, утверждает, что такой уровень существует и это - уровень информационных процессов. Формируя на этом уровне разумное поведение, наше мышление использует вычислительные процессы, такие, как сравнение, классификация, перебор и т. д. Согласно этой теории, такой ментальный уровень - уровень, отличный от уровни физических процессов,-должен быть введен в рассмотрение как некоторый возможный языково-мыслительный уровень. Поэтому вопросы, которые здесь будут обсуждаться, носят скорее философско-теоретический, чем опытно-экспериментальный характер. Мы убедимся, что допущение существования уровня "информационных процессов" отнюдь не столь самоочевидно, как это полагают специалисты по моделированию процессов познания, что имеются веские основания сомневаться в самой возможности какой бы то ни было "переработки информации" вообще и что, следовательно, тезис о том, что мышление построено на принципах цифровой вычислительной машины, также представляется сомнительным, В 1957 г. Саймон предсказывал, что через десять лет психологические теории примут форму программ для вычислительных машин, и он сам принялся за воплощение своего предсказания, составив серию программ, которые, как он полагал, моделируют 113 процесс человеческого познания. В них должны были быть отражены сознательные и подсознательные шаги, осуществление которых приводит личность к специфически разумной деятельности. Как мы уже видели, несмотря на общее несоответствие подобных программ их замыслу (признаваемое даже таким энтузиастом, как Минский), все специалисты в области "искусственного интеллекта" (включая Минского) разделяют мнение о том, что разумное поведение людей основано на определенных эвристических правилах, некоторое подобие которых и следует ввести в ЭВМ для обеспечения такого же рода машинного поведения. Более того, несмотря на ограниченность результатов, предсказание Саймона в некотором смысле сбылось. В психологии произошел общий сдвиг от бихевиоризма к ментализму. Многие влиятельные психологи и философы, занимающиеся проблемами психологии, перешли на сторону Саймона и стали формулировать свои проблемы в терминах, основанных на аналогии с вычислительными машинами. Так, У.Ниссер полагает, что "задача психолога, пытающегося понять механизм человеческого познания, подобна попытке выяснить, как запрограммирована вычислительная машина"*. А Дж. Миллер из Гарвардского университета говорит о "новейших достижениях в области понимания человека, рассматриваемого как система, перерабатывающая информацию"**. Обычно в пользу этой новой догмы о том, что человек - это система переработки информации, действующая подобно эвристически запрограммированному "компьютеру", не приводится никаких аргументов. Создается впечатление, что это утверждение - безусловная аксиома, так как в противном случае оно требовало бы тщательного и критического анализа. Поскольку мозг физически реален и, образно выражаясь, "перерабатывает информацию", постольку существует известный соблазн предположить, что должен существовать некоторый уровень "информационных процессов" - некая динамическая операциональная структура, в терминах которой может быть описана информационная активность мозга. Однако, как мы видели в главе 3, именно потому, что мозг материален и производит переработку информации, биологи не видят никаких оснований считать, что он работает подобно цифровой вычислительной машине. Это верно и для психологического уровня. Хотя психологи и описывают функцию мозга, называемую разумом, как "процесс переработки * U.Neisser, Cognitive Psychology. New York, Appleton-Century-Crofts, 1967, p. 6. ** См.: Дж. Миллер, Е. Галантер и К. Прибрам. Планы и структура поведения, с. 74. 114 информации", это совсем не значит, что мозг действительно перерабатывает информацию в принятом в современной литературе смысле этого выражения или что мозг работает как цифрован машина, то есть обладает некоторой программой. Выражение "переработка информации", или "информационный процесс", неоднозначно. Если оно означает просто то, что наш разум на основе одних осмысленных образований строит другие осмысленные образования, то это утверждение, конечно, неопровержимо. Но кибернетическая теория информации, восходящая к работе К. Шеннона 1948 г., не имеет ничего общего со "смыслом" (или "значением") в обычном словоупотреблении. Математическая теория пропускной способности канала передачи сообщений совсем не связана с семантикой. Один бит (двоичная единица) информации сообщает своему получателю только о том, какая из двух равновероятных альтернатив реализовалась. В своей классической работе " Математическая теория связи" К. Шеннон совершенно ясно указывает на то, что его теория, исследующая задачи, возникающие в телефонной связи, полностью игнорирует как несущественное значение передаваемых сообщений. "Основная задача связи состоит в точном или приближенном воспроизведении в некотором месте сообщения, выбранного для передачи в другом месте. Часто сообщения имеют значение, то есть относятся к некоторой системе, имеющей физическую или умозрительную сущность, или находятся в соответствии с некоторой системой. Эти семантические аспекты связи не имеют отношения к технической стороне дела"*. У.Уивер, объясняя значение работы Шеннона, высказывается еще более выразительно: «В этой теории слово информация используется в специальном смысле, который не следует смешивать с обычным словоупотреблением. В частности, информацию не следует путать со "значением"» . На самом деле два сообщения, в одном из которых заложен глубокий смысл, а другое являет собой чистую бессмыслицу, могут быть абсолютно эквивалентны с точки зрения несомой ими информации, коль скоро она понимается в современном смысле слова. Именно это, несомненно, имеет в виду Шеннон когда говорит, что "эти семантические аспекты связи не имеют отношения к технической стороне дела"**. Когда, вопреки предупреждению К. Шеннона58 идеи и аппарат теории информации неправомерно переносят в сферу "теории значения", то под влиянием опыта работы с ЭВМ исходят из того, * К. Шеннон. Математическая теория связи57.- в кн.: К. Шеннон. Работы по теории информации и кибернетике. М., 1963, с. 243. ** W. Weaver. Recent Contributions to the Mathematical Theory of Communication,-In: C.Shannоn, W.Weaver (eds.) The Mathematical Theory of Communication, Urbana, University of Illinois Press, 1962, p. 99. 115 что эмпирические данные могут быть разложены на изолированные, атомарные альтернативы. Но для "теории значения" такое допущение отнюдь не очевидно. Гештальтпсихологи, например (как мы уже видели в части I и детально рассмотрим в части III), заявляют, что мышление и восприятие включают целостные процессы, которые не могут быть поняты в терминах ряда последовательно или даже параллельно осуществляемых дискретных операций*. А поскольку мозг по крайней мере отчасти работает, видимо, как аналоговое устройство, то весьма вероятно, что и наш разум порождает мысли и восприятия на базе "полей", "сил", "конфигураций" и т. п.; по-видимому, это как раз то, что дано нам на феноменологическом уровне**. Роль программиста именно в том и состоит, чтобы перевести осмысленные утверждения (содержащие информацию в ее обычном понимании) в последовательности дискретных и лишенных смысла двоичных цифр (информацию в техническом смысле слова), с которыми может иметь дело машина. Цель работ по "искусственному интеллекту" состоит в том, чтобы заставить ЭВМ выполнять этот перевод самостоятельно. Однако остается неясным, можно ли при этом обойтись без переводчика-человека. Многие работы по моделированию процесса познания создают иллюзию успеха именно благодаря смешению обычного смысла слова "информация" с тем специальным значением, которое это слово приобрело за последнее время. Но для того, чтобы не затемнять философскую сторону дела, не следует предрешать основной вопрос: действительно ли человеческий интеллект предполагает регулярность операций над дискретными элементами? Вот почему, когда речь идет о человеке, требуется особая осторожность при употреблении слов "переработка информации" (в кавычках)59. Более того, если бы даже наш разум перерабатывал информацию в смысле Шеннона, действуя тем самым как цифровая машина, это еще не дало бы оснований полагать, что он непременно придерживается определенной программы. Если бы мозг был сетью случайно соединенных нейронов, то мы не обнаружили бы никакой динамической структуры, никаких последовательностей, регулируемых правилами шагов, совершающихся на уровне информационных процессов 60. * В этом контексте утверждение Ньюэлла, Шоу и Саймона о том, что им удалось объединить в одно целое результаты, полученные бихевиористами и гештальтистами, усвоив, с одной стороны, поведенческий подход, а с другой - согласившись с тем, что "человек представляет собой чрезвычайно сложно организованную систему" (А. Ньюэлл и Г, Саймон. GPS - программа, моделирующая процесс человеческого мышления- - В кн.: Вычислительные машины и мышление, с. 284), демонстрирует либо желание затемнить суть дела, либо полное непонимание основных достижений каждой из этих школ. ** См. часть III. 116 Обе эти подмены понятий - смешение обычного и технического смыслов слова "информация" и неявный переход от вычислительной машины вообще к эвристически запрограммированной цифровой машине - способствуют ложному переходу от того факта, что мозг в определенном смысле перерабатывает сигналы, поступающие на его вход, к заключению о том, что мозг или разум выполняют некоторую последовательность действий дискретного характера. Это заблуждение в своей худшей форме представлено в недавно вышедшей работе Дж.Фодора. Поучительно проследить ход его рассуждений. Фодор начинает с общеизвестных фактов, касающихся центральной нервной системы: "Если точка зрения, согласно которой причиной восприятия глубины является текстурный градиент, истинна, а также если центральная нервная система действительно соответствует тому представлению о ней, которое сложилось у наиболее проницательных исследователей, то некоторые из тех вещей, которые выполняет нервная система, некоторые физические процессы, происходящие в ней, когда мы устанавливаем глубину, могут описываться такими понятиями, как "вычисление текстурных градиентов", "обработка информации о текстурных градиентах", "вычисление производных текстурных градиентов" и т.д."*. Так Дж.Фодор приходит к заключению, что "всякая операция, выполняемая нервной системой, идентична некоторой последовательности элементарных операций"**. Оставляя в стороне вызывающий недоумение вопрос об использовании в этом контексте выражения "обработка информации", мы можем возразить, что такая операция, как вычисление первой производной текстурного градиента, вполне может быть осуществлена на того или иного рода аналоговом устройстве. Поэтому у нас нет никаких оснований заключить, что "всякая операция, выполняемая нервной системой, идентична некоторой последовательности элементарных операций". Аналогично нет ни малейшего оправдания заявлению такого рода: "Для каждого типа поведения из "репертуара" данного организма предполагаемый ответ на вопрос: "Как осуществляется поведение этого типа?"- принимает вид набора специфических инструкций, позволяющих реализовать это поведение с помощью некоторого набора машинных операций"***. Правдоподобность этого рассуждения объясняется тем фактом, что если бы психолог взял первую производную текстурного градиента, то его вычисление было бы произведено по определенным формальным правилам (дифференциального исчисления), * J.A.Fodor. The Appeal to Tacit Knowledge in Psychological Explanation, - The Journal of Philosophy, vol. LXV, No 20,1968, October 24 p 632 ** Ibid, p. 629. *** Ibid., p. 637. 117 которые могут быть реализованы на цифровой машине в виде ряда дискретных операций. Но утверждать, что мозг при вычислении текстурного градиента непременно осуществляет ряд операций, так же абсурдно, как утверждать, что, обращаясь по своим орбитам вокруг Солнца, планеты решают дифференциальные уравнения или что логарифмическая линейка (аналоговая машина), вычисляя квадратный корень, осуществляет ту же последовательность шагов, что и цифровая машина, которая ищет соответствующее значение, записанное в двоичной системе счисления. Возможно, что для нахождения текстурного градиента или для моделирования других перцептивных феноменов может быть использован процесс перехода ионного раствора в равновесное состояние. Но верно ли, что в растворе, приближающемся к равновесию, осуществляется тот же ряд дискретных операций, что и в цифровой машине, решающей дифференциальные уравнения, которые описывают этот процесс? В данном случае в растворе в считанные мгновения происходит процесс решения задачи, которую цифровой машине пришлось бы решать веками, если бы вообще она получила решение. Чем это объясняется? Может быть, тем, что раствор - это в высшей степени быстродействующая вычислительная машина? Или же тем, что он упрощает задачу с помощью разумных эвристик, как это делает шахматист при выборе нужного хода? Очевидно, ни тем, ни другим. Мы можем описать процесс перехода в состояние равновесия в форме дифференциальных уравнений, а затем для реализации его с помощью машины разбить решение этих уравнений на дискретные операции. Но это вовсе не значит, что сам процесс перехода в состояние равновесия происходит дискретно. Точно так же из того факта, что все непрерывные психохимические процессы, участвующие в человеческих "информационных процессах", могут быть в принципе формализованы и рассчитаны в дискретной форме, вовсе не следует, что какие-либо дискретные процессы имеют место в действительности. Более того, если бы даже кто-то смог написать такую программу, которая моделировала бы психохимические процессы мозга, она оказалась бы совершенно бесполезной для психологии. Если понимать моделирование в самом слабом смысле слова, то любая программа будет моделировать любое данное устройство, если она осуществляет то же самое преобразование "вход - выход" (в заданной области), что и это устройство. Возможна или нет такая модель для мозга - во всяком случае, ясно одно: она не обладает необходимым с точки зрения психологической теории свойством - быть средством оценки действительной "работы" разума. Для психологического объяснения требуется, чтобы способ представления, соответствие были в некотором 118 смысле более сильными, чем простое моделирование. Фодор отмечает: "Мы можем сказать, что машина сильно эквивалентна организму в определенном отношении, если она слабо эквивалентна в том же отношении и если процессы, определяющие поведение машины, относятся к тому же типу, что и процессы, определяющие поведение организма"*. Это значит, что эквивалентность в плане психологии предполагает существование в машине процессов психологического типа**. К психологическим операциям относятся такие процессы, которые при переработке информации человеком, по крайней мере иногда, осуществляются сознательно - например, поиск, сортировка, хранение данных. Эти процессы отнюдь не являются психохимическими реакциями организма. Представим себе, что шахматист в следующих словах говорит о том, каким образом он сосредоточивает свое внимание на ладье: "Теперь мой мозг достиг определенного химического равновесия, описываемого некоторой * J.Fodor. Psychological Explanation. New York, Random House, 1968, p. 138. ** Утверждение о моделируемости допускает еще одно прочтение,- прочтение, которое адекватно "менталистской" установке, однако, к сожалению, не отличается непосредственной убедительностью, свойственной приведенному выше. Его суть сводится к тому, что для каждого аналогового процессора также можно найти нечто, ему соответствующее,- его представление. Однако, чтобы нащупать слабое место этого истолкования, нам потребуется привести несколько примеров на различие между моделированием и тем, что мы имеем s виду под представлением- Деление с помощью логарифмической линейки моделируется посредством любого алгоритма, позволяющего найти соответствующее частное; но сказать, что мы нашли представление этой операции, можно только в том случае, если частное получается способом, близким к принципу, заложенному в логарифмической линейке, - таким, что каждый шаг представляет собой сравнение длин. В случае вычислительной машины это приняло бы форму использования соответствующих (коллинеарных) пространственных координат, мантисс из двух таблиц логарифмов и осуществления "перевода" с помощью вычитания. Если взять более общий случай, то мы будем иметь дело с моделированием гармонической системы итерационного типа (подобной большинству коммерческих аналоговых машин) посредством решения описывающих ее дифференциальных уравнений. В то же время представление - или, грубо говоря, моделирование как конечного результата, так и внутреннего механизма процесса - потребовало бы моделирования каждой электронной компоненты (сопротивлений, конденсаторов, электрических контактов и т. д.), а также эффекта, производимого ими друг на друга, и, следовательно, их повторяющихся во времени изменений, В последнем случае каждая аналоговая компонента оказывается как моделируемой, так и представляемой, но это отнюдь не всегда имеет место. Существуют аналоговые явления, не разложимые на отчетливо различимые части, например мыльная пленка, "вычисляющая" минимальную поверхность, ограниченную случайным образом изогнутой проволокой, не допускает представления типа описанного выше. Правда, можно было бы сказать, что, поскольку мыльный пузырь (или любой другой материальный объект) состоит из атомов, для него в 119 системой дифференциальных уравнений". В этом высказывании речь идет о физиологическом процессе, несомненно связанном с "переработкой информации", но никак не о самом информационном процессе. Непонятно, на какой статус претендуют рассуждения Фодора: носят ли они априорный характер или предполагают эмпирическую основу? Иначе говоря, неясно, является ли вывод о том, что мозг работает на основе последовательно выполняемых элементарных операций, логическим следствием учета мозгом текстурных градиентов или нет. Пример, выбранный Фодором, менее всего способствует утверждению взгляда, что мозг или разум вообще выполняют какие-либо элементарные операции. Стало быть, мысль о необходимой связи между нахождением текстурных градиентов, процессом вычисления и последовательным выполнением операций - это просто его мнение. Правда, если окажется, что это рассуждение основано на смешении ряда понятий, сторонники психологического допущения всегда могут сменить платформу, заявив, что это отнюдь не априорная аргументация, а основанные на экспериментальных данных выводы, В докладе, представленном Американской философской ассоциации, Фодор занял "априористскую" позицию, в то время как Дж. Миллер, Е.Галантер и К.Прибрам оправдывали свой подход ссылкой на имеющиеся, с их точки зрения, успехи в области моделирования процессов познания. "Для организма план в основном представляет собой то же самое- что и программа для математической машины... Ньюэлл, Шоу и Саймон очень четко и систематично применяли иерархическую структуру перечней в своей работе над "языками для обработки информации", которые приме- принципе всегда можно найти представление в виде необъятной (!) системы уравнений квантовой механики. Однако крайне сомнительно, что такая громада уравнений приведет хоть к какому-нибудь объяснению функционирования какого-либо объекта или, если речь идет о мозге, хоть к какой-нибудь связи с психологией. Если этих аргументов недостаточно, попробуйте представить себе обыкновенный арифмометр, состоящий из шестеренок и зубчатых передач; наша уверенность в том, что он работает в соответствии с законами механики и что любой содержательный аспект его функционирования допускает некоторое представление, ни в коей мере не связана с тем фактом, что он состоит из атомов. В самом деле, будь он изготовлен из какой-то таинственной неделимой субстанции, мы тем не менее были бы твердо уверены, что до тех пор, пока он функционирует посредством шестеренок, зубчатых передач и т. п., он остается некоторым механизмом и любое представление его в терминах шестеренок и зубчатых передач является его объяснением. То же самое, в сущности, касается и электронных аналоговых машин, и логарифмических линеек, и т. д. Таким образом, принятие a priori положения, согласно которому для аналогового процесса всегда может быть найдено дискретное представление, совершенно неправомерно; оно заимствовано, так сказать, у правильного, но более слабого и не имеющего отношения к данному вопросу утверждения о простой моделируемости. 120 няются при программировании для скоростных цифровых математических машин в случаях моделирования человеческих процессов мышления. Их успех е этом отношении, который, по нашему мнению, является очень значительным и многообещающим, подтверждает правильность гипотезы, что иерархическая структура является основной формой организации при решении задач человеком" *. В части I мы видели, что результаты работ Ньюэллэ, Шоу и Саймона далеко не впечатляющи, В чем же тогда состоят многообещающие экспериментальные подтверждения? Далее мы рассмотрим, на основании каких принципов оценивается работа А.Ньюэлла, Дж.Шоу и Г.Саймона. I. Экспериментальные данные в пользу психологического допущения: критика научной методологии, используемой при моделировании процессов познания. Попытка экспериментального оправдания психологического допущения ставит методологический вопрос о том, как оценивать экспериментальные данные. Простое сходство между поведением машин и людей не оправдывает психологического допущения, но существующая на сегодняшний день невозможность выявления деталей упомянутого сходства не оправдывает и отказ от этого допущения. Проверка психологического допущения требует тщательного сравнения отдельных шагов, посредством которых осуществляется обработка информации машиной и человеком. Как мы видели (гл. 1, разд. II), Ньюэлл, Шоу и Саймон откровенно отмечают черты сходства и различия между отчетами о поведении испытуемых при решении задач и результатами машинного моделирования процесса их решения. Посмотрим, как они оценивают полученные результаты. А.Ньюэлл и Г.Саймон приходят к выводу, что их методы "...дают общую схему для понимания механизмов поведения человека при решении задач. . они в конечном счете достаточно ясно показывают, что в основе свободного поведения мыслящего человека лежит сложный, но конечный и вполне определенный комплекс правил переработки информации"**. Такой вывод на редкость ненаучен, так как Ньюэлл и Саймон признают, что их специфические теории - подобно любым научным теориям - должны приниматься или отвергаться на основе учета своей общности, то есть учета того круга явлений, которые их * Дж. Миллер, Е. Талантер, К.Прибрам. Цит.соч., с. 30-31 (курсив мой. - Х.Д,) , ** А. Ньюэлл и Г.Саймон. GPS - программа, моделирующая процесс человеческого мышления. - В кн.; Вычислительные машины и мышление, с. 301, 121 программы в состоянии объяснить*. Но программы этих ученых не являются достаточно общими по крайней мере в трех отношениях. Имеющиеся данные касаются только таких наиболее благоприятных случаев, когда испытуемый может хотя бы частично дать отчет о своем поведении при "переработке информации" (игра, решение простых задач); случаи эти не включают распознавания образов, обучения естественному языку и его использования. Более того, даже в упомянутой ограниченной области результаты машинного моделирования соответствуют поведению индивидуума только после некоторой подстройки ad hoc. И наконец, даже это соответствие оказывается лишь частичным. Ньюэлл и Саймон отмечают, что их программа "обеспечивает полное объяснение поведения испытуемых при решении задач, хотя имеются пять исключений различной степени серьезности"**. Исходя из этих ограничений и исключений, непонятно, каким образом Ньюэлл и Саймон могут претендовать на "общую структуру" и какую-либо научную интерпретацию соответствующих феноменов вообще. Дело здесь, по-видимому, в неправильном истолковании универсальности научных законов и теорий. Как известно, научные законы не допускают исключений; в данном же случае исключения признаются с откровенностью в надежде на то, что сам факт признания таковых компенсирует их важность. (Представим себе Галилея, утверждающего, что закон падающих тел справедлив для всех объектов, кроме пяти, относительно которых установлено, что они падают с иной скоростью.) Это не предполагает, разумеется, что наличие исключений обязательно дискредитирует научное положение. В науке существуют общепринятые способы преодоления такого рода трудностей. Для начала обобщение может быть выдвинуто как рабочая гипотеза, однако, пока не выяснены причины исключений, с провозглашением соответствующего научного закона следует повременить. Рабочая гипотеза не обязана объяснять все данные. Но, когда ученый претендует на создание научной теории - не говоря уже об "общей структуре понимания",- он обязан либо объяснить исключения на основе своей теории (подобно тому как отклонение от законов механического движения объясняется трением), либо предложить, в каком направлении искать объяснение, либо, наконец, исходя из своей теории, указать источник возникающих трудностей. Ньюэлл и Саймон, однако, не следуют ни по одному из этих путей. На сказанное нами эти ученые могут возразить, что оснований для беспокойства нет, так как даже очень хорошие теории имеют * A.Newell H.A.Simon. Computer Simulation of Human Thinking, p. 9. ** Ibid, p. 292. 122

исключения. Так, в своем исследовании научных революций Т.Кун отмечает наличие постоянных аномалий во всех нормально развивающихся областях естественных наук. "Какие-то расхождения есть всегда. Даже наиболее неподатливые расхождения в конце концов приводятся обычно в соответствие с нормальной практикой научного исследования. Очень часто ученые предпочитают подождать, особенно если в других разделах данной области исследования есть много проблем, доступных для решения. Мы уже отметили, например, что в течение шестидесяти лет после исходных расчетов Ньютона предсказываемые сдвиги в перигее Луны составляли по величине только половину от наблюдаемых 61*. Но это не может служить утешением для Ньюэлла и Саймона. Подобная терпимость к аномалиям возможна лишь в том случае если уже существует развивающаяся наука и "принимаемая в качестве парадигмы теория должна казаться лучше, чем конкурирующие с ней другие теории"**, А это предполагает, что теория "работает" в совершенстве, по крайней мере в некоторой четко определенной области. Но теорию познавательных процессов Ньюэлла и Саймона нельзя считать не только общей, но и вполне применимой к специально подобранному случаю. Именно там, где следует как будто ожидать полного соответствия, являющегося основанием для формирования парадигмы, мы находим исключения. Таким образом, хотя работа Ньюэлла и Саймона содержит несколько достойных внимания приближений, она не порождает знание, действенное в той мере, которая ей позволяет претендовать на открытие общих законов даже при наличии аномалий. В своем рассуждении о "ньютоновской аномалии", вслед за отрывком, который мы процитировали выше, Т. Кун указывает, что "специалисты по математической физике в Европе продолжали безуспешно бороться с хорошо известным расхождением"***. Отсутствие подобного положения также невыгодно отличает работу Ньюэлла и Саймона от принятой научной практики. После того как исключении были установлены, никто из специалистов по моделированию процессов познания - и менее всего Ньюэлл и Саймон - не предпринял, судя по всему, даже попытки к их объяснению. Напротив, они продолжали практику своих грубых обобщений ad hoc, обращаясь к другим областям. Существует и другой приемлемый способ обращения с исключениями. Если бы, исходя из независимых соображении, было установлено, что процессы мышления должны быть результатом последовательно выполняемых дискретных операций, определяемых некоторыми правилами, то в этом случае исключения * Т. Кун. Структура научных революций!, М., 1975, с. 110 ** Там же, с. 36. *** Там же, с, 111. 123 можно было бы рассматривать либо как трудности случайного рода, связанные с методикой эксперимента, либо же как сомнительные случаи, которым предстоит дать объяснение на основе соответствующего закона. Только в этом случае специалисты в исследуемой области имели бы право считать каждую программу, моделирующую разумное поведение - независимо от степени приближения,- некоторым достижением, а все неудачи рассматривать как трудные случаи, требующие поиска более остроумных эвристик и программистской изобретательности. Однако тогда возникает проблема иного рода: как, исходя из независимых соображений, оправдать допущение о том, что человеческие "информационные процессы" носят дискретный характер? (В противном случае наличие исключений наряду с ограничениями в применении программ и отсутствием прогресса за последние 10 лет скорее служит опровержением, чем подтверждением упомянутой гипотезы.) Историю "оправдания" можно разделить на два этапа, В своих ранних работах, не пытаясь оправдать важное - и спорное - допущение о дискретности, Ньюэлл и Саймон представляют его в качестве постулата или рабочей гипотезы, которая служит как бы путеводной нитью в их исследованиях. "Мы постулируем, что человеческое поведение управляется программой, организованной в виде ряда элементарных процессов переработки информации"*. Этот постулат, который сам по себе представляется достаточно спорным, в свою очередь выводится из такого основного методологического принципа, как принцип простоты. Согласно Ньюэллу и Саймону, этот принцип предписывает принимать в качестве предварительной наиболее простую гипотезу; в данном случае предварительная гипотеза состоит в том, что любой информационный процесс в некоторой степени напоминает процесс, реализуемый программно управляемой цифровой вычислительной машиной. Мы можем предположить, например, что при игре в шахматы, когда шахматист концентрирует внимание на определенной ситуации, сложившейся на шахматной доске, он подсознательно производит вычисления. Вообще говоря, если выданный машиной результат- машинная распечатка - содержит шаги, отсутствующие в отчете, который был дан испытуемым,- принцип простоты оправдывает в качестве руководства в проведении эксперимента простую рабочую гипотезу, гласящую, что соответствующие шаги были осуществлены человеком неосознанно. Дальнейшее исследование, разумеется, должно подтвердить эту гипотезу, в противном случае она в конце концов должна быть отвергнута. A.Newell, H.Simon. Computer Simulation of Human Thinking, p. 9, 124 Однако расхождения между отчетами испытуемых и результатами машинных экспериментов, равно как и трудности, возникающие при планировании, указывают, что дело обстоит гораздо сложнее, чем это получается, если следовать одному принципу простоты. В свете этого естественно было бы пересмотреть рабочую гипотезу - поступить аналогично тому, как поступила наука, покинувшая позиции Ньютоновой механики когда они оказались не в состоянии объяснить определенные явления; но именно здесь исследования в области моделирования процессов познания начинают идти в разрез с общепринятыми научными нормами. Подводя итог работам, проделанным в упомянутой области, Ньюэлл и Саймон заключают: "Постоянно растущая масса данных свидетельствует о том, что элементарные процессы по переработке информации, происходящие в человеческом мозгу, в высшей степени напоминают некоторые из тех элементарных информационных процессов, которые включаются в системы команд, выполняемых современными вычислительными машинами"*. Что же это за "растущая масса данных"? Разве были заполнены пробелы в протоколах или объяснены исключении? Вовсе нет. Видимо, "растущая масса данных"-это сами программы, программы, отсутствие у которых свойства универсальности могло бы, кажется, бросить тень сомнения на весь замысел, если бы не независимое от этих "данных" допущение о "цифровой" природе мозга. Для того чтобы - при наличии исключений - признать эти специфические программы законченными теориями, необходимо, чтобы психологическое допущение было предварительно обосновано независимо от них; между тем сегодня это допущение трактуется как гипотеза, которая подтверждается единственно успешной работой этих программ. Гипотезы, основанные на методологических принципах, которые в дальнейшем подтверждаются фактами, имеют право на существование. Однако в таких случаях недопустимо и совершенно непринято, чтобы гипотеза сама порождала те свидетельства, которые служат ее подтверждению. Независимых эмпирических данных, свидетельствующих в пользу психологического допущения, не существует. А экспериментальный материал, который приводится в качестве подтверждения того факта, что разум работает подобно цифровой машине, свидетельствует о том, что это допущение, если только его не постулировать заранее, скорее всего, противоречит фактам. Такого рода методологическая путаница свойственна в основном исследователям, работающим в области моделирования процессов познания. Однако и специалисты по "искусственному * H.Simоп, A,Newell. Information Processing in Computer and Man.-American Scientist, vol. 52, 1964, September, p. 232. 125 интеллекту" глубоко убеждены в плодотворности эвристического программирования; они также склонны думать, что все трудности носят случайный характер, а неудачи нисколько не свидетельствуют против применяемого экспериментального подхода. Основываясь на сравнительно небольшом круге задач, в которых их разработки привели к успеху, представители обоих направлений ничуть не сомневаются в том, что все еще не выясненные ими вопросы лежат в плоскости их исследований. Можно сказать, что все они держат себя так, как будто взятое ими в кредит психологическое допущение уже оплачено (хотя некоторые из них, а именно специалисты по моделированию процессов познания, пытаются представить этот "заем" как нечто второстепенное). Специалистам, работающим в этих областях, психологическое допущение представляется не гипотезой, которая может быть либо подтверждена, либо опровергнута опытом, а своего рода философской аксиомой, справедливость которой гарантирована а priori. II. Априорные аргументы в пользу психологического допущении Априорный характер этой аксиомы ясно проявляется в том способе, каким Дж. Миллер, Е. Галантер и К.Прибрам вводят свою машинную модель. Процитированному нами выше (см.с.114) тексту, в котором утверждается, что успех Г.Саймона в значительной степени подтверждает точку зрения данных авторов, предшествуют слова, в которых они следующим образом определяют свои цели: "Всякое полное описание поведения должно быть пригодным для того, чтобы служить перечнем инструкций, то есть оно должно обладать характерными чертами плана, который может руководить описываемым действием"*. Дж. Миллер, Е. Галантер и К, Прибрам исходят из того, что само наше понятие объяснения или полного описания с неизбежностью предполагает, что поведение должно описываться в терминах перечня инструкций, то есть последовательности определенных реакций на определенные ситуации. Поэтому не удивительно, что такие психологи, как А.Ньюэлл, У.Ниссер и Дж. Миллер, считают работу по моделированию процессов познания многообещающей. С их точки зрения, если психология как наука вообще возможна, то она должна быть выразима в форме программ для вычислительных машин. Этот вывод следует не из эмпирических * Дж, Миллер, Е. Галантер и К.Прибрам, Цит. соч., с. 30 (курсив мой. - Х.Д.). 126 ценных, а вытекает из самого определения объяснения. Естестренно поэтому, что отклонения от протоколов экспериментов и всякого рода неудачи можно игнорировать. Сколь ни шатки экспериментальные результаты в области моделирования процессов познания, они должны быть первым шагом в направлении более адекватной теории. Это определение объяснении требует дальнейшего анализа. Имеет ли оно смысл? Даже если ответ на этот вопрос положителен, можем ли мы предрешать результаты психологии, заранее предписывая ее теориям форму программ для вычислительных машин на том основании, что в противном случае психология вообще невозможна? А может быть, психология, понимаемая как моделирование процессов познания,- это тупик? Начнем с утверждения о том, что всякое полное описание должно иметь форму перечня инструкций. Оно неясно. Рассмотрим поведение человека, которому предлагается выбрать из множества разноцветных геометрических фигур красный квадрат. Полное описание такого поведения, согласно Дж. Миллеру и его соавторам, должно представлять собой систему инструкций, то есть план, следуя которому испытуемый решает данную задачу. Какими же должны быть эти инструкции? Это могут быть самые общие правила такого рода: выслушай команду, посмотри на предметы, обрати внимание на их форму и выбери нужный предмет. Но какие более детальные инструкции следует дать, чтобы отличить квадрат от круга? Можно сказать: ''Подсчитай число сторон. Если их четыре, то это квадрат", А какие требуются инструкции для узнавания стороны? "Выбери наугад несколько точек и проверь, находятся ли они на кратчайшей линии, соединяющей концевые точки", и т.д. А как найти эти точки? Ведь в конце концов я воспринимаю геометрические фигуры, а не точки. Быть может, здесь наступает конец инструкциям и следует просто сказать: "Вы подсознательно воспринимаете точки, подсознательно обращаете на них внимание"? Но так ли это? И почему инструкции заканчиваются в этом пункте, а не раньше или позже? Если же инструкции такого рода вам все же кажутся приемлемыми, то какими инструкциями вы воспользуетесь, чтобы отличить красное от синего? На сей раз тем более неясно, почему и как полное описание должно в психологии даваться в виде ряда инструкций. И все же такие утверждения имеют давнюю традицию. Кант в явной форме анализировал весь опыт и даже восприятие, перцепцию в терминах системы правил, а представление о том, что наши знания основаны на системе четких инструкций, восходит к еще более давним временам. Как мы видели, взгляд, согласно которому для понимания происходящего требуется полное описание, состоящее из последовательности правил, восходит к 127 истокам философской мысли, то есть к тому времени, когда впервые были сформулированы наши представления о понимании и разуме. Платон, проанализировавший в "Эвтифроне" этот взгляд, спрашивает в "Меноне": необходимо ли добродетельному человеку руководствоваться точным знанием, доступным лишь философам? Иными словами, является ли "точное знание" необходимым условием для философского понимания действительности или же оно обязательно для добродетельного поведения любого человека? Вообще говоря, Платон расценивал навыки просто как средство для достижения прагматических целей. Поэтому он не сомневался в том, что точное знание не обязательно влечет за собой понимание (или реализацию) основанного на навыках поведения. Когда же речь идет о геометрических построениях или добродетельных поступках людей, то, по мысли Платона, даже не отдавая себе отчета о тех или иных правилах, люди тем не менее действуют на основе четкой рациональной структуры, выявление которой доступно философам. Далее Платон ставит вопрос, не следует ли скрыто человек, действующий как математик или носитель морального начала, подобного род программе, когда он поступает разумно. В этом состоит решающий момент в истории развития концепций "понимания" и "объяснения". Позиция самого Платона в; этом вопросе не оставляет никаких сомнений в том, что всякое разумное действие, то есть действие, не являющееся произвольным, имеет для него рациональную структуру, которая может быть выражена в терминах некоторой теории, и всякое лицо, предпринимающее подобное действие, непременно следует определенному набору правил, то есть некоторому знанию. Согласно Платону, это знание уже заложено в сознании человека, предопределено еще до его рождения и может быть выявлено с помощью вопросно-ответного метода*. Таким образом, теория человеческой деятельности, которая, по Платону, позволяет понять, что совершается на каждом этапе поведения человека, является для него также и объяснением того, как такое поведение строится,1 Приняв такое представление о понимании и такое отождествление понимания и объяснения, мы с неизбежностью становимся на точку зрения сторонников моделирования процессов познания, которые нисколько не сомневаются в том, что полное описание поведения представляет собой четкий набор инструкций для цифровой машины, а также в том, что эти правила в действительности могут быть использованы для составления программ машинного воспроизведения соответствующего поведения. Мы уже рассмотрели предположение, согласно которому мышление есть вычисление**. Мы видели, что его притягательность *См.: Платон. Менон 82а - 8бв. Соч., т. 1, с 385-392, ** См."Введение", разд, I. 128 росходит еще к идее Платона о том, что наша жизнь в моральном отношении была бы гораздо более сносной, а наши знания более определенными, если бы они соответствовали истине. Правдоподобность этого предположения покоится, однако, просто на смешении механистических допущений, лежащих в основе успехов современных естественных наук, со своим коррелятом - формалистическим допущением о том, какой должна быть наука О человеческом поведении, если таковая возможна. На определенном уровне это априорное допущение имеет смысл. Человек - это реальный объект. Успехи в области, естественных наук убедили нас в том, что полное описание поведения всякого реального объекта может быть выражено с помощью точных законов. Такое описание в свою очередь может, послужить созданию программ для вычислительных машин, которые, по крайней мере в принципе, в состоянии моделировать соответствующее поведение. Так родилась идея нейрофизиологического описания поведения человека в терминах "входов" (потоков энергии, физико-химических процессов мозга) и "выходов" (движений физических тел),- описания, которое в принципе допускает моделирование на цифровой вычислительной машине. Такой уровень описания имеет смысл, по крайней мере в первом приближении. Соответствующая идея со времен Р.Декарта составляет часть общей физической картины вселенной. Безусловно, мозг - это орган, преобразующий энергию. Он улавливает входные сигналы, например изменение интенсивности освещения и связанные с ним изменения текстурных градиентов. Но, к великому сожалению психологов, физическое описание ни в коей мере не дает психологического объяснения, поскольку в нем отсутствуют какие бы то ни было психологические понятия. На этом уровне нельзя достаточно квалифицированно судить о таких сугубо человеческих факторах, как разум, мотивация, восприятие, память и даже цветовые и звуковые ощущения, в том плане, как это хотелось бы психологам. Энергия принимается и преобразуется - вот и весь сказ. Разумеется, есть и другой уровень - назовем его феноменологическим, - на котором имеет смысл говорить о таких человеческих факторах, как целенаправленное действие, восприятие объектов и т. д. На этом уровне то, что мы видим,- это столы, стулья, другие люди; то, что мы слышим,- это звуки, иногда слова, предложения; то, что мы делаем,- это осмысленные действия в определенных осмысленных ситуациях. Но этот уровень устраивает психолога не более, чем физиологицеский, поскольку здесь нет ничего, что говорило бы о следовании инструкциям или правилам; психологическое объяснение - в том виде, который требуется для моделирования процессов познания, - здесь отсутствует. При столкновении с таким концептуальным кризисом 129 психологи всегда стараются найти некоторый третий уровень - уровень, который был бы психологическим и в то же время давал бы объяснение поведению. Для того чтобы психология могла претендовать на статус науки о человеческом поведении, она должна иметь предметом изучения человека, но человека не просто как физический объект, приходящий в движение, когда на него подается энергия (это задача физики и нейрофизиологии). Альтернатива состоит в том, чтобы попытаться изучить поведение человека как "входо-выходной" процесс- как совокупность определенного рода объектов-реакций в ответ на воздействие объектов некоего другого рода. Какого рода должны быть объекты на выходе и на входе, никогда не было ясно, но при всех обстоятельствах считалось, что для получения объяснения требуется представить себе человека в виде устройства, реагирующего на дискретные элементы по определенным законам. Последние могут быть похожи на закономерности причинно-следственного характера, описывая стереотипные схемы организма, взаимодействие которых с сигналами, поступающими из окружающей среды, обеспечивает сложные виды поведения. Устройство в данном случае - это "рефлекторный механизм", а законы являются законами формирования ассоциаций. Так мы приходим к эмпирической психологии Д.Юма и ее современному варианту - психологической теории, основанной на отношении "стимул - реакция" (S-R-психология) . Но предмет психологии может пониматься и иначе - как устройство по переработке информации, а законы могут трактоваться в рамках кантовской "модели" - как рассудок, составляющий правила разума, руководствуясь которыми последний отвечает на входные воздействия. В психологии эту школу называли "идеалистической", "интеллектуалистской" или "менталистской", теперь же к ней применяют термин "когнитивная психология". До появления ЭВМ развитие эмпирической школы имело определенный предел, потому что с позиций "интеллектуализма" просто невозможно было расценивать человека как вычислимый объект. Но взгляд на субъект как на "трансцедентальное ego", применяющее правила, позволял относить научную теорию поведения к некоему "маленькому человечку" (гомункулу), пребывавшему в разуме и руководившему его действиями. Появление вычислительных машин, однако, вызвало непреодолимое желание трактовать действия в соответствии с правилами без привлечения "трансцедентального ego" или гомункула. Более того, представилась возможность программировать на вычислительных машинах модели, служащие для анализа даже таких форм поведения, как коммуникация на естественном языке, форм, которые, как представляется, слишком сложны для оценки их в терминах психологии "стимула и реакции". Словом, теперь есть устройство, 130 которое может служить моделью для "менталистских" воззрений, и разочарованные бихевиоризмом психологи независимо от убедительности соответствующих аргументов или экспериментальных данных будут хвататься за эту столь "надежную" соломинку. Вычислительная машина - это физический объект. Однако для описания работы машины нет необходимости вдаваться в рассуждения о колебаниях электронов, происходящих в ее транзисторах; описание производится на уровне организации ее двух-позиционных элементов - триггеров. И если психологам удастся интерпретировать организацию триггеров - а их срабатывание подчинено четким правилам - в терминах более высокого уровня, то их область исследований найдет наконец способ объяснения человеческого поведения. Приманка, заключенная в описанном подходе, столь соблазнительна, что основной вопрос; допустимо ли на этом "третьем" уровне - промежуточном между физическим и феноменологическим уровнями - логичное, связное, понятное рассмотрение - даже не ставится. Но сигналы для тревоги налицо. Язык таких авторов, как Дж.Миллер и его соавторы, Ниссер или Дж.Фодор, непоследователен в буквальном смысле этого слова. Почти на каждой странице мы встречаем такого рода высказывания: "Когда организм выполняет план, он делает это шаг за шагом, завершая одну его часть и затем переходя к следующей"*. Здесь все три уровня представлены в неустойчивой и грамматически неправильной смеси. "Когда организм (биологический уровень.- Х-Д.) выполняет (машинная аналогия, заимствованная из человеческой деятельности, -Х.Д.) план, он (человеческий фактор. -Х.Д.)"63 и т. д. Можно "прокрутить" и наоборот: вместо персонифицированного организма ввести механизированный. Дж. Фодор говорит о "ментальной - мыслительной - переработке"**, или "ментальных операциях"***, так, как будто всем уже ясно, что это значит. * Дж.Миллер, У.Галэнтер, К. Прибрам. Цит. соч„ с. 32. Ср. следующие слова М.Минского в статье "Искусственный разум": "Эванс начал свою работу над задачей... с того, что сформулировал некую гипотезу о последовательности тех этапов или процессов, которые могли бы протекать в мозгу человека, когда он действует в такой же ситуации" (М. Минский. Искусственный разум.- В кн.: Информация, с. 205). К тому же М. Минский и С.Пейперт адресуют свою книгу "Персептроны" "психологам и биологам, которым хотелось бы знать, как мозг «вычисляет» мысли" (М. Минский, С.Пейперт. Персептроны, с. 7). В своей диссертации "Семантическая память" Р.Квиллиан говорит: "Понять значение - это не что иное, как найти, либо создать в мозгу того, кто понимает, некоторую конфигурацию символов" (R. Quilliаn. Semantic Memory. Bolt, Beranek and Newman, Inc., paper AFCRL-66-189, October 1966, p. 70). ** J. Fodor. Psychological Explanation, p. 30. *** Ibid, p. 22. 131 Если это смешение понятий у Дж. Миллера и его соавторов носит завуалированный характер, то у У.Ниссера и Дж.Фодора оно выступает совершенно отчетливо. Дело в том, что эти последние - в отличие от других специалистов, работающих в данной области,- стремятся выделить философскую основу своих исследований. Для уяснения того, в чем состоит упомянутое смешение, лучше всего четко представить себе нейрофизиологический и феноменологический уровни описания, а затем попытаться поместить между ними психологический уровень. Определяя место уровня информационных процессов, У. Ниссро говорит: "Безусловно, существует реальный мир, мир деревьев, людей, автомобилей и даже книг... Но у нас нет непосредственного доступа ни к этому миру, ни к какому-либо из его свойств"*. Это, безусловно, верно, если речь идет о физических объектах**. Как определил Ниссер, "сенсорный вход - это не страница текста, а определенная конфигурация световых лучей"***. Все это так, но дальше Ниссер начинает смешивать физический и феноменологический уровни: "Лучи, сфокусированные должным образом линзой... попадают на чувствительную сетчатку, вызывав нервный процесс, который в конце концов приводит к способности видеть, читать и запоминать"****. Дело, однако, обстоит не так просто. Выражение "приводит к" двусмысленно, Световые волны, падая на ретину, приводят в конце концов к возникновению физико-химических процессов в мозгу, однако из этого вовсе не следует, что лучи света или нейронные процессы приводят к возникновению способности видеть****. Способность видеть - это не химический процесс и, следовательно, не может быть конечным результатом рода таких процессов. Если же выражение "приводит к" понимать как "необходимо и достаточно для, то либо способность видеть и есть вся цепь явлений, приводящая к зрительному восприятию, либо это нечто совершенно отличное от самой цепи у любого из ее звеньев, И в обоих случаях не ясно, на каком основании Ниссер утверждает, что у нас нет непосредственного доступа к воспринимаемому миру. Как только произведено это неправомерное объединение двух уровней - нейронного и феноменолргического - в единую струк- * U. Neisser. Op. сit, p. 3 ** Разумеется, с феноменологической точки зрения мы имеем непосредственный доступ именно к объектам, а не к световые волнам.*** *** U.Neisser. Op.cit., p.g. **** Ibid. p. 3 ***** По крайней мере если не считать себя сторонником теории тождества ощущений и мозговых процессов, а к таковым У.Ниссер, по-видимому, себя не пречисляет, ибо подобная позиция непременно потребовала бы некоторой дополнительной аргументации, отсутствующей у Ниссера. 132 туру, располагающуюся между личностью и миром, возникает необходимость создания нового словаря. Эта "ничейная" область описывается в терминах "сенсорных входов" и их "преобразований". В данном употреблении термин познание относится ко всем процессам, посредством которых сенсорные входные данные преобразуются, сжимаются, обрабатываются, запоминаются, извлекаются из памяти и, наконец, используются... Такие термины, как ощущение, восприятие, воображение, впечатление, вспоминание, решение задач и мышление, наряду с многими другими относятся к гипотетическим стадиям или аспектам процесса познания"*. Коль скоро вместо мира, в котором мы находимся, вводится понятие "сенсорного входа", "сенсорных входных данных", приходится допустить, что наше восприятие есть результат "развертывания" или "преобразования" этих "входных раздражителей"**. Но что означает такое преобразование, зависит от в высшей степени двусмысленного понятия "входного раздражителя". Если на вход действует энергия, то она с необходимостью преобразуется в какой-то иной вид энергии - вне всякого сомнения, процессы в мозгу материальны от начала и до конца. Вещественно-энергетические процессы могут преобразовываться, сжиматься, обрабатываться, накапливаться, извлекаться и использоваться, но при этом они всегда будут оставаться вещественно-энергетическими. Если, однако, раздражитель - это своего рода примитивное восприятие, элементарная перцепция, как, по-видимому, и считает У. Ниссер ("второй раздражитель оказывает некоторое влияние на восприятие непродолжительно действовавшего первого"***) , то нам следует выяснить, с какого рода "перцептом" мы в этом случае имеем дело. Философы больше не верят в "чувственные данные", и, если Ниссер вводит понятие "элементарного перцепта", он должен привести для этого немало аргументов и подкрепляющих фактов, В феноменологическом плане мы непосредственно воспринимаем физические объекты, воспринимаем, не отдавая себе отчета ни о чувственных данных, ни о световых лучах. Если Ниссер хочет перенести понятие входного воздействия из физической в перцептивную область, то ему следует объяснить, какого рода восприятие он имеет в виду и какими данными он располагает для доказательства того, что существует результат перцепции, который не является ни конфи- * U.Neisser. Op.cit, p. 4 (курсив мой.-Х.Д,). ** Ibid., p. 5: "Наши знания о мире, - говорит здесь же Ниссер, должны быть каким-то образом извлечены из входных раздражителей". *** Ibid., р. 22. 133 гурацией световых лучей, ни визуальным образом материального объекта*. Выход из положения, оказывается, заключается в использовании понятия "информации". "Информация" -говорит Ниссер, * Возрождение юмовской концепции "данных органов чувств" неизбежно приводит исследователя к введению кантовских правил, служащих объяснению синтеза этих данных при переходе к восприятию объектов. Было бы более естественно и потому более целесообразно с точки зрения определения направления дальнейших исследований выяснить, что же именно делают такие психологи, как У.Ниссер, независимо от ошибочности вводимых ими понятий. Такого рода работа предполагает попытку определения тех скрытых ориентиров в перцептивном поле, которые оказываются существенными в различных областях восприятия, например тех, которые играют важную роль в восприятии глубины. Вопрос о том, какие именно неявные ориентиры необходимы, можно решить посредством систематического исключения различных факторов, таких, как бинокулярное зрение, смещение, текстурный градиент, и т. д. Можно даже определить порядок зависимости и количество этих скрытых ориентиров, которые являются существенными в данный момент. В результате, как надеются сторонники этого направления, будут выявлены последовательные шаги, соответствующая компоновка которых позволит разработать структурную схему программы для ЭВМ. Если это удастся, то появится возможность формализовать законы, по которым на каждом этапе вход преобразуется в выход. Для работы такого рода нет необходимости прибегать к "подсознательным правилам", конституирующим воспринимаемое целое из некоторых составляющих элементов. В этом случае мы уже никогда не скажем, что "у нас нет непосредственного доступа ни к этому миру, ни к какому-либо из его свойств". Психологически реальными в подобной теории будут не элементы и правила, а как раз те самые, используемые в нашем обычном восприятии объектов, скрытые ориентиры, которые и важны для теории. Хотя в большинстве случаев мы не отдаем себе отчета в их существовании, эти скрытые ориентиры отнюдь не неосознаваемы. Фокусируя на них внимание, мы в состоянии осознать их - в отличие от событий на нейронном уровне или даже от тех "моментальных снимков" объектов, которые, по утверждению Ниссера, мы действительно воспринимаем. Иногда эти ориентиры до такой степени неуловимы, что мы не можем обнаружить их при простом рассматривании. Так, например, невозможно уловить незначительные смещения каждой точки на картинке Джулеза, благодаря которым возникает иллюзия глубины. Но если бы нам сказали, на что следует обратить внимание, то с помощью подходящего измерительного устройства мы смогли бы, скорее всего, обнаружить эти смещения. Таким образом, можно сказать, что эти неявные ориентиры реально существуют с психологической точки зрения, то есть в том смысле, что мы можем их осознать. "Структурная схема" тоже реальна с психологической точки зрения, но лишь в тех узких рамках, когда она выражает порядок зависимости неявных ориентиров. Нет никакого сомнения в том, что существует какое-то весьма приблизительное соответствие между структурной схемой, о которой идет речь, и протекающими в мозгу физическими процессами, но даже в этих случаях нет оснований говорить о такой подсознательной переработке, как если бы мозг представлял собой цифровую вычислительную машину, работающую по некоторой программе. Любопытно, что, когда психологи действительно проводят подобного рода исследования, они обнаруживают, что отдельных ориентиров, которые 134 - вот что преобразуется, и наша цель- понять структурную картину этого преобразования"*. Но поскольку понятие входного раздражителя осталось неоднозначным, мы так и не знаем, что это за информация и как предполагается соотнести ее с "входным раздражителем", который может быть либо энергией, либо непосредственно восприятием. И наконец, смешение этих двух взаимозависимых и неоднозначных понятий - "входной раздражитель" и "информация"- проявляется особенно отчетливо в "основной мысли" книгиУ. Ниссера: "Основная мысль состоит в тоги, что способность видеть, слышать и запоминать- все это конструктивные акты, в которых в зависимости от обстоятельств в большей или меньшей степени используется информация (Src. - Х.Д.), содержащаяся в раздражителе. Мы полагаем, что эти конструктивные процессы проходят в два этапа. Первый носит предварительный характер; на кем происходит охват явления в целом; имеет место грубая обработка информации, процесс "запараллелен". На втором этапе переработка информации осуществляется последовательно; происходит обдуманный, тщательный, требующий внимания процесс конструирования"**. Неоднозначность представления о "входной информации" и связанную с этим логическую гетерогенность той системы понятий, которая лежит в основе этого подхода и его следствий, легче всего продемонстрировать на конкретном примере. Посмотрим, как У.Ниссер анализирует восприятие страницы текста. "Мы воспринимаем движущиеся объекты как цельные вещи. Эту способность можно объяснить только тем, что восприятие является результатом интегративного процесса, развертывающегося во времени. Тот же процесс, безусловно, лежит в основе построения визуальных объектов на основе последовательности моментальных снимков, производимых движущимся глазом"***. Здесь следует задать вопрос: Что это за "моментальные снимки"? Конфигурации распределения энергии? Или мгновенные картины страницы? Если это конфигурации распределения энер- были бы достаточны и необходимы, не существует, однако различные их комбинации оказываются достаточными при некоторых конкретных ограничениях. Порядок зависимости неявных ориентиров также меняется от ситуации к ситуации. Поэтому получающиеся при этом результаты могут быть истолкованы как структурная схема лишь в очень редких случаях и только в очень ограниченном смысле. Для того чтобы полностью формализовать свою теорию в терминах машинных моделей, экспериментаторам пришлось бы либо определить вход с помощью абстрактных, не зависящих от ситуации переменных, либо отыскать метаправила, по которым распознаются конкретные ситуации и устанавливается соответствие между этими ситуациями и конкретным порядком зависимости. До сих пор не удалось обнаружить ни таких абстрактных переменных, ни таких правил, (См. мою статью Phenomenology and Mechanisms, In: NOUS, vol- V, No, I, February, 1971. * U. Neisser. Op. cit., p. 8. ** Ibid., p. 10, *** Ibid., p. 140. 135 гии, то не имеет смысла говорить, что они воспринимаются; их интеграция производится не воспринимающим субъектом, а мозгом как физическим объектом. В то же время на феноменологическом уровне вообще нет надобности интегрировать отдельные "моментальные снимки" страницы. Последняя воспринимается постоянно, а представление о том, что она зрительно дается в форме последовательности "моментальных снимков" или "входных раздражителей",- это уже результат абстракции от этой непрерывно наличествующей страницы. Разумеется, зрительная фиксация страницы связана с некоторой "переработкой", но с переработкой не результатов первичного восприятия объектов, или "моментальных снимков" - что может только привести к вопросу о принципах их собственной "конструкции", - а с переработкой некоторых меняющихся форм распределения энергии, воздействующей на глаз. Смешение понятий, явившееся результатом попытки введения промежуточного уровня рассмотрения между физиологическим и феноменологическим, еще более отчетливо выражено в работе Дж. Фодора, которая не оставляет сомнений относительно позиции ее автора по данному вопросу. Обсуждая восприятие зрительных и слуховых образов, Фодор отмечает: "Представление о лице, мелодии или форме, которым вы располагаете... включает описание формальной структуры, относящейся к соответствующей области, и акт распознавания построен на использовании такого рода информации для интеграции текущих сенсорных входов"*. И опять возникает вопрос, что значит "сенсорный вход". Если "сенсорный вход" - это сразу или лицо, или мелодия, или форма, то все уже сделано. Если же, напротив, "сенсорный вход" - это физическая энергия, воздействующая на органы чувств, то невозможно понять, что имеет в виду Фодор, говоря об "использовании" "представления" или "информации" для интеграции таких "входов", поскольку интеграция в применении к физической энергии является, несомненно, процессом дальнейшего энергетического преобразования. Разумеется, если считать этот спорный вопрос решенным и согласиться с тем, что мозг - это цифровая машина, то идея, согласно которой понятие, или "концепт",- это формальная структура для организации данных, приобретет некоторый смысл. В этом случае "сенсорный вход" не будет трактоваться ни как результат восприятия, ни как форма распределения энергии - это будет последовательность квантов информации, а понятие, "концепт", будет представлять собой систему инструкций для соотнесения этих квантов с ранее накопленными данными и опознавания результата. Но это равноценно гипотезе о том, что человеческое поведение может быть понято на основе аналогии с цифровой * J. Fоdоr. Psychological Explanation, p, 26. 136 машиной. Для подтверждения этой гипотезы потребуется создание теории, объясняющей, чем являются эти "кванты", и опирающейся на экспериментальный материал- Но Дж. Фодор, равно как и Дж. Миллер и его соавтора, считает, что представление о "сенсорном входе" и "концепте" как о правиле организации этого "входа" не требует никаких оправданий. Оно содержится в самом понятии психологического объяснения. "Психологическая теория - в той мере, в какой это касается поведения, - может рассматриваться как функция, отображающая конечное множество входных воздействий на организм в бесконечное множество возможных выходных реакций"*. В качестве концептуального представления отношений, имеющих место между восприятием и поведением, - представления, которое нам предлагают принять вне зависимости от экспериментальных сведений о работе мозга, - такое описание просто непостижимо. Как и в случае с У.Ниссером, непоследовательность этого анализа лучше всего видна на конкретном примере. Дж.Фодор пытается выяснить, каким образом "мы можем воспринимать как сходное" - речь идет о мелодии - "то, что с физической точки зрения представляет собой совершенно различные последовательности тонов" (музыкальных звуков)**. Анализ такого рода не может не вызвать многочисленных вопросов; понимаются ли последовательности тонов в физическом или феноменологическом смысле? Что это - структуры, состоящие из звуковых волн или же из "перцептов"? Замечание о физическом различии тонов предполагает, видимо, первое. И в самом деле, на уровне вещественно-энергетических процессов несомненно, что входная энергия различных частот коррелирует с перцептивными состояниями. Происходящие при этом преобразования энергии, видимо, будут когда-то открыты нейрофизиологами. Но такие физические последовательности тонов нельзя "услышать" - мы не можем слышать частот; мы слышим только звуки и потому a fortiori частоты не могут быть "слышимы, воспринимаемы как сходное". Если же мы в то же время будем трактовать входной сигнал как последовательность тонов в феноменологическом смысле, где уже можно предположить, что мы "слышим нечто как сходное", то мы окажемся на уровне восприятия и, к несчастью для Фодора, вопрос о том, каким образом эти последовательности тонов наш слух воспринимает как одинаковые, снимается. Ибо для того чтобы корректно сформулировать эту проблему, надо в первую очередь исходить из уже известного нам факта, что в феноменоло- * Ibid., p. 29, ** Ibid., р. 26. 137 гическом смысле последовательности тонов воспринимаются одинаково. На феноменологическом уровне мы слышим их одинаково, потому что они звучат одинаково. Подходя к этому вопросу с другой стороны, Дж. Фодор задает вопрос: "Какую конкретно ноту (то есть в каком ключе, при каких абсолютных значениях длительности, насыщенности, ударности, высоты тона и силы звучания) мы ожидаем услышать после того, как прослушали первые несколько нот песни Лилибурлеро64*. Но мы "ожидаем" новее не каких-то "абсолютных значений". Мы ожидаем услышать мелодию. Абсолютные значения составляют проблему для нейрофизиолога, вооруженного осциллографом, или для того, кто хочет слышать отдельные ноты, но не для человека, воспринимающего мелодию. Если бы мы в действительности воспринимали эти "абсолютные значения", то для объяснения того, как мы узнаем в различных последовательностях тонов одну и ту же мелодию, нам действительно пришлось бы стать на позицию "последовательного концептуализма", которую защищает Фодор. "Весьма трудно объяснить способность к распознаванию типа объектов, несмотря на большое различие в их признаках, если не принять тот факт, что при распознавании используются чрезвычайно абстрактные понятия. Но и в этом случае трудно объяснить ... способ применения этих понятий, если не допустить возможности участия психологических механизмов исключительной сложности"**. Здесь налицо путаница в использовании слов "тип" и "признак". Что это за признаки? Воспринимаемая в феноменологическом смысле последовательность звуков (мелодия) не может быть абстракцией (типом), по отношению к которой входные потоки физической энергии являются конкретизацией (признаками) . Восприятие и физическая энергия в равной степени являются конкретными явлениями, но они совершенно разного рода. Никакие ухищрения не приведут к устранению разрыва между колебаниями энергии на входе и длительным восприятием звучания. Одно не является конкретизацией другого. Но в равной степени нельзя считать, что признаки - это феноменологические последовательности изолированных абсолютных тонов (в том смысле, как это понимают сторонники теории "чувственных данных"). Слушая мелодию, мы не воспринимаем абсолютных тонов, поэтому в данной интерпретации не должно быть места ни для каких признаков. Но даже если предположить, что Дж. Фодор имеет в виду физическую модель, которую можно вложить в вычислительную машину, то данный вид распознавания образов можно осу- * Ibid, p. 2a ** Ibid. 138 ществить, скажем, с помощью нейронной сети или аналогового устройства, если, разумеется, это возможно в принципе. Нет никаких оснований полагать, что такую модель можно реализовать с помощью эвристической программы (системы абстрактных понятий), не говоря уже о том, нужна ли вообще такая программа в концептуальном плане. И все же Фодор никогда не ставит под вопрос допущение, согласно которому существует некоторый уровень переработки информации, при котором процесс преобразования энергии может рассматриваться в терминах последовательности определенных операций. Единственно, что его интересует, это: "Как можно установить, что машина руководствуется той же программой, что и мы, то есть выполняет те же операции?" Так, например, поставив вопрос, как определить, удачна ли оказалась некоторая машинная модель, Фодор говорит: "Нам следует лишь принять соглашение, что формы поведения выделяются не только в соответствии с внешне наблюдаемыми реакциями организма, но также и на основе учета той последовательности мыслительных (ментальных) операций, которая лежит в основе этих внешних реакций"*. Или еще яснее: "Сильная эквивалентность требует, чтобы операции, на которых основано поведение машины, были того же типа, что и операции, лежащие в основе поведения организма"** Здесь следует принять во внимание, что аргументация Дж. Фодора зависит от двоякого рода допущений- Во-первых, подобно Дж. Миллеру и его соавторам, а также У.Ниссеру, Дж»Фодор использует неоднозначное понятие "входа", "входного раздражителя", "входного стимула". Оно позволяет ему ввести такой уровень рассмотрения, на котором представляется возможным строить анализ перцепции так, как если бы человек был машиной, на вход которой подаются данные, называемые "информацией, содержащейся в раздражителе". Это равносильно другому допущению - о том, что, помимо энергетических преобразований, "в процессе восприятия происходит переработка данных"***. Далее Дж, Фодор делает два допущения иного рода - допущения, которые он, по-видимому, не вполне осознает; 1) что "данные" обрабатываются подобно тому, как это делается на цифровой машине, то есть с помощью дискретно выполняемых операций, и 2) что работа этой цифровой машины носит последовательный характер и направляется чем-то вроде эвристической * Ibid., p. 140 . ** Ibid., p. 141. *** Ibid., p. 83. 139 программы, в силу чего можно говорить о некоторой последовательности такого рода операций. Защищая идею "последовательного концептуализма", согласно которой процесс восприятия требует сложных мыслительных операций, Фодор таким образом догматически вводит представление о "процессе переработки информации", оставляя без внимания вопрос об иных формах вычислительных устройств и даже иных формах цифровой обработки данных. Вот какими словами завершает Дж.Фодор свой анализ явления распознавания мелодии: Отличительным признаком этого явлении оказывается выделение "инвариантов", то есть факторов, приводящих восприятие к радикальному и постоянному отбрасыванию информации, непосредственно содержащейся в физическом входном воздействии. Такие факторы со времен Г. Гельмгольца считаются лучшим аргументом в пользу существования неосознаваемых мыслительных операций. Если мы хотим объяснить несоответствие между входным воздействием и результатом восприятия, то другой альтернативы не существует"*. Свое рассмотрение логики машинного моделирования Дж.Фодор строит на основе непоколебимого доверия к этим шатким допущениям. Легкость, с которой эти лжеаргументы сходят за концептуальный анализ, показывает, сколь сильны тиски платоновской традиции и сколь необходима вера в "уровень информационных процессов", который должен существовать, если психология возможна как наука65. Безусловно, использование вычислительных машин в качестве модели правомерно при условии, что мы отдаем себе отчет в том, что имеем дело только с гипотезой. Но в работах Дж.Миллера и его соавторов, У.Ниссера и Дж.Фодора, как мы видели, эта гипотеза преподносится как априорная истина, то есть как результат глубокого концептуального анализа процесса поведения человека. Правда, время от времени нам удается мельком увидеть эмпирическую основу данного допущения. Аргументы Дж.Фодора в пользу правомерности использования машинно-математических моделей в психологии полностью покоятся на гипотетическом представлении о том, что "мы располагаем машиной, удовлетворяющей любым экспериментальным тестам, которые можно придумать для проверки соответствия всех форм поведения машины, с одной стороны, и организма - с другой"**. Однако эмпирический характер этого утверждения, выраженный в столь завуалированной форме, опровергается уже тем, что оно построено в терминах "последовательности мыслительных операций", как будто заранее известно, что машина, о которой идет речь, возможна. *Ibid, p. 85 ** Ibid,, p. 146. 140 Только в том случае, если машина, о которой говорит Дж.Фодор, существует и действительно работает по принципу последовательного выполнения операций, для постановки и интерпретации экспериментов в психологии правомерно использовать понятия, относящиеся к цифровому вычислительному устройству, управляемому эвристической программой. Но чтобы решить вопрос о возможности такой разумной машины, и, соответственно, о правомерности данной системы понятий, необходимо для начала попытаться запрограммировать такую машину или оценить уже испытанные программы. Если же "машинный язык" используется как самоочевидное и бесспорное средство для формулировки той системы понятий и представлений, в терминах которой должны ставиться эксперименты и пониматься их результаты, и если при этом не выдвигается аргументов, значимых a priori, и не предлагается экспериментального доказательства существования упомянутой машины, то ни к чему, кроме путаницы, мы не придем. ЗАКЛЮЧЕНИЕ Итак, мы снова движемся по замкнутому кругу. В конце разд. I этой главы мы видели, что множество исключений, не получивших объяснения, и отсутствие моделей процессов более высоких порядков, таких как сосредоточение внимания и различение существенного и несущественного, ставят под сомнение соответствующие экспериментальные результаты. Последние можно считать многообещающими, только приняв априорное допущение, согласно которому наш разум должен работать подобно цифровой машине, управляемой эвристической программой. Но сейчас мы видели,-что лишь достаточно обоснованные аргументы в пользу того, что разум функционирует подобно вычислительной машине, могут свидетельствовать о действительном или потенциальном существовании такого рода разумной машины. Ответ на вопрос, может ли человек создать подобную машину, должен основываться на уже проведенной работе. Учитывая то, что было сделано ранее, и тот застой, который наблюдается на сегодняшний день, наиболее правдоподобным представляется отрицательный ответ; "Нет". Невозможно обрабатывать недифференцированный "входной сигнал", не проводя различия между существенными и несущественными, важными и маловажными данными. Мы видели, что А.Ньюэллу, Дж.Шоу и Г.Саймону удалось избежать этой проблемы лишь путем предварительной обработки данных и что Дж. Миллер и его соавторы избежали ее только потому, что ошибочно полагали, будто Ньюэлл, Шоу и Саймон уже располагают программой для выполнения этого 141 первоначального отбора. Но коль скоро такие многообещающие эмпирические результаты отсутствуют, то и все эти сами себя подтверждающие аргументы разваливаются как карточный домик. Единственный способ справиться с феноменом избирательности состоит в использовании процедур аналогового характера, соответствующих избирательной способности наших органов чувств. Но тогда процесс в целом не будет более цифровым, и у нас, естественно, возникает вопрос, ограничивается ли типичный аналоговый процесс только периферическими органами. Все это бросает тень сомнения на идею "последовательно выполняемых операций" и возвращает нас к началу дискуссии. Затруднения такого рода означают, что хотя человек - это, безусловно, физический объект, перерабатывающий физические входные сигналы по законам физики и химии, может оказаться, что человеческое поведение необъяснимо в терминах информационного процесса, состоящего в получении и обработке дискретных входных сигналов. Более того, ни из физики, ни из результатов опытного характера отнюдь не следует, что действия человека следует объяснять именно таким способом, поскольку на физическом уровне мы имеем дело с непрерывно меняющимися формами энергии, а на феноменологическом - с объектами уже организованной области опыта. Изучение этой области опыта и должно составить альтернативу для психологии в качестве возможной сферы ее исследований. Но прежде чем перейти к рассмотрению этой альтернативной теории (часть III), мы должны рассмотреть два других допущения - допущения, которые если и не укрепляют направление "моделирования процессов познания", тем не менее, по крайней мере на первый взгляд, дают надежду на успех в области "искусственного интеллекта". К главе 5

СИТУАЦИЯ: УПОРЯДОЧНЕННОЕ ПОВЕДЕНИЕ БЕЗ ПРАВИЛ

К оглавлению

Глава 8. СИТУАЦИЯ: УПОРЯДОЧНЕННОЕ ПОВЕДЕНИЕ БЕЗ ПРАВИЛ

При рассмотрении вопросов, связанных с решением задач и автоматическим переводом, и при попытке выяснить вопрос о релевантности и значении тех или иных фактов (или слов) мы столкнулись с угрозой "регресса в бесконечность" - не имеющим конца сведением одних правил к другим. Аналогичная опасность существует и в обучении; в самом начале процесса обучения, еще до того момента, когда какие-либо правила могут быть сообщены или использованы, что-то обязательно уже должно быть известно. Мы убедились, что в каждом из этих случаев отсутствие фактов с фиксированными значениями ведет к тому, что этот процесс сведения можно остановить только обращением к контексту.

Теперь мы должны перейти непосредственно к рассмотрению понятия ситуации, или контекста. Это поможет нам дать более полное описание уникальной способности "быть своим в мире", присущей человеку, и той исключительной роли, которую играет этот самый мир в упорядоченном, но не предписываемом правилами поведении и благодаря которой только и становится возможным подобное поведение.

Для того чтобы отчетливо представить себе, о чем идет речь, имеет смысл напомнить в двух словах точку зрения наших оппонентов. В своем анализе эпистемологического допущения (гл. 5) мы показали, что к настоящему времени в философской традиции сложился взгляд, согласно которому все, что упорядочено, может быть формально описано в терминах правил. Своего наиболее впечатляющего и категорического выражения эта точка зрения достигла во взглядах специалистов в области "искусственного интеллекта", которые утверждают, что любая форма разумного поведения может быть формализована. Минский даже развил на основе этой догмы нелепую, но наглядно демонстрирующую его позицию теорию человеческой свободной воли. Он глубоко убежден, что любая упорядоченность подчиняется правилам. Поэтому, теоретизирует он, наше поведение либо абсолютно произвольно, либо регулярно и полностью определяется правилами. Говоря его собственными словами, "всякий раз, когда [в нашем поведении] наблюдается регулярность, представ-

222

ляющее его описание попадает в область детерминированных правил"*. В противном случае наше поведение совершенно произвольно и свободно. Вариант, при котором поведение может быть регулярно и в то же время не определяться правилами, ему даже не приходит в голову.

Мы попытаемся показать, что это не только возможно, но, более того, неизбежно, поскольку полная система правил, применение которых определено заранее для всех возможных случаев,есть нечто абсолютно немыслимое.

Обсуждая выше решение задач, мы ограничились рассмотрением задач формального рода, при решении которых испытуемый должен манипулировать однозначными символами в соответствии с некоторым набором правил; кроме того, были рассмотрены и другие бесконтекстные задачи, например тесты на сообразительность при отыскании аналогий. Однако если исследователи в области моделирования процессов познания рассчитывают построить психологическую теорию (и если создатели программ "искусственного интеллекта" хотят, чтобы их программы были признаны разумными), то они должны распространить механическую переработку информации на все области деятельности человека, включая те, в которых человек сталкивается (и успешно справляется) с задачами, обладающими открытой структурой и встречающимися в его повседневной жизни**.

* М.Minsky. Matter, Mind and Models.-In: M.Minsky (ed). Semantic information Processing, p. 431.

** Требовать здесь подлинной творческой активности - значило бы требовать слишком многого. М.Минский подчеркивает, что минимальным условием успешного машинного решения задач является наличие у вычислительной машины критерия приемлемости решения: "Прежде всего мы вынуждены заменить наши интуитивные соображения четко определенными требованиями технического характера... Минимум того, что можно требовать, -это существование некоторого способа узнавания удовлетворительного решения, когда оно нам встретится. Если мы этого делать не умеем, то задача должна быть заменена другой, которая в этом смысле определена лучше, и нам остается только надеяться, что решение этой другой - подменяющей исходную - задачи окажется хоть в чем-то полезным для решения первой" (М. Мinskу- Some Methods of Artificial Intelligence and Heuristic Programming.-ln: Proc. Symposium on the Mechanization of Intelligence. London, HMSO, p. 7). Однако в процессе творческой работы, как замечают А. Ньюэлл, Дж. Шоу и Г. Саймон, в цели субъекта входит, как составная часть, сама постановка задачи и выделение тех особенностей решения, которые делают его удовлетворительным (А. Newell, J. Shaw and H.Simon. The Processes of Creative Thinking. The RAND Corporation, P. 1320, September 16, 1958, p. 4). Например, у художника нет никакого критерия, с помощью которого он мог бы определить, что является решением стоящей перед ним художественной задачи. Он придумывает и саму задачу, и ее решение по ходу дела. Впоследствии его работа, возможно, послужит основанием для определения стандартных требований, обеспечивающих успех, но тем не менее сам успех первичен по отношению к канонам, вводимым позднее критиками. Если мы стремимся к созданию творческой программы, то мы не имеем права перекладывать на

223

Задачи с открытой структурой в отличие от настольных игр и тестов поднимают вопросы, связанные с трудностями трех типов: приходится определять, какие факты могут иметь отношение к рассматриваемой задаче, какие из них действительно имеют к ней отношение и какие из этих последних существенны, а какие нет. Начнем с того, что в любой данной ситуации далеко не все факты попадают в область потенциальной релевантности. Некоторые вообще не относятся к ситуации. Так, в контексте шахматной игры физический вес фигур не имеет никакого отношения к делу. О нем даже речь не заходит, не говоря уже о том, чтобы определять, существен он при выборе конкретного хода или нет. Вообще говоря, решить, имеют данные факты отношение к делу или не имеют, существенны они или не существенны, не так-то просто: это ведь не нагромождение кубиков, один из которых можно достать, не коснувшись остальных. Что считать существенным, зависит от того, что мы признали несущественным, и наоборот, и разделение это не может быть произведено независимо от какой-либо конкретной задачи или конкретной стадии какой-либо конкретной игры. Ну а поскольку релевантность фактов не закреплена за ними жестко, а определяется в зависимости от намерений человека, для каждого факта найдется такая ситуация, в которой он может иметь отношение к делу. Так, например, вес может иметь отношение к делу в ситуации, связанной с изготовлением шахмат (хотя в большинстве вопросов, принимаемых в расчет при изготовлении и продаже шахмат, он фактически не является релевантным, не говоря уже о его существенности). Такая зависимость релевантности от ситуации распространяется и на нерелевантность: в каждой конкретной ситуации существует неопределенное число фактов, которые могут иметь отношение к делу, и неопределенное число фактов, которые к нему отношения не имеют. Однако поскольку вычислительная машина не может "находиться в ситуации", она должна в каждый момент времени учитывать все факты, как, возможно, имеющие отношение к делу. В связи с этим перед исследователями в области ИИ возникает дилемма: либо они должны решить проблему хранения бесконечного числа фактов и доступа к этим фактам, либо они будут вынуждены исключить из сферы машинного анализа какие-то факты, возможно имеющее отношение к делу.

программиста работу по постановке задачи и определению правил для распознавания удовлетворительных решений. Однако невозможно даже представить себе, каким образом машина» программа могла бы творчески решить какую-то задачу или узнать, что она сделала что-нибудь в этом роде: ведь для этого программа должна содержать четкий критерий, определяющий, что есть задача и в какой момент ее можно считать решенной.

224

Но даже если бы для каждой конкретной задачи удалось свести соответствующий универсум к фактам, которые, возможно, являются релевантными (а пока это может делать только математик-программист, а не программа), остается еще проблема отыскания среди этих фактов тех, которые на самом деле релевантны, т. е. в действительности имеют отношение к делу. Даже в такой неформальной игре, как игра на скачках (которая гораздо более систематична, чем задачи с открытой структурой, встречающиеся в повседневной жизни), к числу возможно релевантных оказывается отнесенным неограниченное, неопределенно большое число фактов. Делая ставку на лошадь, мы обычно можем ограничиться рассмотрением фактов, касающихся возраста лошади, того, кто ее жокей, как она показала себя на предыдущих состязаниях и какие у нее конкуренты. Не исключено, что, анализируя только эти указываемые в программе скачек факты, машина сможет довольно неплохо играть, возможно даже лучше, чем средний игрок; но ведь всегда существуют другие факторы, которые в некоторых случаях могут оказаться решающими; например, может случиться так, что у лошади аллергия или что жокей только что повздорил с владельцем лошади. Нельзя сказать, что игрок-человек более всеведущ, чем машина; во всяком случае, если человек столкнется с такого рода фактом, то сумеет понять, что последний имеет отношение к делу. С точки зрения "искусственного интеллекта" такую способность человека можно было бы промоделировать, если бы удалось ввести в машину сведения из области ветеринарии, знание поведения людей непосредственно после неприятного разговора с начальством и так далее. Но здесь возникает проблема сортировки этого огромного запаса данных. На это нам отвечают, что вся информация будет надлежащим образом закодирована и снабжена метками в памяти машины, так что машине нужно будет только произвести просмотр по ключу "ставка на скачках", чтобы выбрать весь материал, который имеет отношение к данному вопросу. Однако может случиться, что какая-то информация не будет снабжена кодом, содержащим ссылку на это конкретное использование. Подробно разбирая этот пример, Ч.Тэйлор подчеркивает:

"Может оказаться, что на этого жокея сегодня не стоит ставить из-за того, что вчера умерла его мать. Однако, вводя в запоминающее устройство информацию о том, что человек непосредственно после смерти близких часто оказывается не на высоте своих лучших результатов, мы вряд ли можем рассчитывать на то, что при этом она будет снабжена ссылкой на скачки. Эта информация может иметь отношение к бесконечному числу контекстов.

Машина могла бы основывать свой выбор на ключевых понятиях, таких, как "лошадь", "жокей", "жокей Смит" и так далее, выбирая все относящиеся к ним факты. Но это также привело бы к абсурдно большому

225

перебору. Не исключено, что поиск, начавшийся с "жокея", "человека" и "лошади", привел бы нас ко всему, что имеет отношение к кентаврам. Единственный способ, с помощью которого машина могла бы концентрировать внимание на релевантных фактах, состоит в том, чтобы ввести в рассмотрение соответствующий обширный класс фактов (или какой-нибудь другой класс, выбранный на столь же широком основании) и затем проверить каждый его элемент с тем, чтобы убедиться, что он причинно связан с исходом скачек, оставляй для дальнейшего рассмотрения только релевантные факты и отбрасывая все остальные"*.



" Многое из того, что человек знает о ситуациях и их возможном развитии, представляет собой "знание дела", то есть знание, которое не может быть разложено до уровня набора конкретных указаний или утверждений о фактах; оно представляет собой просто общую способность генерировать соответствующие данной ситуации действия, а, следовательно, в случае необходимости и "указания", на которых они основываются. Обычно мы представляем себе эту неопределенную- не разложимую далее форму знания как нечто неразрывно связанное с тем "знанием дела", которое лежит в основе наших действий. Однако и в основе наших переживаний, наших "страстей", лежит знание того же рода. Точно так же, как я пользуюсь некоторыми общими представлениями, позволяющими мне совершать прогулки, работать в саду, водить машину, вести дело в

* М.Мinsky. Introduction.-In: M.Minsky. Semantic Information Processing, p. 27.

227

суде (если я юрист) и т. д., я пользуюсь общими представлениями, позволяющими мне чувствовать, что значит подвергаться угрозам, слышать хорошие новости, быть обманутым моей возлюбленной, оказаться предметом насмешек в присутствии посторонних.

Вернемся к человеку, играющему на скачках. У него есть общее представление о некоторых обычных для человека действиях и страстях. Он воспринимает скачки как рискованное мероприятие, для победы в котором жокею (и лошади) понадобится максимальное напряжение воли и сил. Но восприятие этого включает в себя умение представить в воображении или угадать то бесчисленное множество опасностей, из-за которых эта воля и эти усилии могут испортить дело или рухнуть под ударами судьбы. Сведения об этих опасностях не хранятся где-то в уме или в мозгу в виде отдельных фактов, они не "разложены по полочкам", просто они обладают способностью возникать из общего представления о ситуации. Конечно, у разных людей эти общие представления различны по широте и точности. Если играющий на скачках сам когда-нибудь ездил верхом, то его представление об этом роде занятий гораздо четче; он может гораздо острее чувствовать момент, когда все может пойти прахом. Но даже у городского гангстера есть некоторое общее представление о том, что значит бороться до последнего и какое напряжение требуется для того, чтобы прийти первым в заезде.

Однако сторонник "искусственного интеллекта" может возразить, что все это есть не что иное, как просто некоторый отличный от машинного вариант того же процесса занесения и извлечения информации из "запоминающего устройства". Даже если он признает, что для машины этот метод недоступен, не исключено, что он все же поставит вопрос, как при этом решается задача поиска информации. Как играющий на скачках определяет, каковы те случайные факторы, которые имеют отношение к делу? В ответ на это можно сказать следующее: если мы отдаем себе отчет в том, что наше представление о мире возникает в результате нашего воздействия на него в соответствии с присущими нам разнообразными способностями, а также в результате нашей подверженности его влиянию, зависящей от различной направленности наших интересов, - если мы это понимаем, то нам должно быть ясно, что вопрос о том, как данная направленность интересов или данное намерение определяет наш выбор релевантных признаков из того, что нас окружает, даже не возникает. Потому что быть некоторым образом заинтересованным в чём-то или иметь те или иные намерения значит остро чувствовать ситуацию, в которой мы находимся; осознавать ее в том или ином аспекте, в связи с той или иной структурой. Так, беспокойство за собственную жизнь, когда меня окружает шайка головорезов, есть не что иное, как ощущение угрозы, исходящее от чего-то тяжелого, спрятанного в кармане одного из них, чувство незащищенности моего лица от кулаков другого, который может в любой момент ударить меня, и т. д."

Итак, человеческий мир заранее структурирован в терминах намерений человека и направленности его интересов, причем таким образом, что именно направленность интересов определяет, что считать объектом или важной особенностью объекта. Здесь машина ничего не может сделать, потому что она в состоянии иметь дело только с уже определенными объектами; пытаясь построить модель такого рода поля направленности интересов, программист может только приписать уже определенным фактам другие определенные факты, называемые значениями, которые ничего, кроме усложнения процесса поиска информации, не дают.

228

В своей книге "Бытие и время" М.Хайдеггер приводит описание человеческого мира, в котором человек чувствует себя как дома. Описание дается в виде схемы, представляющей собой мозаику взаимосвязанных орудий или инструментов (Zuenge), каждый из которых предполагает все остальные, всю "мастерскую" в целом и в конце концов намерения и цели человека. Сигнал поворота, который дает водитель автомашины, служит примером "факта", получающего свое значение из прагматического контекста:

"Сигнал поворота - это элемент оборудования, который "всегда под рукой" у водителя, находящегося за рулем; да и не только у него: те, кто не сидит в его машине (и они-то в первую очередь), тоже пользуются им, либо уступая дорогу с нужной стороны, либо останавливаясь. Этот сигнал находится "под рукой" в пределах мира, окруженный всем контекстом, связанным с оборудованием средств передвижения и регулирования дорожного движения. Это - оборудование для указания, и как всякое оборудование образовано ссылками на него или его предназначением".



У Л. Витгенштейна тоже нередко можно встретить ссылки на человеческие формы жизни и направленность человеческих интересов, так же как и на носящие очень общий характер "факты естественной истории", которые мы считаем чем-то само собой разумеющимся, когда пользуемся языком или организуем свою повседневную деятельность. Между прочим, это факты совершенно особого рода: они, по-видимому, ускользнули бы от внимания программиста, вздумай тот запрограммировать весь багаж человеческих знаний. Как сказал Л.Витгенштейн, "те стороны вещей, которые наиболее важны для нас, мы не замечаем, из-за их обыденности и простоты. (Так, человек может не заметить какую-нибудь вещь, потому что она постоянно находится у него перед глазами.)"** .И, что еще более существенно, эти факты таковы, что их связь с другими фактами пронизывает все, что нам известно; поэтому, даже если бы нам удалось найти точное выражение для этих фактов, классифицировать их оказалось бы очень трудно, а может быть, и невозможно. Основная глубинная идея, направляющая весь этот анализ, заключается в следующем: ситуация с самого начала организована в терминах человеческих потребностей и склонностей, благодаря которым факты получают свое значение, превращаясь в то, что они есть, поэтому вопрос о хранении и классификации огромных списков бессмысленных, изолированных данных никогда не возникает.

* М Heidegger. Being and Time. New York, Harper and Row, 1962, p. 109.

** L. Wittgenstein. Philosophical Investigations, p. 50.

229

С.Тоудс* подробно описал структуру поля жизненного опыта, первичную по отношению к фактам и неявно определяющую их релевантность и значение. Он подчеркивает, что в наш жизненный опыт мир входит в виде полей, вложенных друг в друга. Части объектов или те или иные их аспекты переживаются не как изолированные факты, а вложенными последовательно в целый ряд контекстов. И предлог "в" имеет множество различных смыслов, ни один из которых не совпадает с тем простым физическим включением части в целое, которое М.Минский и Дж.Маккарти принимают за основное. Части объектов переживаются как находящиеся в объектах, которые из них состоят, объекты находятся в местах, которые они заполняют, место расположено в своем локальном окружении, которое само помещается в слое возможных ситуаций в человеческом мире. Следовательно, данные - это далеко не такая простая вещь; те или иные аспекты объектов не даны непосредственно в мире, а характеризуют объекты в различных его местах, в их локальном окружении, в пространстве и времени. Нам удается сосредоточивать внимание на значимом содержании поля нашего жизненного опыта, потому что это поле не нейтрально по отношению к нам, а, наоборот, структурировано в терминах наших интересов и нашей способности понимать, что в нем содержится. Всякий объект, с которым мы сталкиваемся, обязательно появится в этом поле и поэтому обязательно должен быть представлен в терминах доминирующей в данный момент направленности интересов, причем как объект, достижимый для некоторой формы деятельности, порождаемой этим полем. Поскольку данное поле создается в терминах нашей заинтересованности, нам могут встретиться только такие факты, которые могут иметь отношение к делу. Таким образом, релевантность уже заранее встроена в наше поведение. Возвращаясь к рассмотренному выше примеру, мы можем сказать, что скачкам соответствует гнездо контекстов, вложенных один в другой; в него входят деятельность, игры, спортивные состязания, соперничество. Представить себе, что * S. Тоdes. The Human Body as the Material Subject of the World, 1963 (диссертация, выполненная в Гарвардском университете) , См. также: Comparative Phenomenology of Perception and Imagination-Part I: Perception.-Journal of Existentialism, 1966, Работа Тоудса содержит также несколько интересных догадок, касающихся некоторых неотъемлемых особенностей тела и их роли. Он описывает отдельные свойства телесной организации человека, например тот факт, что тело с большей легкостью может двигаться вперед, чем назад, что оно порождает право-левую структуру поля, что оно должно противостоять действию гравитации, стремящейся нарушить его равновесие; он показывает, какую роль играет такого рода опыт в нашем знании предметного мира. 230 некоторая деятельность есть скачки,- значит организовать ее в терминах стремления к победе, выигрышу. Вернемся к описанию, данному Ч.Тэйлором: "Играющий на скачках заинтересован в том, чтобы верно определить победителя. Поскольку он человек, у него есть представления о том, какие обстоятельства обычно важны в борьбе за победу, так что его заинтересованность означает, что и лошадь, и жокей, и все остальное воспринимаются им под углом зрения возможности тех или иных промахов. Поэтому, заметив в колонке некрологов сообщение о том, что вчера умерла мать Смита (Смит - жокей, эмоциональная чувствительность которого игроку хорошо известна), он в виде исключения не ставит на Смита вопреки тем сведениям, которые помещены в бюллетене о скачках. Машина восприняла все сообщение о смерти матери Смита как некоторый факт, касающийся Смита, наряду со всеми остальными фактами, такими, например, как сообщение о том, что троюродный брат Смита назначен ответственным за отлов бродячих собак в таком-то городе, и т. д.; затем машине пришлось бы произвести проверку наиболее вероятных следствий из этого разнообразия фактов. Это необходимо для того, чтобы решить, какие из них следует учитывать при выборе ставки". Таким образом, направленность наших текущих интересов, а также накопленные знания и умения всегда заранее определяют, что будет оставлено без внимания, что останется в качестве потенциально релевантного во внешнем горизонте нашего жизненного опыта и что будет немедленно учтено как существенное. Л.Витгенштейн постоянно подчеркивает, что анализ ситуации, сводящий ее до уровня фактов и правил (уровня, с которого, по мнению "традиционных" философов и специалистов в области вычислительных систем, как раз и следует начинать), сам по себе осмыслен только в некотором контексте и с учетом тех или иных намерений. Таким образом, элементы этого анализа уже отражают цели и намерения, с ориентацией на которые они были выдвинуты. При попытке найти окончательные бесконтекстные и бесцелевые элементы, которые нам нужны, чтобы найти не разложимые далее кванты информации, вводимые в машину (кванты данных, которые должны иметь отношение абсолютно ко всем задачам, поскольку они не выбирались специально ни для одной из них), мы фактически стараемся очистить факты нашего жизненного опыта именно от той прагматической организации, благодаря которой только и возможно их гибкое использование, приводящее к решению повседневных задач, Правда, нельзя сказать, что в машинной модели всегда в действительности отсутствует цель; даже модель, построенная в терминах ввода и извлечения информации из запоминающего устройства, так или иначе обязательно отражает контекст; но анализ контекста в терминах фактов и правил оказывается в этом случае жестким и ограничивающим. Для того чтобы это понять, допустим на минуту, что все свойства объектов (что бы ни понималось под этими словами) можно выразить в точной форме в 231 виде дерева решений так, чтобы в каждой вершине отмечалось, что выполняется дли этого объекта: данный, не зависящий от ситуации предикат или его отрицание. Такого типа структура классификации была запрограммирована Э.Фейгенбаумом в его модели ЕРАМ*. Эта распознающая сеть могла бы в принципе служить точным, исчерпывающим, не зависящим от ситуации описанием объекта или даже ситуации - в той мере, в какой ситуацию можно считать объектом. Может, таким образом, показаться, что эта сеть обеспечивает эффективное накопление информации, обходя вопрос о различении "поля" и "объекта". Однако в подобном описании такого рода информационной структуры упущено нечто очень важное - выпала организация самой структуры, играющая решающую роль в процессе накопления информации. Накопление информации и доступ к ней в этом дереве происходят по-разному в зависимости от того порядка, в котором производится проверка признаков. Анализируя программу ЕРАМ, У. Винн пишет: "В программе ЕРАМ процесс классификации... слишком зависит от предшествующего пути и слишком плохо поддается адаптивной перестройке, так как распознающая сеть может наращиваться только с самого низа и не допускает реорганизации, начинающейся с верхнего уровня. Использованная в сети тестовая процедура, относительно которой в дальнейшем ходе процесса выясняется, что она не имеет существенного значения для распознавания данного множества стимулов, не может быть ни исключена, ни заменена новой процедурой, поскольку это затронуло бы вышележащую часть сети. Таким образом, будучи однажды построенной, распознающая сеть ЕРАМ с трудом поддается реорганизации, которая может потребоваться для повышения эффективности поиска информации. Любая процедура реорганизации тестовых проверок в этой структуре значительно затрудняет поиск многих элементов информации, хранящихся в памяти"**. Таким образом, все решает порядок проверки признаков. A ведь в реальном мире все предикаты имеют одинаковый приоритет. Только имеющееся у программиста чувство ситуации определяет порядок построения дерева решений. Характерные различия между "полем" и "объектами" отражаются в машинной модели * E.H.Feigenbaum. An Information Processing Theory of Verbal Learning, The RAND Corporation, P-1817, Santa Monica, 1959. "В моделях типа, ЕРАМ подобная структура классификации, называемая "распознающей сетью", служит первичной информационной структурой. Она возникает как результат обучения распознаванию и воплощает в себе в каждый момент времени все то умение распознавать, которое уже приобретено к данному моменту. Распознающая сеть программы ЕРАМ представляет собой структуру типа дерева, поскольку к любому данному узлу ведет сверху только одна ветвь: от самого верхнего узла, называемого корнем, к любому узлу дерева ведет только один путь. Объект-стимул, предъявляемый программе для распознавания, может быть отнесен к тому или иному классу путем последовательного прохода через узлы ветвления к какому-то из конечных узлов сети" (W.Wуnn. An Information Processing Model of Certain Aspects of Paired-Associate Zearing; p. 5)90. ** W,Wynn. Op.cit., p.9. 232 только в преломлении, определяемом субъективными суждениями программиста. Учитываемый программистом прагматический контекст, очевидно, может в свою очередь быть описан с помощью дерева решений, но теперь уже порядок проверки признаков будет отражать некоторый более широкий контекст. Информация, касающаяся этого более широкого контекста, на каждом уровне представлена общей структурой дерева, а не какой-нибудь конкретной его вершиной. На каждом уровне порядок тестовых проверок управляется прагматической интуицией программиста, в которой находит свое отражение рассматриваемая ситуация; но при этом факты фиксируются в одном определенном порядке, который выбирается в соответствии с некоторой конкретной целью, что неизбежно приводит к отсутствию гибкости, отмеченному Винном. Кроме того, если бы можно было во имя гибкости избавиться от какого бы то ни было прагматического упорядочения с тем, чтобы получающийся в результате бесструктурный список очищенных фактов можно было бы ввести в машину (это могут быть факты о размерах и формах различных объектов физического мира и даже факты о возможностях использования объектов, представляющие собой их поддающиеся выделению функции), тогда при каждом вычислении пришлось бы решать, вводить или исключать из рассмотрения каждый факт, причем в явном виде, и машина захлебнулась бы в этом бесконечном процессе. Это не значит, что человек никогда не выделяет изолированные данные и не пытается найти их значение, стараясь согласовать их с уже имеющейся в памяти информацией. Именно это и составляет основу умозаключений Шерлока Холмса и других детективов; в незнакомой ситуации каждый человек ведет себя подобным же образом. Но даже в этом случае должен существовать какой-то более общий контекст, в котором мы ощущаем себя как дома. Если бы у нас на Земле очутился марсианин, ему, наверное, пришлось бы действовать в абсолютно незнакомой обстановке; задача сортировки релевантного и нерелевантного, существенного и несущественного, которая бы перед ним возникла, оказалась бы для него столь же неразрешимой, как и для цифровой машины,- если, конечно, он не сумеет принять в расчет никаких человеческих устремлений. Все мы знаем также, что значит запоминать и использовать некоторые данные в соответствии с некоторыми правилами в каком-то узком контексте. Например, мы делаем это, когда играем в такие игры, как бридж, хотя даже в этом случае хороший игрок запоминает данные в терминах намерений и стратегий и довольно свободно обращается с эвристическими правилами. Иногда мы также "проигрываем" в своем воображении возможные альтернативы, для того чтобы предсказать, что 233 может произойти в реальной игре, которая нам предстоит. Однако, когда нам приходится ориентироваться в незнакомом, чуждом для нас мире, или когда мы следуем правилообразным указаниям типа эвристик для повышения ставки в бридже, или когда мы моделируем в нашем воображении те события, которые еще не произошли, мы осознаем свое поведение - осознаем именно потому, что большую часть времени мы ничего подобного не делаем; утверждение, что мы все же производим соответствующие операции, но только подсознательно, представляет собой либо эмпирическое положение, в пользу которого не существует никаких подтверждающих его данных, либо априорное утверждение, базирующееся на той самой предпосылке, справедливость которой мы здесь оспариваем. Когда мы чувствуем себя в мире как дома, осмысленные объекты, включенные в контексты связей, в гуще которых мы живем, не образуют ту модель мира, которая хранится в нашей памяти или в нашем мозгу, а являются самим этим миром. Это может показаться вполне правдоподобным при рассмотрении общедоступного мира обычных стремлений, регулировки уличного движения и т. д. "А как насчет моего жизненного опыта,- можем мы услышать вопрос,-мое личное множество фактов - оно-то, уж конечно, находится в моем мозгу". Так кажется только потому, что этот мир все еще смешивается в нашем сознании с той или иной разновидностью физического универсума. Мои личные планы и воспоминания запечатлены в окружающих меня вещах точно так же, как и обычные, включенные в общественные связи цели людей. Мои воспоминания хранятся в хорошо знакомом мне внешнем облике этого стула или в том ощущении опасности, которое связано с уличным перекрестком, где на меня однажды напали бандиты. Мои планы и страхи уже встроены в мое восприятие, в переживание мною одних объектов как привлекательных, а других - как отталкивающих. На те "данные", которые имеют отношение к социальным задачам и целям, встроенным в объекты и участки пространства, окружающие меня, накладываются мои личные "данные", и они имеют такое же право считаться частью моего мира, как и первые. В конце концов, личное чувство опасности или заинтересованности не более субъективно, чем общие для всех людей человеческие стремления. Теперь нам становится понятно, почему, даже если под нервной системой понимать физический объект (своего рода аналоговую машину), энергетический обмен которого с внешним миром должен в принципе допускать описание в виде функции вида "вход - выход", предположение о том, что на уровне переработки информации человек в процессе восприятия может быть представлен в виде аналоговой вычислительной машины, точная 234 "входо-выходная функция которой воспроизводима на машине дискретного действия, вызывает сомнения и часто приводит к путанице. Вообще говоря, модель "вход - выход" не имеет здесь никакого смысла. Нет оснований полагать, что человеческий мир может быть разложен на независимые элементы; если бы даже это было так, невозможно было бы определить, что собой представляют эти элементы -"вход" или "выход" человеческого разума. Если эта идея кажется малоприемлемой, то только потому, что такое феноменологическое объяснение не согласуется с нашим традиционным картезианством, согласно которому физический мир приходит в столкновение с нашим разумом, что и приводит к организации последним окружающего мира в соответствии с прошлым опытом и врожденными идеями или правилами. Но даже у Р.Декарта нет той путаницы, в которой, по всей видимости, увязли современные психологи и исследователи, работающие в области "искусственного интеллекта". Декарт утверждает, что воздействующий на нас мир есть мир чисто физических движений, в то время как мир "в нашем уме" есть мир объектов, орудий, и т. д.; неясно только, как связаны между собой эти два мира. А в представлениях таких теоретиков "искусственного интеллекта", как М, Минский, картина мира очерчена гораздо более грубо: мир орудий в ней даже не появляется. С их точки зрения, разум воспринимает отдельные детали повседневного мира - так сказать, мгновенные снимки столов, стульев и пр. Затем эти фрагменты вновь подвергаются сборке- уже в терминах некоторой модели, построенной из других, ранее накопленных разумом фактов. Внешний мир, представляющий собой массу изолированных фактов, интерпретируется в терминах других изолированных фактов, хранящихся внутри нас и уже организованных с помощью безупречно составленного каталога (такой внутренний массив фактов строится каким-то образом на основе предшествующего опыта общения с этим фрагментарным миром). В результате внутренняя модель обрастает дополнительными деталями. В этом описании нет места для хорошо знакомого нам мира орудий, организованного в терминах наших намерений. М. Минский пытается развить этот машинный вариант картезианства до уровня философской системы. Он начинает с того, что дает вполне правдоподобное описание того процесса, который на самом деле отражает роль воображения: "Если некоторое существо может ответить нз тот или иной вопрос, касающийся гипотетического эксперимента, не проводя этого эксперимента в действительности, то оно тем самым доказывает, что обладает некоторым знанием о мире. Ибо его (sic! - Х.Д.) ответ на данный вопрос обязательно должен иметь вид закодированного описания поведения (внутри этого существа) некоторой субмашины, или "модели", соответствующей за- 235 кодированного описанию той ситуации в мире, о которой идет речь в заданном вопросе"* Затем М.Минский без каких бы то ни было объяснений или оправданий распространяет это правдоподобное описание функции воображения на любого рода восприятие и познание: "На вопросы о тех или иных объектах рассматриваемого мира можно ответить некоторым утверждением о поведении соответствующих структур в той модели мира, которая существует у того, к кому обращен вопрос"**. Таким образом, М. Минский оказывается вынужденным ввести формализованную копию внешнего мира- как будто, помимо объектов, побуждающих нас действовать, нам еще нужна энциклопедия, в которой мы можем посмотреть, где мы находимся и что мы делаем. "Структура человеческой модели мира совершенно отчетливо распадается на две части: одна из них имеет отношение к вопросам механического, геометрического и физического характера, в то время как другая ассоциируется с такими вещами, как цели, значение, социальные проблемы и т. п."*** Если для всякого знания требуется модель, то, разумеется, человеку нужна и модель самого себя. "Когда человеку задают вопрос общего характера, касающийся его самого, он пытается дать общее описание имеющейся у него модели своей натуры"**** . И конечно, если мы хотим, чтобы это самоописание было полным, нужно включить в него описание нашей модели, отображающей модель самого себя и т. д. М.Минский считает, что этот бесконечный процесс построения моделей самого себя является источником философской неразберихи, царящей в вопросах, связанных с понятиями разума, тела, свободной воли и т. д. Он не осознает, что "регресс в бесконечность" возникает потому, что он настаивает на введении моделей, и что это осложнение доказывает философскую непоследовательность его предпосылки, согласно которой мы никогда ничего не знаем прямо, а только посредством моделей. И вообще, чем больше задумываешься над этой картиной, тем труднее становится ее понять. Кажется, существует два мира: один имеет внешнюю структуру данных, а другой - внутреннюю, причем ни один из них мы не ощущаем в нашем опыте и ни один из них не есть ни физический универсум, ни тот мир орудий, в котором мы действуем в нашем опыте. Для физического универсума или для нашего мира взаимосвязанных объектов, по-видимому, места не остается; все занято некоторой библиотекой, * M.Minsky. Matter, Mind and Models. -In: M.Minsky (ed.). Semantic Information Processing, p. 425-426. ** Ibid.,p. 426. *** Ibid., p. 427. **** Ibid., p. 428. 236 содержащей описания универсума и человеческого мира, который, согласно этой теории, не может, однако, существовать. Отказ от этой теории в связи с ее непоследовательностью отнюдь не равносилен отрицанию того, что наш физический организм постоянно бомбардируется физической энергией, результатом чего и является наше восприятие мира через опыт. Отказ этот просто сводится к тому, что физическое преобразование физической энергии представляет собой не психический процесс и происходит не в терминах сортировки и запоминания подогнанных под человека фактов о столах и стульях. Естественно думать, что человеческий мир является результатом этого энергетического процесса и для того, чтобы быть воспринятым и понятым, человеческий мир не нуждается еще в одном механическом повторении того же самого процесса. Смысл этого рассуждения настолько очевиден и в то же время настолько труднодоступен для человека, воспитанного в картезианском духе, что, может быть, нелишне еще раз повторить его основные моменты, на этот раз вернувшись к конкретному примеру рассматриваемого нами смешения понятий. Как мы уже видели, Ниссер начинает свою книгу "Психология познавательных процессов" с изложения того, что он называет "центральной проблемой познавательных способностей": "Безусловно, существует реальный мир, мир деревьев, людей, автомобилей и даже книг... Но у нас нет непосредственного доступа ни к этому миру, ни к какому-либо его свойству"*. Как мы уже отмечали в гл. 4, уже на этом этапе суть вопроса безнадежно искажается. Действительно, существует мир, к которому мы не имеем прямого доступа. Мы не воспринимаем непосредственно мир атомов и электромагнитных колебаний {даже если вообще имеет смысл говорить об их восприятии), но мир машин и книг - это как раз и есть тот мир, с которым мы как раз и имеем дело в непосредственном опыте. В гл. 4 мы видели, что в этом месте Ниссер обращается за поддержкой к необоснованной теории, согласно которой мы воспринимаем "моментальные снимки", или данные органов чувств. Его последующие объяснения только усугубляют возникающую путаницу: "Физически данная страница представляет собой совокупность крохотных выпуклостей типографской краски, расположенных определенным образом на имеющей больший коэффициент отражения поверхности бумаги"**. Однако, уж если рассматривать это с физической точки зрения, то мы имеем перед собой движущиеся атомы, а не бумагу и выпуклости типографской краски. Бумага и выпуклости суть * U.Nеisser. Cognitive Psychology, p. 3. **Ibid. 237 элементы человеческого мира. Однако У.Ниссер делает попытку взглянуть на них с некоторой особой точки зрения, как если бы он был дикарем, марсианином или вычислительной машиной, которые не знают, для чего эти элементы существуют. Однако нет оснований полагать, что столь странным образом выделенные объекты и есть то, что человек воспринимает непосредственно (хотя, быть может, некоторое приближение к этому мироощущению можно найти в чрезвычайно отвлеченном состоянии ума, которое находит на специалистов по психологии познавательных процессов, когда они берутся писать книгу). В обычном психическом состоянии мы воспринимаем только печатную страницу. Вводимый У.Ниссером промежуточный мир, который не совпадает ни с миром физики, ни с человеческим миром, оказывается искусственным построением. Ни один человек никогда не видел этого жутковатого мира и ни один физик не найдет для него места в своей научной системе. Однако, как только постулируется его существование, мы неизбежно приходим к тому, что нам нужно каким-то образом воссоздать человеческий мир из этих обрывков. "На человека обрушивается шквал ежесекундно меняющихся раздражителей, которые мало чем напоминают как реальный объект, послуживший причиной их возникновения, так и объект опыта, который на их основе будет построен воспринимающим субъектом"*. ** Там же, с. 68. *** Там же, с. 71. **** См. там же, с. 33. 249 И действительно, без парадигмы неясно даже, что вообще считать фактом, поскольку факты вырабатываются в терминах конкретной парадигмы для интерпретации жизненного опыта. Следовательно, нахождение новой парадигмы есть своего рода скачкообразный переход того типа, с которым мы встретились у Кьеркегора: "Именно потому, что это переход между несовместимыми структурами, переход между конкурирующими парадигмами не может быть осуществлен постепенно, шаг за шагом, посредством логики и нейтрального опыта. Подобно переключению гештальта, он должен произойти сразу (хотя не обязательно в один прием) или не произойти вообще"*. Вот тут-то и становится совершенно ясно, что если представлять себе решение задач как простое накопление данных в запоминающем устройстве с последующей их сортировкой для достижения какой-то определенной конечной цели, то нам никогда не удастся отвести должное место этим фундаментальным концептуальным изменениям, А ведь именно такие изменения определяют то понятийное пространство, в котором вообще только и может быть поставлена задача и в терминах которого все данные без исключения приобретают свою релевантность и свою значимость, что и дает возможность решить задачу. Преобладающая над остальными концептуальная схема молчаливо подсказывает направление развития, точно так же как перцептивное поле направляет наше восприятие объектов. Наконец, революции культур представляют собой еще более фундаментальное явление, чем исследованные Т. Куном концептуальные революции. Зарождающаяся греческая философия, например, определила, как мы видели, некоторые взгляды на природу человека и на понятие рационального, подвергавшиеся тем или иным изменениям во всех последующих концептуальных революциях. С возникновением христианства не менее радикально изменяются представления о любви - возникли такие представления, которые были немыслимы в Древней Греции; в героизме стали усматривать признаки гордыни, а идеалом добродетели стала святая жертвенность. Эти революции культур наглядно демонстрируют нам, что (как одним из первых заметил Б, Паскаль) резкой грани между природой и культурой не существует (ведь даже инстинктивные потребности могут быть преобразованы и разгаданы в терминах парадигм) и что, следовательно, не существует жестко фиксированной природы человека. Человеческая природа действительно весьма податлива: не исключено, что и сегодня она снова находится на пороге изменения. Если парадигма вычислительной машины станет настолько * Там же, с. 191. 250

преобладающей, что люди начнут воображать себя цифровыми устройствами - в том плане, в каком это мыслится исследователями, работающими в области "искусственного интеллекта", - то, поскольку (по тем причинам, которые мы не раз повторяли на этих страницах) машины не могут стать похожими на человека, человек постепенно начнет приобретать сходство с машиной. За прошедшие две тысячи лет такие представления, как уверенность в основополагающей роли объективности, убежденность в том, что действия человека управляются фиксированными оценками, ценностями, представления о возможности формализации навыков, умений и мастерства и вообще о том, что теория практической деятельности может быть построена, - все это постепенно завоевывало все большее признание в психологии и социальных науках. Среди людей уже встречаются такие, которые мыслят себя объектами, укладывающимися в рамки безошибочных вычислений лишенных тела машин, тех машин, для которых человеческие формы жизни представляют собой не изменчивую и гибкую предрациональную основу всего рационального, а нечто такое, что должно быть разложено в неосмысленный список фактов. Нам грозит не пришествие сверхразумных вычислительных машин, а появление неполноценно мыслящих человеческих существ. ЗАКЛЮЧЕНИЕ Предлагаемая альтернатива представлений о человеке и о его способности к разумному поведению основана на анализе того, каким образом совершенствование навыков и умений, которыми наделено человеческое тело - совершенствование, происходящее по мере деятельности человека, направленной на удовлетворение его потребностей, - приводит к возникновению человеческого мира. Этот мир и устанавливает те условия, при выполнении которых человек получает доступ к конкретным фактам, воспринимаемым в их бесконечном разнообразии и открытости, поскольку эти факты с самого начала организованы в терминах его потребностей. Такой подход дает возможность понять фундаментальнейшие различия между человеческим разумом и "машинным интеллектом". "Искусственный интеллект" вынужденно начинается на том уровне, где факты уже сформулированы. Абстрагируя эти факты* от ситуации, в которой они являются частью ее структуры, "искусственный интеллект" пытается использовать получающийся при этом результат для моделирования разумного поведения. Но эти факты, оторванные от контекста, представляют собой страшно громоздкую массу нейтральных данных, с которой специалистам в области "искусственного интеллекта" до сих пор не удалось ничего сделать. Все существующие программы "по мере роста массивов информации безнадежно увязают в массе фактов"**. На сегодняшний день не существует никакого метода обработки данных, кроме накопления фактов, и, поскольку главные философские предпосылки, лежащие в основе разработок, ведущихся в сфере "искусственного интеллекта", оказались под * Факты типа "у человека две руки", а не типа "контакт К замкнут". Различие между этими фактами аналогично различию между фактом, относящимся к содержанию какого-нибудь рисунка, и фактом, касающимся одной из множества составляющих картину точек. Совершенно ясно, что под вопрос поставлена реальность мира фактов первого типа, поскольку М. Минский говорит, что нам приходится иметь дело с миллионами фактов, а не с миллионами квантов информации. ** М.Мinsky. Introduction.-in: M.Minsky (ed.). Semantic Information Processing, pr 18. 252 сомнением, потеряло убедительность предположение, что методы хранения и поиска дискретных данных рано или поздно достигнут достаточного уровня развития - достаточного для того, чтобы справиться с тем объемом данных, который возникает при попытке выразить в точной форме наше знание мира. Поскольку масса этих данных о мире может оказаться бесконечной, а формализация нашей формы жизни невозможной, есть всe основания полагать, что дискретные методы хранения информации никогда не станут адекватными поставленной цели. Более того, если данное нами феноменологическое описание человеческого интеллекта соответствует истине, то существуют принципиальные соображения, по которым искусственный интеллект вообще не может быть полностью реализован. Помимо технологических трудностей, возникающих в связи с хранением огромного количества нейтральных данных, возникает проблема, связанная с тем, что если довести анализ до конца, то у нас совсем не останется фиксированных фактов - будь их перед этим хоть миллион, хоть десять миллионов, как того хочется М.Минскому. При концептуальных революциях изменяются даже сами факты, поскольку они создаются человеком. И наконец, если найдется такой философ или исследователь в области "искусственного интеллекта", который предложит в ответ на это возражение формализовать сами человеческие потребности, порождающие этот все время меняющийся контекст, то он столкнется с целым потоком тех же самых трудностей. Неопределенные потребности и цели, так же как переживание чувства вознагражденности, направляющее их относительное уточнение, не могут быть заложены в дискретную машину, для которой мыслима только одна форма существования - последовательность детерминированных состояний. И пожалуй, именно потому, что эти потребности ни у индивида, ни у человечества в целом никогда не становятся полностью определенными, они сохраняют способность к уточнению, а природа человека получает возможность повторных изменений в ходе революций личностей и культур 253 ЗАКЛЮЧЕНИЕ ВОЗМОЖНОСТИ И ПРЕДЕЛЫ ИСКУССТВЕННОГО РАЗУМА Глава 10 ПРЕДЕЛЫ "ИСКУССТВЕННОГО ИНТЕЛЛЕКТА" Теперь мы подготовлены к тому, чтобы объединить в одно целое все многообразие философских соображений, касающихся ограниченных возможностей "искусственного интеллекта". Введенное нами разделение области "искусственного интеллекта" в широком смысле на две части - на моделирование процессов познания и "искусственный интеллект" в собственном смысле (ИИ) - позволило нам рассмотреть два отдельных, но взаимосвязанных вопроса: 1) Действительно ли человек "в процессе переработки информации" следует некоторым формальным правилам, подобно цифровой машине? и 2) Может ли поведение человека, независимо от того, как оно возникает, быть описано средствами какого-либо формализма, допускающего реализацию с помощью цифрового устройства? Обсуждая эти вопросы, мы пришли к выводу, что, во-первых, данные описательного или феноменологического характера - если подходить к ним с позиций, свободных от предрассудков традиционной философии, - указывают на то, что в разумном поведении любого рода принимают участие непрограммируемые способности человека. Более того, мы показали, что все эмпирические соображения, приводимые в защиту противоположного взгляда, с методологической точки зрения не выдерживают критики. Таким образом, в той мере, в какой вопрос о возможности создания искусственного интеллекта представляет собой вопрос эмпирический, можно, по-видимому, утверждать, что появление в процессе дальнейшей работы сколько-нибудь значительных результатов в области моделирования процессов познания и "искусственного интеллекта" (в собственном смысле) в высшей степени маловероятно. Таким образом, если исследователи, работающие в области "искусственного интеллекта" в широком смысле, несмотря на все трудности, все-таки считают свой оптимизм оправданным, то бремя доказательства целиком ложится на их плечи; они должны доказать, что вопреки этим эмпирическим трудностям должен существовать некоторый путь, ведущий к построению такого интеллекта. Однако в данном случае априорная сторона вопроса о 257 достижимости искусственного интеллекта еще более уязвима, чем эмпирическая. Те самые доводы, которые, по предположению, должны свидетельствовать в пользу того, что формализация, несомненно, возможна, оказываются либо непоследовательными, либо противоречащими сами себе и оборачиваются доказательством того, что без поддержки определенных в высшей степени малоправдоподобных эмпирических предпосылок провести формализацию невозможно. Таким образом, априорные доводы в пользу формализации оказываются доводами против - доводами, говорящими о невозможности "моделирования процесса познания" и "искусственного интеллекта". Рассмотрим эти доводы более подробно. Обсуждая моделирование процесса познания, мы обнаружили, что в таких играх, как шахматы, в таких процессах, как решение сложных задач, распознавание подобия и фамильного сходства, в метафорическом использовании языковых средств, так же как в тех случаях употребления языка, которые нам кажутся странными или грамматически неправильными, - во всех этих случаях как сам человек, так и анализирующий его действия наблюдатель согласны с тем, что, по всей видимости, соответствующее поведение не подчиняется правилам. Наоборот, создается впечатление, что в таком поведении человек пользуется глобально воспринимаемой им организацией, прагматическим различением существенных и несущественных операций, обращением к парадигме, а при передаче смысла некоторого высказывания другому лицу - обращением к разделяемому обоими участниками чувству ситуации. Разумеется, вся эта упорядоченная, но, очевидно, не правило-образная деятельность могла бы, тем не менее, оказаться результатом подсознательного следования правилам. Однако если попытаться в качестве некоторого философского предположения развить гипотезу, согласно которой всякое поведение обязательно следует понимать как возникающее в результате применения некоторого набора правил, то мы сталкиваемся с не имеющим конца процессом обращения к правилам, к правилам применения правил и т. п.- с регрессом в бесконечность. Этот процесс не может завершиться обращением к обычным фактам, потому что, согласно исходному утверждению, сами факты всегда узнаются и интерпретируются в свою очередь по некоторым правилам. Чтобы избавиться от трудностей, связанных с этим "регрессом в бесконечность", можно ввести предположение, что изначальные данные представляют собой входные потоки энергии, которые всегда допускают выражение в численном виде и обработку в соответствии с некоторым правилом. По-видимому, к этому сводится точка зрения Дж.Фодора. Утверждение, согласно которому поступающая на входы энергия преобразуется, проходя 258 последовательность операций, представляющую собой нечто вроде программы для машины дискретного действия, нельзя назвать невразумительным, однако - по признанию самого Фодора - для этого требуется невероятно сложный формализм, который пока что никому не удалось ни обнаружить, ни изобрести. Пока у нас нет никаких эмпирических или априорных доводов в пользу того, что такой формализм для описания преобразования физических входных сигналов существует (или должен существовать); эмпирические данные свидетельствуют о том, что мозг функционирует подобно аналоговой вычислительной машине. Учитывая все это, приходится заключить, что нет никаких оснований полагать (но есть все основания сомневаться), будто обработка физических входных сигналов в мозгу человека может быть представлена в виде программы для цифровой вычислительной машины. Если мы хотим избежать "регресса в бесконечность", проистекающего из незавершимости процесса введения правил, правил о правилах, правил о правилах правил и т. д., нам остается единственный выход - изменить исходный тезис - и заявить, что на самом низшем уровне правила применяются автоматически, без использования каких-либо инструкций. Но это ведет к затруднениям двоякого рода. Во-первых, раз уж произведено описанное выше ослабление априорного тезиса (гласящего, что всякое поведение обязательно подчиняется тем или иным инструкциям), мы можем с тем же успехом утверждать, что и на любом уровне поведение, требующее умений, навыков и мастерства, не должно основываться на подсознательном следовании инструкциям, так что надлежит вообще отбросить аргумент, согласно которому - в противоречие с феноменологическими данными - испытуемый обязательно следует правилам. Во-вторых, если, тем не менее, кто-нибудь возьмется настаивать на том, что обязательно существует изначальный уровень неинтерпретируемых фиксированных характеристик и что эти фиксированные характеристики не являются ни физическими входными сигналами, ни обычными объектами, то ничего не остается, кроме как предположить, что они должны представлять собой лишенные содержания "кванты" информации о человеческом мире. Так мы приходим к понятию "информации, содержащейся в раздражителе", чувственным или мгновенным снимкам, введенным У.Ниссером. Однако априорное понятие информации, несомой стимулом, оказывается совершенно непонятным. Все, что мы имеем с эмпирической точки зрения, - это, с одной стороны, непрерывные физические входные сигналы, поступающие в организм, а с другой - мир обычных объектов, данный воспринимающему субъекту. Ни одному специалисту по психологии процессов познания не удалось дать определение какого-нибудь третьего вида входных сигналов, лежащего где-то между этими двумя и дающего возможность 259 выделить те изначальные "биты" информации, к которым должны примениться правила. Все предложенные до сих пор определения на поверку оказываются несуразной смесью физических описаний, производимых в терминах энергии, и феноменологических описаний, которые даются в терминах непосредственных чувственных данных, для которых невозможно дать строгое определение. Таким образом, с психологической точки зрения, утверждение, согласно которому разумное поведение может, вопреки очевидным свидетельствам противного, осуществляться посредством применения тех или иных фиксированных формальных правил (как это имеет место в цифровой вычислительной машине), "не работает", поскольку при этом возникает бесконечный процесс введения правил применения правил. Ни обращение к понятию физического входного сигнала (применение которого оказывается невозможным), ни использование понятия входного стимула (для которого не удается найти подходящего определения) не могут устранить этот "регресс в бесконечность". Несмотря на то, что ни психологин, ни последние достижения в области вычислительных систем не дают достаточных эмпирических оснований надеяться на успех, исследователи, работающие над проблемой "искусственного интеллекта",- так же как специалисты, разрабатывающие модели процессов познания,- уверены в том, что формализация разумного поведения возможна. Четкой формулировки их доводов обнаружить не удается; по всей видимости, они основываются на онтологическом допущении, согласно которому мир может быть разложен на независимые друг от друга логические элементы, и на эпистемологическом допущении, согласно которому наше понимание мира может быть затем восстановлено путем комбинирования этих элементов в соответствии с некоторыми эвристическими правилами. Первое допущение не грозит никакими затруднениями. Поскольку исследователь в области "искусственного интеллекта", в отличие от психолога, изучающего познавательные процессы, не обязан непременно ориентироваться на человеческие свойства, он может легко выделить изначальные элементы, к которым должны применяться правила, - это дискретное представление звуковых волн и элементы мозаики телевизионного экрана. Их можно распознать без дальнейших обращений к правилам. Однако использование второго допущения (гласящего, что эти элементы могут быть затем воссоединены), выдвинутое как априорно необходимое, влечет за собой представление о правилах все более и более высокого порядка - процессе, обратном тому "регрессу в бесконечность", с которым мы сталкиваемся при моделировании процессов познания. 260 Поскольку каждый из упомянутых логических элементов предполагается независящим от всех остальных, ему нельзя приписать никакого значения, до тех пор пока он не будет соотнесен с остальными элементами. Но после того, как эти элементы изъяты из контекста и очищены от всякого значения, совсем не так просто вернуть им его. Значение, которое должно быть приписано каждому логическому элементу, зависит от других логических элементов, и для того, чтобы можно было сказать, что те или иные входные сигналы формируют сначала образы, а в конце концов - объекты и осмысленные высказывания каждый из этих сигналов должен быть соотнесен по некоторым правилам с другими сигналами.. Но ведь в соответствии с различными правилами элементы могут иметь различную интерпретацию, выбор же правила определяется контекстом. А вычислительная машина может распознавать контексты только с помощью некоторых правил. Следует также заметить, что этот навязываемый вычислительной машиной способ анализа противоречит нашему опыту. Феноменологическое описание нашего опыта, связанного с пребыванием в ситуациях, наводит на мысль, что мы всегда находимся в какой-либо ситуации или контексте, который мы переносим из ближайшего прошлого и подгоняем под настоящее в терминах тех событий, которые в свете минувшей ситуации представляются нам значительными. Каждый раз мы сталкиваемся не с бессмысленными элементами, в терминах которых мы должны идентифи цировать контексты, а только с фактами, которые уже имеют интерпретацию и в свою очередь определяют ситуацию, в которой мы находимся. Жизненный опыт человека можно понять только в том случае, когда он организован в терминах ситуаций, в которых уже заданы релевантности и значения. Такого рода необходимость в первичной организации в случае "искусственного интеллекта" принимает вид задачи разработки иерархии контекстов - иерархии, в которой более широкий контекст (контекст более высокого уровня) используется для определения релевантности и значения элементов более узких контекстов (или контекстов более низкого уровня). Рассмотрим пример. Для того чтобы установить релевантность объекта "нож" и определить однозначный смысл объектов и высказываний, имеющих к нему отношение, необходимо знать, в каком из контекстов мы находимся - бытовом, медицинском или относящемся к столкновениям между людьми (это лишь некоторые примеры). Только в таких контекстах появление "ножа" становится релевантным и получает значение. После того как контекст установлен, он может быть использован для интерпретации объектов или высказываний с тем, чтобы определить подконтекст более низкого уровня. Например, если мы встретим 261 "нож" в бытовом контексте, это приведет, как правило, к рассмотрению подконтекста питания, в котором уточнение смысла объектов и высказываний будет ориентировано на "прием пищи", а не на "нападение". Но ведь если каждый контекст может быть опознан только в терминах признаков, выбранных по их релевантности, и интерпретирован только в терминах более широкого контекста, то перед исследователем в области "искусственного интеллекта" возникает задача преодоления явления неограниченного сведения одних контекстов к другим. Как и в случае моделирования процесса познания, можно было бы попытаться найти эмпирический выход из этого "регресса в бесконечность". Точно так же, как в упомянутом моделировании изначальные неинтерпретируемые элементы могут быть дискретными представлениями физических входных сигналов, здесь, в "искусственном интеллекте" за изначальный контекст или множество контекстов можно было бы принять контексты, выразимые в терминах некоторых образов или объектов, которые имеют фиксированные значения и могут быть использованы для переключения программы на соответствующие подконтексты объектов или высказываний. Но, как и в "моделировании процесса познания", имеющийся материал не свидетельствует в пользу этой эмпирической возможности. По всей видимости, не существует таких слов или объектов, которые имеют отношение ко всем ситуациям и всегда имеют одно и то же значение, подобно тому, как красное пятнышко на самке колюшки всегда означает для самца начало брачного сезона. Остается одно-единственное возможное "решение". Программист может сам задать вычислительной машине иерархию контекстов и общие правила их организации. При этом он будет руководствоваться присущим ему глобальным чутьем, которое подсказывает ему, что вообще релевантно и значимо для человека. Однако любой факт может стать важным в некоторых ситуациях. Для осуществления такой формализации, при которой вычислительная машина могла бы проявить человеческую гибкость и приспособляемость, программисту пришлось бы умудриться выразить в явной форме все то, что он обычно принимает за само собой разумеющееся для любого человека. Однако как только он попытается подойти к ситуации, в которой он находится, с позиции машины, как бы смотрящей на нее со стороны, он столкнется с неограниченно большим количеством неосмысленных фактов, релевантность и значение которых можно определить только в более широком контексте. Таким образом, оказывается, что логико-атомистическая онтология не может служить гарантией истинности логико-атоми­стической эпистемологии. Даже если бы удалось с помощью техники сканирования, использующей логически независимые 262 элементы, загнать весь мир в вычислительную машину, это еще не означало бы a priori, что его можно снова воссоединить в единое целое Фактически сами попытки обосновать a priori тезис, что, поскольку мир может быть разложен на элементы, его можно интерпретировать с помощью формальных правил, приводят как раз к обратному заключению. Изложенные выше соображения подтверждаются общей теорией человеческого жизненного опыта как "бытия в ситуации", в котором факты всегда имеют интерпретацию. В этой теории предполагается, что каждая первичная ситуация, в которой оказывается человек, зависит от его намерений, представляющих в свою очередь функцию его тела и его потребностей; предполагается также, что эти потребности не фиксированы раз и навсегда, а интерпретируются и становятся определенными в процессе принятия той или иной культуры, проходя тем самым через изменения интерпретации человеком самого себя. Таким образом, из данного анализа становится понятным, почему не существует ни фактов с встроенными в них заранее значениями, ни каких-либо фиксированных человеческих форм жизни, которые можно было бы надеяться когда-нибудь запрограммировать. Из сказанного отнюдь не следует, будто маленький ребенок не начинает с определенных фиксированных ответных реакций - на самом деле, если бы этого не происходило, то обучение никогда не могло бы начаться, - просто эти ответные реакции очень скоро становятся ребенку недостаточными и отбрасываются им по мере его развития. Таким образом, у взрослого человека не остается фиксированных ответных реакций, которые не находились бы под контролем значимости ситуации. Но тогда возникает вопрос: почему не запрограммировать вычислительную машину так, чтобы она вела себя сначала как маленький ребенок, а затем направлять ее по пути к разуму? Этот вопрос уводит нас за пределы сегодняшнего уровня проникновения в тайны психологии и сегодняшних возможностей вычислительной техники. При написании этой книги я ставил перед собой только одну задачу: показать, что существующие в настоящее время попытки заложить в машину полностью сформировавшийся интеллект (как его представляли себе афинские мыслители) наталкиваются на эмпирические трудности и фундаментальные понятийные противоречия. Может ли машина-ребенок начать с независящих от ситуации ответных реакций и постепенно обучиться - это зависит от того, насколько существенна роль, которую играют в обучении нежестко определенные потребности и способность реагировать на глобальный контекст. Например, судя по результатам, полученным Ж.Пиаже в его исследованиях процесса обучения, можно сказать, что в явлениях, связанных с 263 обучением, используются те же формы "переработки информации", что и в разумном поведении взрослого человека, и что развитие интеллекта идет по пути "концептуальных революций"95. Это не должно нас удивлять. Вычислительные машины могут иметь дело только с фактами, а ведь человек- источник фактов - представляет собой не факт и не множество фактов, а существо, создающее в процессе своей жизни в мире и самого себя, и сам мир фактов. Этот человеческий мир со всеми его различными объектами организован людьми, которые пользуются особенностями и возможностями своего тела для того, чтобы удовлетворять свои потребности. Нет никаких оснований полагать, что к миру, организованному в терминах этих фундаментальных человеческих способностей, можно подойти с какими бы то ни было другими мерками. Будущее "искусственного интеллекта” Проанализированные нами трудности сами по себе не дают возможности судить о будущем "искусственного интеллекта". Даже если любая попытка программирования изолированных аспектов разумной деятельности всегда безоговорочно требует программирования всего образа жизни зрелого человека и даже если в принципе невозможно создать цифровую машину на "афинский" лад (то есть если зрелый человеческий интеллект организован в терминах некоторого поля, которое в свою очередь определяется объектами, входящими в него, и которое подвержено радикальным изменениям),- даже в этом случае остается открытым вопрос, до какой степени исследователям, работающим в области "искусственного интеллекта", с помощью используемых ими фрагментарных методов удастся приблизиться к разумному поведению человека. Для того чтобы наш анализ возможностей и ограничений "искусственного разума" был полным, мы должны теперь указать в общих чертах практические следствия, вытекающие из изложенных выше доводов. Однако прежде чем перейти к практическим выводам, нам будет удобнее подразделить разумное поведение на четыре сферы. Наша задача затем будет состоять в определении того, в какой мере разумное поведение в каждой из этих сфер предполагает использование тех четырех форм "переработки информации" человеком, которые мы выделили в ч. I данной книги. Это даст нам возможность объяснить те успехи, которые были достигнуты до настоящего времени, и предсказать, в каких пределах мы вправе рассчитывать на прогресс в дальнейшем. Можно выделить четыре типа разумного поведения (табл. 1). Как мы видели, первые два типа поддаются моделированию на 264 Таблица 1 Классификация разумной деятельности I. Ассоциативная II. Простая формальная III. Сложная формальная IV.Неформальная Характеристики деятельности Независимость от смысла и ситуации Смысл не зависит от ситуации и полностью представим в точной форме В принципе то же самое, что и в случае II, на практике - зависимость от ситуации во внутреннем контексте; зависимость от внешней ситуации отсутствует. Обучение с помощью правил, а также практики Зависимость от смысла и ситуации, непредставимых в явном виде Обучение с помощью непосредственно понимаемых примеров Игры на вспоминание, например "игра в города" (ассоциации) Лабиринтные задачи (метод Проб и Ошибок) Пословный перевод (использование машинного словаря) Реакция на жесткий стимул (врожденные механизмы Разрешимые и квазиразрешимые игры, например "ним" или "крестики и нолики" (алгоритмы поиска или просчитывание) Комбинаторные задачи (неэвристический анализ в терминах "средств и целей") Доказательство теорем с помощью машинно-автоматических процедур (алгоритмы поиска доказательств) Распознавание простых четких образов, например чтение пе- Сложные комбинаторное задачи (планирование, анализ путей в лабиринте) Доказательство теорем, для которых не существует машинно-автоматических процедур (интуиция и про-считывание) Распознавание сложных образов при наличии шума (поиск Задачи с открытой структурой (интуиция, инсайт) Перевод с одного естественного языка на другой (понимание языковых выражений в контексте их использования в языке) Распознавание видоизмененных и искаженных образов родовое 265 Продолжение таблицы I. Ассоциативная II. Простая формальная III. Сложная формальная IV. Неформальная и классический условный рефлекс) чатного текста закономерностей) ( поиск признаков, конъюнкция которых определяет принадлежность к соответствующему классу) разпознавание или использование парадигм) Типы программ Дерево решений. Поиск по спискам. Сравнение с образцом Алгоритмы Эвристики, служащие для сокращения перебора Никаких цифровой машине, в то время как третий тип лишь частично программируется, четвертый же абсолютно не программируем. В сфере I лучше всего себя чувствуют психологи, занимающиеся изучением поведения, допускающего описание по схеме "стимул - реакция". К этой сфере относятся все виды элементарной ассоциативной деятельности, в которой смысл и контекст не играют никакой роли. Из всех видов поведения, запрограммированных на сегодняшний день, заучивание бессмысленных слогов представляет собой наиболее характерный пример поведения этого типа (хотя с тем же успехом здесь можно было бы привести любую форму условного рефлекса). Кроме того, к этой сфере принадлежат такие игры, как "игра в города" (она сводится к тому, что игрок называет город, начинающийся с той буквы, на которую оканчивается название города, предложенного предыдущим игроком). В области автоматического перевода этому классу соответствует уровень машинного словаря; в решении задач - программы чистого поиска методом проб и ошибок; в распознавании образов - сравнение входного образа с фиксированными стандартами. - , Сфера II соответствует esprit de geometrieque Б. Паскаля96;это излюбленная область "искусственного интеллекта". Она объемлет с 266 В сфере И мы имеем дело не с естественным, а формальным языком* наилучшим примером здесь служат логические исчисления. Игры описываются точными правилами и допускают полное просчитывание, как в случае игры "ним" или "крестики и нолики". Распознавание на этом уровне происходит путем установления соответствия между опознаваемым образом и четко определенными типами образов, которые задаются с помощью списка признаков, характеризующих принадлежащие к рассматриваемому классу отдельные образы. Решение задач сводится к сокращению расстояния между текущим состоянием и целью с помощью последовательного применения формальных правил- формальные системы, входящие в эту область, достаточно просты и ими можно пользоваться с помощью таких алгоритмов, которые совершенно не требуют поисковых процедур (такова, например, логическая программа Хао Вана). Эвристики здесь не только не нужны, они положительно мешают, как это легко видеть из явного превосходства алгоритмической логической программы Хао Вана над эвристической логической программой А.Ньюэлла, Дж.Шоу и Г.Саймона. Только в этой сфере"искусственный интеллект" добился безоговорочных успехов. Сфера III - область сложных формальных систем - труднее других поддается определению; именно с ней связано большинство недоразумений и трудностей, о которых говорилось в этой книге. В нее входят те формы поведения, которые в принципе воспроизводимы машиной, но на практике оказываются для нее недоступны; ибо по мере роста числа элементов число необходимых преобразований растет экспоненциально. Мы будем называть "сложными формальными системами" такие системы, к которым практически нельзя применить алгоритмы исчерпывающего перебора (шахматы и др.) и которые поэтому требуют использования эвристических программ*. * Довольно трудно подвергнуть классификации и оценке всю совокупность разнообразных одноцелевых программ, разработанных для проектирования двигателей, наладки конвейерных линий, сборки узлов машин и т. д. Эти программы имеют некоторое отношение к исследованиям в области "искусственного интеллекта", однако считать их успешно выполняющими свое назначение можно только в том случае, если: а) проведено сравнение их эффективности с работой человека-профессионала (как это имеет место в случае шахматных и шашечных программ) и б) задачи, для решения которых предназначены эти программы, в достаточной степени формализованы (если это возможно), так что соответствующие программы можно сравнить с неэвристическими программами, составленными для решения тех же задач, (Во всех случаях, когда такое сравнение удалось произвести - игра в шашки, задачи из области логики, распознавание образов, игра в шахматы,- неэвристические программы оказывались либо эквивалентными по эффективности, либо более эффективными, чем эвристические.) Следует заметить, что программы, моделирующие банковские операции или что-то в этом роде, не имеют никакого отношения ни к моделированию 267 Сфера IV может быть названа областью неформального поведения. Сюда входят все те случаи повседневной деятельности в нашем человеческом мире, которые регулярны, но не подчиняются правилам. Самым ярким примером такой управляемой неточности является то, как мы справляемся с многозначностью естественного языка. В этот класс входят также игры, правила которых не определены, например отгадывание загадок. Распознавание образов в этом классе основывается на узнавании родовых, типических черт в рамках некоторой парадигмы. Задачи на этом уровне являются задачами с открытой структурой, для решения которых необходимо отыскание релевантных признаков и интуитивное постижение существенности тех или иных операций еще до того, как начинается процесс решения*. В этом случае методика обучения основывается обычно на обобщении примеров, а само обучение проводится на интуитивном уровне, без обращения к правилам. Можно было бы принять терминологию Б. Паскаля и назвать сферу IV обителью esprit de fitesse. Поскольку в этой сфере во избежание необходимости запоминания бесконечно большого числа фактов требуется учет глобального чувства ситуации, использование дискретных методов для непосредственного воспроизведения поведения взрослого человека оказывается невозможным. Заметим, что сведение всех четырех сфер в единую таблицу уже само по себе может породить неверный взгляд на эту сферу, поскольку может вызвать ощущение, будто она отличается от сферы III просто добавлением некоторого более высокого процессов познания, ни к "искусственному интеллекту". Они просто свидетельствуют о том, что некоторые формы человеческой деятельности столь просты и стереотипны, что их можно формализовать. Несомненно, при формулировании правил, которыми должны руководствоваться вкладчики, составляя перечень ценных бумаг, дело не обходится без интеллекта; однако формализация этих правил говорит лишь о том, что они представимы в точной и недвусмысленной форме, и никак не помогает проникнуть в процессы интеллекта, связанные с их определением или применением. Стоящие перед искусственным интеллектом проблемы относятся не к такого рода ex post facto формализациям конкретных задач - они лежат в сфере II, для которой формализация сама по себе достаточно сложна и поэтому требует элегантных методов для ее проведения, -а к сфере III, где формальные системы настолько сложны, что для них не существует разрешающих процедур и приходится прибегать к помощи эвристик, и к сфере IV, характеризующейся гибким поведением, которое не может быть строго формализовано, *Типы деятельности, попадающие в сферу IV, можно представить себе в виде тех самых "вех", которых требовал П.Армер: "Для этой цели нам нужна четко сформулированная задача, представляющая в настоящий момент исключительно объект деятельности человека (и поэтому она должна быть, несомненно, из области мышления), но такая, чтобы мы могли надеяться на ее решение в будущем с помощью машины" (П.Армер. О возможностях кибернетических систем. - В кн.: М. Таубе. Вычислительные машины и здравый смысл. Миф о думающих машинах. М-, 1964, с. 170), 268 уровня сложности, в то время как на самом деле сфера IV имеет совершенно иную природу, нежели сфера III. Она отнюдь не более сложна; по сути дела, она даже более примитивна, предшествуя, с точки зрения эволюционной, онтогенетической и феноменологической, сферам II и III, точно так же как естественный язык предшествует математике. В литературе по "искусственному интеллекту" эти четыре сферы обычно не различаются97. Например, А.Ньюэлл, Дж.Шоу и Г.Саймон заявляют, что их машина "Логик-теоретик" "была разработана для того, чтобы изучить возможность решения таких трудных задач, как доказательство математических теорем [сферы II или III - Х.Д.], выявление научных законов в совокупности опытных данных [сферы III или IV. - Х.Д.], игра в шахматы [сфера III.- Х.Д.] или понимание смысла английской прозы [сфера IV. - Х.Д.]*. Принятие тезиса (ясно выраженного Армером из корпорации RAND), согласно которому все формы разумного поведения принадлежат к одному и тому же типу, позволило упомянутым исследователям на базе успехов, достигнутых в первых двух рассмотренных нами сферах, прийти к необоснованным надеждам на успех в двух остальных. Такого рода путаница таит в себе двоякую опасность. Во-первых, существует тенденция (ее типичный представитель Г.Саймон) полагать, что эвристики, обнаруживаемые в одной области разумной деятельности, например в доказательстве теорем, должны что-то говорить нам о "переработке информации" в любой другой области, такой, например, как понимание естественного языка. Тем самым некоторые простые формы переработки информации, применимые в сферах I и II, навязываются и сфере IV, в то время как уникальный по своему характеру тип "переработки информации", присущий этой сфере, а именно тот факт, что "данные" вообще не "перерабатываются", остается незамеченным. В результате та самая проблема экспоненциального роста, которая приводит к трудностям при распространении методов, применяемых в сферах I и II, на сферу III, возникает и при попытках моделирования поведения, характерногодля сферы IV**. * А. Ньюэлл, Дж. Шоу и Г. Саймон. Эмпирические исследования машины "Логик-теоретик"; пример изучения эвристики. - В кн.: Вычислительные машины и мышление, с. 113. ** "Преграда... стоящая на пути дальнейшего развития семантических информационно-поисковых систем, - это та же преграда, на которую мы наталкиваемся в программах по доказательству теорем, в программировании игр и других областях "искусственного интеллекта": проблема поиска в экспоненциально растущем пространстве возможных решений. Здесь не существует никаких коренных переформулировок этой проблемы - переформулировок, которые дали бы возможность обойти тот чисто математи- 269 Во-вторых, существует и обратная опасность. Успехи "искусственного интеллекта" в сфере II во многом зависят от того, насколько удастся ограничить рассмотрение только дискретными, определенными, не зависящими от контекста ситуациями. В связи с тем, что сложные системы из сферы III, так же как и простые системы из сферы II, полностью формализуемы, у исследователя, занятого построением моделей, складывается впечатление, что тот или иной тип поведения, принадлежащий сфере III, воспроизводим на цифровой машине. А когда различие в степени между простым и сложным оказывается на практике различием в качестве (т. е. когда экспоненциальный рост превращается в серьезную проблему), тогда программист, не отдавая себе отчета в особенностях, характерных для этих двух сфер, пытается в сфере III ввести в рассмотрение процедуры, заимствованные из наблюдений за человеческой деятельностью, принадлежащей сфере IV (например, за тем, как человек оценивает позиции в шахматах, решает задачи, используя понятия о целях и средствах, и апеллирует к смыслу при доказательстве теорем). Однако эти процедуры, когда ими пользуется человек, зависят от одной или нескольких специфически человеческих форм "переработки информации"; так, использование шахматных эвристик предполагает- по крайней мере у человека - феномен восприятия, с помощью периферийного сознания, сильных и слабых сторон позиции; проведение анализа в терминах "средств и целей" рано или поздно делает необходимым планирование, а тем самым и отделение существенных операций от несущественных; для семантических же рассмотрений требуется чувство контекста» Математик-программист уверен, что сфера III в принципе формализуема- точно так же как сфера II. Он не отдает себе отчета в том, что, перенося методы, практикуемые в сфере IV, на сферу III, он распространяет на отношение между ними - отношение, характеризующееся скачком,- то свойство непрерывности, которое присуще отношению между сферами II и III, что влечет за собой все те трудности, которые связаны с формализацией неформального поведения. Таким образом, проблемы, которые в принципе должны возникать только при попытках программирования задач "с плохой структурой", то есть "открытых" видов деятельности, встречающихся в повседневной жизни,- проблемы эти возникают в практике обращения со сложными формальными системами. Поскольку в сфере III совершенно четко можно сформулировать, какие данные считаются имеющими отношение к делу, а какие нет, здесь до некоторой степени могут работать ческий факт, что число возможных связей, соединяющих различные элементы, есть экспоненциальная функция от числа рассматриваемых элементов" (Raphael- SIR: Semantic Information Retrieval.-In: M.Minsky (ed.). Semantic Information Processing, p. 114). 270 эвристики (как в шашечной программе А. Сэмюэля). Однако поскольку сфера IV представляет собой именно ту область разумного поведения, в которой всякая попытка программирования для цифровой машины полностью сформированного поведения взрослого человека обречена на неудачу, неизбежное в сфере III обращение к эвристикам, подразумевающим возможности сферы IV, рано или поздно обязательно приводит к трудностям. Как далеко может продвинуться эвристическое программирование в сфере III, прежде чем оно натолкнется на препятствия, связанные с необходимостью введения в рассмотрение периферийного сознания, феномена "допустимой неоднозначности", способности к отделению существенного от несущественного и т. д., представляет собой чисто эмпирический вопрос. Тем не менее, как мы видели, существуют некоторые признаки, свидетельствующие уже сейчас о существовании препятствий на этом пути: это неудавшиеся попытки создания машинного "шахматного чемпиона", машинного доказательства какой-нибудь интересной теоремы, автоматического перевода с одного естественного языка на другой и, кроме того, отказ от дальнейшей работы над программой GPS. Однако в сфере IV имеются некоторые средства сокращения перебора, которые могут быть использованы для продвижения в решении задач, относящихся к сфере III,- средства, не предполагающие упомянутых человеческих процессов "переработки информации", которые не могут быть воспроизведены какой-либо программой, организованной в соответствии с принципами древних афинян. Чтобы преодолеть тот застой, который наблюдается сейчас в сфере III, требуется, по-видимому, использование следующих более совершенных методов. 1. Поскольку современные вычислительные машины, включая даже примитивные роботы типа "глаз - рука", не имеют тела - в том смысле, в каком это описано в гл. 7,- и поскольку никто не понимает и не имеет ни малейшего представления о том, как заложить в программу ту глобальную организацию и оперирование с неопределенностями, которые столь характерны для человеческого восприятия и для приобретения человеком связанных с телом умений и навыков, мы можем в настоящее время рассчитывать на реализацию только какого-то грубого, целостного первичного процесса, являющегося некоторым приближением к человеческой способности концентрировать внимание на том или ином участке поля жизненного опыта еще до того, как начинаются точные, подчиняющиеся правилам манипуляции и просчитывание. Это, однако, не означает добавления новых точных способов выявления тех областей, которые заслуживают дальнейшего исследования. Например, в случае шахматных программ ныне 271 становится все более очевидным, что введение в программу порождения приемлемых ходов все новых и новых конкретных элементов шахматной теории приводит к тому, что программа захлебывается от изобилия подпрограмм, реализующих соответствующие искусственные приемы. (Как считает А, Сэмюэль*, именно этим объясняется отсутствие сообщений о новых результатах работы над шахматной программой Р. Гринблата.) Программе чего-то не хватает, а именно того, что соответствует умению мастера воспринимать позицию на доске как распадающуюся на систему многообещающих и опасных зон. На что именно мог бы походить такой "холистский" процесс, сказать трудно, особенно если принять во внимание дискретную природу любой машинной вычислительной процедуры. Сейчас, по-видимому, здесь конкурируют две различные идеи. Когда М. Минский и С. Пейперт говорят об отыскании "глобальных признаков", они, вероятно, имеют в виду нахождение некоторых поддающихся выделению и вполне определенных отличительных особенностей образа (примером может служить тот или иной угол, под которым пересекаются две линии), которые позволяли бы программе строить обоснованные догадки об образе в целом. Это приводит просто к введению дополнительных эвристик и не представляет собой ничего интересного с точки зрения целостного взгляда на объекты и образы. Но вот предложение У.Ниссера, выдвинутое им в ходе рассмотрения проблемы предварительного разбиения на части предъявляемых для распознавания контуров изображения - предварительного в том смысле, что оно должно предшествовать более подробному его анализу,- претендует на нечто большее. "Поскольку процесс сосредоточения внимания не может одновременно охватить все зрительное поле, он должен происходить только после того, как отдельные зрительные элементы образа уже выделены с помощью некоторых предварительных операций. Эти предварительные операции сами по себе представляют значительный интерес. Они частично соответствуют тому, что гештальтпсихологи называют "автохтонными силами"; результатом их является то, что Хебб называет "первичными единицами"- Я буду называть их процессами предвнимания, с целью подчеркнуть, что получающиеся в их результате объекты предстоит еще наполнить содержанием и найти их интерпретацию. Из самой постановки этой задачи следует, что процессы предвнимания должны быть по-настоящему "глобальными" и "целостными". Каждая фигура и каждый объект должны быть отделены от всех остальных во всей своей цельности, образуя потенциальную рамку для последующего более детального анализа, проводимого на основе концентрации внимания"**. Однако, когда У.Ниссер переходит к объяснению того, как * Эта мысль была высказана им на лекции в Калифорнийском университете в Беркли в марте 1970 г. ** U. Nеisser. Cognitive Psychology, p. 89. 272 такое первое грубое приближение должно осуществляться на цифровой машине, нас ждет разочарование. Очевидно, он имеет в виду только "подчищающие" эвристики, которые, по неявному его допущению, начинают работать только после того, как границы образов оказываются уже довольно четко обозначены. "При условии, что отдельные элементы образа имеют непрерывные контуры, или что между этими элементами существуют пустые пространства, разделение элементов осуществляется очень простыми операциями. Например, машинные программы, прослеживающие линии или обнаруживающие пустоты, не более сложны, чем те, которые заполняют пропуски и подправляют локальные отклонения"*. Но ведь эти методы оказываются неэффективными, например в случае распознавания рукописного текста. Конечно, трудно предложить хоть что-нибудь взамен этого. Речь идет о способе обращения к полю жизненного опыта еще до того, как оно оказывается разбитым на отдельные четко выделенные объекты; однако такого рода предобъектный жизненный опыт лежит вне пределов досягаемости цифрового устройства. Вычислительная машина должна применять специфицированные правила к четко определенным данным; если задача заключается в том, чтобы сначала выделить эти четко определенные данные, то программисту приходится задуматься над проблемой применения четко определенных правил к чему-то вроде расплывающейся кляксы. Следовательно, лучшее, на что мы можем рассчитывать в своих попытках обойти способы действия, характерные для сферы IV,- это, вероятно, такого рода хитроумные эвристики, которые предлагают М. Минский и С.Пейперт для того, чтобы дать программе возможность уже при первом просмотре выбрать некоторые конкретные признаки - признаки, которые впоследствии должны оказаться полезными для управления работой программы, когда она будет производить более подробный анализ образа. Но применение приемов ad hoc всегда чревато опасностью выхода за пределы обозримости программы и уж во всяком случае никогда не может дать той общности и гибкости, которая свойственна глобальной ответной реакции человека. 2. Вторая трудность проявляется в связи с представлением задачи в машинной системе. Она отражает потребность в отделении существенного от несущественного. Обсуждая проблемы, стоявшие перед исследователями, работавшими в области "искусственного интеллекта" во втором десятилетии, Э. Фейгенбаум называет данную проблему "важнейшей, хотя и не поддаю- * Ibid 273 щейся самому быстрому решению"*. Он следующим образом объясняет сущность этой проблемы: "В эвристических программах решения проблем предусматривается, что поиск решения в пространстве задачи направляется и контролируется эвристическими правилами. Представление, задающее пространство задачи, определяется отношением исследователя к данной проблеме, его точкой зрения, и оно же предопределяет вид решения. Выбрав для задачи удачный способ представления, можно существенно повысить эффективность процессов поиска решения. Выбор способа представления задачи является уделом разрабатывающего программу исследователя и есть акт творческий"** Это тот самый род деятельности, который мы назвали нахождением глубинной структуры задачи или инсайтом, Поскольку современные вычислительные машины, включая современные примитивные роботы, не обладают потребностями в том смысле, в каком мы их трактовали в гл. 9, а также поскольку никто на свете не имеет ни малейшего представления о том, как ввести такие потребности в машину, в настоящее время нет никакой надежды обойтись без этого "творческого акта". На данном этапе мы можем рассчитывать в лучшем случае на разработку программ с конкретными конечными целями, программ, служащих для активной организации данных, а не просто пассивно воспринимающих их. Программисты отмечают, что при анализе сложных сцен целесообразно заставить программу сформулировать некоторую гипотезу о том, что она могла бы обнаружить, исходя из уже имеющихся у нее данных, и затем организовать поиск в соответствии с этой гипотезой. Этот процесс не следует путать с тем, как человек организует нечто, принимаемое им за данное, в терминах поля своих намерений. Все, на что можно рассчитывать,- это на фиксированные правила в применении к фиксированным данным; другими словами, в программу должно быть заложено множество альтернатив, и на основе уже имеющихся данных она должна уметь произвести выбор одной из этих альтернатив - наиболее вероятной - с тем, чтобы дальнейший поиск данных происходил в соответствии с прогнозом, заключенным в альтернативе. Таким образом, в игровые программы и в программы для решения задач можно будет встроить конкретные долговременные цели или набор альтернативных долговременных целей, так чтобы в некоторых ситуациях машина делала попытку использовать некоторые стратегии (и предсказывать стратегии противника). Конечно, этот метод не устраняет ограничения, связанного с тем, что все альтернативы должны быть заранее введены в память машины и в явной форме учитываться в определенных * Э. Фейгенбаум. Искусственный интеллект; темы исследований во втором десятилетии развития. - Кибернетический сборник, новая серия, вып. 10, с. 194. ** Там же, 274

местах программы, в то время как намерения человека каждое мгновение неявно организуют и направляют его деятельность. Таким образом, даже с учетом такого рода прогресса вычислительная машина не может достичь гибкости, проявляемой человеком при решении задач с открытой структурой (сфера IV) ; однако эти методы были бы полезны в случае сложных формальных задач, таких, как выбор стратегии игры или долгосрочное планирование при организации анализа в терминах "средств и целей". 3. Поскольку вычислительные машины не могут "находиться в ситуации", и поскольку никто не может представить себе, как следует подходить к программированию примитивных роботов {даже таких, которые могут передвигаться с места на место), с тем чтобы у них существовал свой мир, специалисты в области вычислительных систем стоят перед решающей проблемой, - проблемой, от которой зависит вся их работа: как заложить в программу представление об окружающей среде, о внешнем мире вычислительной машины. Мы видели, что существующие попытки введения в запоминающее устройство всех фактов о внешнем мире с целью создания некоторой внутренней модели внешней среды наталкиваются на трудности, связанные с необходимостью запоминания и извлечения из памяти всего этого громадного, может быть, бесконечного объема данных. Иногда эту проблему называют задачей разработки большой базы данных. В книге М. Минского, как мы видели, предлагается несколько отдельных приемов ad hoc, с помощью которых можно пытаться обойти эту проблему, однако пока что оказывается, что ни один из них не поддается обобщению. Вопреки заверениям М, Минского о том, что, мол, на пути к решению этой проблемы уже сделаны первые шаги, С.Роузен в своем обзоре текущего состояния разработок по теме "Роботы", осуществленных уже после исследований, рассмотренных в книге М. Минского, признает, что в этой области все еще ощущается острая потребность в новых методах. "Заглядывая вперед, мы можем сказать, что если все пойдет хорошо, то мы научимся вводить в память вычислительной машины целые энциклопедии фактов об интересующих нас конкретных особенностях внешнего мира; однако нам страшно не хватает новых методов организации памяти, с помощью которых можно было бы осуществлять как быстрый поиск информации, так и эффективные процессы логической дедукции"*. В обзоре Э.Фейгенбаума мы, наконец, встречаемся с признанием серьезности этой проблемы и даже с некоторым предложением, касающимся альтернативного способа ее решения. Обсуж- * C.A.Rosen. Machines That Act Intelligently.- Science Journal, 1968, October, p. 114. 275 дая проект двигающегося робота, разрабатываемый в Станфордском исследовательском институте, Фейгенбаум пишет: "Группа Станфордского исследовательского института считает, что наиболее неудовлетворительным элементом ее модели является воспроизведение среды. Кроме того, она указывает, что девяносто процентов усилий, затраченных ее специалистами на моделирование, было посвящено именно этой части модели. Оказалось крайне сложным вложить в вычислительную машину все то разнообразие свойств среды, которое необходимо роботу с хорошими адаптивными характеристиками для того, чтобы он проявил интересные формы поведения"*. Как мы видели, человеку удается обойти эту проблему только потому, что его модель мира есть сам мир. Любопытно, что работа в Станфордском исследовательском институте, оказывается, продвигается в этом направлении: "Легче и дешевле построить робота "во плоти" для того, чтобы выяснить, в какой информации из реального мира он нуждается, чем синтезировать и воспроизвести на вычислительной машине модель, хорошо представляющую объект. Грубо говоря, точка зрения группы Станфордского исследовательского института сводится к тому, что наиболее экономичным и эффективным хранилищем информации о реальном мире является сам реальный мир"**. Это интересная идея - попытаться обойти проблему большой базы данных путем нового пересчета большинства данных, осуществляемого каждый раз, когда эти данные оказываются нужными. Однако пока неясно, сколь многого можно достичь на этом пути. Здесь предполагается, что некоторое решение проблемы целостности, обсуждавшейся выше, уже имеется, благодаря чему в рассматриваемой сфере могут быть выделены участки, поддающиеся распознаванию. Для этого необходим, кроме того, некоторый способ отделения существенных от несущественных факторов. Самым фундаментальным ограничением, присущим этому методу, является, конечно, необходимость трактовать реальный мир (независимо от того, хранится он в памяти робота или считывается с телевизионного экрана) как совокупность фактов; а ведь человек так организует мир в терминах своих интересов, что факты должны уточняться только по мере того, как они начинают становиться релевантными. На что мы можем рассчитывать в ожидании развития и применения этих более совершенных методов? Очевидно, можно надеяться на успех в сфере II. Как подчеркивает Хао Ван, "мы стали обладать рабами, необычайно упорными и трудолюбивыми"***. Мы можем найти им прекрасное применение в сфере простых формальных систем. Более того, как следует из отчетов * Э. Фейгенбаум. Цит. соч., с. 178-179. ** Там же. *** Ван Xао. На пути к механической математике. -Кибернетический сборник, вып. 5. №., 1962, с. 116. 276 испытуемых, собранных А. Ньюэллом, Дж. Шоу и Г. Саймоном, и человек иногда действует как цифровое устройство, правда, в контексте более глобальных процессов. Поскольку мощь цифровой вычислительной машины в манипулировании символами ппевосходит соответствующие способности человека, машины должны по мере возможности взять на себя цифровые аспекты человеческих "информационных процессов". Для того чтобы использовать вычислительные машины в сферах III и IV, мы должны соединить способность машин к быстрым и точным вычислениям с актами непосредственного постижения, которые у человека осуществляются благодаря периферийному сознанию, инсайту и допустимости неоднозначности. Еще Лейбниц утверждал, что вычислительная машина может привести к росту способностей разума в гораздо большей степени, чем оптические инструменты усиливают глаз. Но микроскопы и телескопы бесполезны без этого глаза, осуществляющего выбор и интерпретацию. Так, шахматист, который мог бы обращаться к машине для просчитывания альтернатив после того, как он сосредоточил свое внимание на многообещающих сторонах своей позиции, мог бы стать чрезвычайно опасным противником. Точно так же в решении задач: после того как найдена структура задачи и построен план поиска, машина могла бы взять на себя разработку деталей решения (как в случае организации снабжения запасными частями или распределения банковских инвестиций). Машинный словарь, позволяющий выводить на экран все значения слова в порядке их возможной релевантности, оказался бы полезен в задачах перевода. Вычислительные машины могут использоваться для распознавания некоторых сложных образов, которые человек не различает в силу того высокого положения, которое он занимает в природе. И.Бар-Хиллел, А.Эттингер и Дж.Пирс предлагают каждый свой вариант развития работ над системами, осуществление которых будет способствовать развитию симбиоза вычислительной машины и человека. На одном из последних симпозиумов У.Розенблит заметил: "Человек и вычислительная машина в состоянии сделать то, что ни тот, ни другой не могут сделать в одиночку"*. Действительно, недавно появилось сообщение о первом успешном использовании вычислительной машины для усиления, а не для замены человеческого интеллекта98. Программа для доказательства теорем, называемая SAM (Semi-Automated Mathematics - "Полуавтоматическая математика"), нашла решение одной из открытых проблем теории решеток". Создатели этой программы утверждают: полуавтоматическая математика представляет собой некоторый под- * W.Rоsenblith. Computers and the World of the Future, p. 309. 277 ход к доказательству теорем, при котором делается попытка сочетать автоматические логические подпрограммы с обычными способами доказательства, причем делается это так, чтобы возникающая в результате этого процедура одновременно была и эффективной, и допускала вмешательство человека в целях управления и контроля над ней, В связи с тем, что математик при этом становится существенным фактором в процессе поиска решения, этот подход отличается от обычных попыток программирования доказательства теорем, в которых вычислительная машина занимается поиском доказательств без чьей-либо помощи"* Естественно, можно надеяться, что математик со своим ощущением релевантности поможет вычислительной машине сосредоточиться на заслуживающей просчитывания области. И действительно, именно это и происходит. "Существует несколько способов вмешательства пользователя в процесс доказательства. Конечно, важным фактором в определении избираемого "Авто-Логиком" направления служит выбор пользователем исходных формул. Слишком большое или плохо подобранное множество исходных формул имеет тенденцию загружать "Авто-Логика" доказательством тривиальных и неинтересных теорем, так что до интересных формул он так и не добирается. Однако если исходное множество формул подобрано хорошо, то "Авто-Логик" выдает полезные и интересные результаты. Как только пользователь замечает, что "Авто-Логику" начинает не хватать удобных способов использования исходных формул, он может остановить процесс и ввести дополнительные аксиомы или другой материал. Он может также направлять процесс, выбрасывая формулы, которые кажутся ему несущественными или уводящими в сторону. Такого рода взаимодействие в реальном времени между человеком и машиной оказалось весьма захватывающим и плодотворным родом деятельности"**. Однако вместо стремления к использованию специфических возможностей вычислительных машин, исследователи, работающие в области "искусственного интеллекта", ослепленные своими первоначальными успехами и загипнотизированные предположением, согласно которому мышление континуально100, не согласны ни на что меньшее, кроме как на самостоятельно действующий интеллект. Коллективный труд, составленный Э.Фейгенбаумом и Дж. Фельдманом, открывается совершенно неприкрытой формулировкой этого сомнительного принципа: "Если рассматривать континуум разумных поведений, предложенный Армером, то программы вычислительных машин, которые мы оказались способными создавать к настоящему времени, находятся все еще на самом низком уровне. Важно подчеркнуть, что развитие этой области идет по пути приближений к возможностям человеческого разума. Есть ли какие-либо основания полагать, что этот уровень никогда не будет достигнут? Такие основания отсутствуют. Нет никаких данных, ни одного логического * J.R.Guard, F.C.GgIesby, J.Bennett and L.G.Settle . Semi-Automated Mathematics.-Journal of the Association for Computing Machinery, vol.16. No 1, January 1969, p. 49. ** J.R.Guard, F.C.Oglesby, J.H. Bennett, and L.G. Settle. Op. cit., p. 57, 278 аргумента или доказательства в пользу существования непреодолимых препятствий на пути развития в пределах указанного континуума"*. П. Армер благоразумно намекает на существование такого барьера, однако и он настроен оптимистически. Рассматривая вопрос о "верхней границе" машинных возможностей, он говорит: "В отношении вопроса о важности исследований в области дальнейшего развития машин в нашем континууме не имеет значения, существует верхняя граница или нет"**; "совсем не обязательно уверовать в то, что верхняя граница ... не существует, нужно всего лишь согласиться с тем, что она находится значительно выше того положения, которое занимают сегодняшние машины"***. Нынешние трудности, если мы дадим им не зависящую от оптимистических априорных предпосылок интерпретацию, наводят, однако, на мысль, что различные сферы разумного поведения не связаны между собой и что мы недалеки от упомянутой границы. Трудности продвижения вперед, наблюдающиеся в каждом конкретном направлении "искусственного интеллекта", создают впечатление, что в рамках какого-либо отдельно взятого вида человеческих действий не может произойти прорыва- прорыва частичного, локального по своему характеру, ведущего к полностью сформировавшемуся, зрелому разумному поведению. Программирование игр, автоматический перевод, решение задач и распознавание образов- все зависит от специфически человеческих форм "переработки информации", которые, в свою очередь, основаны на умении человека чувствовать себя в мире как дома. А это умение "находиться в ситуации" оказывается, в принципе, не программируемым никакими мыслимыми сегодня средствами. Достижения алхимиков, открывших методы извлечения ртути из того, что они считали землей, оказали на них такое действие, что после нескольких столетий безуспешных попыток превращения свинца в золото они все еще отказывались верить, что на химическом уровне преобразование одного металла в другой невозможно; тем не менее, в качестве побочных продуктов, ими были разработаны разнообразные тигли, реторты, штативы и т. д. Точно так же в наши дни специалисты в области вычислительных систем, не создав искусственного интеллекта, разработали программы-сборщики, программы-отладчики, программы, редактирующие другие программы, и т. д., а группа специалистов из Массачусетского технологического института, работающая над конструированием роботов, построила отличную механическую руку. * Вычислительные машины и мышление, с. 31-32. П. ** Армер. Цит.соч., с. 171. *** Там же, с. 172. 279 Для того чтобы нас не постигла участь алхимиков, пора задуматься над тем, чего же мы достигли. Именно сейчас, прежде чем вкладывать в изучение информационных процессов дополнительные средства и время, следует задаться вопросом, действительно ли из сравнения отчетов испытуемых и имеющихся на сегодняшний день программ вытекает, что машинный язык подходит для задач анализа поведения человека. Можно ли исчерпывающим образом разложить человеческий разум на совокупность подчиняющихся правилам операций над дискретными, четко определенными и не зависящими от контекста элементами? Есть ли хоть какая-нибудь надежда на решение - пусть приближенное - этой задачи? По-видимому, на все эти вопросы следует ответить "нет". Значит ли это, что все усилия и средства, вкладываемые в "искусственный интеллект", были потрачены зря? Нет; но "нет" только при одном условии - если вместо того, чтобы игнорировать имеющиеся трудности, мы попытаемся понять, о чем они говорят. Первоначальные успехи и последовавшее за ними торможение в области моделирования процессов познания и "искусственного интеллекта" плюс вездесущие проблемы распознавания образов и понимания естественного языка и их неожиданная сложность должны побудить нас сосредоточить усилия на изучении соответствующих человеческих форм "переработки информации", а также на исследовании основы всех этих проблем - зависимости рассудка (принадлежащего живому человеку) от ситуации. Без учета этих специфически человеческих способностей можно обойтись лишь при формализации тех сфер интеллектуальной деятельности, в которых направление "искусственного интеллекта" добилось своих первых успехов; но в тех областях разумного поведения, где это направление терпит неудачи, они как раз и существенны. Следовательно, мы можем рассматривать последние исследования в данной области как решающий эксперимент, - эксперимент, опровергающий справедливость традиционных предпосылок, согласно которым человеческий разум может быть представлен в виде совокупности подчиняющихся правилам операций над независящими от ситуации дискретными элементами. Из всех выдвигавшихся до сих пор опровержений данного метафизического принципа это - важнейшее. Подобный метод воплощения наших философских допущений в технические конструкции - метод, показывающий ограничения, присущие этим допущениям, - открывает новый увлекательный путь в фундаментальных исследованиях. К.Шеннон, создатель теории информации, до некоторой степени отдает себе отчет в том, насколько "разумные машины" должны отличаться по своим возможностям от цифровых устройств. При обсуждении вопроса "В чем назначение вы- 280 числительных машин?" он отметил: " Эффективное машинное решение таких задач, как распознавание образов, автоматический перевод и т. д., может потребовать создания вычислительного устройства совершенно другого типа, чем то, которым мы располагаем сегодня. Как мне представляется, это будет устройство, естественное функционирование которого происходит с помощью образов, понятий и смутных подобий, а не с помощью последовательных операций над числами в десятичной системе счисления"* Как мы видели - и насколько мы можем судить по опыту единственного существа, умеющего справляться с такого рода "смутностью",- "машина", которая могла бы пользоваться естественным языком и узнавать сложные образы, должна обладать телесной организацией, позволяющей ей "чувствовать себя в мире, как дома". Однако коль скоро роботы для обработки неформальной информации должны быть, согласно предположению К.Шеннона, абсолютно непохожими на современные цифровые машины, то чем же заниматься в настоящее время? Если вести речь о задаче непосредственного программирования разумного поведения, то ровным счетом ничем. В ближайшей перспективе мы должны думать о "сотрудничестве" человека и цифровой машины, и только в далеком будущем - о нецифровых автоматах, которые, если их "поместить в ситуацию", будут демонстрировать формы "переработки информации", существенные при общении с нашим неформальным миром. Тех теоретиков "искусственного интеллекта", которые считают, что лучше хоть какие-то конкретные результаты, чем ничего, и что не следует откладывать работу в данном направлении до того дня, когда мы будем в состоянии создать такого рода "искусственного человека", опровергнуть невозможно. Долгое царствование алхимии показало, что любые исследования, начало которых принесло успех, всегда могут быть оправданы и всегда кажутся заслуживающими продолжения в глазах тех, кто предпочитает авантюру терпению**. Если требовать априорных доказательств невозможности успеха, то, как мы видели, весьма трудно показать ошибочность выбранного направ- * C.Shannon, Op. cit, p. 309-310. ** Может быть, следующая средневековая аранжировка утверждения Э.Фейгенбэума и Дж.Фельдмана подействует на энтузиастов "искусственного интеллекта" несколько отрезвляюще: "Если рассматривать континуум субстанций, предложенный Парацельсом, то преобразования неблагородных металлов, которые мы оказались способными производить к настоящему времени, находятся все еще на самом низком уровне. Важно подчеркнуть, что развитие этой области идет по пути приближения к созданию философского камня. Есть ли какие-либо основания полагать, что этот уровень никогда не будет достигнут? Такие основания отсутствуют. Нет никаких данных, ни одного логического аргумента или доказательства в пользу существования непреодолимых препятствий на пути развития в пределах указанного континуума". 281 ления исследований - разве что прибегнуть к отрицанию поистине фундаментальных допущений, общих всему точному знанию. А эти доводы всегда можно парировать, заявив, что продвижение к поставленной цели все-таки происходит. Но если мы согласимся считать практические результаты критерием правильности выбора направления приложения сил, то нам достаточно сравнить, что предсказывалось и что исполнилось. И даже если бы не было никаких предсказаний, а только надежды - как в области автоматического перевода - все равно полученные результаты настолько разочаровывающи, что говорят сами за себя. Если бы алхимик перестал возиться с ретортами и пентаграммами и занялся изучением глубинной структуры проблемы - подобно тому, как первобытный человек оторвал взгляд от Луны, спустился с дерева, научился пользоваться огнем и изобрел колесо, - в таком случае развитие науки было бы более плодотворным. В конце концов, через триста лет после алхимиков мы-таки получили золото из свинца (и ступили на поверхность Луны) - но только после того, как прекратили работу на уровне алхимии и занялись постижением явлений химического и гораздо более глубокого - ядерного уровня 282 ПРИМЕЧАНИЯ 1. Оригинал: M.L. Minsky. Computation: Finite and Indefinite Machines. Prentice Hall, Inc., Englewood Cliffs, N.J., 1967, При переводе настоящей книги ее редакторы - титульный и издательский - стремились к тому, чтобы цитаты и ссылки на зарубежные работы, вышедшие е СССР, были даны по русским переводам. Поскольку, однако, для аргументации Х.Дрейфуса, вообще говоря, существенное значение имеет как год публикации соответствующей работы, так и другие ее выходные данные, мы в примечаниях приводим необходимые сведения об оригиналах (это не касается классиков философии, оригиналы работ которых - если они имеются в русском переводе - не указываются) . В выходные данные некоторых изданий, упоминаемых Х.Дрейфусом, редакторам пришлось внести, исправления и уточнения. В тех случаях, когда надлежащие уточнения сделать не удалось, в соответствующем подстрочном примечании оставлены только цитируемый автор и название его работы. (Стр. 7.) 2. Термин кибернетика имеет большую историю. "Древняя кибернетика,- пишет Г.Н. Поваров, - родилась на вольном морском просторе, у эллинов - народа-мореплавателя. Управление кораблем приобрело у древних греков смысл наглядно-образной иллюстрации управления вообще, а слово "кибернет" стало обозначать не только кормчего, но и правителя над людьми, в широком смысле, будь то царь, архонт или тиран. Подобное расширение значения испытал и глагол «управляю кораблем и понятие «искусство управления кораблем, искусство кормчего»" (Г.Н. Поваров), Ампер и кибернетика-М., "Советское радио", 1977, с. 47}. Платон в своих сочинениях просто использовал "кибернетические" термины, причем в обоих смыслах; в прямом - как управление кораблем или колесницей (в этом смысле кибернетика есть искусство кормчего), и в переносно-обобщенном - как искусство управления людьми. Впоследствии термин "кибернетика" был использован A.M. Ампером а разработанной им классификации наук (Ампер назвал кибернетикой науку об управлении государством; см. упомянутую выше книгу Г.Н. Поварова) ; но лишь с появлением знаменитой книги Н.Винера " Кибернетика, или Управление и связь в животном и машине" (1948) этот термин приобрел свой современный смысл. (Стр. 8) 3. Взгляд на Платона как на предтечу современных исследований в области "искусственного интеллекта" имеет под собой только то основание, что диалоги античного мыслителя ярко выразили тенденцию к четкому формально-логическому представлению рассуждений (историческая преемственность логических идей, связывающих Платона и современную кибернетику, прослеживается в книге Б. В. Бирюкова и В. Н. Тростникова "Жар холодных числ и пафос бесстрастной логики. Формализация мышления от античных времен до эпохи кибернетики", М., "Знание", 1977), Дрейфус же (здесь и в ряде других мест книги) развивает одностороннюю интерпретацию платоновского учения о познании, включавшего известную теорию знания как воспоминания души об идеальных образцах вещей, созерцавшихся ею в мире идей до переселения в земную реальность. Попытка представить Платона своего рода "протокибернетическим детерминистом”, толковавшим знание и практику как следование определенным правилам, попытка, которую автор неоднократно предпринимает в книге, не убедительна. Так, уже приведенная выше цитата из диалога "Евтифрон" допускает не только то прочтение, которое предлагает Дрейфус (обращение к 283 "образцу" есть следование правилам); но и иное, менее "жесткое" понимание: "образец" - это идеальный пример, которому, сам того не замечав, следует человек. Впрочем, ниже сам Дрейфус признает, что "правила", императив следования которым он приписывает Платону, согласно последнему, "не могут быть полностью формализованы". (Стр. 8) Натяжки X. Дрейфуса в оценке роли Платона в развитии предкибернетических идей становятся еще более очевидными в широком контексте взглядов великого античного диалектика. Не излагая здесь философского учения Платона, отметим лишь один пункт, существенный в связи с теми историко-философскими экскурсами, которые содержатся в данной книге. В диалоге "Государство", к которому ниже апеллирует автор, рассматривается "идея блага" как самого важного знания. Единственно надежным и универсальным методом постижения этой идеи является, по Платону, диалектика, а не конкретные науки, которые изучают только чувственно-вещественные пронесения этой идеи в осязаемом видимом мире; роль диалектического метода, комментирует Платона А. Тахо-Годи, состоит в том, что он "потихоньку высвобождает, словно из какой-то варварской грязи, зарывшийся туда взор нашей души и направляет его ввысь" (Платон. Сочинения в трех томах, т. 3, М., 1971, с. 345) . Таким образом, концепция Платона весьма далека от того примитивного ''следования правилам", о котором говорит Дрейфус. (Стр. 8.) 4. М. Минского, которого Дрейфус здесь сопоставляет с Платоном, нет ни слова об авторе знаменитых диалогов, и эта параллель между взглядами автора "Государства" и современными математико-кибернетическими представлениями об эффективности (которые не являются чем-то принадлежащим исключительно М. Минскому, а составляют завоевание современной математико-логической мысли в целом) является достаточно искусственной. (Стр. 8) 5. Не ясно, что здесь хочет сказать Дрейфус, противопоставляя Аристотеля Платону. На деле Аристотеля в большей мере, чем Платона, можно считать отдаленным предтечей идей современной кибернетики, поскольку он явился создателем формальной логики как науки, в частности силлогистики, представлявшей собой исторически первую формальную систему.(Стр. 8.) 6. Так мы переводим здесь биты : "bits" (это слово здесь берется в кавычки самим автором) . В последующем тексте термин bit (bits), широко используемый в книге, переводится как "квант" ("кванты"), если речь идет об элементарных порциях информации, не предполагающих аппарата статистической теории информации, и "бит" ("биты") , если из контекста следует, что понимать его можно в смысле единицы информации теории передачи сообщений по каналу связи (где считается, что сообщение несет 1 бит информации, если устраняет неопределенность состояния приемника, сообщая, какая из двух единственно возможных и равноправных альтернатив реализовалась) . (Стр. 9.) 7. Это утверждение автора о Лейбнице неточно. Великий философ и математик вовсе не считал, что ему "удалось найти" универсальный логико-математический метод знакового представления и развития любого знания - он лишь выдвинул замысел такого метода и пытался продвинуться в его разработке. О том, что Лейбниц не претендовал здесь на завершенное открытие, свидетельствует уже тот факт, что он не решился на публикацию значительной части своих идей и разработок, связанных с "универсальной характеристикой". Соответствующие фрагменты Лейбница увидели свет лишь после его смерти, а некоторые - лишь в начале нашего века. Таким образом, слова Дрейфуса о том, что Лейбниц смотрел на свою программу как на "почти завершенную" (с. 10), не соответствуют действительности. Однако Лейбниц и в самом деле придавал большое значение своей программе - и, как теперь очевидно, вполне заслуженно, так как она вдохновила многих из тех ученых XIX века, которые закладывали 284 основы математической логики - этого неотъемлемого инструмента кибернетики наших дней. (Стр.9.) 8. В этой и последующей ссылках издание Лейбница, которое использует автор (G.W. Leibniz, Selections, N.Y., 1951), заменено выпущенными в ГДР Лейбницевыми "Фрагментами по логике". Приведенная цитата переведена редактором с текста этого издания. Два последующих отрывка из Лейбница даны в переводе с немецкого, сделанного А. Д. Гетмановой и отредактированного С.А. Яновской (см,: А. Д. Гетманова, О взглядах Лейбница на соотношение математики и логики. - В кн.; Философские вопросы естествознания. IL Некоторые философско-теоретические вопросы физики, математики и химии, [М.],1959, с. 189 и 188), но со ссылкой на "Selections" 1951 г. Последний из приводимых здесь Лейбницевых отрывков - так же как извлечения из Лейбница на с 172 - представляет собой перевод (с английского) цитаты, выписанной Дрейфусом из "Selections". (Стр. 9.) 9. Ниже у автора фигурирует весьма неполный перечень равенств (равносильностей), определяющих булеву алгебру; в частности, не указаны равенства, содержащие операцию отрицания, которая необходима для задания булевой алгебры. В качестве примера полной системы равенств, определяющей булеву алгебру можно указать список равносильностей, приведенный в книге П. С. Новикова "Элементы математической логики" (М., "Наука", 1973, с. 42) . Следует заметить, что в выписанных автором равенствах (так же как в системе равносильностей, фигурирующей в книге П. С. Новикова) союз "или" понимается в соединительном смысле (слабая дизъюнкция: "верно или а, или b, или и то и другое вместе"). Дж. Буль же в своей логической алгебре использует аналогичный разделительный союз (строгую дизъюнкцию: "или а, или b, но не то и другое вместе"). Из этого, в частности, следует, что алгебрологическая теория Буля не была булевой алгеброй в собственном смысле слова (хотя логические возможности Булева логического исчисления совпадают с возможностями булевой алгебры) . Но от Буля идет построение логических систем, переменные которых принимают одно, и только одно, из двух значений истинности - "истинно", "ложно"; к числу таких систем принадлежит и то, что ныне называют булевой алгеброй. (Стр. 10.) 10. Автор здесь искажает историческую перспективу. Автоматизация вычислений до середины нашего века развивалась независимо от математической логики, одним из ответвлений которой является булева алгебра. Изобретения Ч, Бзббеджа в области вычислительной техники не были связаны с алгеброй логики -- хотя бы уже потому, что сделаны они были еще до появления первых математико-логических работ Дж, Буля: разностная машина была сконструирована Бэббеджем в 1820-1822 гг., проект аналитической машины был разработан им в 1834 г., а труд Дж. Буля "Математический анализ логики" вышел в 1847 г. Таким образом, утверждение X. Дрейфуса о том, что с появлением изобретений Ч. Бэббеджа (вычислительная) практика стала догонять (логико-алгебраическую) теорию, не соответствует фактам; в том смысле, который имеет в виду автор, "практика стала догонять теорию" только с появлением электронных цифровых машин и кибернетики. 11. Это не совсем верно. Сын Ч. Бэббеджа после смерти отца сумел частично достроить аналитическую машину, и в 1888 г. она вычислила и напечатала произведение числа Я на числа натурального ряда с 29 знаками. См,: Р.С. Гутер, Ю. Л. Полунов. От абака до компьютера. М., "Знание", 1975. (Стр. 11.) 12. Ниже автор приводит отрывок из известной статьи А. Тьюринга Вычислительные машины и интеллект" (A.M. Turing. Computing Machinery and Intelligence, "Mind", 1950, vol. 59, p. 433-460; статья перепечатана в кн.: The World of Mathematics, ed. J. RJewman, vol. N.Y., Simon and Schuster, 1956, а также в кн.: Minds and Machines, ed. A, R, An- 285 dersоn. Englewood Cliffs, N. J., Prentice Hall,1964); Дрейфус приводит высказывания Тьюринга по изданию А. Андерсона 1964 г. Русский перевод статьи, который цитируется в данном издании, выполнен по книге Дж. Р. Ньюмена (1956 г.) , в которой статья Тьюринга носит заглавие "Can the machine think?". Отметим, что "определение цифровой вычислительной машины", о котором говорит Дрейфус, имея в виду эту (по существу, популярную) статью Тьюринга, идейно восходит к выдающейся работе этого же математика - его статье "On computable numbers, with an application to the Entscheidungsproblem". Proc. London Math. Soc, Ser. 2, vol. 42, 1936-1937. В этой статье описана абстрактная вычислительная машина, за которой впоследствии закрепилось название "машины Тьюринга". Обширные выдержки из этой статьи, содержащие Тьюрингову аргументацию в пользу интерпретации своей машины в качестве идеализированного вычислителя, приводит М. Минский в книге "Вычисления и автоматы" (М., 1971, с, 137-142). Теория машин Тьюринга является в настоящее время интенсивно развивающимся разделом теории эффективной вычислимости (теории алгоритмов). (Стр. 11.) 13.Эта и другие имеющиеся в книге цитаты неанглоязычных авторов, заимствованные из работ, которые не опубликованы в СССР, приведены по тексту книги X. Дрейфуса, то есть по их английским переводам. (Стр. 13.) 14.Статью К. Шеннона (C.Shannon) "Chess piaing machine" автор цитирует по книге "Мир математики" под редакцией Дж. Р. Ньюмена, указанной в примечании 12. Первоначально статья была опубликована в журнале Scientific American, 1950, vol, 2. (Стр. 15.) 15.Оригинал этой коллективной монографии, в которой в качестве Главы 13 помещена данная статья А. Ньюэлла, Дж. Шоу и Г. Саймона: A. Newell, J. Shaw and H.Simon. Computers and Thought. A collections of articles. Ed, E. A. Feigenbaum and J, Feldman. New York - San Francisco - Toronto - London, McGraw-Hill, 1963. (Стр. 16.) 16.Операнды - объекты (например, числа или буквы, представляющие те или иные элементы задачи, определенные состояния системы, процесса и т. п.), над которыми производится некоторая операция (операции) .(Стр. 18.) 17.Задача о людоедах и миссионерах, широко обсуждаемая в работах по "искусственному интеллекту", формулируется следующим образом. Три миссионера и три людоеда должны переправиться через реку. Имеется лодка, которая вмещает не более двух человек, Если число людоедов на каком-либо из берегов превысит число миссионеров, то миссионеры будут съедены людоедами. Требуется найти способ переправы всех шести человек, безопасный для миссионеров. Анализ этой задачи и ее обобщений производился, в частности, С. Амарелом (S. Amarel.On representations of problems of reasoning about actions* - In: D, Miche (ed.l, Machine Intelligence, vol. 3, N.Y., Amer. Elsevier Publ. Сотр., р, 131 -171). В отечественной литературе соответствующий материал можно найти в книге Э. В. Попова и Г, Р. Фирдмана "Алгоритмические основы интеллектуальных роботов и искусственного интеллекта" (М,, "Наука", 1976, с. 42 и далее). (Стр. 18.) 18.Термин искусственный интеллект несет в себе двойной смысл. С одной стороны, он используется для обозначения машинных систем, запрограммированных так, что они проявляют, как считается, некоторые черты интеллектуально-творческого поведения (мышления, познания), характерного для человека; с другой стороны, он служит наименованием комплекса исследований, направленных на разработку такого рода систем. В некоторых контекстах (например, в выражении "задачи, которые решаются искусственным интеллектом") происходит "интерференция" обоих значений. В русском переводе данной книги (в отличие от оригинала) мы, как правило, берем выражение "искусственный интеллект" 286 кавычки, так как это позволяет лучше передать упомянутый двойной смысл; в одном случае кавычки указывают на то, что системы искусственного разума еще не созданы и не ясно, в какой мере на кибернетическом пути вообще возможно приближение к идеалу разумности; в другом случае они служат указанием того, что речь идет об определенном исследовательском направлении. (Стр. 19.) 19.Оригинал: N. Chomsky. Language and Mind. New York, Harcourt, Brace and World, 1968. (Стр. 21.) 20.Автор, книга которого, как следует из данного высказывания, была завершена в 1971 г. (а вышла из печати в 1972 г.), акцентирует внимание том, нто целый ряд предсказаний Г. Саймона и других исследователей в области "искусственного интеллекта" относительно сравнительно быстрого оешения стоящих перед ними проблем - предсказаний, сделанных в 50-х годах,-не оправдался. Последующее изложение, и прежде всего вся первая часть книги, посвящено разбору работ 1957-1967 годов (автор привлекает в своем критическом анализе лишь отдельные работы 1968- 1969 гг.) именно в этом плане. Действительно, развитие показало, что трудности, возникающие перед кибернетическим моделированием процессов познании и созданием систем, проявляющих отчетливые черты "разумности" (в достаточно приемлемом смысле этого термина), гораздо более значительны, чем это представлялось на заре развития кибернетики. Однако негативные заключения Х. Дрейфуса о перспективах данного направления, а также его резкие суждения по адресу творчески работающих кибернетиков не представляются оправданными. Подробнее об этом см. помещенную в конце данной книги статью редактора "Что же могут вычислительные машины?". (Стр. 23.) 21. Rons asmorum - мост для ослов - возникшее, как предполагают историки математики, в схоластической науке средних веков название предложения (теоремы) 5 книги I "Начал" Евклида. Евклидова формулировка гласит: "У равнобедренных треугольников углы при основании равны между собой, и по продолжении равных прямых углы под основанием будут равны между собой" (Начала Евклида, книги I-II. Перев. с греч. И комментарии Д. Д. Мордухай-Болтовского, М.- Л., 1950, с. 19) . Как отмечается в примечании к Евклидовой формулировке теоремы, устанавливаемое ею свойство равнобедренного треугольника, по свидетельству Прокла, обнаружил еще Фалес Милетский. Название теоремы, по-видимому, "происходит от того, что чертеж Евклида (вместе с дополнительными линиями, требуемыми в его несколько усложненном доказательстве) напоминает мост, и от мнения, что тот, кто не способен перейти через этот мост, должен быть ослом" (Г. С. МоКокстер. Введение в геометрию, М-, "Наука",1966, с. 20). (Стр.24.) 22.Оригинал: P.Armer. Attitudes toward intelligent machines. In: Computers and Thought. Ed. E, A. Feigenbaum and J. Fefdman, 1963. (Стр. 26.) 23.Соответствует примерно третьему разряду по шахматам в советской спортивной классификации. (Стр. 28.) 24.Под решением задач (Problem solving) в англо-американской кибернетической литературе понимается решение невычислительных задач, требующее применения того или иного способа ограничения перебора вариантов в ходе поиска требуемого результата. (Стр.28.) 25.В отчете испытуемого под "левой и правой частями уравнения" имеются в виду члены конъюнктивной формулы в которой & есть знак операции конъюнкции (логического союза "и"), есть знак импликации (союза "если.... То"), а ~~| есть знак отрицания. В контексте данной задачи под "уравнением" _ или лучше "равенством" - можно было бы, на первый взгляд, понимать запись (/ОпЯ)" ^R-Q)=L*\(~P). Однако это равенство не справедливо, и, как следует из приведенного на с. 286 книги "Вычислительные машины и мышление" 287 "полного хода решения данной задачи", речь идет о дедукции следствия (-\Q'P) из посылки (RD~P)-("~\RDQ). При этом испытуемым разрешалось пользоваться двенадцатью правилами пропозициональной логики и информацией о том, что ПП эквивалентно Р. Правила 8 и 6, которые упоминаются X, Дрейфусом, имеют вид: (8) А 'В^-А, А 'В-+В, (6) АЭВ-*~ЛА\/В (здесь V есть знак операции дизъюнкции, соответствующей неразделительному логическому союзу "или", а -э- означает логическую выводимость). (Стр. 35.) 26. Рисунок 1 представляет собой русский перевод распечатки на английском языке, выданный машиной, решившей соответствующую задачу. (Стр. 36.) 27. На русском языке имеется два разных перевода этой работы А. Ньюэла и Г. А. Саймона - в кн.: "Кибернетика и живой организм" (Киев, "Наукова думка", 1964) под названием "Моделирование человеческого мышления на вычислительной машине" и в кн. "Психология мышления. Сборник переводов" (М., "Прогресс", 1965) под заголовком "Имитация мышления человека с помощью электронно-вычислительной машины". Оба перевода выполнены, однако, не с первичного издания (Корпорации RAND), на которое в дальнейшем ссылается X. Дрейфус, а с вторичной публикации в журнале "Science". Поэтому мы отказались от цитирования по русским изданиям. (Стр. 36.) 28. Работа Хао Вана (Wang Hао. Toward mechanical mathematics.- IBM Jorn. Res. Devel., vcl, 1, № 4, 1960; русский перевод: Ван Хао На пути к механической математике.-"Кибернетический сборник", вып. 5, М., 1962) представляет собой вовсе не "величайшее достижение' - ирония автора здесь не уместна,- а пионерскую работу в области неэвристически алгоритмического решения задач логической дедукции. Результаты Хао Вана вскоре были превзойдены последующими работами. Одной из них явилась разработка коллективом советских математических логиков под руководством И. А. Шанина машинно реализуемого алгоритма поиска естественного - то есть приближенного к тому, как человек решает подобные задачи,- логического вывода в классическом исчислении высказываний (см.: Н. А. Шанин, Г. В, Давыдов и др. Алгоритм машинного поиска естественного логического вывода в исчислении высказываний, М., "Наука", 1965). К настоящему времени создано большое количество алгоритмов и машинных программ (относящихся не только к математической логике, но и к другим разделам математики) поиска логических выводов и доказательств теорем - как неэвристических, так и эвристических (отличающихся тем, что они не гарантируют решение, даже в принципе, каждой из задач данного класса, поддающихся соответствующей формализации). См., например, следующие статьи: Д. Правиц. Достижения и проблемы о развитии процедур механического доказательства. - "Кибернетический сборник". Новая серия, вып. 9. М., "Мир", 1972; Ю. В. Капитонова, В. Ф. Костырко и др. Краткий обзор и библиография работ по автоматизации поиска доказательств теорем в формальных теориях, - "Кибернетика", Киев, 1972, №5; С. Ю.Маслов. Поиск вывода как модель эвристического процесса. - Там же; Ю. В. Капитонова, А. И.Дегтярев, А. В. Лялецкий. Использование эвристики в программах для поиска доказательств теорем (Обзор) . - "Кибернетика", Киев, 1973, № 4; С. Ю. Маслов. Теория поиска вывода и некоторые ее применения. - Там же, 1975, № 4. (Стр. 38.) 29. В перевод следующей ниже цитаты из русского издания книги "Вычислительные машины и мышление" внесены коррективы стилистико-смыслового характера. Подобные же изменения произведены и в ряде других приводимых Дрейфусом извлечений из авторов, чьи работы опубликованы в советских изданиях. (Стр. 39.) 30. Латинское выражение ad hoc ("к этому"), имеющее смысл "для данного случая", "для данной конкретной цели" и широко используемое 288 автор когда он говорит о методах, которые, по его мнению, не допускают обобщения и в этом отношении имеют специальный или даже искусственный характер, в данном переводе нередко передается соотвествующим контексту описательным оборотом. (Стр. 40.) 31 Оригинал данной коллективной монографии: Recognizing Patterns: Studies in Living and Automatic Systems, ed. P. A. Kolers and M, Eden. Cambridge (Mass,), M.IT. Press, 1968. (Стр. 40.) 32.Так мы в данной книге переводим английское слово due, носящее у Дрейфуса терминологический характер. (Стр. 47.) 33. В аналогичном опыте, который проводил В. Б. Малкин, гроссмейстер не сумел запомнить позицию, но дал ее верную оценку (сообщение Ю. А. Шрейдера). (Стр. 49.) 34.Вряд ли можно согласиться с той оценкой перспектив работ по эвристической алгоритмизации и программированию шахматной игры,которую здесь и далее дает Дрейфус. Об успехах в области программирования шахмат свидетельствует уже тот факт, что начиная с 1974 г, проводятся чемпионаты на первенство мира между шахматными программами. Чемпионаты приурочиваются к конгрессам МФПИ - Международной федерации по переработке информации,- проходящими один раз а три года. Чемпионат "шахматных машин" организуется так, что за шахматными досками сидят авторы программ. С помощью терминалов по соответствующим каналам связи они передают своим ЭВМ очередной ход программы противника. Ответный ход вычислительной машины воспроизводится на дисплее и повторяется на шахматной доске. За последние годы соперничество шло в основном между двумя сильнейшими программами - созданной советскими учеными (Г, М. Адельсон-Вельский, В. Л. Арлазаров,М.В.,Донской) "Каиссой" и разработанной в США (авторы - Д. Слейт и Л. Аткин) "Чесе 4". На первом чемпионате мира (Стокгольм, 1974) победу одержала "Каисса". На состоявшемся в августе 1977 г. втором чемпионате (Торонто, Канада) модернизированная "Чесе 4.6" победила "Кэиссу". В миттельшпиле,обе программы играли приблизительно в силу второго разряда. При этом различие в уровне игры не было заметным. Но в эндшпиле, когда существенное значение приобрела глубина рассчитываемых вариантов, перевес оказался на стороне программы "Чесе", так как американская машина работала быстрее и могла поэтому считать варианты на большее число ходов. По мнению М. М. Ботвинника, однако, обе программы страдают тем недостатком, что слабо используют чисто человеческие приемы отбрасывания заведомо не подходящих вариантов и расчета "релевантных" направлений игры на переменное - соответствующее положению на шахматной доске - число ходов. Под руководством эксчемпиона мира по шахматам разработана программа иного рода (она получила название "Пионер") : такая, что в нее заложены некоторые немаловажные черты, характеризующие игру шахматного мастера. Эта программа обещает значительное повышение класса машинной игры. На фоне современных работ по программированию шахмат, и особенно исследований М. М, Ботвинника, успешно работающего над созданием игровой программы большой силы (вплоть до уровня гроссмейстера), утверждения Дрейфуса по данному вопросу выглядят достаточно архаичными. (См. также статью "Что же могут вычислительные машины?", с. 330 настоящей книги.) (Стр. 50.) 35. Ср.А.Ньюэлп, Дж. Шоу, Г. А. Саймон. Процессы творческого мышления. - В кн.: Психология мышления. Сборник переводов, с. 525. перевод сделан с публикации: A. Newell, Сhaw, H. A. Simоп. The processes of creative thinkingT- In: Contemporary approaches to creative thinking. A Symposium held at the University of Voiorad H. E. Gruber, G. Terrell, M. Wertheimer (eds ). N.Y., Press, 1963. (Стр. 62.) 289 36.Оригинал: G. A. Miller, E.Galanter, К. Н. Рribram. Plans and the Structure of Behavior, N.Y.. Henrv Holt and Сотр., 1960, (Стр. 62.) 37.В опубликованном в "Кибернетическом сборнике" переводе этого места ошибочно говорится о шахматной программе. (Стр. 65.) 38.В приводимой далее цитате М. Мерло-Понти - а вслед за ним и X. Дрейфус - ошибаются, приписывая описываемый ниже эксперимент В. И., Пудовкину. В действительности эксперимент был произведен советским кинорежиссером Л. В. Кулешовым. Исчерпывающую справку по этому вопросу можно найти, например, в книге А. В. Караганова "Всеволод Пудовкин" (М., "Искусство", 1973, с, 14) : "Хрестоматийно известен эксперимент Кулешова с переосмысливанием внутрикадрового материала путем изменения монтажного контекста: крупный план лица артиста И. Мозжухина по-разному читается, когда монтируется с изображением молодой женщины в гробу, дымящейся тарелки супа или играющей девочки, (Кстати, пудовкинское описание этого эксперимента - в книге "Кинорежиссер и киноматериал"-стало первоисточником для всех последующих его толкователей, для исследования понятия "эффект Кулешова", вошедшего в эстетическую сокровищницу мирового кино.)" (Стр. 72.) 38.Автор недооценивает значение теории расплывчатых (нечетких, размытых) множеств Л. Заде, Эта бурно развивающаяся теория охватила ныне "расплывчатой логикой" не только теоретико-множественные и логические понятия, но и алгоритмы, автоматы, графы, системы управления и т. п.; она привела к новым подходам к семантике естественных языков, к вопросам принятия решений и пр. Подробнее об этом см. в статье редактора "Что же могут вычислительные машины?", с. 308-310 настоящей книги. (Стр. 74.) 39.Вопреки автору, никакого "затишья" в области моделирования процессов познания не наступило. Из того, что отдельные предположения кибернетиков относительно перспектив тех или иных линий исследований не оправдались, вовсе не следует какого-то "крушения" всего направления моделирования и автоматизации интеллектуально-творческих процессов. Наоборот, за годы, истекшие со времени написания книги Дрейфуса, модельно-кибернетические представления и средства исследования прочно вошли в арсенал анализа и объяснения познавательных механизмов, а содружество кибернетиков и психологов приобрело в данной исследовательской области во многом регулярный характер. См. статью "Что же могут вычислительные машины?", помещенную в конце данной книги.(Стр. 77) 40. Это противопоставление моделирования познавательного процесса (процессов работам в области "искусственного интеллекта"- области, в которой центральную роль играет переработка семантической информации,- достаточно натянуто и отражает разве что вполне естественную динамику в акцентах единого по своему "замыслу" направления кибернетических исследований (так же как и соответствующие изменения в терминологии) - направления, в меру своих возможностей старающегося учесть интимнейшие феномены осмысления и понимания, свойственные человеку. (Стр. 78.) 41.Обращаем внимание читателя на различный смысл термина "кибернетика" в отечественной и зарубежной, в частности американской, научной литературе. В нашей стране под кибернетикой понимается научное направление, охватывающее комплексным изучением процессы управления и переработки информации в сложных динамических системах различной природы (техника, жизнь, социальные процессы), в котором используются точные методы математики и средства современной автоматики, прежде всего ЭВМ. При таком понимании кибернетики в область ее исследований входят как теория автоматов и вычислительных систем, так и моделирование познавательных процессов и "искусственный интеллект". В США термин "кибернетика применяется в более узком смысле- как правило, для обозначения работ по моделированию процессов и систем живой природы, включая человеческую форму переработки информации. Поэтому принятому в советской литературе понятию "кибернетика" в американской литературе соответствует набор различных терминов, в частности (general) system theory и computer science. (Стр. 79) 43, Вряд ли можно согласиться со столь пренебрежительной оценкой разработок в области персептронов. Работа Ф. Розенблата (F. Rosenblatt. Principles of Neurodynarnics. Perceptrons and the Theory of Brain Mechanisms, Washington, D.C, Spartan Books, 1962; русский перевод: ф розенбпатт, Принципы нейродинамики. Лерсептроны и теория механизмов мозга. IVL, "Мир", 1965) в свое время была пусть скромным, но шагом вперед в моделировании некоторых нейродинамических структур. Возможности и ограничения, присущие схеме Розенблата (как и пер-септронэм вообще), быстро были выявлены исследователями; связанные с этим вопросы проанализированы М. Минским и С. Пейпертом в их книге "Персептроны" (М. Мinsky, S. Papert. Perceptrons. An Introduction to Computational Geometry. Cambridge, Mass., and London, МАЛ. Press, 1969). (Стр. 80.) 44. Оригинал издания, в котором опубликована данная статья М. Минского, представляет собой тематический выпуск журнала "Scientific American", vol. 215, N°3, September, 1966. (Стр. 82.) 45.Аналогом этого примера на русском языке может служить фраза "число попыток отнять мячик у собаки", где "отнять" может рассматриваться как оператор "вычесть". (Стр. 83.) 46.Автор прав, подчеркивая глубокие различия между машинным "пониманием" и осмыслением человеком явлений реальности и своего внутреннего мира - осмыслением, связанным с феноменом сознания. Однако невозможно согласиться с категорически негативной оценкой Дрейфусом возможности кибернетического моделирования некоторых - быть может, и существенных - черт человеческого понимания. См. об этом статью "Что же могут вычислительные машины?"(Стр. 86.) 47.Язык со структурой непосредственных составляющих - язык, рассматриваемый в качестве множества выражений; возникающих в ходе порождающего процесса, регулятиеы (правила преобразования) которого учитывают, грубо говоря, контексты тех выражений, которые подвергаются изменениям по соответствующим правилам.Языки с подобной структурой были впервые изучены в работах Н, Хомского, См.:А. В. Гладкий. Формальные грамматики и языки. М., "Наука", 1973. (Стр. 89.) 48.Имеется в виду фигура А на рис. 2. (Стр. 97.) 49. Критика X. Дрейфусом рассматриваемых им машинных программ за то, что они - каждая в отдельности - не допускают обобщения и развития, делающего их применимыми к более широкому и сложному кругу задач, бьет мимо цели, так как прогресс в кибернетическом моделировании процессов познания и создания систем "искусственного интеллекта" происходит не столько путем усовершенствования имеющихся программ, сколько посредством разработки новых алгоритмов и их машинных реализаций, основанных на новых идеях и обладающих более богатыми возможностями. При этом исследователи вовсе не "остаются на безопасном расстоянии от подлинной проблемы сложности", как утверждает автор, но как раз и работают над ее решением, не пытаясь предрешить вопрос о том, в какой мере последнее окажется теоретически возможным и практически осуществимым. (Стр. 97.) 50.Статья Ф. Тонга, входящая в раздел 3 части I данного коллективного труда, опубликована в нем с сокращениями. Цитируемый ниже текст в книге "Вычислительные машины и мышление" отсутствует. (Стр. 100.) 291 51. Для кибернетического моделирования познавательных процессов - а если говорить о позиции автора, для формулируемых им "допущений" - существенно не то, что переработка информации может производиться в двоичном коде, а то, что ее возможно представить как процесс преобразования конечных последовательностей (слов), состоящих из знаков некоторого (быть может, и весьма богатого) алфавита. Ниже, в примечании нас. 168, Дрейфус сам фактически отмечает это обстоятельство. (Стр.106.) 52.Это утверждение Дрейфуса - которое в различных вариациях неоднократно повторяется в книге - свидетельствует об упрощенном представлении автора о "философской традиции". В статье "Что же могут вычислительные машины?" читатель найдет относящиеся к этому вопросу необходимые разъяснения. Здесь мы только отметим, что если уж говорить о традиции, которая связывает духовное наследие прошлого с современной кибернетической установкой в изучении мышления и поведения человека, то ее, скорее всего, следует искать в идеях дедуктивной логики, связующих Лейбница с Дж. Булем, Г. Фреге и Д. Гильбертом и в середине нашего века приведших к мощны.,: концепциям и теориям современной математической логики. (Стр 106.) 53.Автор очень узко понимает логические отношения - только как логику высказываний, принимающих значение "истинно" либо "ложно". На деле современные методы логической формализации охватывают не только эти - элементарные - логические средства и не только их расширение в более богатую выразительно-дедуктивными возможностями логику предикатов, но и гораздо более широкий спектр логических построений (см. статью "Что же могут вычислительные машины?", с. 319 данной книги).(Стр. 106.) 54.Оригинал: J. von Neumann, Probabilistic logic and the synthesis of reliable organisms from unreliable components.-In: Automata Studies, ed. С. Е. Shannon and J. McCarty. Princeton Univ. Press, 1956. В перевод данной и следующей цитат из фон Неймзна, опубликованных в советских изданиях, редактором внесены уточняющие изменения. (Стр. 109.) 55. Оригинал: J. vori Neumann. The general and logical theory of automata-In: Cerebral Mechanisms in Behavior. The Hixon Symposium, ed. A. Jef- fress. New York - London, 1Э51; статья перепечатана во втором томе 'Мира математики" (см. прим. 12) . (Стр. 110.) 56.Аналоговый характер функционирования той или иной системы вовсе не является принципиальным препятствием для ее точного описания, что нижу признает и сам автор, и данное высказывание нельзя квалифицировать иначе, как выражение агностической установки вотношемии познания нейрофеноменов. (Стр. J11,) 57.Оригинал: С. E.Shann on. The mathematical theory of communication.-In: C.E. Shannon and W.Weaver. The Mathematical Theory of Communication. Urbana, Univ. of Illinois Press, 1962. (Стр. 115.) 58. Имеется в виду статья К. Шеннона "Бандвзгон" (1956). Шеннон говорит в ней, что "основные положения теории информации касаются очень специфического направления исследования, направления, которое совершенно не обязательно должно оказаться плодотворным в психологии, экономике и в других социальных науках... Я лично полагаю, что многие положения теории информации могут оказаться очень полезными в этих науках; действительно, в ней уже достигнуты некоторые весьма значительные результаты. Однако поиск путей применения теории информации в других областях не сводится к тривиальному переносу терминов из одной области науки в другую. Этот поиск осуществляется в длительном процессе выдвижения новых гипотез и их экспериментальной проверки". (К.Шеннон. Работы по теории информации и кибернетике, с, 668 J Шеннон, таким образом, вовсе не был противником распространения 292 теоретико-информационных методов на изучение семантических (осмысленных, значимых для человека) сообщений. Последующее развитие теории семантической информации - начиная с теории Р. Кэрнапа и И. Бар-Хиллела - показало, что хотя эти теории пользуются иным кругом понятий другим формализованным аппаратом, чем статистическая теория связи (прежде всего понятиями и аппаратом логики), они могут (и должны) быть согласованы с классической шенноновской теорией передачи сообще­ний по каналу связи. О теориях семантической информации и вообще об имеющихся подходах к логической теории смысла (значения) сообщений, в частности в работах советских ученых, см., например, в кн.: Управление, информация, интеллект, под ред. А. И. Берга и др, (М., "Мысль", 1976, "Щгл.ПЬ (Стр. 115.) 59.Термин information processing в данной книге в зависимости от контекста переводится двояко: и как "переработка (обработка) информации" (терминология, принятая в теории информации и технической кибернетике) , и как "информационный процесс (процессы) " (терминология, используемая чаще всего в психолого-кибернетической литературе). Следует заметить, что данный термин автор связывает исключительно с дискретной переработкой информации. Употребление этого понятия в отечественной литературе не обязательно предполагает подобное сужение, хотя бесспорно, что в кибернетике широко используется математический аппарат описания дискретных структур и систем. (Стр. 116.) 60.Это утверждение Дрейфуса нэ совсем ясно. Если бы мозг был гигантским скоплением нейронов, случайные связи между которыми не были бы подчинены никаким закономерностям, то он не мог бы целесообразно функционировать. Поскольку же упомянутые закономерности имеются, мозг как раз и оказывается сложной динамической системой в смысле кибернетики; вероятностный характер функционирования системы вовсе не противоречит определенной регулярности ее поведения, как, по-видимому, считает автор. (Стр. 116.) 61. Оригинал: Тh. Kuhn. The Structure of Scientific Revolutions. Chicago, Univ. of Chicago Press, 1962 (русский перевод сделан со второго, дополненного издания 1970 г.). (Стр. 123.) 62.По-видимому, имеется в виду планирование в смысле, близком к тому, что под этим понятием подразумевают Дж, Миллер, Е. Галантер и К. Прибрам в ккиге "Планы и структура поведения" (план - это "всякий иерархически построенный процесс в организме, способный контролировать порядок, s котором должна совершаться какая-либо последовательность операций", с. 30) . (Стр. 125.) 63.В своей интерпретации этой фразы автор использует тот факт, что местоимение he (он) в английской речи применяется обычно к одушевленным предметам, (Стр. 131.) 64. Лилибурлеро (Lifliburlero) - ирландская мелодия; сочинена либо обработана выдающимся английским композитором и органистом XVII века Г. Пёрселлом. В конце XIX- начале XX столетия легла в основу известной песни ирландских ультрапротестантов "Protestant Boys ". (Стр. 138.) 65.Возражения автора против реальности уровня информационных процессов в применении к человеческой психике и поведению не убедительны по крайней мере в том отношении, что "инварианты", о которых идет речь в приводимой в книге цитате из Дж- Фодора, на деле достаточно убедительным образом вы делимы на путях модельно-кибернетического исследования. См. статью "Что же могут вычислительные машины?", где в этой связи отмечаются работы советского исследователя Р. X. Зарипова. (Стр. 140.) 66.Так переведен используемый здесь автором термин performance. В этой главе Дрейфус широко использует идущее от Н. Хомского противопоставление лингвистической компетенции (linguistic competence), то 293 есть знания языка его носителем, и употребления языке (linguistic performance), то есть реального использования языка в конкретных ситуациях (см.: Н. Xомский. Аспекты теории синтаксиса, (MJ, Изд-во Московского ун-та, 1972, с. 9) , распространяя его за пределы сферы языка и речи и охватывая им поведение вообще (ср. использование понятия компетенции уже в следующем абзаце); далее, в разделе "Ошибочный аргумент, основанный на успехах современной лингвистики" данной главы пределы этого противопоставления сужаются до области собственно (психо) лингвистики (по Хомскому). В недавно вышедшей книге Д. Слобина и Дж. Грина "Психолингвистика" (перев. с англ., М., "Прогресс", 1976) упомянутые понятии Хомского переводятся соответственно как "языковая способность" и "языковая активность". Однако данный перевод затрудняет переход к тому обобщенному смыслу этого противопоставления, которым очень часто оперирует Дрейфус. Поэтому мы отказались от этих - весьма удачных - русских терминов и в зависимости от контекста варьируем русскоязычные эквиваленты обоих английских выражений; performance большей частью передается как действия, исполнение (правил), использование, употребление, применение и т. п.,a competence- как компетенция, знание. Фигурирующие ниже в тексте Дрейфуса термины theory of competence, theory of performance переводятся соответственно как "теория компетенции" и "теория деятельности". (Стр. 143.) 67.Оригинал: N.Chomsky. Aspects of the Theory of Syntax. Cambridge (Mass.), M.IT. Press, 1965. (Стр. 154.) 68.В оригинале: The idea is in the pen. (Стр. 158.) 69. Имеются в виду законы естественного и точного знания (англ- science). (Стр. 160.) 70. База данных - массив информации, хранящейся в памяти цифровой вычислительной машины (или вычислительной сети), с которым взаимодействуют вводимые в машину программы. (Стр. 169.) 71. Тезаурус - список выражений (словарь), отражающий семантические (смысловые) связи, существующие между выражениями некоторого языка или его фрагмента (принадлежность некоторых выражений к одной и той же смысловой рубрике; синонимия; отношение логического подчинения; связи части и целого между объектами, обозначаемыми соответствующими выражениями, и т.п.). (Стр. 170.) 72.."Маленький Джон искзл свой ящик с игрушками. Наконец он его нашел. Ящик был в его манеже. Джон очень обрадовался". Английское слово реп в числе своих многочисленных значений имеет: "ручка (для письма) ", " (детский) манеж" и "загон (для скота)". (Стр.177.) 73."Маленький Джонни играл на полу рядом со своим манежем ( реп ), Красной ручкой (реп) на зеленом листе бумаги он рисовал картинку. Закончив рисовать, он стал искать свой ящик с игрушками и нашел его в манеже ( реп )". (Стр. 177.) 74. Имеется в виду теория принятия человеком решений, касающихся осмысления высказываний и выбора способа речевого поведения. (Стр. 179.) 75. Референт - внеязыковой объект, являющийся значением данного языкового выражения. (Стр. 179.) 76. Хэш-кодирование (hash coding), или расстановочное кодирование,- кодирование номеров ячеек машинной памяти, при котором необходимая последовательность ячеек выбирается с помощью расстановочной функции, выдающей номер очередной ячейки по аргументам, значениями которых являются номера ранее выбранных ячеек. (Стр. 187.) 77. Критика понимания человека как пассивного “объекта" или "устройства"- в своей рациональной части - имеет иные и гораздо более глубокие философские истоки, нежели те, которые усматривает X. Дрей- 294 фуc. См. об этом статью "Что же могут вычислительные машины?' , с. 321 - 322 настоящей книги. (Стр. 197.) 78.Отождествление "моральной" невозможности и практической неосуществимости здесь не совсем точно. Невозможность машинного разума вытекает из религиозно-философской концепции Декарта, согласно которой "бог создал разумную душу и... соединил ее с телом" (Р. Декарт. рассуждение о методе. В кн.: Р. Декарт. Избранные произведения. М., 1950, с 293), автоматы же лишены души. Отсюда Декарт делает вывод, что, если бы были созданы говорящие машины, поведение которых имитирует человеческое, "они никогда не могли бы пользоваться ни словами, ни другими знаками, составляя их так, как делаем это мы, чтоб передавать другим наши мысли" (там же, с. 31 ) (Стр. 199.) 79.Здесь под феноменологией автор имеет в виду философское направление, связанное с именем Э. Гуссерля. Соответствующее прилагательное ниже часто употребляется в смысле "относящееся к феноменологии". Вместе с тем на протяжении всей книги автор использует его и в более общем (но в изложении Дрейфуса связанном с гуссерлианским) смысле "относящегося к миру явлений", данного человеку в его психической жизни. (Стр. 201.) 80.В следующем ниже анализе феноменов восприятия и мышления, а отношении которых Дрейфус верно подчеркивает аспекты их целостности и заключенного в них предвосхищения (установки), автор апеллирует к психологическим выводам трансцендентальной феноменологии (Гуссерль), экзистенциальной феноменологии (Мерло-Понти), а также к гештальтпсихологии. Если остаеить в стороне философскую ориентацию этих направлений, которая, в общем, не существенна для аргументации автора (и в отдельных пунктах даже критикуется им, ср. с, 210), -то окажется, что соответствующие взгляды (в их разумной, а не крайней форме, представленной у Дрейфуса) не являются чем-то новым, а составляют, пожалуй, "общее место" научной психологии. Во венком случае представления о целостности восприятия и моментах осмысления и предвосхищения, в нем заключенных, прочно входят в арсенал отечественной психологической мысли, развивающей традиции Л. С. Выготского, Д. Н. Узнадзе, С. Л. Рубинштейна и А. Р. Лурия. (Стр. 202.) 81.В сводных библиографических справочниках-ка 82.Гилетические данные (hyletic data) - от греч. "вещество", "материал", "материя". (Стр. 206.) 83. В перевод цитируемых слов М. Минского, как он фигурирует в указываемом источнике, внесены существенные изменения. (Стр. 208.) 84. Логическая ошибка поп sequitur (лат.) - "не следует" заключается в том, что некоторое суждение, логически не вытекающее из данных суждений (посылок), тем не менее принимается в качестве их следствия. (Стр. 211.) 85.Wunderbare (нем.) - чудесная, удивительная (способность). (Стр. 212.) 86.С лингво-информационным аспектом этой работы читатель может ознакомиться по книге Т. Винограда "Программа, понимающая естественный язык" (М., 1976; оригинал вышел в 1972 г.), О значении этой работы М. Минский говорил на Первой советско-американской конференции по проблеме связи с внеземными цивилизациями, состоявшейся в 295 сентябре 1971 г. в Бюрэкане (Армения) (см. Проблема CETI (Связь с внеземными цивилизациями), М., "Мир", 1975) . (Стр. 215.) 87.Негативная оценка автором перспектив роботостроения не может не вызвать возражений. Реальным ее опровержением является уже советский луноход. Разработки в области роботостроения идут в нарастающем темпе, хотя, разумеется, никто из специалистов, занятых в данной области, не ставит перед собой задачи "замены" человека автоматом. (Стр. 216.) 88.Психологическая теория Ж. Пиаже достаточно далека от гештальт- психологии. Концепция "системности" операций интеллекта, разработанная швейцарским психология, в определенном отношении ближе к "общей теории систем" (Л. Берталэнфи) и некоторым современным кибернетическим идеями, чем к психологии "гештальта". (См. А. Г. Ярошевский. Психология в XX столетии. Теоретические проблемы развития психологической науки. М., Политиздат, 1971, с. 237 и сл.). (Стр. 218.) 89.Это касается поздней фазы развития философских взглядов Витгенштейна. (Стр. 231.) 90.См. также: Вычислительные машины и мышление, с. 302 и сл. (Стр. 232.) 91. Функцией полезности называется функция, отражающая предпочтение одних альтернатив перед другими в некоторой ситуации,- предпочтение, которым руководствуется лицо, принимающее решение, в своем стремлении максимизировать положительный эффект собственного поведения. Характер функции полезности (принимающей значении из некоторого числового множества) существенно зависит от логических свойств рассматриваемого отношения предпочтения и от способа оценки ("взвешивания") альтернатив. (Стр. 241.) 92.Не ясно, что хочет сказать автор в этой и следующей фразе. По-видимому, он имеет в виду, то любые два объекта обладают некоторым набором общих свойств, а различение объектов означает выделение свойств ("более важных признаков"), которые присущи одному из них, но не присущи другому. (Стр.242.) 93. Оригинал: W.R.Reitman. Cognition and Thought. An Information- Processing Approach. New York - London - Sydney, J. Wily and sons, (Стр. 245.) 94.Это, разумеется, не относится к диапектико-материалистической "философской и психологической традиции". В советской психологии и социологии в полной мере учитывается значение потребностей - физиологически-материальных, ителлектуальных и особенно социально-нравственных - как регуляторов поведения. (Стр. 246.) 95.Согласно психологической теории Ж. Пиаже, процесс формирования интеллекта -от первых реакций младенца до развитого мышления взрослого - необходимо проходит четыре качественно различных стадии, из которых завершающая является стадией "формальных операций", то есть стадией овладения формальной логикой и навыками дедуктивно-гипотетического мышления, (Стр.264.) 96.Работа Б. Паскаля "О духе геометрии" (De l'esprit geometrique) и тематически связанная с ней работа "Об искусстве убеждения" (De l'art de persuader) посвящены характеристике математического мышления и формулировке некоторых важных принципов формальной логики (см. В. Рasсal. Oeuvres, vol. IX. Paris, 1914). Ниже, используя аналогию с паскалевым "духом геометрии", автор называет выделяемую им сферу IV разумного поведения обителью esprit de finesse - "духа проницательности". (Стр. 266.) 97.Из отечественных работ, в которых проводится различение форм интеллектуальной деятельности - формализованной (формализуемой), эвристической и творческой, - можно назвать коллективный труд "Управление, информация, интеллект", на с. 316-317 которого читатель может 296 найти предложенное 3. Л. Рабиновичем схематическое представление соотношения упомянутых проявлений человеческого разума. (Стр. 269) 98. Интересная идея разработки системы автоматической дедукции для математики, предполагающая такое взаимодействие людей-пользователей с вычислительно-информационным комплексом, которое приводит к обогащению дедуктивно-выразительных возможностей системы, предложена В.М. Глушковым (см. В. М. Глушков, Ю.В. Капитонова. Автоматизация поиска доказательств теорем математических теорий и интеллектуальные машины,- "Кибернетика", Киев, 1972, № 5; Ф.В.Ануфриев, З.М.Асельдеров. Алгоритм очевидности,' - Там же" "Управление, информация, интеллект", параграф "Новый подход к автоматизации дедуктивных построений. Алгоритм очевидности”.). (Стр. 277.) 99. Теория решеток (lattice theory), или теория структур, - теория алгебраических систем определенного вида, частным случаем которых является булева алгебра. (Стр.277.) 100. Автор имеет в виду взгляды П. Армера, согласно которым "мышление - это континуум, /т-мерный континуум" (П.Армер. О возможностях кибернетических систем. В кн.: М.Таубе. Вычислительные машины и здравый смысл. Миф о думающих машинах. М., "Прогресс", 1964); градации возможностей мышления (рассматриваемого в различных "измерениях") располагаются не на прерывной, а на непрерывной шкале для развития машин в этом "континууме", по Армеру, не существует априорных ограничений. (Стр. 278.) К послесловию (Б.Бирюков)

ВМЕСТО ПОСЛЕСЛОВИЯ

К оглавлению

ЧТО ЖЕ МОГУТ ВЫЧИСЛИТЕЛЬНЫЕ МАШИНЫ?

ВМЕСТО ПОСЛЕСЛОВИЯ*

Ничто кардинально новое не входит спокойно в науку и практику. Буря - вот что обычно сопровождает появление идей и решений, ломающих сложившиеся представления. Кибернетика - яркий тому пример.

В гуще споров

Этому комплексу методов и теорий, пронизанному идеями управления, информации и моделирования и спаянному лозунгом математической точности, для реализации которого привлекаются средства автоматики, на протяжении всей его еще очень короткой истории сопутствуют острые дискуссии. Их главное содержание - вопрос о соотношении возможностей машины (автоматического устройства, вычислительной сети, системы для переработки информации и т. п.) и человека, обладающего психикой, сознанием и самосознанием. Вопрос этот перерастает в проблему осуществимости кибернетического "воспроизведения" интеллекта - частичного или "полного", то есть в проблему возможности "искусственного кибернетического разума".

Проблема эта мало кого может оставить равнодушным, так как неотделима от вопроса о познании человеком самого себя, вопроса, как магнит притягивавшего пытливую мысль на протяжении веков. Именно этот последний вопрос прежде всего стоит за современными исследованиями природы живого. Именно он во многом дал - и продолжает давать - импульс экспериментальной и теоретической психологии. И он же придает волнующую актуальность изучению человеческой психики и поведения на новом для науки пути - на пути теоретико-кибернетического и вычислительно-информационного моделирования человеческих феноменов восприятия, мышления, решения задач, прогнозирования и творчества. Ибо впервые в истории сферы разума на нашей планете - ноосферы - открылась возможность передачи машинам ряда таких форм интеллектуальной деятельности, которые до недавнего времени считались исключительной прерогативой человека.

Вопрос о перспективах искусственных кибернетических систем - и прежде всего соответствующим образом запрограммированных универсальных цифровых вычислительных машин - в реализации форм поведения, которые в каком-либо смысле можно признать "разумными", вот уже 30 лет стоит на "повестке дня" философско-кибернетических обсуждений. Спорящие стороны с разных позиций пытаются внести ясность в проблему возможности либо невозможности наличия принципиальных разли-

* Автор выражает признательность коллегам, любезно предоставившим в его распоряжение некоторые свои материалы либо оказавшим помощь своими консультациями: М. В. Арапову, М. М. Ботвиннику, В. Л. Доблаеву, И. Б. Новику, Ю. В. Орфееву, Г. Н. Повэрову, Д. А. Поспелову, В. Л. Стефанюку, С. М. Шевенко и Ю. А. Шрейдеру. Он благодарит также О. Н. Кессиди, чье квалифицированное редакционное вмешательство содействовало существенному улучшению данной статьи.

298

чий между "машинно-вычислительным миром" и человеческим сознанием. Дискуссии проходят на разных уровнях научной квалификации и философской культуры их участников. Нередко они не столько проясняют, сколько затемняют суть дела. Но при всем том в них возможно усмотреть два противоположных подхода. Один из них можно назвать подходом с позиции "кибернетического оптимизма". Этой позиции подчас придерживаются некоторые специалисты по математическому обеспечению вычислительных систем, занятые программированием "интеллектуальных" (то есть не специфических математико-вычислительных) задач. Их противники - обычно представители "традиционных" областей знания, в особенности гуманитарного. "Кибернетические оптимисты" увлечены широкими горизонтами, открывающимися перед приложениями вычислительной техники. Их оппоненты, признавая значение и растущие перспективы внедрения автоматизации в область интеллектуального труда, подчеркивают, однако, что эти успехи не распространяются на человеческое творчество. Специфически человеческие процессы созидания новых научных и культурных ценностей, по их мнению, не могут быть переданы машине. Коль скоро это так, парируют этот довод "оптимисты", придется допустить, что человек наделен чем-то, не поддающимся объяснению, по крайней мере в той форме, которая принята в "точном" естествознании. В ответ следует возражение, что естественнонаучные критерии не совсем адекватны задачам изучения человеческой психики и социальных процессов...

Своеобразие интеллектуальной атмосферы, в которой происходит эта дискуссия, состоит в том, что защита человеческого суверенитета от "неумеренных претензий" кибернетиков создает, как ни парадоксально, благоприятную почву для провозглашения огромных (или даже неограниченных) возможностей "искусственного разума". Дело в том, что специалисты, работающие в различных областях кибернетики, строят свои рассуждения в соответствии со схемами, принятыми в "классической" науке; опираясь на реальный прогресс в области вычислительной математики и автоматики, владея навыками формализации, они, как правило, четко формулируют свои установки и результаты, чего нельзя сказать об их оппонентах, нередко апеллирующих к непосредственно данному личности внутреннему миру. Но характерно, что в пылу полемики как "гуманитарии-пессимисты", так и "кибернетики-оптимисты" обращаются к сфере психического, в частности к той ее части, которая находится за порогом сознаний. Первые, к примеру, утверждают, что психика - как в ее осознанной, так и подсознательной форме - отсутствует у вычислительных машин. Вторые, со своей стороны, настаивают на том, что в мозгу человека происходят скрытые "информационные процессы", подобные процессам вычисления, реализуемым на ЭЦВМ.

Но и среди кибернетиков нет единства. Их взгляды варьируют, в частности, в зависимости от того, в какой мере привлекаются психологические данные. Кроме того, на аргументации "оптимистов" нередко лежит печать философского непрофессионализма. На Западе импонирующая самолюбию человека мысль о великих возможностях созданной обществом науки, способной сконструировать мощный искусственный интеллект без кавычек, была подхвачена многими философами неопозитивистской ориентации. Противники этой "оптимистической" доктрины изображались занимающими "страусову позицию" (выражение А.Тьюринга) перед лицом грядущей опасности пришествия роботов либо просто обвинялись в некомпетентности. Преобладание таких крайних взглядов привело к тому, что в научной литературе США и Западной Европы было мало квалифицированных работ, авторы которых старались бы трезво осмыслить возможности и пределы нового научного направления. Монография X. Дрейфуса является в этом отношении исключением.

299



Х. Дрейфус как критик "искусственного интеллекта"



Философские аспекты моделирования на ЭЦВМ процессов познания и создания систем искусственного разума Хьюберт Дрейфус, являвшийся в период выхода данной книги профессором университета в Беркли (шт. Калифорния), разрабатывал с середины 60-х годов. Первоначальный краткий вариант данной книги составило исследование, выполненное им в период работы в качестве консультанта известной американской фирмы RAND. Первые критические выступления Дрейфуса не встретили понимания среди западных кибернетиков - по выражению А. Эттингера, написавшего предисловие к книге X. Дрейфуса (не вошедшее в данное издание), на него тогда "просто орали". Но когда книга Дрейфуса вышла в свет, она не могла не обратить на себя внимание. Ибо в лице ее автора специалисты по "искусственному интеллекту" нашли такого критика, который ведет дискуссию на их собственном языке и владеет необходимым фактическим материалом. В зарубежной литературе появился ряд статей, авторы которых полемизировали с Дрейфусом. Дискуссия вокруг его взглядов развернулась, впрочем, еще до захода в свет данной книги - в 1971 г. на конференции в Университете графства Кент (Англия), где оппонентом Х. Дрейфуса выступил Н. Сатерленд (см, труды конференции: Philosophy of Psychology, ed. S. С. Brown, London and Basingstoke Macmillan, 1974, p. 247 ff). После появления книги в спор вступили С. Ватанабе и И. Уилкс (S. Watanabe. Some thoughts on Dreyfus, "Critique of Artificial ReasorTr.-IEEE Trans, on System Man, and Cybernetics. January 1975P p. 141-145; .1. Wilks. Dreyfus's disproofs,- "British J. for the Philos, of Sci."F, vol. 27, No 2,1976, p. 177-185). Как справедливо отмечает А. Эттингер, вопросы, касающиеся возможностей и пределов "искусственного разума", "заслуживают серьезного открытого обсуждения. Они слишком связаны с естественными науками, чтобы предоставить их решение философам, и слишком философские по своему характеру, чтобы оставить их на усмотрение представителей естественных и точных наук" (A. G. Оеttinger Preface,-In: H. L. Drеyfus. What Computers can't do, 1972, p, XI),

В нашей стране уже имеется солидная философско-кибернетическая литература, в которой обсуждаются, в частности, и проблемы, поднятые в книге американского автора (примером может служить коллективная монография "Управление, информация, интеллект" под ред. А. И, Берга и др., М., "Мысль", 1976) . Тем не менее для советского читателя целесообразно ознакомление с данной книгой, так как аргументы Дрейфуса залуживают того, чтобы их учли и специалисты в области вычислительных систем и их математического обеспечения, и психологи, использующие кибернетическое моделирование как метод изучения психики и поведения человека, и философы, осмысляющие познавательно-практический вклад нового направления в науке и технике. В книге Дрейфуса представлено развернутое изложение определенной линии в методолого-кибернетических исследованиях на Западе, а именно, линии скептического отношения к перспективам созданий систем, "интеллект" которых существенно приближался бы к логико-творческим способностям человеческого разума. Материал книги может содействовать углублению понимания "кибернетической составляющей" научного прогресса, и скепсис автора, пропущенный через надежный методологический "фильтр", способен сыграть позитивную роль.



«Искусственный интеллект» как исследовательская сфера





Еще в 50-х годах в кибернетике выделились четыре родственных области. Это были: алгоритмизация "стратегических" игр типа шахмат; программирование невычислительных задач и логической дедукции в применении прежде всего к математическому материалу; разработки в области автоматического распознавания образов и исследования, направлен-

300

ные на создание машинных программ перевода с одного естественного языка на другой. Достаточно быстро обнаружилась глубокая общность задач этих областей. Выяснилось, что методы, разработанные в одной из них, могут быть применены в других, а также то, что их можно распространить и на иные сферы, например на проблематику машинного сочинения музыкальных композиций или автоматический диагноз заболеваний. Постепенно совокупность подобных исследований (достаточно единая по характеру своей проблематики) стала восприниматься как самостоятельное научное направление, и за ним все больше стало закрепляться название "искусственный интеллект".

С момента появления первых работ, которые можно отнести к направлению "искусственного интеллекта" (или просто к "искусственному интеллекту"), прошло три десятилетия. За это время выявились две главные цели, которые преследуют соответствующие исследования. Одна из них - моделирование на цифровой машине некоторых существенных черт интеллектуального (разумного) поведения. Другая - использование ЭВМ для решения сложных проблем, овладение которыми до сих пор было под силу только человеку. Различие этих двух целей относительно (многие кибернетические разработки подчинены обеим целям одновременно) и отражает лишь разные акценты. В одном случае акцент ставится на использовании в кибернетических целях эмпирического материала нейрофизиологии и психологии, в другом - на разработке эффективных методов решения "интеллектуальных" проблем независимо от того, в какой степени эти методы используются человеком (и используются ли вообще). Однако в обоих случаях соответствующие кибернетические исследования тесно связаны с психологией, поскольку поведенческий аспект интеллектуальной деятельности человека, учитываемый в большинстве работ по "искусственному интеллекту", близок или непосредственно заимствован из соответствующих психологических концепций. Работы многих специалистов США и Западной Европы в области "искусственного интеллекта" тесно связаны с теоретической установкой на объективное изучение поведения (известно, например, что Н. Винер придавал большое значение работам И.П. Павлова). В то же время исследования таких крупных американских психологов, как Дж. Миллер, К. Прибрам и У. Ниссер, выполненные за последние десятилетия, несут на себе явное влияние идей и методов "искусственного интеллекта". Советские психологи (А. А. Ератко, В. Н. Пушкин, О. К.Тихомиров и др.), так же как и специалисты других социалистических стран (Ф. Клике - ГДР, И. Лингарт - ЧССР), стоящие на диалектико-материалистических позициях, в своих исследованиях достаточно широко привлекают идеи и методы кибернетики.

Взаимодействие "искусственного интеллекта" и психологии способствует теоретическому и экспериментальному исследованию познавательной деятельности, стимулирует разработку новых психолого-кибернетических теоретических "моделей" интеллекта.



Крайности - вредны



Эта истина как нельзя более подходит для характеристики исходных установок книги Дрейфуса. Отпразной точкой рассуждений автора являются прогнозы, сделанные в середине 50-х годов некоторыми американскими учеными, относительно быстрого - в пределах до двадцати лет - прогресса в разработках "искусственного интеллекта". Подводя итоги исследований десяти лет (1957-1967 гг.), автор пытается ответить на вопрос, "действительно ли машины могут достичь хотя бы элементов творчества, играя в шахматы, разрешая простые проблемные ситуации, читая простые предложения и распознавая образы" (с 23) . Подразделив исследования, проводившиеся в его стране, на два этапа, которые обозначаются в книге как моделирование процесса познания" и "переработка семантической информации" ("искусственный интеллект" в собственном смысле), и подвергнув их критическому анализу, Дрейфус приходит к заключению, что получен-

301

ные результаты опровергают оптимистические настроения исследователей. По его мнению, развитие этих работ идет по одной и той же схеме: удачное начало при моделировании простых форм переработки информации и неудачи при попытках исследователей вложить в машину более сложные формы поведения. Создавшееся в данной области положение Дрейфус склонен характеризовать как "крушение радужных надежд", "застой", "тупик"- как ситуацию, окутанную неким "интеллектуальным смогом".

Такого рода оценки, рассматриваемые в применении к направлению в целом (а не к отдельным работам и программам, слабости которых верно подмечены Дрейфусом), искажают действительную перспективу развития. Сегодня мы можем сказать, что, вопреки заключениям автора, исследования в данной области не только не пошли на убыль, но неуклонно расширяются и набирают темп. Крайности, как известно, не способствуют уяснению подлинного положения вещей.





Следующее десятилетие

Дрейфус оперирует материалами работ 1957 - 1967 гг. (лишь фрагментарно привлекая отдельные результаты конца шестого десятилетия нашего века). Как же развивались работы по "искусственному интеллекту" в период 1968-1977 годов? Не говоря уже о прогрессе электронной вычислительной техники и ее применений в самых различных областях экономики и культуры - а прогресс этот был колоссальным,- в развитии поисковых работ мы должны констатировать углубление исследований, появление интересных идей и решений, новых подходов, разработку более мощных машинных программ. О некоторых из этих результатов мы упомянем в последующем изложении. Здесь же обрисуем, так сказать, внешнюю сторону исследований десятилетия 1968-1977 гг., имея в виду не только американскую науку (материалами которой оперирует Дрейфус), но и работы советских ученых (которые остались вне поля зрения автора).

Перечислим для начала некоторые труды этих лет, которые в своей совокупности отнюдь не подтверждают тезиса автора о "застое" исследований в области "искусственного интеллекта"» Мы заранее просим читателя запастись терпением, так как список будет довольно обширным, но, с нашей точки зрения, ознакомление с ним небесполезно для тех, кто решит проследить прогресс, наблюдающийся и в создании автоматов, моделирующих "опыт" человеческой переработки информации, и в разработке систем, решающих сложные задачи способом, отличным от методов решения их человеком.

Прежде всего укажем переведенные на русский язык зарубежные исследования: сборники работ "Кибернетические проблемы бионики", вып. I, M., "Мир", 1971, вып. II, М., "Мир", 1972; З.Бэнерджи. Теория решения задач. Подход к созданию искусственного интеллекта. М., "Мир",(оригинал опубликован в 1969 г.); Н. Нильсон. Искусственный интеллект. Методы поиска решений, М., "Мир", 1973 (оригинал вышел в 1973 г.); Дж. Слэйгл. Искусственный интеллект- Подход на основе эвристического программирования, М., "Мир", 1973 (оригинал 1971 г.); сборники статей "Интегральные роботы" [вып.1], М., "Мир", 1973, вып.2 , М., "Мир", 1975; Т. Виноград. Программа, понимающая естественные язык, М., "Мир", 1976 (оригинал 1972 г.) ; Р. Дуда, П. Xарт. Распознавание образов и анализ сцен. М., "Мир", 1976 (оригинал 1973 г,). Из бопьшого количества зарубежных работ, не представленных (пока) в русском переводе, отметим: R.C.Schank, К.М,Colby (eds.) Computer Models of Thought and Language. San Francisco, Freemen and Сотр., 1973; E. В. Hunt. Artificial Intelligence, New York - San Francisco - London, Acad. Press, 1975; G. Pask. Cybernetics of Human Learning and Performance. The Guide to a Theory and Research. London, Hutch in son, 1975; G. Pask. Conversation, Cognition and Methodology. Amsterdam, Elsevier, 1975; P.H.Winstоn (ed.). The Psychology of Computer Vision. New York. McCrow-

302

1975; В. Raphael, The Thinking Computer, San Francisco, Freemen and Corp 1976 P.H.Winslon. Artificial Intelligence. Reading (Mass.)-Meno park (Calif.), Addison-Wesley, 1977. Отечественная литература по "искусственному интеллекту" последних лет не менее обширна. См., например, следующие работы: Д. А. Поспелов, В.Н.Пушкин. Мышление и автоматы М "Советское радио", 1972; М. Б. Игнатьев, Ф, М. Кулаков, А. М. Покровский. Алгоритмы управления роботами-манипуляторами. Л., "Машиностроение", 1972; Н. М. Амосов, А. М. Касаткин и др. Автоматы и разумное поведение. Киев, "Наукова думка", 1973; Е. А. Александров, Основы теории эвристических решений. Подход к изучению естественного и построению искусственного интеллекта. M. "Советское радио", 1975; Н.Г. Загоруйко. Искусственный интеллект и эмпирическое предсказание. Новосибирск, 1975; Искусственный интеллект и психология. М., "Наука", 1976; Э. В. Попов, Г. Р. Фирдман. Алгоритмические основы интеллектуальных роботов и искусственного интеллекта. М., "Наука", 1976. Работы по "искусственному интеллекту" публикуются во многих научных изданиях, в том числе в международном журнале Artificial Intelligence (Амстердам) и в отечественном журнале "Кибернетика" (Киев); в Англии выходит продолжающееся издание Machine Intelligence (Эдинбург) .

Результаты исследований по кибернетическому моделированию процессов познания и системам, имитирующим определенные аспекты разумного поведения, обсуждаются на многочисленных научных совещаниях, в том числе международных. Наиболее авторитетные из них - Международные объединенные конференции по искусственному интеллекту (четвертая состоялась в СССР -IV МОКИИ, Тбилиси, сентябрь 1975 г., а пятая - в США, Кембридж, шт. Массачусетс, август 1977 г.), Сотрудничество советских, американских, английских специалистов и ученых других стран в области "искусственного интеллекта", активно начавшееся в период подго­товки и проведения IV МОКИИ, было продолжено на международной конференции по данной проблематике, которая проходила в г. Репино (под Ленинградом) в апреле 1977 г.

Труды IV МОКИИ дают четкое представление о круге вопросов, который в настоящее время охватывает понятие "искусственного интеллекта" как исследовательского направления. Он включает следующие темы: математические и теоретические аспекты "искусственного интеллекта"; методы представления задач и знаний в памяти вычислительной системы; методы поиска решений, эвристические методы; обучение машины, отладка программ "искусственного интеллекта", автоматическое программирование; машинное распознавание речи; общение с ЭВМ на естественном языке; технические средства и математическое обеспечение «искусственного интеллекта»; обработка визуальной информации; алгоритмы управления движением и роботы; психологические аспекты "искусственного интеллекта". Двенадцать выпусков трудов, изданных к началу этой конференции, составили свыше 2000 страниц! Таким образом, как мы видим, исследовательская работа в данном комплексном направлении кибернетики разворачивается все шире, вовлекая в круг своих проблем математиков и специалистов в области вычислительных систем, инженеров, лингвистов, психологов, логиков, философов.



Реальность трудностей



Итак, общая оценка перспектив "искусственного интеллекта", данная в книге, не прошла проверки временем. Значит ли это, что критика Дрейфусом работ американских авторов десятилетия 1957-1967 гг. (Г.Саймона, М.Минского и др.) совершенно беспочвенна? Отнюдь нет. Работы эти отражали реальные слабости подхода к решению интеллектуальных" задач, основанного на "силовом" приеме перебора вариантов и их выбраковке, базирующейся на достаточно слабых эвристических методах.



303

Известно, что для любых мало- мальски сложных задач сплошной перебор невозможен из-за громадности дерева альтернатив. Например, число возможных позиций в шахматной игре К. Шеннон оценил как 10120. Чтобы представить себе, сколь необозримым оказывается в этом случае перебор, укажем на то, что, по имеющимся оценкам, с тек пор как человек обрел дар речи, все люди на земле произнесли "только" 1016 слов! Чтобы сделать реальным машинное решение подобных задач, причем не только на современных машинах, но и на машинах, создание которых возможно в любом обозримом будущем, составителю программы необходимо руководствоваться определенными соображениями относительно тех характеристик, которые можно эффективно использовать для ограничении перебори с тем, чтобы затраты машинного времени и объем требуемой для решения информации соответствовали реальным вычислительным мощностям. Коротко говоря, необходимо разумное ограничение рассматриваемых машиной альтернатив, ибо их число растет по экспоненциальному закону, который оборачивается кошмаром для вычислительной процедуры. "Переборный" подход в кибернетике - естественное следствие развитие машинной математики, основанной на цифровой технике. Кодирование информации с помощью дискретных объектов типа цифр и букв, которым пользуются создатели систем "искусственного интеллекта", с необходимостью порождает "атомистический'' машинный мир дискретных данных и фиксированных признаков. Ориентация в этом мире - и решение в его терминах сложных задач (хотя бы отчасти напоминающих те, которые решает человек в своей интеллектуально-творческой деятельности в науке и практике) - представлялась возможной лишь на пути выработки методов выделения существенных ("релевантных") факторов (критериев, параметров, характеристик). Это обстоятельство стало ясно кибернетикам еще в 50-х - начале 60-х годов. Оно отмечается, например, в статье "Модели обучения и управляющие системы", написанной Ю. А. Шрейдером в качестве дополнения к переводной книге Р. Буша и Ф. Мостеллера "Стохастические модели обучаемости" (М., Физматгиз, 1962; оригинал книги вышел в 1955 г.; дополнение к русскому изданию было написано в 1960 г.).

Для реализации целесообразно организованного перебора необходимо, чтобы программа оперировала заранее заданным перечнем фактов (признаков, объектов, альтернатив и т. п.) либо содержала метод регулярного (в каком-либо смысле) порождения таких фактов и чтобы она могла отбирать существенные факты. Однако проведение этого подхода в жизнь натолкнулось в области "искусственного интеллекта" на серьезные трудности. Анализу сложившейся в результате этого ситуации в американской кибернетике 1957-1967 гг. и посвящена первая часть книги Дрейфуса. Ее материал показывает, что задача сведения "многовариантной" проблемы к "маловариантной"- существенное уменьшение "размерности" (числа подлежащих учету параметров) решаемой машиной проблемы, то есть превращение проблемы, как говорят, в "задачу с хорошей структурой",- связано с гораздо большими трудностями, чем это поначалу представлялось.

Эти трудности очень рельефно показаны в книге. Автор исходит из того очевидного факта, что личность справляется с проблемой экспоненциального роста, по-видимому, потому, что человеческие психические процессы качественно отличны от функционирования современных машин, даже снабженных программами "искусственного интеллекта". Решая задачи творческого характера и даже просто осуществляя человеческие способы поведения - начинав с восприятия объектов и кончая актами сознательного целеполагания,- личность не оперирует заданной ей "извне" системой жестко фиксированных признаков ситуации (задачи), в которой ей надлежит сформировать свое поведение (найти решение задачи). Человек строит систему соответствующих признаков ("фактов") в ходе осмысления задачи, а не просто синтезирует ситуацию (задачу) из готовых признаков.

304

Целое, как известно, состоит из частей, но части осмысляются в составе целого. "Переборное" осмысление неестественно для человека, по крайней мере коль скоро он рассуждает сознательно. Эвристические приемы, разумеется, используются человеком, так же как и разнообразные операции сравнения, абстракции, классификации и обобщения. В основе этих процессов, однако, в значительной мере лежит не до конца ясная в психологическом плане способность различения существенного и несущественного. Важную роль также играет феномен целостности восприятия - не только чувственно-сенсорного, но и мыслительно-абстрактного. Поэтому можно согласиться с Дрейфусом, когда он говорит, что без привлечения человеческой способности к "глобальному рассмотрению" объектов, восприятию целостных образов, "по-видимому, невозможно избежать ситуации экспоненциального роста и преодолеть ограниченные возможности эвристик в выборе вариантов, подлежащих рассмотрению" (с. 50)

Нет сомнения, что изучение эвристик - как в психологическом плане, так и в плане "эвристического программирования"- продвигает нас вперед и в понимании познавательного процесса у человека, и в разработке способов реализации на машине отдельных его проявлений либо результа­тов. Но до конца вскрыть соответствующие процессы "переработки информации" с помощью единственно лишь эвристического подхода вряд ли возможно. Никакие эвристики - четко формализованные, во всяком случае,- не могут, по-видимому, объяснить, как человек, переводя с одного естественного языка на другой, принимает решение остановиться на тех или иных вариантах результирующего текста. Тут существенную роль играет другое обстоятельство, настоятельно - и с полным основанием-подчеркиваемое Дрейфусом: способность человека учитывать нечеткие ситуации, не прибегая при этом к их точной формулировке. Идеи автора перекликаются здесь с соответствующими мыслями советского исследователя В. В. Налимова - автора книги "Вероятностная модель языка. О соотношении естественных и искусственных языков" (М., "Наука", 1974). Отечественный специалист в области математической статистики и планирования эксперимента, оперируя вероятностными представлениями, раскрывает феномен "мягкости"-гибкости значений слов и выражений - естественных языков и "диффузный" характер сложных систем. Элементы последних настолько тесно взаимодействуют друг с другом, что делают невозможным их "классическое" описание, основывающееся на фиксации параметров и изолированном изучении поведения отдельных переменных.

Дрейфус развивает сходную аргументацию, подчеркивая значение "глобальной формы" переработки информации, при которой информация рассматривается человеком "не в четкой форме, а остается, скорее, в периферийной сфере сознания и учитывается неявно" (с. 50); эта форма освоения реальности "действует постоянно, непрерывно организуя наше эмпирическое познание" (там же). Она тесно связана с использованием контекста для уменьшения неоднозначности - с учетом тех контекстуальных (ситуационных) черт, которые в книге названы неявными ориентирами. Конечно, соответствующие феномены человеческой психики далеки еще от уяснения, так же как явления интуиции ("инсайта"),- все то, что в своей совокупности играет ключевую роль в осмыслении фрагментов реальности, попадающих в сферу человеческого опыта. Именно эти процессы - а не более простые и доступные для изучения процедуры четкой понятийной классификации и логической дедукции -составляют главную трудность для машинного моделирования,

В самом деле, если для того, чтобы распознавать образы, узнавать объекты, усматривать "семейное сходство" (для которого не обязательно наличие общих признаков у объектов одной семьи), человек не "концептуализирует" свойства, проводя между ними жесткие границы, не "атомизирует" характеристики, по которым происходит распознавание, то каким

305



образом в машину, понимающую только четкие команды, вложить способность узнавания? Если перевод фразы иностранного языка зависит от серии нежестко фиксированных контекстов - быть может, от общего контекста нашей культуры,- то как возможен машинный перевод, который в его современном виде опирается на метод построения значений сложных языковых образований из значений более элементарных компонент?

На эти - и многие другие аналогичные - вопросы сегодня мы ответить не можем. Значит ли это, однако, что отмеченные выше функции интеллекта "преграждают путь" к дальнейшему прогрессу в области кибернетического моделирования процессов познания и создания систем "искусственного интеллекта", как думает Дрейфус? Как нам представляется, не значит. Можно добиваться успеха в формализации упомянутых феноменов, не предрешая при этом вопроса о том, с какой степенью полноты фактически окажется возможной такая формализация. Работы десятилетия 1968-1977 гг. свидетельствуют о реальности этого продвижения. О некоторых из них мы позволим себе сказать несколько слов.



Проблема узнавания и понимания

Еще в 50-60-е годы (а для некоторых задач и ранее) были выработаны методы сокращения перебора и получения оптимальных решений для задач с "хорошей организацией". Это были, в частности, методы минимизации переключательных электрических схем, основанные на средствах алгебры логики, линейное и динамическое программирование и др. В некоторых из них - таких, например, как "метод оврагов" И. М. Гельфанда и М. Л. Цетлина (см. их статью "О некоторых способах управления сложными системами" в журнале "Успехи математических наук", 1962, т. XVII вып. 1(103) ) -была заложена адаптационная тактика, позволявшая "разделять переменные" и выделять.существенные для данной задачи параметры. Однако проблематика машинного распознавания образов, если образы не стандартизованы, а также программирование задач, связанных с пониманием текстов и ситуаций (не подвергшихся предварительной формализации}, плохо поддавались изучению на этом пути.

Задачи автоматического узнавания привели к созданию систем, которые получили название персептронов. Дрейфус довольно пренебрежительно отзывается о работе Ф. Розенблата, положившей начало "персептронной" проблематике. И действительно, эпоха персептронов оказалась непродолжительной. В книге М. Минского и С. Пейперта "Персептроны", материалом которой пользуется автор, показано, в частности, что персептрон (определенного класса) не в состоянии решить даже такую задачу, как вопрос о связности или несвязности предъявленной ему фигуры. В этой связи Минский и Пейперт дают трезвую оценку соответствующих работ (которую, однако, Дрейфус не приводит) : "Наука о вычислениях и кибернетика начались - и эта, по-видимому, совершенно правомерно - с шумной романтической рекламы. Они изобиловали волнующими и заманчивыми новыми идеями, уже принесшими богатые плоды. Тяжкие требования строгости и осторожности могли бы показать, какие направления окажутся наилучшими. В самом деле, мы считаем, что маститые эксперты, наиболее активно выражающие недовольство по поводу "неуместных претензий" энтузиастов кибернетики, оказались в конечном счете неправыми. Но теперь наступило время зрелости, и мы должны противопоставить нашим рискованным начинаниям в равной мере впечатляющие образцы критического подхода" (М. Минский, С. Пейперт, Персептроны. М., "Мир", 1971, с. 10). И этот критический подход не заставил себя долго ждать. Он выразился 1 в разработке альтернативных направлений исследований в проблеме автоматического узнавания и связанной с ней формализации феномена понимания, играющего фундаментальную роль в разумном поведении. В нашей стране здесь выделяется подход М. М. Бонгарда, изложенный им в книге

306

"Проблема узнавания" (М., "Наука", 1967). Данный подход оказался вполне жизнеспособным, так как позволил установить естественную связь между проблемами узнавания и понимания. Об этом свидетельствует общая теоретическая установка авторов недавно вышедшего сборника работ "Моделирование обучения и поведения" (М., "Наука", 1975) -"понять, как думает человек, каковы механизмы мышления", учитывая при этом, что "это задача огромной сложности" (с. 3 упомянутого сборника),- и приведенные в нем результаты.

Критика Х.Дрейфусом работ в области моделирования рассудочной деятельности касается, в частности, американского кибернетика Д. Боброва. Его работы, однако, вскоре были превзойдены в исследованиях Т. Винограда. Результаты последних изложены в монографии, вышедшей в 1972 г. (см. русский перевод, выходные данные которого были указаны выше), и в публикации: Т. Winоgrad. Five Lectures on Artificial Intelligence. Stanford. 1974. Stanford Artificial Intelligence Laboratory. Memo AIM-246. За последние годы в кибернетических разработках, ведущихся в США, распространение получил метод представления знаний - то есть метод вложения в машину определенного способа "понимания" той "реальности", с которой она должна иметь дело, - основанный на предложенном М. Минским понятии ситуационной рамки ("фрейма").



Фреймы и сценарий

Согласно М. Минскому, фрейм (frame) есть воплощение "структуры данных" для выражения некоторой стереотипной ситуации; он представляет собой совокупность вопросов, которые можно задать о соответствующей воображаемой ситуации. Ответы определяют, какие ситуационные аспекты и с помощью каких средств подлежат рассмотрению (М. Мinsky. A Framework for Representing Knowledge, AJ, Memo. M.I.T. Artificial Intelligence Laboratory. Cambridge, Mass.r 1974). Например, фрейм "день" предполагает ответ на вопросы: какого года? какого месяца? какого числа соответствующего месяца? какого дня недели? и т. п.; в числе вопросов фрейма могут быть также вопросы о цели некоторой деятельности. Фреймы - это языковое средство представления в машине схемы некоторой ситуации или ситуационной структуры среды; такое представление осуществляется с помощью семантической сети, в которой фигурируют связанные между собой фреймы (frame system).



Идея ситуационных рамок - фреймов как способов организации "знаний" машины о некоторой {стандартизованной) внешней среде получила развитие в ряде работ американских кибернетиков. В одной из них - статье Р. Шенка и Р. Абельсона "Сценарии, планы и знания" (Труды IV Международной объединенной конференции по искусственному интеллекту, 6. Общение с ЭВМ на естественном языке. М., 1976) - понятие фрейма интерпретируется как общее название сведений о реальности, организованных в структуру, облегчающую обращение машины к этим сведениям; фреймы подразделяются на статические - сценарии (scripts) и динамические - планы (plans). Сценарий складывается из названия ситуации, указания причин ее возникновения и набора сцен; планы задают последовательности действий для достижения некоторой цели. Сценарии и планы служат отображению причинно-следственных связей между ситуациями среды.

Система организации информации, основанная на методе фреймов, предполагает с необходимостью стандартизацию "машинного мира", и тем не менее она в определенной мере обогащает наши представления о том, как на кибернетическом пути можно преодолевать трудность обращения к контексту, на которой главным образом строится аргументация Дрейфуса, Хотя данный метод предполагает чисто кибернетическое истолкование понимания"- как "интерпретации новой информации в уже организованом картине мира" (Р.Шенк, Р.Абельсон. Цит. соч., с.208; курсив-Б.Б.) , он все же вносит известную гибкость в "машинный мир":

307

предусмотренный методом переход от одного фрейма к другому на основе трансформационных правил можно рассматривать как некий упрощенный аналог человеческого "поведения в контексте".



Тезаурусы и ситуационное управление

Метод построения системы фреймов - как особых "ситуационных рамок", служащих для упрощенного описания ситуаций, с которыми может иметь дело машина,-родствен другому методу, идеи которого были развиты, в частности, в нашей стране. В его основе лежит идея о логико-семантических системах с вариативными составными частями - динамических тезаурусов, служащих для представления внешней среды, выражения семантической информации и формализации интеллектуальной коммуникации. Основные положения подобного тезаурусного порхода были сформулированы Ю. А. Шрейдером (см. например, его статью "О семантических аспектах теории информации" в кн.: Информация и кибернетика, М., "Советское радио", 1967); вопрос о логико-методологических возможностях данного метода освещен автором этих строк в книге "Кибернетика и методология науки" (М., "Наука", 1974, с. 353 и сл.). Другой метод, разрабатываемый в советской науке,-это подход, получивший название ситуационного управления.

Упомянутый подход вырос из задач построения систем управления такими сложными системами, для которых не имеется точного описания их структуры и поведения. В его разработке приняли участие как собственно кибернетики (Д. А. Поспелов, Ю. И. Клыков), так и психологи (В. Н. Пушкин) . Краткое представление о данном направлении можно получить из статьи Г.С.Поспелова и Д. А. Поспелова "Исследования по искусственному интеллекту в СССР" (в кн.: Кибернетику - на службу коммунизму, т. 9, М., "Энергия", 1978).

Суть метода ситуационного управления заключается в разработке способа логико-языкового структурирования проблемной среды- среды, в которой ставятся и решаются некоторые задачи с целью построения эффективных алгоритмов их машинного решения. При этом развивается некий "антропоморфный"- исходящий из лингво-психологической реальности- подход, позволяющий для данного круга задач строить обобщенные описания, основанные на учете структур понятий. Говоря конкретнее, при описании некоторых ситуаций (или обработке соответствующих текстов) производится выделение различных в функциональном отношении групп объектов - понятий-классов, имен, бинарных отношений, императивов и др. В структурировании проблемного мира машины наибольшую роль играют отношения между понятиями. Считается, что для каждого круга задач в принципе можно выделить конечное число основных отношений, через которые получают выражение остальные отношения, имеющие смысл в данном классе ситуаций. Проведенное таким образом структурирование проблемной среды позволяет строить алгоритмы решения задач, в которых роль операторов играют императивы, допускающие формулировку на естественном языке; обобщенные описания в языке ситуационного управления родственны фреймам, о которых говорилось выше (подробнее о ситуационном управлении см.: Д. А. Поспелов, В.Н. Пушкин. Мышление и автоматы, М., 1972; Ю. И. Клыков. Ситуационное управление большими системами. М., "Энергия", 1974; Д. А. Поспелов. Большие системы (ситуационное управление) . М., "Знание", 1975,



Расплывчатые множества



Понятия естественного языка и содержательного (неформализованного) мышления часто носят расплывчатый характер: имеют нечеткие, размытые границы, причем у разных людей для "одних и тех же" понятий характер "расплывания" может оказаться различным. Это обусловлено вариабельностью смыслов выражений, неоднозначностью значений, включением в содержание понятий субъективных оценок. В книге

308

Дрейфуса об этом говорится достаточно подробно. Автор рассматривает отмеченные феномены как принципиальное препятствие для работ по моделированию процессов познания и "искусственному интеллекту". Между тем исследования последних лет показали, что расплывчатость, гибкость и динамичность человеческих понятий и суждений в определенных пределах поддаются формализации. Соответствующие средства начиная с 20-х годов нашего века подготавливались в рамках многозначных и бесконечнозначных логик -логик, которые, помимо значений "истинно" и "ложно", допускают промежуточные истинностные значений. Однако лишь в середине 60-х годов обнаружилась связь этих логик с кибернетическим кругом идей.

В 1965 г. американский специалист в области автоматического регулирования и теории систем Л. А. Заде опубликовал первую работу по нечетким множествам, а затем развернул (вместе с рядом своих последователей) всестороннюю разработку теории расплывчатых понятий и алгоритмов. В силу важности данной теории для оценки вопросов, которые поднимаются в книге Дрейфуса, приведем имеющиеся на русском языке публикации создателя данной теории: Тени нечетких множеств {"Проблемы передачи информации", т. II, вып. 1, М., 19661 ; Расплывчатые алгоритмы (реферат) (Экспресс-информация "техническая кибернетика", 1968, №38); Основы нового подхода к анализу сложных систем и процессов принятия решений (в кн.: Математика сегодня. М., 1974); Понятие лингвистической переменной и его применение к принятию приближенных решений (М., "Мир", 1976) (см. также: Р. Беллман, Л. 3аде. Принятие решений в расплывчатых условиях.-В кн.: Вопросы анализа и процедуры принятия решений. Сб. переводов. М., "Мир", 1976).

Автор предлагаемой читателю книги очень кратко говорит о теории расплывчатых множеств, высказывая взгляд, что в своем понятии расплывчатости Заде "сваливает в одну кучу пять различных аспектов распознавания образов, а именно, аспекты, относящиеся к нечеткости границ, к зависимости от контекста, цели, субъективной оценки и к фамильному сходству" (с. 74) . X. Дрейфус утверждает, будто совершенно непонятно, "какой же аспект распознавания поддается формализации при помощи понятия расплывчатости (и поддается ли вообще хоть один)" (там же). Подобная оценка теории, в последние годы столь стремительно развивающейся, на наш взгляд, неправомерна (характерно, что Дрейфус в своей книге ссылается только на самую первую статью Заде по расплывчатым понятиям: L. A. Zadeh. Fuzzy sets.-Information and Control, vol. 8, 1965, No 3).

Вне всякого сомнения, новая теория означает шаг вперед в формализации феномена нечеткости понятий и образов. Она вводит многозначные (в общем случае бесконечнозначные) шкалы оценок принадлежности элементов данному множеству (объему нечеткого понятия); развертывает систему операций над такими множествами. Более того, использование нечетких понятий в составе предписаний к переработке информации приводит к распространению данного подхода на теорию алгоритмов. В связи с неоднозначностью нечетких алгоритмов в последние проникает такой специфически человеческий момент, как принятие решений. Решения, однако, также могут быть нечеткими, то есть основанными на расплывчатых критериях; отсюда необходимость разработки методов формализации такого рода расплывчатости. Нечетким оказывается и само понятие цели, которой должно отвечать искомое решение задачи. Формализуемыми в определенном смысле оказываются также субъективные оценки, начиная с исходного пункта теории - понятия нечеткой принадлежности предметов объему расплывчатого понятия: введенные Заде "функции членства в множестве" (принимающие значения из интервала [0, 1] действительных или рациональных чисел) могут для данного понятийного образования задаваться по-разному, что можно рассматривать как выражение индиви-

309

дуальных свойств носителей этих функций. Наконец, подход Л.Заде позволяет подойти к формализации семантики широкого класса выражений естественного языка (содержащего такие слова и обороты, как "очень", "более или менее", "вполне", и их повторные применения к расплывчатым понятиям: "очень старый", "очень-очень старый" и т. п.).

В настоящее время происходит стремительное развитие работ по теории расплывчатости. Представление о нем можно получить из статьи: Л.А. Гусев, И.М. Смирнова, Размытые множества (Обзор) ,-"Автоматика и телемеханика", 1973, № 5; и рецензии: М.А.Айзерман, И.М.Смирнова. Первые монографии по теории размытых множеств.-Там же, 1977, № 10. Размах исследований в новой области привел к появлению работ монографического характера (см. A. Kaufmann. Introduction a la theorie des sous-ensembles flous, t.I-III, 1975, Paris; англ. перев.: А. Ка-

ufmann. Introduction to the theory of Fuzzy Subsets, vol. 1, N.Y., 1975; C.V. Negоita, D.A. Ralesсu. Applications of Fuzzy Sets to Systems Analysis. Basel, 1975; N.Y., 1976). И это вполне закономерно. Логико-кибернетическая теория расплывчатости означает новый подход к старой проблеме абстракции и образования понятий - подход, более связанный с "человеческим фактором", нежели традиционно рассматривавшиеся в логике процессы обобщении, которые предполагают жесткую дихотомию "истинно - ложно". Создается впечатление, что каждой математической теории (и каждой теореме теории) можно поставить в соответствие ее расплывчатый вариант, причем многими (пожалуй даже бесконечно многими) способами. Во всяком случае, на сегодняшний день мы уже располагаем понятиями расплывчатых графов, расплывчатых автоматов, расплывчатых систем управления. Хотя в практических разработках систем "искусственного интеллекта" теория "расплывчатости" еще не успела проявить себя в полной мере, методологические соображения (некоторые из них высказаны в статье автора этих строк в кн.: Кибернетика и современное научное познание. М., "Наука", 1976, а также в статье М.А. Айзермана в журнале "Автоматика и телемеханика", 1976, № 7) свидетельствуют в пользу того, что ее применение принесет новые результаты в моделировании таких проявлений разумного поведения, которые не охватываются "нерасплывчатыми" подходами. Но, разумеется, в рамках одного лишь подхода Заде наивно ожидать преодоления всех тех трудностей "искусственного интеллекта", которые столь тщательно анализируются автором данной книги. "Зависимость от контекста" и "семейное сходство", к примеру, вероятно, с трудом поддадутся рассматриваемой теории.





Заложен ли в человеке "компьютер"? Четыре допущения

Как показывает произведенный нами краткий - и фрагментарный - очерк проведенных за последние десять лет модельно-кибернетических исследований интеллектуальных процессов, с негативизмом Дрейфуса согласиться нельзя. Однако и утверждать, что поставленные им проблемы решены, а конкретные критические аргументы утратили свою остроту, также неправомерно.

Прежде всего, в описанных выше работах по "искусственному интеллекту" нет ответа на кардинальный вопрос, сформулированный американским философом: верна ли гипотеза о том, что функционирование интеллекта и переработка им информации происходят путем дискретной пошаговой процедуры - процедуры, подобной той, которая закладывается в ЭВМ с помощью программ, содержащих разного рода эвристики? Иначе говоря, верно ли, что человеческое поведение может быть формализовано в "дискретностных" терминах? Положительный ответ на этот вопрос поднимает ряд проблем другого рода. Одна из них гласит: где же в живом организме "запрятано" подобное цифровое устройство? Другая, не менее важная, формулируется так: почему, как правило, мы не осознаем происходящего в нашем мозгу подобного цифрового процесса? Ведь известно, что ребенок, играющий со своими сверстниками, спортсмен, выступающий на соревнованиях, рабочий, изготовляющий какую-либо

310

деталь на станке, ученый, выступающий с научным сообщением, не отдают себе отчета (ни в ходе самой деятельности, ни после нее), что их мозг (или психика) в действительности производят или производили гигантские по объему вычисления. По какому принципу мыслит шахматист - независимо от его квалификации,- когда он при оценке позиции и выборе очередного хода, находясь перед лицом обширнейшего множества вариантов, отсекает все альтернативы, кроме одной - той, которая, по его мнению, является достаточно хорошей или единственно возможной? Производит ли он подсознательно сложнейший подсчет, лишь "в финале" выходящий на уровень сознания (причем не обязательно даже в логическую его часть)? А где гарантия, что подсознательный дискретный вычислительный процесс вообще имеет место?

Дрейфус признает, что не может дать категорический ответ на эти вопросы. По-видимому, ответа ныне не знает никто. Просто моделирование интеллекта и разработка систем "искусственного разума" идет по пути, определяемому используемой технологией,- по пути дискретного представления и переработки информации. Дрейфус считает, что перенос закономерностей, присущих подобным символьно-цифровым процессам, на поведение человека и его психику (процессы восприятия, воображения, мышления, прогнозирования и волеизъявления) не обоснован ни теоретически, ни эмпирически. Такой перенос просто равнозначен принятию четырех фундаментальных положений, которые в книге названы биологическим, психологическим, эпистемологическим и онтологическим допущениями.

Выделение этих допущений, несомненно, во многом верно схватывает методологическую ситуацию, сложившуюся в данном направлении кибернетики. Согласно биологическому допущению, на некотором уровне нейро-динамики (обычно таковым считают нейронный уровень) информационные процессы происходят на основе некоего биологического эквивалента переключательных схем. Психологическое допущение гласит, что мышление можно рассматривать как переработку информации, заданной в дискретном коде, причем переработка эта производится на основе некоторых формальных правил. Смысл эпистемологического допущение заключается в тезисе, что знание можно формализовать: все, что понято, может быть выражено в терминах логических отношений классической двузначной логики. И, наконец, согласно онтологическому допущению - все в мире, существенное для разумного поведения, можно представить в терминах множества четко определенных независимых друг от друга элементов. Цель рассуждений Дрейфуса состоит в том, чтобы показать, что биологическое допущение противоречит данным нейрофизиологии, психологическое и эпистемологическое (гносеологическое) допущения "полностью не доказаны и вполне могут оказаться несостоятельными" (с. 166), а принимать онтологическое допущение нет никаких оснований.



Является ли человек машиной Тьюринга?

Обсудим аргументацию Дрейфуса более основательно. Дрейфус резонно констатирует, что представление о мозге как об "устройстве", функционирующем подобно цифровой машине (это представление было выдвинуто на заре кибернетики), является "эмпирической гипотезой, время которой уже прошло" (с. 112). Действительно, если попытаться выразить принцип работы нервной системы и живого организма в целом в "машинных" терминах, то можно сказать, что перед нами аналого-цифровое ("гибридное") устройство. При этом не очень ясно, каково в сложнейших системах живого организма соотношение аналогового (например, гуморального) и цифрового (например, связанного с электрической импульсацией и наличием порогов "срабатывания" нейронов) начал.



В технике, однако, известны не только цифровые, но и аналоговые и аналого-цифровые вычислительные устройства. Если говорить о техноло-

311

гии, основанной на электрических процессах, то аналоговые машины появились раньше цифровых. Таким образом, сторонники "биологического допущения" могут внести соответствующую поправку в свой тезис о подобии живой системы вычислительному устройству. Дрейфус пытается отвести это возражение, ограничив свою аргументацию случаем дискретной переработки информации. Но это не усиливает, а ослабляет его позицию.

Оппонентов Дрейфуса не убедят также соображения автора относительно того, что организация мозга основана "на "сильном взаимодействии" его элементов", в то время как машина "лишена такого взаимодействия" (с. 112). Они могут сослаться на прогресс в разработке вычислительных машин и систем, в результате которого станет возможным воспроизведение подобного взаимодействия (или разработка достаточно добротного его аналога).

Отказ от признании живой системы "устройством" дискретной переработки информации означает, что такая система - и тем более человек - в физическом ("технологическом") плане не есть машина Тьюринга.

Но можно ли живые организмы и людей рассматривать наподобие машин Тьюринга в некоем более общем плане? Разберемся в этом вопросе. Машина Тьюринга -то есть идеализированная схема некоего абстрактного устройства, введенная ее автором в известной статье, опубликованной в 1936 г. (см. прим. 12), - является универсальным вычислителем, то есть прибором, способным в принципе (о смысле этой оговорки, играющей очень существенную роль, мы скажем ниже) производить любую вычислительную процедуру, в частности осуществлять и такой процесс вычислений, который производится на аналоговом устройстве. Для этого требуется только одно условие - чтобы вычислительный процесс был задан с помощью четких правил. Универсальные электронные цифровые машины наших дней - это своего рода машины Тьюринга в металле: в предположении возможности надлежащего увеличения их размеров, памяти, быстродействии и надежности они вычислительно универсальны.

Описанный вывод, основанный на достижениях математико-логической теории алгоритмов 30 -40-х годов нашего века, приводит к заключению, что "любой вид интеллектуальной деятельности, коль скоро он четко и однозначно описан на каком-либо естественном или искусственном языке, в принципе можно автоматизировать (промоделировать) с помощью некоторой машины. Этот результат следует из... постулата об универсальности "обычной" цифровой ЭВМ (которая, в предположении абстракции потенциальной осуществимости, оказывается просто реализацией машины Тьюринга или любого другого "уточнения" понятия алгоритма)" (А. И. Берг, Б. В. Бирюков, Философские вопросы кибернетики.- Энциклопедия кибернетики, т. 2, Киев, 1974, с. 504).

Смысл выделенных в вышеприведенном тексте слов состоит а отвлечении от ограниченности человеческой конструктивной и познавательной деятельности в пространстве, времени и материалах, в допущении, согласно которому если выполнено n шагов некоторого четкого построения (рассуждения, анализа и т. п.), то можно сделать и следующий (n+1)-й шаг. Эта абстракция- а ее важность в уяснении оснований теории алгоритмов в явной форме была отмечена одним из создателей данной теории, А. А. Марковым, - вводит в теоретическую кибернетику понятие, которое в философии называется абстрактной возможностью.

Какой смысл имеет привлечение данной абстракции к обсуждению интересующих нас проблем? Дело в том, что без обращения к этой абстракции невозможно говорить о моделируемости (выразимости, воспроизводимости, представимости и т. п.) любого регулярного (или регулиризуемого, могущего быть описанным в четкой форме) поведения человека на машине дискретной переработки данных типа машины Тьюринга, обладающей в каждый данный момент конечным, но всегда могущим в случае необходимости быть расширенным объемом памяти. Только с



312

позиции абстрактной возможности позволительно считать человека некой "машиной Тьюринга", или, точнее, "конечным автоматом".

В какой мере все сказанное касается обсуждаемого нами вопроса, спросит читатель. В незначительной. Ведь наши рассмотрения развертываются на иной, существенно более "низкой" - точнее говоря, содержательно более богатой - ступени абстракции. Вопрос касается фактической осуществимости на кибернетических устройствах - в наши дни или на какой-то грядущей ступени развития технологии и науки - моделей психических механизмов и процессов, поведения человека и т. п. Его можно сформулировать и иначе: возможно ли машинное получение результатов, которые, по общему признанию, являются творческими? В поисках ответа на эти вопросы не имеет смысла обращаться к абстракции потенциальной осуществимости. Техническая кибернетика и психология -сферы, в рамках которых развивается проблематика "искусственного интеллекта", - далеки от "логического рая" чистой математики.



Реальна ли "психологическая реальность"?



Мы должны, таким образом, обратиться к психологическому материалу, или - коль скоро мы в нашем анализе следуем за Дрейфусом - к "психологическому допущению". В какой мере кибернетические модели дискретных процессов переработки информации могут служить созданию картины функционирования человеческой психики?

На пути опровержения "психологического допущения" Дрейфус пытается доказать более сильное утверждение - что у психологических исследований вообще нет своего предмета. По его мнению, между уровнем физико-химических реакций мозга и "феноменологическим" уровнем осознаваемых человеком восприятий, воспоминаний, мыслей, актов целеполагания и т. п. вообще нет никакого "промежуточного уровня", который мог бы изучаться психологами, не говоря уже о моделировании соответствующих феноменов на цифровых устройствах. Подобное отвержение самой возможности существования теоретической психологии, а также точных методов изучения психики, представляется совершенно неприемлемым. Оно ведет к дуалистическому разрыву между нейродинамикой и субъективными явлениями, то есть тем, что в диалектико-материалистической литературе называется областью идеального. Оно снимает задачу изучения связей между физиологическим и психическим, в частности задачу выявления "нейрофизиологического кода" субъективных явлений- проблему, которая привлекает все большее внимание нейрофизиологов, психологов и философов (в этой связи можно указать, например, работы Н.П. Бехтеревой и идеи Д. И. Дубровского; см. об этом в кн.: Управление, информация, интеллект, с, 236 и сл.) . Это отвержение означает также, что "феноменологии" человеческого сознания отказывают в каких-либо реальных закономерностях. Советская психология, как известно, идет другим путем, признавая "психологическую реальность" как подлинный объект психологического исследования - объект, не "сводимый" к нейрофизиологической основе психики и не исчерпывающийся явлениями единственно сознательной жизни человеческого "я".

Пытаясь опровергнуть реальность "психологической действительности" (и называя критикуемую им позицию "менталистской"), автор книги ссылается на различие между "моделированием" (как воспроизведением лишь внешнего, "входо-выходного" проявления некоторого процесса) и "представлением" (как более глубоким моделированием, охватывающим как поведение, так и субстрат моделируемого процесса или системы). В категоричности этого различения проявляется недиалектический подход Дрейфуса к процессам познания, объяснения и моделирования. X. Дрейфус не учитывает того, что всякое моделирование (так же как объяснение и познание вообще) всегда есть приближение к объекту и может производиться с разной степенью глубины и полноты. В кибернетическом моделировании находит свое выражение диалектика отображения поведения,

313

структуры и субстрата моделируемой системы - при ведущей роли функционального моделирования, то есть моделирования поведения (см, об этом подробнее: Л. Б. Баженов, Б. В. Бирюков. Некоторые философские вопросы моделирования биологических объектов.-В кн.; Математическое моделирование жизненных процессов. М., "Наука", 1968). Из того, что моделирование - в том числе знаковое, допускающее представление модели в виде программы для ЭВМ,- всегда дает только приближение к изучаемой "психологической действительности", вовсе не следует его гносеологическая "ущербность". Шаткость заключений Х.Дрейфуса в этом пункте очевидна в свете результатов современных модельно-кибернетических исследований. Крити­ческое отношение автора к психологическим работам, в которых изучаются инварианты, позволяющие восприятию, по словам Дж. Федора, радикально и постоянно отбрасывать информацию, непосредственно содержащуюся в физическом входном воздействии (см. с. 140), безосновательно. В рамках модельно-кибернетического и экспериментально-машинного исследования выделение инвариантов - один из плодотворных путей изучения внутренних, то есть скрытых от личности и не усматриваемых в нейрофизиологических данных, механизмов психической деятельности. Роль инвариантов как неявных "опорных точек" интеллектуально-творческой активности на примере машинного моделирования процесса сочинений музыкальных композиций была показана советским ученым Р. Х. Зариповым (см. его статью "Моделирование транспозиции инвариантных отношений и музыкальных вариаций на вычислительной машине".- "Kybernetika", Academia, Praha, vol. 9. No 5,1973, p. 400-421; см. также кн,: Управление, информация, интеллект, с. 334-346) .Из работ Зарипова следует, что перенос инвариантной структуры из одних условий в другие является одним из общих принципов мышления и проявляется в разных видах интеллектуальной деятельности. Объективный характер подобного подхода выражается, в частности, в том, что с его помощью возможно прояснение механизмов преобразования мелодий в творчестве композиторов, а также объяснение фактов вольного или невольного заимствования музыкальных тем, по своей "внутренней сути" являющегося переносом либо изменением инвариантов. Контроверза "дискретное-непрерывное" Впрочем, было бы неверно недооценивать анализ психологического допущения, производимый Дрейфусом. Доводы автора во многом попадают в цель, в особенности когда речь идет об ограниченности методов, использующих принцип дискретности информации. О связанных с этим проблемах - таких, как проблема "нейтральных данных", бесконечной редукции правил, глобального контекста и т. п., - мы поговорим ниже. Здесь же остановимся на затрагиваемом в книге вопросе о соотношении дискретного и непрерывного в кибернетическом моделировании. Принцип дискретности данных, не подверженный ограничениям на уровне абстракции потенциальной осуществимости, по-видимому, действительно сужает диапазон возможностей "искусственного интеллекта", коль скоро речь идет о создании реально функционирующих моделей и систем. Ведь на этом пути может утратиться специфика решаемой задачи или моделируемого процесса. Мышление и восприятие, справедливо отмечает X. Дрейфус, включает целостные процессы, которые трудно понять в терминах последовательно или даже параллельно осуществляемых дискретных операций; "поскольку мозг по крайней мере отчасти работает, видимо, как аналоговое устройство, то весьма вероятно, что и наш разум порождает мысли и восприятия на базе "полей", "сил", "конфигураций" и т. п." (с. 116). Такое понимание интеллектуальной деятельности подпадает под более широкое (чем дискретная переработка информации) понимание "информационного процесса", означающее, "что наш разум на основе 314 одних осмысленных образований строит другие осмысленные образования" (с. 115). Автор, впрочем, излишне категоричен в противопоставлении дискретного и непрерывного: он не учитывает диалектическую подвижность соответствующих категорий. В действительности и реальный мир, и отображающий его человеческий интеллект воплощают в себе обе эти противоположности (о диалектике понятий "прерывное - непрерывное" см. подробнее в кн.: Б.В.Бирюков. Кибернетика и методология науки. М,, "Наука", 1974, с. 89-101) . К тому же многие из критикуемых Дрейфусом специалистов - так же как и исследователи, включившиеся в работы по "искусственному интеллекту" за последние годы,- отдают отчет в ограниченности "дискретностного" подхода, и не их вина, что технология в настоящее время не может предоставить в их распоряжение более гибкие средства. Феномен сложности Авторский анализ эпистемологического допущения также требует корректив. Смысл допущения сводится к следующему: любое четкое - в терминах правил - описание поведения может быть формализовано. Как говорит X. Дрейфус, это допущение предполагает, «что - по крайней мере в принципе - поведение человека можно представить с помощью набора независимых утверждений, описывающих "входы" организма и соотнесенных с утверждениями, описывающими его "выходы"» (с. 148). Создается впечатление, что автор не согласен с этим тезисом, хотя, по сути, его невозможно оспорить: оговорка "в принципе" означает принятие уровня абстракции потенциальной осуществимости, а на этом уровне все, что может быть ясно и общепонятно объяснено, может быть и формализовано, скажем, представлено с помощью некоторой машины Тьюринга. И попытка Дрейфуса прибегнуть к reductio ad absudum, указав, что в этом случае самолеты и корабли также окажутся машинами Тьюринга, несостоятельна: на уровне дискретных рассмотрений и абстракции потенциальной осуществимости любые действующие технические устройства действительно можно рассматривать как идеализированные машины, перерабатывающие информацию в соответствии с определенными правилами. Но есть сторона дела, которую автор схватывает верно. Человеческое поведение можно считать закономерным в том смысле, что оно определенным образом упорядочено. Однако предположение, будто законы поведения могут быть воплощены в программах для ЭВМ или каком-либо ином эквивалентном формализме, далеко не очевидно и, во всяком случае, нуждается в обосновании. В возможность такого автор не верит, выдвигая следующий серьезный аргумент: необходимые для программного представления поведения человека "громадные вычисления могут оказаться неосуществимыми в силу самих законов физики и теории информации, требующих таких вычислений" (с. 152). Здесь мы подошли к важнейшей проблеме современной кибернетики - проблеме сложности. Выше мы уже упоминали о ней, когда указывали на трудности, связанные с движением по дереву экспоненциально растущего множества альтернатив, открывающихся при решении задачи "большой размерности". Рассмотрим теперь эту проблему подробнее. В настоящее время в различных разделах кибернетики и математики формируются элементы того, что со временем может вылиться в общую теорию сложности. Пока такой теории не существует, но в рамках математической логики уже изучается сложность алгоритмов и вычислений, в теории информации - сложность кодирования и декодирований и т. д.; Г. Н. Поваровым предложена интересная "индуктивная шкала" сложности материальных систем (см., например, кн.: Управление, информация, интеллект, ч. II, гл.4) . Теоретическое изучение проблемы сложности особенно важно потому, что оно проливает свет на некоторые фундаментальные закономерности реального мира и познания - закономерности, носящие (как и вообще все 315 закономерности) характер своего рода запретов. По-видимому, именно сложностные ограничения обесценивают вычислимость "в принципе". В этой связи целесообразно отметить идеи Дж. фон Неймана. Еще в конце 40-х годов фон Нейман задумалса над соотношением сложности объектов и сложности их описаний; он выдвинул идею о существовании некоего "порога сложности", начиная с которого описание объекта становится сложнее самого объекта - идею, чреватую серьезными последствиями для сложившейся научной практики, при которой описания вводятся именно для того, чтобы упростить сложное, сделав его понятным для исследователя. Приведем аутентичный текст заключения фон Неймана: "Нет сомнения в том, что любую мыслимую фазу любой мыслимой формы поведения можно "полностью и однозначно" описать с помощью слов. Это описание может быть длинным, однако оно всегда возможно. Отрицать это означает примкнуть к разновидности логического мистицизма, от чего большинство из нас, несомненно, далеки. Имеется, однако, существенное ограничение, состоящее в том, что все сказанное применимо только к каждому элементу поведения, рассматриваемому в отдельности, но далеко не ясно, как все это применять ко всему комплексу поведения в целом..- Здесь нам придется иметь дело с такими разделами логики, в которых у нас практически нет предшествующего опыта- Степень сложности, с которой мы сталкиваемся в этом случае, далеко выходит за рамки всего того, что нам известно. Мы не имеем права считать, что логические обозначения и методы, применявшиеся ранее, могут быть использованы и в этой области. У нас нет полной уверенности в том, что в этой области реальный объект не может являться простейшим описанием самого себя, то есть что всякая попытка описать его с помощью обычного словесного или формально-логического метода не приведет к чему-то более сложному, запутанному и трудновыполнимому" (Дж. фон Нейман. Общая и логическая теория автоматов. В кн: А. Тьюринг. Может ли машина мыслить? М,, Физматгиз, 1960, с, 90-91). Исходя из этого, фон Нейман выдвинул гипотезу, согласно которой "сложностные" задачи со временем приведут к возникновению логики нового типа, которая будет менее комбинаторной и более аналитической ("непрерывностной") и сомкнётся с нейрофизиологией. Современное развитие теории "расплывчатости", так же как и работы, развивающие идеи И. М. Гельфанда и М. Л. Цетлина о "континуальных моделях управляющих систем" (о которых см, М. Л. Цетлин. Исследования по теории автоматов и моделирование биологических систем. М., "Наука", 1969), в частности, моделирование возбудимых сред, по-видимому, подтверждает "логическую" часть прогноза фон Неймана, Что же касается предположения о существовании "порога сложности", то этот вопрос до сих пор остается открытым. Но научная мысль продолжает поиск. Алгоритмическое определение понятия количества информации, предложенное А. К Колмогоровым, в значительной степени является результатом его размышлений над проблемой сложности. Колмогоровым же было проведено различение четырех категорий чисел -малых, средних, больших и очень больших, сравнение которых привело его к заключению, что начиная с больших чисел "переборные" задачи становятся недоступными для решения: "Проблемы, которые не могут быть решены без большого перебора, останутся за пределами возможностей машины на сколь угодно высокой ступени развития техники и культуры" (А. Н. Колмогоров. Автоматы и жизнь. В кн.: Кибернетика ожидаемая и кибернетика неожиданная. М., "Наука",1968, с. 24). Онтологическое допущение в свете нетранзитивности научного объяснения Полное опровержение эпистемологического допущения, утверждает Дрейфус, требует обоснования того факта, что мир принципиально не может быть проанализирован в терминах окончательно установленных, четко определенных данных, то есть разложен на некие неизменные "факты"- элементы информации. Допуще- 316 ние о возможности такого представления мира - оно названо в книге онтологическим допущением,-как убедительно показывает Х.Дрейфус, является наиболее шатким. Критика в данном случае попадает в цель, хотя Дрейфус не всегда пользуется надлежащим оружием и поражает далеко не все уязвимые пункты "онтологического допущения". Автор справедливо ставит под сомнение утверждение, будто "для того, чтобы стать разумным, человек тем или иным способом решил или должен был решить проблему большой базы данных. Вполне возможно,- говорит он- что сама эта проблема возникла как "артефакт", связанный с тем, что вычислительная машина вынуждена оперировать дискретными элементами”(с. 170). Человеческое знание невозможно разложить на какие-то окончательные простые категории. Эта критика, на наш взгляд, заслуживает более углубленного рассмотрении. "Атомистическая" доктрина знания уязвима в двух отношениях. Первое состоит в том, что трудно допустить наличие каких-то окончательных "атомов знания". Об этой неопозитивистской концепции логического атомизма мы поговорим в следующем разделе. Согласно второму, даже если предположить, что "атомы знания" существуют, возникает вопрос, какова их роль в познавательном процессе- Выделение таких "атомов" имело бы смысл только при условии, что в процессе научного объяснения всегда, в случае необходимости, возможно сведение знаний об изучаемых явлениях к этим "атомам". Тогда, разумеется, это объяснение в принципе можно было бы вложить в подходящим образом запрограммированный цифровой вычислитель. Однако многовековая практика научного объяснения опровергает такую возможность. Редукция понятий как сведение сложного к простому может быть принята только с серьезными ограничениями. Научное объяснение в общем случае не обладает свойством транзитивности: если положения теории А объясняются в терминах теории B, оперирующей более "элементарными" (и более "точными") данными (фактами, элементами знания и т. п.), а положения теории В могут быть уяснены в терминах еще более "дробной" теории С, то из этого не следует с необходимостью, что положения теории А объяснимы с помощью теории С Если бы отношение "х объясняет у" было транзитивным - позволяющим неограниченно переносить свойство объяснимости с теории на теорию,- то мы были бы в состоянии понимать любые процессы в терминах, скажем, физики фундаментальных частиц. Но, как известно, для большого класса наук, даже многих разделов той же физики, этого сделать нельзя. Нетранзитивность процессов научного "сведения - выведения" подрывает "онтологическое допущение". Логический атомизм и философское наследие Обратимся теперь к концепции, предполагающей наличие неизменных "атомов знания", выполне- мых будто бы с помощью логического анализа и могущих служить основой для машинных моделей разума. Идея о существовании подобных "атомов" еще совсем недавно имела немало сторонников среди философов неопозитивистского направлении. Как верно отмечает Х.Дрейфус, наиболее полное выражение она получила в "Логико-философском трактате" Л.Витгенштейна, основная идея которого сводится к мысли о том, что мир определяется в терминах множества атомарных фактов, которые могут быть выражены логически независимыми предложениями. Подобной концепции логического атомизма автор противопоставляет человеческое "чувство ситуации", позволяющее личности выбирать из потенциально бесконечного множества фактов "только те, которые релевантны - имеют непосредственное отношение к делу, а после того, как релевантные факты найдены, оценить их значимость"; ибо "не существует каких-либо фактов, релевантность и значимость которых инвариантны во всех ситуациях"" (с. 182) . Не "нейтральные" по отношению к человеческой деятельности факты и "атомарные предложения" определяют человеческое 317 поведение, а учет ситуаций и обращение к контексту, который и придает фактам их значимость (см. с. 179). Здесь мы подходим к самой сути аргументации автора. Исходя из исторической ограниченности "атомизма" как философского принципа, составляющего, по его мнению, гносеологическую основу "искусственного интеллекта", Дрейфус направляет все свои усилия на то, чтобы доказать, что "атомистический" подход вообще не пригоден дли адекватного моделирования интеллектуальной деятельности, так как человек отображает объекты прежде всего как некие целостности, не расщепляя их на независимые друг от друга части; такое расщепление - анализ целого-производится не до восприятия объекта, а после этого восприятия, когда человек вторично фиксирует на нем свое внимание. "Логический атомизм" Дрейфус рассматривает как органическое продолжение и логическое завершение рационалистической линии философской мысли, "философской традиции", как он ее называет,- традиции, восходящей еще к Платону. Взгляды, составляющие существо онтологического допущения "искусственного интеллекта", формировались, по его мнению, под влиянием концепций "эмпириков" (Д. Юм) и "идеалистов" (И.Кант); в системе взглядов Юма, пишет Дрейфус, информационным "битам" соответствуют атомарные впечатления, а в системе Канта - правила рассудочной деятельности. Эмпирики и идеалисты "подготовили почву для модельного представления мышления в виде процесса переработки информации - безличного процесса, в котором "процессор" не играет существенной роли" (с. 106). Очевидно, что трактовка "философской традиции", предлагаемая Дрейфусом, страдает явными натяжками. Многогранные взгляды Канта отнюдь не укладываются в прокрустово ложе, определяемое концепцией автора. Что касается кантовской интерпретации "обычной", или "общей", логики (согласно которой в этой науке исследование понятий, суждений и умозаключений производится при полном отвлечении от мыслимого содержания), а также этической теории Канта (по которой нравственное поведение состоит в безусловном подчинении этическому долгу-"правилу" категорического императива), то они в той или иной степени подпадают под общую оценку Дрейфуса. Однако когда Кант раскрывает связь между чувственным созерцанием и рассудком (оперирующим понятиями и суждениями), он отмечает значение такого фактора, как "продуктивная сила" воображения; человек как субъект познавательного процесса - "процессор", если прибегнуть к кибернетической терминологии,- учитывается в кантовском учении о разуме как способности к умозаключению, приводящей к возникновению идей, что скорее противоречит идее Дрейфуса, нежели укрепляет ее. В истолковании взглядов Д. Юма в книге также наблюдается неоправданное смещение акцентов. Юм, например, придавал большое значение изучению психики человека и в значительной мере с психологических позиций подходил не только к этике и эстетике, но и к истории и экономике. Если "философская традиция”, с которой полемизирует Дрейфус, есть традиция рационализма, то принять его позицию без существенных ограничений и уточнений просто невозможно. Пусть мир, в котором мы живем, нельзя безоговорочно провозгласить миром, в котором заранее гарантирована "ясность, определенность и управляемость", миром "структурированных данных, теории принятии решений и автоматизации". Однако наука и практика не могут не исходить из того, что мир доступен человеческому разуму. В этом смысле отвергать рациональное начало в мире и человеке значит становиться на позицию того самого "логического мистицизма", о котором говорит фон Нейман в приведенной нами цитате. Строя свою аргументацию, Дрейфус широко пользуется материалами гeштальтпсихологии и психолого-гносеологическими концепциями Э. Гуссерля, позднего Л. Витгенштейна, М. Мерло-Понти и М. Хайдеггера. 318 По-видимому, именно феноменолого-экзистенциалистские и иррационалистические установки этих философов, разрывающих "феноменологический" мир человеческой личности и реальность (к которой относится, в частности, нейрофизиологическая основа психики), "повинны" в том, что автор иногда заходит так далеко, что фактически начинает отвергать формализацию как метод изучения познавательных процессов. Логическая традиция Какова же на самом деле та философская традиция, на основе которой наука пришла к кибернетике, к моделированию познавательных процессов, к направлению "искусственного интеллекта"? Прежде всего это логическая традиция -традиция, исторически восходящая к Лейбницу. Справедливо обращая внимание на эту сторону дела, Дрейфус, к сожалению, не развивает достаточно подробно тему математико-логической подготовки кибернетики. В числе предшественников современных модельно-кибернетических исследований, помимо Лейбница и Буля (о которых говорится в книге), следует назвать также и выдающихся математических логиков конца прошлого века Э. Шредера и П. С. Порецкого (Шредер вполне определенно сформулировал идею "искусственного интеллекта"), и Г. Фреге, выдвинувшего программу логической формализации математики, и Д. Гильберта, положившего начало современным метаматематическим исследованиям, и К. Геделя, А. Тьюринга, Э. Поста, С. Клини, А, Тарского, А. Маркова, П. Новикова и др., заложивших основы теории алгоритмов и в серии знаменитых теорем раскрывших внутреннюю ограниченность формализации. Читая высказывания Дрейфуса о логике, следует иметь в виду, что логические отношения для него исчерпываются только булевой алгеброй. Между тем за последние полвека арсенал логики необычайно обогатился: спектр логических построений простирается теперь от неклассических логических систем типа интуиционистской и конструктивной логик, многозначных, бесконечнозначных и модальных логических систем до вероятностно-индуктивных теорий, логических исчислений повелительных предложений, теории вопросно-ответных процедур и логики расплывчатых понятий, о которой речь шла выше. Логика как наука вплотную сомкнулась с математической лингвистикой и семиотикой, и на этой основе возникла общая теория языков, исчислений и алгоритмов. Получили развитие прикладные логические разработки. Если учесть перспективы применения всех этих логико-семиотических средств в кибернетическом моделировании и "искусственном интеллекте", то тезис автора об онтологическом допущении как некой обязательной методологической базе работ по автоматизации интеллектуально-творческих процессов не выглядит убедительно. Третья возможность. Антиномия кибернетической формализации и ее решение Пусть читатель не распространяет нашу критику ряда положений автора на книгу в целом. Из произведенного Дрейфусом анализа трудностей кибернетики можно извлечь обширный полезный и интересный материал. Теперь настало время подробнее рассмотреть - в позитивном плане - его основную аргументацию. Автор подчеркивает, что своеобразие, важность - и вместе с тем проклятие - работ по разработке систем общения пользователей с машиной на естественном языке состоит в том, что "машине приходится использовать формальные методы для того, чтобы справляться с реальными жизненными ситуациями, как только они возникают" (с. 161), ситуациями, в которых "объекты имеют специфическое ситуативное значение" (с. 160). Современные машины, справедливо отмечает Х.Дрейфус, при нынешних методах программирования не могут "участвовать в ситуациях" наравне с людьми; на них можно моделировать лишь некоторые разновидности теоретического понимания, но то, что иногда называют 319 практическим интеллектом, не программируется. Машины "«экзистенциально тупы» в том смысле, что не в состоянии справляться с конкретными ситуациями" (с. 160). В качестве подтверждения приводится фактический материал, относящийся к использованию естественного языка. В процессе языковой коммуникации люди не связаны жестко лингвистическими правилами. Они могут их нарушать, видоизменять и тем не менее выражать именно то, что они хотят сказать, и при этом другие люди их понимают. Невозможность программирования этой способности Дрейфус объясняет трудностями формулирования правил допустимого нарушения правил. Ибо на этом пути мы неизбежно впадем в бесконечный процесс сведения одних правил к другим. Эту вполне реальную трудность, существенным образом тормозящую работы по машинному переводу, Дрейфус, вслед за Л. Витгенштейном (как автором "Философских исследований"), понимает как диалектический аргумент, опровергающий посредством сведения к абсурду возможность автоматизации сферы языкового общения. Диалектический момент усматривается при этом в антиномичности, которая может истолковываться как в терминах правил, так и контекстов. В применении к проблеме контекстуального понимания антиномичность состоит в следующем. Ставя задачу конструирования разумного поведения, мы сталкиваемся с противоречием. Если для каждого контекста, в котором фигурирует некоторый набор фактов, должен быть более широкий контекст, позволяющий выделять среди них существенные (тезис), то должен существовать какой-то первичный, не сводимый ни к чему другому контекст, не требующий дальнейших объяснений, так как иначе возникнет бесконечная редукция контекстов (антитезис). Для разрешения этой антиномии Дрейфус вслед за Кантом отказывается от предположения, что возможны только две альтернативы. Существует третья альтернатива, в которой и заключено решение дилеммы; она воплощена в человеке. Для человека "нет никакой иерархии контекстов - просто наличная ситуация воспринимается нами как продолжение или модификация предшествующей. Тем самым мы переносим из непосредственного прошлого совокупность предвидений, основанных на том, что было существенным и важным мгновение назад. Этот перенос создает определенную установку, определяющую то, на что нам следует обратить внимание" (с. 186). Представленная Дрейфусом антиномия действительно диалектична. По своему типу она, вообще говоря, имеет глубокие исторические корни, в чем нетрудно убедиться из приведенной автором "временной версии" исходной антиномии: "либо должен существовать самый первый контекст - контекст, который машина не в силах распознать из-за отсутствия предыдущего контекста, в терминах которого происходит выделение существенных характеристик данного контекста; либо возникает редукция контекстов во времени, уходящая в сколь угодно отдаленное прошлое, и тогда машина окажется не в состоянии начать процесс распознавания" (с. 188) . Нетрудно заметить, что перед нами вариация на тему апорий Зенона, в частности апории "Дихотомия", с помощью которой, как полагают историки античной философии, Зенон старался доказать, что движение не может начаться. В чем же состоит решение подобных антиномий? Причем решение не на логико-теоретическом уровне, а решение реальное, ибо подобные антино-мии - не пустые, ничего не отражающие абстракции: они присущи самой действительности. Решение это - в самом движении, самом развитии* В таком, например, движении человеческой деятельности, апелляция к которой понадобилась Дрейфусу для раскрытия антиномичности кибернетического моделирования. Это движение есть обучение, развитие знания, практика. В применении к кибернетике вопрос ставится примерно так: возможна ли организация аналогичных процессов для вычислительных 320 машин и их программ? В свое время этим вопросом занимались еще фон Нейман и Тьюринг. Нейман в связи с этим разработал теорию самовоспроизводящихся автоматов и в ее рамках обсуждал вопрос о возможности возрастания сложности автоматов в процессе их самовоспроизведения. Эту модель он рассматривал в качестве некоего весьма упрощенного аналога - но все же аналога! - органической эволюции, которая, как известно, "использует" и накопление опыта, и "решение проблем", и обучение, и развитие. И хотя Дрейфус лишь вскользь упоминает о Тьюринговой идее программирования "машины-ребенка", в ходе дальнейших рассуждений он все же признает, что если со временем удастся запрограммировать изначальные человеческие рефлексы и обеспечить машине возможность обучения, "то, быть может, окажется возможным решить проблему распознавания контекстов" (с. 187). Личность - объект или субъект? Активность деятеля-человека Критически интерпретируемым "допущениям искусственного интеллекта" в книге противопоставляется альтернативная концепция. Эта часть изложения Дрейфуса в значительной мере представляет самостоятельный интерес. Главная идея Дрейфуса заключается в том, что специфика познавательной деятельности человека, его способов поведения - всего того, что является камнем преткновения для создателей современных ЭЦВМ и их математического обеспечения, - вытекает из того, что человек находится в собственном "человеческом мире" (мире, для обозначения которого можно было бы употребить термин "ноосфера", то есть сфера разума), не совпадающем с тем "физическим миром", информация о котором только и может обрабатываться на современных цифровых машинах. Согласно противоположной точке зрении, называемой в книге "машинной парадигмой", цифровая машина есть воплощение логического мышления, и ей "не хватает только некоторой совершенной программы, чтобы сравняться с человеком в его отличительном свойстве - рациональности, разумности" {с. 195). В основе данной парадигмы, по Дрейфусу, лежат следующие предпосылки: объяснение человеческого поведения может (и должно) быть дано в естественнонаучных терминах; ситуации, с которыми сталкиваются люди, можно трактовать подобно физическим состояниям; "мир человека" допустимо интерпретировать так же, как изучаемую естествознанием вселенную. Критикуя такой взгляд, Дрейфус подчеркивает, что он в конечном счете ведет к противопоставлению разумного и биологического начал в человеке и к "попыткам моделирования способности к рассуждению, исходя из нее самой" (с. 197). Подобное толкование человека как устройства или объекта, реагирующего на воздействия со стороны других объектов согласно определенным правилам, по мнению автора, есть понимание человека как "созерцателя", пассивно воспринимающего сведения, поступающие из окружающего мира и затем упорядочивающего их. Это сильный аргумент Дрейфуса, и с ним нельзя не согласиться. Однако Дрейфус заблуждается, полагая, что "пионерами" критики человека как пассивного "устройства" выступили М. Хайдеггер и "поздний" Витгенштейн. Понимание человека как некоего "объекта" было органически чуждо уже диалектике Гегеля. Карл Маркс, формируя диалектико-материалистическую систему взглядов на природу, общество и личность, со всей решительностью подчеркивал активность субъекта. Но в отличие от современных феноменологов и экзистенциалистов, на которых ссылается Дрейфус, он выводил ее из социальной практики как основы человеческого бытия. В Марксовых "Тезисах о Фейербахе" предшествующий материализм подвергается критике именно за то, что "предмет, действительность, чувственность" берется им "только в форме объекта, или в форме созерцания, а не как человеческая чувственная деятельность, практика, не субъективно" (К. Маркс и Ф. Энгельс. Соч., т. 3, с. 1) . Аналогичные идеи высказывал и В. И. Ленин. В "Философских тетрадях" мы 321 читаем: "Сознание человека не только отражает объективный мир, но и творит его" (В. И. Ленин. Полн. собр. соч., т. 29, с. 194). Мотив творческой активности деятеля-человека в научной методологии прочно вплетен в ткань диалектико-материалистической теории отражения. Биологическое психическое Путь, который предлагает Дрефус в рамках развиваемого им "альтернативного подхода", состоит в поисках "совершенно иного" ответа на вопрос, "каким образом осуществляется разумное поведение", нежели решение в духе "машинной парадигмы". Смысл этого пути - в попытке найти "фундаментальные отличительные черты человеческой деятельности" (с. 197). Последние сводятся к трем факторам, которые, по мнению автора, не могут быть учтены в современных работах по "искусственному интеллекту". Это - роль биологического начала в человеке или, как говорит Дрейфус, роль "тела" в "организации и унификации" человеческого опыта; роль ситуаций, в которых непрерывно находится человек, как основы такого упорядочения поведения, которое не использует какие-либо жесткие правила; и, наконец, роль человеческих целей и потребностей как основы выделения человеком того, что для него значимо и должно быть учтено а его действиях. Телесному фактору придается в книге особенно большое значение. Дрейфус говорит, что "наше отличие от машины, вне зависимости от сложности ее конструкции связано отнюдь не с обособленной, универсальной, нематериальной душой, а со сложно организованным материальным телом, находящимся в самодвижении" (с. 200). Именно тело человека является источником навыков, которые используются в различных ситуациях и формируют "феноменальный" мир человеческой психики. Благодаря своей "телесности" в человеческом поведении решается антиномия редукции контекстов и правил, являющаяся камнем преткновения для современных машин, то есть реализуется "третья возможность". "Телесность" обусловливает именно те функции, которые нельзя вложить в машинные программы - и создаваемые ныне, и только проектируемые. В числе этих функций - процессы, называемые в книге "периферийным сознанием", "допустимостью неоднозначности", "способностью различения существенного и несущественного" и "осмысленной классификацией данных". Дрейфус считает, что именно наличие тела объясняет способность человека к частично неопределенному, не поддающемуся четкому выражению предвосхищению (антиципации) событий. Это предвосхищение носит "глобальный" характер в том смысле, что, находясь в зависимости от учитываемых деталей наличной ситуации, оно в то же время определяет их значение; при этом предвосхищение, антиципация динамична - она может перемещаться от одной чувственной модальности или действующего органа к другой модальности или органу. Все это в своей совокупности образует общую способность человека к приобретению "телесных умений и навыков. Благодаря этой фундаментальной способности наделенный телом субъект может существовать в окружающем его мире, не пытаясь решить невыполнимую задачу формализации всего и вся" (с. 220). В "телесности" человека автор видит причину того, почему "информационные процессы" познания, в которых "значение целого обладает приоритетом по отношению к составляющим целое элементам" (с. 221), так отличаются от машинных методов. Эти рассуждения Дрейфуса, если отвлечься от определенного налета "биологизма", заслуживают внимания. В связи с ними, однако, уместно сделать два замечания. Первое касается отечественных психологии и философии, а именно того, что в них в должной мере учитываются и биологический аспект поведения человека (начиная с биомеханики движений, в разработку которой большой вклад внес Н. А. Бернштейн), и феномен целостности восприятия, и определенное "приоритетное" значение этой целостности по отношению к последующей аналитической деятель- 322 ности сознания (см. работы С. Л. Рубинштейна), и человеческая предвосхищающая деятельность (в психологической школе Д. Н. Узнадзе основанная на понятии установки, а в нейропсихологической школе П. К. Анохина - на понятии акцептора действия). Как результат упомянутых психологических исследований напрашивается вывод, что восприятие и узнавание объектов, данных человеку в пространстве и времени, мало похоже на поиск по дереву четко различимых "нейтральных" характеристик. Второе замечание заключается в том, что "телесная организация", значение которой для интеллектуально-познавательной и практической деятельности человека столь решительно подчеркивается в книге, в свою очередь может быть предметом автоматной имитации. В аргументации Дрейфуса недостаточно учитывается различие между цифровыми машинами, предназначенными исключительно для переработки информации, и роботами, в зачатке обладающими "телом". Мы имеем в виду так называемые интегральные роботы, в которые встраиваются датчики, получающие данные из внешней среды (эти датчики являются в определенном смысле аналогами органов чувств животных и человека), и которые снабжаются манипуляторами и устройствами, позволяющими роботу перемещаться в трехмерном пространстве (то есть реализовать некое подобие моторики живых организмов). Проектирование подобных роботов имеет целью сделать их способными к самостоятельной деятельности определенного (неизбежно ограниченного) рода в сложном и изменяющемся окружении. О далеко идущих планах в области роботостроения свидетельствуют разнообразные проекты издания роботов-исследователей для действий в космосе и океане. Вернемся, однако, к анализу рассуждений Дрейфуса. В его книге высказаны интересные соображения относительно соотношения рационально-логических и интуитивно-наглядных, концептуально-сознательных и "глубинных" форм активности человеческой психики. Автор верно обращает внимание читателя на то, что кибернетическое моделирование наиболее успешно тогда, когда речь идет о передаче машине логических отношений и процедур. Однако эти "высшие", четко определенные логические формы интеллекта базируются на очень сложных и более общих "низших" формах (и даже, замечает автор, управляются этим последним) . В значительной мере это есть та часть психики, которая роднит человека с животным миром ("распознавание образов") - но не только, так как к наиболее сложным пластам психики Дрейфус относит и использование естественного языка с его гибкими значениями. Именно эта "низшая", "глубинная" часть механизма познания труднее всего поддается моделированию, а по мнению автора, даже не поддается вообще. Не все специалисты в области кибернетического моделирования, так же как математики и логики, занимающиеся вопросами "искусственного интеллекта" или задумывающиеся над его проблемами, по-видимому, в должной мере учитывают сторону дела, на которой столь решительно настаивает Дрейфус Однако те математики и кибернетики, которые принимают во внимание психолого-гносеологические и социальные аспекты, видят ее достаточно ясно. Вот что, например, писая А, Н. Колмогоров в статье "Жизнь и мышление как особые формы существования материи": "В развитом сознании современного человека аппарат формального мышления не занимает центрального положения. Это скорее некоторое "вспомогательное вычислительное устройство", запускаемое в ход по мере надобности... кибернетический анализ работы развитого человеческого сознания в его взаимодействии с подсознательной сферой еше не начат" (сб. "О сущности жизни", ЬЛЛ, "Наука", 1964, с. 54), Эти слова, сказанные советским ученым еще в начале 60-х годов, справедливы и для современной ситуации в "искусственном интеллекте". 323 Впрочем, из сказанного выше не следует делать вывод о несущественности логического мышления в познавательном процессе. Дрейфус - и об этом мы еще будем говорить - чрезмерно противопоставляет мир, субъективно данный личности, объективному физическому миру, в котором действует человек, и это приводит к известной недооценке классической науки о природе, в сооружении здания которой формально-логическое "вспомогательное логическое устройство", которым располагает каждый человек, играет необходимую и важную роль. Если дискретный подход и требования точности не всегда дают эффект, то во многих случаях это как раз самые сильные средства. Потребности и цели. Что значит "быть в человеческом мире"? Одно из главных препятствий на пути кибернетического моделирования человеческого поведения автор усматривает в невозможности наделить ЭЦВМ человеческими мотивами и целями. Объясняя природу этой трудности, Дрейфус правильно указывает на то, что в основе человеческого целеполагания лежат потребности. Особый акцент при этом делается на потребностях биологического ("телесного") характера, включая двигательную активность организма. Будучи определена текущими нуждами человека, система его целей, мотивов его поведения, функционирования его организма динамична, изменчива; этим она коренным образом отличается от системы правил, управляющих работой машины: как бы ни были организованы эти правила (например, иерархически подразделены на правила переработки информации, метаправила -правила применения правил или изменения их и т. п.), на современном уровне развития ЭЦВМ и их математического обеспечения они предполагают предварительное формальное описание - пусть обобщенное и доступное изменению в ходе машинного обучения - класса ситуаций, с которыми машина может справляться. Эта "нечеловеческая жесткость" проистекает из того - и здесь Дрейфус совершенно прав, - что машину невозможно запрограммировать таким образом, чтобы у нее появились собственные цели того же типа, что и те, которые определяют поведение человека. Правда, современные программы "искусственного интеллекта" позволяют машине в ходе решения задач формировать "цели" и "подцели", зависящие от "истории" соответствующего информационного процесса и результатов общения машины с внешней средой. Однако нынешние машинные аналоги человеческого целеполагания все же чрезвычайно далеки от своего прототипа, и, создавая все более мощные системы "искусственного интеллекта", мы не знаем, по какому пути и в какой мере можно к нему приближаться. Конкретные потребности человека - Дрейфус фактически неоправданно ограничивает их "телесной организацией"- прямо или косвенно формируют текущие задачи человеческой деятельности, благодаря которым происходит разграничение существенного и несущественного. От направленности реальных интересов, накопленных знаний и навыков действий зависит, что в данной ситуации будет оставлено без внимания, что сохранится в качестве "потенциально релевантного" на более "отдаленных" участках внутреннего мира человека, а что будет немедленно учтено в его поведении. Человек не машина. Все, с чем он сталкивается в своей деятельности, будь то конкретные объекты или отвлеченные идеи, так или иначе связано с его устремлениями. "Вне конкретной заинтересованности, без наличия конкретного предмета исследования - всего того, что позволяет производить выбор и интерпретацию" (с. 186), невозможно осмысление реальности и деятельность в ней. Это умение ориентироваться в мире - "быть в нем своим", как образно говорится в книге, - присуще человеку не только как "машине" из мускулов и нервов, но и как существу, применяющему орудия труда и исследования. Ссылаясь на выводы М.Лоляного, автор отмечает, что, когда человек овладевает орудиями труда или языком, он 324 превращает соответствующие орудийные или языковые средства как бы в продолжение самого себя, "интериоризирует" их, вживается в них. Итак, "человеческий мир" всегда структурирован в терминах намерений и направленности интересов, и это порождает, говорит Дрейфус, особого рода регулярность человеческого поведения - контекстуальную регулярность, смысл которой состоит в том, что человеческое поведение никогда не подчиняется полностью каким-либо правилам, но всегда упорядочено - в той мере, в какой это необходимо при данных условиях. В книге убедительно показано, что "человеческий мир" не может быть разложен на "независимые элементы"; для человека, его психики, считает Дрейфус, не возникает и вопроса о "хранении и классификации огромных списков бессмысленных, изолированных данных" (с. 229), так как ситуации, в которых оказывается человек, всегда организованы в терминах человеческих потребностей и склонностей, благодаря чему факты приобретают соответствующее значение. Как мы видим, позиция автора отражает реальную диалектику человеческой деятельности, - деятельности, для которой характерна гибкость, недоопределенность задач, сложное и во многом противоречивое взаимодействие потребностей и целей, выражающееся, в частности, в том, что нередко цель осознается лишь после ее достижения, так как вызвавшая ее потребность может не осознаваться или осознаваться весьма смутно. "При попытке найти окончательные бесконтекстные и бесцелевые элементы, которые нам нужны, чтобы найти не разложимые далее кванты информации, вводимые в машину,- пишет автор,- ...мы фактически стараемся очистить факты нашего жизненного опыта именно от той прагматической организации, благодаря которой только и возможно их гибкое использование, приводящее к решению повседневных задач" (с. 231). Способность человека, по выражению Дрейфуса, "быть своим в человеческом мире" - вещь вполне реальная. Реальная потому, что она может быть утрачена. Так, при поражении некоторых участков мозга человек теряет (полностью или частично) способность "глобального" восприятия, оставаясь при этом личностью. В таком случае для ориентации в мире он действует подобно машине: например, для того чтобы отличить треугольник от четырехугольника, подсчитывает число сторон этих фигур. Здоровый человек также может приблизиться к видению мира сквозь "машинные очки", если по каким-то причинам он рассматривает вещи вне их обычных связей. В семиотике искусства использование подобного литературного приема называется остранением. "Мир" современной ЭЦВМ - даже эвристически запрограммированной - есть мир отдельных деталей, атомизированность которого стремятся преодолеть за счет эффективных методов поиска решений, организации памяти, фреймов, формализованных обобщенных описаний и т. п. Но в этом "мире" - включая "мир" машин обозримого будущего, - как правильно говорит Дрейфус, нет места "для хорошо знакомого нам мира орудий, организованного в терминах наших намерений" (с. 235) . Практика. Человек как "совокупность всех общестеенных отношений" Читатель, несомненно, заметил наблюдающийся в книге известный "перекос" в сторону преувеличения биолого-антропологических аспектов в истолковании человека и его интеллекта. К сожалению, общественная природа личности как носителя разума - важнейшая, "сущностная" черта человека, в то же время являющаяся наибольшим, насколько можно судить, препятствием на пути кибернетического моделирования интеллекта, остается в книге нераскрытой. Правда, в связи с вопросом о распознавании социальных связей автор отмечает значение социального общения, считая 325 мир человеческой жизни "более широкой ситуацией"; в которую погружена человеческая деятельность (см. с. 185), говорит о том, что человеческая способность "находиться в ситуации" зависит "не столько от гибкости нашей нервной системы, сколько от нашей способности к практической деятельности" (с. 200), и указывает, что "не существует жестко фиксированной природы человека" (с. 250). Однако понимание автором практики весьма далеко отстоит от диалектико-материалистической концепции практической деятельности и, как косвенно "признает автор, близко к концепции прагматизма. Осмысляя проблему возможностей кибернетического моделирования познавательных процессов и создания систем "искусственного интеллекта", мы должны брать практику в ее полном объеме: и как основу формирования самого человека, и как главный импульс познавательного процесса, и как критерий истинности результатов отражения действительности в психике, сознании человека. Именно с этих позиций и следует рассматривать категории, которыми оперирует автор, и собранный им богатый и интересный фактический материал. Процесс удовлетворения потребности как источника активности личности неотделим от целенаправленной деятельности. Эта деятельность развертывается в истории, в исторической практике. Как писали К, Маркс и Ф. Энгельс, "сама удовлетворенная первая потребность, действие удовлетворения и уже приобретенное орудие удовлетворения ведут к новым потребностям, и это порождение новых потребностей является первым историческим актом" (К, Маркс и Ф.Энгельс. Соч., т, 3, с. 27}. В советской философии, психологии и социологии историческая обусловленность потребностей раскрыта достаточно полно. Не ограничиваясь той "телесной" сферой, к которой их "привязывает" Дрейфус, отечественные философы и психологи подчеркивают огромное значение социально обусловленных интеллектуальных потребностей и раскрывают связь высших форм человеческих потребностей как регуляторов поведения личности с процессами творчества (см.- например: А. Г. Спиркин. Сознание и самосознание. М., Политиздат, 1972) . Понятие цели как феномена, с одной стороны, объективно обусловленного, а с другой - носящего субъективный (принадлежащий субъекту) характер, должно быть, таким образом, введено в контекст социальной практики. Маркс отмечал, что человек "не только изменяет форму того, что дано природой; в том, что дано природой, он осуществляет вместе с тем и свою сознательную цель, которая как закон определяет способ и характер его действий и которой он должен подчинять свою волю" (К.Маркс и Ф. Энгельс. Соч., т, 23, с. 189). Раскрывая взаимоотношение субъекта и объекта в процессе производства, Маркс писал, что если производство, с одной стороны, "является присвоением объектов субъектами, то, с другой - оно в такой же мере есть формирование объектов, подчинение объектов субъективной цели, превращение объектов в результаты и воплощения субъективной деятельности" (К. Маркс и Ф. Энгельс, Соч., т. 46, ч.1, с. 478). Человеческие цели формируются в человеческом сознании, которое "с самого начала есть общественный продукт и остается им, пока вообще существуют люди" (К. Маркс и Ф. Энгельс. Соч., т. 3, с. 29). Характер целей, степень их гибкости или жесткости, их динамика складываются в человеческой практической деятельности. Диалектически противоречивый характер последней приводит к тому, что и цели человека сложны и многоплановы, зачастую противоречивы. В этом - одно из качественных различий между поведением человека и работой машины; последняя в определенном смысле даже более "целеустремлена", чем человек: ее работа направлена на получение результата, который при всех ухищрениях машинных адаптации и обучения носит несравненно более жесткий характер, чем активность наделенного сознанием человека, порождающая все новые цели. 326

Как писали К. Маркс и Ф. Энгельс, "сущность человека не есть абстракт, присущий отдельному индивиду- В своей действительности она есть совокупность всех общественных отношений" (там же, с. 3) . Запомним эти слова. Мы вернемся к ним, когда будем завершать наше обсуждение возможностей "искусственного интеллекта". Феноменологическая метафизика или диалектико-материалистический монизм? Одним из изъянов книги Дрейфуса является тенденция к истолкованию человеческого интеллекта как чего-то, так сказать, неумопостигаемого. Много рассуждая о "телесных функциях" человека, Дрейфус не ставит, однако, вопроса, как же именно эти функции формируют те способности человека, к которым ему приходится апеллировать для обоснования своего тезиса о принципиальной непрограммируемости человеческого поведения и психики. Понимая, что для предлагаемого им "расчета с традицией" недостаточно материала гештальтпсихологии (который широко представлен в книге), Дрейфус для обоснования своего подхода становится на позицию "феноменологического"- в понятиях субъективного мира человека- описания выделяемого им типа разумного поведения. Так, он соглашается с точкой зрения М. Мерло-Понти о том, что человеческие действия происходят исключительно "в сфере феноменального", не переходя в предметный мир (см. с. 217-218). Концепция Дрейфуса - Мерло-Понти о роли человеческого тела в формировании интеллектуального поведения не лишена агностической окраски. Философски несостоятельными представляются категорические настояния автора на необходимости разграничения объективных фактов и человеческих ситуаций; на том, что "осмысленные объекты, включенные в контексты связей, в гуще которых мы живем, не образуют ту модель мира, которая хранится в нашей памяти или в нашем мозгу, а являются самим этим миром (с. 234); на том, что человек - "источник фактов" и что в процессе своей жизни в мире он создает "и самого себя, и сам мир фактов" (с, 264). Агностический мотив присутствует и в мысли автора о том, что "нет никаких оснований надеяться, что переработка информации на нейрофизиологическом уровне может быть описана в терминах цифрового формализма или какого бы то ни было формализма вообще" (с. 111); курсив мой. - SM ) . Дрейфус солидаризуется с двусмысленными рассуждениями У. Ниссера о мире, "к которому мы не имеем прямого доступа"; противопоставляя этому миру - миру физических процессов-"мир машин и книг", с которым "мы... имеем дело в непосредственном опыте" (с. 237), и отвергая "промежуточный мир", изучаемый психологами, он призывает "оставить физический мир на усмотрение физиков и нейрофизиологов и вернуться (?) к описанию нашего человеческого мира, который мы непосредственно воспринимаем" (с. 240). Допуская, что "наш физический организм постоянно бомбардируется физической энергией, результатом чего и является наше восприятие мира через опыт" (с. 237), но отказывая науке в изучении того, как же возникает этот результат, автор впадает в своего рода феноменологическую метафизику. Описанные установки Дрейфуса резко контрастируют с позицией диалектико-материалистического монизма, рассматривающего идеальное как порождение и отражение материального и считающего актуальной задачей науки - далеко еще не решенной - раскрытие физиологических основ психики и социальной обусловленности человеческого поведения и личностных феноменов. В рамках предлагаемого Дрейфусом подхода трудно понять, как вообще возможно объективное знание о чем-то - объективная истина, не зависящая ни от человека, ни от человечества. Феноменологическая метафизика Дрейфуса закрывает доступ к диалектике субъективного и объективного в человеческом познании! 327 Вопрос, на который сейчас мы не можем дать ответ Обратимся теперь к главному вопросу, составляющему предмет книги,- к вопросу о том, возможен, а если возможен, то как и в какой мере, "искусственный разум". Один аспект выводов автора по данному вопросу несомненно позитивен, и его следует учитывать как кибернетикам, так и психологам; однако другой аспект, по нашему мнению, можно и нужно оспаривать. По-видимому, следует согласиться с Дрейфусом, когда он утверждает, что как существующие ныне, так и только разрабатываемые машинные методы хранения и поиска информации никогда не достигнут такого уровня, что автомат окажется в состоянии "справиться с тем объемом данных, который возникает при попытке выразить в точной форме наше знание мира" (с. 253) ; ибо масса этих данных может оказаться необозримо большой, и "формализация нашей жизни" будет невозможной. Главную трудность Дрейфус при этом усматривает в неразрешимости задачи точного выражения человеческих потребностей. Ибо диалектика потребностей такова, что ни у индивида, ни у человечества в целом потребности "никогда не становятся полностью определенными, они сохраняют способность к уточнению, а природа человека получает возможность повторных изменений в ходе революций личностей и культур" (там же). Именно поэтому поведение человека - и не только его "тело", как считает Дрейфус, но прежде всего его социальную активность - нельзя воспроизвести на цифровой машине, даже если ее снабдить системой органов-манипуляторов. Сошлемся в этой связи на мнение А. Н. Колмогорова: "возможно, что автомат, способный писать стихи на уровне больших поэтов, нельзя построить проще, чем промоделировав все развитие культурной жизни того общества, в котором поэты реально развиваются" (А. Н. Колмогоров. Жизнь и мышление как особые формы существования материи. - В кн.: О сущности жизни, с. 57) . Хотя сам Колмогоров называет эти слова "шутливой формой" интерпретации основной проблемы кибернетического моделирования, в них заключен глубокий смысл: человека нельзя полностью "заменить" машиной потому, что он есть "совокупность всех общественных отношений". Теперь о другом, гораздо менее убедительном аспекте воззрений автора, Дрейфус считает "в высшей степени маловероятным" появление в будущем значительных результатов в сферах моделирования процессов познания и "искусственного интеллекта" (см. с. 257). Работы в области "искусственного интеллекта", по его мнению, имеют практическую ценность лишь в "ограниченном круге вопросов"; что же касается моделирования познавательных процессов, то автор сомневается вообще в их необходимости (см. с.230), В стремлении "приблизиться к разумному поведению", по его мнению, предел возможностей кибернетики уже почти достигнут. Предвидя неизбежные возражения, автор прибегает к целой системе ограничений поговорок. Он говорит лишь о "сегодняшних возможностях" электронной цифровой вычислительной техники (см. с. 263), не обсуждая перспектив, которые могут открыться благодаря изобретению приборов, основанных на иной технологии, нежели нынешняя, и использующих иные, более гибкие принципы функционирования. Он не касается вопроса о создании эволюционных машинных программ, имитирующих определенные стороны развития человека; он ничего не говорит о работах по машинному моделированию органической эволюции. И, наконец, он просто-напросто упрощает проблему, придавая ей форму дилеммы "или - или": фактически он сводит все к вопросу, можно ли заложить в машину "полностью сформировавшийся интеллект" (см. там же). Когда Дрейфус требует от кибернетиков гарантий успеха исследований по формализации различных форм "разумного" поведении, ему, по-видимому, не приходит в голову такая простая мысль, что любому исследова- 328 телю уверенность в правильности избранного им пути просто необходима. Развитие работ в критикуемой автором области есть не что иное, как диалектическое движение вперед,- движение, в котором одна конкретная задача сменяется другой, разрабатываются новые и новые программы и т. п.; движение, которое на практике решает вопрос, чего можно, а чего нельзя достичь на избранном пути; движение, которое с необходимостью создает новые теоретические и технические средства. Никто не оспаривает тот факт, что современные цифровые ЭВМ не могут претендовать на "разум" в любом, пусть даже очень ограниченном смысле этого слова. Вопрос стоит иначе. Решается конкретно-научная и философская проблема возможностей кибернетического моделирования различных проявлений разумного поведения, то есть вопрос о том, насколько далеко можно идти по пути автоматной имитации функций и структур живого и разумного. В настоящее время ответ на этот вопрос нам неизвестен. С определенностью можно сказать только одно: Дрейфус заблуждается, полагая, что сегодня кибернетика достигла предела своих возможностей. Скорее наоборот,- мы стоим только в начале ее развития. По-видимому, между современными эвристическими автоматами и собственно человеческой сферой, недоступной для машинного воспроизведения (а фактический материал книги говорит в пользу существования таковой), лежит обширная "нейтральная полоса". Проводя поиск на этой не освоенной наукой территории, нам приходится решать задачу выяснения соотношения алгоритмической, эвристической и сознательно-человеческой сфер поведения. Сферы разумности и машинное моделирование Книга Дрейфуса предоставляет нам для этого определенный материал. В заключение своего труда, размышляя о будущем "искусственного интеллекта", автор предлагает рубрикацию различных форм разумного поведения с точки зрения степени их формализуемости. Из четырех выделенных им типов поведения четвертый - неформальное поведение, зависящее от смысла и ситуации, позволяющее решать задачи с "открытой структурой" и понимать язык в контексте реального общения,- по его мнению, не программируем. Данная автором классификация -одна из возможных. Рубрикацию несколько иного рода читатель может найти, например, в книге "Управление, информация, интеллект". Здесь различаются формализованные, полуформализованные и неформализованные (неформализуемые) процессы, причем два последних рассматриваются в качестве поля деятельности, в котором ведущая роль отводится человеку, а область творческих процессов считается составляющей правильную часть этого поля и включает в себя как неформализованные или неформализуемые, так и полуформализованные процессы (см. с. 314 упомянутой книги). Классификацию форм поведения (решения задач) предприняли также Г. С. Поспелов и Д. А. Поспелов. Предметом их анализа являются вопросы, связанные с передачей машине задач, которые в том или ином смысле можно считать творческими. Основанием предлагаемой классификации являются свойства языка, на котором формулируются соответствующие задачи. Классу задач, для которого имеется "языковое согласование" описаний исходных и искомых (заключительных) ситуации (к нему относятся задачи вычислительной математики, не имеющие отношения к проблематике "искусственного интеллекта", а также обычные лабиринтные и эвристические задачи) противопоставляется класс задач, для которых такое согласование отсутствует. Задачи последнего класса требуют трансформации целей и отображения их условий, а также используемых при решении средств (правил) в специально разрабатываемые модельные структуры. Это и есть задачи "искусственного интеллекта" в собственном смысле. Разработка методов их решения предполагает создание соответствующих семантических систем (языков), в частности языков, позволяющих производить трансформацию 329 правил переработки информации и вводить расплывчатые условия (см.: Г. С. Поспелов, Д. А. Поспелов. Исследовании по искусственному интеллекту в СССР. - В кн.: Кибернетику - на службу коммунизма, т. 9, М., "Энергия", 1978). Формализация творческих задач возможна лишь в той мере, в какой для них удается построить соответствующую эффективную модельную структуру. В качестве примера, свидетельствующего о наблюдающемся продвижении в моделировании интеллектуальных задач, сошлемся на новейшие результаты в области эвристической алгоритмизации шахматной игры. Автору этих строк сообщил о них экс-чемпион мира по шахматам М. М. Ботвинник, в течение ряда лет с коллективом сотрудников работающий над созданием шахматной программы, отражающей методы игры шахматистов высокого класса. В августе 1977 г. разработанная под руководством Ботвинника программа "Пионер", в основу которой положен выдвинутый экс-чемпионом мира метод горизонта (см.: М. М. Ботвинник. Алгоритм игры а шахматы. M, "Hayкa", 1968; его же: О кибернетической цели игры, М., "Советское радио", 1975), решила известный этюд шахматного композитора Г. Надареишвили. Расчет вариантов при решении этой трудной задачи машиной напоминал поведение человека-шахматиста: дерево перебора содержало всего лишь 200 ходов, причем глубина расчетов не была ограничена заранее. Как отметил М. М. Ботвинник, решение данного этюда на машине с быстродействием порядка 12 млн. операций в секунду потребовало бы примерно 8 мин. машинного времени. Далеко не каждый шахматист самой высокой квалификации уложился бы в это время (см.: М, М. Ботвинник. "Пионер" готовится к чемпионату, "Правда" от 24 ноября 1977 г). В 1975 г. М. М. Ботвинник писал: "Если шахматная программа, выполненная на основе предлагаемого алгоритма, будет достаточно сильно играть в шахматы, например, как мастер, это будет важным шагом на пути создания искусственного интеллекта" ("О кибернетической цели игры", с. 67). В настоящее время экс-чемпион мира считает, что к 1980 г. машинная программа, играющая в силу шахматного мастера, будет создана. Человеко-машинные системы. Возможен ли алгоритм "наращивания понимания"? Итак, прогресс в области "искусственного интеллекта" вполне реален. Даже в случае, если соответствующие теоретические результаты оказываются скромными, исследования окупаются за счет развития методов формализованного представления знаний, языков программирования, эвристических алгоритмов решения сложных задач и т. п. Это придает работам в области "искусственного интеллекта" прикладную ориентацию. Они оказывают возрастающее влияние на развитие вычислительной техники и ее математического обеспечения. При этом, как отмечают специалисты, наблюдается любопытное явление. До тех пор пока некоторая задача не поддается автоматизации, она считается "творческой" и относящейся поэтому к направлению "искусственного интеллекта"; когда же для нее оказывается возможным написание реально работающей программы (как в игре в шашки), она переходит в разряд "нетворческих" и исключается из сферы моделирований процессов познания и "искусственного интеллекта". Среди специалистов нет единого мнения относительно "удельной значимости" различных направлений модельно-психолого-кибернетических исследований. Имеется, однако, такая область "искусственного интеллекта", важное значение которой признается всеми, включая и автора данной книги. Это - разработка человеко-машинных систем. В настоящее время исследования в этой области развертываются в двух основных направлениях. Одним из них является разработка систем диалога между человеком и ЭВМ на естественном языке. Природа связанных с этим трудностей подробно проанализирована в книге Дрейфуса в рамках задачи моделирования на ЭВМ процессов человеческого понимания. Не вдаваясь в подроб- 330 ности, отметим, что если не полное решение этой задачи (последнее вряд ли возможно в силу тех особенностей человека как биологического и социального существа, о которых говорилось выше), то решение, достаточное для организации "разговора на определенную тему", мыслится современными исследователями на пути создания специального языка семантических представлений - промежуточного между естественным языком и языком машины (см. упоминавшуюся выше статью Г. С. Поспелова и Д. А. Поспелова). Одной из разработок, идущих в данном направлении, является создание отечественными специалистами "Диалоговой информационно-логической системы" (ДИЛОС); работа последней в режиме диалога обеспечивается соответствующими логико-информационными процедурами, основанными на особом формализованном языке выражения знаний, включающем иерархию семантических образований, соответствующих свойствам и отношениям объектов некоторой предметной области (см. В. М. Брябрин, Г. В. Сенин. Руководство к системе ДИЛОС - БЭСМ-6. М., изд. ВЦ АН СССР, 1977). Другой исследовательской линией является разработка методов совместного человеко-машинного решения задач. Именно это направление автор данной книги расценивает как реальную перспективу кибернетических исследований. Дрейфус указывает на целесообразность "разделения труда" между человеком и ЭВМ: машина берет на себя "цифровые" аспекты человеческих "информационных процессов", человек же со своим умением отделять существенное от несущественного заставляет машину сосредоточиться на заслуживающей просчитывания области. Например, при решении сложных задач, "после того как найдена структура задачи и построен план поиска, машина могла бы взять на себя разработку деталей решения" (с. 277) . Добавим, что в плане " искусственного интеллекта" наибольшую значимость имеют исследования, которые можно квалифицировать как преследующие цель разработки алгоритмов "наращивания понимания". Смысл подобных работ достаточно полно раскрыл В. М. Глушков о книге "Управление, информация, интеллект" (см. с. 301-313) . По его мнению, система человеко-машинного информационно-логического взаимодействия должна быть основана на таком языке общения человека с машиной, который позволяет не только расширять содержащийся в машинной памяти массив знаний, но и обогащать логику вычислительно-информационной системы, в частности укрупнять используемые машиной логические шаги (то есть изменять понятие логически очевидного перехода), позволяя "свертывать", делать более компактной машинную логику. Это может основательно обогатить результативность человеко-машинной системы как исследовательской структуры нового типа. "Машинная парадигма" - регресс или прогресс? Заключая свой анализ "искусственного интеллекта", автор книги справедливо отмечает большое принципиальное значение этого направления; он прав, говоря о том, что возрастание наших знаний о границах "разумного" в применении к вычислительной машине будет вместе с тем обогащением научных представлений о характере и объеме человеческого интеллекта. Но он впадает в неоправданную крайность, когда утверждает, что создание искусственных систем, проявляющих определенные черты разумного поведения, приведет к тому, что "в ближайшее время мы станем свидетелями триумфа весьма ограниченного представления о разуме" (с. 20). Как представляется пишущему эти строки, с течением времени главной пинией развития кибернетики все более будет становиться создание человеко-машинных систем управления и переработки информации, использование машин как "усилителей творческих возможностей человека. Такая "машинная парадигма" станет необходимым элементом социального развития. 331 Как ранее писал автор этих строк в совместной с А. И. Бергом работе, "машины не мыслят - и вряд ли будут мыслить - как человек, как разумное существо, живущее в обществе, имеющее интеллектуальные потребности и пользующееся естественным языком для обмена мыслями с другими разумными существами. Но несомненно, что человек, работающий в "содружестве" с электронной машиной, мыслит лучше и иначе, чем человек, вынужденный ограничиваться лишь примитивными орудиями механизации своего умственного труда" (А. И. Берг, Б. В. Бирюков. Кибернетика и прогресс науки и техники.- В кн.: Ленин и современное естествознание. М, "Мысль", 1969, с. 371). Кибернетика и задача комплексного изучения человека Рациональный аспект предпринятого Дрейфусом анализа состоит не в критике кибернетических исследований, а в том, что его книга побуждает к размышлениям над сложными проблемами, имеющими важное методологическое значение. И поучительный анализ "допущений" "искусственного интеллекта" во второй части (пусть не всегда убедительный), и интересный фактический материал третьей части в общем перевешивают те недиалектические крайности, в которые нередко впадает автор, следуя феноменолого-экзистенциалистским установкам. Общая направленность книги - против попыток поставить знак равенства между естественным разумом и его искусственными аналогами, против того, что можно назвать "кибернетическим редукционизмом", то есть тенденцией к сведению многогранности разума к единственно дедуктивно-классифицирующему уровню, сравнительно легко поддающемуся формализации,- философски вполне оправданна. Книга заставляет задуматься над необычайной сложностью человека как природного и социального существа, над грандиозной сетью связей, которые констатируют его как "совокупность всех общественных отношений". Одной из главных трудностей кибернетического моделирования познавательных процессов, не отмеченной, кстати, в работе Дрейфуса, является недостаточная изученность человека во всем его многообразии. Успехи кибернетики в моделировании сложных систем живого, мыслящего и социального, несомненно, находятся в зависимости от всестороннего изучения человека в рамках биолого-медицинских, психолого-этнологических, философско-социологических и иных наук. В комплексном исследовании человека как социального существа, наделенного сознанием и самосознанием, кибернетике принадлежит только определенная (и заведомо не главная) часть - часть, которая не в состоянии исчерпать его "сущностные" свойства. Но это необходимая часть, без развития которой наши представления о человеке не могут быть достаточно полными. Книга Дрейфуса тем и полезна, что привлекает внимание исследователей именно к этой, информационно-кибернетической, "составляющей" комплекса работ, направленных на раскрытие самого сложного из известных нам феноменов мироздания - явления под названием Человек. Б. В. Бирюков

---

---