ПРОЦЕССЫ ПЕРЕРАБОТКИ СЕМАНТИЧЕСКОЙ ИНФОРМАЦИИ
Глава 2. ВТОРОЙ ЭТАП
(1962-1967)
ПРОЦЕССЫ ПЕРЕРАБОТКИ СЕМАНТИЧЕСКОЙ ИНФОРМАЦИИ
Для того чтобы определить место первого этапа в общей картине развития и дать представление о том, что ожидалось и что было сделано на втором этапе, начнем с того, что приведем цитату из краткого обзора истории работ по "машинному интеллекту", произведенного М.Минским:
"В начале 50-х годов, когда универсальные вычислительные машины стали доступным средством научных изысканий, кибернетика распалась... на три главных направления, В исследованиях, происходивших в рамках первого из них, продолжались поиски простых фундаментальных принципов. Целью этих поисков стало отыскание того, что мы могли бы назвать "минимальными самоорганизующимися системами". Для этого подхода характерна установка на построение большого набора, как правило, однотипных элементов, который, будучи организован в некоторую структуру с очень слабыми ограничениями и погружен в соответствующую внешнюю среду, начинает вести себя "адаптивным" образом. В конечном счете можно полагать, что разумное поведение возникает на основе эволюции такого рода систем"*.
Поскольку исследователи, до сих пор придерживающиеся этого направления (его иногда называют кибернетикой) 42, не создали ничего интересного - несмотря на то, что выразитель соответствующих идей Ф.Розенблат является автором самых фантастических предсказаний и заявлений**,- здесь мы не будем касаться их работ.
* М. Minsky. Introduction.-In: M. Minsky (ed). Semantic Information Processing, Cambridge, p, 6-7.
** Например, следующее сообщение, помещенное в "Chicago Tribune" от 7 июня 1963г.: "Вчера один из сотрудников Корнелльского университета, специалист по обучающимся машинам, сообщил о разработке машины, которая может выдавать на печать текст любого воспринимаемого ею выступления на уровне секретаря-машинистки. Ожидается, что к осени (Sic! - Х.Д-) устройство будет готово. Ф. Розенблат, руководитель проводимых в Корнелльском университете разработок по моделированию познающих систем, сказал, что эта машина станет самым крупным "мыслящим" устройством, известным на сегодняшний день, Розенблат выступил с этим заявлением на одном из совещаний по обучающимся машинам, которое проходило в Технологическом институте Северо-западного университета".
чающиеся машины" и как таковые обсуждались в многочисленных книгах, журнальных статьях и объемистых "отчетах". Большая часть этих творений», лишена научной ценности" [М, Минский, С. Пейперт. Перцептроны. М., 1971, с. 10); «схемы Розенблата [1958] быстро укоренились, и в скором времени буквально сотни групп, больших и малых, стали проводить опыты с этой моделью под видом либо "обучающейся машины", либо "адаптивной", то есть "самоорганизующейся" системы, либо систем! "автоматического управления".
Результаты этих сотен проектов и опытов, как правило, разочаровывали, а объяснения не убеждали. Машины обычно хорошо еели себя на очень простых задачах, но весьма быстро сдавали позиции, как только порученные им задания становились сложнее» (там же, с. 25) .
В свете этих практических трудностей и теоретических ограничений, обрисованных Минским и Пейпертом, энтузиазм по поводу ожидающего перцептроны будущего представляет собой идеальную иллюстрацию эффекта "обманчивости первого шага"43 (см. подстрочное примечание на с. 78), Характерное выражение подобная ошибочная экстраполяция нашла в заявлении Тофлера («Future Shock)), p, 186): "Эксперименты Фрэнка Розенблата и других доказывают, что машины могут учиться на своих ошибках, улучшать свои результаты, а в случае некоторых ограниченных типов процесса обучения они в состоянии превзойти человека". Тофлер ничего не говорит о том, насколько серьезны эти ограничения.
* M.Minsky. Introduction.-In: M. Minsky (ed.) Semantic Information Processing, p. 7,
** Ibid,, p. 8.
*** M.Minsky. Descriptive Languages and Problem Solving.-In: M.Minsky (ed.). Semantic Information Processing, p. 419.
80
ботку самоорганизующихся систем малообещающим или, лучше сказать, преждевременным делом. Даже если принять в качестве основной цели простоту изначальной организации, не исключено, что потребуется накопление предварительного опыта с действующими "разумными системами" (принцип действия которых, если нет другого выхода, может быть основан на приемах ad hoc ), прежде чем в конце концов удастся построить более экономичные модели"*.
Перейдем к рассмотрению этого третьего и сравнительно недавнего направления и попытаемся на основе результатов, опубликованных в книге М. Минского "Процессы переработки семантической информации", разобраться, что же в действительности было сделано. Сам Минский однажды предложил для оценки программ, представленных в его книге, пользоваться следующими пятью вопросами:
1.Почему были выбраны именно данные конкретные задачи?
2.Как работают данные программы?
3.Каковы пределы возможностей программ?
4.Что реально они делают?
5.Как может быть расширена область их применения?
Если в соответствии с этими вопросами мы проанализируем программы, которые Минский считает лучшими из всех написанных с 1962 г., мы увидим, что в отличие от работ, выполненных до 1961 г, (когда впечатление "разумности" создавалось в основном за счет моделирования простых механических аспектов разумного поведения), для предлагаемого подхода характерно следующее: с помощью специальных приемов, подбираемых ad hoc, решаются искусно подобранные задачи, создающие иллюзию сложной интеллектуальной деятельности. Однако проблемы, бывшие камнем преткновения на первом этапе, так и остаются нерешенными. Кроме того, мы еще раз убедимся в том, что лишь не допускающая никаких сомнений изначальная уверенность таких исследователей, как Минский, дает им возможность считать существующую ситуацию обнадеживающей.
Рассмотрим эти программы более подробно.
I. Анализ программ переработки семантической информации
Программа, "понимающая английский язык" - программа STUDENT, составленная Д. Бобровым.
STUDENT- это программа для решения алгебраических задач на составление уравнений. Она рассматривается в качестве лучшей из всех пяти программ переработки семантической информации, представленных в книге М. Минского. Программа Д. Боброва,
* М. Мinsky. Introduction.-in: M. Minsкy (ed.). Semantic Information Processing, p, 8.
81
говорит Минский -"блестящая демонстрация возможностей использования смысла при решении лингвистических задач"*. И действительно. Минский посвящает этой программе значительную часть своей статьи в журнале "Scientific American", где считает возможным утверждать даже, будто эта программа позволяет машине "понимать английский язык"**.
Поскольку эту программу на сегодняшний день считают наилучшей, начнем с детального ее анализа в соответствии с предложенными М. Минским пятью вопросами.
Почему были выбраны именно данные конкретные задачи?
Саги Д. Бобров говорит:
"При построении системы, отвечающей на вопросы, многие задачи значительно упрощаются, если ограничивать их контексты"***.
Более того:
"Существует несколько причин, в связи с которыми именно алгебраические задачи на составление уравнений были выбраны в качестве материала для развития методов, позволяющих машинной системе для решения задач воспринимать информацию, выраженную на естественном языке. Во-первых, уже существует хорошая структура данных, дающая возможность заносить в память машины сведения, необходимые для ответа на вопросы, которые относятся к контексту алгебраических задач, а именно алгебраические уравнения"****.
Существенно, что выбор данной задачи связан с тем, что ограниченность контекста облегчает ее решение. Вся важность этого ограничения станет очевидна только после рассмотрения следующих двух вопросов.
Как работает данная программа?
Программам попросту разбивает предложения, фигурирующие в тексте задачи, на отдельные блоки, пользуясь для этого такими ориентирами, как слова "больше чем", "равно", "во столько-то раз" и т. д.; затем, используя переменные х и у, она приравнивает друг к другу полученные куски предложений и пытается добиться одновременного выполнения получившегося равенства. Если полученные уравнения решить не удается, программа переходит к другим правилам разбиения данных предложений и предпринимает новую попытку решения. Вся эта схема может работать только потому, что выполняется некоторое ограничение (отсутствующее в задачах на понимание обычной разговорной речи), благодаря которому тот или иной способ замены кусков предложений переменными приводит к уравнениям, имеющим решение. По выражению Минского, "некоторая возможность синтакси-
* Ibid, р.5.
** См.: М. Минский, Искусственный разум. В кн.: Информация М., 1968, с. 210.
*** D. Вobrow. Natural Language Input for a Computer Problem Solving Sistem.ln: M.Minsky (ed). Semantic Information Processing p. 135
**** Ibid,, p. 137.
82
ческой неоднозначности на входе устраняется, исходя из общего принципа алгебраической непротиворечивости"*.
Существует также еще одна особенность задач на составление уравнений, благодаря которой выбор пал именно на них.
"В естественном языке неоднозначность возникает не только в связи с тем, что слова в предложении могут быть по-разному структурированы за счет разбиения на группы различными способами, но также в связи с тем, что каждому отдельному слову можно приписать разные значении, В программе STUDENT положение более или менее облегчается тем, что выполняется такое сильное семантическое ограничение, при котором рассматриваемые предложения выражают алгебраические соотношения между обозначаемыми сущностями"**.
Каковы возможности этой программы?
Использование алгебраического контекста, с одной стороны, несет с собой определенные преимущества; с другой же стороны, однако, оно существенно ограничивает область применения программы. Подобное "сильное ограничение" исключает из рассмотрения как раз тот аспект естественного языка (а именно его неоднозначность), который усложняет задачу машинной обработки естественного языка и, быть может, делает ее вообще неразрешимой. Подобные программы настолько далеки от семантического понимания как такового, что, как признает сам Бобров, "фраза the number of times I went to the movies, которая должна была бы интерпретироваться как последовательность, имеющая характер переменной, будет неправильно истолкована программой как результат применения оператора к двум переменным- number of и I went to the movies,- поскольку times всегда рассматривается как знак операции"***.
Что же, собственно, было достигнуто?
Д. Бобров довольно осторожен. Хотя его работа несколько опрометчиво озаглавлена "Программа решения задач на ЭВМ с вводом исходных данных на естественном языке", он с самого начала недвусмысленно говорит, что его программа способна "воспринимать достаточное, но ограниченное подмножество выражений английского языка"****. Затем он добавляет:
"В дальнейшем изложении я буду пользоваться фразами типа "программа понимает английский". Во всех подобных случаях под "английским" понимается ограниченное подмножество выражений английского языка, допустимое на входе обсуждаемой программы для вычислительной машины"*****
* М. Мinsky. Introduction.-In: M. Minsкy (ed). Semantic Information Processing, p. 18.
** Ibid., p. 20.
*** D. Воbrow. Op. cit., p. 1B345.
**** D. Bоbrоw. Natural Language Input for a Computer Problem Solving Program, MACTR-1, V.Y.T.,abstract of thesis, p. 3 (курсив мой.-Х-Д.).
***** D. Bobrow. Natural Language Input for a Computer Problem Solving System,-In: M. Minsky (edj. Semantic Information Processing, p. 135,
83
Достаточно прямолинейное заявление. Автор программы претендует только на то, что оправдано ограниченным выбором материала. Он подчеркивает, что "программа STUDENT воспринимает слова как символы и ограничивается лишь тем минимумом знания слов, который необходим для решения данной конкретной задачи"*.
Другими словами, эта программа воплощает в себе некий минимум семантического понимания, Бобров горд тем, что достиг столь многого при минимальных затратах. "В основу семантической модели системы STUDENT положено одно отношение (равенство) и пять основных арифметических функций**.
В равной степени осторожность Боброва проявляется в подчеркивании специфичности значения глагола "понимать".
Для целей данной работы я воспользовался следующим операциональным определением термина "понимание". Вычислительная машина понимает предложение из определенного подмножества предложений английского языка, если она воспринимает это предложение и отвечает на вопросы, касающиеся информации, в нем содержащейся. В этом смысле система STUDENT понимает английский язык"***.
В заключение Бобров осторожно пишет: "Я полагаю, что нам далеко еще до написания программы, которая могла бы понимать весь английский язык или хотя бы его достаточно большую часть. Однако в своей узкой специальной области программа STUDENT доказала, что "понимающие" машины могут быть построены"****.
Тем не менее в своей статье в журнале "Scientific American" М. Минский говорит, что "STUDENT -- понимает английский язык". Что же произошло?
Дело в том, что Бобров ставит слово "понимает" в кавычки. Следует все время помнить, что "понимает" для него значит просто "отвечает на вопросы, относящиеся к некоторой части английского языка, ограниченной контекстом задач на составление алгебраических уравнений". При этом он предпочитает говорить "понимает", а не "перерабатывает информацию"- Однако невольно возникает ощущение, что его программа имеет какое-то отношение к человеческому пониманию. Этим и воспользовался Минский: в своей риторической статье он просто опустил кавычки.
Еще более удивительны и чреваты ошибочными выводами
* D.Bobrow. Natural Language Input for a Computer Problem Solving System.- In: M. Minsky (ed.). Semantic Information Processing, p. 144.
** Ibid. p. 191.
*** Ibid,, p. 135, В том смысле, в каком Бобров употребляет слова "понимает" и "английский язык", даже машина, которая, будучи снабжена фразой "You are on" ("Вы включены"), только и может что ответить "Yes" на вопрос "Are you on?", уже "понимает английский язык
**** Ibid. 194.
84
заявления М.Минского, касающиеся «огромного потенциала обучения» программы Д. Боброва:
"Обратите внимание на то, как качественно меняется вся работа программы Боброва STUDENT после того, как ей скажут, что "расстояние равняется скорости, умноженной на время"! Уже этот единичный акт расширения ее опыта дает ей возможность решать новый род задач школьной алгебры, а именно физические задачи, в которых фигурируют расстояние, скорость и время. Не следует думать, что кривая научения всегда должна медленно ползти вверх на фоне тошнотворно частых повторений. Очень важно отвыкнуть от взгляда, что обучение есть только там, где имеет место этот процесс.
В программе Боброва нет никаких специально предусмотренных статистических механизмов, так что ей не нужно повторять что-то снова и снова; ее обучение настолько блестяще, что его и не назовешь обучением"*.
Однако в этом случае нетрудно показать, что процесс, который происходит в машине, никак нельзя назвать "пониманием". В машину действительно было введено еще одно уравнение, но машина не понимает, что это формула; иначе говоря, программа может, конечно, подставить в уравнение d- r-t одно значение расстояния, одно значение скорости и одно значение времени, но она ничего не понимает, так как не может использовать это уравнение дважды в одной и той же задаче, поскольку неспособна решать вопрос о том, какие величины связывают друг с другом те или иные уравнения. Как признает Бобров, "в задаче одна и та же переменная должна быть представлена одной и той же фразой"**. Итак, обучения не произошло.
Отбросив кавычки в слове "понимает", а в слове "обучение" сделав их символом сверхчеловеческого обучения. Минский переходит в область умозрительных рассуждений:
" Чтобы машины могли хотя бы улучшить свою работу, существенно необходимо иметь в машине элементарное понимание собственного процесса решения задач и некоторую способность распознавать улучшение, когда оно найдено. Я не вижу веских причин, почему это невозможно для машины. Если заложить в машину модель ее собственной работы, она наряду с решением других задач могла бы работать и над задачей самосовершенствования..,
После того как мы создадим программы, наделяющие машины подлинной способностью к самоулучшению, начнется быстро развивающийся процесс в этой области. Поскольку машина улучшает и самое себя и собственную модель, мы сумеем увидеть все те явления, которые мы связываем с такими понятиями, как "сознание", "интуиция" и даже "разум". Трудно сказать, насколько близко мы подошли к этому порогу, но когда-нибудь мир переступит через этот порог и ему уже невозможно будет остаться прежним"***
* М. Мinsky. Introduction.-In: М. Мinsky (ed). Semantic Information Processing, p, 14.
** D.Bobrow. Op. cit.-In: M.Minsky (ed.). Semantic Information Processing, p. 192.
*** M. Mинский. Искусственный разум. - В кн.: Информация,с. 214-215.
85
Однако не так уж трудно, вопреки мнению М. Минского, сказать, насколько близки мы к этому порогу. Поскольку считается, что в программе Д. Боброва реализованы те зачатки понимания и обучения, на которые рассчитывает Минский, нам остается только поставить вопрос: до какой степени могут быть обобщены и расширены методы, использованные Бобровым?
Это приводит нас к последнему вопросу; каким образом можно распространить рассматриваемую программу на более широкие области применения?
Здесь уже и Д. Бобров отбрасывает всякую осторожность: вопреки своему прежнему замечанию о том, что семантическая модель построена на единственном отношении (равенстве) и, следовательно, может составлять и решать уравнения только в тех случаях, когда удается использовать некоторое алгебраическое условие, он заявляет, что его "семантическая теория словесного общения может послужить основой для значительно более общей системы переработки языковых соотношений"*. Автореферат своей диссертации Бобров заключает уже знакомой нам вариацией на тему "первого шага". "Система STUDENT- это первый шаг к общению с вычислительной машиной на естественном языке. Дальнейшая работа над этой семантической теорией должна привести к гораздо более тонким и богатым системам"**.
Со времени этого заявления прошло пять лет, однако никакой более богатой возможностями семантической теории не появилось46.Трудно понять, почему Д.Бобров и М.Минский, отдавая себе отчет о всех специфических ограничениях, соблюдение которых необходимо для нормальной работы данной программы, считают тем не менее, что такое обобщение наверняка возможно. Я полагаю, что ни оправдать, ни хотя бы объяснить их оптимизм по отношению именно к этому, по общему признанию весьма ограниченному, подходу ad hoc нельзя ничем. Что же касается их "глобального" оптимизма в отношении того, что некоторый машинный подход в данной области обязательно будет реализован, то его истоки можно проследить вплоть до фундаментальной метафизической предпосылки, касающейся природы языка и разумного поведения человека, согласно которой любое упорядоченное поведение человека может быть в принципе формализовано и представлено в виде программы для цифровой вычислительной машины (см, гл. 5). Этим и объясняется уверенность М.Минского и Д.Боброва, позволяющая им расценивать все трудности, возникающие на их пути, как технологические затруд-
* D.Bobrow. Op.cit.-In: М.Мinsky. (ed.). Semantic Information Processmg, p. 194.
** D.Bobrow. Natural Language Input for a Computer Solving Program. Abstract of thesis, p, 3.
86
нения, связанные, в частности, с ограниченной емкостью запоминающих устройств современных ЭВМ*.
Не будь этой предпосылки, частичный успех работы Д.Боброва, которую М.Минский объявил наиболее многообещающей из существующих, был бы воспринят как искусный трюк, ничего не говорящий ни за, ни против возможности существования машинного понимания. Тот факт, что эта работа - лучшее, что сумел создать столь незаурядный человек, как Д.Бобров, пробудил бы сомнения в возможности достижения рубежа, за которым начинаются самосовершенствующиеся машины.
Программа определения аналогий, разработанная Т. Эвансом
Вся "коллекция" аргументов М. Минского сделана по одному шаблону: о решении с помощью приема ad hoc некоторой ограниченной задачи сначала сообщается с некоторой осторожностью, а затем это решение трактуется как первый шаг к развитию более общих методов. Но все работы, представленные в сборнике М. Минского, были закончены к 1964 г., и, хотя с той поры прошло еще семь лет, ни одно из прокламированных обобщений так и не было осуществлено.
Рассмотрим, к примеру, программу определения аналогий Т.Эвзнса - сложную, умело написанную программу для решения задач на обнаружение сходства типа тех, которые используются в тестировании интеллекта (рис.). Программа решает крайне специфическую задачу, и решает ее на уровне среднего десятиклассника, что, учитывая современный уровень таких программ, является выдающимся достижением. Что еще более существенно, Эванс отдает себе отчет в том, что эта удачная сама по себе работа мало что дает: ее можно признать успешной только в том случае, если методы, использованные в ней, допускают какое-то обобщение. Но в отличие от Д. Боброва он не удовлетворяется утверждением, что такое обобщение возможно- В заключении к своей работе он пытается набросать в общих чертах такое обобщение и описать те преимущества, которые при этом получат программы для решения задач (типа GPS) и распознавания образов:
* В статье, помещенной в журнале "Scientific American", М. Минский ставит вопрос: "Почему машины не более разумны, чем это есть на самом деле?" - и отвечает: "До настоящего времени были весьма ограничены ресурсы в людях, времени и сами возможности вычислительных машин. Некоторые наиболее тщательно продуманные и серьезные попытки разработки разумных машин уже приближаются к поставленным частным целям...; другие исследован ив были ограничены возможностями оперативной памяти вычислительной машины; третьи столкнулись с трудностями программирования" (М. Минский, Искусственный разум, - В кн.: Информация, с. 213-214) .
87
«На последних страницах этой главы мы опишем процесс "распознавания образов", главные идеи которого основываются на описанном выше понятии аналогии. Предлагаемый подход претендует на некоторые преимущества, глазным образом за счет того, что вводятся более мощные и более общие схемы описаний для рассматриваемых "объектов"».
"GPS трактует составные части некоторого данного объекта с помощью организации его в терминах целей и подцелей. Тем самым GPS уходит от рассмотрения сложных структур на каждом конкретном уровне путем разложения их на более мелкие структуры, связанные с подцелями. Таким образом, GPS никогда не воспринимает отдельную сложную структуру как таковую; когда какая-либо подструктура рассматривается на более глубоком уровне подцелей, она находится "вне контекста" в том смысле, что отсутствует необходимая информация о том, что даст достижение этой подцели для продвижения к цели более высокого уровня. Ньюэлл обсуждает одну из таких "бесконтекстных" задач и делает несколько довольно безуспешных попыток ее решения. Описанный нами в общих чертах механизм представляет собой систему распознавания образов, которая в состоянии воспринимать "глобальный" аспект задачи и в то же время имеет доступ ко всей ее структуре. "Глобальное" управление такого рода может оказаться полезным для GPS, давая возможность экономить время (поскольку при существующем варианте программы много времени тратится на выдвижение и достижение подцелей, не ведущих к целям самого высокого или близкого к нему уровня) . Уже одно это будет большим шагом вперед"**.
Т.Эванс выдвигает также некоторые предложения, касающиеся обучения:
* Th. Evans. A Program for the Solution of a Class of Geometnc-Analocy Intelligence Test Question.- In: M.M i n s k у (ed.). Semantic Information Processing, p.346-347.
** Ibid., p. 349.
88
"Разумеется, изучение этих проблем в относительно хорошо разработанной области языков со структурой непосредственных составляющих^ представляет собой естественный шаг вперед по направлению к созданию настоящего машинного "обучения обобщению"; кроме того, решение этих задач откроет путь к исследованию проблемы моделирования обучения в случае более сложно описываемых языков. Поскольку правила преобразования могут быть сами выражены в терминах структуры непосредственных составляющих, одна из интересных возможностей состоит в том, чтобы применить совокупный аппарат "структура непосредственных составляющих плюс GPS" для улучшения собственного набора правил преобразования"*.
Т.Эванс понимает, что "это, по-видимому, крайне трудная задача"**. Скорее всего, так оно и оказалось, поскольку с момента завершения в 1963 г. его работы над этим проектом о нем больше не было опубликовано ни слова. Как мы видели, Ньюэлл также забросил свою GPS, а распознающие программы, по словам М.Идена, в 1968 г. основывались по-прежнему на приемах ad hoc. Отсюда вновь следует знакомый вопрос: почему М.Минский и Т.Эванс так уверены, что метод ad hoc, приведший к решению этой специфической и довольно сложной задачи отыскания аналогий, может быть обобщен? Некоторый намек на причины этой уверенности можно найти в довольно неожиданном сравнении, которое проводит Минский между программой Эванса и человеческим способом решения задач, основанном на аналогии. Вопреки своим обычным заверениям о том, что ИИ не имеет отношения к моделированию познания, Минский дает следующее "менталистское" описание работы программы Эванса:
"Для изложения сущности этой работы лучше всего описать данную программу в менталистских терминах. Если задан некоторый набор фигур, то программа строит набор гипотез или теорий следующим образом:
1. Основываясь на описаниях D(A) и D(B) фигур А и В (см.рис.2, - Х-ДЛ, можно выбрать много путей преобразования D(A) в D(B); выбери ОДИН ИЗ НИХ,
2. Существует также много путей установления соответствия между частями фигуры А и частями фигуры С; каждое такое соответствие может стать основой некоторого отношения того типа, о котором шла речь в п.1, но на сей раз связывающего фигуру С с какими-то другими фигурами,
3. Маловероятно, что какое-нибудь из отношений, найденных в п.2, окажется полностью применимым к какой-нибудь фигуре-ответу. (Если оно окажется таковым, то соответствующая фигура и есть результат работы программы.) Для каждой фигуры-ответа каждое отношение должно быть "ослаблено" (то есть обобщено) ровно настолько, насколько это нужно для того, чтобы оно оказалось применимо к данной фигуре.
4. И наконец, программа учитывает степень ослабления каждого отношения. Она выбирает то из отношений, которое требует наименьшего изменения и выдает в качестве результата соответствующую фигуру из множества фигур-ответов.
Выбирая гипотезу, связанную с минимальным "ослаблением" исходного преобразования А ~^ В, программа тем самым отдает предпочтение
* Ibid., p. 350.
** Ibid.
89
тому объяснению, в котором заключено больше информации, общей для отношений А~> В и С^* D. Подробности правил выбора на этапах 1, 2, 3, 4 и составляют, в сущности, предложенную Эвансом теорию человеческого поведения в подобных ситуациях, Я совершенно убежден в том, что любое рассуждение по аналогии включает в себя нечто, имеющее именно такой общий характер"*.
В статье, опубликованной в журнале "Scientific American", М.Минский сформулировал это "нечто" более четко: "Я убежден, что все виды рассуждения по методу аналогии повинуются этим правилам"**. Это та же самая предпосылка, которая, как мы видели, лежит в основе работ Ньюэлла и Саймона в области моделирования процессов познания. При описании процедуры решения задачи Т.Эванс фактически повторяет Ньюэлла:
"Эти программы, в сущности, похожи. Их работа - процесс не простой, так что мы можем сказать, что обе программы действительно решают задачу, а не просто осуществляют шаг за шагом те процедуры поиска решения, которые придумал программист. Они имеют дело с формализованными задачами, хотя и трудными, но с "хорошей структурой". Программы строятся на единой системе понятий: они находят комбинаторную интерпретацию задачи, сводя ее к поиску правильной последовательности операций среди множества всех возможных последовательностей. Все программы порождают то или иное дерево возможностей и шаг за шагом исследуют все допустимые последовательности. Множество всех последовательностей слишком необъятно, его нельзя построить и просмотреть in toto, поэтому для сокращении числа возможностей до разумных пределов, поддающихся машинной обработке, используются различные ухищрения, называемые эвристиками".
В заключение Т.Эванс пишет:
"Программа геометрических аналогий также подпадает под это описание. Говоря очень кратко, при рассмотрении задач такого типа программа использует различные эвристики для выбора (за разумный срок) "адекватного" правила из очень широкого класса допустимых
Можно с уверенностью сказать, что если бы человек решал задачи поиска аналогий именно таким образом, то были бы все основании надеяться на улучшение и обобщение программы Эванса, поскольку человек, разумеется, далеко превосходит уровень, демонстрируемый существующими программами. Однако, как и в случае GPS, ничто не говорит в пользу того, что человек действует именно таким образом, а данные эмпирической психологии свидетельствуют как раз об обратном.
Р.Арнхейм, профессор психологии Гарвардского университета, анализируя работу Эванса, указал на иной подход, которым пользуется человек, решая задачи такого рода. Слова Арнхейма стоят того, чтобы привести их полностью:
* М.Мinsky - Introduction.-In: M.Minsky (ed). Semantic Information Processing, p.16 (курсив мой.-X.Д.)
** М.Минский. Искусственный разум. - В кн.: Информация, с. 206.
*** Th.Evans. Op.cit.-In: M. Minsky (ed.) Semantic Information Processing, p. 280
90
“Что происходит, когда человек сталкивается с фигурой, подобной той, которая изображена на рис. [2]? Реакция будет несколько меняться от человека к человеку, поскольку нет никакого конкретного контекста, способствующего концентрации внимания на тех или иных специфических структурных признаках. Однако в общем и целом испытуемый, вероятнее всего, заметит своего рода вертикальную организацию, состоящую из двух частей, верхняя из которых сложнее и больше по величине, чем нижняя48
он может заметить также различия в контурах. Другими словами, он воспримет качественные характеристики конфигурации, относительные величины и очертания, в то время как большинство метрических свойств, с учета которых должно начинаться восприятие образа вычислительной машиной, а именно абсолютные размеры и те или иные длины и расстояния, характеризующие данную конкретную фигуру, он вряд ли заметит. Если попросить испытуемых нарисовать фигуру, которую они воспринимают, то выяснится, что они обращают внимание на топологические особенности и пренебрегают точными размерами.
Если теперь испытуемый столкнется с сочетанием фигур Аи В, опыт его резко расширится и обогатится. Сначала у него появится смутное ощущение сходства между совершенно различными как будто изображениями. Конструкция, состоящая из двух данных фигур, в целом может показаться несоединимой, иррациональной, непостижимой. Налицо две вертикальные организации, сочетающиеся в своего рода симметрии, которая разрушается отношениями по диагонали между двумя большими "заполненными" кругами и двумя маленькими "незаполненными" фигурками. Многообразие структурных характеристик никак не складывается в единое, устойчивое и доступное пониманию целое. Не исключено, однако, что испытуемый внезапно уловит, что четыре меньших фигуры - два равных кружка вверху и два равных квадрата внизу - составляют вместе простую прямоугольную структуру. Как только эта структура станет доминирующим мотивом или организующей основой целого, остальные фигурки-два больших круга - добавятся к основному образу в качестве второстепенных "диагональных украшений". Иерархия структур установлена. Теперь конструкция из двух фигур устойчива, обозрима, доступна пониманию и потому готова к сравнению с другими фигурами. Первый акт поиска решения задачи произошел.
Когда после этого человек обратится к фигуре С, то новое в ней для него с самого начала будет определяться опытом, накопленным при рассмотрении фигур А и 6. Будучи сравниваема с фигурой А, фигура С обнаруживает аналогичную вертикальную структуру, отличающуюся от структуры А по существу второстепенным различием контуров фигурок. «Фамильное» сходство обеих фигур достаточно велико, и отношения между ними устанавливаются просто. Если же теперь С сопоставить с D-], то их сходство кажется избыточным, симметрия слишком совершенной. Сравнение с D2, напротив, дает слишком малое сходство. Если отношение между А и В было установлено правильно, то D3 сразу распознается как подходящая к С пара - недостающий четвертый элемент аналогии.
Этот пример из области перцептивного решения задач включает все характеристики подлинного мышления: проблемную ситуацию, продуктивный поиск, надежды и догадки, частичные решения, неприятное ощущение противоречия, внезапное озарение, ведущее к окончательному решению, адекватность которого очевидна, структурные преобразования, возникающие под давлением изменения ситуации в целом, обнаружение элементов сходства между различными образами. Все это, вместе взятое, представляет собой в небольшом масштабе живой опыт, достойный существа, которому дарован разум. Когда решение наконец найдено, мы ощущаем спад напряжения, удовлетворение, покой.
В вычислительной машине все происходит иначе, и не потому, что она не обладает сознанием, а потому, что принцип ее действия в корне иной. Мы
91
поражаемся, когда узнаем, что для того, чтобы научить машину решить задачу по аналогии, экспериментатору "пришлось разработать, пожалуй, одну из самых сложных из всех когда-либо написанных программ". Дли нас эта задача не сложна - она доступна начинающим студентам. Причина такого различия в том, что подобные процессы требуют рассмотрения топологических отношений, а это влечет за собой отбрасывание отношений чисто метрических. Мозг приводится в движение именно такими "топографическими" признаками, так как они дают нам информацию о типовых характеристиках вещей, а не об их конкретных количественных характеристиках"*
Как и в шахматах, глобальное перцептивное разбиение на группы обязательно предшествует управляемому правилами перебору - единственному виду деятельности, доступному машине. Как пишет Р.Арнхейм, "топология была открыта перцептивной мощью мозга и рассчитана на перцептивные, а не арифметические его возможности"**.
По-видимому, Минский и Эванс полагают, что человек находит аналогии с помощью правил преобразования, поскольку прогресс в развитии ИИ возможен только в предположении, что человек решает задачи именно таким образом. Но это рассуждение заведомо порочно, поскольку нельзя основывать свой оптимизм на гипотезе, которая в свою очередь подтверждается только тем фактом, что, окажись она верной, оптимизм ее сторонников был бы оправдан.
Программа организации семантической памяти, составленная Р. Кеиллианом
Последняя из рассматриваемых нами программ самая интересная, так как она наиболее обща и наименее претенциозна - по крайней мере ее автор (он работает под руководством Г.Саймона, а не М. Минского) не делает никаких огульных заявлений и обещаний***. Это программа подтверждает общее правило оценки качества эвристических программ (вспомним сдержанность А. Сэмюзля, когда он говорит о своей программе, и ее результативность, с одной стороны, и претенциозность Г. Саймона и X. Гелернтера при очень скромных успехах - с другой), которое заключается в следующем: значимость программы часто находится в обратной зависимости от обещаний и рекламных заявлений ее авторов.
* F.Arnheim. Intelligence Simulated. -"Midway", University of Chicago, June 1967, p.85-87.
** Ibid
*** В отличие от М. Минского Г. Саймон, по-видимому, не требует от своих учеников публичного обета верности, хотя сам принадлежит к числу "верующих".
92
Р.Квиллиан, как и Д.Бобров, занимается моделированием явления понимания естественного языка, но в отличие от Боброва и Минского он отдает себе отчет в том, что к этой задаче нет смысла подходить с позиции поиска решения с помощью приемов ad hoc.
"Прежде всего, мы полагаем, что авторы теорий переработки информации или машинных моделей, если они хотят добиться успеха, не должны игнорировать семантику или устранять ее, как это до сих пор имеет место в большинстве программ по переработке информации, заданной на естественном языке. Неважно, что именно по замыслу автора должна делать программа - производить грамматический анализ предложения, переводить с одного языка на другой или отвечать на вопросы, задаваемые на естественном языке,- если в ней не учитываются семантические характеристики, причем изначально и достаточно часто, то, я думаю, у нее нет шансов достичь уровня человека"*.
Предприняв обзор всех имеющихся в этой области работ, включая работу Д. Боброва,?. Квиллиан пишет:
"Программы, подобные программе Боброва, в состоянии составлять уравнения, соответствующие некоторым текстовым алгебраическим задачам, с помощью почти полностью "синтаксической" процедуры. ...Однако если попытаться расширить ту часть языка, которая доступна такой программе, то неизбежно придется вводить в нее все большее число семантических фактов"**.
В заключение Р.Квиллиан говорит:
"...вопрос о том, что должно храниться в общей долговременной памяти, подобной памяти человека, как должна записываться в ней информация, как память должна быть организована, в предшествующих моделирующих программах не был рассмотрен во всей его общности... Дальнейшее развитие моделирования решения задач, моделирования игр, а также речевого поведения, несомненно, потребует создания программ, организующих большие массивы памяти и взаимодействующих с ними"***.
Затем Квиллиан переходит к описанию своей сложной эвристической программы, обеспечивающей занесение в память и извлечение из нее значений слов и "всего того, что можно выразить в языке, почувствовать в восприятии или каким-либо иным путем постигнуть и запомнить"****, - программы, организующей содержание памяти в виде одной "огромной, взаимосвязанной сети"*****- По предположению Квиллиана, в этой программе воплощена "разумная точка зрения на то, как организована
* R.Quillian. Semantic Memory.- In: М.Мinsky (ed.). Semantic Information Processing, p,251.
** R. Quillian. Semantic Memory. Bolt, Beranek and Newman, Inc., Paper AFCRL-66-189, 1966, October, p. 54. (В сжатом варианте диссертации, приводимом в книге под редакцией М. Минского, этого нет.)
*** R. Quillian. Op. cit.-In: M. Minsky (ed.). Semantic Information Processing, p.219-220.
**** Ibid., p,221. *****lbid.,p.222.
93
семантическая информация в мозгу человека"*. Однако никаких доводов в пользу разумности этой точки зрения он не приводит, за исключением разве что того соображения, что если бы необходимость хранения семантической информации возникла перед вычислительной машиной, то предлагаемая программа оказалась бы для этого разумной моделью. В действительности человек не осознает того, как он проводит сложные процессы занесения в память и извлечения из нее, о которых говорит Р. Квиллиан, Однако последнего это мало волнует; он, как и его учитель Саймон, всегда может сказать, что эти процессы все же происходят, подсознательно,
"Хотя процесс кодирования текста, разумеется, не совпадает с тем скрытым от нас процессом, который приводит к пониманию текстового материала при обычном чтении, все же он... в каком-то смысле является его замедленной и доступной для обозрении версией**.
Тот факт, что подобная подсознательная переработка информации действительно имеет место и, более того, происходит в соответствии с эвристическими правилами, отнюдь не очевиден. Мы уже видели, что и в игре в шахматы, и при отыскании аналогий решающее значение имеет разбиение объектов на группы, основанное на целостном восприятии; очень может быть, что и в данном случае это так. Но создается впечатление, что Р. Квиллиан усвоил от Ньюэлла и Саймона безоговорочно принимаемое ими допущение, что человек действует по эвристическим программам.
"Эвристические методы, с помощью которых выбирается единственное конкретное осмысление текста, составляют центральную проблему для всякого, кто хочет объяснить "понимание"; точно так же эвристические методы, с помощью которых выбирается единственный конкретный ход из всех возможных ходов, составляют центральную проблему для всякого, кто хочет объяснить процесс игры в шахматы"***.
Приняв такое допущение, Квиллиан с неизбежностью должен предположить, что идеал программы должен состоять в том, чтобы задавать функционирование системы в направлении "от частей к целому",
"Выбирая задачу, в рамках которой можно было бы работать с моделью памяти, естественно начать со способности к пониманию незнакомых предложений- По-видимому, разумно предположить, что у человека нет другого пути понимания новых предложений, кроме извлечения из памяти хранящейся в ней информации о значениях отдельных слов и словосочетаний (и, возможно, небольшого изменения э~их значений) с последующим комбинированием значений в целях формирования смысла предложения. В
* Ibid., р. 216. **Ibid., р. 247.
*** R. Quillian. Semantic Memory, Bolt, Beranek and Newman, Inc., Paper AFCRb66-189, p. 113.
94
соответствии с этим в нашу задачу входит построение модели хранения семантических сведений и формулирование правил комбинирования, по которым из хранящихся в памяти смыслов слов происходит построение значений предложений"*.
Квиллиан также ждет от своей системы многого:
"Далее, вполне правдоподобно, что если бы удалось адекватно закодировать и вложить в память ЭВМ хотя бы несколько значений слое, а затем формализовать на уровне машинной программы работоспособный набор правил их комбинирования, то можно было бы слово за словом наращивать запас закодированных значений наподобие шнуровки на ботинках; тогда вычислительная машина сама бы "понимала" предложения, которые ею построены, и использовала их для формулировки определений других слов. А это значит, что если новое, еще не закодированное слово может быть определено с помощью предложения, в которое входят только слова с уже закодированными значениями, то машина в состоянии построить объект, представляющий смысл этого предложения, исходя из уже имеющихся у нее сведений и правил комбинирования;объект этот - представитель смысла - и будет тем соответствующим предложению кодом, который следует добавить к содержимому в памяти в качестве значения нового слова"**.
С откровенностью, столь редкой в публикациях на данную тему, Р. Квиллиан сообщает также и о своих разочарованиях;
"К сожалению, два года работы над данной проблемой показали, что для нынешнего уровня знаний эта задача слишком трудна. Процессы, происходящие в мозгу человека, когда он "понимает" предложение и включает его смысл в свою память, очень сложны, и происходят они практически без участия сознания"***.
Масштабы задачи, стоящей перед Р.Квиллианом, станут яснее, если мы заметим, что
" определение восьмисот пятидесяти слое вмещает в себя больше информации, чем в состоянии вместить магнитные запоминающие устройства современных вычислительных машин"****.
Эти трудности наводят на мысль, что, быть может, ошибка кроется в самой модели, то есть в идее о том, что наше понимание естественного языка включает в себя построение структурированного целого из огромного числа точно описанных частей. Работа Р. Квиллиана скорее ставит, чем решает вопрос о запоминании этого колоссального множества фактов, - вопрос, возникающий в связи с тем, что в проводимом анализе отсутствуют перцептивные гештальты. Если структура данных по мере добавления новых определений будет расти слишком быстро, то и без того не слишком обнадеживающую работу Квиллиана можно считать reductio ad absurdum всего машинно-ориентированного
* R.Quillian. Semantic Memory.- In: M.Minsky (ed.). Semantic Information Processing, p,235. Ibid, p.235.
95
подхода. Прежде чем решить, дает ли работа Квиллиана основание для оптимизма, любопытно получить ответ на коренной вопрос: как с увеличением числа элементов растет база данных у Квиллиана - линейно или экспоненциально?
По поводу этого основного вопроса, как это ни удивительно, можно встретить массу обнадеживающих заверений, но мало информации. Программа Квиллиана имеет дело только с 50 - 60 словами. М. Минский в сборнике, вышедшем в 1968 г., то есть спустя три года после завершения этой программы, вынужден признать, что «пока мы еще мало знаем о том, насколько эффективными станут методы Квиллиана при использовании более содержательных "банков знаний"»*. И опять о дальнейшем развитии сообщений не имеется.
II. Значение сегодняшних трудностей
Каковы разумные перспективы? По оценке М. Минского, в настоящее время программа Квиллиана содержит несколько сотен фактов, в то время как "для мощного интеллекта потребуется миллион фактов"**. Он также признает, что каждая из "рассмотренных (в его книге,- ХД) программ лучше всего будет работать при условии обеспечения ее только необходимыми фактами, ибо по мере роста массивов информации программы безнадежно увязают в массе фактов"***.
Если так, то возникает вопрос, существуют ли хотя бы какие-нибудь основания для уверенности в том, что эти программы приближают нас к тем "эвристикам высшего уровня, управляющим познавательной структурой", которыми, как считает Минский, располагает человек? Можно ли согласиться со следующим заявлением Минского, сделанным в другой его работе:
"При жизни нашего поколения... останется лишь немного интеллектуальных задач, которые будут не под силу машинам: проблема создания "искусственного интеллекта" будет в основном решена"****.
Во всяком случае, труд "Процессы переработки семантической информации" не дает оснований для такой уверенности.1 М. Минский, как мы видели, критикует более ранние программы за недостаточную общность. "Каждая программа работает только в соответствующей специальной области, и стыковать две разные программы оказывается совершенно невозможно"*****. Однако
* M. Мinsky (ed.). Semantic Information Processing, p. 1.
** Ibid., p. 26. *** Ibid.rP; 18.
**** M.Minsky. Computation: Finite and Infinite Machines. Engluwood Cliffs, N J., Prentice-Hall, 1967, p. 2.
***** M.Minsky (ed.). Semantic Information Processing, p. 13.
96
предлагаемые Минским решения остаются, как правило, на уровне приемов ad hoc, и тем не менее с некоторой долей беспечности он пишет далее:
"Рассмотренные в данной книге программы все еще страдают этим недостатком, но их авторы уже не игнорируют этой проблемы. Их основная задача фактически состоит в том, чтобы решить ее"*.
Но как-то незаметно, чтобы хоть одна из представленных М, Минским работ что-нибудь решала. Ни одной общей характеристики способности человека к разумному поведению найти не удалось. Все, что предлагает Минский, - это частные решения отдельных задач, как у Боброва и Эванса, или предельно упрощенные модели, как у Квиллиана, которые работают именно потому, что проблема структурирования и хранения необходимого объема данных была исключена из рассмотрения. Минский, конечно, уже ответил на эти очевидные обвинения новой вариацией на тему "первого шага":
"Хотя область применения предлагаемого пакета программ see еще производит впечатление довольно узкой, это не доказывает отсутствия прогресса в движении к более общим результатам. Каждая из этих программ - шаг вперед к управлению знанием"**.
По-видимому, на втором этапе игра заключается в следующем: выяснить, в какой мере можно наращивать видимость сложного, оставаясь в то же время на безопасном расстоянии от подлинной проблемы сложности, а затем, убедившись, что обобщение невозможно, объявить, что сделан только первый шаг49.
Такой подход неизбежен до тех пор, пока исследователи в области ИИ будут стремиться к эффективным результатам, не решив практической задачи хранения в памяти большого объема данных, необходимого - хотя, быть может, и недостаточного - дли всесторонней гибкой переработки семантической информации. Оглядываясь на достигнутые результаты, М. Минский с удовлетворением отмечает: "Трудно сдержать изумление, видя, как много все-таки достигнуто при столь ограниченной семантике"***. И. Бар-Хиллел в беседе с представителями SIGART (Special Interest Group in Artificial Intelligence of the Association for Computing Machinery} подчеркнул, что такого рода заявления лишь вводят в заблуждение:
"Существует немало людей во всех областях знания и особенно в сфере ИИ, которые расценивают любой первый шаг в использовании ЭВМ там, где
* Ibid.
** Ibid, (курсив мой,- Х.Д.)
*** Ibid., p. 26.
97
они ранее не применялись, как такое достижение, которое делает оставшиеся шаги делом "простой техники". В сущности, такая точка зрения равносильна утверждению, что если какая-то работа может быть вообще передана вычислительной машине, то она будет выполняться ею хорошо. Дело обстоит как раз наоборот: шаг, ведущий от полной невозможности выполнить что-то к возможности выполнить это хоть как-нибудь, значительно короче следующего шага, приводящего к умению выполнить это хорошо. В исследованиях в области ИИ подобное заблуждение встречается постоянно"*.
Однако И.Бар-Хиллел, пожалуй, излишне простодушен, если полагает, что это непонимание является простым следствием недооценки трудностей, связанных с прогрессом в данной области. Для того чтобы иметь основание утверждать, что первый, пусть даже маленький шаг уже сделан, надо быть уверенным в том, что последующие шаги в конце концов достигнут желаемой цели. Как мы видели, книга М. Минского таких оснований не дает. Вполне возможно, что вышеупомянутые шаги окажутся семимильными шагами в противоположном направлении. Ограниченность результатов, описываемых Минским, в сочетании с тем фактом, что за последние пять лет ни одно из множества прокламированных обобщений не было реализовано, наводят на мысль, что человек в отличие от ЭВМ вовсе не имеет дела с массой изолированных фактов, поэтому ему нет необходимости накапливать и извлекать из памяти эти факты, пользуясь эвристическими правилами. Судя по его поведению, человек обходит те трудности, с которыми на каждом шагу сталкиваются исследователи в области моделирования процесса познания и создания искусственного интеллекта, он делает это, избегая дискретного метода переработки информации, который эти трудности вызывает. Таким образом, весьма сомнительно, чтобы тот сдвиг, который М. Минский называет шагом к управлению "знанием" (пусть незначительным шагом), вообще вел к искусственному интеллекту.
ЗАКЛЮЧЕНИЕ
Как мы видели, первый этап - этап, провозглашенный "первым шагом", - не привел к успеху. Это относится как к GPS, так и вообще ко всем программам моделирования доказательства теорем, игры в шахматы и перевода с одного естественного языка на другой, созданным на этом этапе, М. Минский и сам признает неудачу; его диагноз точен, хотя он и пытается свести понесенные потери к минимуму:
* Y.Bar-Hillel. Critique of June 1966 Meeting, SIGART Newsletter, p.1.
98
Несколько исследований, по существу, не оправдали возлагавшихся на них надежд- Я имею в виду весьма нашумевшие проекты по переводу с одного языка на другой и доказательству математических теорем. Я думаю, что в обоих случаях это были незрелые попытки комплексной формализации, не подкрепленные достаточно глубоким постижением смысла самих объектов формализации"*.
Второй этап - новый "первый шаг" - начался где-то в 1961 г., когда в Массачусетсом технологическом институте ученики Минского начали работать над диссертациями, темы которых были определены задачей преодоления этих трудностей. Его конец можно отнести к 1968 г., когда вышла в свет книга под редакцией М. Минского "Процессы переработка семантической информации" - своего рода отчет об этих попытках, завершенных уже к 1964 г. Учитывая, по общему признанию, узкий -ad hoc - характер соответствующих программ, которые Минский считает наиболее удачными, и отмечая отсутствие дальнейшего их развития за последние пять лет, мы можем сделать единственный вывод: второй этап тоже не привел к успеху.
Авторы большинства работ, посвященных описанию состояния дел в этой области, не подчеркивают этот факт. Р.Соломонов в своем обзоре, опубликованном в "Трудах Института инженеров по электротехнике и радиоэлектронике" в 1966 г. и посвященном обзору работ в области ИИ, вышедших после 1960 г., первые три страницы уделяет программе GPS и другим достижениям прошлого, уже завершенным к 1960 г.; на следующих трех страницах обсуждается блестящее будущее работы С.Амареля, посвященной индукции: "Хотя Амарель не представил ни одну из своих теорий в виде программы, важность его идей и проведенного им анализа несомненна"**. О программах для переработки семантической информации, которым М. Минский придает такое значение, почти ничего не говорится. Все надежды возлагаются на индукцию и обучение. К сожалению, "во всех упомянутых обучающихся системах машина может самосовершенствоваться только в очень ограниченных пределах... Перед нами все еще стоит вопрос о том, какого типа эвристики требуются для нахождения эвристик; неизвестно также, в каких языках удобнее их описывать"***.
Поскольку не нашлось никого, кому удалось бы хоть что-нибудь сделать для нахождения таких эвристик, Р.Соломонов возлагает свои последние надежды на искусственную эволюцию;
"Перспективность искусственной эволюции объясняется тем, что о механизмах естественной эволюции мы знаем очень много и о многом
* М.Минский. Искусственный разум. - В кн.: Информация, с.214.
** R.Sоlоmоnоff. Some Recent "Work in Artificial Intelligence.-Pro ceedings of the IEEE, vol.54, No. 12, 1966, December, p. 1689.
*** Ibid., p. 1691.
99
догадываемся. А ведь эти механизмы могут быть прямо или косвенно использованы для решения тех проблем, которые возникают в их искусственных аналогах. Моделирование эволюции предоставляет исследователям в области "искусственного интеллекта" несравнимо более богатые возможности, чем моделирование нейронных сетей, поскольку о нейронных сетях почти ничего не известно из того, что могло бы хоть сколько-нибудь помочь в решении сложных проблем"*.
Однако такого рода работа по искусственной эволюции только начинается. "Исследования в области моделирования эволюции до сих пор чрезвычайно ограничены как количественно, так и качественно"**.
Когда статья, предназначенная для подведения итогов работы, проделанной с 1960 г., начинается с упоминания достижений предшествующих лет и кончается общими рассуждениями без единого примера, подтверждающего действительный прогресс, то между строк с отчетливостью проступают признаки застоя.
Подчас и в самих строках можно уловить оттенок разочарования. Так, например, Ф.Тонг в своей серьезной, без претензий статье об эвристическом алгоритме балансирования работы сборочного конвейера, опубликованной в 1968 г, и позднее вошедшей в коллективный труд "Вычислительные машины и мышление”, заканчивает обзор работ по "искусственному интеллекту" следующими славами;
"Несмотря на создание множества интересных программ (и нескольких любопытных устройств), прогресс в области "искусственного интеллекта" нельзя назвать ни волнующим, ни блестящим... По крайней мере в некоторой степени это связано с тем, что во многих публикациях, и в прошлом, и в настоящем, отсутствует четкое различение того, что достигнута, и того, что еще предстоит сделать. В этой области, как и во многих других, существует огромная разница между утверждением, что то или иное усовершенствование "по всей вероятности может быть" реализовано, и его действительной реализацией.
Очень мало ощутимых, значительных переломных достижений"***.
Затем Тонг перечисляет те достижения, которые он считает "переломными". Сюда входят: программа Ньюэлла, Шоу и Саймона "Логик-теоретик", шашечная программа Сэмюэля и распознающая программа Л.Юра и Ч.Фосслера. Но все три работы закончены задолго до 1961 г. и все три - тупиковые, если об этом позволительно судить по дальнейшим работам.
Чтобы отклонить возможные упреки в пристрастности моей оценки этой обзорной работы Тонга, сошлюсь для сравнения на следующий принадлежащий П. Гринвуду реферат, помещенный в реферативном журнале "Computing Reviews": "Из этого сжатого описания сегодняшнего состояния дел по
* Ibid. p. 1693.
** Ibid.
*** F.M.Tonge. A View of Artificial Intelligence.- In: Proceedings, A.CM.National Meeting, 1966, p. 37950.
100
проблеме " искусственного интеллекта можно сделать вывод, что за период, истекший с 1960 г., прогресс в этой области был весьма незначителен, а перспективы на ближайшее будущее оставляют желать лучшего"*.
Остается непонятным, почему эти трудности не смущают исследователей, работающих в области моделирования процесса познания, которые полагают, что переработка информации, производящаяся вычислительной машиной, проливает свет на скрытые от нас информационные процессы у человека, и почему те, кто занимается "искусственным интеллектом", считают, что должен существовать дискретный метод решения тех задач, которые разрешимы для человека. Насколько мне известно, в этой области исследований не нашлось никого, кто задумался бы над этими вопросами. Фактически во всем конгломерате естественных наук "искусственный интеллект" представляет собой наименее самокритичную область. Должна же существовать какая-то причина, объясняющая тот факт, что все эти разумные люди почти единогласно сводит к минимуму или вообще отказываются видеть возникающие на их пути трудности и продолжают догматически верить в успех. Очевидно, какая-то сила, заключающаяся в их исходных допущениях (а отнюдь не в успехах их работ), заставляет их игнорировать необходимость оправдания этой уверенности. Теперь нам необходимо разобраться, почему, несмотря на всевозрастающие трудности, исследователи в области "искусственного интеллекта" сохраняют столь непоколебимую твердость.
* Computing Reviews, vol. 8, No, 1, 1967, January-February, p. 31
101
Часть II
ДОПУЩЕНИЯ, ЛЕЖАЩИЕ В ОСНОВЕ "СТОЙКОГО ОПТИМИЗМА
ВВЕДЕНИЕ
Несмотря на серьезные трудности, исследователи, работающие в области моделирования процесса познания и создания "искусственного интеллекта", не пали духом. Более того, они настроены на редкость оптимистично. Их оптимизм основан на убеждении, что у человека переработка информации, вне всякого сомнения, носит дискретный характер, подобно тому как это происходит в цифровой машине, Коль скоро природа, основываясь на этом принципе, уже реализовала разумное поведение, то, составив соответствующую программу, мы имеем возможность наделить такой же способностью и вычислительные машины. При этом мы можем идти по пути имитации природы, либо программирования ее внешних проявлений.
Предположение, согласно которому как у человека, так и у машины переработка информации в конечном счете основана на одних и тех же элементарных действиях, высказывается порой с наивной откровенностью. А.Ньюэлл и Г.Саймон начинают одну из своих статей следующим замечанием:
"Ясно, что при таком подходе не делается каких-либо предположений о сходстве конструкции машины и мозга, за исключением того, что обе эти системы представляют собой универсальные устройства символьной переработки информации, и того, что должным образом запрограммированная вычислительная машина может выполнять элементарные информационные процессы в функциональном отношении точно так же, как они происходят в мозгу"*.
Это предположение, однако, не столь невинно и очевидно, как представляется на первый взгляд. Что такое "универсальное устройство символьной переработки информации"? Каковы те "элементарные информационные процессы", которые, как утверждается, одинаковы для человека и машины? Все работы по "искусственному интеллекту" осуществляются на цифровых машинах, поскольку это единственное универсальное устройство переработки информации, которое мы в настоящее время умеем конструировать и вообще можем себе представить. Вся информа-
A.Newell, H.A.Simоn. Computer Simulation of Human Thinking.- The RAND Corporation, P-2276, 1961, April 20, p. 9
105
ция, с которой работают эти ЦВМ, должна быть выражена в терминах дискретных элементов. Для современных цифровых машин информация представляется в двоичной форме, то есть в виде последовательностей сигналов "да" и "нет" либо "включено" и "выключено". Машина должна обрабатывать строчки определенных элементов конечной длины как последовательности объектов, отношения между которыми задаются строгими правилами. Таким образом, предположение, согласно которому человек действует подобно устройству для символьной обработки информации, связано со следующими допущениями.
1. Биологическое допущение: на некотором уровне - обычно полагают, что на уровне нейронов, -операции по переработке информации носят дискретный характер и происходят на основе некоторого биологического эквивалента переключательных схем,
2. Психологическое допущение: мышление можно рассматривать как переработку информации, заданной в бинарном (двоичном) коде51, причем переработка происходит в соответствии с некоторыми формальными правилами. Таким образом, в психологии вычислительная машина служит в качестве модели рассудка, каким его представляли эмпирики, такие, например, как Д.Юм (в этом случае информационным "битам" соответствуют атомарные впечатления), или идеалисты вроде И.Канта {в этом случае программа реализует правила мыслительного процесса) . Они подготовили почву для модельного представления мышления в виде процесса переработки информации - безличного процесса, в котором "процессор" не играет существенной роли52.
3. Эпистемологическое допущение: все знания могут быть формализованы, то есть все, что может быть понято, может быть выражено в терминах логических отношений, точнее, в терминах булевых функций - логического исчисления, задающего правила обращения с информацией, заданной в двоичном коде53.
4. Наконец, поскольку вся информация, которая вводится в машину, должна быть представлена в двоичной форме - в битах,- машинная модель мышления предполагает, что все сведения о мире, все, что составляет основу разумного поведения, должно в принципе допускать анализ в терминах множества элементов, безразличных к ситуациям. Таково онтологическое допущение: все, происходящее в мире, можно представить в виде множества фактов, каждый из которых логически не зависит от остальных. В следующих главах мы перейдем к анализу правдоподобия каждого из этих допущений. Мы убедимся, что, как правило, то, что исследователям, работающим в области моделирования процесса познания и создания "искусственного интеллекта", представляется аксиомой, гарантирующей получение результатов, в действительности является лишь одной из возможных гипотез, подлежащих проверке в ходе дальнейшей работы. Более того, ни
106
одно из этих четырех допущений не может быть оправдано ни эмпирически, ни a priori. Наконец, последние три допущения - носящие скорее философский, чем эмпирический характер,- можно подвергнуть критике с философских позиций. Каждое из них при последовательном применении к осмыслению разумного поведения ведет к затруднениям концептуального характера.
После анализа каждого из этих допущений нам будет легче понять устойчивый оптимизм специалистов в области "искусственного интеллекта", а также оценить действительную значимость результатов, полученных ими к настоящему времени.
СИТУАЦИЯ: УПОРЯДОЧНЕННОЕ ПОВЕДЕНИЕ БЕЗ ПРАВИЛ
Глава 8. СИТУАЦИЯ: УПОРЯДОЧНЕННОЕ ПОВЕДЕНИЕ БЕЗ ПРАВИЛ
При рассмотрении вопросов, связанных с решением задач и автоматическим переводом, и при попытке выяснить вопрос о релевантности и значении тех или иных фактов (или слов) мы столкнулись с угрозой "регресса в бесконечность" - не имеющим конца сведением одних правил к другим. Аналогичная опасность существует и в обучении; в самом начале процесса обучения, еще до того момента, когда какие-либо правила могут быть сообщены или использованы, что-то обязательно уже должно быть известно. Мы убедились, что в каждом из этих случаев отсутствие фактов с фиксированными значениями ведет к тому, что этот процесс сведения можно остановить только обращением к контексту.
Теперь мы должны перейти непосредственно к рассмотрению понятия ситуации, или контекста. Это поможет нам дать более полное описание уникальной способности "быть своим в мире", присущей человеку, и той исключительной роли, которую играет этот самый мир в упорядоченном, но не предписываемом правилами поведении и благодаря которой только и становится возможным подобное поведение.
Для того чтобы отчетливо представить себе, о чем идет речь, имеет смысл напомнить в двух словах точку зрения наших оппонентов. В своем анализе эпистемологического допущения (гл. 5) мы показали, что к настоящему времени в философской традиции сложился взгляд, согласно которому все, что упорядочено, может быть формально описано в терминах правил. Своего наиболее впечатляющего и категорического выражения эта точка зрения достигла во взглядах специалистов в области "искусственного интеллекта", которые утверждают, что любая форма разумного поведения может быть формализована. Минский даже развил на основе этой догмы нелепую, но наглядно демонстрирующую его позицию теорию человеческой свободной воли. Он глубоко убежден, что любая упорядоченность подчиняется правилам. Поэтому, теоретизирует он, наше поведение либо абсолютно произвольно, либо регулярно и полностью определяется правилами. Говоря его собственными словами, "всякий раз, когда [в нашем поведении] наблюдается регулярность, представ-
222
ляющее его описание попадает в область детерминированных правил"*. В противном случае наше поведение совершенно произвольно и свободно. Вариант, при котором поведение может быть регулярно и в то же время не определяться правилами, ему даже не приходит в голову.
Мы попытаемся показать, что это не только возможно, но, более того, неизбежно, поскольку полная система правил, применение которых определено заранее для всех возможных случаев,есть нечто абсолютно немыслимое.
Обсуждая выше решение задач, мы ограничились рассмотрением задач формального рода, при решении которых испытуемый должен манипулировать однозначными символами в соответствии с некоторым набором правил; кроме того, были рассмотрены и другие бесконтекстные задачи, например тесты на сообразительность при отыскании аналогий. Однако если исследователи в области моделирования процессов познания рассчитывают построить психологическую теорию (и если создатели программ "искусственного интеллекта" хотят, чтобы их программы были признаны разумными), то они должны распространить механическую переработку информации на все области деятельности человека, включая те, в которых человек сталкивается (и успешно справляется) с задачами, обладающими открытой структурой и встречающимися в его повседневной жизни**.
* М.Minsky. Matter, Mind and Models.-In: M.Minsky (ed). Semantic information Processing, p. 431.
** Требовать здесь подлинной творческой активности - значило бы требовать слишком многого. М.Минский подчеркивает, что минимальным условием успешного машинного решения задач является наличие у вычислительной машины критерия приемлемости решения: "Прежде всего мы вынуждены заменить наши интуитивные соображения четко определенными требованиями технического характера... Минимум того, что можно требовать, -это существование некоторого способа узнавания удовлетворительного решения, когда оно нам встретится. Если мы этого делать не умеем, то задача должна быть заменена другой, которая в этом смысле определена лучше, и нам остается только надеяться, что решение этой другой - подменяющей исходную - задачи окажется хоть в чем-то полезным для решения первой" (М. Мinskу- Some Methods of Artificial Intelligence and Heuristic Programming.-ln: Proc. Symposium on the Mechanization of Intelligence. London, HMSO, p. 7). Однако в процессе творческой работы, как замечают А. Ньюэлл, Дж. Шоу и Г. Саймон, в цели субъекта входит, как составная часть, сама постановка задачи и выделение тех особенностей решения, которые делают его удовлетворительным (А. Newell, J. Shaw and H.Simon. The Processes of Creative Thinking. The RAND Corporation, P. 1320, September 16, 1958, p. 4). Например, у художника нет никакого критерия, с помощью которого он мог бы определить, что является решением стоящей перед ним художественной задачи. Он придумывает и саму задачу, и ее решение по ходу дела. Впоследствии его работа, возможно, послужит основанием для определения стандартных требований, обеспечивающих успех, но тем не менее сам успех первичен по отношению к канонам, вводимым позднее критиками. Если мы стремимся к созданию творческой программы, то мы не имеем права перекладывать на
223
Задачи с открытой структурой в отличие от настольных игр и тестов поднимают вопросы, связанные с трудностями трех типов: приходится определять, какие факты могут иметь отношение к рассматриваемой задаче, какие из них действительно имеют к ней отношение и какие из этих последних существенны, а какие нет. Начнем с того, что в любой данной ситуации далеко не все факты попадают в область потенциальной релевантности. Некоторые вообще не относятся к ситуации. Так, в контексте шахматной игры физический вес фигур не имеет никакого отношения к делу. О нем даже речь не заходит, не говоря уже о том, чтобы определять, существен он при выборе конкретного хода или нет. Вообще говоря, решить, имеют данные факты отношение к делу или не имеют, существенны они или не существенны, не так-то просто: это ведь не нагромождение кубиков, один из которых можно достать, не коснувшись остальных. Что считать существенным, зависит от того, что мы признали несущественным, и наоборот, и разделение это не может быть произведено независимо от какой-либо конкретной задачи или конкретной стадии какой-либо конкретной игры. Ну а поскольку релевантность фактов не закреплена за ними жестко, а определяется в зависимости от намерений человека, для каждого факта найдется такая ситуация, в которой он может иметь отношение к делу. Так, например, вес может иметь отношение к делу в ситуации, связанной с изготовлением шахмат (хотя в большинстве вопросов, принимаемых в расчет при изготовлении и продаже шахмат, он фактически не является релевантным, не говоря уже о его существенности). Такая зависимость релевантности от ситуации распространяется и на нерелевантность: в каждой конкретной ситуации существует неопределенное число фактов, которые могут иметь отношение к делу, и неопределенное число фактов, которые к нему отношения не имеют. Однако поскольку вычислительная машина не может "находиться в ситуации", она должна в каждый момент времени учитывать все факты, как, возможно, имеющие отношение к делу. В связи с этим перед исследователями в области ИИ возникает дилемма: либо они должны решить проблему хранения бесконечного числа фактов и доступа к этим фактам, либо они будут вынуждены исключить из сферы машинного анализа какие-то факты, возможно имеющее отношение к делу.
программиста работу по постановке задачи и определению правил для распознавания удовлетворительных решений. Однако невозможно даже представить себе, каким образом машина» программа могла бы творчески решить какую-то задачу или узнать, что она сделала что-нибудь в этом роде: ведь для этого программа должна содержать четкий критерий, определяющий, что есть задача и в какой момент ее можно считать решенной.
224
Но даже если бы для каждой конкретной задачи удалось свести соответствующий универсум к фактам, которые, возможно, являются релевантными (а пока это может делать только математик-программист, а не программа), остается еще проблема отыскания среди этих фактов тех, которые на самом деле релевантны, т. е. в действительности имеют отношение к делу. Даже в такой неформальной игре, как игра на скачках (которая гораздо более систематична, чем задачи с открытой структурой, встречающиеся в повседневной жизни), к числу возможно релевантных оказывается отнесенным неограниченное, неопределенно большое число фактов. Делая ставку на лошадь, мы обычно можем ограничиться рассмотрением фактов, касающихся возраста лошади, того, кто ее жокей, как она показала себя на предыдущих состязаниях и какие у нее конкуренты. Не исключено, что, анализируя только эти указываемые в программе скачек факты, машина сможет довольно неплохо играть, возможно даже лучше, чем средний игрок; но ведь всегда существуют другие факторы, которые в некоторых случаях могут оказаться решающими; например, может случиться так, что у лошади аллергия или что жокей только что повздорил с владельцем лошади. Нельзя сказать, что игрок-человек более всеведущ, чем машина; во всяком случае, если человек столкнется с такого рода фактом, то сумеет понять, что последний имеет отношение к делу. С точки зрения "искусственного интеллекта" такую способность человека можно было бы промоделировать, если бы удалось ввести в машину сведения из области ветеринарии, знание поведения людей непосредственно после неприятного разговора с начальством и так далее. Но здесь возникает проблема сортировки этого огромного запаса данных. На это нам отвечают, что вся информация будет надлежащим образом закодирована и снабжена метками в памяти машины, так что машине нужно будет только произвести просмотр по ключу "ставка на скачках", чтобы выбрать весь материал, который имеет отношение к данному вопросу. Однако может случиться, что какая-то информация не будет снабжена кодом, содержащим ссылку на это конкретное использование. Подробно разбирая этот пример, Ч.Тэйлор подчеркивает:
"Может оказаться, что на этого жокея сегодня не стоит ставить из-за того, что вчера умерла его мать. Однако, вводя в запоминающее устройство информацию о том, что человек непосредственно после смерти близких часто оказывается не на высоте своих лучших результатов, мы вряд ли можем рассчитывать на то, что при этом она будет снабжена ссылкой на скачки. Эта информация может иметь отношение к бесконечному числу контекстов.
Машина могла бы основывать свой выбор на ключевых понятиях, таких, как "лошадь", "жокей", "жокей Смит" и так далее, выбирая все относящиеся к ним факты. Но это также привело бы к абсурдно большому
225
перебору. Не исключено, что поиск, начавшийся с "жокея", "человека" и "лошади", привел бы нас ко всему, что имеет отношение к кентаврам. Единственный способ, с помощью которого машина могла бы концентрировать внимание на релевантных фактах, состоит в том, чтобы ввести в рассмотрение соответствующий обширный класс фактов (или какой-нибудь другой класс, выбранный на столь же широком основании) и затем проверить каждый его элемент с тем, чтобы убедиться, что он причинно связан с исходом скачек, оставляй для дальнейшего рассмотрения только релевантные факты и отбрасывая все остальные"*.
" Многое из того, что человек знает о ситуациях и их возможном развитии, представляет собой "знание дела", то есть знание, которое не может быть разложено до уровня набора конкретных указаний или утверждений о фактах; оно представляет собой просто общую способность генерировать соответствующие данной ситуации действия, а, следовательно, в случае необходимости и "указания", на которых они основываются. Обычно мы представляем себе эту неопределенную- не разложимую далее форму знания как нечто неразрывно связанное с тем "знанием дела", которое лежит в основе наших действий. Однако и в основе наших переживаний, наших "страстей", лежит знание того же рода. Точно так же, как я пользуюсь некоторыми общими представлениями, позволяющими мне совершать прогулки, работать в саду, водить машину, вести дело в
* М.Мinsky. Introduction.-In: M.Minsky. Semantic Information Processing, p. 27.
227
суде (если я юрист) и т. д., я пользуюсь общими представлениями, позволяющими мне чувствовать, что значит подвергаться угрозам, слышать хорошие новости, быть обманутым моей возлюбленной, оказаться предметом насмешек в присутствии посторонних.
Вернемся к человеку, играющему на скачках. У него есть общее представление о некоторых обычных для человека действиях и страстях. Он воспринимает скачки как рискованное мероприятие, для победы в котором жокею (и лошади) понадобится максимальное напряжение воли и сил. Но восприятие этого включает в себя умение представить в воображении или угадать то бесчисленное множество опасностей, из-за которых эта воля и эти усилии могут испортить дело или рухнуть под ударами судьбы. Сведения об этих опасностях не хранятся где-то в уме или в мозгу в виде отдельных фактов, они не "разложены по полочкам", просто они обладают способностью возникать из общего представления о ситуации. Конечно, у разных людей эти общие представления различны по широте и точности. Если играющий на скачках сам когда-нибудь ездил верхом, то его представление об этом роде занятий гораздо четче; он может гораздо острее чувствовать момент, когда все может пойти прахом. Но даже у городского гангстера есть некоторое общее представление о том, что значит бороться до последнего и какое напряжение требуется для того, чтобы прийти первым в заезде.
Однако сторонник "искусственного интеллекта" может возразить, что все это есть не что иное, как просто некоторый отличный от машинного вариант того же процесса занесения и извлечения информации из "запоминающего устройства". Даже если он признает, что для машины этот метод недоступен, не исключено, что он все же поставит вопрос, как при этом решается задача поиска информации. Как играющий на скачках определяет, каковы те случайные факторы, которые имеют отношение к делу? В ответ на это можно сказать следующее: если мы отдаем себе отчет в том, что наше представление о мире возникает в результате нашего воздействия на него в соответствии с присущими нам разнообразными способностями, а также в результате нашей подверженности его влиянию, зависящей от различной направленности наших интересов, - если мы это понимаем, то нам должно быть ясно, что вопрос о том, как данная направленность интересов или данное намерение определяет наш выбор релевантных признаков из того, что нас окружает, даже не возникает. Потому что быть некоторым образом заинтересованным в чём-то или иметь те или иные намерения значит остро чувствовать ситуацию, в которой мы находимся; осознавать ее в том или ином аспекте, в связи с той или иной структурой. Так, беспокойство за собственную жизнь, когда меня окружает шайка головорезов, есть не что иное, как ощущение угрозы, исходящее от чего-то тяжелого, спрятанного в кармане одного из них, чувство незащищенности моего лица от кулаков другого, который может в любой момент ударить меня, и т. д."
Итак, человеческий мир заранее структурирован в терминах намерений человека и направленности его интересов, причем таким образом, что именно направленность интересов определяет, что считать объектом или важной особенностью объекта. Здесь машина ничего не может сделать, потому что она в состоянии иметь дело только с уже определенными объектами; пытаясь построить модель такого рода поля направленности интересов, программист может только приписать уже определенным фактам другие определенные факты, называемые значениями, которые ничего, кроме усложнения процесса поиска информации, не дают.
228
В своей книге "Бытие и время" М.Хайдеггер приводит описание человеческого мира, в котором человек чувствует себя как дома. Описание дается в виде схемы, представляющей собой мозаику взаимосвязанных орудий или инструментов (Zuenge), каждый из которых предполагает все остальные, всю "мастерскую" в целом и в конце концов намерения и цели человека. Сигнал поворота, который дает водитель автомашины, служит примером "факта", получающего свое значение из прагматического контекста:
"Сигнал поворота - это элемент оборудования, который "всегда под рукой" у водителя, находящегося за рулем; да и не только у него: те, кто не сидит в его машине (и они-то в первую очередь), тоже пользуются им, либо уступая дорогу с нужной стороны, либо останавливаясь. Этот сигнал находится "под рукой" в пределах мира, окруженный всем контекстом, связанным с оборудованием средств передвижения и регулирования дорожного движения. Это - оборудование для указания, и как всякое оборудование образовано ссылками на него или его предназначением".
У Л. Витгенштейна тоже нередко можно встретить ссылки на человеческие формы жизни и направленность человеческих интересов, так же как и на носящие очень общий характер "факты естественной истории", которые мы считаем чем-то само собой разумеющимся, когда пользуемся языком или организуем свою повседневную деятельность. Между прочим, это факты совершенно особого рода: они, по-видимому, ускользнули бы от внимания программиста, вздумай тот запрограммировать весь багаж человеческих знаний. Как сказал Л.Витгенштейн, "те стороны вещей, которые наиболее важны для нас, мы не замечаем, из-за их обыденности и простоты. (Так, человек может не заметить какую-нибудь вещь, потому что она постоянно находится у него перед глазами.)"** .И, что еще более существенно, эти факты таковы, что их связь с другими фактами пронизывает все, что нам известно; поэтому, даже если бы нам удалось найти точное выражение для этих фактов, классифицировать их оказалось бы очень трудно, а может быть, и невозможно. Основная глубинная идея, направляющая весь этот анализ, заключается в следующем: ситуация с самого начала организована в терминах человеческих потребностей и склонностей, благодаря которым факты получают свое значение, превращаясь в то, что они есть, поэтому вопрос о хранении и классификации огромных списков бессмысленных, изолированных данных никогда не возникает.
* М Heidegger. Being and Time. New York, Harper and Row, 1962, p. 109.
** L. Wittgenstein. Philosophical Investigations, p. 50.
229
|
С.Тоудс* подробно описал структуру поля жизненного опыта, первичную по отношению к фактам и неявно определяющую их релевантность и значение. Он подчеркивает, что в наш жизненный опыт мир входит в виде полей, вложенных друг в друга. Части объектов или те или иные их аспекты переживаются не как изолированные факты, а вложенными последовательно в целый ряд контекстов. И предлог "в" имеет множество различных смыслов, ни один из которых не совпадает с тем простым физическим включением части в целое, которое М.Минский и Дж.Маккарти принимают за основное. Части объектов переживаются как находящиеся в объектах, которые из них состоят, объекты находятся в местах, которые они заполняют, место расположено в своем локальном окружении, которое само помещается в слое возможных ситуаций в человеческом мире. Следовательно, данные - это далеко не такая простая вещь; те или иные аспекты объектов не даны непосредственно в мире, а характеризуют объекты в различных его местах, в их локальном окружении, в пространстве и времени. Нам удается сосредоточивать внимание на значимом содержании поля нашего жизненного опыта, потому что это поле не нейтрально по отношению к нам, а, наоборот, структурировано в терминах наших интересов и нашей способности понимать, что в нем содержится. Всякий объект, с которым мы сталкиваемся, обязательно появится в этом поле и поэтому обязательно должен быть представлен в терминах доминирующей в данный момент направленности интересов, причем как объект, достижимый для некоторой формы деятельности, порождаемой этим полем. Поскольку данное поле создается в терминах нашей заинтересованности, нам могут встретиться только такие факты, которые могут иметь отношение к делу. Таким образом, релевантность уже заранее встроена в наше поведение. Возвращаясь к рассмотренному выше примеру, мы можем сказать, что скачкам соответствует гнездо контекстов, вложенных один в другой; в него входят деятельность, игры, спортивные состязания, соперничество. Представить себе, что * S. Тоdes. The Human Body as the Material Subject of the World, 1963 (диссертация, выполненная в Гарвардском университете) , См. также: Comparative Phenomenology of Perception and Imagination-Part I: Perception.-Journal of Existentialism, 1966, Работа Тоудса содержит также несколько интересных догадок, касающихся некоторых неотъемлемых особенностей тела и их роли. Он описывает отдельные свойства телесной организации человека, например тот факт, что тело с большей легкостью может двигаться вперед, чем назад, что оно порождает право-левую структуру поля, что оно должно противостоять действию гравитации, стремящейся нарушить его равновесие; он показывает, какую роль играет такого рода опыт в нашем знании предметного мира. 230 некоторая деятельность есть скачки,- значит организовать ее в терминах стремления к победе, выигрышу. Вернемся к описанию, данному Ч.Тэйлором: "Играющий на скачках заинтересован в том, чтобы верно определить победителя. Поскольку он человек, у него есть представления о том, какие обстоятельства обычно важны в борьбе за победу, так что его заинтересованность означает, что и лошадь, и жокей, и все остальное воспринимаются им под углом зрения возможности тех или иных промахов. Поэтому, заметив в колонке некрологов сообщение о том, что вчера умерла мать Смита (Смит - жокей, эмоциональная чувствительность которого игроку хорошо известна), он в виде исключения не ставит на Смита вопреки тем сведениям, которые помещены в бюллетене о скачках. Машина восприняла все сообщение о смерти матери Смита как некоторый факт, касающийся Смита, наряду со всеми остальными фактами, такими, например, как сообщение о том, что троюродный брат Смита назначен ответственным за отлов бродячих собак в таком-то городе, и т. д.; затем машине пришлось бы произвести проверку наиболее вероятных следствий из этого разнообразия фактов. Это необходимо для того, чтобы решить, какие из них следует учитывать при выборе ставки". Таким образом, направленность наших текущих интересов, а также накопленные знания и умения всегда заранее определяют, что будет оставлено без внимания, что останется в качестве потенциально релевантного во внешнем горизонте нашего жизненного опыта и что будет немедленно учтено как существенное. Л.Витгенштейн постоянно подчеркивает, что анализ ситуации, сводящий ее до уровня фактов и правил (уровня, с которого, по мнению "традиционных" философов и специалистов в области вычислительных систем, как раз и следует начинать), сам по себе осмыслен только в некотором контексте и с учетом тех или иных намерений. Таким образом, элементы этого анализа уже отражают цели и намерения, с ориентацией на которые они были выдвинуты. При попытке найти окончательные бесконтекстные и бесцелевые элементы, которые нам нужны, чтобы найти не разложимые далее кванты информации, вводимые в машину (кванты данных, которые должны иметь отношение абсолютно ко всем задачам, поскольку они не выбирались специально ни для одной из них), мы фактически стараемся очистить факты нашего жизненного опыта именно от той прагматической организации, благодаря которой только и возможно их гибкое использование, приводящее к решению повседневных задач, Правда, нельзя сказать, что в машинной модели всегда в действительности отсутствует цель; даже модель, построенная в терминах ввода и извлечения информации из запоминающего устройства, так или иначе обязательно отражает контекст; но анализ контекста в терминах фактов и правил оказывается в этом случае жестким и ограничивающим. Для того чтобы это понять, допустим на минуту, что все свойства объектов (что бы ни понималось под этими словами) можно выразить в точной форме в 231 виде дерева решений так, чтобы в каждой вершине отмечалось, что выполняется дли этого объекта: данный, не зависящий от ситуации предикат или его отрицание. Такого типа структура классификации была запрограммирована Э.Фейгенбаумом в его модели ЕРАМ*. Эта распознающая сеть могла бы в принципе служить точным, исчерпывающим, не зависящим от ситуации описанием объекта или даже ситуации - в той мере, в какой ситуацию можно считать объектом. Может, таким образом, показаться, что эта сеть обеспечивает эффективное накопление информации, обходя вопрос о различении "поля" и "объекта". Однако в подобном описании такого рода информационной структуры упущено нечто очень важное - выпала организация самой структуры, играющая решающую роль в процессе накопления информации. Накопление информации и доступ к ней в этом дереве происходят по-разному в зависимости от того порядка, в котором производится проверка признаков. Анализируя программу ЕРАМ, У. Винн пишет: "В программе ЕРАМ процесс классификации... слишком зависит от предшествующего пути и слишком плохо поддается адаптивной перестройке, так как распознающая сеть может наращиваться только с самого низа и не допускает реорганизации, начинающейся с верхнего уровня. Использованная в сети тестовая процедура, относительно которой в дальнейшем ходе процесса выясняется, что она не имеет существенного значения для распознавания данного множества стимулов, не может быть ни исключена, ни заменена новой процедурой, поскольку это затронуло бы вышележащую часть сети. Таким образом, будучи однажды построенной, распознающая сеть ЕРАМ с трудом поддается реорганизации, которая может потребоваться для повышения эффективности поиска информации. Любая процедура реорганизации тестовых проверок в этой структуре значительно затрудняет поиск многих элементов информации, хранящихся в памяти"**. Таким образом, все решает порядок проверки признаков. A ведь в реальном мире все предикаты имеют одинаковый приоритет. Только имеющееся у программиста чувство ситуации определяет порядок построения дерева решений. Характерные различия между "полем" и "объектами" отражаются в машинной модели * E.H.Feigenbaum. An Information Processing Theory of Verbal Learning, The RAND Corporation, P-1817, Santa Monica, 1959. "В моделях типа, ЕРАМ подобная структура классификации, называемая "распознающей сетью", служит первичной информационной структурой. Она возникает как результат обучения распознаванию и воплощает в себе в каждый момент времени все то умение распознавать, которое уже приобретено к данному моменту. Распознающая сеть программы ЕРАМ представляет собой структуру типа дерева, поскольку к любому данному узлу ведет сверху только одна ветвь: от самого верхнего узла, называемого корнем, к любому узлу дерева ведет только один путь. Объект-стимул, предъявляемый программе для распознавания, может быть отнесен к тому или иному классу путем последовательного прохода через узлы ветвления к какому-то из конечных узлов сети" (W.Wуnn. An Information Processing Model of Certain Aspects of Paired-Associate Zearing; p. 5)90. ** W,Wynn. Op.cit., p.9. 232 только в преломлении, определяемом субъективными суждениями программиста. Учитываемый программистом прагматический контекст, очевидно, может в свою очередь быть описан с помощью дерева решений, но теперь уже порядок проверки признаков будет отражать некоторый более широкий контекст. Информация, касающаяся этого более широкого контекста, на каждом уровне представлена общей структурой дерева, а не какой-нибудь конкретной его вершиной. На каждом уровне порядок тестовых проверок управляется прагматической интуицией программиста, в которой находит свое отражение рассматриваемая ситуация; но при этом факты фиксируются в одном определенном порядке, который выбирается в соответствии с некоторой конкретной целью, что неизбежно приводит к отсутствию гибкости, отмеченному Винном. Кроме того, если бы можно было во имя гибкости избавиться от какого бы то ни было прагматического упорядочения с тем, чтобы получающийся в результате бесструктурный список очищенных фактов можно было бы ввести в машину (это могут быть факты о размерах и формах различных объектов физического мира и даже факты о возможностях использования объектов, представляющие собой их поддающиеся выделению функции), тогда при каждом вычислении пришлось бы решать, вводить или исключать из рассмотрения каждый факт, причем в явном виде, и машина захлебнулась бы в этом бесконечном процессе. Это не значит, что человек никогда не выделяет изолированные данные и не пытается найти их значение, стараясь согласовать их с уже имеющейся в памяти информацией. Именно это и составляет основу умозаключений Шерлока Холмса и других детективов; в незнакомой ситуации каждый человек ведет себя подобным же образом. Но даже в этом случае должен существовать какой-то более общий контекст, в котором мы ощущаем себя как дома. Если бы у нас на Земле очутился марсианин, ему, наверное, пришлось бы действовать в абсолютно незнакомой обстановке; задача сортировки релевантного и нерелевантного, существенного и несущественного, которая бы перед ним возникла, оказалась бы для него столь же неразрешимой, как и для цифровой машины,- если, конечно, он не сумеет принять в расчет никаких человеческих устремлений. Все мы знаем также, что значит запоминать и использовать некоторые данные в соответствии с некоторыми правилами в каком-то узком контексте. Например, мы делаем это, когда играем в такие игры, как бридж, хотя даже в этом случае хороший игрок запоминает данные в терминах намерений и стратегий и довольно свободно обращается с эвристическими правилами. Иногда мы также "проигрываем" в своем воображении возможные альтернативы, для того чтобы предсказать, что 233 может произойти в реальной игре, которая нам предстоит. Однако, когда нам приходится ориентироваться в незнакомом, чуждом для нас мире, или когда мы следуем правилообразным указаниям типа эвристик для повышения ставки в бридже, или когда мы моделируем в нашем воображении те события, которые еще не произошли, мы осознаем свое поведение - осознаем именно потому, что большую часть времени мы ничего подобного не делаем; утверждение, что мы все же производим соответствующие операции, но только подсознательно, представляет собой либо эмпирическое положение, в пользу которого не существует никаких подтверждающих его данных, либо априорное утверждение, базирующееся на той самой предпосылке, справедливость которой мы здесь оспариваем. Когда мы чувствуем себя в мире как дома, осмысленные объекты, включенные в контексты связей, в гуще которых мы живем, не образуют ту модель мира, которая хранится в нашей памяти или в нашем мозгу, а являются самим этим миром. Это может показаться вполне правдоподобным при рассмотрении общедоступного мира обычных стремлений, регулировки уличного движения и т. д. "А как насчет моего жизненного опыта,- можем мы услышать вопрос,-мое личное множество фактов - оно-то, уж конечно, находится в моем мозгу". Так кажется только потому, что этот мир все еще смешивается в нашем сознании с той или иной разновидностью физического универсума. Мои личные планы и воспоминания запечатлены в окружающих меня вещах точно так же, как и обычные, включенные в общественные связи цели людей. Мои воспоминания хранятся в хорошо знакомом мне внешнем облике этого стула или в том ощущении опасности, которое связано с уличным перекрестком, где на меня однажды напали бандиты. Мои планы и страхи уже встроены в мое восприятие, в переживание мною одних объектов как привлекательных, а других - как отталкивающих. На те "данные", которые имеют отношение к социальным задачам и целям, встроенным в объекты и участки пространства, окружающие меня, накладываются мои личные "данные", и они имеют такое же право считаться частью моего мира, как и первые. В конце концов, личное чувство опасности или заинтересованности не более субъективно, чем общие для всех людей человеческие стремления. Теперь нам становится понятно, почему, даже если под нервной системой понимать физический объект (своего рода аналоговую машину), энергетический обмен которого с внешним миром должен в принципе допускать описание в виде функции вида "вход - выход", предположение о том, что на уровне переработки информации человек в процессе восприятия может быть представлен в виде аналоговой вычислительной машины, точная 234 "входо-выходная функция которой воспроизводима на машине дискретного действия, вызывает сомнения и часто приводит к путанице. Вообще говоря, модель "вход - выход" не имеет здесь никакого смысла. Нет оснований полагать, что человеческий мир может быть разложен на независимые элементы; если бы даже это было так, невозможно было бы определить, что собой представляют эти элементы -"вход" или "выход" человеческого разума. Если эта идея кажется малоприемлемой, то только потому, что такое феноменологическое объяснение не согласуется с нашим традиционным картезианством, согласно которому физический мир приходит в столкновение с нашим разумом, что и приводит к организации последним окружающего мира в соответствии с прошлым опытом и врожденными идеями или правилами. Но даже у Р.Декарта нет той путаницы, в которой, по всей видимости, увязли современные психологи и исследователи, работающие в области "искусственного интеллекта". Декарт утверждает, что воздействующий на нас мир есть мир чисто физических движений, в то время как мир "в нашем уме" есть мир объектов, орудий, и т. д.; неясно только, как связаны между собой эти два мира. А в представлениях таких теоретиков "искусственного интеллекта", как М, Минский, картина мира очерчена гораздо более грубо: мир орудий в ней даже не появляется. С их точки зрения, разум воспринимает отдельные детали повседневного мира - так сказать, мгновенные снимки столов, стульев и пр. Затем эти фрагменты вновь подвергаются сборке- уже в терминах некоторой модели, построенной из других, ранее накопленных разумом фактов. Внешний мир, представляющий собой массу изолированных фактов, интерпретируется в терминах других изолированных фактов, хранящихся внутри нас и уже организованных с помощью безупречно составленного каталога (такой внутренний массив фактов строится каким-то образом на основе предшествующего опыта общения с этим фрагментарным миром). В результате внутренняя модель обрастает дополнительными деталями. В этом описании нет места для хорошо знакомого нам мира орудий, организованного в терминах наших намерений. М. Минский пытается развить этот машинный вариант картезианства до уровня философской системы. Он начинает с того, что дает вполне правдоподобное описание того процесса, который на самом деле отражает роль воображения: "Если некоторое существо может ответить нз тот или иной вопрос, касающийся гипотетического эксперимента, не проводя этого эксперимента в действительности, то оно тем самым доказывает, что обладает некоторым знанием о мире. Ибо его (sic! - Х.Д.) ответ на данный вопрос обязательно должен иметь вид закодированного описания поведения (внутри этого существа) некоторой субмашины, или "модели", соответствующей за- 235 кодированного описанию той ситуации в мире, о которой идет речь в заданном вопросе"* Затем М.Минский без каких бы то ни было объяснений или оправданий распространяет это правдоподобное описание функции воображения на любого рода восприятие и познание: "На вопросы о тех или иных объектах рассматриваемого мира можно ответить некоторым утверждением о поведении соответствующих структур в той модели мира, которая существует у того, к кому обращен вопрос"**. Таким образом, М. Минский оказывается вынужденным ввести формализованную копию внешнего мира- как будто, помимо объектов, побуждающих нас действовать, нам еще нужна энциклопедия, в которой мы можем посмотреть, где мы находимся и что мы делаем. "Структура человеческой модели мира совершенно отчетливо распадается на две части: одна из них имеет отношение к вопросам механического, геометрического и физического характера, в то время как другая ассоциируется с такими вещами, как цели, значение, социальные проблемы и т. п."*** Если для всякого знания требуется модель, то, разумеется, человеку нужна и модель самого себя. "Когда человеку задают вопрос общего характера, касающийся его самого, он пытается дать общее описание имеющейся у него модели своей натуры"**** . И конечно, если мы хотим, чтобы это самоописание было полным, нужно включить в него описание нашей модели, отображающей модель самого себя и т. д. М.Минский считает, что этот бесконечный процесс построения моделей самого себя является источником философской неразберихи, царящей в вопросах, связанных с понятиями разума, тела, свободной воли и т. д. Он не осознает, что "регресс в бесконечность" возникает потому, что он настаивает на введении моделей, и что это осложнение доказывает философскую непоследовательность его предпосылки, согласно которой мы никогда ничего не знаем прямо, а только посредством моделей. И вообще, чем больше задумываешься над этой картиной, тем труднее становится ее понять. Кажется, существует два мира: один имеет внешнюю структуру данных, а другой - внутреннюю, причем ни один из них мы не ощущаем в нашем опыте и ни один из них не есть ни физический универсум, ни тот мир орудий, в котором мы действуем в нашем опыте. Для физического универсума или для нашего мира взаимосвязанных объектов, по-видимому, места не остается; все занято некоторой библиотекой, * M.Minsky. Matter, Mind and Models. -In: M.Minsky (ed.). Semantic Information Processing, p. 425-426. ** Ibid.,p. 426. *** Ibid., p. 427. **** Ibid., p. 428. 236 содержащей описания универсума и человеческого мира, который, согласно этой теории, не может, однако, существовать. Отказ от этой теории в связи с ее непоследовательностью отнюдь не равносилен отрицанию того, что наш физический организм постоянно бомбардируется физической энергией, результатом чего и является наше восприятие мира через опыт. Отказ этот просто сводится к тому, что физическое преобразование физической энергии представляет собой не психический процесс и происходит не в терминах сортировки и запоминания подогнанных под человека фактов о столах и стульях. Естественно думать, что человеческий мир является результатом этого энергетического процесса и для того, чтобы быть воспринятым и понятым, человеческий мир не нуждается еще в одном механическом повторении того же самого процесса. Смысл этого рассуждения настолько очевиден и в то же время настолько труднодоступен для человека, воспитанного в картезианском духе, что, может быть, нелишне еще раз повторить его основные моменты, на этот раз вернувшись к конкретному примеру рассматриваемого нами смешения понятий. Как мы уже видели, Ниссер начинает свою книгу "Психология познавательных процессов" с изложения того, что он называет "центральной проблемой познавательных способностей": "Безусловно, существует реальный мир, мир деревьев, людей, автомобилей и даже книг... Но у нас нет непосредственного доступа ни к этому миру, ни к какому-либо его свойству"*. Как мы уже отмечали в гл. 4, уже на этом этапе суть вопроса безнадежно искажается. Действительно, существует мир, к которому мы не имеем прямого доступа. Мы не воспринимаем непосредственно мир атомов и электромагнитных колебаний {даже если вообще имеет смысл говорить об их восприятии), но мир машин и книг - это как раз и есть тот мир, с которым мы как раз и имеем дело в непосредственном опыте. В гл. 4 мы видели, что в этом месте Ниссер обращается за поддержкой к необоснованной теории, согласно которой мы воспринимаем "моментальные снимки", или данные органов чувств. Его последующие объяснения только усугубляют возникающую путаницу: "Физически данная страница представляет собой совокупность крохотных выпуклостей типографской краски, расположенных определенным образом на имеющей больший коэффициент отражения поверхности бумаги"**. Однако, уж если рассматривать это с физической точки зрения, то мы имеем перед собой движущиеся атомы, а не бумагу и выпуклости типографской краски. Бумага и выпуклости суть * U.Nеisser. Cognitive Psychology, p. 3. **Ibid. 237 элементы человеческого мира. Однако У.Ниссер делает попытку взглянуть на них с некоторой особой точки зрения, как если бы он был дикарем, марсианином или вычислительной машиной, которые не знают, для чего эти элементы существуют. Однако нет оснований полагать, что столь странным образом выделенные объекты и есть то, что человек воспринимает непосредственно (хотя, быть может, некоторое приближение к этому мироощущению можно найти в чрезвычайно отвлеченном состоянии ума, которое находит на специалистов по психологии познавательных процессов, когда они берутся писать книгу). В обычном психическом состоянии мы воспринимаем только печатную страницу. Вводимый У.Ниссером промежуточный мир, который не совпадает ни с миром физики, ни с человеческим миром, оказывается искусственным построением. Ни один человек никогда не видел этого жутковатого мира и ни один физик не найдет для него места в своей научной системе. Однако, как только постулируется его существование, мы неизбежно приходим к тому, что нам нужно каким-то образом воссоздать человеческий мир из этих обрывков. "На человека обрушивается шквал ежесекундно меняющихся раздражителей, которые мало чем напоминают как реальный объект, послуживший причиной их возникновения, так и объект опыта, который на их основе будет построен воспринимающим субъектом"*. ** Там же, с. 68. *** Там же, с. 71. **** См. там же, с. 33. 249 И действительно, без парадигмы неясно даже, что вообще считать фактом, поскольку факты вырабатываются в терминах конкретной парадигмы для интерпретации жизненного опыта. Следовательно, нахождение новой парадигмы есть своего рода скачкообразный переход того типа, с которым мы встретились у Кьеркегора: "Именно потому, что это переход между несовместимыми структурами, переход между конкурирующими парадигмами не может быть осуществлен постепенно, шаг за шагом, посредством логики и нейтрального опыта. Подобно переключению гештальта, он должен произойти сразу (хотя не обязательно в один прием) или не произойти вообще"*. Вот тут-то и становится совершенно ясно, что если представлять себе решение задач как простое накопление данных в запоминающем устройстве с последующей их сортировкой для достижения какой-то определенной конечной цели, то нам никогда не удастся отвести должное место этим фундаментальным концептуальным изменениям, А ведь именно такие изменения определяют то понятийное пространство, в котором вообще только и может быть поставлена задача и в терминах которого все данные без исключения приобретают свою релевантность и свою значимость, что и дает возможность решить задачу. Преобладающая над остальными концептуальная схема молчаливо подсказывает направление развития, точно так же как перцептивное поле направляет наше восприятие объектов. Наконец, революции культур представляют собой еще более фундаментальное явление, чем исследованные Т. Куном концептуальные революции. Зарождающаяся греческая философия, например, определила, как мы видели, некоторые взгляды на природу человека и на понятие рационального, подвергавшиеся тем или иным изменениям во всех последующих концептуальных революциях. С возникновением христианства не менее радикально изменяются представления о любви - возникли такие представления, которые были немыслимы в Древней Греции; в героизме стали усматривать признаки гордыни, а идеалом добродетели стала святая жертвенность. Эти революции культур наглядно демонстрируют нам, что (как одним из первых заметил Б, Паскаль) резкой грани между природой и культурой не существует (ведь даже инстинктивные потребности могут быть преобразованы и разгаданы в терминах парадигм) и что, следовательно, не существует жестко фиксированной природы человека. Человеческая природа действительно весьма податлива: не исключено, что и сегодня она снова находится на пороге изменения. Если парадигма вычислительной машины станет настолько * Там же, с. 191. 250 |
ВМЕСТО ПОСЛЕСЛОВИЯ
ЧТО ЖЕ МОГУТ ВЫЧИСЛИТЕЛЬНЫЕ МАШИНЫ?
ВМЕСТО ПОСЛЕСЛОВИЯ*
Ничто кардинально новое не входит спокойно в науку и практику. Буря - вот что обычно сопровождает появление идей и решений, ломающих сложившиеся представления. Кибернетика - яркий тому пример.
В гуще споров
Этому комплексу методов и теорий, пронизанному идеями управления, информации и моделирования и спаянному лозунгом математической точности, для реализации которого привлекаются средства автоматики, на протяжении всей его еще очень короткой истории сопутствуют острые дискуссии. Их главное содержание - вопрос о соотношении возможностей машины (автоматического устройства, вычислительной сети, системы для переработки информации и т. п.) и человека, обладающего психикой, сознанием и самосознанием. Вопрос этот перерастает в проблему осуществимости кибернетического "воспроизведения" интеллекта - частичного или "полного", то есть в проблему возможности "искусственного кибернетического разума".
Проблема эта мало кого может оставить равнодушным, так как неотделима от вопроса о познании человеком самого себя, вопроса, как магнит притягивавшего пытливую мысль на протяжении веков. Именно этот последний вопрос прежде всего стоит за современными исследованиями природы живого. Именно он во многом дал - и продолжает давать - импульс экспериментальной и теоретической психологии. И он же придает волнующую актуальность изучению человеческой психики и поведения на новом для науки пути - на пути теоретико-кибернетического и вычислительно-информационного моделирования человеческих феноменов восприятия, мышления, решения задач, прогнозирования и творчества. Ибо впервые в истории сферы разума на нашей планете - ноосферы - открылась возможность передачи машинам ряда таких форм интеллектуальной деятельности, которые до недавнего времени считались исключительной прерогативой человека.
Вопрос о перспективах искусственных кибернетических систем - и прежде всего соответствующим образом запрограммированных универсальных цифровых вычислительных машин - в реализации форм поведения, которые в каком-либо смысле можно признать "разумными", вот уже 30 лет стоит на "повестке дня" философско-кибернетических обсуждений. Спорящие стороны с разных позиций пытаются внести ясность в проблему возможности либо невозможности наличия принципиальных разли-
* Автор выражает признательность коллегам, любезно предоставившим в его распоряжение некоторые свои материалы либо оказавшим помощь своими консультациями: М. В. Арапову, М. М. Ботвиннику, В. Л. Доблаеву, И. Б. Новику, Ю. В. Орфееву, Г. Н. Повэрову, Д. А. Поспелову, В. Л. Стефанюку, С. М. Шевенко и Ю. А. Шрейдеру. Он благодарит также О. Н. Кессиди, чье квалифицированное редакционное вмешательство содействовало существенному улучшению данной статьи.
298
чий между "машинно-вычислительным миром" и человеческим сознанием. Дискуссии проходят на разных уровнях научной квалификации и философской культуры их участников. Нередко они не столько проясняют, сколько затемняют суть дела. Но при всем том в них возможно усмотреть два противоположных подхода. Один из них можно назвать подходом с позиции "кибернетического оптимизма". Этой позиции подчас придерживаются некоторые специалисты по математическому обеспечению вычислительных систем, занятые программированием "интеллектуальных" (то есть не специфических математико-вычислительных) задач. Их противники - обычно представители "традиционных" областей знания, в особенности гуманитарного. "Кибернетические оптимисты" увлечены широкими горизонтами, открывающимися перед приложениями вычислительной техники. Их оппоненты, признавая значение и растущие перспективы внедрения автоматизации в область интеллектуального труда, подчеркивают, однако, что эти успехи не распространяются на человеческое творчество. Специфически человеческие процессы созидания новых научных и культурных ценностей, по их мнению, не могут быть переданы машине. Коль скоро это так, парируют этот довод "оптимисты", придется допустить, что человек наделен чем-то, не поддающимся объяснению, по крайней мере в той форме, которая принята в "точном" естествознании. В ответ следует возражение, что естественнонаучные критерии не совсем адекватны задачам изучения человеческой психики и социальных процессов...
Своеобразие интеллектуальной атмосферы, в которой происходит эта дискуссия, состоит в том, что защита человеческого суверенитета от "неумеренных претензий" кибернетиков создает, как ни парадоксально, благоприятную почву для провозглашения огромных (или даже неограниченных) возможностей "искусственного разума". Дело в том, что специалисты, работающие в различных областях кибернетики, строят свои рассуждения в соответствии со схемами, принятыми в "классической" науке; опираясь на реальный прогресс в области вычислительной математики и автоматики, владея навыками формализации, они, как правило, четко формулируют свои установки и результаты, чего нельзя сказать об их оппонентах, нередко апеллирующих к непосредственно данному личности внутреннему миру. Но характерно, что в пылу полемики как "гуманитарии-пессимисты", так и "кибернетики-оптимисты" обращаются к сфере психического, в частности к той ее части, которая находится за порогом сознаний. Первые, к примеру, утверждают, что психика - как в ее осознанной, так и подсознательной форме - отсутствует у вычислительных машин. Вторые, со своей стороны, настаивают на том, что в мозгу человека происходят скрытые "информационные процессы", подобные процессам вычисления, реализуемым на ЭЦВМ.
Но и среди кибернетиков нет единства. Их взгляды варьируют, в частности, в зависимости от того, в какой мере привлекаются психологические данные. Кроме того, на аргументации "оптимистов" нередко лежит печать философского непрофессионализма. На Западе импонирующая самолюбию человека мысль о великих возможностях созданной обществом науки, способной сконструировать мощный искусственный интеллект без кавычек, была подхвачена многими философами неопозитивистской ориентации. Противники этой "оптимистической" доктрины изображались занимающими "страусову позицию" (выражение А.Тьюринга) перед лицом грядущей опасности пришествия роботов либо просто обвинялись в некомпетентности. Преобладание таких крайних взглядов привело к тому, что в научной литературе США и Западной Европы было мало квалифицированных работ, авторы которых старались бы трезво осмыслить возможности и пределы нового научного направления. Монография X. Дрейфуса является в этом отношении исключением.
299
Х. Дрейфус как критик "искусственного интеллекта"
Философские аспекты моделирования на ЭЦВМ процессов познания и создания систем искусственного разума Хьюберт Дрейфус, являвшийся в период выхода данной книги профессором университета в Беркли (шт. Калифорния), разрабатывал с середины 60-х годов. Первоначальный краткий вариант данной книги составило исследование, выполненное им в период работы в качестве консультанта известной американской фирмы RAND. Первые критические выступления Дрейфуса не встретили понимания среди западных кибернетиков - по выражению А. Эттингера, написавшего предисловие к книге X. Дрейфуса (не вошедшее в данное издание), на него тогда "просто орали". Но когда книга Дрейфуса вышла в свет, она не могла не обратить на себя внимание. Ибо в лице ее автора специалисты по "искусственному интеллекту" нашли такого критика, который ведет дискуссию на их собственном языке и владеет необходимым фактическим материалом. В зарубежной литературе появился ряд статей, авторы которых полемизировали с Дрейфусом. Дискуссия вокруг его взглядов развернулась, впрочем, еще до захода в свет данной книги - в 1971 г. на конференции в Университете графства Кент (Англия), где оппонентом Х. Дрейфуса выступил Н. Сатерленд (см, труды конференции: Philosophy of Psychology, ed. S. С. Brown, London and Basingstoke Macmillan, 1974, p. 247 ff). После появления книги в спор вступили С. Ватанабе и И. Уилкс (S. Watanabe. Some thoughts on Dreyfus, "Critique of Artificial ReasorTr.-IEEE Trans, on System Man, and Cybernetics. January 1975P p. 141-145; .1. Wilks. Dreyfus's disproofs,- "British J. for the Philos, of Sci."F, vol. 27, No 2,1976, p. 177-185). Как справедливо отмечает А. Эттингер, вопросы, касающиеся возможностей и пределов "искусственного разума", "заслуживают серьезного открытого обсуждения. Они слишком связаны с естественными науками, чтобы предоставить их решение философам, и слишком философские по своему характеру, чтобы оставить их на усмотрение представителей естественных и точных наук" (A. G. Оеttinger Preface,-In: H. L. Drеyfus. What Computers can't do, 1972, p, XI),
В нашей стране уже имеется солидная философско-кибернетическая литература, в которой обсуждаются, в частности, и проблемы, поднятые в книге американского автора (примером может служить коллективная монография "Управление, информация, интеллект" под ред. А. И, Берга и др., М., "Мысль", 1976) . Тем не менее для советского читателя целесообразно ознакомление с данной книгой, так как аргументы Дрейфуса залуживают того, чтобы их учли и специалисты в области вычислительных систем и их математического обеспечения, и психологи, использующие кибернетическое моделирование как метод изучения психики и поведения человека, и философы, осмысляющие познавательно-практический вклад нового направления в науке и технике. В книге Дрейфуса представлено развернутое изложение определенной линии в методолого-кибернетических исследованиях на Западе, а именно, линии скептического отношения к перспективам созданий систем, "интеллект" которых существенно приближался бы к логико-творческим способностям человеческого разума. Материал книги может содействовать углублению понимания "кибернетической составляющей" научного прогресса, и скепсис автора, пропущенный через надежный методологический "фильтр", способен сыграть позитивную роль.
«Искусственный интеллект» как исследовательская сфера
Еще в 50-х годах в кибернетике выделились четыре родственных области. Это были: алгоритмизация "стратегических" игр типа шахмат; программирование невычислительных задач и логической дедукции в применении прежде всего к математическому материалу; разработки в области автоматического распознавания образов и исследования, направлен-
300
ные на создание машинных программ перевода с одного естественного языка на другой. Достаточно быстро обнаружилась глубокая общность задач этих областей. Выяснилось, что методы, разработанные в одной из них, могут быть применены в других, а также то, что их можно распространить и на иные сферы, например на проблематику машинного сочинения музыкальных композиций или автоматический диагноз заболеваний. Постепенно совокупность подобных исследований (достаточно единая по характеру своей проблематики) стала восприниматься как самостоятельное научное направление, и за ним все больше стало закрепляться название "искусственный интеллект".
С момента появления первых работ, которые можно отнести к направлению "искусственного интеллекта" (или просто к "искусственному интеллекту"), прошло три десятилетия. За это время выявились две главные цели, которые преследуют соответствующие исследования. Одна из них - моделирование на цифровой машине некоторых существенных черт интеллектуального (разумного) поведения. Другая - использование ЭВМ для решения сложных проблем, овладение которыми до сих пор было под силу только человеку. Различие этих двух целей относительно (многие кибернетические разработки подчинены обеим целям одновременно) и отражает лишь разные акценты. В одном случае акцент ставится на использовании в кибернетических целях эмпирического материала нейрофизиологии и психологии, в другом - на разработке эффективных методов решения "интеллектуальных" проблем независимо от того, в какой степени эти методы используются человеком (и используются ли вообще). Однако в обоих случаях соответствующие кибернетические исследования тесно связаны с психологией, поскольку поведенческий аспект интеллектуальной деятельности человека, учитываемый в большинстве работ по "искусственному интеллекту", близок или непосредственно заимствован из соответствующих психологических концепций. Работы многих специалистов США и Западной Европы в области "искусственного интеллекта" тесно связаны с теоретической установкой на объективное изучение поведения (известно, например, что Н. Винер придавал большое значение работам И.П. Павлова). В то же время исследования таких крупных американских психологов, как Дж. Миллер, К. Прибрам и У. Ниссер, выполненные за последние десятилетия, несут на себе явное влияние идей и методов "искусственного интеллекта". Советские психологи (А. А. Ератко, В. Н. Пушкин, О. К.Тихомиров и др.), так же как и специалисты других социалистических стран (Ф. Клике - ГДР, И. Лингарт - ЧССР), стоящие на диалектико-материалистических позициях, в своих исследованиях достаточно широко привлекают идеи и методы кибернетики.
Взаимодействие "искусственного интеллекта" и психологии способствует теоретическому и экспериментальному исследованию познавательной деятельности, стимулирует разработку новых психолого-кибернетических теоретических "моделей" интеллекта.
Крайности - вредны
Эта истина как нельзя более подходит для характеристики исходных установок книги Дрейфуса. Отпразной точкой рассуждений автора являются прогнозы, сделанные в середине 50-х годов некоторыми американскими учеными, относительно быстрого - в пределах до двадцати лет - прогресса в разработках "искусственного интеллекта". Подводя итоги исследований десяти лет (1957-1967 гг.), автор пытается ответить на вопрос, "действительно ли машины могут достичь хотя бы элементов творчества, играя в шахматы, разрешая простые проблемные ситуации, читая простые предложения и распознавая образы" (с 23) . Подразделив исследования, проводившиеся в его стране, на два этапа, которые обозначаются в книге как моделирование процесса познания" и "переработка семантической информации" ("искусственный интеллект" в собственном смысле), и подвергнув их критическому анализу, Дрейфус приходит к заключению, что получен-
301
ные результаты опровергают оптимистические настроения исследователей. По его мнению, развитие этих работ идет по одной и той же схеме: удачное начало при моделировании простых форм переработки информации и неудачи при попытках исследователей вложить в машину более сложные формы поведения. Создавшееся в данной области положение Дрейфус склонен характеризовать как "крушение радужных надежд", "застой", "тупик"- как ситуацию, окутанную неким "интеллектуальным смогом".
Такого рода оценки, рассматриваемые в применении к направлению в целом (а не к отдельным работам и программам, слабости которых верно подмечены Дрейфусом), искажают действительную перспективу развития. Сегодня мы можем сказать, что, вопреки заключениям автора, исследования в данной области не только не пошли на убыль, но неуклонно расширяются и набирают темп. Крайности, как известно, не способствуют уяснению подлинного положения вещей.
Следующее десятилетие
Дрейфус оперирует материалами работ 1957 - 1967 гг. (лишь фрагментарно привлекая отдельные результаты конца шестого десятилетия нашего века). Как же развивались работы по "искусственному интеллекту" в период 1968-1977 годов? Не говоря уже о прогрессе электронной вычислительной техники и ее применений в самых различных областях экономики и культуры - а прогресс этот был колоссальным,- в развитии поисковых работ мы должны констатировать углубление исследований, появление интересных идей и решений, новых подходов, разработку более мощных машинных программ. О некоторых из этих результатов мы упомянем в последующем изложении. Здесь же обрисуем, так сказать, внешнюю сторону исследований десятилетия 1968-1977 гг., имея в виду не только американскую науку (материалами которой оперирует Дрейфус), но и работы советских ученых (которые остались вне поля зрения автора).
Перечислим для начала некоторые труды этих лет, которые в своей совокупности отнюдь не подтверждают тезиса автора о "застое" исследований в области "искусственного интеллекта"» Мы заранее просим читателя запастись терпением, так как список будет довольно обширным, но, с нашей точки зрения, ознакомление с ним небесполезно для тех, кто решит проследить прогресс, наблюдающийся и в создании автоматов, моделирующих "опыт" человеческой переработки информации, и в разработке систем, решающих сложные задачи способом, отличным от методов решения их человеком.
Прежде всего укажем переведенные на русский язык зарубежные исследования: сборники работ "Кибернетические проблемы бионики", вып. I, M., "Мир", 1971, вып. II, М., "Мир", 1972; З.Бэнерджи. Теория решения задач. Подход к созданию искусственного интеллекта. М., "Мир",(оригинал опубликован в 1969 г.); Н. Нильсон. Искусственный интеллект. Методы поиска решений, М., "Мир", 1973 (оригинал вышел в 1973 г.); Дж. Слэйгл. Искусственный интеллект- Подход на основе эвристического программирования, М., "Мир", 1973 (оригинал 1971 г.); сборники статей "Интегральные роботы" [вып.1], М., "Мир", 1973, вып.2 , М., "Мир", 1975; Т. Виноград. Программа, понимающая естественные язык, М., "Мир", 1976 (оригинал 1972 г.) ; Р. Дуда, П. Xарт. Распознавание образов и анализ сцен. М., "Мир", 1976 (оригинал 1973 г,). Из бопьшого количества зарубежных работ, не представленных (пока) в русском переводе, отметим: R.C.Schank, К.М,Colby (eds.) Computer Models of Thought and Language. San Francisco, Freemen and Сотр., 1973; E. В. Hunt. Artificial Intelligence, New York - San Francisco - London, Acad. Press, 1975; G. Pask. Cybernetics of Human Learning and Performance. The Guide to a Theory and Research. London, Hutch in son, 1975; G. Pask. Conversation, Cognition and Methodology. Amsterdam, Elsevier, 1975; P.H.Winstоn (ed.). The Psychology of Computer Vision. New York. McCrow-
302
1975; В. Raphael, The Thinking Computer, San Francisco, Freemen and Corp 1976 P.H.Winslon. Artificial Intelligence. Reading (Mass.)-Meno park (Calif.), Addison-Wesley, 1977. Отечественная литература по "искусственному интеллекту" последних лет не менее обширна. См., например, следующие работы: Д. А. Поспелов, В.Н.Пушкин. Мышление и автоматы М "Советское радио", 1972; М. Б. Игнатьев, Ф, М. Кулаков, А. М. Покровский. Алгоритмы управления роботами-манипуляторами. Л., "Машиностроение", 1972; Н. М. Амосов, А. М. Касаткин и др. Автоматы и разумное поведение. Киев, "Наукова думка", 1973; Е. А. Александров, Основы теории эвристических решений. Подход к изучению естественного и построению искусственного интеллекта. M. "Советское радио", 1975; Н.Г. Загоруйко. Искусственный интеллект и эмпирическое предсказание. Новосибирск, 1975; Искусственный интеллект и психология. М., "Наука", 1976; Э. В. Попов, Г. Р. Фирдман. Алгоритмические основы интеллектуальных роботов и искусственного интеллекта. М., "Наука", 1976. Работы по "искусственному интеллекту" публикуются во многих научных изданиях, в том числе в международном журнале Artificial Intelligence (Амстердам) и в отечественном журнале "Кибернетика" (Киев); в Англии выходит продолжающееся издание Machine Intelligence (Эдинбург) .
Результаты исследований по кибернетическому моделированию процессов познания и системам, имитирующим определенные аспекты разумного поведения, обсуждаются на многочисленных научных совещаниях, в том числе международных. Наиболее авторитетные из них - Международные объединенные конференции по искусственному интеллекту (четвертая состоялась в СССР -IV МОКИИ, Тбилиси, сентябрь 1975 г., а пятая - в США, Кембридж, шт. Массачусетс, август 1977 г.), Сотрудничество советских, американских, английских специалистов и ученых других стран в области "искусственного интеллекта", активно начавшееся в период подготовки и проведения IV МОКИИ, было продолжено на международной конференции по данной проблематике, которая проходила в г. Репино (под Ленинградом) в апреле 1977 г.
Труды IV МОКИИ дают четкое представление о круге вопросов, который в настоящее время охватывает понятие "искусственного интеллекта" как исследовательского направления. Он включает следующие темы: математические и теоретические аспекты "искусственного интеллекта"; методы представления задач и знаний в памяти вычислительной системы; методы поиска решений, эвристические методы; обучение машины, отладка программ "искусственного интеллекта", автоматическое программирование; машинное распознавание речи; общение с ЭВМ на естественном языке; технические средства и математическое обеспечение «искусственного интеллекта»; обработка визуальной информации; алгоритмы управления движением и роботы; психологические аспекты "искусственного интеллекта". Двенадцать выпусков трудов, изданных к началу этой конференции, составили свыше 2000 страниц! Таким образом, как мы видим, исследовательская работа в данном комплексном направлении кибернетики разворачивается все шире, вовлекая в круг своих проблем математиков и специалистов в области вычислительных систем, инженеров, лингвистов, психологов, логиков, философов.
Реальность трудностей
Итак, общая оценка перспектив "искусственного интеллекта", данная в книге, не прошла проверки временем. Значит ли это, что критика Дрейфусом работ американских авторов десятилетия 1957-1967 гг. (Г.Саймона, М.Минского и др.) совершенно беспочвенна? Отнюдь нет. Работы эти отражали реальные слабости подхода к решению интеллектуальных" задач, основанного на "силовом" приеме перебора вариантов и их выбраковке, базирующейся на достаточно слабых эвристических методах.
303
Известно, что для любых мало- мальски сложных задач сплошной перебор невозможен из-за громадности дерева альтернатив. Например, число возможных позиций в шахматной игре К. Шеннон оценил как 10120. Чтобы представить себе, сколь необозримым оказывается в этом случае перебор, укажем на то, что, по имеющимся оценкам, с тек пор как человек обрел дар речи, все люди на земле произнесли "только" 1016 слов! Чтобы сделать реальным машинное решение подобных задач, причем не только на современных машинах, но и на машинах, создание которых возможно в любом обозримом будущем, составителю программы необходимо руководствоваться определенными соображениями относительно тех характеристик, которые можно эффективно использовать для ограничении перебори с тем, чтобы затраты машинного времени и объем требуемой для решения информации соответствовали реальным вычислительным мощностям. Коротко говоря, необходимо разумное ограничение рассматриваемых машиной альтернатив, ибо их число растет по экспоненциальному закону, который оборачивается кошмаром для вычислительной процедуры. "Переборный" подход в кибернетике - естественное следствие развитие машинной математики, основанной на цифровой технике. Кодирование информации с помощью дискретных объектов типа цифр и букв, которым пользуются создатели систем "искусственного интеллекта", с необходимостью порождает "атомистический'' машинный мир дискретных данных и фиксированных признаков. Ориентация в этом мире - и решение в его терминах сложных задач (хотя бы отчасти напоминающих те, которые решает человек в своей интеллектуально-творческой деятельности в науке и практике) - представлялась возможной лишь на пути выработки методов выделения существенных ("релевантных") факторов (критериев, параметров, характеристик). Это обстоятельство стало ясно кибернетикам еще в 50-х - начале 60-х годов. Оно отмечается, например, в статье "Модели обучения и управляющие системы", написанной Ю. А. Шрейдером в качестве дополнения к переводной книге Р. Буша и Ф. Мостеллера "Стохастические модели обучаемости" (М., Физматгиз, 1962; оригинал книги вышел в 1955 г.; дополнение к русскому изданию было написано в 1960 г.).
Для реализации целесообразно организованного перебора необходимо, чтобы программа оперировала заранее заданным перечнем фактов (признаков, объектов, альтернатив и т. п.) либо содержала метод регулярного (в каком-либо смысле) порождения таких фактов и чтобы она могла отбирать существенные факты. Однако проведение этого подхода в жизнь натолкнулось в области "искусственного интеллекта" на серьезные трудности. Анализу сложившейся в результате этого ситуации в американской кибернетике 1957-1967 гг. и посвящена первая часть книги Дрейфуса. Ее материал показывает, что задача сведения "многовариантной" проблемы к "маловариантной"- существенное уменьшение "размерности" (числа подлежащих учету параметров) решаемой машиной проблемы, то есть превращение проблемы, как говорят, в "задачу с хорошей структурой",- связано с гораздо большими трудностями, чем это поначалу представлялось.
Эти трудности очень рельефно показаны в книге. Автор исходит из того очевидного факта, что личность справляется с проблемой экспоненциального роста, по-видимому, потому, что человеческие психические процессы качественно отличны от функционирования современных машин, даже снабженных программами "искусственного интеллекта". Решая задачи творческого характера и даже просто осуществляя человеческие способы поведения - начинав с восприятия объектов и кончая актами сознательного целеполагания,- личность не оперирует заданной ей "извне" системой жестко фиксированных признаков ситуации (задачи), в которой ей надлежит сформировать свое поведение (найти решение задачи). Человек строит систему соответствующих признаков ("фактов") в ходе осмысления задачи, а не просто синтезирует ситуацию (задачу) из готовых признаков.
304
Целое, как известно, состоит из частей, но части осмысляются в составе целого. "Переборное" осмысление неестественно для человека, по крайней мере коль скоро он рассуждает сознательно. Эвристические приемы, разумеется, используются человеком, так же как и разнообразные операции сравнения, абстракции, классификации и обобщения. В основе этих процессов, однако, в значительной мере лежит не до конца ясная в психологическом плане способность различения существенного и несущественного. Важную роль также играет феномен целостности восприятия - не только чувственно-сенсорного, но и мыслительно-абстрактного. Поэтому можно согласиться с Дрейфусом, когда он говорит, что без привлечения человеческой способности к "глобальному рассмотрению" объектов, восприятию целостных образов, "по-видимому, невозможно избежать ситуации экспоненциального роста и преодолеть ограниченные возможности эвристик в выборе вариантов, подлежащих рассмотрению" (с. 50)
Нет сомнения, что изучение эвристик - как в психологическом плане, так и в плане "эвристического программирования"- продвигает нас вперед и в понимании познавательного процесса у человека, и в разработке способов реализации на машине отдельных его проявлений либо результатов. Но до конца вскрыть соответствующие процессы "переработки информации" с помощью единственно лишь эвристического подхода вряд ли возможно. Никакие эвристики - четко формализованные, во всяком случае,- не могут, по-видимому, объяснить, как человек, переводя с одного естественного языка на другой, принимает решение остановиться на тех или иных вариантах результирующего текста. Тут существенную роль играет другое обстоятельство, настоятельно - и с полным основанием-подчеркиваемое Дрейфусом: способность человека учитывать нечеткие ситуации, не прибегая при этом к их точной формулировке. Идеи автора перекликаются здесь с соответствующими мыслями советского исследователя В. В. Налимова - автора книги "Вероятностная модель языка. О соотношении естественных и искусственных языков" (М., "Наука", 1974). Отечественный специалист в области математической статистики и планирования эксперимента, оперируя вероятностными представлениями, раскрывает феномен "мягкости"-гибкости значений слов и выражений - естественных языков и "диффузный" характер сложных систем. Элементы последних настолько тесно взаимодействуют друг с другом, что делают невозможным их "классическое" описание, основывающееся на фиксации параметров и изолированном изучении поведения отдельных переменных.
Дрейфус развивает сходную аргументацию, подчеркивая значение "глобальной формы" переработки информации, при которой информация рассматривается человеком "не в четкой форме, а остается, скорее, в периферийной сфере сознания и учитывается неявно" (с. 50); эта форма освоения реальности "действует постоянно, непрерывно организуя наше эмпирическое познание" (там же). Она тесно связана с использованием контекста для уменьшения неоднозначности - с учетом тех контекстуальных (ситуационных) черт, которые в книге названы неявными ориентирами. Конечно, соответствующие феномены человеческой психики далеки еще от уяснения, так же как явления интуиции ("инсайта"),- все то, что в своей совокупности играет ключевую роль в осмыслении фрагментов реальности, попадающих в сферу человеческого опыта. Именно эти процессы - а не более простые и доступные для изучения процедуры четкой понятийной классификации и логической дедукции -составляют главную трудность для машинного моделирования,
В самом деле, если для того, чтобы распознавать образы, узнавать объекты, усматривать "семейное сходство" (для которого не обязательно наличие общих признаков у объектов одной семьи), человек не "концептуализирует" свойства, проводя между ними жесткие границы, не "атомизирует" характеристики, по которым происходит распознавание, то каким
305
образом в машину, понимающую только четкие команды, вложить способность узнавания? Если перевод фразы иностранного языка зависит от серии нежестко фиксированных контекстов - быть может, от общего контекста нашей культуры,- то как возможен машинный перевод, который в его современном виде опирается на метод построения значений сложных языковых образований из значений более элементарных компонент?
На эти - и многие другие аналогичные - вопросы сегодня мы ответить не можем. Значит ли это, однако, что отмеченные выше функции интеллекта "преграждают путь" к дальнейшему прогрессу в области кибернетического моделирования процессов познания и создания систем "искусственного интеллекта", как думает Дрейфус? Как нам представляется, не значит. Можно добиваться успеха в формализации упомянутых феноменов, не предрешая при этом вопроса о том, с какой степенью полноты фактически окажется возможной такая формализация. Работы десятилетия 1968-1977 гг. свидетельствуют о реальности этого продвижения. О некоторых из них мы позволим себе сказать несколько слов.
Проблема узнавания и понимания
Еще в 50-60-е годы (а для некоторых задач и ранее) были выработаны методы сокращения перебора и получения оптимальных решений для задач с "хорошей организацией". Это были, в частности, методы минимизации переключательных электрических схем, основанные на средствах алгебры логики, линейное и динамическое программирование и др. В некоторых из них - таких, например, как "метод оврагов" И. М. Гельфанда и М. Л. Цетлина (см. их статью "О некоторых способах управления сложными системами" в журнале "Успехи математических наук", 1962, т. XVII вып. 1(103) ) -была заложена адаптационная тактика, позволявшая "разделять переменные" и выделять.существенные для данной задачи параметры. Однако проблематика машинного распознавания образов, если образы не стандартизованы, а также программирование задач, связанных с пониманием текстов и ситуаций (не подвергшихся предварительной формализации}, плохо поддавались изучению на этом пути.
Задачи автоматического узнавания привели к созданию систем, которые получили название персептронов. Дрейфус довольно пренебрежительно отзывается о работе Ф. Розенблата, положившей начало "персептронной" проблематике. И действительно, эпоха персептронов оказалась непродолжительной. В книге М. Минского и С. Пейперта "Персептроны", материалом которой пользуется автор, показано, в частности, что персептрон (определенного класса) не в состоянии решить даже такую задачу, как вопрос о связности или несвязности предъявленной ему фигуры. В этой связи Минский и Пейперт дают трезвую оценку соответствующих работ (которую, однако, Дрейфус не приводит) : "Наука о вычислениях и кибернетика начались - и эта, по-видимому, совершенно правомерно - с шумной романтической рекламы. Они изобиловали волнующими и заманчивыми новыми идеями, уже принесшими богатые плоды. Тяжкие требования строгости и осторожности могли бы показать, какие направления окажутся наилучшими. В самом деле, мы считаем, что маститые эксперты, наиболее активно выражающие недовольство по поводу "неуместных претензий" энтузиастов кибернетики, оказались в конечном счете неправыми. Но теперь наступило время зрелости, и мы должны противопоставить нашим рискованным начинаниям в равной мере впечатляющие образцы критического подхода" (М. Минский, С. Пейперт, Персептроны. М., "Мир", 1971, с. 10). И этот критический подход не заставил себя долго ждать. Он выразился 1 в разработке альтернативных направлений исследований в проблеме автоматического узнавания и связанной с ней формализации феномена понимания, играющего фундаментальную роль в разумном поведении. В нашей стране здесь выделяется подход М. М. Бонгарда, изложенный им в книге
306
"Проблема узнавания" (М., "Наука", 1967). Данный подход оказался вполне жизнеспособным, так как позволил установить естественную связь между проблемами узнавания и понимания. Об этом свидетельствует общая теоретическая установка авторов недавно вышедшего сборника работ "Моделирование обучения и поведения" (М., "Наука", 1975) -"понять, как думает человек, каковы механизмы мышления", учитывая при этом, что "это задача огромной сложности" (с. 3 упомянутого сборника),- и приведенные в нем результаты.
Критика Х.Дрейфусом работ в области моделирования рассудочной деятельности касается, в частности, американского кибернетика Д. Боброва. Его работы, однако, вскоре были превзойдены в исследованиях Т. Винограда. Результаты последних изложены в монографии, вышедшей в 1972 г. (см. русский перевод, выходные данные которого были указаны выше), и в публикации: Т. Winоgrad. Five Lectures on Artificial Intelligence. Stanford. 1974. Stanford Artificial Intelligence Laboratory. Memo AIM-246. За последние годы в кибернетических разработках, ведущихся в США, распространение получил метод представления знаний - то есть метод вложения в машину определенного способа "понимания" той "реальности", с которой она должна иметь дело, - основанный на предложенном М. Минским понятии ситуационной рамки ("фрейма").
Фреймы и сценарий
Согласно М. Минскому, фрейм (frame) есть воплощение "структуры данных" для выражения некоторой стереотипной ситуации; он представляет собой совокупность вопросов, которые можно задать о соответствующей воображаемой ситуации. Ответы определяют, какие ситуационные аспекты и с помощью каких средств подлежат рассмотрению (М. Мinsky. A Framework for Representing Knowledge, AJ, Memo. M.I.T. Artificial Intelligence Laboratory. Cambridge, Mass.r 1974). Например, фрейм "день" предполагает ответ на вопросы: какого года? какого месяца? какого числа соответствующего месяца? какого дня недели? и т. п.; в числе вопросов фрейма могут быть также вопросы о цели некоторой деятельности. Фреймы - это языковое средство представления в машине схемы некоторой ситуации или ситуационной структуры среды; такое представление осуществляется с помощью семантической сети, в которой фигурируют связанные между собой фреймы (frame system).
Идея ситуационных рамок - фреймов как способов организации "знаний" машины о некоторой {стандартизованной) внешней среде получила развитие в ряде работ американских кибернетиков. В одной из них - статье Р. Шенка и Р. Абельсона "Сценарии, планы и знания" (Труды IV Международной объединенной конференции по искусственному интеллекту, 6. Общение с ЭВМ на естественном языке. М., 1976) - понятие фрейма интерпретируется как общее название сведений о реальности, организованных в структуру, облегчающую обращение машины к этим сведениям; фреймы подразделяются на статические - сценарии (scripts) и динамические - планы (plans). Сценарий складывается из названия ситуации, указания причин ее возникновения и набора сцен; планы задают последовательности действий для достижения некоторой цели. Сценарии и планы служат отображению причинно-следственных связей между ситуациями среды.
Система организации информации, основанная на методе фреймов, предполагает с необходимостью стандартизацию "машинного мира", и тем не менее она в определенной мере обогащает наши представления о том, как на кибернетическом пути можно преодолевать трудность обращения к контексту, на которой главным образом строится аргументация Дрейфуса, Хотя данный метод предполагает чисто кибернетическое истолкование понимания"- как "интерпретации новой информации в уже организованом картине мира" (Р.Шенк, Р.Абельсон. Цит. соч., с.208; курсив-Б.Б.) , он все же вносит известную гибкость в "машинный мир":
307
предусмотренный методом переход от одного фрейма к другому на основе трансформационных правил можно рассматривать как некий упрощенный аналог человеческого "поведения в контексте".
Тезаурусы и ситуационное управление
Метод построения системы фреймов - как особых "ситуационных рамок", служащих для упрощенного описания ситуаций, с которыми может иметь дело машина,-родствен другому методу, идеи которого были развиты, в частности, в нашей стране. В его основе лежит идея о логико-семантических системах с вариативными составными частями - динамических тезаурусов, служащих для представления внешней среды, выражения семантической информации и формализации интеллектуальной коммуникации. Основные положения подобного тезаурусного порхода были сформулированы Ю. А. Шрейдером (см. например, его статью "О семантических аспектах теории информации" в кн.: Информация и кибернетика, М., "Советское радио", 1967); вопрос о логико-методологических возможностях данного метода освещен автором этих строк в книге "Кибернетика и методология науки" (М., "Наука", 1974, с. 353 и сл.). Другой метод, разрабатываемый в советской науке,-это подход, получивший название ситуационного управления.
Упомянутый подход вырос из задач построения систем управления такими сложными системами, для которых не имеется точного описания их структуры и поведения. В его разработке приняли участие как собственно кибернетики (Д. А. Поспелов, Ю. И. Клыков), так и психологи (В. Н. Пушкин) . Краткое представление о данном направлении можно получить из статьи Г.С.Поспелова и Д. А. Поспелова "Исследования по искусственному интеллекту в СССР" (в кн.: Кибернетику - на службу коммунизму, т. 9, М., "Энергия", 1978).
Суть метода ситуационного управления заключается в разработке способа логико-языкового структурирования проблемной среды- среды, в которой ставятся и решаются некоторые задачи с целью построения эффективных алгоритмов их машинного решения. При этом развивается некий "антропоморфный"- исходящий из лингво-психологической реальности- подход, позволяющий для данного круга задач строить обобщенные описания, основанные на учете структур понятий. Говоря конкретнее, при описании некоторых ситуаций (или обработке соответствующих текстов) производится выделение различных в функциональном отношении групп объектов - понятий-классов, имен, бинарных отношений, императивов и др. В структурировании проблемного мира машины наибольшую роль играют отношения между понятиями. Считается, что для каждого круга задач в принципе можно выделить конечное число основных отношений, через которые получают выражение остальные отношения, имеющие смысл в данном классе ситуаций. Проведенное таким образом структурирование проблемной среды позволяет строить алгоритмы решения задач, в которых роль операторов играют императивы, допускающие формулировку на естественном языке; обобщенные описания в языке ситуационного управления родственны фреймам, о которых говорилось выше (подробнее о ситуационном управлении см.: Д. А. Поспелов, В.Н. Пушкин. Мышление и автоматы, М., 1972; Ю. И. Клыков. Ситуационное управление большими системами. М., "Энергия", 1974; Д. А. Поспелов. Большие системы (ситуационное управление) . М., "Знание", 1975,
Расплывчатые множества
Понятия естественного языка и содержательного (неформализованного) мышления часто носят расплывчатый характер: имеют нечеткие, размытые границы, причем у разных людей для "одних и тех же" понятий характер "расплывания" может оказаться различным. Это обусловлено вариабельностью смыслов выражений, неоднозначностью значений, включением в содержание понятий субъективных оценок. В книге
308
Дрейфуса об этом говорится достаточно подробно. Автор рассматривает отмеченные феномены как принципиальное препятствие для работ по моделированию процессов познания и "искусственному интеллекту". Между тем исследования последних лет показали, что расплывчатость, гибкость и динамичность человеческих понятий и суждений в определенных пределах поддаются формализации. Соответствующие средства начиная с 20-х годов нашего века подготавливались в рамках многозначных и бесконечнозначных логик -логик, которые, помимо значений "истинно" и "ложно", допускают промежуточные истинностные значений. Однако лишь в середине 60-х годов обнаружилась связь этих логик с кибернетическим кругом идей.
В 1965 г. американский специалист в области автоматического регулирования и теории систем Л. А. Заде опубликовал первую работу по нечетким множествам, а затем развернул (вместе с рядом своих последователей) всестороннюю разработку теории расплывчатых понятий и алгоритмов. В силу важности данной теории для оценки вопросов, которые поднимаются в книге Дрейфуса, приведем имеющиеся на русском языке публикации создателя данной теории: Тени нечетких множеств {"Проблемы передачи информации", т. II, вып. 1, М., 19661 ; Расплывчатые алгоритмы (реферат) (Экспресс-информация "техническая кибернетика", 1968, №38); Основы нового подхода к анализу сложных систем и процессов принятия решений (в кн.: Математика сегодня. М., 1974); Понятие лингвистической переменной и его применение к принятию приближенных решений (М., "Мир", 1976) (см. также: Р. Беллман, Л. 3аде. Принятие решений в расплывчатых условиях.-В кн.: Вопросы анализа и процедуры принятия решений. Сб. переводов. М., "Мир", 1976).
Автор предлагаемой читателю книги очень кратко говорит о теории расплывчатых множеств, высказывая взгляд, что в своем понятии расплывчатости Заде "сваливает в одну кучу пять различных аспектов распознавания образов, а именно, аспекты, относящиеся к нечеткости границ, к зависимости от контекста, цели, субъективной оценки и к фамильному сходству" (с. 74) . X. Дрейфус утверждает, будто совершенно непонятно, "какой же аспект распознавания поддается формализации при помощи понятия расплывчатости (и поддается ли вообще хоть один)" (там же). Подобная оценка теории, в последние годы столь стремительно развивающейся, на наш взгляд, неправомерна (характерно, что Дрейфус в своей книге ссылается только на самую первую статью Заде по расплывчатым понятиям: L. A. Zadeh. Fuzzy sets.-Information and Control, vol. 8, 1965, No 3).
Вне всякого сомнения, новая теория означает шаг вперед в формализации феномена нечеткости понятий и образов. Она вводит многозначные (в общем случае бесконечнозначные) шкалы оценок принадлежности элементов данному множеству (объему нечеткого понятия); развертывает систему операций над такими множествами. Более того, использование нечетких понятий в составе предписаний к переработке информации приводит к распространению данного подхода на теорию алгоритмов. В связи с неоднозначностью нечетких алгоритмов в последние проникает такой специфически человеческий момент, как принятие решений. Решения, однако, также могут быть нечеткими, то есть основанными на расплывчатых критериях; отсюда необходимость разработки методов формализации такого рода расплывчатости. Нечетким оказывается и само понятие цели, которой должно отвечать искомое решение задачи. Формализуемыми в определенном смысле оказываются также субъективные оценки, начиная с исходного пункта теории - понятия нечеткой принадлежности предметов объему расплывчатого понятия: введенные Заде "функции членства в множестве" (принимающие значения из интервала [0, 1] действительных или рациональных чисел) могут для данного понятийного образования задаваться по-разному, что можно рассматривать как выражение индиви-
309
дуальных свойств носителей этих функций. Наконец, подход Л.Заде позволяет подойти к формализации семантики широкого класса выражений естественного языка (содержащего такие слова и обороты, как "очень", "более или менее", "вполне", и их повторные применения к расплывчатым понятиям: "очень старый", "очень-очень старый" и т. п.).
В настоящее время происходит стремительное развитие работ по теории расплывчатости. Представление о нем можно получить из статьи: Л.А. Гусев, И.М. Смирнова, Размытые множества (Обзор) ,-"Автоматика и телемеханика", 1973, № 5; и рецензии: М.А.Айзерман, И.М.Смирнова. Первые монографии по теории размытых множеств.-Там же, 1977, № 10. Размах исследований в новой области привел к появлению работ монографического характера (см. A. Kaufmann. Introduction a la theorie des sous-ensembles flous, t.I-III, 1975, Paris; англ. перев.: А. Ка-
ufmann. Introduction to the theory of Fuzzy Subsets, vol. 1, N.Y., 1975; C.V. Negоita, D.A. Ralesсu. Applications of Fuzzy Sets to Systems Analysis. Basel, 1975; N.Y., 1976). И это вполне закономерно. Логико-кибернетическая теория расплывчатости означает новый подход к старой проблеме абстракции и образования понятий - подход, более связанный с "человеческим фактором", нежели традиционно рассматривавшиеся в логике процессы обобщении, которые предполагают жесткую дихотомию "истинно - ложно". Создается впечатление, что каждой математической теории (и каждой теореме теории) можно поставить в соответствие ее расплывчатый вариант, причем многими (пожалуй даже бесконечно многими) способами. Во всяком случае, на сегодняшний день мы уже располагаем понятиями расплывчатых графов, расплывчатых автоматов, расплывчатых систем управления. Хотя в практических разработках систем "искусственного интеллекта" теория "расплывчатости" еще не успела проявить себя в полной мере, методологические соображения (некоторые из них высказаны в статье автора этих строк в кн.: Кибернетика и современное научное познание. М., "Наука", 1976, а также в статье М.А. Айзермана в журнале "Автоматика и телемеханика", 1976, № 7) свидетельствуют в пользу того, что ее применение принесет новые результаты в моделировании таких проявлений разумного поведения, которые не охватываются "нерасплывчатыми" подходами. Но, разумеется, в рамках одного лишь подхода Заде наивно ожидать преодоления всех тех трудностей "искусственного интеллекта", которые столь тщательно анализируются автором данной книги. "Зависимость от контекста" и "семейное сходство", к примеру, вероятно, с трудом поддадутся рассматриваемой теории.
Заложен ли в человеке "компьютер"? Четыре допущения
Как показывает произведенный нами краткий - и фрагментарный - очерк проведенных за последние десять лет модельно-кибернетических исследований интеллектуальных процессов, с негативизмом Дрейфуса согласиться нельзя. Однако и утверждать, что поставленные им проблемы решены, а конкретные критические аргументы утратили свою остроту, также неправомерно.
Прежде всего, в описанных выше работах по "искусственному интеллекту" нет ответа на кардинальный вопрос, сформулированный американским философом: верна ли гипотеза о том, что функционирование интеллекта и переработка им информации происходят путем дискретной пошаговой процедуры - процедуры, подобной той, которая закладывается в ЭВМ с помощью программ, содержащих разного рода эвристики? Иначе говоря, верно ли, что человеческое поведение может быть формализовано в "дискретностных" терминах? Положительный ответ на этот вопрос поднимает ряд проблем другого рода. Одна из них гласит: где же в живом организме "запрятано" подобное цифровое устройство? Другая, не менее важная, формулируется так: почему, как правило, мы не осознаем происходящего в нашем мозгу подобного цифрового процесса? Ведь известно, что ребенок, играющий со своими сверстниками, спортсмен, выступающий на соревнованиях, рабочий, изготовляющий какую-либо
310
деталь на станке, ученый, выступающий с научным сообщением, не отдают себе отчета (ни в ходе самой деятельности, ни после нее), что их мозг (или психика) в действительности производят или производили гигантские по объему вычисления. По какому принципу мыслит шахматист - независимо от его квалификации,- когда он при оценке позиции и выборе очередного хода, находясь перед лицом обширнейшего множества вариантов, отсекает все альтернативы, кроме одной - той, которая, по его мнению, является достаточно хорошей или единственно возможной? Производит ли он подсознательно сложнейший подсчет, лишь "в финале" выходящий на уровень сознания (причем не обязательно даже в логическую его часть)? А где гарантия, что подсознательный дискретный вычислительный процесс вообще имеет место?
Дрейфус признает, что не может дать категорический ответ на эти вопросы. По-видимому, ответа ныне не знает никто. Просто моделирование интеллекта и разработка систем "искусственного разума" идет по пути, определяемому используемой технологией,- по пути дискретного представления и переработки информации. Дрейфус считает, что перенос закономерностей, присущих подобным символьно-цифровым процессам, на поведение человека и его психику (процессы восприятия, воображения, мышления, прогнозирования и волеизъявления) не обоснован ни теоретически, ни эмпирически. Такой перенос просто равнозначен принятию четырех фундаментальных положений, которые в книге названы биологическим, психологическим, эпистемологическим и онтологическим допущениями.
Выделение этих допущений, несомненно, во многом верно схватывает методологическую ситуацию, сложившуюся в данном направлении кибернетики. Согласно биологическому допущению, на некотором уровне нейро-динамики (обычно таковым считают нейронный уровень) информационные процессы происходят на основе некоего биологического эквивалента переключательных схем. Психологическое допущение гласит, что мышление можно рассматривать как переработку информации, заданной в дискретном коде, причем переработка эта производится на основе некоторых формальных правил. Смысл эпистемологического допущение заключается в тезисе, что знание можно формализовать: все, что понято, может быть выражено в терминах логических отношений классической двузначной логики. И, наконец, согласно онтологическому допущению - все в мире, существенное для разумного поведения, можно представить в терминах множества четко определенных независимых друг от друга элементов. Цель рассуждений Дрейфуса состоит в том, чтобы показать, что биологическое допущение противоречит данным нейрофизиологии, психологическое и эпистемологическое (гносеологическое) допущения "полностью не доказаны и вполне могут оказаться несостоятельными" (с. 166), а принимать онтологическое допущение нет никаких оснований.
Является ли человек машиной Тьюринга?
Обсудим аргументацию Дрейфуса более основательно. Дрейфус резонно констатирует, что представление о мозге как об "устройстве", функционирующем подобно цифровой машине (это представление было выдвинуто на заре кибернетики), является "эмпирической гипотезой, время которой уже прошло" (с. 112). Действительно, если попытаться выразить принцип работы нервной системы и живого организма в целом в "машинных" терминах, то можно сказать, что перед нами аналого-цифровое ("гибридное") устройство. При этом не очень ясно, каково в сложнейших системах живого организма соотношение аналогового (например, гуморального) и цифрового (например, связанного с электрической импульсацией и наличием порогов "срабатывания" нейронов) начал.
В технике, однако, известны не только цифровые, но и аналоговые и аналого-цифровые вычислительные устройства. Если говорить о техноло-
311
гии, основанной на электрических процессах, то аналоговые машины появились раньше цифровых. Таким образом, сторонники "биологического допущения" могут внести соответствующую поправку в свой тезис о подобии живой системы вычислительному устройству. Дрейфус пытается отвести это возражение, ограничив свою аргументацию случаем дискретной переработки информации. Но это не усиливает, а ослабляет его позицию.
Оппонентов Дрейфуса не убедят также соображения автора относительно того, что организация мозга основана "на "сильном взаимодействии" его элементов", в то время как машина "лишена такого взаимодействия" (с. 112). Они могут сослаться на прогресс в разработке вычислительных машин и систем, в результате которого станет возможным воспроизведение подобного взаимодействия (или разработка достаточно добротного его аналога).
Отказ от признании живой системы "устройством" дискретной переработки информации означает, что такая система - и тем более человек - в физическом ("технологическом") плане не есть машина Тьюринга.
Но можно ли живые организмы и людей рассматривать наподобие машин Тьюринга в некоем более общем плане? Разберемся в этом вопросе. Машина Тьюринга -то есть идеализированная схема некоего абстрактного устройства, введенная ее автором в известной статье, опубликованной в 1936 г. (см. прим. 12), - является универсальным вычислителем, то есть прибором, способным в принципе (о смысле этой оговорки, играющей очень существенную роль, мы скажем ниже) производить любую вычислительную процедуру, в частности осуществлять и такой процесс вычислений, который производится на аналоговом устройстве. Для этого требуется только одно условие - чтобы вычислительный процесс был задан с помощью четких правил. Универсальные электронные цифровые машины наших дней - это своего рода машины Тьюринга в металле: в предположении возможности надлежащего увеличения их размеров, памяти, быстродействии и надежности они вычислительно универсальны.
Описанный вывод, основанный на достижениях математико-логической теории алгоритмов 30 -40-х годов нашего века, приводит к заключению, что "любой вид интеллектуальной деятельности, коль скоро он четко и однозначно описан на каком-либо естественном или искусственном языке, в принципе можно автоматизировать (промоделировать) с помощью некоторой машины. Этот результат следует из... постулата об универсальности "обычной" цифровой ЭВМ (которая, в предположении абстракции потенциальной осуществимости, оказывается просто реализацией машины Тьюринга или любого другого "уточнения" понятия алгоритма)" (А. И. Берг, Б. В. Бирюков, Философские вопросы кибернетики.- Энциклопедия кибернетики, т. 2, Киев, 1974, с. 504).
Смысл выделенных в вышеприведенном тексте слов состоит а отвлечении от ограниченности человеческой конструктивной и познавательной деятельности в пространстве, времени и материалах, в допущении, согласно которому если выполнено n шагов некоторого четкого построения (рассуждения, анализа и т. п.), то можно сделать и следующий (n+1)-й шаг. Эта абстракция- а ее важность в уяснении оснований теории алгоритмов в явной форме была отмечена одним из создателей данной теории, А. А. Марковым, - вводит в теоретическую кибернетику понятие, которое в философии называется абстрактной возможностью.
Какой смысл имеет привлечение данной абстракции к обсуждению интересующих нас проблем? Дело в том, что без обращения к этой абстракции невозможно говорить о моделируемости (выразимости, воспроизводимости, представимости и т. п.) любого регулярного (или регулиризуемого, могущего быть описанным в четкой форме) поведения человека на машине дискретной переработки данных типа машины Тьюринга, обладающей в каждый данный момент конечным, но всегда могущим в случае необходимости быть расширенным объемом памяти. Только с
312
позиции абстрактной возможности позволительно считать человека некой "машиной Тьюринга", или, точнее, "конечным автоматом".
В какой мере все сказанное касается обсуждаемого нами вопроса, спросит читатель. В незначительной. Ведь наши рассмотрения развертываются на иной, существенно более "низкой" - точнее говоря, содержательно более богатой - ступени абстракции. Вопрос касается фактической осуществимости на кибернетических устройствах - в наши дни или на какой-то грядущей ступени развития технологии и науки - моделей психических механизмов и процессов, поведения человека и т. п. Его можно сформулировать и иначе: возможно ли машинное получение результатов, которые, по общему признанию, являются творческими? В поисках ответа на эти вопросы не имеет смысла обращаться к абстракции потенциальной осуществимости. Техническая кибернетика и психология -сферы, в рамках которых развивается проблематика "искусственного интеллекта", - далеки от "логического рая" чистой математики.
Реальна ли "психологическая реальность"?
Мы должны, таким образом, обратиться к психологическому материалу, или - коль скоро мы в нашем анализе следуем за Дрейфусом - к "психологическому допущению". В какой мере кибернетические модели дискретных процессов переработки информации могут служить созданию картины функционирования человеческой психики?
На пути опровержения "психологического допущения" Дрейфус пытается доказать более сильное утверждение - что у психологических исследований вообще нет своего предмета. По его мнению, между уровнем физико-химических реакций мозга и "феноменологическим" уровнем осознаваемых человеком восприятий, воспоминаний, мыслей, актов целеполагания и т. п. вообще нет никакого "промежуточного уровня", который мог бы изучаться психологами, не говоря уже о моделировании соответствующих феноменов на цифровых устройствах. Подобное отвержение самой возможности существования теоретической психологии, а также точных методов изучения психики, представляется совершенно неприемлемым. Оно ведет к дуалистическому разрыву между нейродинамикой и субъективными явлениями, то есть тем, что в диалектико-материалистической литературе называется областью идеального. Оно снимает задачу изучения связей между физиологическим и психическим, в частности задачу выявления "нейрофизиологического кода" субъективных явлений- проблему, которая привлекает все большее внимание нейрофизиологов, психологов и философов (в этой связи можно указать, например, работы Н.П. Бехтеревой и идеи Д. И. Дубровского; см. об этом в кн.: Управление, информация, интеллект, с, 236 и сл.) . Это отвержение означает также, что "феноменологии" человеческого сознания отказывают в каких-либо реальных закономерностях. Советская психология, как известно, идет другим путем, признавая "психологическую реальность" как подлинный объект психологического исследования - объект, не "сводимый" к нейрофизиологической основе психики и не исчерпывающийся явлениями единственно сознательной жизни человеческого "я".
Пытаясь опровергнуть реальность "психологической действительности" (и называя критикуемую им позицию "менталистской"), автор книги ссылается на различие между "моделированием" (как воспроизведением лишь внешнего, "входо-выходного" проявления некоторого процесса) и "представлением" (как более глубоким моделированием, охватывающим как поведение, так и субстрат моделируемого процесса или системы). В категоричности этого различения проявляется недиалектический подход Дрейфуса к процессам познания, объяснения и моделирования. X. Дрейфус не учитывает того, что всякое моделирование (так же как объяснение и познание вообще) всегда есть приближение к объекту и может производиться с разной степенью глубины и полноты. В кибернетическом моделировании находит свое выражение диалектика отображения поведения,
313
|
структуры и субстрата моделируемой системы - при ведущей роли функционального моделирования, то есть моделирования поведения (см, об этом подробнее: Л. Б. Баженов, Б. В. Бирюков. Некоторые философские вопросы моделирования биологических объектов.-В кн.; Математическое моделирование жизненных процессов. М., "Наука", 1968). Из того, что моделирование - в том числе знаковое, допускающее представление модели в виде программы для ЭВМ,- всегда дает только приближение к изучаемой "психологической действительности", вовсе не следует его гносеологическая "ущербность". Шаткость заключений Х.Дрейфуса в этом пункте очевидна в свете результатов современных модельно-кибернетических исследований. Критическое отношение автора к психологическим работам, в которых изучаются инварианты, позволяющие восприятию, по словам Дж. Федора, радикально и постоянно отбрасывать информацию, непосредственно содержащуюся в физическом входном воздействии (см. с. 140), безосновательно. В рамках модельно-кибернетического и экспериментально-машинного исследования выделение инвариантов - один из плодотворных путей изучения внутренних, то есть скрытых от личности и не усматриваемых в нейрофизиологических данных, механизмов психической деятельности. Роль инвариантов как неявных "опорных точек" интеллектуально-творческой активности на примере машинного моделирования процесса сочинений музыкальных композиций была показана советским ученым Р. Х. Зариповым (см. его статью "Моделирование транспозиции инвариантных отношений и музыкальных вариаций на вычислительной машине".- "Kybernetika", Academia, Praha, vol. 9. No 5,1973, p. 400-421; см. также кн,: Управление, информация, интеллект, с. 334-346) .Из работ Зарипова следует, что перенос инвариантной структуры из одних условий в другие является одним из общих принципов мышления и проявляется в разных видах интеллектуальной деятельности. Объективный характер подобного подхода выражается, в частности, в том, что с его помощью возможно прояснение механизмов преобразования мелодий в творчестве композиторов, а также объяснение фактов вольного или невольного заимствования музыкальных тем, по своей "внутренней сути" являющегося переносом либо изменением инвариантов. Контроверза "дискретное-непрерывное" Впрочем, было бы неверно недооценивать анализ психологического допущения, производимый Дрейфусом. Доводы автора во многом попадают в цель, в особенности когда речь идет об ограниченности методов, использующих принцип дискретности информации. О связанных с этим проблемах - таких, как проблема "нейтральных данных", бесконечной редукции правил, глобального контекста и т. п., - мы поговорим ниже. Здесь же остановимся на затрагиваемом в книге вопросе о соотношении дискретного и непрерывного в кибернетическом моделировании. Принцип дискретности данных, не подверженный ограничениям на уровне абстракции потенциальной осуществимости, по-видимому, действительно сужает диапазон возможностей "искусственного интеллекта", коль скоро речь идет о создании реально функционирующих моделей и систем. Ведь на этом пути может утратиться специфика решаемой задачи или моделируемого процесса. Мышление и восприятие, справедливо отмечает X. Дрейфус, включает целостные процессы, которые трудно понять в терминах последовательно или даже параллельно осуществляемых дискретных операций; "поскольку мозг по крайней мере отчасти работает, видимо, как аналоговое устройство, то весьма вероятно, что и наш разум порождает мысли и восприятия на базе "полей", "сил", "конфигураций" и т. п." (с. 116). Такое понимание интеллектуальной деятельности подпадает под более широкое (чем дискретная переработка информации) понимание "информационного процесса", означающее, "что наш разум на основе 314 одних осмысленных образований строит другие осмысленные образования" (с. 115). Автор, впрочем, излишне категоричен в противопоставлении дискретного и непрерывного: он не учитывает диалектическую подвижность соответствующих категорий. В действительности и реальный мир, и отображающий его человеческий интеллект воплощают в себе обе эти противоположности (о диалектике понятий "прерывное - непрерывное" см. подробнее в кн.: Б.В.Бирюков. Кибернетика и методология науки. М,, "Наука", 1974, с. 89-101) . К тому же многие из критикуемых Дрейфусом специалистов - так же как и исследователи, включившиеся в работы по "искусственному интеллекту" за последние годы,- отдают отчет в ограниченности "дискретностного" подхода, и не их вина, что технология в настоящее время не может предоставить в их распоряжение более гибкие средства. Феномен сложности Авторский анализ эпистемологического допущения также требует корректив. Смысл допущения сводится к следующему: любое четкое - в терминах правил - описание поведения может быть формализовано. Как говорит X. Дрейфус, это допущение предполагает, «что - по крайней мере в принципе - поведение человека можно представить с помощью набора независимых утверждений, описывающих "входы" организма и соотнесенных с утверждениями, описывающими его "выходы"» (с. 148). Создается впечатление, что автор не согласен с этим тезисом, хотя, по сути, его невозможно оспорить: оговорка "в принципе" означает принятие уровня абстракции потенциальной осуществимости, а на этом уровне все, что может быть ясно и общепонятно объяснено, может быть и формализовано, скажем, представлено с помощью некоторой машины Тьюринга. И попытка Дрейфуса прибегнуть к reductio ad absudum, указав, что в этом случае самолеты и корабли также окажутся машинами Тьюринга, несостоятельна: на уровне дискретных рассмотрений и абстракции потенциальной осуществимости любые действующие технические устройства действительно можно рассматривать как идеализированные машины, перерабатывающие информацию в соответствии с определенными правилами. Но есть сторона дела, которую автор схватывает верно. Человеческое поведение можно считать закономерным в том смысле, что оно определенным образом упорядочено. Однако предположение, будто законы поведения могут быть воплощены в программах для ЭВМ или каком-либо ином эквивалентном формализме, далеко не очевидно и, во всяком случае, нуждается в обосновании. В возможность такого автор не верит, выдвигая следующий серьезный аргумент: необходимые для программного представления поведения человека "громадные вычисления могут оказаться неосуществимыми в силу самих законов физики и теории информации, требующих таких вычислений" (с. 152). Здесь мы подошли к важнейшей проблеме современной кибернетики - проблеме сложности. Выше мы уже упоминали о ней, когда указывали на трудности, связанные с движением по дереву экспоненциально растущего множества альтернатив, открывающихся при решении задачи "большой размерности". Рассмотрим теперь эту проблему подробнее. В настоящее время в различных разделах кибернетики и математики формируются элементы того, что со временем может вылиться в общую теорию сложности. Пока такой теории не существует, но в рамках математической логики уже изучается сложность алгоритмов и вычислений, в теории информации - сложность кодирования и декодирований и т. д.; Г. Н. Поваровым предложена интересная "индуктивная шкала" сложности материальных систем (см., например, кн.: Управление, информация, интеллект, ч. II, гл.4) . Теоретическое изучение проблемы сложности особенно важно потому, что оно проливает свет на некоторые фундаментальные закономерности реального мира и познания - закономерности, носящие (как и вообще все 315 закономерности) характер своего рода запретов. По-видимому, именно сложностные ограничения обесценивают вычислимость "в принципе". В этой связи целесообразно отметить идеи Дж. фон Неймана. Еще в конце 40-х годов фон Нейман задумалса над соотношением сложности объектов и сложности их описаний; он выдвинул идею о существовании некоего "порога сложности", начиная с которого описание объекта становится сложнее самого объекта - идею, чреватую серьезными последствиями для сложившейся научной практики, при которой описания вводятся именно для того, чтобы упростить сложное, сделав его понятным для исследователя. Приведем аутентичный текст заключения фон Неймана: "Нет сомнения в том, что любую мыслимую фазу любой мыслимой формы поведения можно "полностью и однозначно" описать с помощью слов. Это описание может быть длинным, однако оно всегда возможно. Отрицать это означает примкнуть к разновидности логического мистицизма, от чего большинство из нас, несомненно, далеки. Имеется, однако, существенное ограничение, состоящее в том, что все сказанное применимо только к каждому элементу поведения, рассматриваемому в отдельности, но далеко не ясно, как все это применять ко всему комплексу поведения в целом..- Здесь нам придется иметь дело с такими разделами логики, в которых у нас практически нет предшествующего опыта- Степень сложности, с которой мы сталкиваемся в этом случае, далеко выходит за рамки всего того, что нам известно. Мы не имеем права считать, что логические обозначения и методы, применявшиеся ранее, могут быть использованы и в этой области. У нас нет полной уверенности в том, что в этой области реальный объект не может являться простейшим описанием самого себя, то есть что всякая попытка описать его с помощью обычного словесного или формально-логического метода не приведет к чему-то более сложному, запутанному и трудновыполнимому" (Дж. фон Нейман. Общая и логическая теория автоматов. В кн: А. Тьюринг. Может ли машина мыслить? М,, Физматгиз, 1960, с, 90-91). Исходя из этого, фон Нейман выдвинул гипотезу, согласно которой "сложностные" задачи со временем приведут к возникновению логики нового типа, которая будет менее комбинаторной и более аналитической ("непрерывностной") и сомкнётся с нейрофизиологией. Современное развитие теории "расплывчатости", так же как и работы, развивающие идеи И. М. Гельфанда и М. Л. Цетлина о "континуальных моделях управляющих систем" (о которых см, М. Л. Цетлин. Исследования по теории автоматов и моделирование биологических систем. М., "Наука", 1969), в частности, моделирование возбудимых сред, по-видимому, подтверждает "логическую" часть прогноза фон Неймана, Что же касается предположения о существовании "порога сложности", то этот вопрос до сих пор остается открытым. Но научная мысль продолжает поиск. Алгоритмическое определение понятия количества информации, предложенное А. К Колмогоровым, в значительной степени является результатом его размышлений над проблемой сложности. Колмогоровым же было проведено различение четырех категорий чисел -малых, средних, больших и очень больших, сравнение которых привело его к заключению, что начиная с больших чисел "переборные" задачи становятся недоступными для решения: "Проблемы, которые не могут быть решены без большого перебора, останутся за пределами возможностей машины на сколь угодно высокой ступени развития техники и культуры" (А. Н. Колмогоров. Автоматы и жизнь. В кн.: Кибернетика ожидаемая и кибернетика неожиданная. М., "Наука",1968, с. 24). Онтологическое допущение в свете нетранзитивности научного объяснения Полное опровержение эпистемологического допущения, утверждает Дрейфус, требует обоснования того факта, что мир принципиально не может быть проанализирован в терминах окончательно установленных, четко определенных данных, то есть разложен на некие неизменные "факты"- элементы информации. Допуще- 316 ние о возможности такого представления мира - оно названо в книге онтологическим допущением,-как убедительно показывает Х.Дрейфус, является наиболее шатким. Критика в данном случае попадает в цель, хотя Дрейфус не всегда пользуется надлежащим оружием и поражает далеко не все уязвимые пункты "онтологического допущения". Автор справедливо ставит под сомнение утверждение, будто "для того, чтобы стать разумным, человек тем или иным способом решил или должен был решить проблему большой базы данных. Вполне возможно,- говорит он- что сама эта проблема возникла как "артефакт", связанный с тем, что вычислительная машина вынуждена оперировать дискретными элементами”(с. 170). Человеческое знание невозможно разложить на какие-то окончательные простые категории. Эта критика, на наш взгляд, заслуживает более углубленного рассмотрении. "Атомистическая" доктрина знания уязвима в двух отношениях. Первое состоит в том, что трудно допустить наличие каких-то окончательных "атомов знания". Об этой неопозитивистской концепции логического атомизма мы поговорим в следующем разделе. Согласно второму, даже если предположить, что "атомы знания" существуют, возникает вопрос, какова их роль в познавательном процессе- Выделение таких "атомов" имело бы смысл только при условии, что в процессе научного объяснения всегда, в случае необходимости, возможно сведение знаний об изучаемых явлениях к этим "атомам". Тогда, разумеется, это объяснение в принципе можно было бы вложить в подходящим образом запрограммированный цифровой вычислитель. Однако многовековая практика научного объяснения опровергает такую возможность. Редукция понятий как сведение сложного к простому может быть принята только с серьезными ограничениями. Научное объяснение в общем случае не обладает свойством транзитивности: если положения теории А объясняются в терминах теории B, оперирующей более "элементарными" (и более "точными") данными (фактами, элементами знания и т. п.), а положения теории В могут быть уяснены в терминах еще более "дробной" теории С, то из этого не следует с необходимостью, что положения теории А объяснимы с помощью теории С Если бы отношение "х объясняет у" было транзитивным - позволяющим неограниченно переносить свойство объяснимости с теории на теорию,- то мы были бы в состоянии понимать любые процессы в терминах, скажем, физики фундаментальных частиц. Но, как известно, для большого класса наук, даже многих разделов той же физики, этого сделать нельзя. Нетранзитивность процессов научного "сведения - выведения" подрывает "онтологическое допущение". Логический атомизм и философское наследие Обратимся теперь к концепции, предполагающей наличие неизменных "атомов знания", выполне- мых будто бы с помощью логического анализа и могущих служить основой для машинных моделей разума. Идея о существовании подобных "атомов" еще совсем недавно имела немало сторонников среди философов неопозитивистского направлении. Как верно отмечает Х.Дрейфус, наиболее полное выражение она получила в "Логико-философском трактате" Л.Витгенштейна, основная идея которого сводится к мысли о том, что мир определяется в терминах множества атомарных фактов, которые могут быть выражены логически независимыми предложениями. Подобной концепции логического атомизма автор противопоставляет человеческое "чувство ситуации", позволяющее личности выбирать из потенциально бесконечного множества фактов "только те, которые релевантны - имеют непосредственное отношение к делу, а после того, как релевантные факты найдены, оценить их значимость"; ибо "не существует каких-либо фактов, релевантность и значимость которых инвариантны во всех ситуациях"" (с. 182) . Не "нейтральные" по отношению к человеческой деятельности факты и "атомарные предложения" определяют человеческое 317 поведение, а учет ситуаций и обращение к контексту, который и придает фактам их значимость (см. с. 179). Здесь мы подходим к самой сути аргументации автора. Исходя из исторической ограниченности "атомизма" как философского принципа, составляющего, по его мнению, гносеологическую основу "искусственного интеллекта", Дрейфус направляет все свои усилия на то, чтобы доказать, что "атомистический" подход вообще не пригоден дли адекватного моделирования интеллектуальной деятельности, так как человек отображает объекты прежде всего как некие целостности, не расщепляя их на независимые друг от друга части; такое расщепление - анализ целого-производится не до восприятия объекта, а после этого восприятия, когда человек вторично фиксирует на нем свое внимание. "Логический атомизм" Дрейфус рассматривает как органическое продолжение и логическое завершение рационалистической линии философской мысли, "философской традиции", как он ее называет,- традиции, восходящей еще к Платону. Взгляды, составляющие существо онтологического допущения "искусственного интеллекта", формировались, по его мнению, под влиянием концепций "эмпириков" (Д. Юм) и "идеалистов" (И.Кант); в системе взглядов Юма, пишет Дрейфус, информационным "битам" соответствуют атомарные впечатления, а в системе Канта - правила рассудочной деятельности. Эмпирики и идеалисты "подготовили почву для модельного представления мышления в виде процесса переработки информации - безличного процесса, в котором "процессор" не играет существенной роли" (с. 106). Очевидно, что трактовка "философской традиции", предлагаемая Дрейфусом, страдает явными натяжками. Многогранные взгляды Канта отнюдь не укладываются в прокрустово ложе, определяемое концепцией автора. Что касается кантовской интерпретации "обычной", или "общей", логики (согласно которой в этой науке исследование понятий, суждений и умозаключений производится при полном отвлечении от мыслимого содержания), а также этической теории Канта (по которой нравственное поведение состоит в безусловном подчинении этическому долгу-"правилу" категорического императива), то они в той или иной степени подпадают под общую оценку Дрейфуса. Однако когда Кант раскрывает связь между чувственным созерцанием и рассудком (оперирующим понятиями и суждениями), он отмечает значение такого фактора, как "продуктивная сила" воображения; человек как субъект познавательного процесса - "процессор", если прибегнуть к кибернетической терминологии,- учитывается в кантовском учении о разуме как способности к умозаключению, приводящей к возникновению идей, что скорее противоречит идее Дрейфуса, нежели укрепляет ее. В истолковании взглядов Д. Юма в книге также наблюдается неоправданное смещение акцентов. Юм, например, придавал большое значение изучению психики человека и в значительной мере с психологических позиций подходил не только к этике и эстетике, но и к истории и экономике. Если "философская традиция”, с которой полемизирует Дрейфус, есть традиция рационализма, то принять его позицию без существенных ограничений и уточнений просто невозможно. Пусть мир, в котором мы живем, нельзя безоговорочно провозгласить миром, в котором заранее гарантирована "ясность, определенность и управляемость", миром "структурированных данных, теории принятии решений и автоматизации". Однако наука и практика не могут не исходить из того, что мир доступен человеческому разуму. В этом смысле отвергать рациональное начало в мире и человеке значит становиться на позицию того самого "логического мистицизма", о котором говорит фон Нейман в приведенной нами цитате. Строя свою аргументацию, Дрейфус широко пользуется материалами гeштальтпсихологии и психолого-гносеологическими концепциями Э. Гуссерля, позднего Л. Витгенштейна, М. Мерло-Понти и М. Хайдеггера. 318 По-видимому, именно феноменолого-экзистенциалистские и иррационалистические установки этих философов, разрывающих "феноменологический" мир человеческой личности и реальность (к которой относится, в частности, нейрофизиологическая основа психики), "повинны" в том, что автор иногда заходит так далеко, что фактически начинает отвергать формализацию как метод изучения познавательных процессов. Логическая традиция Какова же на самом деле та философская традиция, на основе которой наука пришла к кибернетике, к моделированию познавательных процессов, к направлению "искусственного интеллекта"? Прежде всего это логическая традиция -традиция, исторически восходящая к Лейбницу. Справедливо обращая внимание на эту сторону дела, Дрейфус, к сожалению, не развивает достаточно подробно тему математико-логической подготовки кибернетики. В числе предшественников современных модельно-кибернетических исследований, помимо Лейбница и Буля (о которых говорится в книге), следует назвать также и выдающихся математических логиков конца прошлого века Э. Шредера и П. С. Порецкого (Шредер вполне определенно сформулировал идею "искусственного интеллекта"), и Г. Фреге, выдвинувшего программу логической формализации математики, и Д. Гильберта, положившего начало современным метаматематическим исследованиям, и К. Геделя, А. Тьюринга, Э. Поста, С. Клини, А, Тарского, А. Маркова, П. Новикова и др., заложивших основы теории алгоритмов и в серии знаменитых теорем раскрывших внутреннюю ограниченность формализации. Читая высказывания Дрейфуса о логике, следует иметь в виду, что логические отношения для него исчерпываются только булевой алгеброй. Между тем за последние полвека арсенал логики необычайно обогатился: спектр логических построений простирается теперь от неклассических логических систем типа интуиционистской и конструктивной логик, многозначных, бесконечнозначных и модальных логических систем до вероятностно-индуктивных теорий, логических исчислений повелительных предложений, теории вопросно-ответных процедур и логики расплывчатых понятий, о которой речь шла выше. Логика как наука вплотную сомкнулась с математической лингвистикой и семиотикой, и на этой основе возникла общая теория языков, исчислений и алгоритмов. Получили развитие прикладные логические разработки. Если учесть перспективы применения всех этих логико-семиотических средств в кибернетическом моделировании и "искусственном интеллекте", то тезис автора об онтологическом допущении как некой обязательной методологической базе работ по автоматизации интеллектуально-творческих процессов не выглядит убедительно. Третья возможность. Антиномия кибернетической формализации и ее решение Пусть читатель не распространяет нашу критику ряда положений автора на книгу в целом. Из произведенного Дрейфусом анализа трудностей кибернетики можно извлечь обширный полезный и интересный материал. Теперь настало время подробнее рассмотреть - в позитивном плане - его основную аргументацию. Автор подчеркивает, что своеобразие, важность - и вместе с тем проклятие - работ по разработке систем общения пользователей с машиной на естественном языке состоит в том, что "машине приходится использовать формальные методы для того, чтобы справляться с реальными жизненными ситуациями, как только они возникают" (с. 161), ситуациями, в которых "объекты имеют специфическое ситуативное значение" (с. 160). Современные машины, справедливо отмечает Х.Дрейфус, при нынешних методах программирования не могут "участвовать в ситуациях" наравне с людьми; на них можно моделировать лишь некоторые разновидности теоретического понимания, но то, что иногда называют 319 практическим интеллектом, не программируется. Машины "«экзистенциально тупы» в том смысле, что не в состоянии справляться с конкретными ситуациями" (с. 160). В качестве подтверждения приводится фактический материал, относящийся к использованию естественного языка. В процессе языковой коммуникации люди не связаны жестко лингвистическими правилами. Они могут их нарушать, видоизменять и тем не менее выражать именно то, что они хотят сказать, и при этом другие люди их понимают. Невозможность программирования этой способности Дрейфус объясняет трудностями формулирования правил допустимого нарушения правил. Ибо на этом пути мы неизбежно впадем в бесконечный процесс сведения одних правил к другим. Эту вполне реальную трудность, существенным образом тормозящую работы по машинному переводу, Дрейфус, вслед за Л. Витгенштейном (как автором "Философских исследований"), понимает как диалектический аргумент, опровергающий посредством сведения к абсурду возможность автоматизации сферы языкового общения. Диалектический момент усматривается при этом в антиномичности, которая может истолковываться как в терминах правил, так и контекстов. В применении к проблеме контекстуального понимания антиномичность состоит в следующем. Ставя задачу конструирования разумного поведения, мы сталкиваемся с противоречием. Если для каждого контекста, в котором фигурирует некоторый набор фактов, должен быть более широкий контекст, позволяющий выделять среди них существенные (тезис), то должен существовать какой-то первичный, не сводимый ни к чему другому контекст, не требующий дальнейших объяснений, так как иначе возникнет бесконечная редукция контекстов (антитезис). Для разрешения этой антиномии Дрейфус вслед за Кантом отказывается от предположения, что возможны только две альтернативы. Существует третья альтернатива, в которой и заключено решение дилеммы; она воплощена в человеке. Для человека "нет никакой иерархии контекстов - просто наличная ситуация воспринимается нами как продолжение или модификация предшествующей. Тем самым мы переносим из непосредственного прошлого совокупность предвидений, основанных на том, что было существенным и важным мгновение назад. Этот перенос создает определенную установку, определяющую то, на что нам следует обратить внимание" (с. 186). Представленная Дрейфусом антиномия действительно диалектична. По своему типу она, вообще говоря, имеет глубокие исторические корни, в чем нетрудно убедиться из приведенной автором "временной версии" исходной антиномии: "либо должен существовать самый первый контекст - контекст, который машина не в силах распознать из-за отсутствия предыдущего контекста, в терминах которого происходит выделение существенных характеристик данного контекста; либо возникает редукция контекстов во времени, уходящая в сколь угодно отдаленное прошлое, и тогда машина окажется не в состоянии начать процесс распознавания" (с. 188) . Нетрудно заметить, что перед нами вариация на тему апорий Зенона, в частности апории "Дихотомия", с помощью которой, как полагают историки античной философии, Зенон старался доказать, что движение не может начаться. В чем же состоит решение подобных антиномий? Причем решение не на логико-теоретическом уровне, а решение реальное, ибо подобные антино-мии - не пустые, ничего не отражающие абстракции: они присущи самой действительности. Решение это - в самом движении, самом развитии* В таком, например, движении человеческой деятельности, апелляция к которой понадобилась Дрейфусу для раскрытия антиномичности кибернетического моделирования. Это движение есть обучение, развитие знания, практика. В применении к кибернетике вопрос ставится примерно так: возможна ли организация аналогичных процессов для вычислительных 320 машин и их программ? В свое время этим вопросом занимались еще фон Нейман и Тьюринг. Нейман в связи с этим разработал теорию самовоспроизводящихся автоматов и в ее рамках обсуждал вопрос о возможности возрастания сложности автоматов в процессе их самовоспроизведения. Эту модель он рассматривал в качестве некоего весьма упрощенного аналога - но все же аналога! - органической эволюции, которая, как известно, "использует" и накопление опыта, и "решение проблем", и обучение, и развитие. И хотя Дрейфус лишь вскользь упоминает о Тьюринговой идее программирования "машины-ребенка", в ходе дальнейших рассуждений он все же признает, что если со временем удастся запрограммировать изначальные человеческие рефлексы и обеспечить машине возможность обучения, "то, быть может, окажется возможным решить проблему распознавания контекстов" (с. 187). Личность - объект или субъект? Активность деятеля-человека Критически интерпретируемым "допущениям искусственного интеллекта" в книге противопоставляется альтернативная концепция. Эта часть изложения Дрейфуса в значительной мере представляет самостоятельный интерес. Главная идея Дрейфуса заключается в том, что специфика познавательной деятельности человека, его способов поведения - всего того, что является камнем преткновения для создателей современных ЭЦВМ и их математического обеспечения, - вытекает из того, что человек находится в собственном "человеческом мире" (мире, для обозначения которого можно было бы употребить термин "ноосфера", то есть сфера разума), не совпадающем с тем "физическим миром", информация о котором только и может обрабатываться на современных цифровых машинах. Согласно противоположной точке зрении, называемой в книге "машинной парадигмой", цифровая машина есть воплощение логического мышления, и ей "не хватает только некоторой совершенной программы, чтобы сравняться с человеком в его отличительном свойстве - рациональности, разумности" {с. 195). В основе данной парадигмы, по Дрейфусу, лежат следующие предпосылки: объяснение человеческого поведения может (и должно) быть дано в естественнонаучных терминах; ситуации, с которыми сталкиваются люди, можно трактовать подобно физическим состояниям; "мир человека" допустимо интерпретировать так же, как изучаемую естествознанием вселенную. Критикуя такой взгляд, Дрейфус подчеркивает, что он в конечном счете ведет к противопоставлению разумного и биологического начал в человеке и к "попыткам моделирования способности к рассуждению, исходя из нее самой" (с. 197). Подобное толкование человека как устройства или объекта, реагирующего на воздействия со стороны других объектов согласно определенным правилам, по мнению автора, есть понимание человека как "созерцателя", пассивно воспринимающего сведения, поступающие из окружающего мира и затем упорядочивающего их. Это сильный аргумент Дрейфуса, и с ним нельзя не согласиться. Однако Дрейфус заблуждается, полагая, что "пионерами" критики человека как пассивного "устройства" выступили М. Хайдеггер и "поздний" Витгенштейн. Понимание человека как некоего "объекта" было органически чуждо уже диалектике Гегеля. Карл Маркс, формируя диалектико-материалистическую систему взглядов на природу, общество и личность, со всей решительностью подчеркивал активность субъекта. Но в отличие от современных феноменологов и экзистенциалистов, на которых ссылается Дрейфус, он выводил ее из социальной практики как основы человеческого бытия. В Марксовых "Тезисах о Фейербахе" предшествующий материализм подвергается критике именно за то, что "предмет, действительность, чувственность" берется им "только в форме объекта, или в форме созерцания, а не как человеческая чувственная деятельность, практика, не субъективно" (К. Маркс и Ф. Энгельс. Соч., т. 3, с. 1) . Аналогичные идеи высказывал и В. И. Ленин. В "Философских тетрадях" мы 321 читаем: "Сознание человека не только отражает объективный мир, но и творит его" (В. И. Ленин. Полн. собр. соч., т. 29, с. 194). Мотив творческой активности деятеля-человека в научной методологии прочно вплетен в ткань диалектико-материалистической теории отражения. Биологическое психическое Путь, который предлагает Дрефус в рамках развиваемого им "альтернативного подхода", состоит в поисках "совершенно иного" ответа на вопрос, "каким образом осуществляется разумное поведение", нежели решение в духе "машинной парадигмы". Смысл этого пути - в попытке найти "фундаментальные отличительные черты человеческой деятельности" (с. 197). Последние сводятся к трем факторам, которые, по мнению автора, не могут быть учтены в современных работах по "искусственному интеллекту". Это - роль биологического начала в человеке или, как говорит Дрейфус, роль "тела" в "организации и унификации" человеческого опыта; роль ситуаций, в которых непрерывно находится человек, как основы такого упорядочения поведения, которое не использует какие-либо жесткие правила; и, наконец, роль человеческих целей и потребностей как основы выделения человеком того, что для него значимо и должно быть учтено а его действиях. Телесному фактору придается в книге особенно большое значение. Дрейфус говорит, что "наше отличие от машины, вне зависимости от сложности ее конструкции связано отнюдь не с обособленной, универсальной, нематериальной душой, а со сложно организованным материальным телом, находящимся в самодвижении" (с. 200). Именно тело человека является источником навыков, которые используются в различных ситуациях и формируют "феноменальный" мир человеческой психики. Благодаря своей "телесности" в человеческом поведении решается антиномия редукции контекстов и правил, являющаяся камнем преткновения для современных машин, то есть реализуется "третья возможность". "Телесность" обусловливает именно те функции, которые нельзя вложить в машинные программы - и создаваемые ныне, и только проектируемые. В числе этих функций - процессы, называемые в книге "периферийным сознанием", "допустимостью неоднозначности", "способностью различения существенного и несущественного" и "осмысленной классификацией данных". Дрейфус считает, что именно наличие тела объясняет способность человека к частично неопределенному, не поддающемуся четкому выражению предвосхищению (антиципации) событий. Это предвосхищение носит "глобальный" характер в том смысле, что, находясь в зависимости от учитываемых деталей наличной ситуации, оно в то же время определяет их значение; при этом предвосхищение, антиципация динамична - она может перемещаться от одной чувственной модальности или действующего органа к другой модальности или органу. Все это в своей совокупности образует общую способность человека к приобретению "телесных умений и навыков. Благодаря этой фундаментальной способности наделенный телом субъект может существовать в окружающем его мире, не пытаясь решить невыполнимую задачу формализации всего и вся" (с. 220). В "телесности" человека автор видит причину того, почему "информационные процессы" познания, в которых "значение целого обладает приоритетом по отношению к составляющим целое элементам" (с. 221), так отличаются от машинных методов. Эти рассуждения Дрейфуса, если отвлечься от определенного налета "биологизма", заслуживают внимания. В связи с ними, однако, уместно сделать два замечания. Первое касается отечественных психологии и философии, а именно того, что в них в должной мере учитываются и биологический аспект поведения человека (начиная с биомеханики движений, в разработку которой большой вклад внес Н. А. Бернштейн), и феномен целостности восприятия, и определенное "приоритетное" значение этой целостности по отношению к последующей аналитической деятель- 322 ности сознания (см. работы С. Л. Рубинштейна), и человеческая предвосхищающая деятельность (в психологической школе Д. Н. Узнадзе основанная на понятии установки, а в нейропсихологической школе П. К. Анохина - на понятии акцептора действия). Как результат упомянутых психологических исследований напрашивается вывод, что восприятие и узнавание объектов, данных человеку в пространстве и времени, мало похоже на поиск по дереву четко различимых "нейтральных" характеристик. Второе замечание заключается в том, что "телесная организация", значение которой для интеллектуально-познавательной и практической деятельности человека столь решительно подчеркивается в книге, в свою очередь может быть предметом автоматной имитации. В аргументации Дрейфуса недостаточно учитывается различие между цифровыми машинами, предназначенными исключительно для переработки информации, и роботами, в зачатке обладающими "телом". Мы имеем в виду так называемые интегральные роботы, в которые встраиваются датчики, получающие данные из внешней среды (эти датчики являются в определенном смысле аналогами органов чувств животных и человека), и которые снабжаются манипуляторами и устройствами, позволяющими роботу перемещаться в трехмерном пространстве (то есть реализовать некое подобие моторики живых организмов). Проектирование подобных роботов имеет целью сделать их способными к самостоятельной деятельности определенного (неизбежно ограниченного) рода в сложном и изменяющемся окружении. О далеко идущих планах в области роботостроения свидетельствуют разнообразные проекты издания роботов-исследователей для действий в космосе и океане. Вернемся, однако, к анализу рассуждений Дрейфуса. В его книге высказаны интересные соображения относительно соотношения рационально-логических и интуитивно-наглядных, концептуально-сознательных и "глубинных" форм активности человеческой психики. Автор верно обращает внимание читателя на то, что кибернетическое моделирование наиболее успешно тогда, когда речь идет о передаче машине логических отношений и процедур. Однако эти "высшие", четко определенные логические формы интеллекта базируются на очень сложных и более общих "низших" формах (и даже, замечает автор, управляются этим последним) . В значительной мере это есть та часть психики, которая роднит человека с животным миром ("распознавание образов") - но не только, так как к наиболее сложным пластам психики Дрейфус относит и использование естественного языка с его гибкими значениями. Именно эта "низшая", "глубинная" часть механизма познания труднее всего поддается моделированию, а по мнению автора, даже не поддается вообще. Не все специалисты в области кибернетического моделирования, так же как математики и логики, занимающиеся вопросами "искусственного интеллекта" или задумывающиеся над его проблемами, по-видимому, в должной мере учитывают сторону дела, на которой столь решительно настаивает Дрейфус Однако те математики и кибернетики, которые принимают во внимание психолого-гносеологические и социальные аспекты, видят ее достаточно ясно. Вот что, например, писая А, Н. Колмогоров в статье "Жизнь и мышление как особые формы существования материи": "В развитом сознании современного человека аппарат формального мышления не занимает центрального положения. Это скорее некоторое "вспомогательное вычислительное устройство", запускаемое в ход по мере надобности... кибернетический анализ работы развитого человеческого сознания в его взаимодействии с подсознательной сферой еше не начат" (сб. "О сущности жизни", ЬЛЛ, "Наука", 1964, с. 54), Эти слова, сказанные советским ученым еще в начале 60-х годов, справедливы и для современной ситуации в "искусственном интеллекте". 323 Впрочем, из сказанного выше не следует делать вывод о несущественности логического мышления в познавательном процессе. Дрейфус - и об этом мы еще будем говорить - чрезмерно противопоставляет мир, субъективно данный личности, объективному физическому миру, в котором действует человек, и это приводит к известной недооценке классической науки о природе, в сооружении здания которой формально-логическое "вспомогательное логическое устройство", которым располагает каждый человек, играет необходимую и важную роль. Если дискретный подход и требования точности не всегда дают эффект, то во многих случаях это как раз самые сильные средства. Потребности и цели. Что значит "быть в человеческом мире"? Одно из главных препятствий на пути кибернетического моделирования человеческого поведения автор усматривает в невозможности наделить ЭЦВМ человеческими мотивами и целями. Объясняя природу этой трудности, Дрейфус правильно указывает на то, что в основе человеческого целеполагания лежат потребности. Особый акцент при этом делается на потребностях биологического ("телесного") характера, включая двигательную активность организма. Будучи определена текущими нуждами человека, система его целей, мотивов его поведения, функционирования его организма динамична, изменчива; этим она коренным образом отличается от системы правил, управляющих работой машины: как бы ни были организованы эти правила (например, иерархически подразделены на правила переработки информации, метаправила -правила применения правил или изменения их и т. п.), на современном уровне развития ЭЦВМ и их математического обеспечения они предполагают предварительное формальное описание - пусть обобщенное и доступное изменению в ходе машинного обучения - класса ситуаций, с которыми машина может справляться. Эта "нечеловеческая жесткость" проистекает из того - и здесь Дрейфус совершенно прав, - что машину невозможно запрограммировать таким образом, чтобы у нее появились собственные цели того же типа, что и те, которые определяют поведение человека. Правда, современные программы "искусственного интеллекта" позволяют машине в ходе решения задач формировать "цели" и "подцели", зависящие от "истории" соответствующего информационного процесса и результатов общения машины с внешней средой. Однако нынешние машинные аналоги человеческого целеполагания все же чрезвычайно далеки от своего прототипа, и, создавая все более мощные системы "искусственного интеллекта", мы не знаем, по какому пути и в какой мере можно к нему приближаться. Конкретные потребности человека - Дрейфус фактически неоправданно ограничивает их "телесной организацией"- прямо или косвенно формируют текущие задачи человеческой деятельности, благодаря которым происходит разграничение существенного и несущественного. От направленности реальных интересов, накопленных знаний и навыков действий зависит, что в данной ситуации будет оставлено без внимания, что сохранится в качестве "потенциально релевантного" на более "отдаленных" участках внутреннего мира человека, а что будет немедленно учтено в его поведении. Человек не машина. Все, с чем он сталкивается в своей деятельности, будь то конкретные объекты или отвлеченные идеи, так или иначе связано с его устремлениями. "Вне конкретной заинтересованности, без наличия конкретного предмета исследования - всего того, что позволяет производить выбор и интерпретацию" (с. 186), невозможно осмысление реальности и деятельность в ней. Это умение ориентироваться в мире - "быть в нем своим", как образно говорится в книге, - присуще человеку не только как "машине" из мускулов и нервов, но и как существу, применяющему орудия труда и исследования. Ссылаясь на выводы М.Лоляного, автор отмечает, что, когда человек овладевает орудиями труда или языком, он 324 превращает соответствующие орудийные или языковые средства как бы в продолжение самого себя, "интериоризирует" их, вживается в них. Итак, "человеческий мир" всегда структурирован в терминах намерений и направленности интересов, и это порождает, говорит Дрейфус, особого рода регулярность человеческого поведения - контекстуальную регулярность, смысл которой состоит в том, что человеческое поведение никогда не подчиняется полностью каким-либо правилам, но всегда упорядочено - в той мере, в какой это необходимо при данных условиях. В книге убедительно показано, что "человеческий мир" не может быть разложен на "независимые элементы"; для человека, его психики, считает Дрейфус, не возникает и вопроса о "хранении и классификации огромных списков бессмысленных, изолированных данных" (с. 229), так как ситуации, в которых оказывается человек, всегда организованы в терминах человеческих потребностей и склонностей, благодаря чему факты приобретают соответствующее значение. Как мы видим, позиция автора отражает реальную диалектику человеческой деятельности, - деятельности, для которой характерна гибкость, недоопределенность задач, сложное и во многом противоречивое взаимодействие потребностей и целей, выражающееся, в частности, в том, что нередко цель осознается лишь после ее достижения, так как вызвавшая ее потребность может не осознаваться или осознаваться весьма смутно. "При попытке найти окончательные бесконтекстные и бесцелевые элементы, которые нам нужны, чтобы найти не разложимые далее кванты информации, вводимые в машину,- пишет автор,- ...мы фактически стараемся очистить факты нашего жизненного опыта именно от той прагматической организации, благодаря которой только и возможно их гибкое использование, приводящее к решению повседневных задач" (с. 231). Способность человека, по выражению Дрейфуса, "быть своим в человеческом мире" - вещь вполне реальная. Реальная потому, что она может быть утрачена. Так, при поражении некоторых участков мозга человек теряет (полностью или частично) способность "глобального" восприятия, оставаясь при этом личностью. В таком случае для ориентации в мире он действует подобно машине: например, для того чтобы отличить треугольник от четырехугольника, подсчитывает число сторон этих фигур. Здоровый человек также может приблизиться к видению мира сквозь "машинные очки", если по каким-то причинам он рассматривает вещи вне их обычных связей. В семиотике искусства использование подобного литературного приема называется остранением. "Мир" современной ЭЦВМ - даже эвристически запрограммированной - есть мир отдельных деталей, атомизированность которого стремятся преодолеть за счет эффективных методов поиска решений, организации памяти, фреймов, формализованных обобщенных описаний и т. п. Но в этом "мире" - включая "мир" машин обозримого будущего, - как правильно говорит Дрейфус, нет места "для хорошо знакомого нам мира орудий, организованного в терминах наших намерений" (с. 235) . Практика. Человек как "совокупность всех общестеенных отношений" Читатель, несомненно, заметил наблюдающийся в книге известный "перекос" в сторону преувеличения биолого-антропологических аспектов в истолковании человека и его интеллекта. К сожалению, общественная природа личности как носителя разума - важнейшая, "сущностная" черта человека, в то же время являющаяся наибольшим, насколько можно судить, препятствием на пути кибернетического моделирования интеллекта, остается в книге нераскрытой. Правда, в связи с вопросом о распознавании социальных связей автор отмечает значение социального общения, считая 325 мир человеческой жизни "более широкой ситуацией"; в которую погружена человеческая деятельность (см. с. 185), говорит о том, что человеческая способность "находиться в ситуации" зависит "не столько от гибкости нашей нервной системы, сколько от нашей способности к практической деятельности" (с. 200), и указывает, что "не существует жестко фиксированной природы человека" (с. 250). Однако понимание автором практики весьма далеко отстоит от диалектико-материалистической концепции практической деятельности и, как косвенно "признает автор, близко к концепции прагматизма. Осмысляя проблему возможностей кибернетического моделирования познавательных процессов и создания систем "искусственного интеллекта", мы должны брать практику в ее полном объеме: и как основу формирования самого человека, и как главный импульс познавательного процесса, и как критерий истинности результатов отражения действительности в психике, сознании человека. Именно с этих позиций и следует рассматривать категории, которыми оперирует автор, и собранный им богатый и интересный фактический материал. Процесс удовлетворения потребности как источника активности личности неотделим от целенаправленной деятельности. Эта деятельность развертывается в истории, в исторической практике. Как писали К, Маркс и Ф. Энгельс, "сама удовлетворенная первая потребность, действие удовлетворения и уже приобретенное орудие удовлетворения ведут к новым потребностям, и это порождение новых потребностей является первым историческим актом" (К, Маркс и Ф.Энгельс. Соч., т, 3, с. 27}. В советской философии, психологии и социологии историческая обусловленность потребностей раскрыта достаточно полно. Не ограничиваясь той "телесной" сферой, к которой их "привязывает" Дрейфус, отечественные философы и психологи подчеркивают огромное значение социально обусловленных интеллектуальных потребностей и раскрывают связь высших форм человеческих потребностей как регуляторов поведения личности с процессами творчества (см.- например: А. Г. Спиркин. Сознание и самосознание. М., Политиздат, 1972) . Понятие цели как феномена, с одной стороны, объективно обусловленного, а с другой - носящего субъективный (принадлежащий субъекту) характер, должно быть, таким образом, введено в контекст социальной практики. Маркс отмечал, что человек "не только изменяет форму того, что дано природой; в том, что дано природой, он осуществляет вместе с тем и свою сознательную цель, которая как закон определяет способ и характер его действий и которой он должен подчинять свою волю" (К.Маркс и Ф. Энгельс. Соч., т, 23, с. 189). Раскрывая взаимоотношение субъекта и объекта в процессе производства, Маркс писал, что если производство, с одной стороны, "является присвоением объектов субъектами, то, с другой - оно в такой же мере есть формирование объектов, подчинение объектов субъективной цели, превращение объектов в результаты и воплощения субъективной деятельности" (К. Маркс и Ф. Энгельс, Соч., т. 46, ч.1, с. 478). Человеческие цели формируются в человеческом сознании, которое "с самого начала есть общественный продукт и остается им, пока вообще существуют люди" (К. Маркс и Ф. Энгельс. Соч., т. 3, с. 29). Характер целей, степень их гибкости или жесткости, их динамика складываются в человеческой практической деятельности. Диалектически противоречивый характер последней приводит к тому, что и цели человека сложны и многоплановы, зачастую противоречивы. В этом - одно из качественных различий между поведением человека и работой машины; последняя в определенном смысле даже более "целеустремлена", чем человек: ее работа направлена на получение результата, который при всех ухищрениях машинных адаптации и обучения носит несравненно более жесткий характер, чем активность наделенного сознанием человека, порождающая все новые цели. 326 |
|
Как писали К. Маркс и Ф. Энгельс, "сущность человека не есть абстракт, присущий отдельному индивиду- В своей действительности она есть совокупность всех общественных отношений" (там же, с. 3) . Запомним эти слова. Мы вернемся к ним, когда будем завершать наше обсуждение возможностей "искусственного интеллекта". Феноменологическая метафизика или диалектико-материалистический монизм? Одним из изъянов книги Дрейфуса является тенденция к истолкованию человеческого интеллекта как чего-то, так сказать, неумопостигаемого. Много рассуждая о "телесных функциях" человека, Дрейфус не ставит, однако, вопроса, как же именно эти функции формируют те способности человека, к которым ему приходится апеллировать для обоснования своего тезиса о принципиальной непрограммируемости человеческого поведения и психики. Понимая, что для предлагаемого им "расчета с традицией" недостаточно материала гештальтпсихологии (который широко представлен в книге), Дрейфус для обоснования своего подхода становится на позицию "феноменологического"- в понятиях субъективного мира человека- описания выделяемого им типа разумного поведения. Так, он соглашается с точкой зрения М. Мерло-Понти о том, что человеческие действия происходят исключительно "в сфере феноменального", не переходя в предметный мир (см. с. 217-218). Концепция Дрейфуса - Мерло-Понти о роли человеческого тела в формировании интеллектуального поведения не лишена агностической окраски. Философски несостоятельными представляются категорические настояния автора на необходимости разграничения объективных фактов и человеческих ситуаций; на том, что "осмысленные объекты, включенные в контексты связей, в гуще которых мы живем, не образуют ту модель мира, которая хранится в нашей памяти или в нашем мозгу, а являются самим этим миром (с. 234); на том, что человек - "источник фактов" и что в процессе своей жизни в мире он создает "и самого себя, и сам мир фактов" (с, 264). Агностический мотив присутствует и в мысли автора о том, что "нет никаких оснований надеяться, что переработка информации на нейрофизиологическом уровне может быть описана в терминах цифрового формализма или какого бы то ни было формализма вообще" (с. 111); курсив мой. - SM ) . Дрейфус солидаризуется с двусмысленными рассуждениями У. Ниссера о мире, "к которому мы не имеем прямого доступа"; противопоставляя этому миру - миру физических процессов-"мир машин и книг", с которым "мы... имеем дело в непосредственном опыте" (с. 237), и отвергая "промежуточный мир", изучаемый психологами, он призывает "оставить физический мир на усмотрение физиков и нейрофизиологов и вернуться (?) к описанию нашего человеческого мира, который мы непосредственно воспринимаем" (с. 240). Допуская, что "наш физический организм постоянно бомбардируется физической энергией, результатом чего и является наше восприятие мира через опыт" (с. 237), но отказывая науке в изучении того, как же возникает этот результат, автор впадает в своего рода феноменологическую метафизику. Описанные установки Дрейфуса резко контрастируют с позицией диалектико-материалистического монизма, рассматривающего идеальное как порождение и отражение материального и считающего актуальной задачей науки - далеко еще не решенной - раскрытие физиологических основ психики и социальной обусловленности человеческого поведения и личностных феноменов. В рамках предлагаемого Дрейфусом подхода трудно понять, как вообще возможно объективное знание о чем-то - объективная истина, не зависящая ни от человека, ни от человечества. Феноменологическая метафизика Дрейфуса закрывает доступ к диалектике субъективного и объективного в человеческом познании! 327 Вопрос, на который сейчас мы не можем дать ответ Обратимся теперь к главному вопросу, составляющему предмет книги,- к вопросу о том, возможен, а если возможен, то как и в какой мере, "искусственный разум". Один аспект выводов автора по данному вопросу несомненно позитивен, и его следует учитывать как кибернетикам, так и психологам; однако другой аспект, по нашему мнению, можно и нужно оспаривать. По-видимому, следует согласиться с Дрейфусом, когда он утверждает, что как существующие ныне, так и только разрабатываемые машинные методы хранения и поиска информации никогда не достигнут такого уровня, что автомат окажется в состоянии "справиться с тем объемом данных, который возникает при попытке выразить в точной форме наше знание мира" (с. 253) ; ибо масса этих данных может оказаться необозримо большой, и "формализация нашей жизни" будет невозможной. Главную трудность Дрейфус при этом усматривает в неразрешимости задачи точного выражения человеческих потребностей. Ибо диалектика потребностей такова, что ни у индивида, ни у человечества в целом потребности "никогда не становятся полностью определенными, они сохраняют способность к уточнению, а природа человека получает возможность повторных изменений в ходе революций личностей и культур" (там же). Именно поэтому поведение человека - и не только его "тело", как считает Дрейфус, но прежде всего его социальную активность - нельзя воспроизвести на цифровой машине, даже если ее снабдить системой органов-манипуляторов. Сошлемся в этой связи на мнение А. Н. Колмогорова: "возможно, что автомат, способный писать стихи на уровне больших поэтов, нельзя построить проще, чем промоделировав все развитие культурной жизни того общества, в котором поэты реально развиваются" (А. Н. Колмогоров. Жизнь и мышление как особые формы существования материи. - В кн.: О сущности жизни, с. 57) . Хотя сам Колмогоров называет эти слова "шутливой формой" интерпретации основной проблемы кибернетического моделирования, в них заключен глубокий смысл: человека нельзя полностью "заменить" машиной потому, что он есть "совокупность всех общественных отношений". Теперь о другом, гораздо менее убедительном аспекте воззрений автора, Дрейфус считает "в высшей степени маловероятным" появление в будущем значительных результатов в сферах моделирования процессов познания и "искусственного интеллекта" (см. с. 257). Работы в области "искусственного интеллекта", по его мнению, имеют практическую ценность лишь в "ограниченном круге вопросов"; что же касается моделирования познавательных процессов, то автор сомневается вообще в их необходимости (см. с.230), В стремлении "приблизиться к разумному поведению", по его мнению, предел возможностей кибернетики уже почти достигнут. Предвидя неизбежные возражения, автор прибегает к целой системе ограничений поговорок. Он говорит лишь о "сегодняшних возможностях" электронной цифровой вычислительной техники (см. с. 263), не обсуждая перспектив, которые могут открыться благодаря изобретению приборов, основанных на иной технологии, нежели нынешняя, и использующих иные, более гибкие принципы функционирования. Он не касается вопроса о создании эволюционных машинных программ, имитирующих определенные стороны развития человека; он ничего не говорит о работах по машинному моделированию органической эволюции. И, наконец, он просто-напросто упрощает проблему, придавая ей форму дилеммы "или - или": фактически он сводит все к вопросу, можно ли заложить в машину "полностью сформировавшийся интеллект" (см. там же). Когда Дрейфус требует от кибернетиков гарантий успеха исследований по формализации различных форм "разумного" поведении, ему, по-видимому, не приходит в голову такая простая мысль, что любому исследова- 328 телю уверенность в правильности избранного им пути просто необходима. Развитие работ в критикуемой автором области есть не что иное, как диалектическое движение вперед,- движение, в котором одна конкретная задача сменяется другой, разрабатываются новые и новые программы и т. п.; движение, которое на практике решает вопрос, чего можно, а чего нельзя достичь на избранном пути; движение, которое с необходимостью создает новые теоретические и технические средства. Никто не оспаривает тот факт, что современные цифровые ЭВМ не могут претендовать на "разум" в любом, пусть даже очень ограниченном смысле этого слова. Вопрос стоит иначе. Решается конкретно-научная и философская проблема возможностей кибернетического моделирования различных проявлений разумного поведения, то есть вопрос о том, насколько далеко можно идти по пути автоматной имитации функций и структур живого и разумного. В настоящее время ответ на этот вопрос нам неизвестен. С определенностью можно сказать только одно: Дрейфус заблуждается, полагая, что сегодня кибернетика достигла предела своих возможностей. Скорее наоборот,- мы стоим только в начале ее развития. По-видимому, между современными эвристическими автоматами и собственно человеческой сферой, недоступной для машинного воспроизведения (а фактический материал книги говорит в пользу существования таковой), лежит обширная "нейтральная полоса". Проводя поиск на этой не освоенной наукой территории, нам приходится решать задачу выяснения соотношения алгоритмической, эвристической и сознательно-человеческой сфер поведения. Сферы разумности и машинное моделирование Книга Дрейфуса предоставляет нам для этого определенный материал. В заключение своего труда, размышляя о будущем "искусственного интеллекта", автор предлагает рубрикацию различных форм разумного поведения с точки зрения степени их формализуемости. Из четырех выделенных им типов поведения четвертый - неформальное поведение, зависящее от смысла и ситуации, позволяющее решать задачи с "открытой структурой" и понимать язык в контексте реального общения,- по его мнению, не программируем. Данная автором классификация -одна из возможных. Рубрикацию несколько иного рода читатель может найти, например, в книге "Управление, информация, интеллект". Здесь различаются формализованные, полуформализованные и неформализованные (неформализуемые) процессы, причем два последних рассматриваются в качестве поля деятельности, в котором ведущая роль отводится человеку, а область творческих процессов считается составляющей правильную часть этого поля и включает в себя как неформализованные или неформализуемые, так и полуформализованные процессы (см. с. 314 упомянутой книги). Классификацию форм поведения (решения задач) предприняли также Г. С. Поспелов и Д. А. Поспелов. Предметом их анализа являются вопросы, связанные с передачей машине задач, которые в том или ином смысле можно считать творческими. Основанием предлагаемой классификации являются свойства языка, на котором формулируются соответствующие задачи. Классу задач, для которого имеется "языковое согласование" описаний исходных и искомых (заключительных) ситуации (к нему относятся задачи вычислительной математики, не имеющие отношения к проблематике "искусственного интеллекта", а также обычные лабиринтные и эвристические задачи) противопоставляется класс задач, для которых такое согласование отсутствует. Задачи последнего класса требуют трансформации целей и отображения их условий, а также используемых при решении средств (правил) в специально разрабатываемые модельные структуры. Это и есть задачи "искусственного интеллекта" в собственном смысле. Разработка методов их решения предполагает создание соответствующих семантических систем (языков), в частности языков, позволяющих производить трансформацию 329 правил переработки информации и вводить расплывчатые условия (см.: Г. С. Поспелов, Д. А. Поспелов. Исследовании по искусственному интеллекту в СССР. - В кн.: Кибернетику - на службу коммунизма, т. 9, М., "Энергия", 1978). Формализация творческих задач возможна лишь в той мере, в какой для них удается построить соответствующую эффективную модельную структуру. В качестве примера, свидетельствующего о наблюдающемся продвижении в моделировании интеллектуальных задач, сошлемся на новейшие результаты в области эвристической алгоритмизации шахматной игры. Автору этих строк сообщил о них экс-чемпион мира по шахматам М. М. Ботвинник, в течение ряда лет с коллективом сотрудников работающий над созданием шахматной программы, отражающей методы игры шахматистов высокого класса. В августе 1977 г. разработанная под руководством Ботвинника программа "Пионер", в основу которой положен выдвинутый экс-чемпионом мира метод горизонта (см.: М. М. Ботвинник. Алгоритм игры а шахматы. M, "Hayкa", 1968; его же: О кибернетической цели игры, М., "Советское радио", 1975), решила известный этюд шахматного композитора Г. Надареишвили. Расчет вариантов при решении этой трудной задачи машиной напоминал поведение человека-шахматиста: дерево перебора содержало всего лишь 200 ходов, причем глубина расчетов не была ограничена заранее. Как отметил М. М. Ботвинник, решение данного этюда на машине с быстродействием порядка 12 млн. операций в секунду потребовало бы примерно 8 мин. машинного времени. Далеко не каждый шахматист самой высокой квалификации уложился бы в это время (см.: М, М. Ботвинник. "Пионер" готовится к чемпионату, "Правда" от 24 ноября 1977 г). В 1975 г. М. М. Ботвинник писал: "Если шахматная программа, выполненная на основе предлагаемого алгоритма, будет достаточно сильно играть в шахматы, например, как мастер, это будет важным шагом на пути создания искусственного интеллекта" ("О кибернетической цели игры", с. 67). В настоящее время экс-чемпион мира считает, что к 1980 г. машинная программа, играющая в силу шахматного мастера, будет создана. Человеко-машинные системы. Возможен ли алгоритм "наращивания понимания"? Итак, прогресс в области "искусственного интеллекта" вполне реален. Даже в случае, если соответствующие теоретические результаты оказываются скромными, исследования окупаются за счет развития методов формализованного представления знаний, языков программирования, эвристических алгоритмов решения сложных задач и т. п. Это придает работам в области "искусственного интеллекта" прикладную ориентацию. Они оказывают возрастающее влияние на развитие вычислительной техники и ее математического обеспечения. При этом, как отмечают специалисты, наблюдается любопытное явление. До тех пор пока некоторая задача не поддается автоматизации, она считается "творческой" и относящейся поэтому к направлению "искусственного интеллекта"; когда же для нее оказывается возможным написание реально работающей программы (как в игре в шашки), она переходит в разряд "нетворческих" и исключается из сферы моделирований процессов познания и "искусственного интеллекта". Среди специалистов нет единого мнения относительно "удельной значимости" различных направлений модельно-психолого-кибернетических исследований. Имеется, однако, такая область "искусственного интеллекта", важное значение которой признается всеми, включая и автора данной книги. Это - разработка человеко-машинных систем. В настоящее время исследования в этой области развертываются в двух основных направлениях. Одним из них является разработка систем диалога между человеком и ЭВМ на естественном языке. Природа связанных с этим трудностей подробно проанализирована в книге Дрейфуса в рамках задачи моделирования на ЭВМ процессов человеческого понимания. Не вдаваясь в подроб- 330 ности, отметим, что если не полное решение этой задачи (последнее вряд ли возможно в силу тех особенностей человека как биологического и социального существа, о которых говорилось выше), то решение, достаточное для организации "разговора на определенную тему", мыслится современными исследователями на пути создания специального языка семантических представлений - промежуточного между естественным языком и языком машины (см. упоминавшуюся выше статью Г. С. Поспелова и Д. А. Поспелова). Одной из разработок, идущих в данном направлении, является создание отечественными специалистами "Диалоговой информационно-логической системы" (ДИЛОС); работа последней в режиме диалога обеспечивается соответствующими логико-информационными процедурами, основанными на особом формализованном языке выражения знаний, включающем иерархию семантических образований, соответствующих свойствам и отношениям объектов некоторой предметной области (см. В. М. Брябрин, Г. В. Сенин. Руководство к системе ДИЛОС - БЭСМ-6. М., изд. ВЦ АН СССР, 1977). Другой исследовательской линией является разработка методов совместного человеко-машинного решения задач. Именно это направление автор данной книги расценивает как реальную перспективу кибернетических исследований. Дрейфус указывает на целесообразность "разделения труда" между человеком и ЭВМ: машина берет на себя "цифровые" аспекты человеческих "информационных процессов", человек же со своим умением отделять существенное от несущественного заставляет машину сосредоточиться на заслуживающей просчитывания области. Например, при решении сложных задач, "после того как найдена структура задачи и построен план поиска, машина могла бы взять на себя разработку деталей решения" (с. 277) . Добавим, что в плане " искусственного интеллекта" наибольшую значимость имеют исследования, которые можно квалифицировать как преследующие цель разработки алгоритмов "наращивания понимания". Смысл подобных работ достаточно полно раскрыл В. М. Глушков о книге "Управление, информация, интеллект" (см. с. 301-313) . По его мнению, система человеко-машинного информационно-логического взаимодействия должна быть основана на таком языке общения человека с машиной, который позволяет не только расширять содержащийся в машинной памяти массив знаний, но и обогащать логику вычислительно-информационной системы, в частности укрупнять используемые машиной логические шаги (то есть изменять понятие логически очевидного перехода), позволяя "свертывать", делать более компактной машинную логику. Это может основательно обогатить результативность человеко-машинной системы как исследовательской структуры нового типа. "Машинная парадигма" - регресс или прогресс? Заключая свой анализ "искусственного интеллекта", автор книги справедливо отмечает большое принципиальное значение этого направления; он прав, говоря о том, что возрастание наших знаний о границах "разумного" в применении к вычислительной машине будет вместе с тем обогащением научных представлений о характере и объеме человеческого интеллекта. Но он впадает в неоправданную крайность, когда утверждает, что создание искусственных систем, проявляющих определенные черты разумного поведения, приведет к тому, что "в ближайшее время мы станем свидетелями триумфа весьма ограниченного представления о разуме" (с. 20). Как представляется пишущему эти строки, с течением времени главной пинией развития кибернетики все более будет становиться создание человеко-машинных систем управления и переработки информации, использование машин как "усилителей творческих возможностей человека. Такая "машинная парадигма" станет необходимым элементом социального развития. 331 Как ранее писал автор этих строк в совместной с А. И. Бергом работе, "машины не мыслят - и вряд ли будут мыслить - как человек, как разумное существо, живущее в обществе, имеющее интеллектуальные потребности и пользующееся естественным языком для обмена мыслями с другими разумными существами. Но несомненно, что человек, работающий в "содружестве" с электронной машиной, мыслит лучше и иначе, чем человек, вынужденный ограничиваться лишь примитивными орудиями механизации своего умственного труда" (А. И. Берг, Б. В. Бирюков. Кибернетика и прогресс науки и техники.- В кн.: Ленин и современное естествознание. М, "Мысль", 1969, с. 371). Кибернетика и задача комплексного изучения человека Рациональный аспект предпринятого Дрейфусом анализа состоит не в критике кибернетических исследований, а в том, что его книга побуждает к размышлениям над сложными проблемами, имеющими важное методологическое значение. И поучительный анализ "допущений" "искусственного интеллекта" во второй части (пусть не всегда убедительный), и интересный фактический материал третьей части в общем перевешивают те недиалектические крайности, в которые нередко впадает автор, следуя феноменолого-экзистенциалистским установкам. Общая направленность книги - против попыток поставить знак равенства между естественным разумом и его искусственными аналогами, против того, что можно назвать "кибернетическим редукционизмом", то есть тенденцией к сведению многогранности разума к единственно дедуктивно-классифицирующему уровню, сравнительно легко поддающемуся формализации,- философски вполне оправданна. Книга заставляет задуматься над необычайной сложностью человека как природного и социального существа, над грандиозной сетью связей, которые констатируют его как "совокупность всех общественных отношений". Одной из главных трудностей кибернетического моделирования познавательных процессов, не отмеченной, кстати, в работе Дрейфуса, является недостаточная изученность человека во всем его многообразии. Успехи кибернетики в моделировании сложных систем живого, мыслящего и социального, несомненно, находятся в зависимости от всестороннего изучения человека в рамках биолого-медицинских, психолого-этнологических, философско-социологических и иных наук. В комплексном исследовании человека как социального существа, наделенного сознанием и самосознанием, кибернетике принадлежит только определенная (и заведомо не главная) часть - часть, которая не в состоянии исчерпать его "сущностные" свойства. Но это необходимая часть, без развития которой наши представления о человеке не могут быть достаточно полными. Книга Дрейфуса тем и полезна, что привлекает внимание исследователей именно к этой, информационно-кибернетической, "составляющей" комплекса работ, направленных на раскрытие самого сложного из известных нам феноменов мироздания - явления под названием Человек. Б. В. Бирюков |
