Что же могут вычислительные машины
         

Х. Дрейфус как критик "искусственного интеллекта"


Философские аспекты моделирования на ЭЦВМ процессов познания и создания систем искусственного разума Хьюберт Дрейфус, являвшийся в период выхода данной книги профессором университета в Беркли (шт. Калифорния), разрабатывал с середины 60-х годов. Первоначальный краткий вариант данной книги составило исследование, выполненное им в период работы в качестве консультанта известной американской фирмы RAND. Первые критические выступления Дрейфуса не встретили понимания среди западных кибернетиков - по выражению А. Эттингера, написавшего предисловие к книге X. Дрейфуса (не вошедшее в данное издание), на него тогда "просто орали". Но когда книга Дрейфуса вышла в свет, она не могла не обратить на себя внимание. Ибо в лице ее автора специалисты по "искусственному интеллекту" нашли такого критика, который ведет дискуссию на их собственном языке и владеет необходимым фактическим материалом. В зарубежной литературе появился ряд статей, авторы которых полемизировали с Дрейфусом. Дискуссия вокруг его взглядов развернулась, впрочем, еще до захода в свет данной книги - в 1971 г. на конференции в Университете графства Кент (Англия), где оппонентом Х. Дрейфуса выступил Н. Сатерленд (см, труды конференции: Philosophy of Psychology, ed. S. С. Brown, London and Basingstoke Macmillan, 1974, p. 247 ff). После появления книги в спор вступили С. Ватанабе и И. Уилкс (S. Watanabe. Some thoughts on Dreyfus, "Critique of Artificial ReasorTr.-IEEE Trans, on System Man, and Cybernetics. January 1975P p. 141-145; .1. Wilks. Dreyfus's disproofs,- "British J. for the Philos, of Sci."F, vol. 27, No 2,1976, p. 177-185). Как справедливо отмечает А. Эттингер, вопросы, касающиеся возможностей и пределов "искусственного разума", "заслуживают серьезного открытого обсуждения. Они слишком связаны с естественными науками, чтобы предоставить их решение философам, и слишком философские по своему характеру, чтобы оставить их на усмотрение представителей естественных и точных наук" (A. G.
Оеttinger Preface,-In: H. L. Drеyfus. What Computers can't do, 1972, p, XI),

В нашей стране уже имеется солидная философско-кибернетическая литература, в которой обсуждаются, в частности, и проблемы, поднятые в книге американского автора (примером может служить коллективная монография "Управление, информация, интеллект" под ред. А. И, Берга и др., М., "Мысль", 1976) . Тем не менее для советского читателя целесообразно ознакомление с данной книгой, так как аргументы Дрейфуса залуживают того, чтобы их учли и специалисты в области вычислительных систем и их математического обеспечения, и психологи, использующие кибернетическое моделирование как метод изучения психики и поведения человека, и философы, осмысляющие познавательно-практический вклад нового направления в науке и технике. В книге Дрейфуса представлено развернутое изложение определенной линии в методолого-кибернетических исследованиях на Западе, а именно, линии скептического отношения к перспективам созданий систем, "интеллект" которых существенно приближался бы к логико-творческим способностям человеческого разума. Материал книги может содействовать углублению понимания "кибернетической составляющей" научного прогресса, и скепсис автора, пропущенный через надежный методологический "фильтр", способен сыграть позитивную роль.


«Искусственный интеллект» как исследовательская сфера


Еще в 50-х годах в кибернетике выделились четыре родственных области. Это были: алгоритмизация "стратегических" игр типа шахмат; программирование невычислительных задач и логической дедукции в применении прежде всего к математическому материалу; разработки в области автоматического распознавания образов и исследования, направлен-

300

ные на создание машинных программ перевода с одного естественного языка на другой. Достаточно быстро обнаружилась глубокая общность задач этих областей. Выяснилось, что методы, разработанные в одной из них, могут быть применены в других, а также то, что их можно распространить и на иные сферы, например на проблематику машинного сочинения музыкальных композиций или автоматический диагноз заболеваний. Постепенно совокупность подобных исследований (достаточно единая по характеру своей проблематики) стала восприниматься как самостоятельное научное направление, и за ним все больше стало закрепляться название "искусственный интеллект".

С момента появления первых работ, которые можно отнести к направлению "искусственного интеллекта" (или просто к "искусственному интеллекту"), прошло три десятилетия. За это время выявились две главные цели, которые преследуют соответствующие исследования. Одна из них - моделирование на цифровой машине некоторых существенных черт интеллектуального (разумного) поведения. Другая - использование ЭВМ для решения сложных проблем, овладение которыми до сих пор было под силу только человеку. Различие этих двух целей относительно (многие кибернетические разработки подчинены обеим целям одновременно) и отражает лишь разные акценты. В одном случае акцент ставится на использовании в кибернетических целях эмпирического материала нейрофизиологии и психологии, в другом - на разработке эффективных методов решения "интеллектуальных" проблем независимо от того, в какой степени эти методы используются человеком (и используются ли вообще). Однако в обоих случаях соответствующие кибернетические исследования тесно связаны с психологией, поскольку поведенческий аспект интеллектуальной деятельности человека, учитываемый в большинстве работ по "искусственному интеллекту", близок или непосредственно заимствован из соответствующих психологических концепций.
Работы многих специалистов США и Западной Европы в области "искусственного интеллекта" тесно связаны с теоретической установкой на объективное изучение поведения (известно, например, что Н. Винер придавал большое значение работам И.П. Павлова). В то же время исследования таких крупных американских психологов, как Дж. Миллер, К. Прибрам и У. Ниссер, выполненные за последние десятилетия, несут на себе явное влияние идей и методов "искусственного интеллекта". Советские психологи (А. А. Ератко, В. Н. Пушкин, О. К.Тихомиров и др.), так же как и специалисты других социалистических стран (Ф. Клике - ГДР, И. Лингарт - ЧССР), стоящие на диалектико-материалистических позициях, в своих исследованиях достаточно широко привлекают идеи и методы кибернетики.

Взаимодействие "искусственного интеллекта" и психологии способствует теоретическому и экспериментальному исследованию познавательной деятельности, стимулирует разработку новых психолого-кибернетических теоретических "моделей" интеллекта.


Крайности - вредны


Эта истина как нельзя более подходит для характеристики исходных установок книги Дрейфуса. Отпразной точкой рассуждений автора являются прогнозы, сделанные в середине 50-х годов некоторыми американскими учеными, относительно быстрого - в пределах до двадцати лет - прогресса в разработках "искусственного интеллекта". Подводя итоги исследований десяти лет (1957-1967 гг.), автор пытается ответить на вопрос, "действительно ли машины могут достичь хотя бы элементов творчества, играя в шахматы, разрешая простые проблемные ситуации, читая простые предложения и распознавая образы" (с 23) . Подразделив исследования, проводившиеся в его стране, на два этапа, которые обозначаются в книге как моделирование процесса познания" и "переработка семантической информации" ("искусственный интеллект" в собственном смысле), и подвергнув их критическому анализу, Дрейфус приходит к заключению, что получен-

301

ные результаты опровергают оптимистические настроения исследователей. По его мнению, развитие этих работ идет по одной и той же схеме: удачное начало при моделировании простых форм переработки информации и неудачи при попытках исследователей вложить в машину более сложные формы поведения. Создавшееся в данной области положение Дрейфус склонен характеризовать как "крушение радужных надежд", "застой", "тупик"- как ситуацию, окутанную неким "интеллектуальным смогом".

Такого рода оценки, рассматриваемые в применении к направлению в целом (а не к отдельным работам и программам, слабости которых верно подмечены Дрейфусом), искажают действительную перспективу развития. Сегодня мы можем сказать, что, вопреки заключениям автора, исследования в данной области не только не пошли на убыль, но неуклонно расширяются и набирают темп. Крайности, как известно, не способствуют уяснению подлинного положения вещей.



Следующее десятилетие Дрейфус


Итак, общая оценка перспектив "искусственного интеллекта", данная в книге, не прошла проверки временем. Значит ли это, что критика Дрейфусом работ американских авторов десятилетия 1957-1967 гг. (Г.Саймона, М.Минского и др.) совершенно беспочвенна? Отнюдь нет. Работы эти отражали реальные слабости подхода к решению интеллектуальных" задач, основанного на "силовом" приеме перебора вариантов и их выбраковке, базирующейся на достаточно слабых эвристических методах.

303

Известно, что для любых мало-мальски сложных задач сплошной перебор невозможен из-за громадности дерева альтернатив. Например, число возможных позиций в шахматной игре К. Шеннон оценил как 10120. Чтобы представить себе, сколь необозримым оказывается в этом случае перебор, укажем на то, что, по имеющимся оценкам, с тек пор как человек обрел дар речи, все люди на земле произнесли "только" 1016 слов! Чтобы сделать реальным машинное решение подобных задач, причем не только на современных машинах, но и на машинах, создание которых возможно в любом обозримом будущем, составителю программы необходимо руководствоваться определенными соображениями относительно тех характеристик, которые можно эффективно использовать для ограничении перебори с тем, чтобы затраты машинного времени и объем требуемой для решения информации соответствовали реальным вычислительным мощностям. Коротко говоря, необходимо разумное ограничение рассматриваемых машиной альтернатив, ибо их число растет по экспоненциальному закону, который оборачивается кошмаром для вычислительной процедуры. "Переборный" подход в кибернетике - естественное следствие развитие машинной математики, основанной на цифровой технике. Кодирование информации с помощью дискретных объектов типа цифр и букв, которым пользуются создатели систем "искусственного интеллекта", с необходимостью порождает "атомистический'' машинный мир дискретных данных и фиксированных признаков. Ориентация в этом мире - и решение в его терминах сложных задач (хотя бы отчасти напоминающих те, которые решает человек в своей интеллектуально-творческой деятельности в науке и практике) - представлялась возможной лишь на пути выработки методов выделения существенных ("релевантных") факторов (критериев, параметров, характеристик).
Это обстоятельство стало ясно кибернетикам еще в 50-х - начале 60-х годов. Оно отмечается, например, в статье "Модели обучения и управляющие системы", написанной Ю. А. Шрейдером в качестве дополнения к переводной книге Р. Буша и Ф. Мостеллера "Стохастические модели обучаемости" (М., Физматгиз, 1962; оригинал книги вышел в 1955 г.; дополнение к русскому изданию было написано в 1960 г.).

Для реализации целесообразно организованного перебора необходимо, чтобы программа оперировала заранее заданным перечнем фактов (признаков, объектов, альтернатив и т. п.) либо содержала метод регулярного (в каком-либо смысле) порождения таких фактов и чтобы она могла отбирать существенные факты. Однако проведение этого подхода в жизнь натолкнулось в области "искусственного интеллекта" на серьезные трудности. Анализу сложившейся в результате этого ситуации в американской кибернетике 1957-1967 гг. и посвящена первая часть книги Дрейфуса. Ее материал показывает, что задача сведения "многовариантной" проблемы к "маловариантной"- существенное уменьшение "размерности" (числа подлежащих учету параметров) решаемой машиной проблемы, то есть превращение проблемы, как говорят, в "задачу с хорошей структурой",- связано с гораздо большими трудностями, чем это поначалу представлялось.

Эти трудности очень рельефно показаны в книге. Автор исходит из того очевидного факта, что личность справляется с проблемой экспоненциального роста, по-видимому, потому, что человеческие психические процессы качественно отличны от функционирования современных машин, даже снабженных программами "искусственного интеллекта". Решая задачи творческого характера и даже просто осуществляя человеческие способы поведения - начинав с восприятия объектов и кончая актами сознательного целеполагания,- личность не оперирует заданной ей "извне" системой жестко фиксированных признаков ситуации (задачи), в которой ей надлежит сформировать свое поведение (найти решение задачи).


Человек строит систему соответствующих признаков ("фактов") в ходе осмысления задачи, а не просто синтезирует ситуацию (задачу) из готовых признаков.

304

Целое, как известно, состоит из частей, но части осмысляются в составе целого. "Переборное" осмысление неестественно для человека, по крайней мере коль скоро он рассуждает сознательно. Эвристические приемы, разумеется, используются человеком, так же как и разнообразные операции сравнения, абстракции, классификации и обобщения. В основе этих процессов, однако, в значительной мере лежит не до конца ясная в психологическом плане способность различения существенного и несущественного. Важную роль также играет феномен целостности восприятия - не только чувственно-сенсорного, но и мыслительно-абстрактного. Поэтому можно согласиться с Дрейфусом, когда он говорит, что без привлечения человеческой способности к "глобальному рассмотрению" объектов, восприятию целостных образов, "по-видимому, невозможно избежать ситуации экспоненциального роста и преодолеть ограниченные возможности эвристик в выборе вариантов, подлежащих рассмотрению" (с. 50)

Нет сомнения, что изучение эвристик - как в психологическом плане, так и в плане "эвристического программирования"- продвигает нас вперед и в понимании познавательного процесса у человека, и в разработке способов реализации на машине отдельных его проявлений либо результа­тов. Но до конца вскрыть соответствующие процессы "переработки информации" с помощью единственно лишь эвристического подхода вряд ли возможно. Никакие эвристики - четко формализованные, во всяком случае,- не могут, по-видимому, объяснить, как человек, переводя с одного естественного языка на другой, принимает решение остановиться на тех или иных вариантах результирующего текста. Тут существенную роль играет другое обстоятельство, настоятельно - и с полным основанием-подчеркиваемое Дрейфусом: способность человека учитывать нечеткие ситуации, не прибегая при этом к их точной формулировке.


Идеи автора перекликаются здесь с соответствующими мыслями советского исследователя В. В. Налимова - автора книги "Вероятностная модель языка. О соотношении естественных и искусственных языков" (М., "Наука", 1974). Отечественный специалист в области математической статистики и планирования эксперимента, оперируя вероятностными представлениями, раскрывает феномен "мягкости"-гибкости значений слов и выражений - естественных языков и "диффузный" характер сложных систем. Элементы последних настолько тесно взаимодействуют друг с другом, что делают невозможным их "классическое" описание, основывающееся на фиксации параметров и изолированном изучении поведения отдельных переменных.

Дрейфус развивает сходную аргументацию, подчеркивая значение "глобальной формы" переработки информации, при которой информация рассматривается человеком "не в четкой форме, а остается, скорее, в периферийной сфере сознания и учитывается неявно" (с. 50); эта форма освоения реальности "действует постоянно, непрерывно организуя наше эмпирическое познание" (там же). Она тесно связана с использованием контекста для уменьшения неоднозначности - с учетом тех контекстуальных (ситуационных) черт, которые в книге названы неявными ориентирами. Конечно, соответствующие феномены человеческой психики далеки еще от уяснения, так же как явления интуиции ("инсайта"),- все то, что в своей совокупности играет ключевую роль в осмыслении фрагментов реальности, попадающих в сферу человеческого опыта. Именно эти процессы - а не более простые и доступные для изучения процедуры четкой понятийной классификации и логической дедукции -составляют главную трудность для машинного моделирования,

В самом деле, если для того, чтобы распознавать образы, узнавать объекты, усматривать "семейное сходство" (для которого не обязательно наличие общих признаков у объектов одной семьи), человек не "концептуализирует" свойства, проводя между ними жесткие границы, не "атомизирует" характеристики, по которым происходит распознавание, то каким



305

образом в машину, понимающую только четкие команды, вложить способность узнавания? Если перевод фразы иностранного языка зависит от серии нежестко фиксированных контекстов - быть может, от общего контекста нашей культуры,- то как возможен машинный перевод, который в его современном виде опирается на метод построения значений сложных языковых образований из значений более элементарных компонент?

На эти - и многие другие аналогичные - вопросы сегодня мы ответить не можем. Значит ли это, однако, что отмеченные выше функции интеллекта "преграждают путь" к дальнейшему прогрессу в области кибернетического моделирования процессов познания и создания систем "искусственного интеллекта", как думает Дрейфус? Как нам представляется, не значит. Можно добиваться успеха в формализации упомянутых феноменов, не предрешая при этом вопроса о том, с какой степенью полноты фактически окажется возможной такая формализация. Работы десятилетия 1968-1977 гг. свидетельствуют о реальности этого продвижения. О некоторых из них мы позволим себе сказать несколько слов.


В гуще споров


Этому комплексу методов и теорий, пронизанному идеями управления, информации и моделирования и спаянному лозунгом математической точности, для реализации которого привлекаются средства автоматики, на протяжении всей его еще очень короткой истории сопутствуют острые дискуссии. Их главное содержание - вопрос о соотношении возможностей машины (автоматического устройства, вычислительной сети, системы для переработки информации и т. п.) и человека, обладающего психикой, сознанием и самосознанием. Вопрос этот перерастает в проблему осуществимости кибернетического "воспроизведения" интеллекта - частичного или "полного", то есть в проблему возможности "искусственного кибернетического разума".

Проблема эта мало кого может оставить равнодушным, так как неотделима от вопроса о познании человеком самого себя, вопроса, как магнит притягивавшего пытливую мысль на протяжении веков. Именно этот последний вопрос прежде всего стоит за современными исследованиями природы живого. Именно он во многом дал - и продолжает давать - импульс экспериментальной и теоретической психологии. И он же придает волнующую актуальность изучению человеческой психики и поведения на новом для науки пути - на пути теоретико-кибернетического и вычислительно-информационного моделирования человеческих феноменов восприятия, мышления, решения задач, прогнозирования и творчества. Ибо впервые в истории сферы разума на нашей планете - ноосферы - открылась возможность передачи машинам ряда таких форм интеллектуальной деятельности, которые до недавнего времени считались исключительной прерогативой человека.

Вопрос о перспективах искусственных кибернетических систем - и прежде всего соответствующим образом запрограммированных универсальных цифровых вычислительных машин - в реализации форм поведения, которые в каком-либо смысле можно признать "разумными", вот уже 30 лет стоит на "повестке дня" философско-кибернетических обсуждений. Спорящие стороны с разных позиций пытаются внести ясность в проблему возможности либо невозможности наличия принципиальных разли-


* Автор выражает признательность коллегам, любезно предоставившим в его распоряжение некоторые свои материалы либо оказавшим помощь своими консультациями: М. В. Арапову, М. М. Ботвиннику, В. Л. Доблаеву, И. Б. Новику, Ю. В. Орфееву, Г. Н. Повэрову, Д. А. Поспелову, В. Л. Стефанюку, С. М. Шевенко и Ю. А. Шрейдеру. Он благодарит также О. Н. Кессиди, чье квалифицированное редакционное вмешательство содействовало существенному улучшению данной статьи.

298

чий между "машинно-вычислительным миром" и человеческим сознанием. Дискуссии проходят на разных уровнях научной квалификации и философской культуры их участников. Нередко они не столько проясняют, сколько затемняют суть дела. Но при всем том в них возможно усмотреть два противоположных подхода. Один из них можно назвать подходом с позиции "кибернетического оптимизма". Этой позиции подчас придерживаются некоторые специалисты по математическому обеспечению вычислительных систем, занятые программированием "интеллектуальных" (то есть не специфических математико-вычислительных) задач. Их противники - обычно представители "традиционных" областей знания, в особенности гуманитарного. "Кибернетические оптимисты" увлечены широкими горизонтами, открывающимися перед приложениями вычислительной техники. Их оппоненты, признавая значение и растущие перспективы внедрения автоматизации в область интеллектуального труда, подчеркивают, однако, что эти успехи не распространяются на человеческое творчество. Специфически человеческие процессы созидания новых научных и культурных ценностей, по их мнению, не могут быть переданы машине. Коль скоро это так, парируют этот довод "оптимисты", придется допустить, что человек наделен чем-то, не поддающимся объяснению, по крайней мере в той форме, которая принята в "точном" естествознании. В ответ следует возражение, что естественнонаучные критерии не совсем адекватны задачам изучения человеческой психики и социальных процессов...



Своеобразие интеллектуальной атмосферы, в которой происходит эта дискуссия, состоит в том, что защита человеческого суверенитета от "неумеренных претензий" кибернетиков создает, как ни парадоксально, благоприятную почву для провозглашения огромных (или даже неограниченных) возможностей "искусственного разума". Дело в том, что специалисты, работающие в различных областях кибернетики, строят свои рассуждения в соответствии со схемами, принятыми в "классической" науке; опираясь на реальный прогресс в области вычислительной математики и автоматики, владея навыками формализации, они, как правило, четко формулируют свои установки и результаты, чего нельзя сказать об их оппонентах, нередко апеллирующих к непосредственно данному личности внутреннему миру. Но характерно, что в пылу полемики как "гуманитарии-пессимисты", так и "кибернетики-оптимисты" обращаются к сфере психического, в частности к той ее части, которая находится за порогом сознаний. Первые, к примеру, утверждают, что психика - как в ее осознанной, так и подсознательной форме - отсутствует у вычислительных машин. Вторые, со своей стороны, настаивают на том, что в мозгу человека происходят скрытые "информационные процессы", подобные процессам вычисления, реализуемым на ЭЦВМ.

Но и среди кибернетиков нет единства. Их взгляды варьируют, в частности, в зависимости от того, в какой мере привлекаются психологические данные. Кроме того, на аргументации "оптимистов" нередко лежит печать философского непрофессионализма. На Западе импонирующая самолюбию человека мысль о великих возможностях созданной обществом науки, способной сконструировать мощный искусственный интеллект без кавычек, была подхвачена многими философами неопозитивистской ориентации. Противники этой "оптимистической" доктрины изображались занимающими "страусову позицию" (выражение А.Тьюринга) перед лицом грядущей опасности пришествия роботов либо просто обвинялись в некомпетентности.Преобладание таких крайних взглядов привело к тому, что в научной литературе США и Западной Европы было мало квалифицированных работ, авторы которых старались бы трезво осмыслить возможности и пределы нового научного направления. Монография X. Дрейфуса является в этом отношении исключением.

299


ВМЕСТО ПОСЛЕСЛОВИЯ*


(Источник: Б. В. Бирюков. Что же могут вычислительные машины? Вместо послесловия // Дрейфус Х. "Чего не могут вычислительные машины". М.: Прогресс, 1978, с.298-332)

Ничто кардинально новое не входит спокойно в науку и практику. Буря - вот что обычно сопровождает появление идей и решений, ломающих сложившиеся представления. Кибернетика - яркий тому пример.