К ВОПРОСУ ОБ ЭПИСТЕМОЛОГИЧЕСКОЙ АДЕКВАТНОСТИ НЕЙРОКОМПЬЮТЕРОВ

А.В. Савельев

Лавинообразный рост в последнее время научных публикаций по теме нейрокомпьютеров (НК), несомненно, свидетельствует о возрастающих потребностях и актуальности исследований в этой области. В связи с этим чрезвычайно актуальным становится теоретико-методологическое исследование оснований НК и обоснование их концептуальной базы. В какой мере приставка "нейро" в слове НК соотносится с действительностью? Можем ли мы вообще претендовать на воспроизводимость свойств реальной биологической нервной ткани и что может получиться в результате таких попыток воспроизведения? И наконец, какое отношении могут иметь НК к успехам и неосуществленным ожиданиям искусственного интеллекта (ИИ) и что определяет границы НК-технологий? В результате 18-летней работы автора в области моделирования процессов, происходящих в нервной системе, на основании опыта, анализа существующих, перспективных и собственных разработок, сложилась определенная точка зрения на общие законы и пути развития наук о мозге и высших психических функций живых организмов и использование этих знаний в прогрессе человеческой цивилизации. На основе изучения нейронаук, в том числе нейрокибернетики, "изнутри", составилось мнение о том, что ключом к разрешению этих и других вопросов является отношение к НК прежде всего как к эпистемологической проблеме, одним из центральных положений которой являются вопросы, связанные с эпистемологической адекватностью.

Впервые понятие эпистемологической адекватности было введено V.Lifschitz [1] при формулировании и исследовании принципов логического подхода к ИИ, также как и родственное ему понятие эвристической адекватности. Требование эпистемологической адекватности к модели по V.Lifschitz отвечает комплексу условий, когда решение поставленной задачи непосредственно следует из модели, эвристически адекватная модель, кроме того, обеспечивает метод нахождения требуемого решения. В качестве примера Lifschitz приводит шахматы, для которых шахматные правила соответственно его определению удовлетворяют требованиям эпистемологической адекватности. Однако, Y.Wilks [2] замечает: "Lifschitz при этом не интересуется тем, что мы знаем, степенью определенности нашего знания, его возможными ограничениями, содержанием или тем, как мы что-то узнаем". Лишь в значительной мере дедуктивно-ориентированные варианты метафизики, например картезианская, отводили такое важное место знаниям, обладающим статусом первых принципов, и с помощью логики выстраивали на их основе всю картину мира. В то же время, полярной противоположностью этому, между которыми, собственно говоря, и укладываются все возможные варианты, относящиеся к рациональному познанию, является индуктивный подход, а эвристические прозрения, как правило влекут за собой либо дедукцию, либо индукцию, либо и то и другое одновременно. Как правило, и тем и другим системам не удается избавиться от аксиоматического подхода, реализуемого в той или иной степени завуалированности, которая как раз и наименьшая в картезианской метафизике и наиболее изощренна в постнеклассической философии, что вполне возможно свидетельствует о неудовлетворенности такого метода познания и о совершающихся попытках преодоления его. Кроме того, как доказал в 1971 г. М.Ботвинник [3], – шахматы разрешимы только на основе определенного ранга позиций (saddle points), не сводимого к абстрактным методам, а следовательно, собственно шахматные правила не могут образовывать эпистемологически адекватную модель в сколько-нибудь серьезном смысле.

Эпистемологическая проблема интеллекта восходит к древнейшим философским школам, хотя исторически выражение ее менялось при переходе от одной традиции к другой. Вопросы самопознания занимают одно из центральных мест, практически, в любой философской системе, начиная со времени их возникновения, однако, только в период нового времени можно считать, что они регулярно начинают распространяться с чисто ментального созерцательного уровня на деятельностный, проявляющийся в предметно-созидательных шагах, выражающих прежнюю же мотивацию в новой трансформированной форме. В связи с этим, термин "интеллект" традиционно ассоциируется со способностью мышления к рациональному познанию и, с другой стороны, противостоит духовным способностям, таким как воля, чувство, воображение, интуиция и т.д. В рамках этих двух смысловых детерминант – рациональности и чувственно-интуитивного опыта и заключается категория "интеллект". Именно в этом ограниченном проблемном поле и происходит разработка систем и концепций нейроинформатики (НИ). В связи с понятием рациональности в последнее время проводилось множество дискуссий, в том числе, в каком смысле следует понимать утверждение о рациональном характере интеллектуальной деятельности [4].

И хотя единое мнение по этому вопросу выработано не было, удалось установить, что рациональное шире логического. Как писал Б.С.Грязнов [5], "современные логические теории не покрывают всей области рационального... даже в отдаленном будущем не произойдет полного отождествления логического и рационального, ибо это противоречит духу самых современных логических теорий". Основное отличие логического от рационального состоит (по В.Н.Садовскому, 1991) в том, что для логического характерно два аспекта: следование заранее сформулированным правилам (критериям, правилам вывода) и сохранение общезначимости полученных результатов (при условии истинности посылок логический вывод с неизбежностью приводит к истинному заключению?). В рациональном же, которое не является логическим, отсутствует сохранение общезначимости, но имеет место следование заранее сформулированным критериям. Такое следование явным правилам и критериям дает возможность обосновывать каждый шаг рационального рассуждения. Рациональное в результате оказывается синонимичным с обоснованным по заранее принятым правилам.

Философии давно стало известно, что в определенных режимах функционирования интеллект выходит за рамки рационального в трансцедентальное (Аристотель), а может быть, наоборот, спускается из трансцедентального в рациональное (Платон, Кант). В то же время, концепция ИИ практически не выходит за рамки логического, а как можно реализовать выход за рациональное в технических системах не представляет никто. Даже в смысле расширения понятие рационального и определения интеллекта как диалектического сочетания рационального с иррациональным, упирается в гносеологическую проблему ИИ, которую хорошо охарактеризовал А.Эндрю [1]: "Любая попытка создать интеллектуальную или думающую машину автоматически подразумевает самоотрицание... Пока разработка ИИ не достигнет своей высшей цели – дублирования каждого аспекта человеческого интеллекта (что, по-видимому, неосуществимо в обозримом будущем), ему обязательно будет присуще такое самоотрицание". Существо науки как раз и состоит в выравнивании невыравниваемого, соизмерении несоизмеримого, получении повторяемости результатов путем усечения индивидуального и именно эти ее свойства целенаправленно получают воплощение в материальных творениях. Собственно говоря, именно они и составляют их сущность, в особенности, это касается техники. Поэтому можно ли вообще ожидать проявления в технических объектах качеств, остающихся за границей их по их сути – неравного, несоизмеримого, индивидуального и т.д. как раз и составляющих существо реального мира, живого, интеллекта?

Ограниченность ИИ внутри него самого, на наш взгляд, происходит из логицизма в представлениях об интеллекте, в том числе, и в представлении его как рационального. Это предопределено, по-видимому, изначально, поскольку вычислительная машина создавалась именно как инструмент, воспроизводящий логические функции мышления, причем эти логические функции определялись и определяются чисто психологически, как абстрактно-идеальное, оторванное от материальной сущности, реализуя, по сути дела, идеи Пифагора и Платона. Не случайно первоначально компьютеры на русском языке назывались "вычислительными машинами" или "математическими машинами", реализуя, прежде всего, математику как построение умственно-психической сферы. Это же подтверждается и концепцией экспертных систем или машин пятого поколения, предложенной к осуществлению японскими компаниями в 1982 г. на конференции FGCS в рамках 10-летней программы, характеризующихся попытками воспроизведения механизмов работы и взаимодействия экспертов в группе, т.е. моделирования психологических микросоциальных взаимодействий, причем в строго ограниченных рамках рационального, а именно конкретно-логического (иначе говоря, аналогично М.П.Стати [7], – вытекающий из третьего вопроса философского аспекта проблемы ИИ по К.Марксу). Неудовлетворенность получаемого при помощи концепции ИИ подхода, звучащую в приведенных словах А.Эндрю, пытаются разрешить современные попытки уклонения в нейроинформатику (НИ), которую можно представить как движение в том же направлении, но с противоположной стороны. Действительно, возможные ограничения ИИ могут лежать в изначально ограниченных методологических представлениях, ориентированных на воспроизведение психологизма, как внешнего проявления оторванного от своей субстанциональности, а потому мыслимого лишь как частичного, далеко не полного, выражаемого логикой и оставляющего за пределами большую часть бытия. Таким образом, ИИ мыслится нами как идеальные представления об идеальном, в то время как НИ выражается в попытках углубить уровень детальности воспроизведения сущности объекта с переходом на его структурные свойства. Здесь нельзя проводить какой-либо параллели с таким направлением ИИ, как разработка новых архитектур. В этом плане ИИ представляется как проблема чисто вычислительной техники и информатики или как наука о методах ее использования, т.к. создание новых архитектур в этом случае не направлено собственно на получение "биологических" свойств, а служит искусственным техническим нуждам, которые на самом деле могут быть никак не связаны с мышлением и интеллектом, по крайней мере, непосредственно или телеологически. В частности, это могут быть задачи механического повышения производительности систем "неприродными" путями, а потому, возможно, громоздкими и трудоемкими, как, например, параллельные архитектуры, систолические процессоры и т.д. Не случайно, как доказательство этого, в последнее время в интеллектуальных технических системах обозначилась тенденция к упрощению систем команд (RISC-архитектуры). ИИ представляется как попытка вписать его в категорию рациональности, в то время как НИ пытается расширить проблемное поле и получить новые, недостижимые с позиций ИИ свойства путем прямого обращения к витальному за счет попыток воспроизведения его структуры и функций. Это уже опредмечивание одной половины ИИ, обозначенное нами как идеальные представления о материальном и уже через него – к новому уровню идеального, т.е. НИ представляется нам как знак новой, более материализованной ступени познания интеллекта.

НИ, как кажущаяся задачей более частной, не является на самом деле таковой. Можно заметить, что в нее привносятся все достижения, а вместе с тем и все заблуждения познаний человека, уже проявившиеся в исследовании интеллекта, включая все тот же комплекс древних общефилософских проблем, который так и не был разрешен ни на общеметодологическом уровне, ни на уровне частных наук. На самом деле понятие нейроструктуры (нейросети) не более определено, чем понятие "интеллект", поскольку сводится, практически к познанию интеллекта же на уровне клеток или популяций клеток, выражая, тем самым, неявную попытку снижения неопределенности проблемы. Кроме того, возможна неединственность нейросетевого представления нервной ткани, допускающая существование альтернативных концепций [8, 9], что лишний раз свидетельствует о релятивизме основополагающих аксиом.

Теперь постараемся прояснить, почему же все-таки получается так, что результаты прикладываемых усилий, являясь несомненно полезными, все же отличаются от первоначально мыслимых, причем иной раз до такой степени, что практически имеют с ними мало общего. Так было с ИИ, вероятно, будет и с НИ.

1. Причины огромных трудностей, связанных с проблемой ИИ, охладивших пыл исследователей и фактически вынудивших внести значительные условности в само понятие ИИ, переосмыслить онтологическую и экзистенциальную сущность его, его возможностей и спектра разрешимых задач, сводятся на наш взгляд, к невозможности стандартизации объекта исследования (т.е. введения единообразной формальной модели) ввиду принципиального равенства рангов позиций. Поскольку объектом познания является сам орган познания, чтобы познать, необходимо стандартизировать самого себя, т.е. познающий субъект должен элиминировать собственную индивидуальность, что является слишком очевидно невыполнимым. В свете этого, под действием таких эпистемологических требований, перемещение внимания на нейроструктуру является в какой-то мере выходом из этой тупиковой ситуации, т.к. искусственно вносится неравенство рангов позиций и познающий субъект начинает возвышаться над познаваемым объектом (нейроном), в связи с чем последнего можно значительно проще стандартизировать (Речь идет, конечно, только о стандартизации в области идеальных представлений, не имеющих ничего общего с реальным объектом). Отсюда вытекает относительность кажущейся очевидности степени отражения материальности и идеальности в категориях НИ и ИИ. В этом смысле степень представления материального субстрата в понятии "нейросеть" вряд ли в значительной мере превышает то же у ИИ, поскольку представляет собой также идеальные представления, ассоциированные искусственно человеком с этим самым материальным субстратом. В связи с этим и степень репрезентативности нейросетей на самом деле сравнима с репрезентативностью ИИ, видимость же превосходства НИ и создается как раз разностью рангов позиций, т.е. соответствующим выбором класса объекта, о чем говорилось выше. В этом случае, видимо, происходит бессознательная подстройка под выполнение условий теоремы К.Геделя о неполноте аксиоматической системы, находящей также выражение в словах Р.Риделя [10]: "Люди не могут обосновать разум из него самого" или в словах Б.И.Пружинина [11]: "Знание, которое гносеология получает сегодня об "объективной реальности познания", со всей очевидностью демонстрирует невозможность нормировать познавательный процесс, опираясь на знание... Социокультурный анализ научно-познавательной деятельности не оставляет никаких иллюзий на этот счет: знание о знании, включающее в себя результаты социокультурного анализа научно-познавательной деятельности, убедительно свидетельствует об отсутствии в нем достаточных оснований для нормирования и ориентации этой деятельности".

2. В связи с выше изложенным можно проследить следующие интересные аналогии-ассоциации в идеологиях ИИ и НИ:

1) на уровне свойств и функций отдельного индивида.

Исследование и моделирование ответов унитарного нейрона [12], синаптической передачи, механизмов пластичности и памяти на клеточном уровне [13], пассивное проведение по дендриону [14], воспроизведение тетанизации и парабиоза [15], функциональных кодов хореографии и онтогенеза [16], моделирование электрического [17], эфаптического [18] и электромеханического [19] спайка, воспроизведение метаболических внутриклеточных процессов нейрона как функционально-процессорных [20], так и жизнеобеспечивающих можно сопоставить с воспроизведением психических функций индивидуума – моделирование логических мыслительных актов (доказательство теорем, обработка символьной информации, автоматический синтез программ, анализ и синтез музыкальных произведений, принятие решений, интеллектуальные базы данных и знаний и управление ими, моделирование игровых задач, математическая психология, обработка информации в специализированных средах – биомедицинские системы, компьютерная интерпретация конкретных технических задач (САПР), обработка "гуманитарной" информации в гуманитарных науках, семантический процессинг – работа с текстами, установление авторства, расшифровка кодов, семантическая фильтрация, конструирование и генерация смыслов и т.д.). Наблюдается значительное перекрытие полей используемых математических аппаратов, специфичность которых является условной и состоит в некоторой тенденции первого направления (НИ) в сторону математического аппарата описания физической реальности, а во втором направлении (ИИ) – в сторону алгоритмизации и дескриптивного подхода. Однако оба эти направления объединяет то, что и в том и в другом случае объект изучения не выходит за рамки индивидуального: в случае перечисленных проблемных областей ИИ – за границы индивидуально-психических функций человека, в случае НИ – индивидом является нервная клетка;

2) на уровне коммуникативного поведения двух индивидов (аналогично задаче взаимодействия двух тел в физике).

Со стороны ИИ – внешняя интеллектуализация компьютеров; диалоговый интеллектуальный интерфейс на базе традиционной архитектуры, интеллектуальная эргономика, со стороны НИ можно указать на моделирование кодирования-декодирования спайковых потоков нейрона [21], сопряжение с рецептивными полями [22], моделирование нервно-мышечного соединения, воспроизведение процессов экзоцитоза (пост- и пресинаптические явления в синапсах, медиаторные процессы);

3) на микросоциальном уровне (аналогично задаче трех тел в физике).

Для направления ИИ это – многопроцессорные системы и распараллеливание обработки информации, моделирование поведения индивидуумов в небольших коллективах – идеология экспертных систем, локальные сети. Для НИ – имитация микросоциальных явлений прежде всего выражается в идеологии нейросетевого подхода, являющегося, доминирующим на сегодняшний день в нейрокомпьютинге, описание коллективного поведения однотипных формальных нейронов на специализированных архитектурах [23] или с soft-имитацией на компьютерах с традиционной архитектурой [24], решение различных прикладных задач на сетевых и матричных структурах;

4) воспроизведение макросоциального уровня поведения (задача взаимодействия не менее трех тел в физике).

Для ИИ – глобальные компьютерные сети, интеллектуальная защита информации; для задач нейрокомпьютинга аналогию составляют системы, построенные на объединении множества сетевых структур, воспроизводящие межансамблевые взаимодействия нейронов, моделирование поведения нейронов различных типов и различных уровней, иерархические сетевые структуры и т.д.;

5) на уровне моделирования эволюционных механизмов: в ИИ – конкурирующие стратегии экспертных систем; решение многокритериальных задач с принятием решений при многих предпочтениях в многомерных случаях; взаимодействие программных продуктов в компьютерных сетях на основе игровых стратегий и т.д.; в НИ – генетические алгоритмы [25];

6) задачи распознавания образов и обучения являются в этом смысле "междисциплинарными" и имеют представительство как в ИИ, так и в НИ, причем, практически на всех рассмотренных уровнях соответствия [26, 27].

3. Создается впечатление, что системы нейрокомпьютеров (и ИИ) неявно строятся исходя из требований эпистемологической адекватности как необходимых, т.е. выводимости решения поставленной задачи из модели. Другими словами, требования эпистемологической адекватности подсознательно закладывается в модель изначально. При этом в не меньшей мере наблюдается конструирование искусственных задач под разрабатываемые модели, поскольку будучи сформулированной, задача оказывается вырванной из общего контекста [28] и идеализированной, а значит, все более переходит в плоскость идеальных представлений об объекте, абстрагируясь от самого объекта и постепенно утрачивая с ним связь. Именно этим, на наш взгляд, и объясняется "приземление" и вынужденная специализация проблем, происшедшая со временем с ИИ, что, вероятно, будет происходить и с НИ. С выше изложенным также связана отмеченная Дж.Лакоффом [29] закономерность, заключающаяся в том, что складывающиеся у разных народов когнитивные системы, отражающиеся в системах классификаторов соответствующих языков, не произвольны, но и не предсказуемы – объяснимы задним числом, но не могут быть заранее вычислены. В этом случае проявляется несоизмеримость требований эпистемологической адекватности реальному положению вещей, что и создает парадоксальную ситуацию – неявное стремление к выполнению условий эпистемологической адекватности порождает радикальные отклонения от первоначальных представлений и стимулирует эвристическое порождение когнитивных классификаторов за пределами требований эпистемологической адекватности. Именно такими удачными эвристиками, лежащими в основе систем концептуальных зависимостей, объясняется успешность их работы, а не достоинствами самой теории или самих систем концептуальных зависимостей, как сообщает R. Schank [30].

Выводы

1. Проблема НК на самом деле представляет собой трансформированную и выраженную в частно-временной форме общеэпистемологическую проблему, имеющую преемственность с ее древнейшими формами проявлений. Это означает, что в ней наследуются генетически не только неразрешенные аспекты познания, но также и успехи и достижения в познавательной деятельности, выработанные человечеством за тысячелетия своего существования. Учитывая и используя этот опыт, а не отбрасывая его, можно, вероятно, добиться определенных успехов и в нейрокомпьютинге, вот почему является важным отношение к нему прежде всего как к эпистемологической проблеме.

2. Эпистемологическая адекватность нейрокомпьютеров связана с таковой у ИИ. Однако, на наш взгляд, с этой точки зрения ИИ создал не столько материальную базу для НИ, сколько базу исчерпанности эксплуатируемой парадигмы, проявляющейся в попытках найти новые воплощения в рамках тех же философских категорий. НИ в этом смысле заключает в себе два плана: стремление к новому в виде индуктивно-ориентированной заявки на парадигмальную новизну и, в то же время, сохранение прежней дедуктивной схемы развертывания новой аксиоматики в частные реализации. Видимо, поэтому представляется возможным определить инварианты концептуальных аналогий ИИ и НИ.

3. Релятивизм степени репрезентативности когнитивных комплексов НИ (в пользу НИ) связан с бессознательной тенденцией к внесению диспропорций в систему эпистемологически адекватных рангов позиций, выводя объект исследования за пределы собственной индивидуальности. Это позволяет, таким образом, осуществить возможность разрешимости задач на уровне познающего субъекта, в чем заключается одна из скрытых причин активного прогрессирования НИ в наше время.

4. Требования эпистемологической адекватности, в отличие от общепринятых мнений, являются не недостижимым идеалом, а наоборот, исходной посылкой, не устраняемой на сегодняшний день, что, кстати, и объясняет видимость ее "недостижимости". Эта видимость создается кардинальным отличием получаемых результатов от первоначально поставленных целей, что как раз и определяется, в том числе, неявным стремлением построения систем исходя из требований эпистемологической адекватности.

Литература

[1] Lifschitz V. The logical approach to AT // Stanford Computer Science Video Journal. – Morgan Kaufmann, Los Altos, California, 1987.

[2] Wilks Y. From and content in semantics // Synthese, 1990, v. 82, pp.339–351.

[3] Botvinnik M.M. Solving Inexact Search Problems. Brown, A.A., tr. (Symbolic Computation), Springer-Verlag, 1983, 255 p.

[4] Исторические типы рациональности / под ред. В.А.Лекторского, П.П.Гайденко. – М.: ИФРАН, 1994. – Т. 1–2.

[5] Стати М.П. Вера и знание в системах с искусственным интеллектом: Дисс. на соиск.... канд. филос. наук. – М.: МГУ, 1994. – С.81–88.

[6] Грязнов Б.С. Логика, рациональность, творчество. – М.: Наука, 1982. – 256 с.

[7] Andrew A.M. Artificial intelligence. – Abacus Press, 1983. – Р.19.

[8] Савельев А.В. Нейросети: фундаментальность или ограниченность взгляда // IV Всероссийский семинар "Нейроинформатика и ее приложения". – Красноярск, 1996. – С.12.

[9] Савельев А.В. Нейрокомпьютеры: фундаментализм и проблема субстанциональности // V Всероссийский семинар "Нейроинформатика и ее приложения". – Красноярск, 1997. – С.156–157.

[10] Riedl R. Die Spalting des Wttfildes: Biol. Grandlagen des Erklerens und Vertehens. B. – Hamburg; Parey, 1985. – S.333.

[11] Пружинин Б.И. Об одной особенности гносеологичекой проблематики // Познание в социальном контексте. – М.: ИФРАН, 1994. – С.118–140.

[12] McCulloch W.S., Pitts W.H. – Bull. Math. Biophys., 1943, v.5, p.115–133.

[13] Интеллектуальные процессы и их моделирование. – М.: Наука, 1987. – С.39–66.

[14] А.с. № 1501101, 1989, а.с. № 1585811, 1990

[15] А.с. № 1815658, 1992, патент РФ № 2024059, 1994, 2093889, 1997.

[16] Фултон А. Цитоскелет. Архитектура и хореография клетки. – М.: Мир, 1987. – 118 с.

[17] Hodgkin A.L. The condition of the nervous impulse. – Liverpool University Press, 1964. – 125 p.

[18] Гутман А.М. Биофизика внеклеточных токов мозга. – М.: Наука, 1980. – 184 с.

[19] Колесников А.А., Савельев А.В. К вопросу концептуального моделирования принципов функционирования нейрокомпьютеров // III Всерос. семинар "Нейроинформатика и ее пиложения". – Красноярск, 1995. – С.68.

[20] Либерман Е.А. Изучение диффузионной моделирующей системы молекулярной вычислительной машины нейрона // Биофизика. – 1980. – № 3. – С.455–461; Квантовый биокомпьютер // Биофизика. – 1990. – № 1. – С.132–135.

[21] Шерман Д.М. "За" и "против" гипотезы о межимпульсном интервальном кодировании информации в нервной системе // Журн. высшей нервной деятельности. – 1997. – Т. 47. – № 1. – С.170–175.

[22] Mahowald M., Douglas R. A Silicon Neuron // Nature, v.354, n.6354, p.515–518, 19/26 Dec. 1991.

[23] Mead C.A. Neural Hardware for Vision. – Engineering and Science, v.L, n.5, June 1987, pp.2–7.

[24] Горбань А.Н., Россиев Д.А. Нейронные сети на персональном компьютере. – Новосибирск: Наука, 1996. – 276 с.

[25] Adami C., Belew R., Kitano H., Taylor C. Artificial Life VI. – Cambridge: MIT Press, 1998. – 505 p.

[26] Kohonen T. Self-Organizing Maps. – Berlin-Heidelberg: Springer, 1997.

[27] Bishop C.M. Neural Networks for Pattern Recognition. – Oxford Clarendon Press, 1995.

[28] Савельева Т.С., Савельев А.В. Трудности и ограничения системного подхода в науке о мозге // XI Междунар. конф. “Проблемы нейрокибернетики”. – Ростов-на-Дону, 1995. – С.208–209.

[29] Лакофф Дж. Мышление в зеркале классификаторов // Новое в зарубежной лингвистике. – М.: Прогресс, 1980. – Вып. 23. – С.12–51.

[30] Schank R.C. Conseptual Dependency: a Theory of Natural Language Understanding Cognitive // Psychology, 1972, v.3, № 4, p.552–631.

Уфимский государственный авиационный
технический университет