РОЛЬ МЫСЛЕННЫХ
ЭКСПЕРИМЕНТОВ
В ПОНИМАНИИ ПРИРОДЫ СОЗНАНИЯ
Мысленные эксперименты
играют чрезвычайно важную роль в прояснении концептуальной структуры
естественнонаучных теорий. Эрнст
Мах ввел в обиход это выражение (Gedankenexperiment), полагая, что наше
интуитивное знание, обусловленное опытом, приобретает четкие концептуальные
формы при исследовании некоторых возможных, т.е. просто мыслимых ситуаций. Часто
подобного рода логические построения имеют цель подвергнуть проверке не
отдельные детали, а допустимость целой теории.
Обычно реальный эксперимент, прототипом которого должен быть мысленный
эксперимент, невозможен по технологическим или каким-либо практическим
причинам, но это не умаляет важности мысленных экспериментов. С точки зрения
философии понятие мысленного эксперимента ставит интереснейший вопрос: до какой
степени при построении теории можно обходиться без новых эмпирических данных.
Больше того, хорошо продуманный мысленный эксперимент может, согласно Т.Куну,
вызвать кризис или создать аномалию в господствующей теории.
Хотя не стоит преувеличивать
роль умственных экспериментов там, где возможна экспериментальная проверка
положений теории, нельзя недооценивать эту роль в тех областях знания, где роль
эксперимента весьма ограниченна. В частности, когда речь идет о моделировании
сознания, огромная сложность исследуемой системы не позволяет использовать
стандартную парадигму соотношения эксперимента и теории, поскольку, с одной
стороны, имеет место недоопределенность теории экспериментальными данными, и с
другой – теоретическая нагруженность экспериментов. В такой ситуации часто
невозможно провести разделительную черту между концептуальными предпосылками
теории и экспериментальными данными. Именно в такой ситуации важно использовать
умственные эксперименты.
Цель данной статьи состоит в
том, чтобы оценить важность умственных экспериментов в исследовании природы
сознания. Одной из наиболее перспективных областей подобного рода исследования
является моделирование сознания или процессов мышления в рамках так называемой
компьютерной метафоры, согласно которой работа мозга уподобляется работе
компьютера.
При установлении некоторого
рода параллелизма в работе мозга и компьютера используется весьма много неявных
посылок относительно того, как понимать такие термины как “программа” и
“материальная часть” (software and hardware) в применении к работе мозга или
такие термины как “мышление” или “сознание” в применении к работе компьютера.
Концептуальная ясность в таких случаях является чрезвычайно важной, поскольку в
противном случае можно погрязнуть в бесконечных спорах по поводу многих, быть
может, неправильно поставленных вопросов, например того, “может ли
вычислительная машина мыслить”.
Не менее важны при моделировании сознания и
философские взгляды исследователей. В отношении последнего вопроса, который
является фокусом всех исследований по проблеме компьютерной метафоры,
существует несколько философских подходов, в существенной степени определяющих
исследовательские программы в области моделирования сознания. Существует
несколько разновидностей программ искусственного интеллекта (“сильный” и
“слабый” варианты), утверждающих возможность мышления у компьютеров. Существует
радикальное отрицание такой возможности, идущее от феноменологии,
представленное в основном Дрейфусом. Существует антибихевиористская критика
моделирования сознания, выдвигаемая Дж. Серлом. Наконец, существует более
сложный подход, связанный с так называемой “интенциональной установкой”
Д.Деннета, в которой сам вопрос о мышлении компьютера в определенной степени
преодолевается.
Достижению концептуальной
ясности используемых теоретических терминов в увязке с соответствующими
философскими взглядами и служат умственные эксперименты, которые мы опишем в
данной статье. В частности, умственный эксперимент, который может быть
свидетельством для утвердительного ответа на вопрос “может ли компьютер
мыслить”, – это знаменитый тест Тьюринга. Не менее знаменитым, скорее,
даже печально известным, стал умственный эксперимент под названием “китайская
комната” Серла, свидетельствующий против возможности мышления у компьютеров. В
сочетании с программами искусственного интеллекта и антибихевиоризма полемика
вокруг этих двух умственных экспериментов стала чем-то вроде парадигмы
исследовательской программы моделирования мозга в целом.
В данной статье нет особой
необходимости подробно описывать знаменитый тест Тьюринга. Отметим только, что
он был использован многими философами для аргументации о природе сознания в
рамках бихевиоризма, с точки зрения которого ментальное состояние мозга
недоступно для наблюдателя. В этой версии бихевиоризма вопрос о природе
мышления принимает форму сопоставления мышления человека и предполагаемого
“мышления” компьютера.
Мысленный эксперимент Тьюринга [1] поднимает вопрос
о природе мышления через распространение этого понятия на процессы, идущие в
компьютере, при прохождении им определенного теста: эксперт в одной комнате
беседует с компьютером во второй комнате и человеком в третьей комнате в
течение некоторого указанного периода (скажем, часа). Компьютер признается
мыслящим, если эксперт не может указать различие между компьютером и человеком.
Огромная литература, посвященная тесту Тьюринга, в
значительной степени посвящена вопросу, в какой степени этот мысленный
эксперимент поддерживает тезис, согласно которому реальное мышление аналогично
процессам обработки информации в компьютере. Более точно, тест Тьюринга связан
с исследовательской программой, называемой “сильным тезисом искусственного
интеллекта”. Суть его такова: Каковы бы ни были когнитивные состояния
компьютера, эти состояния функционально (но не физически) идентичны состояниям,
которые можно найти в мозге. Тогда вопрос о том, может ли компьютер мыслить,
принимает такую форму: может ли подходящим образом запрограммированный
компьютер проявить искусственный интеллект в сильной форме? Сам Тьюринг должен
был бы дать утвердительный ответ на такой вопрос, в то время как ряд философов
типа Дрейфуса и Серла – ответ отрицательный.
Между тем, эксперимент имеет ряд аспектов, связанных
не столько с проблемой имитации мышления, сколько с пониманием понятия
компетенции мыслящего субъекта. Даже если признать, что ментальные процессы в
мозге могут имитироваться компьютерными процессами, это не решает вопроса о
компетентности компьютера как мыслящего субъекта, потому что в это последнее
понятие включается гораздо больше, чем кажется поначалу. Ряд вещей можно
обнаружить при более тщательном рассмотрении теста Тьюринга.
Н.Блок обращает внимание на
тот факт, что в эксперименте Тьюринга есть один пробел, связанный с отсутствием
процедуры вынесения вердикта по поводу теста [2]. Человек, который должен объявить прошедший тест
компьютер разумным, заранее должен знать, как отличать компьютер от человека.
Спецификация умственных качеств такого рода судьи, с точки зрения Н.Блока,
должна быть частью теста. Но такой шаг разрушит сам замысел определения разума
в нементальных терминах, и выведет тест Тьюринга за пределы бихевиоризма.
Являются ли требования присутствия характеристики эксперта в тесте действительно
обоснованными? Можно ли привести примеры какого-то специфического знания,
которым должен обладать эксперт? Приведем пару примеров по этому поводу.
Тест Тьюринга принадлежит к классу так называемых имитационных игр. Такие
игры обычно основаны на довольно простых стратегиях, вроде моделирования беседы
психоаналитика и пациента или стратегии экспертной медицинской системы “Элиза”,
заключающихся в том, что из формы предложений извлекаются ключевые конструкции
и с их помощью строятся осмысленные высказывания. Например, на утверждение
пациента “Все смеются надо
мной” следует ответ: “Кого именно вы
имеете в виду?”; на утверждение “Вы не согласны со мной” – “Почему вы думаете, что я не согласен с вами?”.
Эти стратегии используют психологические особенности поведения человека в
диалоге, а именно идентификацию определенных социальных ролей, весь комплекс
атрибутов которых наблюдатель воссоздает (как правило, автоматически) лишь по
некоторым данным признакам. Эксперт, дабы не быть введенным в
заблуждение, должен быть знаком с этими стратегиями и вообще с соответствующим
уровнем технологических разработок.
Кроме того, он должен быть
осведомлен о том, что определенные задачи современные машины решают верно, а
люди в них ошибаются. Тьюринг
признавал этот момент, выбрасывая за борт требование, что способности проходить
тест Тьюринга – необходимое условие интеллекта, ослабляя свое требование
до следующего: прохождение теста Тьюринга – достаточное условие для
интеллекта. Тьюринг говорит: “Разве машина не может выполнить то, что
может быть описано как интеллектуальное, но не быть характерно для человека?”
[3]. Другими словами, машина,
которая проходит тест, обязательно интеллектуальна, даже если некоторые
интеллектуальные машины (в частности, некоторые человеческие существа) терпят
неудачу.
Таким образом, характеристика эксперта сводится, в конечном счете, к приписыванию
ему весьма развитой способности к мышлению. Но тогда идея теста Тьюринга
сводится к следующему: компьютер мыслит, если так о нем мыслят наши лучшие
мыслители.
Таким образом, тест Тьюринга следует рассматривать, как уже было сказано,
в свете понятия компетенции мыслящего субъекта. Н.Блок предлагает в качестве
подтверждения этого мысленный эксперимент, в котором компьютером имитируются
мыслительные процессы, типичные для бытовых ситуаций [4]. При некоторых простых ограничениях компьютер с
подходящей программой может пройти тест Тьюринга, но вряд ли можно будет
признать это подлинным мышлением. Пусть имеется ситуация, когда человеку,
пришедшему на почту для совершения какой-то операции, задается вопрос, ответ на
который вызывает следующий вопрос и т.д. Предполагается, что вся серия вопросов
и ответов заканчивается в разумно ограниченное время.
Имитирующая программа предусматривает, что человеку, пришедшему на почту
для совершения какой-то операции, будет задан набор возможных вопросов, на
которые в программе заготовлен соответствующий ответ. База данных программы
имеет древовидную структуру. В зависимости от предложенного вопроса выбирается
цепочка с последующими предполагаемыми вопросами и ответами. Хотя компьютер
проходит за определенное время тест Тьюринга, его “интеллект” не превышает
“интеллект” игрального музыкального автомата. Каждое умное замечание компьютера
придумано программистами в качестве заготовки для ответа на предыдущее
замечание вопрошающего в контексте беседы.
Здесь можно усмотреть принципиальную ограниченность теста Тьюринга. Дело
в том, что программа ограничена по времени, в то время как человеческие возможности
вести диалог практически неисчерпаемы. У компьютера есть лишь ограниченное
количество наборов ответов, предусмотренных программистами (что тоже
ограничивается временными затратами), у человека их может быть бесконечно
много. И дело не просто в том, что компьютер не обработал бы информацию тем
способом, которым мы это делаем, а, скорее, что путь, которым он обрабатывает
информацию, является неинтеллектуальным, несмотря на прохождение им теста.
Компетентность не является бихевиористически эксплицируемым понятием.
Антибихевиористическая
трактовка мышления представлена другим широко известным мысленным
экспериментом, который ввел Дж. Серл – так называемой “китайской
комнатой”. Этот аргумент является
одним из самых известных и веских выступлений против притязаний программы
сильной версии искусственного интеллекта, т.е. притязаний на то, что компьютеры
мыслят или, по крайней мере, могут (или когда-нибудь смогут) мыслить и что
мышление есть ни что иное, как манипулирование формализованными символами.
Согласно первоначальному представлению Серла, аргумент основан на двух
предпосылках: мозг порождает разум, и
синтаксиса недостаточно для семантики.
Чтобы убедиться в этом, Серл
предлагает нам представить его, не говорящего по-китайски, запертым одного в
комнате с множеством ящиков с китайскими символами и книгой правил на
английском языке о том, как манипулировать этими символами. Правила определяют
обращение с символами чисто формальным образом, только в терминах их
синтаксиса, но не семантики. Предположим также, что люди, находящиеся вне
комнаты, передают неизвестные вам символы, которые называются “вопросы”, а те
символы, которые вы передаете обратно, называются “ответы на вопросы”. Пусть
программа, содержащаяся в правилах, настолько совершенна, что ответы Серла
нельзя отличить от ответов носителя языка. Можно ли на основе этого сделать
вывод, что компьютер понимает китайский так же, как и носитель языка? Ответ
Серла определенно отрицательный. А именно, он состоит в том, что представление мышления как процесса
обработки символов является неправильным, даже если это позволяет нам строить
машину, которая может дублировать обработку символа человеком и, таким образом,
дублировать поведение человека. “Причина, по которой ни одна машинная
программа не может стать сознанием, состоит в том, что программа лишь
синтаксична, сознание же характеризуется не только синтаксисом, но и
семантикой, ибо оно больше, чем формальная структура – оно содержательно” [5].
Для Серла главное отличие человека и компьютера
заложено в том, что мозг не просто демонстрирует формальные процедуры или
программы (он делает и это тоже), но и вызывает ментальные события благодаря
специфическим нейробиологическим процессам. Моделирование не следует смешивать
с воспроизведением, а воспроизведение возможно только для биологических
структур.
Реакция на аргумент Серла со
стороны сторонников программы Искусственного Интеллекта была резко
отрицательной. Так, Д.Хофштадтер писал, что эта статья представляет “самую
неверную, самую возмутительную статью, которая только попадалась мне на глаза”,
и “представляет скорее религиозный поход против искусственного интеллекта” [6],
а Д.Деннет называет аргумент софизмом. Среди множества ответов на аргумент
“китайской комнаты” мы отметим самый интересный из них – так называемый
“ответ системы”. В этом аргументе утверждается, что хотя сам Серл, запертый в
китайской комнате не понимает китайского, вся система в целом – Серл, ящики с
китайскими символами, комната, библиотека правил – понимает. Как нейрон не
понимает, что делает весь мозг, так и манипулятор в китайской комнате не
понимает диалога. По сути, этот ответ обвиняет Серла в том, что Серл
неправомерно заостряет наше внимание на простой манипуляции символами, отвлекая
при этом от некоторых других существенных присутствующих здесь деталей. Серл в
свою очередь пытается реабилитировать свой аргумент, предлагая вариант
интернализированной китайской комнаты: надо вообразить, что принадлежности “системы” выучены наизусть человеком
в комнате, выучены все данные программы, все последовательности вопросов и
ответов, а поступающие в комнату запросы и отправляемые ответы превращаются в
озвученный диалог. Таким образом, в системе не осталось ничего такого, чего бы
не было в этом человеке, но поскольку он не понимает китайского языка, не понимает
его и система. Вы просто используемте свое тело для того, чтобы слушать китайскую
речь и выдавать ответы. Абсурдно, говорит Серл, что человек, не понимающий
языка, в соединении с частицами бумаги вдруг начнет понимать [7].
Ход Серла с интернализацией направлен на то, чтобы попытаться уничтожить
аналогию между взглядом внутрь компьютера и взглядом внутрь китайской комнаты.
Если смотреть внутрь компьютера, каждый видит множество чипов в дополнение к
некоторому центральному чипу. Но если смотреть внутрь новой, интернализованной
китайской комнаты, все, что там можно увидеть, – это Серл, запомнивший
библиотеку программы и усвоивший функции оперативной памяти. Но все дело в том,
что, хотя интернализованные компоненты больше не видны, они не исчезли. Скорее,
они усвоены. Если программа требует содержания одного регистра, чтобы
переместить в другой регистр, и если вы сделали бы это в первоначальной
китайской комнате, копируя иероглифы с одной дощечки на другую, в новой китайской
комнате вы должны копировать этот иероглиф с одного из ваших умственных
аналогов этой дощечки на умственный аналог другой. Вы приводите в действие
систему, делая то, что делал бы центральный чип, и вы одновременно моделируете
остальные компоненты системы. “Ответ системы” рассматривает китайскую комнату
(новую и старую) как английскую систему, функционирующую в качестве китайской
систему. Все, что вы знаете, – это мысли английской системы, например ваши
последующие инструкции и консультации с вашей внутренней библиотекой. Но,
выполняя эту задачу, Вы также осуществляете реальную интеллектуальную систему
говорящего китайца, и таким образом ваше тело вмещает две различных
интеллектуальных системы. Китайская система также мыслит, но хотя вы и мыслите
таким образом, вы не знаете об этом.
Блок предлагает следующий
мысленный эксперимент в поддержку “ответа систем”. Представьте, что в ваши
профессиональные обязанности входит выполнение китайской системы в течение
рабочего дня. С 9 часов до 17 вы действуете в соответствии с программой, говоря
только по-китайски, сосредоточившись на своих действиях, но не на самом смысле
программы. В результате вы полностью соответствуете предписаниям программы,
исключая, пожалуй, только случайные взгляды на часы (что подобно, например,
шумам или тепловым излучениям обычных компьютеров). В конце рабочего дня вы
ставите инструкции на полку, прекращаете реагировать на китайский язык, и
китайская система перестает функционировать до следующего рабочего дня. Таким
образом, вы и китайская система сосуществуете в одном теле. В действительности,
Серл использует факт, что вы не знаете мысли китайской системы в
качестве аргумента, что она не имеет
никаких мыслей. Но это – незаконный аргумент. Реальные случаи расщепления
личности – это часто случаи, в которых одна индивидуальность не осознает
другие.
Аргументы “за” и “против” возможности того, что
компьютеры могут мыслить, как уже было сказано, в значительной степени
опираются на множество философских посылок. Сила аргументации и ее направление часто
зависят от радикальности подобного рода посылок. Например, наиболее радикальным
шагом в отношении всей этой полемики предстает холистическая концепция сознания
Д.Деннета. Ее виттгенштейновская направленность состоит в том, что избегается
обсуждение проблемы в старом словаре и предлагается совсем новый словарь, который
нашел полное отражение в его книге “Объясненное сознание” (1991).
Деннет предлагает радикально иной подход к проблеме.
Он находит подобные умственные эксперименты и все бесконечные споры вокруг них
просто неуместными и бессмысленными, искусственно уводящими в сторону от сути
проблемы. “За последние десять лет прошел огромный поток реакций на различные
вариации этого эксперимента, предложенные Серлом, и хотя философы всегда
находили какие-нибудь погрешности эксперимента, бесспорно, что его “заключение”
продолжает казаться очевидным для многих. Почему? Потому что люди в
действительности не представляют этот случай детально” [8].
Спорность аргумента китайской комнаты, не смотря на многие
обнаруженные недостатки, Деннет объясняет тем, что аргумент китайской комнаты
ловко подается под вывеской очевидности, усыпляя наше желание вникать в
подробности. Поскольку Серл ставит условием, что эта программа проходит тест
Тьюринга, то, следовательно, она должна быть чрезвычайно гибкой, сложной
системой, до краев заполненной “мировым знанием” и метазнанием о своих
собственных ответах, возможных вопросов интервьюера, своих собственных
“мотиваций” и мотиваций интервьюера и еще много-много чем. Серл, конечно, не
отрицает, что эта программа должна иметь эту структуру. Он просто отвлекает нас
от пристального внимания к ней, приглашая нас представить, что гигантская
программа выполняется “вручную” и представляет из себя некоторую простую
архитектуру табличного поиска, которая просто подбирает китайские иероглифы.
Между прочим, важно, что Серл предлагает нам представить, что он манипулирует
непостижимыми китайскими символами, а не нулями и единицами с тем, чтобы это
могло усыпить нас в гипотезе, что гигантская программа управлялась кем-то
просто “подбирающим” подходящие китайские слова к вопросам интервьюера? Но если
нам нужно верно представить данный случай, мы не просто имеем право, но обязаны
представить программу, вручную воспроизведенную Серлом, имеющей всю эту сложнейшую
структуру. Но тогда уже неочевидно,
полагает Деннет, что нет истинного понимания смысла. Возможно, миллиарды действий все тех сложно структурированных
частей в конце концов продуцируют истинное понимание в системе.
Нам трудно представить,
пишет Деннет, как мыслящий компьютер может существовать, потому что трудно
представить, как он действует. Есть разница между этими двумя
модусами воображения, но люди склонны их путать. Действительно очень трудно
представить, как многосложные процессы обработки информации в сгустках
силиконовых чипов достигают сознательного опыта. Но так же трудно представить,
как органический человеческий мозг может поддерживать сознание, как могут
сложнейшие цепочки электрохимических взаимодействий между миллиардами нейронов
достигать сознания. Однако мы охотно верим в разумность человеческих существ,
даже не представляя, как это может
быть [9].
Деннет предлагает прямой
аргумент – представить, как именно это происходит, а конкретно, взглянуть на
мозг, как на своего рода компьютер. Такой концепт помогает нам натолкнуться на
terra incognita между нашей феноменологией, предстающей через интроспекцию, и
нашим мозгом, каким нам преподносит его наука.
Некоторые философы считают,
что преодолеть этот водораздел невозможно (а значит, не стоит и пытаться).
Другие философы поощряют его, изобретая умственные эксперименты, которые
“работают” точно, потому что они отговаривают читателя от попытки представить
детально, как программа может выполнять это. Нагель считает, что нет никакого
средства преодолеть пропасть между субъективным уровнем феноменологии и
объективным уровнем физиологии. Макгин постулирует некие скрытые структуры
сознания, лежащие за пределами как феноменологии, так и физиологии, и, хотя эта
скрытая структура могла бы ликвидировать пробел, она в принципе не достижима
для нас [10]. Серл утверждает (и считает, что эксперимент с китайской комнатой
это успешно демонстрирует), что наше сознание обязано особой биологической
структуре нашего мозга. “В вопросе о мозговых действиях значение имеет не
формальная тень, брошенная множествами синапсов, а скорее фактические свойства
синапсов, их определенная биохимия” [11]. Как иронически отмечает Деннет, “для
Серла интенциональность – это что-то вроде удивительной субстанции, выделяемой
мозгом, подобно тому, как поджелудочная железа выделяет инсулин” [12].
В некотором
смысле, Деннет обесценивает роль мысленных экспериментов в исследовании
сознания. Он не отрицает их пользы, но считает, что они всего лишь мысленные
эксперименты и не больше. “В философских экспериментах мысли солнце всегда
сияет, батареи никогда не садятся, и актеры, и реквизит всегда выполняют точно
то, что философские теории от них ожидают. Не бывает никаких неожиданностей для
создателей экспериментов – только для их аудитории или тех, против кого
они нацелены” [13]. Подлинное использование мысленных
экспериментов всегда должно учитывать колоссальную сложность и многообразие
неявных философских посылок, которые лежат в основе той или иной аргументации.
Примечания
1. Turing A. M. Computing Machinery and Intelligence. – Mind 59,
1950. – Р.433–460.
2. Block N. The Mind as the Software of the
Brain. – N.Y.: New York University Press, 1997.
3. Там же.
4. Там же.
5. Searle J. Minds, Brains, and Science. –
Penguin Books, 1984. – Р.33.
6. Цит. по: Casti J.L. Paradigms
Lost. – N.Y., Avon Books, 1990. – Р.266.
7. Searle J. Minds, Brains, and Programs. Behavioral and Brain
Sciences 3, 1980. – Р.417–424.
8.
Dennett D.C. Consciousness Explained, Boston: Little,
Brown, 435–436.
9. Там же. – С.432–433.
10. McGinn C. The Problem of
Consciousness. – Oxford: Blackwell, 1990. – Р.102–103.
11. Searle J. Minds, Brains, and Programs. – Р.422–424.
12. Цит. по: Уолдроп М. Может ли компьютер
думать. – Диалог США, 49, 1991. – С.14.
13. Dennett D.C. Cog as a Thought Experiment. –
Robotics and Autonomous Systems,12, 1995.