МЕНТАЛЬНАЯ ЖИЗНЬ НЕКОТОРЫХ МАШИН
В настоящей статье я хотел бы рассмотреть характер различных «менталистских» понятий на основе машинного аналога. В статье «Сознание и машины» 36 я попытался показать, что концептуальные вопросы, порождаемые традиционной психофизической проблемой (mind—body problem), никак не связаны с предположительно особым характером человеческого субъективного опыта; они возникают в связи с любой компьютерной системой определенного уровня сложности, в частности, в связи с любой компьютерной системой, способной строить теории о своей собственной природе.
В упомянутой статье меня интересовали прежде всего вопросы, касающиеся тождества сознания и мозга. В настоящей статье главное внимание будет уделено прояснению характера понятий, выражаемых такими словами, как «предпочитать», «считать» (believe), «чувствовать». Рассматривая, как употребляются эти слова применительно к машинному аналогу, я надеюсь показать, что традиционные альтернативы — материализм, дуализм и логический бихевиоризм — неверны даже в случае машин. Но мои цели — не только деструктивные; я надеюсь — установив характер этих слов в случае машинного аналога — выдвинуть некоторые предположения о том, каков их характер, когда они применяются к людям.Я не буду обсуждать — если не считать этих сделанных вначале замечаний, — вопрос о том, в какой мере применение таких терминов, как «предпочтение», к машинам Тьюринга представляет собой изменение или расширение значения этого термина. Я не буду обсуждать этот вопрос, ибо в дальнейшем станет ясно, что он не имеет прямого отношения к моему исследованию. Хотя когда мы говорим об описываемых мной машинах Тьюринга, что они «предпочитают» одну вещь другой, то, что мы имеем в виду, во многих отношениях сильно отличается от того, в каком смысле мы говорим о человеке, что он предпочитает одну вещь другой, это не противоречит ни одному из выдвигаемых мной утверждений.
Я утверждаю, что, поняв, почему аналоги материализма, дуализма и логического бихевио- рцзма ложны в случае машин Тьюринга, мы сможем понять, почему упомянутые теории неверны и в случае их применения к людям, а установив, что эти термины могут означать в случае машин Тьюринга, мы сможем усмотреть важные логические характеристики этих терминов, которые прежде не были отмечены философами.Итак, в этой статье я рассмотрю гипотетическое «сообщество» «агентов», каждый из которых является машиной Тьюринга или, если говорить точнее, конечным автоматом. (Из множества приемлемых эквивалентных определений «конечного автомата» для наших целей лучше всего подходит то, которое мы получим из определения машины Тьюринга, уточнив, что лента для печати должна быть конечной.) Машины Тьюринга, которые я предполагаю рассмотреть, отличаются от абстрактных машин Тьюринга, описываемых логической теорией, тем, что они оснащены органами чувств, с помощью которых они могут изучать окружающую среду, и имеют соответствующие двигательные органы, которыми они могут управлять. Можно считать, что органы чувств обуславливают печать определенных «сообщений» на ленте машины в определенные моменты времени, а машина сконструирована таким образом, что когда определенные символы «команд» печатаются в определенные моменты времени на ленте машины, ее двигательные органы выполняют соответствующие действия. Благодаря такому естественному расширению машины Тьюринга возможно ее взаимодействие с окружающей средой.
В основном мы хотели бы обсудить понятие предпочтения. Чтобы формально описать это понятие относительно поведения наших «агентов», предположим, что каждому из них приписывается функция рационального предпочтения в том смысле, как ее определяет экономическая теория 37. Предположим, что наши машины Тьюринга достаточно сложны и могут более или менее правильно оценивать вероятность различных положений дел. С учетом сделанных машиной индуктивных оценок, ее поведение будет поэтому ПОЛНОСТЬЮ определяться тем фактом, что она подчиняется правилу: действовать так, чтобы максимизировать предполагаемую полезность.
Читателю следует заметить, что термин «полезность» здесь полностью элиминируем.
Мы утверждаем лишь, что с каждой машиной связывается определенная математическая функция, называемая функцией полезности, такая, что вместе с другой функцией — «степенью подтверждения» — она полностью определяет поведение машины в соответствии с заданным правилом и заданными теоремами исчисления вероятностей 38. Короче говоря, наши машины являются рациональными агентами в том смысле, в каком это понятие используется в индуктивной логике и в экономической теории. Если функции рационального предпочтения этих машин сходны с функциями рационального предпочтения идеализированных людей, а вычислительные способности машин приблизительно совпадают с вычислительными способностями людей, то поведение этих машин очень похоже на поведение (идеализированных) людей. Эту модель можно усложнить, внеся в поведение машин некоторые элементы иррациональности, присутствующие в поведении реальных людей (например, элемент иррациональности, связанный с нарушением транзитивности предпочтений), но здесь мы не будем этого делать.Что же означает слово «предпочитать» применительно к одной из этих машин? Начнем с того, что оно просто означает, что функция, которая управляет поведением машины (точнее говоря, функция, которая вместе с индуктивной логикой управляет поведением машины), приписывает первой альтернативе большую ценность, чем второй. Уже с самого начала мы можем понять, что связь между предпочтением и поведением будет у этих машин довольно сложной. Например, если одна из машин предпочитает альтернативу А альтернативе В, то отсюда не следует с необходимостью, что в любой конкретной ситуации она выберет А, а не В. Делая выбор между А и В, машина должна учесть, какие последствия будет, скорее всего, иметь этот выбор в данной конкретной ситуации и, возможно, машина примет в расчет иные «ценности», чем предпочтительность А по отношению к В. Мы могли бы сказать, что если машина предпочитает альтернативу А альтернативе В, то это означает, что ceteris paribus 39 машина выберет Д а не В, но мы отчаялись бы когда-либо точно сформулировать это ceteris paribus.
Аналогичным образом, мисс Энском 40 полагает, что если человек намерен избежать аварии, то это означает, что ceteris paribus он выберет такой способ вожде- нИя машины, который, скорее всего, минимизирует возможность аварии. По ее мнению, в такого рода случаях невозможно в принципе подробно сформулировать это ceteris paribus. На этом основании она выдвигает предположение о фундаментальном различии между — Как она говорит — практическим разумом и научным разумом. Однако к этому выводу следует отнестись скептически. Фактически мисс Энском показала, что некоторые предложенные методы определения рассматриваемого ceteris paribus не работают, но эти методы не работали бы и в случае машин. Отсюда вряд ли следует, что наши машины в своем обычном «поведении» демонстрируют вид рассуждения, фундаментально отличный от научного рассуждения. Напротив, при заданной функции рационального предпочтения действовать всегда так, чтобы максимизировать предполагаемую полезность, значит демонстрировать научное мышление весьма высокого уровня.Мисс Энском могла бы в ответ заметить, что реальные люди не имеют функций рационального предпочтения. Однако фон Нейман и Моргенштерн показали, — и их доказательство является важнейшим результатом в данной области, — что любой агент, предпочтения которого непротиворечивы, всегда ведет себя так, что его поведение можно истолковать в терминах по крайней мере одной функции рационального предпочтения. Мисс Энском могла бы возразить, что реальные люди не имеют непротиворечивых предпочтений; но это означало бы, что различие между практическим и научным разумом состоит в том, что практический разум, по сути, часто бывает более или менее иррациональным, и, что практические рассуждения любого человека иррациональны в каких-то областях. Это равносильно утверждению, что дедуктивная логика в принципе отличается от логики, излагаемой в учебниках, поскольку дедуктивные рассуждения любого человека неправильны в некоторых областях. Дело в том, что замечания мисс Энском об интенциях должны применяться Не только к интенциональному поведению более или менее иррациональных людей, но и к интенциональному поведению идеального рационального человека, обладающего богатой и сложной системой Ценностей.
Думаю, это ясно следует из ее книги. Но в применении к такому агенту один из ее основных выводов просто ложен: практи- ческие рассуждения такого агента, как мы видели, совсем не отличаются от научных рассуждений 6. Короче говоря, практическое рассуждение имеет фундаментальное отличие от научного, если принять, что научное рассуждение состоит из силлогизмов, посылки которых в принципе допускают точную формулировку, а практическое рассуждение состоит из так называемых «практических силлогизмов», посылки которых должны во всех представляющих интерес случаях содержать неэли- минируемое ceteris paribus. Однако реальное научное рассуждение включает гораздо более сложные способы связи посылок и заключений, чем силлогизм, а принятие решений как в реальном, так и идеальном вариантах включает в себя виды рассуждений, которые получают крайне неточное описание, если их пытаются подогнать под традиционную модель «практического силлогизма». Сложный процесс взвешивания разнообразных и противоположных альтернатив и ценностей предполагает дедуктивную систематизацию, но иного ти- аа, чем дедуктивная систематизация, рассматриваемая мисс Энском (и Аристотелем).Прежде чем продолжить наше рассмотрение, я хотел бы сделать одно замечание, которое, возможно, предупредит некоторые неправильные истолкования. Машина Тьюринга — это просто система, имеющая дискретное множество состояний, связанных определенными способами. Обычно считается, что машина Тьюринга обладает памятью в виде бумажной ленты, на которой она печатает символы; впрочем, это можно считать просто метафорой. В случае конечного автомата, т. е. машины Тьюринга, имеющей конечную, а не потенциально бесконечную ленту, физическую реализацию этой ленты можно представить в виде любой конечной системы запоминания информации. Под «символом» имеется в виду любого рода знак (trace), который можно поместить в запоминающее устройство, а затем «считать» с помощью того или иного механизма. Мы можем расширить наше определение, допустив, что «машина» «печатает» и сканирует более одного символа за раз.
Тьюринг показал, что эти расширения по сути оставляют класс машин Тьюринга в неизменном виде. Заметьте, что машина Тьюринга необязательно должна быть машиной. Машина Тьюринга вполне могла бы быть и биологическим организмом. Является ли реальный человек или мозг человека машиной Тьюринга (или, скорее, конечным автоматом) — это эмпирический вопрос. Сегодня мы не знаем ничего, что противоречило бы, в строгом смысле, гипотезе о том, что все мы без исключения являемся машинами Тьюринга, хотя нам известно и то, что делает эту гипотезу маловероятной. Строго говоря, машина Тьюринга не должна быть даже физической системой: машиной Тьюринга может быть все, что с течением времени может проходить через последовательность состояний. Так, картезианцу-дуалисту, склонному считать человеческое сознание самодостаточной системой, имеющей некоторый вид каузального взаимодействия с телом, можно указать, что с точки Зрения чистой логики человеческое сознание вполне может быть Машиной Тьюринга (если допустить, что человеческое сознание обладает достаточно большим, но не бесконечным, множеством со- стояний, что, кажется, не вызывает сомнений). Человеку, полагающему, что у людей есть душа и в этой душе заключены личность и Память, которые сохраняются после смерти тела, опять-таки можно Лазать, что с точки зрения чистой логики человеческая душа вполне может быть машиной Тьюринга или, скорее, конечным автоматом.Хотя вполне вероятно, что и состояния человеческого мозга, и Человеческие ментальные состояния, образуют дискретные множест- ва, — и здесь неважно, какое значение мы приписываем несколько неопределенному понятию ментального состояния, — однако маловероятно, чтобы сознание или мозг были машиной Тьюринга. Рассуждая a priori, мы сочли бы более правдоподобной ту точку зрения, что взаимосвязи между различными состояниями мозга и ментальными состояниями человека носят скорее вероятностный, а не детерминистский характер, и что важное значение имеет запаздывание во времени. Однако эмпирических свидетельств тому ничтожно мало. Причина кроется в том, что автомат, у которого связи между состояниями описываются вероятностными законами, а поведение предполагает запаздывание во времени, вполне можно смоделировать на основе поведения произвольно взятой машины Тьюринга. Поэтому в силу специфики рассматриваемого случая одних лишь эмпирических данных недостаточно, чтобы сделать выбор между гипотезой, утверждающей, что человеческий мозг (и, соответственно, сознание) — это машина Тьюринга, и гипотезой, утверждающей, что мозг представляет собой более сложный вид автомата с вероятностными связями и запаздыванием во времени.
Впрочем, еще в одном отношении наша модель, безусловно, является упрощением, даже если признать, что человеческий мозг и сознание представляют собой машины Тьюринга. Как уже отмечалось, необходимым и достаточным условием согласования поведения человека в некоторый момент времени с приписываемой ему функцией рационального предпочтения является непротиворечивость делаемых этим человеком выборов, т. е. если человек предпочитает альтернативу А альтернативе В, а альтернативу В альтернативе С, то он предпочитает альтернативу А альтернативе С. Но даже эта очень слабая аксиома транзитивности нарушается когда мы имеем дело с предпочтениями многих, а, возможно, и всех, реальных людей. Поэтому, вряд ли какая-либо схема предпочтений реального человека согласуется с приписываемой ему функцией рационального предпочтения. Более того, даже если чья-то схема предпочтений согласуется с приписываемой функцией рационального предпочтения, сомнительно, чтобы человек последовательно подчинялся правилу, предписывающему максимизировать предполагаемую полезность.
И, наконец, наша модель не динамична. Иными словами, она не допускает изменения функции рационального предпочтения во времени, хотя это можно исправить. Таким образом, наша модель в ряде аспектов сверхпроста и сверхрационалистична. Однако было бы нетрудно — в принципе, ибо на практике это может оказаться недостижимым — усложнить нашу модель во всех этих аспектах: с де- лать ее динамичной, допустить элементы иррациональности в предпочтениях и индуктивной логике машины, допустить отклонения от правила, предписывающего максимизировать предполагаемую полезность. Но не думаю, что какое-либо из этих усложнений изменило бы философские выводы, сделанные в настоящей статье. Иными словами, я не думаю, что философские выводы настоящей статьи стали бы другими, если бы мы заменили понятие машины Тьюринга понятием /С-машины, достаточно богатой и сложной, чтобы можно было бы утверждать о человеческом мозге и сознании, что они в буквальном смысле есть /С-машины.
Я не буду ничего говорить о своих гипотетических «агентах» помимо того, что они являются машинами Тьюринга и имеют функции рационального предпочтения. Этими агентами могли бы быть искусственно созданные объекты, биологические организмы и даже люди. Именно поэтому нигде в своей статье я не уточняю, являются ли «агенты» в моем «сообществе» живыми существами, обладают ли они сознанием или нет. Впрочем, в одном смысле об этих агентах можно сказать, что они, независимо от их физической реализации, осознают одни вещи и не осознают другие. Более того, если у них есть периоды, соответствующие сну, то мы можем сказать, что они «осознают» что-то в одни периоды времени и «не осознают» — в другие.
Еще по теме МЕНТАЛЬНАЯ ЖИЗНЬ НЕКОТОРЫХ МАШИН:
- Глава восьмая. ТЕОРЕТИЧЕСКИЕ ВОПРОСЫ РОССИЙСКОЙ ГОСУДАРСТВЕННОСТИ
- Предисловие
- II. ЯВЛЯЕТСЯ ЛИ БОЛЬ СОСТОЯНИЕМ МОЗГА?
- МЕНТАЛЬНАЯ ЖИЗНЬ НЕКОТОРЫХ МАШИН
- 3. ЛОГИЧЕСКИЙ БИХЕВИОРИЗМ
- ФИЛОСОФИЯ И НАША МЕНТАЛЬНАЯ ЖИЗНЬ
- РЕДУКЦИЯ ТРАНСЦЕНДЕНТАЛЬНАЯ - СМ. Э. ГУССЕРЛЬ РЕИФИКАЦИЯ - СМ. ОВЕЩЕСТВЛЕНИЕ
- Финк Э. - СМ. ФЕНОМЕНОЛОГИЯ
- ВТОРАЯ ВЕЛИКАЯ ТРАНСФОРМАЦИЯ: ПОЛИТИЧЕСКИЕ И ЭКОНОМИЧЕСКИЕ ОСНОВАНИЯ НАШЕГО ВРЕМЕНИ
- НЕКОТОРЫЕ РАЗМЫШЛЕНИЯ О ЛОГИЧЕСКОМ ПОЗИТИВИЗМЕ