Если у вас возникли сложности с курсовой, контрольной, дипломной, рефератом, отчетом по практике, научно-исследовательской и любой другой работой - мы готовы помочь.
Предоплата всего
Подписываем
ww.koob.ru
Из коллекции сайта «РазныеРазности»
http://hotmix.narod.ru
РОДЖЕР ПЕНРОУЗ
«Тени разума. В поисках науки о сознании.»
Часть I. ПОЧЕМУ ДЛЯ ПОНИМАНИЯ РАЗУМА НЕОБХОДИМА НОВАЯ ФИЗИКА? Невычислимость сознательного мышления
1
СОЗНАНИЕ И ВЫЧИСЛЕНИЕ
1.1. Разум и наука
Насколько широки доступные науке пределы? Подвластны ли ее методам лишь материальные свойства нашей Вселенной, тогда как познанию нашей духовной сущности суждено навеки остаться за рамками ее возможностей? Или, быть может, одна жды мы обретем надлежащее научное понимание тайны разума? Лежит ли феномен сознания человека за пределами досягаемости научного поиска, или все же настанет тот день, когда силой на учного метода будет разрешена проблема самого существования наших сознательных «я»?
Кое-кто склонен верить, что мы действительно способны приблизиться к научному пониманию сознания, что в этом фе номене вообще нет ничего загадочного, а всеми существенными его ингредиентами мы уже располагаем. Они утверждают, что в настоящий момент наше понимание мыслительных процессов человека ограничено лишь крайней сложностью и изощренной организацией человеческого мозга; разумеется, эту сложность и изощренность недооценивать ни в коем случае не следует, однако принципиальных препятствий для выхода за рамки современной научной картины нет. На противоположном конце шкалы распо ложились те, кто считает, что мы не можем даже надеяться на адекватное применение холодных вычислительных методов бес чувственной науки к тому, что связано с разумом, духом да и самой тайной сознания человека.
В этой книге я попытаюсь обратиться к вопросу сознания с научных позиций. При этом, однако, я твердо убежден (и осно вано это убеждение на строго научной аргументации) в том, что в современной научной картине мира отсутствует один очень важный ингредиент. Этот недостающий ингредиент совершенно необходим, если мы намерены хоть сколько-нибудь успешно уме стить центральные проблемы мыслительных процессов человека в рамки логически последовательного научного мировоззрения. Я утверждаю, что сам по себе этот ингредиент не находится за пределами, доступными науке, хотя в данном случае нам, несо мненно, придется в некоторой степени расширить наш научный кругозор. Во второй части книги я попытаюсь указать читателю конкретное направление, следуя которому он непременно придет как раз к такому расширению современной картины физической вселенной. Это направление связано с серьезным изменением са мых основных из наших физических законов, причем я весьма де тально опишу необходимую природу этого изменения и возмож ности его применения к биологии нашего мозга. Даже обладая нынешним ограниченным пониманием природы этого недостаю щего ингредиента, мы вполне способны указать области, отме ченные его несомненным влиянием, и определить, каким именно образом он вносит крайне существенный вклад в то, что лежит в основе осознаваемых нами ощущений и действий.
Разумеется, некоторые из приводимых мной аргументов ока жутся не совсем просты, однако я постарался сделать свое изло жение максимально ясным и везде, где только возможно, исполь зовал лишь элементарные понятия. Кое-где в книге все же встре чаются некоторые сугубо математические тонкости, но только тогда, когда они действительно необходимы или каким-то обра зом способствуют достижению более высокой степени ясности рассуждения. С некоторых пор я уже не жду, что смогу с помо щью аргументов, подобных приводимым ниже, убедить в своей правоте всех и каждого, однако хотелось бы отметить, что эти аргументы все же заслуживают внимательного и беспристраст ного рассмотрения — хотя бы потому, что они создают прецедент, пренебрегать которым нельзя.
Научное мировоззрение, которое на глубинном уровне не желает иметь ничего общего с проблемой сознательного мыш ления, не может всерьез претендовать на абсолютную завершен ность. Сознание является частью нашей Вселенной, а потому лю бая физическая теория, которая не отводит ему должного места, заведомо неспособна дать истинное описание мира. Я склонен думать, что пока ни одна физическая, биологическая либо математическая теория не приблизилась к объяснению нашего созна ния и его логического следствия — интеллекта, однако этот факт ни в коей мере не должен отпугнуть нас от поисков такой теории. Именно эти соображения легли в основу представленных в книге рассуждений. Возможно, продолжая поиски, мы когда-нибудь получим в полной мере приемлемую совокупность идей. Если это произойдет, то наше философское восприятие мира претерпит, по всей вероятности, глубочайшую перемену. И все же научное знание — это палка о двух концах. Важно еще, что мы намере ны делать со своим научным знанием. Попробуем разобраться, куда могут привести нас наши взгляды на науку и разум.
1.2. Спасут ли роботы этот безумный мир?
Открывая газету или включая телевизор, мы всякий раз рис куем столкнуться с очередным проявлением человеческой глупо сти. Целые страны или отдельные их области пребывают в вечной конфронтации, которая время от времени перерастает в отвра тительнейшие войны. Чрезмерный религиозный пыл, национа лизм, интересы различных этнических групп, простые языковые или культурные различия, а то и корыстные интересы отдельных демагогов могут привести к непрекращающимся беспорядкам и вспышкам насилия, порой беспрецедентным по своей жестоко сти. В некоторых странах власть до сих пор принадлежит де спотическим авторитарным режимам, которые угнетают народ, держа его под контролем с помощью пыток и бригад смерти. При этом порабощенные — то есть те, кто, на первый взгляд, должны быть объединены общей целью, — зачастую сами конфликтуют друг с другом; создается впечатление, что, получи они свободу, в которой им так долго отказывали, дело может дойти до самого настоящего взаимоистребления. Даже в сравнительно благопо лучных странах, наслаждающихся преуспеянием, миром и демо кратическими свободами, природные богатства и людские ресур сы проматываются очевидно бессмысленным образом. Не яв ный ли это признак общей глупости Человека? Мы уверены, что являем собой апофеоз интеллекта в царстве животных, однако этот интеллект, по всей видимости, оказывается самым жалким образом не способен справиться с множеством проблем, которые продолжает ставить перед нами наше собственное общество.
Впрочем, нельзя забывать и о положительных достижениях нашего интеллекта. Среди них — весьма впечатляющие наука и технология. В самом деле, признавая, что некоторые плоды этой технологии имеют явно спорную долговременную (или сиюми нутную) ценность, о чем свидетельствуют многочисленные про блемы, связанные с окружающей средой, и неподдельный ужас перед техногенной глобальной катастрофой, нельзя забывать и о том, что эта же технология является фундаментом нашего совре менного общества со всеми его удобствами, свободой от страха, болезней и нищеты, с обширными возможностями для интел лектуального и эстетического развития, включая весьма способ ствующие этому развитию средства глобальной коммуникации. Если технология сумела раскрыть столь огромный потенциал и, в некотором смысле, расширила границы и увеличила возмож ности наших индивидуальных физических «я», то не следует ли ожидать от нее еще большего в будущем?
Благодаря технологиям — как древним, так и современ ным — существенно расширились возможности наших органов чувств. Зрение получило поддержку и дополнительную функ циональность за счет очков, зеркал, телескопов, всевозмож ных микроскопов, а также видеокамер, телевизоров и т. п. Не остались в стороне и наши уши: сначала им помогали слу ховые трубки, теперь же — крохотные электронные слуховые аппараты; что касается функциональных возможностей наше го слуха, то их расширение связано с появлением телефонов, радиосвязи и спутников. На подмогу естественным средствам передвижения приходят велосипеды, поезда, автомобили, кора бли и самолеты. Помощниками нашей памяти выступают печат ные книги и фильмы, а также огромные емкости запоминаю щих устройств электронных, компьютеров. Наши способно сти к решению вычислительных задач — простых и рутинных или же громоздких и изощренных — также весьма увеличива ются благодаря возможностям современных компьютеров. Та ким образом, технология не только обеспечивает громадное рас ширение сферы деятельности наших физических «я», она так же усиливает наши умственные возможности, совершенствуя наши способности к выполнению многих повседневных задач. А как насчет тех умственных задач, которые далеки от обы денности и рутины, — задач, требующих участия подлинного интеллекта? Совершенно естественно спросить: поможет ли нам и в их решении технология, основанная на повсеместной компьютеризации?
Я практически не сомневаюсь, что в нашем технологическом (часто сплошь компьютеризованном) обществе в неявном виде присутствует, как минимум, одно направление, содержащее гро мадный потенциал для совершенствования интеллекта. Я имею в виду образовательные возможности нашего общества, которые могли бы весьма значительно выиграть от применения различных аспектов технологии, — для этого требуются лишь должные чут кость и понимание. Технология обеспечивает необходимый по тенциал, т. е. хорошие книги, фильмы, телевизионные программы и всевозможные интерактивные системы, управляемые компью терами. Эти и прочие разработки предоставляют массу возмож ностей для расширения нашего кругозора; они же, впрочем, могут и задушить его. Человеческий разум способен на гораздо боль шее, чем ему обычно дают шанс достичь. К сожалению, эти воз можности зачастую попросту разбазариваются, и умы как ста рых, так и малых не получают тех благоприятных возможностей, которых они несомненно заслуживают.
Многие читатели спросят: а нет ли какой-то иной возможно сти существенного расширения умственных способностей чело века — например, с помощью этакого нечеловеческого электрон ного «интеллекта», к появлению которого нас как раз вплотную подводят выдающиеся достижения компьютерных технологий? Действительно, уже сейчас мы часто обращаемся за интеллек туальной поддержкой к компьютерам. В очень многих ситуациях человек, используя лишь свой невооруженный разум, оказывает ся не в состоянии оценить возможные последствия того или иного своего действия, так как они могут находиться далеко за пре делами его ограниченных вычислительных способностей. Таким образом, можно ожидать, что в будущем произойдет значитель ное расширение роли компьютеров именно в этом направлении, т. е. там, где для принятия решения человеческому интеллекту требуются именно однозначные и вычислимые факты.
И все же не могут ли компьютеры достичь в конечном итоге чего-то большего? Многие специалисты заявляют, что компью теры обладают потенциалом, достаточным — по крайней мере, принципиально — для формирования искусственного интел лекта, который со временем превзойдет наш собственный. По утверждению этих специалистов, как только управляемые посредством вычислительных схем роботы достигнут уровня «эк вивалентности человеку», понадобится совсем немного времени, чтобы они значительно поднялись над нашим ничтожным уров нем. Только тогда, не унимаются специалисты, появятся у нас власти, обладающие интеллектом, мудростью и пониманием, до статочными для того, чтобы суметь разрешить глобальные про блемы этого мира, человечеством же и созданные.
Когда же нам следует ожидать наступления сего счастливого момента? По данному вопросу у упомянутых специалистов нет единого мнения. Одни говорят о многих столетиях, другие заяв ляют, будто эквивалентность компьютера человеку будет достиг нута всего через несколько десятилетий. Последние обычно указывают на очень быстрый «экспоненциальный» рост мощно сти компьютеров и основывают свои оценки на сравнении скоро сти и точности транзисторов с относительной медлительностью и «небрежностью» нейронов. И правда, скорость работы элек тронных схем уже более чем в миллион раз превышает скорость возбуждения нейронов в мозге (порядка операций в секунду для транзисторов и лишь для нейронов), при этом электрон ные схемы демонстрируют высокую точность синхронизации и обработки инструкций, что ни в коей мере не свойственно ней ронам. Более того, конструкции «принципиальных схем» мозга присуща высокая степень случайности, что, на первый взгляд, представляется весьма серьезным недостатком по сравнению с продуманной и точной организацией электронных печатных плат.
Кое в чем, однако, нейронная структура мозга все же вполне измеримо превосходит современные компьютеры, хотя это пре восходство может оказаться относительно недолговечным. Уче ные утверждают, что по общему количеству нейронов (несколько сотен тысяч миллионов) человеческий мозг опережает в пересче те на транзисторы современные компьютеры. Более того, в сред нем, нейроны мозга соединены гораздо большим количеством связей, нежели транзисторы в компьютере. В частности, клетки Пуркинье в мозжечке могут иметь до синаптических окончаний (зон контакта между нейронами), тогда как для компьютера соответствующее значение равно максимум трем или четырем. (В дальнейшем я приведу еще несколько комментариев относительно мозжечка; см. § 1.14, §8.6.) Кроме того, большая часть транзисторов в современных компьютерах занимается лишь хра нением данных и не имеет отношения непосредственно к вычис лениям, тогда как в мозге, по всей видимости, в вычислениях может принимать участие гораздо более значительный процент клеток.
Это временное превосходство мозга может быть без труда преодолено в будущем, особенно когда должное развитие получат вычислительные системы с массивным «параллелизмом». Пре имущество компьютеров в том, что отдельные их узлы можно объединять друг с другом, создавая все более крупные блоки, так что общее количество транзисторов, в принципе, можно увеличи вать почти бесконечно. Кроме того, ждут своего выхода на сце ну и технологические инновации — такие, как замена кабелей и транзисторов современных компьютеров соответствующими оп тическими (лазерными) устройствами, благодаря чему, вероятно, будет достигнуто огромное увеличение скорости и мощности с одновременным уменьшением размеров компьютеров. На более фундаментальном уровне можно отметить, что наш мозг, судя по всему, застрял на своем теперешнем уровне, и его количествен ные характеристики вряд ли в обозримом будущем изменятся; кроме того, имеется и много других ограничений — например, мозг вырастает из одной-единственной клетки, и ничего с этим не поделаешь. Компьютеры же можно конструировать, учиты вая заранее возможность их расширения по мере необходимости. Хотя несколько позже я укажу на некоторые важные факторы, которые в данном рассуждении пока не фигурируют (в частности, речь пойдет о весьма бурной деятельности, лежащей в основе функционирования нейронов), одна лишь вычислительная мощь компьютеров вполне способна составить очень и очень внуши тельный довод в пользу следующего неутешительного предполо жения: если машина на данный момент и не превосходит челове ческий мозг, то она непременно превзойдет его в самом ближай шем будущем.
Таким образом, если поверить самым смелым заявлениям наиболее отъявленных провозвестников искусственного интел лекта и допустить, что компьютеры и управляемые ими роботы в конечном счете — и даже, вероятно, довольно скоро — во всем превзойдут человека, то получается, что компьютеры способны стать чем-то неизмеримо большим, чем просто помощниками нашего интеллекта. Они, в сущности, разовьют свой собственный колоссальный интеллект. А мы сможем обращаться к этому выс шему интеллекту за советом и поддержкой во всех своих забо тах — и наконец-то появится возможность исправить все то зло, что мы принесли в этот мир!
Однако из этих потенциальных соображений возможно, по-видимому, и другое логическое следствие, причем весьма и весьма тревожное. Не сделают ли такие компьютеры в итоге ненужными самих людей? Если управляемые компьютерами роботы превзой дут нас во всех отношениях, то не обнаружат ли они, что машины в состоянии править миром неизмеримо лучше людей, и не сочтут ли они нас в таком случае вообще ни на что не пригодными? Все человечество окажется в таком случае не более чем пережитком прошлого. Быть может, если повезет, они оставят нас при се бе в качестве домашних животных, как однажды предположил Эдвард Фредкин. Возможно также, что у нас достанет сообра зительности, и мы сумеем перенести «информационные модели», составляющие нашу «сущность», в машинную форму — о такой возможности писал Ханс Моравек( 1988). Опять же, может, и не повезет, а сообразительности не достанет...
1.3. Вычисление и сознательное мышление
В чем же здесь загвоздка? Неужели все дело лишь в вычис лительных способностях, в скорости и точности работы, в объеме памяти или, быть может, в конкретном способе «связи» отдель ных структурных элементов? С другой стороны, не может ли наш мозг выполнять какие-то действия, которые вообще невозможно описать через вычисление? Каким образом можно поместить в такую вычислительную картину нашу способность к осмыслен ному осознанию — счастья, боли, любви, какого-либо эстетиче ского переживания, желания, понимания и т. п.? Будут ли ком пьютеры будущего действительно обладать разумом? Влияет ли обладание сознательным разумом на поведение индивида, и если влияет, то как именно? Имеет ли вообще смысл говорить о таких вещах на языке научных терминов; иными словами, обладает ли наука достаточной компетентностью для того, чтобы рассматри вать вопросы, относящиеся к сознанию человека?
Мне кажется, что можно говорить, как минимум, о четырех различных точках зрения) — или даже крайностях, — которых разумный индивид может придерживаться в отношении данного вопроса:
Всякое мышление есть вычисление; в частности, ощущение осмысленного осознания есть не что иное, как результат вы полнения соответствующего вычисления.
Осознание представляет собой характерное проявление фи зической активности мозга; хотя любую физическую актив ность можно моделировать посредством той или иной сово купности вычислений, численное моделирование как таковое не способно вызвать осознание.
Осознание является результатом соответствующей физиче ской активности мозга, однако эту физическую активность невозможно должным образом смоделировать вычислитель ными средствами.
Осознание невозможно объяснить в физических, математи ческих и вообще научных терминах.
Точка зрения полностью отрицающая взгляды физикалистов и рассматривающая разум как нечто абсолютно непод властное языку науки, свойственна мистикам; и, по крайней мере, в какой-то степени, такое мировоззрение, видимо, сродни рели гиозной доктрине. Лично я считаю, что связанные с разумом во просы, пусть даже и не объясняемые должным образом в рамках современного научного понимания, не следует рассматривать как нечто, чего науке никогда не постичь. Пусть на данный момент наука и не способна сказать в отношении этих вопросов своего веского слова, со временем ее возможности неминуемо расши рятся настолько, что в ней найдется место и для таких вопросов, причем не исключено, что в процессе такого расширения изме нятся и сами ее методы. Отбрасывая мистицизм с его отрицанием научных критериев в пользу научного познания, я все же убежден, что и в рамках усовершенствованной науки вообще и математики в частности найдется немало загадок, среди которых не последнее место займет тайна разума. К некоторым из этих идей я еще вернусь в следующих главах книги, сейчас же достаточно будет сказать, что согласиться с точкой зрения я никак не могу, поскольку твердо намерен двигаться вперед, следуя пути, проло женному наукой. Если мой читатель питает сильное убеждение, что истинным является именно пункт , в той или иной его форме, я попрошу его потерпеть еще немного и посмотреть, сколько нам удастся пройти вместе по дороге науки, — и попытаться при этом понять, куда, по моему убеждению, эта дорога в конечном счете нас приведет.
Теперь обратимся к противоположной крайности: к точке зрения . Эту точку зрения разделяют сторонники так называ емого сильного, или жесткого, искусственного интеллекта (ИИ), иногда для обозначения такой позиции употребляется так же термин функционализм, хотя некоторые распространяют термин «функционализм» еще и на определенные варианты пунк та . Одни считают единственно возможной точкой зрения, которую допускает сугубо научное отношение. Другие воспри нимают как нелепость, которая вряд ли стоит сколь-нибудь серьезного внимания. Существует, несомненно, множество раз личных вариантов позиции . (Длинный список альтернативных версий вычислительной точки зрения приводится в [343].) Неко торые из них отличаются лишь различным пониманием того, что следует считать «вычислением» или «выполнением вычисления». Есть и такие приверженцы , которые вообще не считают се бя «сторонниками сильного ИИ», поскольку придерживаются принципиально иного взгляда на интерпретацию термина «вы числение», нежели та, что предлагается в традиционном понятии ИИ (см. [ 111 ]). Я рассмотрю эти вопросы подробнее в § 1.4. Пока же достаточно будет понимать под «вычислением» такую опера цию, какую способны выполнять обычные универсальные ком пьютеры. Другие сторонники позиции могут расходиться в ин терпретации значения терминов «осмысление» или «осознание». Некоторые отказываются признавать само существование та кого феномена, как «осмысленное осознание», тогда как другие собственно феномен признают, однако рассматривают его лишь как своего рода «эмергентное свойство» (см. также §4.3 и §4.4), которое проявляется всякий раз, когда выполняемое вычисление имеет достаточную степень сложности (или громоздкости, или самоотносимости, или чего угодно еще). В § 1.12 я приведу свою собственную интерпретацию терминов «осознание» и «осмысле ние». Пока же любые расхождения в возможной их интерпрета ции не будут иметь особой важности для наших рассуждений.
Аргументы, приведенные мной в НРК, были направлены, главным образом, против точки зрения , или позиции сильного ИИ. Один только объем этой книги должен показать, что, хотя лично я не верю в истинность , я все же рассматриваю эту точку зрения как реальную возможность, на которую стоит обратить серьезное внимание. есть следствие предельно операционного подхода к науке, предполагающего, что абсолютно все феномены физического мира можно описать одними лишь вычислительны ми методами. В одной из крайних вариаций такого подхода сама вселенная рассматривается, по существу, как единый гигантский компьютер), причем «осмысленные осознания», формирующие, в сущности, наш с вами сознательный разум, вызываются по средством соответствующих субвычислений, выполняемых этим компьютером.
Я полагаю, что эта точка зрения (согласно которой фи зические системы следует считать простыми вычислительными объектами) отчасти основывается на значительной и постоянно растущей роли вычислительных моделей в современной науке и отчасти из убеждения в том, что сами физические объекты — это, в некотором смысле, всего лишь «информационные моде ли», подчиняющиеся математическим, вычислительным законам. Большая часть материи, из которой состоят наше тело и мозг, по стоянно обновляется — неизменными остаются лишь их модели. Более того, и сама материя, судя по всему, ведет преходящее су ществование, поскольку ее можно преобразовать из одной фор мы в другую. Даже масса материального тела, которая является точной физической мерой количества материи, содержащегося в теле, может быть при определенных обстоятельствах превраще на в чистую энергию (в соответствии со знаменитой формулой Эйнштейна ). Следовательно, и материальная субстанция, по-видимому, способна превращаться в нечто, обладающее лишь теоретико-математической реальностью. Более того, если верить квантовой теории, материальные частицы — это не что иное, как информационные «волны». (На этих вопросах мы более подробно остановимся во второй части книги.) Таким образом, сама материя есть нечто неопределенное и недолговечное, поэто му вполне разумно предположить, что постоянство человеческого «я», возможно, больше связано с сохранением моделей, нежели реальных частиц материи.
Даже если мы не считаем возможным рассматривать все ленную всего лишь как компьютер, к точке зрения нас могут подтолкнуть более практические, операционные соображения.
Предположим, что перед нами управляемый компьютером робот, который отвечает на вопросы так же, как это делал бы человек. Мы спрашиваем его, как он себя чувствует, и обнаруживаем, что его ответы полностью соответствуют нашим представлениям об ответах на подобные вопросы разумного существа, действи тельно обладающего чувствами. Он говорит нам, что способен к осознанию, что ему весело или грустно, что он воспринимает красный цвет и что его волнуют вопросы «разума» и «собствен ного я». Он может даже выразить озадаченность тем, следует ли ему допустить, что и других существ (в частности, людей) нужно рассматривать как обладающих сознанием, сходным с тем, на обладание которым претендует он сам. Что помешает нам пове рить его утверждениям о том, что он ощущает, любопытствует, радуется, испытывает боль, особенно если учесть, что о других людях мы знаем ничуть не больше и все же считаем их обладаю щими сознанием? Мне кажется, что операционный аргумент все же обладает значительной силой, хотя его и нельзя считать ре шающим. Если все внешние проявления сознательного разума, включая ответы на непрекращающиеся вопросы, действитель но могут быть полностью воспроизведены системой, управляе мой исключительно вычислительными алгоритмами, то мы имеем полное право допустить, что в рамках рассматриваемой ситуации такая модель должна содержать и все внутренние проявления разума (включая собственно сознание).
Принимая или отвергая такой вывод из вышеприведенного рассуждения, которое в основе своей составляет суть так называ емого теста Тьюринга, мы тем самым определяем свою при надлежность к тому или иному лагерю — именно здесь проходит граница между позициями .Согласно , любого управляемого компьютером робота, который после достаточно большого количества заданных ему вопросов ведет себя так, словно он обладает сознанием, следует фактически считать обладающим сознанием. Согласно , робот вполне может вести себя точно так же, как обладающий сознанием человек, при этом реально не имея и малой доли этого внутреннего качества. И сходятся в том, что управляемый компьютером робот может ве сти себя так, как ведет себя обладающий сознанием человек, же, напротив, не допускает и малейшей возможности того, что когда-либо может быть реализована эффективная модель обла дающего сознанием человека в виде управляемого компьютером робота. Таким образом, согласно , после некоторого достаточно большого количества вопросов реальное отсутствие сознания у робота так или иначе проявится. Вообще говоря, является в го раздо большей степени операционной точкой зрения, нежели , и в этом отношении она больше похожа на , чем на Так что же представляет собой позиция ? Я думаю, что — это, вероятно, именно та точка зрения, которую многие полагают «научным здравым смыслом». Описываемый ею искусственный интеллект еще называют слабым (или мягким) ИИ. Подобно , она утверждает, что все физические объекты этого мира должны вести себя в соответствии с некоторыми научными принципами, которые, в принципе, допускают создание вычислительной моде ли этих объектов. С другой стороны, эта точка зрения уверен но отрицает мнение операционистов, согласно которому любой объект, внешне проявляющий себя как сознательное существо, непременно обладает сознанием. Как отмечает философ Джон Серл, вычислительную модель физического процесса никоим образом не следует отождествлять с самим процессом, проис ходящим в действительности. (Компьютерная модель, например, урагана — это совсем не то же самое, что и реальный ураган!) Со гласно взгляду , наличие или отсутствие сознания очень сильно зависит от того, какой именно физический объект «осуществляет мышление» и какие физические действия он при этом совершает. И только потом следует рассмотреть конкретные вычисления, которых требуют эти действия. Таким образом, активность био логического мозга может вызвать осознание, а вот его точная электронная модель вполне может оказаться на это неспособной. Это различие, по , совсем не обязательно должно оказаться различием между биологией и физикой. Однако крайне важным остается реальное материальное строение рассматриваемого объекта (скажем, мозга), а не просто его вычислительная актив ность.
Позиция , на мой взгляд, ближе всех к истине. Она подра зумевает более операционный подход, нежели , так как утвер ждает, что существуют такие внешние проявления обладающих сознанием объектов (скажем, мозга), которые отличаются от внешних проявлений компьютера: внешние проявления сознания невозможно должным образом воспроизвести вычислительными методами. Свои основания для такой убежденности я приведу несколько позже. Поскольку , как и , не отвергает позиции физикалистов, согласно которой разум возникает в результате проявления активности тех или иных физических объектов (на пример, мозга, хотя это и не обязательно), следовательно, под разумевает, что не всякую физическую активность можно долж ным образом смоделировать вычислительными методами.
Допускает ли современная физика возможность существо вания процессов, которые принципиально невозможно смодели ровать на компьютере? Если мы надеемся получить на этот во прос математически строгий ответ, то нас ждет разочарование. По крайней мере, лично мне такой ответ неизвестен. Вообще, с математической точностью здесь дело обстоит несколько запу таннее, чем хотелось бы). Однако сам я убежден в том, что подобные невычислимые процессы следует искать за предела ми тех областей физики, которые описываются известными на настоящий момент физическими законами. Далее в этой книге я вновь перечислю некоторые весьма серьезные — причем имен но физические — доводы в пользу того, что мы действительно нуждаемся в новом взгляде на ту область, которая лежит между уровнем микроскопических величин, где господствуют квантовые законы, и уровнем «обычных» размеров, подвластным класси ческой физике. Хотя, надо сказать, далеко не все современные физики единодушно уверены в необходимости подобной новой физической теории.
Таким образом, существуют, как минимум, две различные точки зрения, которые можно отнести к категории . Одни сто ронники утверждают, что наше современное физическое по нимание абсолютно адекватно, следует лишь обратить в рамках традиционной теории более пристальное внимание на некото рые тонкие типы поведения, которые вполне могут вывести нас за пределы того, что целиком и полностью объяснимо с помо щью вычислений (некоторые из таких типов мы рассмотрим ни же — например, хаотическое поведение (§ 1.7), некоторые тон кости непрерывного действия в противоположность дискретному (§ 1.8), квантовая случайность). Другие же, напротив, полагают, что современная физика, в сущности, не располагает должны ми средствами для реализации невычислимости требуемого типа. Далее я представлю некоторые веские, на мой взгляд, доводы в пользу принятия позиции именно в этом, более строгом, ее варианте, который предполагает создание фундаментально новой физики.
Кое-кто попытался было объявить, что эти соображения от правляют меня прямиком в лагерь сторонников точки зрения , поскольку я утверждаю, что для отыскания хоть какого-то объ яснения феномену сознания нам придется выйти за пределы из вестной науки. Однако между упомянутым строгим вариантом и точкой зрения есть существенная разница, в частности, на уровне методологии. В соответствии с , проблема осмыслен ного осознания носит, в сущности, научный характер, даже если подходящей наукой мы пока что не располагаем. Я всецело под держиваю эту точку зрения; я полагаю, что ответы на интересую щие нас вопросы нам следует искать именно с помощью научных методов — разумеется, должным образом усовершенствованных, пусть даже о конкретной природе необходимых изменений мы, возможно, имеем на данный момент лишь самое смутное пред ставление. В этом и состоит ключевая разница между , на сколько бы похожими не казались нам соответствующие мнения относительно того, на что способна современная наука.
Определенные выше точки зрения представляют собою крайности, или полярные точки возможных позиций, кото рых может придерживаться тот или иной индивидуум. Я вполне допускаю, что кому-то может показаться, что их собственные взгляды не подходят ни под одну из перечисленных категорий, а лежат где-то между ними либо противоречат некоторым из них. Безусловно, между такими, например, крайними точками зрения, как , можно разместить множество различных промежуточных точек зрения (см. [343]). Существует даже мне ние (весьма, кстати, широко распространенное), которое лучше всего определяется как комбинация (или, быть может, и ), — предусматриваемая им возможность еще сыграет нема ловажную роль в наших дальнейших размышлениях. Согласно этому мнению, мозг действительно работает как компьютер, од нако компьютер настолько невообразимой сложности, что его имитация не под силу человеческому и научному разумению, ибо он, несомненно, является божественным творением Господа — «лучшего в мире системотехника», не иначе!
1.4. Физикализм и ментализм
Я должен сделать здесь краткое отступление касательно использования терминов «физикалист» и «менталист», обыч но противопоставляемых один другому, в нашей конкретной ситуации, т. е. в отношении крайних точек зрения, обозначенных нами через .Поскольку являет собой полное отрицание физикализма, сторонников безусловно следует считать менталистами. Однако мне не совсем ясно, где провести границу между физикализмом и ментализмом в случае с тремя другими позициями Я полагаю, что приверженцев следует обыкновенно считать физикалистами, и я уверен, что подавля ющее их большинство согласилось бы со мной. Однако здесь скрывается некий парадокс. В соответствии с , материальное строение мыслящего устройства считается несущественным. Все его мыслительные атрибуты определяются лишь вычислениями, которые это устройство выполняет. Сами по себе вычисления суть феномены абстрактной математики, не связанные с конкрет ными материальными телами. Таким образом, согласно , сами мыслительные атрибуты не имеют жесткой связи с физически ми объектами, а потому термин «физикалист» может показаться несколько неуместным. Точки зрения , напротив, требуют, чтобы при определении наличия в том или ином объекте подлин ного разума решающую роль играло реальное физическое стро ение рассматриваемого объекта. Соответственно, вполне можно было бы утверждать, что именно эти точки зрения, а никак не , представляют возможные позиции физикалистов. Однако такая терминология, по-видимому, вошла бы в некоторое противоречие с общепринятым употреблением, где более уместным считается называть «менталистами» сторонников , поскольку в этих случаях свойства мышления рассматриваются как нечто «реаль ное», а не просто как «эпифеномены», которые случайным обра зом возникают при выполнении определенных типов вычислений. Ввиду такой путаницы, я буду избегать использования терминов «физикалист» и «менталист» в последующих рассуждениях, ссы лаясь вместо этого на конкретные точки зрения , определенные выше.
1.5. Вычисление: нисходящие и восходящие процедуры
До сих пор было не совсем ясно, что именно я понимаю под термином «вычисление» в определениях позиций приведенных в § 1.3. Что же такое вычисление? В двух словах: это все, что делает самый обычный универсальный компьютер. Если же мы хотим быть более точными, то следует воспринимать этот термин в соответственно идеализированном смысле: вычис ление — это действие машины Тьюринга.
А что такое машина Тьюринга? По сути, это и есть матема тически идеализированный компьютер (теоретический предше ственник современного универсального компьютера); идеализи рован же он в том смысле, что никогда не ошибается, может рабо тать сколько угодно долго и обладает неограниченным объемом памяти. Немного более подробно о точных спецификациях машин Тьюринга я расскажу в §2.1 и в Приложении А (с. 191). (Интере сующийся более полным введением в этот вопрос читатель может обратиться к описанию, приведенному в НРК, глава 2, а также к работам Клина[222]или Дэвиса [71].)
Для описания деятельности машины Тьюринга нередко ис пользуют термин «алгоритм». В данном контексте я считаю тер мин «алгоритм» полностью синонимичным термину «вычисле ние». Здесь необходимо небольшое разъяснение, так как в от ношении термина «алгоритм» некоторые придерживаются более узкой точки зрения, нежели предлагаемая мною здесь, подразу мевая под алгоритмом то, что я в дальнейшем буду более конкрет но называть «нисходящим алгоритмом». Попытаемся разобрать ся, что же следует понимать в контексте вычисления под терми ном «нисходящий» и противоположным ему термином «восходя щий».
Мы говорим, что вычислительная процедура имеет нисхо дящую организацию, если она построена в соответствии с неко торой прозрачной и хорошо структурированной фиксированной вычислительной процедурой (которая может содержать некий заданный заранее объем данных) и предоставляет, в частности, четкое решение для той или иной рассматриваемой проблемы. (Описанный в НРК на с. евклидов алгоритм нахождения наибольшего общего делителя двух натуральных чисел представ ляет собой простой пример нисходящего алгоритма.) В противо положность такой организации существует организация восхо дящая, где упомянутые четкие правила выполнения действий и объем данных заранее не определены, однако вместо этого имеется некоторая процедура, определяющая, каким образом система должна «обучаться» и повышать свою эффективность в соот ветствии с накопленным «опытом». Иными словами, в случае восходящей системы правила выполнения действий подвержены постоянному изменению. Очевидно, что такая система должна пройти множество циклов, выполняя требуемые действия над непрерывно поступающими данными. Во время каждого прогона производится оценка эффективности (возможно, самой систе мой), после чего, в соответствии с этой оценкой, система так или иначе модифицирует свои действия, стремясь улучшить качество вывода данных. Например, на вход системы подаются несколько оцифрованных с некоторым качеством фотопортретов, и ставится задача — определить, на каких портретах изображен один чело век, а на каких — другой. После каждого прогона результат вы полнения задачи сравнивается с правильным, после чего правила выполнения действий модифицируются так, чтобы с некоторой вероятностью добиться улучшения функционирования системы при следующем прогоне.
Конкретные способы такого улучшения в какой-либо кон кретной восходящей системе нас в данный момент не интересуют. Достаточно сказать, что количество всевозможных готовых схем весьма велико. Среди наиболее известных систем восходящего типа можно упомянуть так называемые искусственные нейрон ные сети (иногда их называют просто «нейронными сетями», что может ввести в некоторое заблуждение), которые представляют собой компьютерные самообучающиеся программы — или же особым образом сконструированные электронные устройства, — основанные на определенных представлениях о реальной орга низации системы связей между нейронами в мозге и о том, каким образом эта система улучшается по мере приобретения мозгом опыта. (Вопрос о том, как в действительности модифици рует самоё себя система взаимосвязей между нейронами моз га, приобретет для нас особую значимость несколько позднее; см. §7.4 и §7.7.) Очевидно также, что возможны системы, со четающие в себе элементы как восходящей, так и нисходящей организации.
Для наших целей важно понимать, что и нисходящие, и восходящие вычислительные процедуры с легкостью выполня ются на универсальном компьютере, а потому их можно отне сти к категории процессов, названных мною вычислительными и алгоритмическими. Таким образом, в случае восходя щих (или комбинированных) систем сам способ модификации системой своих процедур задается какими-то целиком и пол ностью вычислительными инструкциями, причем задается за благовременно. Этим и объясняется возможность реализации всей системы на обычном компьютере. Существенная разница между восходящей (или комбинированной) системой и системой нисходящей состоит в том, что в первом случае вычислитель ная процедура должна подразумевать возможность сохранения «памяти» о предыдущем выполнении задачи (т. е. обладать спо собностью накапливать «опыт») с тем, чтобы эту память за тем можно было использовать в последующих вычислительных действиях. Конкретные подробности сейчас не имеют особого значения, однако к обсуждению этого вопроса мы еще вернемся в §3.11.
Задавшись целью создать искусственный интеллект (со кращенно «ИИ»), человек пока лишь пытается сымитировать разумное поведение на каком угодно уровне посредством каких-то вычислительных средств. При этом часто используется как нисходящая, так и восходящая организация. Первоначально наи более перспективными представлялись нисходящие системы, однако сейчас все большую популярность приобретают восходя щие системы типа искусственной нейронной сети. По всей види мости, получения наиболее успешных систем ИИ можно ожидать лишь при том или ином сочетании нисходящих и восходящих организаций. У каждой из них есть свои преимущества. Нисхо дящая организация наиболее успешна в тех областях, где дан ные и правила выполнения действий четко определены и имеют хорошо выраженный вычислительный характер — при решении некоторых конкретных математических задач, создании вычис лительных систем для игры в шахматы или, скажем, в медицин ской диагностике, где определение того или иного заболевания происходит с помощью заданных наборов правил, основанных на общепринятых медицинских процедурах. Восходящая же ор ганизация оказывается полезной, когда критерии для принятия решений не слишком точны или не совсем ясны — как, например, при распознавании лиц или звуков или, возможно, при поиске ме сторождений минералов, где основным поведенческим критерием становится повышение эффективности на основе накопленного опыта. Во многих подобных системах действительно присутствуют элементы и нисходящей, и восходящей организаций (напри мер, шахматный компьютер, обучающийся на основе опыта, или созданное на базе какой-либо четкой геологической теории вы числительное устройство, помогающее в поисках месторождений минералов).
Я думаю, справедливым будет сказать, что лишь в некото рых примерах нисходящей (или по большей части нисходящей) организации компьютеры демонстрируют значительное превос ходство над человеком. Самым очевидным примером может слу жить прямой численный расчет, где в наше время компьютеры побеждают человека без каких-либо усилий. То же самое от носится и к «вычислительным» играм, типа шахмат и шашек, в которые у лучших компьютеров способны выиграть, возможно, лишь несколько человек (более подробно об этом в § 1.15 и §8.2). В случае же восходящей организации (искусственной нейронной сети) компьютерам лишь в немногих специфических примерах удается достичь приблизительно уровня обычных хорошо обу ченных людей.
Еще одно отличие между видами компьютерных систем свя зано с различием между последовательной и параллельной ар хитектурами. Компьютер последовательного действия — это ма шина, выполняющая вычисления друг за другом, поэтапно, тогда как параллельный компьютер выполняет множество независи мых вычислений одновременно, результаты же этих вычислений сводятся вместе лишь по завершении достаточно большого их количества. Причем у истоков разработки некоторых параллель ных систем стояли все те же теории, описывающие предпола гаемые способы функционирования мозга. Здесь следует отме тить, что различие между вычислительными машинами после довательного и параллельного действия ни в коей мере не яв ляется принципиальным. Параллельное действие всегда можно смоделировать последовательно, хотя, конечно же, существуют некоторые типы задач (весьма немногочисленные), для решения которых эффективнее (в смысле затрат времени на вычисление и т.п.) будет параллельное действие, нежели последовательное. Поскольку в рамках настоящего труда меня занимают, главным образом, принципиальные вопросы, различия между параллель ными и последовательными вычислениями не представляются в этом отношении особенно существенными.
1.6. Противоречит ли точка зрения В тезису Черча—Тьюринга?
Вспомним, что точка зрения предполагает, что обладаю щий сознанием мозг функционирует таким образом, что его ак тивность не поддается никакому численному моделированию — ни нисходящего, ни восходящего, ни какого-либо другого типа. Те, кто сомневается в истинности могут отчасти оправдать свои сомнения тем, что формулировка якобы противоречит так называемому тезису Черча (или тезису Черча—Тьюринга) — вернее, тому условию, которое сейчас общепринято обозначать упомянутым термином. В чем же суть тезиса Черча? В перво начальной форме, предложенной американским логиком Алонзо Черчем в 1936 году, этот тезис гласил, что любой процесс, который можно корректно назвать «чисто механическим» мате матическим процессом, — т.е. любой алгоритмический про цесс — может быть реализован в рамках конкретной схемы, открытой самим Черчем и названной им лямбда-исчислением ( -исчислением) (весьма, надо отметить, изящная и концеп туально сдержанная схема; краткое ознакомительное изложе ние см. в НРК, с. 66—70). Вскоре после этого, в 1936—1937 годах, британский математик Алан Тьюринг нашел свой соб ственный, гораздо более убедительный способ описания алго ритмических процессов, основанный на функционировании те оретических «вычислительных машин», которые мы сейчас на зываем машинами Тьюринга. Вслед за Тьюрингом в некоторой степени аналогичную схему разработал американский ученый-логик польского происхождения Эмиль Пост( 1936). Далее Черч и Тьюринг независимо друг от друга показали, что исчисление Черча эквивалентно концепции машины Тьюринга (а следова тельно, и схемы Поста). Более того, именно этим концепциям Тьюринга в значительной степени обязаны своим появлением на свет современные универсальные компьютеры. Как уже упоми налось, машина Тьюринга по принципу функционирования фак тически полностью эквивалентна современному компьютеру, — несколько, впрочем, идеализированному, т. е. обладающему воз можностью использовать неограниченный объем памяти. Таким образом получается, что тезис Черча в его первоначальной фор мулировке всего лишь утверждает, что математическими алго ритмами следует считать как раз те процессы, которые способен выполнить идеализированный современный компьютер — а ес ли учесть общепринятое ныне определение термина «алгоритм», то такое утверждение и вовсе становится тавтологией. Так что принятие этой формулировки тезиса Черча не влечет за собой никакого противоречия точке зрения
Вполне вероятно, однако, что сам Тьюринг имел в виду нечто большее: вычислительные возможности любого физиче ского устройства должны (в идеале) быть эквивалентны дей ствию машины Тьюринга. Такое утверждение существенно вы ходит за рамки того, что изначально подразумевал Черч. При разработке концепции «машины Тьюринга» сам Тьюринг осно вывался на своих представлениях о том, чего, в принципе, мог бы достичь вычислитель-человек (см. [197]). Судя по всему, он полагал, что физическое действие в общем (а под эту категорию подпадает и активность мозга человека) всегда можно свести к какой-либо разновидности действия машины Тьюринга. Быть может, это утверждение (физическое) следует называть «тези сом Тьюринга» — для того чтобы отличать его от оригинального «тезиса Черча», утверждения чисто математического, которому никоим образом не противоречит Именно такой терминологии я намерен придерживаться далее в этой книге. Соответственно, точка зрения противоречит в этом случае тезису Тьюринга, а вовсе не тезису Черча.
1.7. Хаос
В последние годы ученые проявляют огромный интерес к ма тематическому феномену, известному под названием «хаос», — феномену, в рамках которого физические системы оказываются способными на якобы аномальное и непредсказуемое поведение (рис. 1.1). Образует ли феномен хаоса необходимую невычисли мую физическую основу для такой точки зрения, как ?
Хаотические системы — это динамически развивающиеся физические системы, математические модели таких физических систем или же просто математические модели, не описываю щие никакой реальной физической системы и интересные сами по себе; характерно то, что будущее поведение такой системы чрезвычайно сильно зависит от ее начального состояния, причем определяющими могут оказаться самые незначительные факто ры. Хотя обыкновенные хаотические системы являются полно стью детерминированными и вычислительными, на деле может показаться, что в их поведении ничего детерминированного нет и никогда не было. Это происходит потому, что для сколько-нибудь надежного детерминистического предсказания будущего поведения системы необходимо знать ее начальное состояние с такой точностью, которая может оказаться просто недостижимой не только для тех измерительных средств, которыми мы распола гаем, но также и для тех, которые мы только можем вообразить.
В этой связи чаще всего вспоминают о подробных долго срочных прогнозах погоды. Законы, управляющие движением молекул воздуха, а также другими физическими величинами, ко торые могут оказаться релевантными для определения будущей погоды, хорошо известны. Однако реальные синоптические ситу ации, которые могут возникнуть всего через несколько дней после предсказания, настолько тонко зависят от начальных условий, что нет никакой возможности измерить эти условия достаточно точно для того, чтобы дать хоть сколько-нибудь надежный про гноз. Безусловно, количество параметров, которые необходимо ввести в подобное вычисление, огромно; поэтому, быть может, и нет ничего удивительного в том, что в данном случае предсказание может оказаться на практике просто невозможным.
С другой стороны, подобное — так называемое хаотиче ское — поведение может иметь место и в случае очень простых систем; примером тому служат системы, состоящие из малого количества частиц. Вообразите, что от вас требуется загнать в лузу бильярдный шар Е, расположенный пятым в некоторой из вилистой и очень растянутой цепочке шаров ; вам нужно ударить кием по шару А так, чтобы тот ударил шар В, который, в свою очередь, ударил бы шар С, который ударил бы шар D, который ударил бы шар Е, который, наконец, по пал бы в лузу. В общем случае необходимая для этого точность значительно превышает способности любого профессионального игрока в бильярд. Если бы цепочка состояла из 20 шаров, то тогда — даже допустив, что эти шары представляют собой иде ально упругие точные сферы — задача загнать в лузу последний шар оказалась бы не под силу и самому точному механизму из всех доступных современной технологии. Поведение последних шаров цепочки было бы, в сущности, случайным, несмотря на то, что управляющие поведением шаров ньютоновы законы матема тически абсолютно детерминированы и, в принципе, эффективно вычислимы. Никакое вычисление не смогло бы предсказать ре альное поведение последних шаров цепочки просто потому, что нет никакой возможности добиться достаточно точного определения реального начального положения и скорости движения кия или положений первых шаров цепочки. Более того, даже самые незначительные внешние воздействия, вроде дыхания человека в соседнем городе, могут нарушить эту точность до такой степени, которая полностью обесценит результаты любого подобного вы числения.
Здесь необходимо пояснить, что, несмотря на столь серьез ные трудности, встающие перед детерминистическим предска занием, все нормальные системы, к которым применим термин «хаотические», следует относить к категории систем, которые я называю «вычислительными». Почему? Как и в других ситуаци ях, которые мы рассмотрим позднее, для того, чтобы определить, является ли та или иная процедура вычислительной, достаточно задать себе вопрос: выполнима ли она на обычном универсальном компьютере? Очевидно, что в данном случае ответ может быть только утвердительным, по той простой причине, что математиче ски описываемые хаотические системы и в самом деле изучаются, как правило, с помощью компьютера!
Разумеется, если мы попытаемся создать компьютерную мо дель для подробного предсказания погоды в Европе в течение недели или же для описания последовательных столкновений расположенных вдоль некоторой кривой на достаточно большом расстоянии друг от друга двадцати бильярдных шаров после того, как по первому из них резко ударили кием, то можно почти с пол ной определенностью утверждать, что результаты, полученные с помощью нашей модели, и близко не будут похожи на то, что произойдет в действительности. Такова природа хаотических систем. На практике бесполезно пытаться с помощью вычисле ний предсказать реальное конечное состояние системы. Тем не менее, моделирование типичного конечного состояния вполне возможно. Предсказанная погода может и не совпасть с реаль ной, но она абсолютно правдоподобна как погода вообще! Точно так же и предсказанный результат столкновений бильярдных ша ров абсолютно приемлем как возможный исход, даже несмотря на то, что на самом деле шары могут повести себя совершенно не так, как предсказано вычислением, — однако и при этом их поведение остается в равной степени приемлемым. Упомянем еще об одном обстоятельстве, которое подчеркивает идеально вы числительную природу таких операций: если запустить процесс компьютерного моделирования вторично, задав те же входные
данные, что и ранее, то результат моделирования будет точно таким же, как и в первый раз! (Здесь предполагается, что сам компьютер не ошибается; впрочем, надо признать, что современ ные компьютеры и в самом деле крайне редко совершают при вычислениях реальные ошибки.)
Возвращаясь к искусственному интеллекту, отметим, что ни кто пока и не пытается воспроизвести поведение какого-то кон кретного индивидуума; нас бы прекрасно устроила модель инди видуума вообще! В этом контексте моя позиция вовсе не пред ставляется такой уж неразумной: хаотические системы следует безусловно относить к категории систем, которые мы называем «вычислительными». Компьютерная модель такой системы и в самом деле выглядела бы как абсолютно приемлемый «типичный случай», даже и не совпадая при этом ни с каким «реальным случаем». Если внешние проявления человеческого разума суть результаты некоей хаотической динамической эволюции (эволю ции вычислительной в том смысле, о котором мы только что го ворили), то это вполне согласуется с точками зрения , но никак не
Время от времени выдвигаются предположения, что, воз можно, именно феномен хаоса — если, конечно, он действительно имеет место в деятельности мозга как физической сущности — позволяет человеческому мозгу симулировать поведение, якобы отличное от вычислительно-детерминированного функциониро вания машины Тьюринга, хотя, как подчеркивалось выше, фор мально его активность является целиком и полностью вычисли тельной. К этому вопросу мне еще придется вернуться несколько позднее . Пока же достаточно уяснить лишь то, что хаотические системы относятся к категории систем, называемых мною «вычислительными» или «алгоритмическими». Вопрос же о том, можно ли смоделировать какую-нибудь из таких систем на практике, не входит в круг принципиальных вопросов, которые мы здесь рассматриваем.
1.8. Аналоговые вычисления
До сих пор я рассматривал «вычисление» только в том смысле, в котором этот термин применим к современным циф ровым компьютерам или, точнее, к их теоретическим предше ственникам — машинам Тьюринга. Существуют и другие раз новидности вычислительных устройств, особенно широко распространенные в не столь отдаленном прошлом; вычислительные операции здесь осуществляются не посредством переходов меж ду дискретными состояниями «вкл./выкл.», знакомыми нам по цифровым вычислениям, а с помощью непрерывного изменения того или иного физического параметра. Самым известным из та ких устройств является логарифмическая линейка, изменяемым физическим параметром которой является линейное расстояние (между фиксированными точками на линейке). Это расстояние служит для представления логарифмов чисел, которые нужно пе ремножить или разделить. Существует много различных разно видностей аналоговых вычислительных устройств, в которых мо гут применяться и другие типы физических параметров — такие, например, как время, масса или электрический потенциал.
В случае аналоговых систем необходимо учитывать одно формальное обстоятельство: стандартные понятия вычисления и вычислимости применимы, строго говоря, только к дискретным системам (над которыми, собственно, и выполняются «цифро вые» действия), но не к непрерывным, таким, например, как расстояния или электрические потенциалы, с которыми имеет дело традиционная классическая физика. Иными словами, для того чтобы применить обычные вычислительные понятия к систе ме, описание которой требует не дискретных (или «цифровых»), а непрерывных параметров, мы естественным образом должны прибегнуть к аппроксимации. Действительно, при компьютерном моделировании физических систем вообще стандартной проце дурой является аппроксимация всех рассматриваемых непре рывных параметров в дискретной форме. Подобная процедура, однако, неминуемо вносит некоторую погрешность, величина ко торой определяется заданной степенью точности аппроксимации; при этом вполне возможно, что для той или иной интересую щей нас физической системы заданной точности может оказать ся недостаточно. В итоге дискретное компьютерное моделиро вание очень просто может привести нас к ошибочным выводам относительно поведения моделируемой непрерывной физической системы.
В принципе, ничто не мешает повысить точность до уровня, адекватного для моделирования рассматриваемой непрерывной системы. Однако на практике, особенно в случае хаотических систем, требуемые для этого время вычислений и объем памяти могут оказаться непомерно большими. Кроме того, можем ли мы, строго говоря, быть абсолютно уверенными в том, что выбран ная нами степень точности является действительно достаточ ной. Необходим какой-то критерий, который позволил бы нам определить, что нужный уровень точности достигнут, дальней шего ее повышения не требуется и качественному поведению, вычисленному с такой точностью, в самом деле можно доверять. Все это поднимает ряд достаточно щекотливых математических вопросов, рассматривать которые подробно на этих страницах мне представляется не совсем уместным.
Существуют, однако, и другие подходы к проблемам вычис лений в случае непрерывных систем; например, такие, в кото рых непрерывные системы рассматриваются как самостоятель ные математические структуры со своим собственным понятием «вычислимости» — понятием, обобщающим идею вычислимо сти по Тьюрингу с дискретных величин на непрерывные. При таком подходе исчезает необходимость в аппроксимации непре рывной системы дискретными параметрами с целью применить к ней традиционную концепцию вычислимости по Тьюрингу. Такие идеи вызывают определенный интерес с математической точки зрения; к сожалению, им, как нам представляется, не достает пока той неотразимой естественности и уникальности, которые присущи стандартному понятию вычислимости по Тьюрингу для дискретных систем. Более того, вследствие определенной непо следовательности данного подхода, формально «невычислимы ми» оказываются и некоторые простые системы, в применении к которым подобная терминология выглядит как-то не совсем уместно (даже такие, например, как известное всем из физики простое «волновое уравнение»; см. [313] и НРК, с. 187-188). С другой стороны, следует упомянуть и об одной сравнительно недавней работе ([327]), в которой показано, что теоретические аналоговые компьютеры, объединяемые в некоторый достаточно обширный класс, не могут выйти за рамки обычной вычисли мости по Тьюрингу. Я надеюсь, что дальнейшие исследования должным образом осветят эти безусловно интересные и важные темы. Пока же у меня нет оснований полагать, что работы в этом направлении в целом уже достигли той стадии завершенности, чтобы их результаты можно было применить к рассматриваемым здесь проблемам.
В этой книге меня в особенности занимает вопрос о вычисли тельной природе умственной деятельности, где термин «вычислительный» следует рассматривать в стандартном смысле вычис лимости по Тьюрингу. В самом деле, компьютеры, которыми мы сегодня повседневно пользуемся, являются цифровыми, и имен но это их свойство оказывается существенным для современных разработок в области ИИ. Наверное, логичным будет предпо ложить, что в будущем может появиться «компьютер» какого-то иного типа, решающую роль в функционировании которого будут играть (пусть даже и не выходя при этом за общепринятые теоретические рамки современной физики) непрерывные физиче ские параметры, что позволит такому компьютеру демонстриро вать поведение, существенно отличное от поведения цифрового компьютера.
Как бы то ни было, все эти вопросы важны, главным об разом, для проведения границы между «сильной» и «слабой» версиями позиции . Согласно слабой версии , поведение об ладающего сознанием человеческого мозга обусловлено некото рой физической активностью, которую невозможно вычислить в стандартном смысле дискретной вычислимости по Тьюрингу, но которую можно полностью объяснить в рамках современных фи зических теорий. Если так, то эта активность, по всей видимости, должна зависеть от каких-то непрерывных физических парамет ров таким образом, чтобы ее невозможно было адекватно вос произвести с помощью стандартных цифровых процедур. В со ответствии же с сильной версией , невычислимость сознатель ной деятельности мозга может быть исчерпывающе объяснена в рамках некоторой невычислительной физической теории (пока еще не открытой), следствия из которой, собственно, и обуслов ливают упомянутую деятельность. Хотя второй вариант может показаться несколько надуманным, альтернатива (для сторон ников ) и в самом деле состоит в отыскании для какого-либо непрерывного процесса в рамках известных физических законов такой роли, которую невозможно было бы адекватно воспроизве сти посредством каких угодно вычислений. На данный же момент, несомненно, следует ожидать, что для любой достоверной анало говой системы любого типа из тех, что получили более или менее серьезное рассмотрение, обязательно окажется возможным (по крайней мере, в принципе) создать эффективную цифровую мо дель.
Даже если не принимать во внимание всевозможные теоре тические проблемы общего плана, на сегодняшний день наибольшее превосходство перед аналоговыми вычислительными систе мами демонстрируют именно цифровые компьютеры. Цифровые вычисления имеют гораздо более высокую точность благодаря, в основном, тому, что при хранении данных в цифровом виде по вышение точности обеспечивается простым увеличением разряд ности чисел, что легко достижимо с помощью весьма скромного увеличения (логарифмического) мощности компьютера; в ана логовых же машинах (по крайней мере, в полностью анало говых, в конструкцию которых не заложено никаких цифровых концепций) увеличения точности можно добиться лишь посред ством весьма и весьма значительного увеличения (линейного) со ответствующих параметров. Возможно, когда-нибудь в будущем возникнут новые идеи, которые пойдут на пользу аналоговым вы числителям, однако в рамках современной технологии большая часть существенных практических преимуществ принадлежит, по всей видимости, цифровому вычислению.
1.9. Невычислительные процессы
Из всех типов вполне определенных процессов, что приходят в голову, большая часть относится, соответственно, к категории феноменов, называемых мною «вычислительными» (имеются в виду, конечно же, «цифровые вычисления»). Возможно, читатель уже начал волноваться, что сторонники позиции так и оста нутся у нас не при деле. Причем я еще ни словом не упоминал о строго случайных процессах, которые могут быть обуслов лены, скажем, какими-либо исходными данными, получаемыми от квантовой системы. (О квантовой механике мы немного по дробнее поговорим во второй части, главы 5 и 6.) Впрочем, для самой системы практически безразлично, подается на ее вход подлинно случайная последовательность данных или же всего лишь псевдослучайная, которую можно целиком и полностью сгенерировать вычислительным путем (см. §3.11). Действитель но, несмотря на то, что между «случайным» и «псевдослучай ным», строго говоря, существуют некоторые формальные отли чия, они, на первый взгляд, не имеют непосредственного отно шения к проблемам ИИ. Далее, в §3.11, §3.18 и последующих, я приведу некоторые серьезные доводы в пользу того, что «чистая случайность» и в самом деле абсолютно бесполезна для наших целей; если уж возникает такая необходимость, то лучше все же придерживаться псевдослучайности хаотического поведения, а все нормальные типы хаотического поведения, как уже подчер кивалось выше, относятся к категории «вычислительных».
А что нам известно о роли окружения? По мере развития каждого индивидуума у него или у нее формируется уникаль ное окружение, отличное от окружения любого другого человека. Возможно, именно это уникальное личное окружение и дает каж дому из нас ту особенную последовательность входных данных, которая неподвластна вычислению? Хотя лично мне, например, сложно сообразить, на что именно в данном контексте может повлиять «уникальность» нашего окружения. Эти рассуждения напоминают разговор о хаосе, который мы вели выше (см. § 1.7). Для обучения управляемого компьютером робота достаточно од ной лишь модели некоего правдоподобного окружения (хаоти ческого), при том, разумеется, условии, что в этой модели не будет ничего заведомо невычислимого. Роботу нет нужды учиться тем или иным навыкам в каком-то конкретном реальном окружении; его, разумеется, вполне устроит типичное окружение, модели рующее реальность вычислительными методами.
А может быть, численное моделирование пусть даже все го лишь правдоподобного окружения невозможно в принципе. Быть может, в окружающем физическом мире есть-таки нечто такое, что на самом деле неподвластно численному моделиро ванию. Возможно, некоторые сторонники уже воз намерились приписать все не поддающиеся, на первый взгляд, вычислению проявления человеческого поведения невычислимо сти внешнего окружения. Должен, однако, заметить, что намере ние это несколько опрометчиво. Ибо, как только мы признаем, что физическое поведение допускает где-то что-то такое, что невозможно моделировать вычислительными методами, мы тем самым тут же лишаемся главного, по всей видимости, основания сомневаться в правдоподобии, в первую очередь, самой точки зрения . Если во внешнем окружении (т.е. вне мозга) имеют место процессы, не поддающиеся численному моделированию, то почему не могут оказаться таковыми и процессы, протекающие внутри мозга? В конце концов, внутренняя физическая органи зация мозга человека, по всей видимости, гораздо более сложна, чем большая часть (и это еще слабо сказано) его окружения, за исключением, быть может, тех его участков, где это окружение само оказывается под сильным влиянием деятельности других
мозгов. Признание возможности внешней невычислимой физи ческой активности лишает всякой силы главный аргумент про тив . (См. также §3.9, §3.10.)
Следует сделать еще одно замечание относительно «не под дающихся вычислению» процессов, возможность существования которых предполагает позиция . Под этим термином я имею в виду отнюдь не те процессы, которые всего-навсего невычис лимы практически. Здесь, конечно же, уместно вспомнить и о том, что, хотя моделирование любого правдоподобного окру жения, или же любое точное воспроизведение всех физических и химических процессов, протекающих в мозге, может быть, в принципе, вычислимым, на такое вычисление, скорее всего, по надобится столько времени или такой объем памяти, что вряд ли удастся выполнить его на любом реально существующем или даже вообразимом в ближайшем будущем компьютере. Вероят но, нереально даже написание соответствующей компьютерной программы, если учесть, какое огромное количество различных факторов придется принимать в расчет. Однако сколь бы суще ственными ни были все эти соображения (а мы еще вернемся к ним в они не имеют никакого отношения к тому, что называю «невычислимостью» я (и чего требует ). Под «невычислимостью» я подразумеваю принципиальную невоз можность вычисления в том смысле, который мы очень скоро об судим. Вычисления, которые просто выходят за рамки существу ющих или вообразимых компьютеров, или имеющихся в нашем распоряжении вычислительных методов, формально все равно остаются «вычислениями».
Читатель имеет полное право спросить: если ничего, что можно счесть «невычислимым», не обнаруживается ни в случай ности, ни во влиянии окружения, ни в банальном несоответствии уровня сложности феномена нашим техническим возможностям, то что вообще я имею в виду, говоря «чего требует »? В общем случае, это некий вид математически точной активности, невы числимость которой можно доказать. Насколько нам на данный момент известно, при описании физического поведения в подоб ной математической активности необходимости не возникает. Тем не менее, логически она возможна. Более того, она представляет собой нечто большее, нежели просто логическую возможность. Согласно приводимой далее в книге аргументации, возможность активности подобного общего характера прямо подразумевается физическими законами, несмотря на то, что ни с чем подобным в известной физике мы еще не встречались. Некоторые примеры такой математической активности замечательно просты, поэтому представляется вполне уместным проиллюстрировать с их помо щью то, о чем я здесь говорю.
Начать мне придется с описания нескольких примеров клас сов хорошо структурированных математических задач, не имею щих общего численного решения (ниже я поясню, в каком именно смысле). Начав с любого из таких классов задач, можно постро ить «игрушечную модель» физической вселенной, активность ко торой (хотя и будучи полностью детерминированной) фактически не поддается численному моделированию.
Первый пример такого класса задач знаменит более осталь ных и известен под названием «десятая проблема Гильберта». Эта задача была предложена великим немецким математиком Давидом Гильбертом в 1900 году в составе этакого перечня нерешенных на тот момент математических проблем, которые по большей части определили дальнейшее развитие математики в начале (да и в конце) двадцатого века. Суть десятой проблемы Гильберта заключалась в отыскании вычислительной процеду ры, на основании которой можно было бы определить, имеют ли уравнения, составляющие данную систему диофантовых урав нений, хотя бы одно общее решение.
Диофантовыми называются полиномиальные уравнения с каким угодно количеством переменных, все коэффициенты и все решения которых должны быть целыми числами. (Целые числа — это числа, не имеющие дробной части, например: Первым диофантовы уравнения систематизировал и изучил греческий математик Диофант в тре тьем веке нашей эры.) Ниже приводится пример системы дио фантовых уравнений:
Решением первой системы является, в частности, следующее:
тогда как вторая система вообще не имеет решения (судя по пер вому уравнению, число у должно быть четным, судя по второму уравнению, число z также должно быть четным, однако это про тиворечит третьему уравнению, причем при любом w, поскольку значение разности — это всегда четное число, а число 3 нечетно). Задача, поставленная Гильбертом, заключалась в отыскании математической процедуры (или алгоритма), позво ляющей определить, какие системы диофантовых уравнений име ют решения (наш первый пример), а какие нет (второй пример). Вспомним (см. § 1.5), что алгоритм — это всего лишь вычисли тельная процедура, действие некоторой машины Тьюринга. Таким образом, решением десятой проблемы Гильберта является некая вычислительная процедура, позволяющая определить, когда си стема диофантовых уравнений имеет решение.
Десятая проблема Гильберта имеет очень важное истори ческое значение, поскольку, сформулировав ее, Гильберт поднял вопрос, который ранее не поднимался. Каков точный математиче ский смысл словосочетания «алгоритмическое решение для клас са задач»? Если точно, то что это вообще такое — «алгоритм»? Именно этот вопрос привел в 1936 году Алана Тьюринга к его собственному определению понятия «алгоритм», основанному на изобретенных им машинах. Примерно в то же время другие ма тематики (Черч, Клин, Гёдель, Пост и прочие; см. [134]) пред ложили несколько иные процедуры. Как вскоре было показано, все эти процедуры оказались эквивалентными либо определению Тьюринга, либо определению Черча, хотя особый подход Тью ринга приобрел все же наибольшее влияние. (Только Тьюрингу пришла в голову идея специфической и всеобъемлющей алгорит мической машины, — названной универсальной машиной Тью ринга, — которая способна самостоятельно выполнить абсолют но любое алгоритмическое действие. Именно эта идея привела впоследствии к созданию концепции универсального компьюте ра, который сегодня так хорошо нам знаком.) Тьюрингу удалось показать, что существуют определенные классы задач, которые не имеют алгоритмического решения (в частности, «пробле ма остановки», о которой я расскажу ниже). Однако самой де сятой проблеме Гильберта пришлось ждать своего решения до 1970 года, когда русский математик Юрий Матиясевич (предста вив доказательства, ставшие логическим завершением некоторых соображений, выдвинутых ранее американскими математиками
Джулией Робинсон, Мартином Дэвисом и Хилари Патнэмом) показал невозможность создания компьютерной программы (или алгоритма), способной систематически определять, имеет ли ре шение та или иная система диофантовых уравнений. (См. [71] и [88], глава 6, где приводится весьма занимательное изложе ние этой истории.) Заметим, что в случае утвердительного ответа (т. е. когда система имеет-таки решение), этот факт, в принципе, можно констатировать с помощью особой компьютерной про граммы, которая самым тривиальным образом проверяет один за другим все возможные наборы целых чисел. Сколько-нибудь систематической обработке не поддается именно случай отсут ствия решения. Можно, конечно, создать различные совокуп ности правил, которые корректно определяли бы, когда систе ма не имеет решения (наподобие приведенного выше рассужде ния с использованием четных и нечетных чисел, исключающего возможность решения второй системы), однако, как показывает теорема Матиясевича, список таких совокупностей никогда не будет полным.
Еще одним примером класса вполне структурированных ма тематических задач, не имеющих алгоритмического решения, яв ляется задача о замощении. Она формулируется следующим образом: дан набор многоугольников, требуется определить, по крывают ли они плоскость; иными словами, возможно ли по крыть всю евклидову плоскость только этими многоугольниками без зазоров и наложений? В 1966 году американский математик Роберт Бергер показал (причем эффективно), что эта задача вы числительными средствами неразрешима. В основу его доводов легло обобщение одной из работ американского математика ки тайского происхождения Хао Вана, опубликованной в 1961 году (см. [175]). Надо сказать, что в моей формулировке задача ока зывается несколько более громоздкой, чем хотелось бы, так как многоугольные плитки описываются в общем случае с помощью вещественных чисел (чисел, выражаемых в виде бесконечных де сятичных дробей), тогда как обычные алгоритмы способны опе рировать только целыми числами. От этого неудобства можно избавиться, если в качестве рассматриваемых многоугольников выбрать плитки, состоящие из нескольких квадратов, примыкаю щих один к другому сторонами. Такие плитки называются полиомино (см. [ 160); [ 135], глава 13; [221 ]). На рис. 1.2 показаны неко торые плитки полиомино и примеры замощений ими плоскости.
(Другие примеры замощений плоскости наборами плиток см. в НРК, с. 133—137, рис. 4.6—4.12.) Любопытно, что вычислитель ная неразрешимость задачи о замощении связана с существова нием наборов полиомино, называемых апериодическими, такие наборы покрывают плоскость исключительно апериодически (т. е. так, что никакой участок законченного узора нигде не по вторяется, независимо от площади покрытой плиткой плоскости). На рис. 1.3 представлен апериодический набор из трех полиоми но (полученный из набора, обнаруженного Робертом Амманом в 1977 году; см. [175], рис. 10.4.11-10.4.13 на с. 555-556).
Математические доказательства неразрешимости с помо щью вычислительных методов десятой проблемы Гильберта и за дачи о замощении весьма сложны, и я, разумеется, не стану и пытаться приводить их здесь). Центральное место в каждом из этих доказательств отводится, в сущности, тому, чтобы показать, каким образом можно запрограммировать машину Тьюринга на решение задачи о диофантовых уравнениях или задачи о замоще нии. В результате все сводится к вопросу, который Тьюринг рас сматривал еще в своем первоначальном исследовании: к вычис лительной неразрешимости проблемы остановки — проблемы определения ситуаций, в которых работа машины Тьюринга не может завершиться. В §2.3 мы приведем несколько примеров явных вычислительных процедур, которые принципиально не мо гут завершиться, а в § 2.5 будет представлено достаточно про стое доказательство — основанное, по большей части, на ориги нальном доказательстве Тьюринга — которое, помимо прочего, показывает, что проблема остановки действительно неразреши ма вычислительными методами. (Что же касается следствий из того самого «прочего», ради которого, собственно, и затевалось упомянутое доказательство, то на них, в сущности, построены рассуждения всей первой части книги.)
Каким же образом можно применить такой класс задач, как задачи о диофантовых уравнениях или задачи о замощении, к со зданию «игрушечной» вселенной, которая, будучи детерминиро ванной, является, тем не менее, невычислимой? Допустим, что в нашей модели вселенной течет дискретное время, параметризо ванное натуральными (т.е. целыми неотрицательными) числами Предположим, что в некий момент времени п состояние вселенной точно определяется одной задачей из рас сматриваемого класса, скажем, набором полиомино. Необходи-
мо установить два вполне определенных правила относительно того, какой из наборов полиомино будет представлять состояние вселенной в момент времени при заданном наборе полиомино для состояния вселенной в момент времени n, причем первое из этих правил применяется в том случае, если полиоми но покрывают всю плоскость без зазоров и наложений, а вто рое — если это не так. То, как именно будут выглядеть подоб ные правила, не имеет в данном случае особого значения. Мож но составить список всех возможных наборов полиомино таким образом, чтобы наборы, содержащие в общей сложности четное число квадратов, имели бы четные индексы а наборы с нечетным количеством квадратов — нечетные индексы (Составление такого списка не представляет особой сложности; нужно лишь подобрать соответствующую вычислительную процедуру.) Итак, «динамическая эволюция» нашей игрушечной вселенной задает ся теперь следующим условием:
Из состояния в момент времени вселенная пере ходит в момент времени в состояние , если набор полиомино покрывает плоскость, и в состо яние если набор не покрывает плоскость.
Поведение такой вселенной полностью детерминировано, одна ко поскольку в нашем распоряжении нет общей вычислительной процедуры, позволяющей установить, какой из наборов полио мино покрывает плоскость (причем это верно и тогда, когда общее число квадратов постоянно, независимо от того, четное оно или нет), то невозможно и численное моделирование ее реального развития. (См. рис. 1.4.)
Безусловно, такую схему нельзя воспринимать хоть сколько-нибудь всерьез — она ни в коем случае не моделирует реаль ную вселенную, в которой все мы живем. Эта схема приводится здесь (как, собственно, и в НРК,, с. 170) для иллюстрации то го часто недооцениваемого факта, что между детерминизмом и вычислимостью существует вполне определенная разница. Неко торые полностью детерминированные модели вселенной с четкими законами эволюции невозможно реализовать вы числительными средствами. Вообще говоря, как мы убедимся в § 7.9, только что рассмотренные мною весьма специфические модели не совсем отвечают реальным требованиям точки зре-
ния . Что же касается тех феноменов, которые отвечают-таки этим самым реальным требованиям, и некоторых связанных с упомянутыми феноменами поразительных физических возмож ностях, то о них мы поговорим в
1.10. Завтрашний день
Так какого же будущего для этой планеты нам следует ожи дать согласно точкам зрения . Если верить то настанет время, когда соответствующим образом запрограмми рованные суперкомпьютеры догонят — а затем и перегонят человека во всех его интеллектуальных достижениях. Конечно же, сторонники придерживаются различных взглядов отно сительно необходимого для этого времени. Некоторые вполне разумно полагают, что пройдет еще много столетий, прежде чем компьютеры достигнут уровня человека, принимая во внимание крайнюю скудость современного понимания реально выполня емых мозгом вычислений (так они говорят), обусловливающих ту тонкость поведения, какую, несомненно, демонстрирует человек, — тонкость, без которой, конечно же, нельзя говорить о ка ком бы то ни было «пробуждении сознания». Другие утверждают, что времени понадобится значительно меньше. В частности, Ханс Моравек в своей книге «Дети разума» [266] приводит вполне аргументированное доказательство (основанное на непрерывно ускоряющемся развитии компьютерных технологий за послед ние пятьдесят лет и на своей оценке той доли от всего объема функциональной активности мозга, которая на сегодняшний день уже успешно моделируется численными методами) в поддержку своего утверждения, будто уровень «эквивалентности человеку» будет преодолен уже к 2030 году. (Кое-кто утверждает, что это время будет еще короче), а кто-то даже уверен, что предска занная дата достижения эквивалентности человеку уже осталась в прошлом!) Однако чтобы читатель не очень пугался того, что менее чем через сорок (или около того) лет компьютеры во всем его превзойдут, горькая пилюля подслащена одной радужной на деждой (подаваемой под видом гарантированного обещания): все мы сможем тогда перенести свои «ментальные программы» в сверкающие металлические (или пластиковые) корпуса роботов (конкретную модель, разумеется, каждый выберет себе сам), чем и обеспечим себе что-то вроде бессмертия [266, 267].
А вот сторонники точки зрения подобным оптимизмом похвастаться не могут. Они вполне согласны с приверженцами А относительно перспектив развития интеллектуальных способно стей компьютеров — с той лишь оговоркой, что речь при этом идет исключительно о внешних проявлениях этих самых способ ностей. Для управления роботом необходимо и достаточно рас полагать адекватной моделью деятельности человеческого мозга, больше ничего не требуется (рис. 1.5). Согласно , вопрос о том, способно ли подобное моделирование вызвать осмысленное осознание, не имеет никакого отношения к реальному поведению робота. На достижение необходимого для такого моделирования технологического уровня может уйти как несколько веков, так и менее сорока лет. Однако, как уверяют сторонники , рано или поздно, а это все-таки произойдет. Тогда же компьютеры достиг нут уровня «эквивалентности человеку», а затем, как можно ожи дать, и уверенно превзойдут его, оставив без внимания все потуги нашего относительно слабого мозга хоть немного этот уровень приподнять. Причем возможности «подключения» к управляе мым роботам у нас в этом случае не будет, и, похоже, придется
примириться с тем, что нашей планетой, в конечном итоге, будут править абсолютно бесчувственные машины! Мне представляет ся, что из всех точек зрения именно предлага ет самый пессимистичный взгляд на будущее нашей планеты — вопреки, казалось бы, тому факту, что именно она лучше всего соотносится с так называемым «здравым смыслом».
Если же верить то можно ожидать, что компьютеры навсегда сохранят подчиненное по отношению к человеку положение — какими бы быстрыми, мощными или алгоритми чески совершенными они ни стали. При этом точка зрения не отрицает возможности будущих научных разработок, которые могут привести к созданию неких устройств, принцип действия которых не будет иметь ничего общего с компьютерами в их сего дняшнем понимании, а будет основан на той самой невычислимой физической активности, которая, согласно , обусловливает на ше собственное сознательное мышление, — устройств, которые окажутся способны вместить в себя реальные разум и созна ние. Быть может, в конечном итоге именно такие устройства, а вовсе не те машины, которые мы называем «компьютерами»,
и превзойдут человека в интеллектуальном отношении. Что ж, не исключено; однако подобные умозрительные прогнозы пред ставляются мне в настоящий момент крайне преждевременными, поскольку мы практически не обладаем необходимыми для таких исследований научными познаниями, не говоря уже о каких бы то ни было технологических решениях. К этому вопросу мы еще вернемся во второй части книги
1.11. Обладают ли компьютеры правами и несут ли ответственность?
С некоторых пор умы теоретиков от юриспруденции начал занимать один вопрос, имеющий самое непосредственное отно шение к теме нашего разговора, но в некотором смысле более практический). Суть его заключается в следующем: не пред стоит ли нам в не столь отдаленном будущем задуматься над тем, обладают ли компьютеры законными правами и несут ли они ответственность за свои действия. В самом деле, если со временем компьютеры смогут достичь уровня человека (а то и превзойти его) в самых разных областях деятельности, то по добные вопросы неминуемо должны приобрести определенную значимость. Если придерживаться точки зрения , то следует, очевидно, признать, что компьютеры (или управляемые компью тером роботы)должны потенциально и обладать правами, и нести ответственность. Ибо, согласно этой точке зрения, между челове ком и роботом достаточно высокого уровня сложности нет суще ственной разницы, за исключением такой «мелочи», как различие в материальном строении. Однако приверженцам точки зрения ситуация представляется несколько более запутанной. Разумно утверждать, что вопрос о правах или ответственности уместен для созданий, наделенных способностью чувствовать, т. е. испыты вать определенные, подлинно душевные «ощущения» — такие, как страдание, гнев, мстительность, злоба, вера (религиозная и общечеловеческая), желание, сомнение, понимание или страсть. Согласно управляемый компьютером робот не обладает та кой способностью, вследствие чего, на мой взгляд, не может ни обладать правами, ни нести ответственность. С другой стороны, если верить не существует эффективного способа определить, что упомянутая способность у робота действительно отсутствует, поэтому если роботы смогут достаточно правдоподобно имити-
ровать поведение человека, то человек может оказаться в весьма затруднительном положении.
Подобного затруднения, по всей видимости, не возникнет у сторонников точки зрения (а также, возможно, ), поскольку, согласно этим точкам зрения, компьютеры не в состоянии убеди тельно демонстрировать душевные переживания и, уж конечно же, ничего похожего не чувствуют и чувствовать никогда не будут. Соответственно, компьютеры не могут ни обладать правами, ни нести ответственность. Лично мне такая точка зрения пред ставляется весьма разумной. Вообще в этой книге я выступаю как серьезный противник позиций Согласившись с моими аргументами, юристы, безусловно, существенно упростят себе жизнь: как таковые компьютеры или управляемые компьютерами роботы ни при каких обстоятельствах не обладают правами и не несут ответственности. Нельзя обвинить компьютеры в каких бы то ни было неприятностях или недоразумениях — виновен всегда человек!
Следует, однако, понимать, что вышеприведенные аргументы могут и не относиться к всевозможным гипотетическим «устрой ствам», подобным упомянутым выше — тем, что смогут в ко нечном итоге воплотить в себе принципы новой, невычисли тельной физики. Но, поскольку перспектива появления таких устройств — если их вообще удастся создать — весьма туманна, возникновения связанных с ними юридических проблем в бли жайшем будущем ожидать не приходится.
Проблема «ответственности» поднимает глубокие философ ские вопросы, связанные с основными факторами, обусловли вающими наше поведение. Можно вполне обоснованно утвер ждать, что каждое наше действие так или иначе определяется наследственностью и окружением, а то и всевозможными слу чайностями, непрерывно влияющими на нашу жизнь. Но ведь ни одно из этих воздействий никак не зависит лично от нас, почему же мы должны нести за них ответственность? Является ли понятие «ответственности» лишь терминологической услов ностью, или дело в чем-то еще? Возможно, и впрямь существу ет некая «самость» — нечто, стоящее «выше» уровня подоб ных влияний и определяющее, в конечном счете, наши действия? В юридическом смысле понятие «ответственности» явно подра зумевает, что внутри каждого из нас и в самом деле существу ет своего рода независимая «самость», наделенная своей собственной ответственностью — и, по определению, правами, — причем ее проявления нельзя объяснить ни наследственностью, ни окружением, ни случайностью. Если же присутствие в нашей речи такой независимой «самости» не просто языковая услов ность, то в современных физических представлениях недоста ет чего-то весьма существенного. Открытие этого недостающе го ингредиента, несомненно, многое изменит в нашем научном мировоззрении.
Хотя книга, которую вы держите в руках, и не дает исчер пывающего ответа на эти серьезные вопросы, она, как я полагаю, может чуть приоткрыть дверь, отделяющую нас от них — не боль ше, но и не меньше. Вы не найдете здесь неопровержимых дока зательств непременного существования такой «самости», прояв ления которой нельзя объяснить никакой внешней причиной, вам лишь предложат несколько шире взглянуть на самую природу возможных «причин». «Причина» может оказаться невычисли мой — на практике или в принципе. Я намерен показать, что если упомянутая «причина» так или иначе порождается нашими сознательными действиями, то она должна быть весьма тонкой, безусловно невычислимой и не имеющей ничего общего ни с ха осом, ни с прочими чисто случайными воздействиями. Сможет ли такая концепция «причины» приблизить нас к пониманию ис тинной сущности свободы воли (или иллюзорности такой свобо ды) — вопрос будущего.
1.12. «Осознание», «понимание», «сознание», «интеллект»
До сих пор я не ставил перед собой задачи точно опре делить те неуловимые концепции, что так или иначе связаны с проблемой «разума». Формулируя положения в я несколько туманно упоминал об «осознании», других же свойств мышления мы пока не касались. Думаю, что следует хотя бы попытаться прояснить используемую здесь и далее термино логию — особенно в отношении таких понятий, как «понимание», «сознание» и «интеллект», играющих весьма существенную роль в наших рассуждениях.
Хотя я не вижу особой необходимости пытаться дать непре менно полные определения, некоторые комментарии относительно моей собственной терминологии представляются все же умест ными. Я часто с некоторым замешательством обнаруживаю, что употребление всех этих слов, столь очевидное для меня, не совпа дает с тем, что полагают естественным другие. Например, термин «понимание», на мой взгляд, безусловно подразумевает, что ис тинное обладание этим свойством требует некоторого элемента осознания. Не осознав сути того или иного суждения, мы, ра зумеется, не можем претендовать на истинное понимание этого самого суждения. По крайней мере, я уверен, что эти слова сле дует понимать именно так, хотя провозвестники ИИ, похоже, со мною не согласны и используют термины «понимание» и «осо знание» в некоторых контекстах так, что первое никоим образом не предполагает непременного наличия второго. Некоторые из них (принадлежащие к категории ) полагают, что управляемый компьютером робот «понимает», в чем заключаются его инструкции, однако при этом никто и не заикается о том, что робот свои инструкции действительно «осознает». Мне кажется, что здесь перед нами всего-навсего неверное употребление тер мина «понимание», пусть даже одно из тех, что обладают подлин ной эвристической ценностью для описания функционирования компьютера. Когда мне потребуется указать на то, что термин «понимание» используется не в таком эвристическом смысле — т. е. при описании деятельности, для которой действительно необ ходимо осознание, — я буду использовать сочетание «подлинное понимание».
Кое-кто, разумеется, может заявить, что между этими двумя случаями употребления слова «понимание» нет четкого разли чия. Если это так, то сама концепция осознания также не имеет точного определения. С этим, конечно, не поспоришь; однако у меня нет никаких сомнений в том, что осознание действительно представляет собой некоторую сущность, причем эта сущность может как наличествовать, так и отсутствовать — по крайней мере, до некоторой степени. Если согласиться с тем, что осо знание представляет-таки собой некоторую сущность, то вполне естественно будет согласиться и с тем, что эта сущность долж на являться неотъемлемой частью всякого подлинного понима ния. Это утверждение, кстати, не отрицает возможности того, что «сущность», которой является осознание, окажется в дей ствительности результатом чисто вычислительной деятельности в полном соответствии с точкой зрения
Я также полагаю, что термин «интеллект» следует употреб лять исключительно в связи с пониманием. Некоторые же те оретики от ИИ берутся утверждать, что их робот вполне мо жет обладать «интеллектом», не испытывая при этом никакой необходимости в действительном «понимании» чего-либо. Тер мин «искусственный интеллект» предполагает возможность осу ществления разумной вычислительной деятельности, и, вместе с тем, многие полагают, что разрабатываемый ими ИИ замеча тельно обойдется без подлинного понимания — и, как следствие, осознания. На мой взгляд, словосочетание «интеллект без пони мания» есть лишь результат неверного употребления терминов. Следует, впрочем, отметить, что иногда что-то вроде частичного моделирования подлинного интеллекта без какого бы то ни бы ло реального понимания оказывается до определенной степени возможным. (В самом деле, не так уж редко встречаются че ловеческие существа, способные на некоторое время одурачить нас демонстрацией какого-никакого понимания, хотя, как в конце концов выясняется, оно им в принципе не свойственно!) Между подлинным интеллектом (или подлинным пониманием) и любой деятельностью, моделируемой исключительно вычислительными методами, действительно существует четкое различие; это утвер ждение является одним из важнейших положений моих даль нейших рассуждений. Согласно моей терминологии, обладание подлинным интеллектом непременно предполагает присутствие подлинного понимания. То есть, употребляя термин «интеллект» (особенно в сочетании с прилагательным «подлинный»), я тем самым подразумеваю наличие некоторого действительного осо знания.
Лично мне такая терминология кажется совершенно есте ственной, однако многие поборники ИИ (во всяком случае те из них, кто не поддерживает точку зрения ) станут решитель но отрицать всякую свою причастность к попыткам реализации искусственного «осознания», хотя конечной их целью является, судя по названию, не что иное, как искусственный «интеллект». Они, пожалуй, оправдаются тем, что они (в полном согласии с ) всего лишь моделируют интеллект — такая модель не требу ет действительного понимания или осознания, — а вовсе не пытаются создать то, что я называю подлинным интеллектом. Вероятно, они будут уверять вас, что не видят никакой разницы между подлинным интеллектом и его моделью, что вполне отвечает точке зрения . В своих дальнейших рассуждениях я, в част ности, намерен показать, что некоторые аспекты «подлинного понимания» действительно невозможно воссоздать путем каких бы то ни было вычислений. Следовательно, должно существовать и различие между подлинным интеллектом и любой попыткой его достоверного численного моделирования.
Я, разумеется, не даю определений ни «интеллекту», ни «по ниманию», ни, наконец, «осознанию». Я полагаю в высшей сте пени неблагоразумным пытаться дать в рамках данной книги пол ное определение хотя бы одному из упомянутых понятий. Нам придется до некоторой степени положиться на свое интуитив ное восприятие действительного смысла этих слов. Если интуи ция подсказывает нам, что «понимание» есть нечто, необходимое для «интеллекта», то любое доказательство невычислительной природы «понимания» автоматически доказывает и невычисли тельную природу «интеллекта». Более того, если «пониманию» непременно должно предшествовать «осознание», то невычисли тельное физическое обоснование феномена осознания вполне в состоянии объяснить и аналогичную невычислительную природу «понимания». Итак, мое употребление этих терминов (в сущности совпадающее, как я полагаю, с общеупотребительным) сводится к двум положениям:
а) «интеллект» требует «понимания» и
б) «понимание» требует «осознания».
Осознание я воспринимаю как один из аспектов — пас сивный — феномена сознания. У сознания имеется и актив ный аспект, а именно — свободная воля. Полного определения слова «сознание» здесь также не дается (и, уж конечно же, не мне определять, что есть «свободная воля»), хотя мои аргумен ты имеют целью окончательное объяснение феномена сознания в научных, но невычислительных терминах — как того требует точка зрения . Не претендую я и на то, что мне удалось пре одолеть хоть сколько-нибудь значительное расстояние на пути к этой цели, однако надеюсь, что представленная в этой книге (равно как и в НРК.) аргументация расставит вдоль этого пути несколько полезных указателей для идущих следом — а может, станет и чем-то большим. Мне кажется, что, пытаясь на данном этапе дать слишком точное определение термину «сознание», мы рискуем упустить ту самую концепцию, какую хотим изловить. Поэтому вместо поспешного и наверняка неадекватного опреде ления я приведу лишь несколько комментариев описательного характера относительно моего собственного употребления тер мина «сознание». В остальном же нам придется положиться на интуитивное понимание смысла этого термина.
Все это вовсе не означает, что я полагаю, будто мы дей ствительно «интуитивно знаем», чем на самом деле «является» сознание; я лишь хочу сказать, что такое понятие существует, а мы, по мере сил, пытаемся его постичь — причем за понятием стоит некий реально существующий феномен, который допускает научное описание и играет в физическом мире как пассивную, так и активную роль. Некоторые, судя по всему, полагают, что данная концепция слишком туманна, чтобы заслуживать серьез ного изучения. Однако при этом те же люди часто и с удо вольствием рассуждают о «разуме», полагая, очевидно, что это понятие определено гораздо точнее. Общепринятое употребле ние слова «разум» предполагает разделение этого самого разума (возможное или реальное) на так называемые «сознательную» и «бессознательную» составляющие. На мой взгляд, концепция бессознательного разума представляется еще более невразуми тельной, нежели концепция разума сознательного. Я и сам неред ко пользуюсь словом «разум», однако не пытаюсь при этом дать его точное определение. В нашей последующей дискуссии (доста точно строгой, надеюсь)концепция «разума» —за исключением той ее части, что уже нашла свое воплощение в термине «созна ние», — не будет играть центральной роли.
Что же я имею в виду, говоря о сознании? Как уже отмеча лось ранее, сознание обладает активным и пассивным аспектами, однако различие между ними далеко не всегда чётко определено. Восприятие, скажем, красного цвета требует несомненно пас сивного сознания, равно как и ощущение боли либо восхище ние музыкальным произведением. Активное же сознание участ вует в сознательных действиях — таких, например, как подъем с кровати или, напротив, намеренное решение воздержаться от какой-либо энергичной деятельности. При воссоздании в памяти каких-то прошедших событий оказываются задействованы как пассивный, так и активный аспекты сознания. Составление плана будущих действий также обычно требует участия сознания — и активного, и пассивного; и, надо полагать, какое-никакое со знание необходимо для умственной деятельности, которую обще принято описывать словом «понимание». Более того, мы остаем ся, в определенном смысле, в сознании (пассивный аспект), даже когда спим, если при этом нам снится сон (в процессе же пробу ждения может принимать участие и активный аспект сознания).
У кого-то могут найтись возражения против того, что все эти разнообразные проявления сознания следует загонять в тесные рамки какой-то одной — пусть и всеобъемлющей — концепции. Можно, например, указать на то, что для описания феномена сознания необходимо принимать во внимание множество самых разных концепций, не ограничиваясь простым разделением на «активное» и «пассивное», а также и то, что реально существует огромное количество различных психических признаков, каждый из которых имеет определенное отношение к тому или иному свойству мышления. Соответственно, применение ко всем этим свойствам общего термина «сознание» представляется, в лучшем случае, бесполезным. Мне все же думается, что должна суще ствовать некая единая концепция «сознания», центральная для всех отдельных аспектов мыслительной деятельности. Говоря о разделении сознания на пассивный и активный аспекты, ино гда четко отличимые один от другого, причем пассивный аспект связан с ощущениями (или «quaiia»), а активный — с прояв лениями «свободной воли», я считаю их двумя сторонами од ной монеты.
В первой части книги меня будет занимать, главным образом, вопрос о том, чего можно достичь, используя свойство мышле ния, известное как «понимание». Хотя я не даю здесь определе ния термину «понимание», надеюсь все же прояснить его смысл в достаточной мере для того, чтобы убедить читателя в том, что обозначаемое этим термином свойство — чем бы оно ни оказа лось — ив самом деле должно быть неотъемлемой частью мыс лительной деятельности, которая необходима, скажем, для при знания справедливости рассуждений, составляющих Я на мерен показать, что восприятие этих рассуждений должно быть связано с какими-то принципиально невычислимыми процесса ми. Мое доказательство не затрагивает столь непосредственно другие свойства мыслительной деятельности («интеллект», «осо знание», «сознание» или «разум»), однако оно имеет определен ное отношение и к этим концепциям, поскольку, в соответствии с той терминологией «от здравого смысла», о которой я упо минал выше, осознание непременно должно быть существенным компонентом понимания, а понимание — являться неотъемлемой частью любого подлинного интеллекта.
1.13. Доказательство Джона Серла
Прежде чем представить свое собственное рассуждение, хотелось бы вкратце упомянуть о совсем иной линии доказа тельства — знаменитой «китайской комнате» философа Джона Серла — главным образом для того, чтобы подчеркнуть су щественное отличие от нее моего доказательства как по общему характеру, так и по базовым концепциям. Доказательство Серла тоже связано с проблемой «понимания» и имеет целью выяс нить, можно ли утверждать, что функционирование достаточно сложного компьютера реализует это свойство мышления. Я не буду повторять здесь рассуждение Серла во всех подробностях, а лишь кратко обозначу его суть.
Дана некая компьютерная программа, которая демонстри рует имитацию «понимания», отвечая на вопросы о какой-то рассказанной ей предварительно истории, причем все вопросы и ответы даются на китайском языке. Далее Серл рассматривает не владеющего китайским языком человека, который старатель но воспроизводит все до единой вычислительные операции, вы полняемые в процессе имитации компьютером. При этом когда вычисления выполняет компьютер, получаемые на его выходе данные создают некоторую видимость понимания; когда же все необходимые вычисления посредством соответствующих мани пуляций воспроизводит человек, какого-либо понимания в дей ствительности не возникает. На этом основании Серл утвержда ет, что понимание как свойство мышления не может сводиться исключительно к вычислениям — хотя человек (не знающий ки тайского) и воспроизводит каждую вычислительную операцию, выполняемую компьютером, он все же совершенно не понимает смысла рассказанной истории. Серл допускает, что возможно осуществить моделирование получаемых на выходе результатов понимания (в полном соответствии с точкой зрения ), посколь ку он полагает, что это вполне достижимо посредством компью терного моделирования всей физической активности мозга (чем бы он при этом ни занимался) в тот момент, когда его владелец вдруг что-либо понимает. Однако главный вывод из «китайской комнаты» Джона Серла заключается в том, что сама по себе модель в принципе не способна действительно «ощутить» по нимание. То есть для любой компьютерной модели подлинное понимание остается, в сущности, недостижимым.
Доказательство Серла направлено против точки зрения (согласно которой любая «модель» понимания эквивалентна «подлинному» пониманию) и, по замыслу автора, в поддержку точки зрения (хотя в той же мере оно поддерживает и или ). Оно имеет дело с пассивным, обращенным внутрь, или субъективным аспектами понимания, однако при этом не отри цает возможности моделирования понимания в его активном, обращенном наружу, или объективном аспектах. Сам Серл однажды заявил: «Несомненно, мозг — это цифровой компьютер. Раз кругом одни цифровые компьютеры, значит, и мозг должен быть одним из них». Отсюда можно заключить, что Серл го тов принять возможность полного моделирования работы обла дающего сознанием мозга в процессе «понимания», результатом которого оказалась бы полная тождественность внешних прояв лений модели и внешних проявлений действительно мыслящего человеческого существа, что соответствует точке зрения . Мое же исследование призвано показать, что одними лишь внешними проявлениями «понимание» отнюдь не ограничивается, в связи с чем я утверждаю, что невозможно построить достоверную ком пьютерную модель даже внешних проявлений понимания. Я не привожу здесь аргументацию Серла в подробностях, поскольку точку зрения она напрямую не поддерживает (а целью всех наших дискуссий здесь является как раз поддержка и ничто иное). Тем не менее, следует отметить, что концепция «китайской комнаты» предоставляет, на мой взгляд, достаточно убедитель ный аргумент против , хоть я и не считаю этот аргумент реша ющим. Более подробное изложение и различные контраргументы представлены в [339], обсуждение — там же и в [202]; см. так же [79] и [340]. Мою оценку можно найти в НРК, с. 17—23.
1.14. Некоторые проблемы вычислительной
модели
Прежде чем перейти к вопросам, отражающим специфиче ские отличия точки зрения , рассмотрим некоторые другие трудности, с которыми непременно сталкивается любая попытка объяснить феномен сознания в соответствии с точкой зрения . Согласно , для возникновения осознания необходи мо лишь простое «выполнение» или воспроизведение надлежа щих алгоритмов. Что же это означает в действительности? Сле дует ли под «воспроизведением» понимать, что в соответствии с последовательными шагами алгоритма должны перемещаться с места на место некие физические материальные объекты? Пред положим, что эти последовательные шаги записываются строка за строкой в огромную книгу. Являются ли «воспроизведени ем» действия, посредством которых осуществляется запись или печать этих строк? Достаточно ли одного лишь статического су ществования такой книги для осознания? А если просто водить пальцем от строчки к строчке — можно ли это считать «воспро изведением»? Или если водить пальцем по символам, набранным шрифтом Брайля? А если проецировать страницы книги одну за другой на экран? Является ли воспроизведением простое пред ставление последовательных шагов алгоритма? С другой сто роны, необходимо ли, чтобы кто-нибудь проверял, на самом ли деле каждая последующая линия надлежащим образом следует из предыдущей (в соответствии с правилами рассматриваемо го алгоритма)? Последнее предположение способно, по крайней мере, разрешить все наши сомнения, поскольку данный процесс должен, по всей видимости, обходиться без участия (сознатель ного) каких бы то ни было ассистентов. И все же нет совершенно никакой ясности относительно того, какие именно физические действия следует считать действительными исполнителями алго ритма осознания. Быть может, подобные действия не требуются вовсе, и можно, не противореча точке зрения , утверждать, что для возникновения «осознания» вполне достаточно одного лишь теоретического математического существования соответствую щего алгоритма (см. § 1.17).
Как бы там ни было, можно предположить, что, даже соглас но , далеко не всякий сложный алгоритм может обусловить возникновение осознания (ощущения осознания). Наверное, для того, чтобы можно было считать состоявшимся сколько-нибудь заметное осознание, алгоритм, судя по всему, должен обладать некоторыми особенными свойствами — такими, например, как «высокоуровневая организация», «универсальность», «самоот-носимость», «алгоритмическая простота/сложность» и тому подобными. Кроме того, донельзя скользким представляется вопрос о том, какие именно свойства алгоритма отвечают в этом случае за различные (ощущения), формирующие осознание. Например, какое конкретно вычисление вызывает ощу щение «красного»? Какие вычисления дают ощущения «боли», «сладости», «гармоничности», «едкости» и т.д.? Сторонники время от времени предпринимают попытки разобраться в подоб ного рода проблемах (см., например, [80]), однако пока что эти попытки выглядят весьма и весьма неубедительными.
Более того, любое четко определенное и достаточно про стое алгоритмическое предположение (подобное всем тем, что до сих пор выдвигались в соответствующих исследованиях) об ладает одним существенным недостатком: этот алгоритм мож но без особых усилий реализовать на современном электронном компьютере. А между тем, согласно утверждению автора такого предположения, реализация его алгоритма неизбежно вызывает реальное ощущение того или иного Мне думается, что даже самому стойкому приверженцу точки зрения будет слож но всерьез поверить, что такое вычисление — да и вообще любое вычисление, которое можно запустить на современном компью тере, работа которого основывается на современных представ лениях об ИИ, — может действительно обусловить мышление хотя бы даже и в самой зачаточной степени. Так что сторонникам подобных предположений остается, по всей видимости, уповать лишь на то, что всеми мыслительными ощущениями мы обязаны не чему иному, как банальной сложности сопровождающих де ятельность мозга вычислений (выполняющихся в соответствии с упомянутыми предположениями).
В связи с этим возникает еще несколько проблем, которых, насколько мне известно, всерьез пока не касался никто. Если предположить, что необходимым условием сознательной мыс лительной деятельности является, главным образом, огромная сложность «соединений», формирующих в мозге сеть из взаимо связанных нейронов и синапсов, то придется каким-то образом примириться и с тем, что сознание свойственно не всем отделам головного мозга человека в равной степени. Когда термин «мозг» употребляют без каких-либо уточнений, вполне естественно (по крайней мере, для неспециалиста) представлять себе обширные, покрытые извилинами внешние области, образующие так назы ваемую кору головного мозга, — состоящий из серого вещества наружный слой головного мозга. В коре головного мозга содержится приблизительно сто тысяч миллионов нейронов, что и в самом деле дает ощутимый простор для формирования структур огромной сложности, однако кора — это еще далеко не весь мозг. В задней нижней части мозга находится еще один весьма важный сгусток спутанных нейронов, известный как. моз жечок (см. рис. 1.6). Мозжечок, судя по всему, неким критическим образом связан с процессом выработки двигательных на выков; его действие можно наблюдать, когда человек овладевает тем или иным движением в совершенстве, т. е. когда движение перестает требовать сознательного обдумывания, как не требует обдумывания, скажем, ходьба. Сначала, когда мы еще только учимся какому-то новому навыку, нам необходимо контролиро вать свои действия сознательно, и этот контроль, по-видимому, требует существенного участия коры головного мозга. Однако впоследствии, по мере того, как необходимые движения стано вятся «автоматическими», управление ими постепенно переходит к мозжечку и осуществляется, по большей части, бессознательно. Учитывая, что деятельность мозжечка является, по всей видимо сти, абсолютно бессознательной, весьма примечателен тот факт,
что количество нейронов в мозжечке может достигать полови ны того их количества, что содержится в коре головного мозга. Более того, именно в мозжечке располагаются такие нейроны, как клетки Пуркинье (те самые, что имеют до синаптических связей, о чем я уже упоминал в ), так что общее число связей между нейронами в мозжечке может оказаться ничуть не меньше аналогичного числа в головном мозге. Если необходимым условием возникновения сознания считать одну лишь сложность нейронной сети, то неплохо было бы выяснить, почему же со знание никак, на первый взгляд, не проявляется в деятельности мозжечка. (Несколько дополнительных замечаний на эту тему приведены в )
Разумеется, затронутые в этом разделе проблемы, с которы ми приходится иметь дело сторонникам точки зрения , имеют свои аналоги и применительно к точкам зрения . Какой бы научной позиции вы ни придерживались, вам в конечном итоге все равно придется как-то решать вопрос о том, что же лежит в основе феномена сознания и как возникают В последних разделах второй части книги я попытаюсь наметить некоторые пути к пониманию сознания с точки зрения
1.15. Свидетельствуют ли ограниченные возможности сегодняшнего ИИ в пользу ?
Но почему вдруг ? Чем мы реально располагаем, что мож но было бы интерпретировать как прямое свидетельство в поль зу точки зрения ? Представляет ли действительно сколько-нибудь серьезную альтернативу точкам зрения ? Нам необходимо постараться понять, что именно мы делаем на шим мозгом (или разумом), когда дело доходит до сознательных размышлений; я же попытаюсь убедить читателя в том, что его связанная с сознательным мышлением деятельность весьма от личается (по крайней мере, иногда) от того, что можно реали зовать посредством вычислений. Приверженцы точки зрения , скорее всего, будут утверждать, что мышление осуществляется исключительно посредством «вычислений» в той или иной форме, и никак иначе, — а до тех пор, пока речь идет лишь о внешних проявлениях процесса мышления, с ними согласятся и сторонни ки Что же касается поборников , то они вполне могли бы согласиться с в том, что деятельность сознания должна быть феноменом невычислимым, однако при этом они будут напрочь отрицать любую возможность объяснения сознания в научных терминах. Таким образом, для поддержания точки зрения необ ходимо найти примеры мыслительной деятельности, не поддаю щиеся никакому вычислению, и, кроме того, попытаться сооб разить, как подобная деятельность может оказаться результатом тех или иных физических процессов. Остаток первой части моей книги будет направлен на достижение первой цели, во второй же части я представлю свои попытки продвинуться по направлению к цели номер два.
Какой же должна быть мыслительная деятельность, чтобы ее невычислимость можно было явственно продемонстрировать? В качестве возможного пути к ответу на этот вопрос можно попы таться рассмотреть современное состояние искусственного ин теллекта и постараться понять сильные и слабые стороны систем, управляемых посредством вычислений. Безусловно, сегодняшнее положение дел в области исследований ИИ может и не дать сколько-нибудь четких указаний относительно принципиально возможных достижений будущего. Даже, скажем, через пятьде сят лет ситуация вполне может оказаться совершенно отличной от той, что мы имеем сегодня. Быстрое развитие компьютерных технологий и областей их применения только за последние пять десят лет привело к чрезвычайно серьезным переменам. Нам, несомненно, следует быть готовыми к значительным переменам и в дальнейшем — переменам, которые, возможно, произойдут с нами очень и очень скоро. И все же в данной книге меня преж де всего будут интересовать не темпы технического развития, а некоторые фундаментальные и принципиальные ограничения, которым его достижения неминуемо оказываются подвержены. Эти ограничения останутся в силе независимо оттого, на сколько веков вперед мы устремим свой взгляд. Таким образом, свою аргументацию нам следует строить исходя из общих принципов, не предаваясь чрезмерным восторгам по поводу тех или иных сегодняшних достижений. Тем не менее, успехи и неудачи совре менных исследований искусственного интеллекта вполне могут содержать некоторые полезные для нас ключи, несмотря даже на тот факт, что результаты этих исследований демонстрируют на данный момент лишь очень слабое подобие того, что можно было бы назвать действительно убедительным искусственным Интеллектом, и это, безусловно, подтвердят даже самые ярые побор ники идеи ИИ.
Как ни удивительно, главную неудачу современный искус ственный интеллект терпит вовсе не в тех областях, где челове ческий разум может вполне самостоятельно продемонстрировать поистине впечатляющую мощь — там, например, где отдельные люди-эксперты способны буквально потрясти всех окружающих какими-то своими специальными познаниями или способностью мгновенно выносить суждения, требующие крайне сложных вы числительных процедур, — а в вещах вполне «обыденных», ка кие на протяжении большей части своей сознательной жизни проделывают самые заурядные из представителей рода челове ческого. Пока что ни один управляемый компьютером робот не может соперничать даже с малым ребенком в таком, например, простейшем деле, как сообразить, что для завершения рисун ка необходим цветной карандаш, который валяется на полу в противоположном конце комнаты, после чего подойти к нему, взять и использовать по назначению. Коли уж на то пошло, да же способности муравья, проявляющиеся в выполнении повсе дневной муравьиной работы, намного превосходят все то, что можно реализовать с помощью самых сложных современных си стем компьютерного управления. А с другой стороны, перед на ми имеется поразительный пример способности компьютеров к чрезвычайно эффективным действиям — я имею в виду по следние работы по созданию шахматных компьютеров. Шахма ты, несомненно, представляют собой такой вид деятельности, в котором мощь человеческого интеллекта проявляется особенно ярко, хотя в полной мере эту мощь используют, к сожалению, лишь немногие. И все же современные компьютерные системы играют в шахматы необычайно хорошо и способны выиграть у большинства шахматистов-людей. Даже лучшим из шахмати стов приходится сейчас нелегко, и вряд ли им удастся надол го сохранить свое теперешнее превосходство над наиболее про двинутыми компьютерами). Существует еще несколько узких областей, в которых компьютеры могут с успехом (постоянным или переменным) соперничать со специалистами-людьми. Кро ме того, необходимо упомянуть и о таких видах интеллектуаль ной деятельности (например, о прямых численных расчетах), где способности компьютеров значительно превосходят способно сти людей.
Как бы то ни было, вряд ли можно утверждать, что во всех вышеперечисленных ситуациях компьютер и впрямь понимает, что именно он делает. В случае нисходящей организации причина успешной работы системы состоит не в том, что что-то такое понимает сама система, а в том, что в управляющую действи ями системы программу было изначально заложено понимание, присущее программистам (или экспертам, которые наняли про граммистов). Что же касается восходящей организации, то не совсем ясно, есть ли здесь вообще необходимость в каком бы то ни было специфическом понимании на системном уровне ли бо со стороны самого устройства, либо со стороны программи стов, за исключением того понимания, которое потребовалось при разработке конкретных алгоритмов, используемых устрой ством для улучшения качества своей работы, и того понимания, что изначально позволило создать саму концепцию возможности улучшения качества работы системы на основе накапливаемого ею опыта посредством внедрения в нее соответствующей систе мы обратной связи. Разумеется, не всегда возможно однозначно определить, что же на самом деле означает термин «понимание», вследствие чего кто-то может утверждать, что в его (или ее) си стеме обозначений такие компьютерные системы и в самом деле демонстрируют своего рода «понимание».
Однако разумно ли это? Для иллюстрации отсутствия какого бы то ни было реального понимания у современных компьюте ров рассмотрим один занятный пример — шахматную позицию, приведенную на рис. 1.7 (автор: Уильям Хартстон; цитируется по статье Джейн Сеймур и Дэвида Норвуда [341 ]). В этой позиции черные имеют огромное преимущество по фигурам в виде двух ладьей и слона. И все же белые очень легко избегают поражения, просто делая ходы королем на своей стороне доски. Стена из пешек для черных фигур непреодолима, и черные ладьи или слон не представляют для белых никакой опасности. Это вполне оче видно для любого человека, который в достаточной степени зна ком с правилами игры в шахматы. Но когда эту позицию (белые начинают) предложили компьютеру — самому мощному на то время шахматному компьютеру, имеющему в сво ем активе несколько побед над гроссмейстерами-людьми, — он тут же совершил грубейшую ошибку, взяв пешкой черную ладью, что разрушило заслон из пешек и поставило белых в безнадежно проигрышное положение!
Как мог столь искусный шахматист сделать такой очевидно глупый ход? Ответ заключается в следующем: помимо большого количества «позиций из учебника» программа содержала лишь инструкции, которые сводились исключительно к вычислению последовательности будущих ходов (на некото рую значительную глубину), позволяющей достичь максимально го преимущества по фигурам. Ни на одном из этапов вычислений компьютер не обладал подлинным пониманием не только того, что может ему дать заслон из пешек, но и вообще любого из своих действий.
Любой, кто в достаточной степени представляет себе общий принцип работы компьютера или других компьютерных систем для игры в шахматы, не станет удивляться то му, что эта система терпит крах в позициях вроде той, что показа на на рис. 1.7. Мы не только способны понять в шахматах что-то такое, чего не понимает ; мы, кроме того, кое-что понимаем и в процедурах (нисходящих), на которых построена вся работа , то есть мы способны как реально оценить, почему он сделал столь грубую ошибку, так и понять, почему в большинстве других случаев он может играть в шахматы настолько эффективно. Напрашивается, однако, вопрос: сможет ли или иная ИИ-система достичь когда-нибудьхоть какого-то подлинного понимания — подобного тому, каким обладаем мы сами — в шахматах или в чем-то еще? Некото рые сторонники ИИ скажут, что для обретения ИИ-системой «подлинного» понимания (что бы это ни значило) ее программа должна задействовать восходящие процедуры на гораздо бо лее фундаментальном уровне, нежели это принято в программах теперешних шахматных компьютеров. Соответственно, в такой системе «понимание» развивалось бы постепенно по мере накоп ления «опыта», а не возникало бы в результате введения каких-то конкретных нисходящих алгоритмических правил. Нисходящие правила, достаточно простые и прозрачные, не способны сами по себе обеспечить вычислительную основу для подлинного по нимания, поскольку само понимание этих правил позволяет нам осознать их фундаментальные ограничения.
Этот момент мы более подробно рассмотрим в главах 2 и 3. А что же в самом деле восходящие вычислительные процедуры? Могут ли они составить основу для понимания? В главе 3 я при веду рассуждения, доказывающие обратное. Пока же мы можем просто взять на заметку тот факт, что современные компьютер ные системы восходящего типа никоим образом не обеспечи вают замены подлинному человеческому пониманию ни в одной из важных областей интеллектуальной компетенции, требующих настоящего живого человеческого понимания и интуиции. Такую позицию, я уверен, сегодня разделяют многие. Весьма оптими стичные перспективы), время от времени выдвигаемые сто ронниками идеи искусственного интеллекта и производителями экспертных систем, пока что в большинстве своем реализованы не были.
Однако в том, что касается возможных результатов разви тия искусственного интеллекта, мы все еще находимся в самом начале пути. Сторонники ИИ (в форме ) уверяют нас, что проявление существенных элементов понимания в поведении их систем с компьютерным управлением — всего лишь вопрос времени и, быть может, некоторых, пусть и значительных, тех нических усовершенствований. Несколько позднее я попробую поспорить с этим заявлением в более точных терминах, опираясь на то, что некие фундаментальные ограничения присущи любой чисто вычислительной системе, будь она нисходящей или вос ходящей. Не исключая возможности того, что, будучи достаточно грамотно сконструированной, такая система сможет в тече ние некоторого продолжительного периода времени поддержи вать иллюзию обладания чем-то, подобным пониманию (как это произошло с компьютером ), я все же утверждаю, что на деле полная ее неспособность к пониманию в общем смысле этого слова непременно в конце концов обнаружится — по крайней мере, в принципе.
Для приведения точных аргументов мне придется обратить ся к математике, причем я намерен показать, что к одним лишь вычислениям невозможно свести даже математическое пони мание. Некоторые защитники ИИ могут счесть это весьма уди вительным, ибо они утверждают), что те способности, кото рые сформировались в процессе эволюционного развития чело века сравнительно недавно (например, способность выполнять арифметические или алгебраические вычисления), «осваивают ся» компьютерами легче всего, и именно в этих областях компью теры на настоящий момент значительно опережают «человека вычисляющего»; овладение же теми способностями, что разви лись в начале эволюционного пути — такими, например, как уме ние ходить или интерпретировать сложные визуальные сцены, — не требует практически никакого труда от человека, тогда как сегодняшние компьютеры даже при всем старании демонстри руют в этом «виде спорта» весьма посредственные результаты. Я рассуждаю несколько иначе. Современный компьютер легко справится с любой сложной деятельностью — будь то математи ческие вычисления, игра в шахматы или выполнение какой-либо работы по дому, — но лишь при условии, что эту деятельность можно описать в виде набора четких вычислительных правил; а вот собственно понимание, лежащее в основе этих самых вы числительных правил, оказывается феноменом, для вычисления недоступным.
1.16. Доказательство на основании теоремы
Гёделя
Как можем мы быть уверены в том, что вышеописанное по нимание не может, в сущности, быть сведено к набору вычис лительных правил? Несколько позже (в главах 2 и 3) я приведу некоторые очень серьезные доводы в пользу того, что проявления
понимания (по крайней мере, определенных его видов) невозмож но достоверно моделировать посредством каких угодно вычис лений — ни нисходящего, ни восходящего типа, ни любой из их комбинаций. Таким образом, за реализацию присущей человеку способности к «пониманию» должна отвечать какая-то невычис лительная деятельность мозга или разума. Напомним, что терми ном «невычислительный» в данном контексте мы характеризуем феномен, который невозможно эффективно мо делировать с помощью какого угодно компьютера, основанного на логических принципах, общих для всех современных элек тронных или механических вычислительных устройств. При этом термин «невычислительная активность» вовсе не предполагает невозможности описать такую активность научными и, в част ности, математическими методами. Он предполагает лишь то, что точки зрения оказываются не в состоянии объяснить, каким именно образом мы выполняем все те действия, которые представляют собой результат сознательной мыслительной дея тельности.
Существует, по меньшей мере, логическая возможность то го, что обладающий сознанием мозг (или сознательный разум) может функционировать в соответствии с такими невычислитель ными законами . Однако так ли это? Представленные в следующей главе рассуждения содержат, как мне кажет ся, весьма четкое доказательство наличия в нашем сознатель ном мышлении невычислительной составляющей. Основаны эти рассуждения на знаменитой и мощной теореме математической логики, сформулированной великим логиком, чехом по происхо ждению, Куртом Гёделем. Для моих целей будет вполне доста точно существенно упрощенного варианта этой теоремы, который не потребует от читателя слишком обширных познаний в мате матике (что касается математики, то я также позаимствую кое-что из одной важной идеи, высказанной несколько позднее Ала ном Тьюрингом). Любой достаточно серьезно настроенный чита тель без труда разберется в моих рассуждениях. Доказательства гёделевского типа, да еще и примененные в подобном контек сте, подвергаются время от времени решительным нападкам. Вследствие этого у некоторых читателей может сложиться впе чатление, что мое основанное на теореме Гёделя доказательство было полностью опровергнуто. Должен заметить, что это дале ко не так. За прошедшие годы действительно выдвигалось множество контраргументов. Мишенью для многих из них послу жило одно из самых первых таких доказательств (направленное в поддержку ментализма и против физикализма), предложенное оксфордским философом Джоном Лукасом [245]. Опираясь на результаты теоремы Гёделя, Лукас доказывал, что мыслительные процессы невозможно воспроизвести вычислительными метода ми. (Подобные соображения выдвигались и ранее; см., напри мер, [270].) Мое доказательство, пусть и построенное на том же фундаменте, выдержано все же в несколько ином духе, нежели доказательство Лукаса; кроме того, в число моих задач не входи ла непременная поддержка ментализма. Я думаю, что моя форму лировка способна лучше противостоять различным критическим замечаниям, выдвинутым в свое время против доказательства Лукаса, и во многих отношениях выявить их несостоятельность. Ниже (в главах 2 и 3) мы подробно рассмотрим все контр аргументы, которые когда-либо попадались мне на глаза. На деюсь, что мои сопутствующие комментарии не только помогут прояснить некоторые, похоже, широко распространившиеся за блуждения относительно смысла доказательства Гёделя, но и до полнят, по-видимому, неудовлетворительно краткое рассмотре ние этого вопроса, предпринятое в НРК. Я намерен показать, что большая часть этих контраргументов произрастает, в сущности, из банальных недоразумений, тогда как остальные, основанные на более или менее осмысленных и требующих детального рас смотрения возражениях, представляют собой, в лучшем случае, не более чем возможные «лазейки» в духе взглядов при этом они не дают — в чем у нас еще будет возможность убедить ся — сколько-нибудь правдоподобного объяснения действи тельным последствиям наличия у нас способности «понимать», да и в любом случае эти лазейки не представляют особой ценно сти для развития идеи ИИ. Так что тем, кто по-прежнему полага ет, что все внешние проявления процессов сознательного мышле ния можно адекватно воспроизвести вычислительными метода ми, в рамках положений , я могу лишь порекомендовать повнимательнее следить за предлагаемой ниже аргументацией.
1.17. Платонизм или мистицизм?
Критики, впрочем, могут возразить, что отдельные выводы в рамках этого доказательства Гёделя следует рассматривать не иначе как «мистические», поскольку упомянутое доказательство, судя по всему, вынуждает нас принять либо точку зрения , ли бо точку зрения ; подобный взгляд, разумеется, не более при емлем, нежели любая из вышеупомянутых лазеек, полученных из теоремы Гёделя. Что касается , то здесь я, вообще гово ря, полностью с критиками согласен. Мои собственные причины неприятия — точки зрения, настаивающей на полном бессилии науки перед тайною разума, — проистекают из осознания того факта, что только благодаря применению научных и, в частности, математических методов был достигнут хоть какой-то реальный прогресс в понимании происходящих в окружающем нас мире процессов. Более того, если мы и располагаем какими-то досто верными сведениями о разуме, то только о том разуме, который тесно связан с конкретным физическим объектом — мозгом, — причем различным состояниям разума четко соответствуют раз личные физические состояния мозга. По всей видимости, с теми или иными специфическими типами физической активности мозга можно ассоциировать и психические состояния сознания. Если бы не таинственные аспекты сознания, связанные с формиро ванием «осознания» и, быть может, с проявлениями «свободы воли», которые пока что не поддаются физическому описанию, нам бы и в голову не пришло, что для объяснения разума, являю щегося по всем признакам продуктом протекающих внутри мозга физических процессов, стандартных научных методов может и не хватить.
С другой стороны, следует понимать, что наука (и, в част ности, математика) и сама по себе являет нам мир, исполненный тайн. Чем глубже мы проникаем в процессе научного познания в суть вещей, тем более фундаментальные тайны открываются нашему взору. Быть может, стоит в этой связи упомянуть и о том, что физики, более непосредственно знакомые с грловоломной и непостижимой манерой, в какой реально проявляет себя мате рия, склонны видеть мир в менее классически механистическом свете, нежели биологи. В главе 5 мы поговорим о некоторых наиболее таинственных аспектах квантового поведения, обнару женных относительно недавно. Возможно, для полного «охва та» тайны разума нам придется несколько расширить границы того, что мы в настоящее время называем наукой, однако я не вижу причин напрочь отказываться от тех методов, которые так замечательно служили нам до сих пор. Таким образом, если гёделевские соображения подталкивают нас к принятию точки зрения в том или ином ее виде (а я полагаю, что так оно и есть), то нам поневоле придется принять и некоторые другие ее следствия. Иными словами, следуя этим путем, мы приходим, ни много ни мало, к объективному идеализму по Платону. Соглас но учению Платона, математические концепции и математические истины существуют в их собственном, вполне реальном мире, в котором отсутствует течение времени и который не имеет физиче ского местонахождения. Мир Платона — это идеальный мир со вершенных форм, отличный от физического мира, но являющийся основой для его понимания. Он, кроме того, никак не связан с нашими несовершенными мысленными построениями, однако че ловеческий разум способен получить в некотором смысле непо средственный доступ в это платоново царство благодаря способ ности «осознавать» математические формы и рассуждать о них. Нашему «платоническому» восприятию, как вскоре выяснится, может иногда поспособствовать вычисление, однако в общем это восприятие вычислением не ограничено. Согласно такому плато ническому подходу, именно способность «осознавать» математи ческие концепции дает разуму мощь, далеко превосходящую все, чего можно добиться от устройства, работа которого основыва ется исключительно на вычислении.
1.18. Почему именно математическое понимание?
Все эти благоглупости, конечно, очень (или не очень) заме чательны — так, несомненно, уже ворчат иные читатели. Однако какое отношение имеют все эти замысловатые проблемы мате матики и философии математики к большинству вопросов, непо средственно касающихся, например, искусственного интеллекта? В самом деле, многие философы и поборники ИИ придержи ваются достаточно разумного мнения, суть которого сводится к тому, что теорема Гёделя, безусловно, имеет огромное значение в своем исходном контексте, т. е. в области математической логики, однако в отношении ИИ или философии разума актуальность ее, в лучшем случае, весьма и весьма ограничена. В конце концов, не так уж и часто мыслительная деятельность человека оказывается направлена на решение вопросов, относящихся к первоначаль ной области применимости рассуждений Гёделя — аксиоматическим основам математики. На это возражение я бы ответил так: но ведь практически всегда мыслительная деятельность человека требует участия сознания и понимания. Рассуждение же Гёделя я использую для того, чтобы показать, что человеческое понимание нельзя свести к алгоритмическим процессам. Если мне удастся показать справедливость этого утверждения в каком-либо кон кретном контексте, то этого будет вполне достаточно. Продемон стрировав, что понимание каких-то математических процедур не поддается описанию с помощью вычислительных методов, мы тем самым докажем, что в нашем разуме происходит-таки что-то такое, что невозможно вычислить. А если так, то напрашива ется вполне естественный вывод: невычислительная активность должна быть присуща и многим другим аспектам мыслительной деятельности. Вот и все, путь свободен!
Может показаться, что представленное в главе 2 математи ческое доказательство, устанавливающее необходимую нам фор му теоремы Гёделя, не имеет прямого отношения к большин ству аспектов сознания. В самом деле: что общего может быть у демонстрации невычислимости феномена понимания на примере определенных типов математических суждений с восприятием, например, красного цвета? Да и в большинстве других аспектов сознания математические соображения, похоже, не играют явно выраженной роли. К примеру, даже математики, как правило, не думают о математике, когда спят и видят сны! Судя по всему, сны видят и собаки, причем есть основания полагать, что они, до некоторой степени, осознают, что видят сон; и я склонен думать, что они наверняка осознают и происходящее с ними во время бодрствования. Однако собаки математикой не занимаются. Бес спорно, математические размышления — далеко не единствен ная деятельность живого организма, требующая участия созна ния. Скажем больше: эта деятельность в высшей степени спе циализирована и характерна лишь для человека'. (И даже более того, я встречал циников, которые уверяли меня, что упомянутая деятельность характерна лишь для определенной, чрезвычайно редкой разновидности людей.) Феномен же сознания наблюдает ся повсеместно и присущ мыслительной деятельности как чело века, так и большинства нечеловеческих форм жизни; сознани ем, безусловно, в равной степени обладают и люди, далекие от математики, и математики-профессионалы, причем даже тогда, когда они математикой не занимаются (т. е. большую часть своей жизни). Математическое мышление составляет очень и очень ма лую область сознательной деятельности вообще, практикует его очень и очень незначительное меньшинство обладающих созна нием существ, да и то на протяжении очень и очень ограниченной части их сознательной жизни.
Почему же в таком случае я решил рассмотреть вопрос со знания прежде всего в математическом контексте? Причина за ключается в том, что только в математических рамках мы мо жем рассчитывать на возможность хоть сколько-нибудь строгой демонстрации непременной невычислимости, по крайней мере, некоторой части сознательной деятельности. Вопрос вычисли мости по самой своей природе является, безусловно, матема тическим. Нельзя ожидать, что нам удастся дать хоть какое-то «доказательство» невычислимости того или иного процесса, не обратившись при этом к математике. Я хочу убедить читателя в том, что все, что мы делаем нашим мозгом или разумом в процессе понимания математического суждения, существенно отличается от того, чего мы можем добиться от какого угодно компьютера; если мне это удастся, то читателю будет намного легче оценить роль невычислительных процессов в сознательном мышлении вообще.
А разве не очевидно, возразят мне, что восприятие того же красного цвета никак не может быть вызвано просто выполне нием какого бы то ни было вычисления. К чему вообще утру ждать себя какими-то ненужными математическими демонстра циями, когда и без того совершенно ясно, что — т. е. субъективные ощущения — никак не связаны с вычислениями? Один из ответов заключается в том, что такое доказательство от «очевидного» (как бы благожелательно я ни относился к подоб ному способу доказательства) применимо только к пассивным аспектам сознания. Как и китайскую комнату Серла, его можно представить в качестве аргумента против точки зрения , а вот между разницы для него не существует.
Более того, мне представляется крайне уместным побить функционалистов вместе с их вычислительной моделью (т. е. точ кой зрения ), так сказать, на их собственном поле; ведь это именно функционалисты настаивают на том, что все qualia на самом деле должны быть так или иначе обусловлены баналь ным выполнением соответствующих вычислений, невзирая на то, сколь невероятной такая картина может показаться на первый взгляд. Ибо, аргументируют они, что же еще можем мы эффек тивно делать своим мозгом, как не выполнять те или иные вы числения? Для чего вообще нужен мозг, если не в качестве свое образной системы управления вычислениями — да, чрезвычайно сложными, но все же вычислениями? Какие бы «ощущения осо знания» ни пробуждались в нас в результате той или иной функ циональной активности мозга, эти ощущения, согласно функци-оналистской модели, непременно являются результатом некото рой вычислительной процедуры. Функционалисты любят упре кать тех, кто не признает за вычислительной моделью способ ности объяснить любые проявления активности мозга, включая и сознание, в склонности к мистицизму. (Надо понимать так, что единственной альтернативой точки зрения .)
Во второй части книги я намерен привести несколько частных предположений относительно того, что еще может вполне эф фективно делать мозг, допускающий научное описание. Не стану отрицать, некоторые «конструктивные» моменты моего доказа тельства являются чисто умозрительными. И все же я полагаю, что мои доводы в пользу невычислимости хотя бы некоторых мыслительных процессов весьма убедительны; а для того, чтобы эта убедительность переросла в неотразимость, их следует при менить к математическому мышлению.
1.19. Какое отношение имеет теорема Гёделя к «бытовым» действиям?
Допустим однако, что мы все уже согласны с тем, что при формировании осознанных математических суждений и получе нии осознанных же математических решений в нашем мозге дей ствительно происходит что-то невычислимое. Каким образом это поможет нам понять причины ограниченных способностей робо тов, которые, как я упоминал ранее, значительно хуже справ ляются с элементарными, «бытовыми», действиями, нежели со сложными задачами, для выполнения которых требуются вы сококвалифицированные специалисты-люди? На первый взгляд, создается впечатление, что мои выводы в корне противополож ны тем, к которым придет всякий здравомыслящий человек, ис ходя из известных ограничений искусственного интеллекта — по крайней мере, сегодняшних ограничений. Ибо многим почему-то кажется, что я утверждаю, будто невычислимое поведение долж но быть связано скорее с пониманием крайне сложных областей математики, а никак не с обыденным, бытовым поведением. Это не так. Я утверждаю лишь, что пониманию сопутствуют невы числимые процессы одинаковой природы, вне зависимости отто го, идет ли речь о подлинно математическом восприятии, скажем, бесконечного множества натуральных чисел или всего лишь об осознании того факта, что предметом удлиненной формы можно подпереть открытое окно, о понимании того, какие именно ма нипуляции следует произвести с куском веревки для того, чтобы привязать или, напротив, отвязать уже привязанное животное, о постижении смысла слов «счастье», «битва» или «завтра» и, наконец, о логическом умозаключении относительно вероятного местонахождения правой ноги Авраама Линкольна, если извест но, что левая его нога пребывает в настоящий момент в Вашинг тоне, — я привел здесь некоторые из примеров, оказавшихся на удивление мучительными для одной реально существующей ИИ-системы! Такого рода невычислимые процессы лежат в основе всякой деятельности, результатом которой является непо средственное осознание чего-либо. Именно это осознание поз воляет нам визуализировать геометрию движения деревянного бруска, топологические свойства куска веревки или же «связ ность» Авраама Линкольна. Оно также позволяет нам получить до некоторой степени прямой доступ к опыту другого человека, с помощью чего мы можем «узнать», что этот другой, скорее все го, подразумевает под такими словами, как «счастье», «битва» и «завтра», несмотря даже на то, что предлагаемые в процессе общения объяснения зачастую оказываются недостаточно аде кватными. Передать «смысл» слов от человека к человеку все же возможно, однако не с помощью объяснений различной сте пени адекватности, а лишь благодаря тому, что собеседник уже, как правило, имеет в сознании некий общий образ возможного смысла этих слов (т. е. «осознает» их), так что даже очень неаде кватных объяснений обычно бывает вполне достаточно для того, чтобы человек смог «уловить» верный смысл. Именно наличие такого общего «осознания» делает возможным общение между людьми. И именно этот факт ставит неразумного, управляемого компьютером робота в крайне невыгодное положение. (В самом деле, уже самый смысл понятия «смысл слова» изначально вос принимается нами как нечто само собой разумеющееся, и поэто му совершенно непонятно, каким образом такое понятие можно сколько-нибудь адекватно описать нашему неразумному роботу.) Смысл можно передать лишь от человека к человеку, потому что все люди имеют схожий жизненный опыт или аналогичное вну треннее ощущение «природы вещей». Можно представить «жиз ненный опыт» в виде своеобразного хранилища, в которое скла дывается память обо всем, что происходит с человеком в течение жизни, и предположить, что нашего робота не так уж и сложно таким хранилищем оснастить. Однако я утверждаю, что это не так; ключевым моментом здесь является то, что рассматриваемый субъект, будь то человек или робот, должен свой жизненный опыт осознавать.
Что же заставляет меня утверждать, будто упомянутое осо знание, что бы оно из себя ни представляло, должно быть невы числимым — иначе говоря, таким, что его не сможет ни достичь, ни хотя бы воспроизвести ни один робот, управляемый ком пьютером, построенным исключительно на базе стандартных ло гических концепций машины Тьюринга (или эквивалентной ей) нисходящего либо восходящего типа? Именно здесь и играют решающую роль гёделевские соображения. Вряд ли мы в на стоящее время можем многое сказать об «осознании», напри мер, красного цвета; а вот относительно осознания бесконечно сти множества натуральных чисел кое-что определенное нам таки известно. Это такое «осознание», благодаря которому ребенок «знает», что означают слова «ноль», «один», «два», «три», «че тыре» и т. д. и что следует понимать под бесконечностью этой по следовательности, хотя объяснения ему были даны до нелепости ограниченные и, на первый взгляд, к делу почти не относящиеся, на примере нескольких бананов и апельсинов. Из таких частных примеров ребенок и в самом деле способен вывести абстрактное понятие числа «три». Более того, он также оказывается в состоя нии понять, что это понятие является лишь звеном в бесконечной цепочке похожих понятий («четыре», «пять», «шесть» и т.д.). В некотором платоническом смысле ребенок изначально «знает», что такое натуральные числа.
Возможно, кто-то усмотрит здесь некий налет мистики, од нако в действительности мистика здесь не при чем. Для пони мания последующих рассуждений крайне важно отличать такое платоническое знание от мистицизма. Понятия, «известные» нам в платоническом смысле, суть вещи для нас «очевидные»: вещи, которые сводятся к воспринятому когда-то «здравому смыс лу», — при этом мы не можем охарактеризовать эти понятия во всей их полноте посредством вычислительных правил. Дей ствительно — и это станет ясно из дальнейших рассуждений, связанных с доказательством Гёделя, — не существует способа целиком и полностью охарактеризовать свойства натуральных чисел на основе лишь таких правил. А как же тогда описания числа через яблоки или бананы дают ребенку понять, что означа ют слова «три дня», и откуда ему знать, что смысл абстрактного понятия числа «три» здесь совершенно тот же, что и в словах «три апельсина»? Разумеется, такое понимание иногда приходит к ребенку далеко не сразу, и на первых порах он, бывает, ошиба ется, однако суть не в этом. Суть в том, что подобное осознание вообще возможно. Абстрактное понятие числа «три», равно как и представление о том, что существует бесконечная последова тельность аналогичных понятий — собственно последователь ность натуральных чисел, — и в самом деле вполне доступно человеческому пониманию, однако, повторяю, лишь через осо знание.
Я утверждаю, что точно так же мы не пользуемся вычис лительными правилами при визуализации движений деревянного бруска, куска веревки или Авраама Линкольна. Вообще говоря, существуют весьма эффективные компьютерные модели движе ния твердого тела — например, деревянного бруска. С их по мощью можно осуществлять моделирование такого движения с точностью и достоверностью, обычно недостижимыми при непо средственной визуализации. Аналогично, вычислительными ме тодами можно моделировать и движение веревки или струны, хо тя такое моделирование почему-то оказывается несколько более сложным по сравнению с моделированием движения твердого те ла. (Отчасти это связано с тем, что для описания положения «ма тематической струны» необходимо определить бесконечно мно го параметров, тогда как положение твердого тела описывается всего шестью.) Существуют компьютерные алгоритмы для опре деления «заузленности» веревки, однако они в корне отличаются от алгоритмов, описывающих движение твердого тела (и не очень эффективны в вычислительном отношении). Любое воспроизве дение с помощью компьютера внешнего облика Авраама Лин кольна, безусловно, представляет собой еще более сложную за дачу. Во всяком случае, дело не в том, что визуализация чего-либо человеком «лучше» или «хуже» компьютерного моделирования, просто это вещи совершенно различные.
Важный момент, как мне кажется, заключается в том, что визуализация содержит некий элемент оценки того, что человек видит, то есть сопровождается пониманием. Чтобы проиллю стрировать, что я имею в виду, давайте рассмотрим одно эле ментарное арифметическое правило, а именно: для любых двух натуральных чисел (т.е. неотрицательных целых чисел 0, 1, 2, 3, 4,...) а и b справедливо следующее равенство:
Следует пояснить, что это высказывание не является пустым, хотя части уравнения и имеют различный смысл. Запись слева означает совокупность а групп по b объектов в каждой; справа — b групп по а объектов в каждой. В частном случае, например, при запись можно представить следующим рядом точек:
в то время как для имеем
Общее число точек в каждом случае одинаково, следовательно, справедливо равенство
В истинности этого равенства можно удостовериться, пред ставив зрительно матрицу
Читая матрицу по строкам, можно сказать, что в ней три строки, каждая из которых содержит по пять точек, что соответствует числуv . Однако если эту же матрицу прочесть по столбцам, то получится пять столбцов по три точки в каждом, что соответству ет числу . Равенство этих чисел очевидно, поскольку речь в каждом случае идет об одной и той же прямоугольной матрице, просто мы ее по-разному читаем. (Есть и альтернативный вари ант: мы можем мысленно повернуть изображение на прямой угол и убедиться в том, что матрица, соответствующая числу , содержит то же количество элементов, что и матрица, соответ ствующая числу .)
Важный момент описанной визуализации заключается в том, что она непосредственно дает нам нечто гораздо более общее, чем просто частное численное равенство . Иными словами, в конкретных числовых значениях , участвующих в данной процедуре, нет ничего особенного. Полученное правило будет применимо, даже если, скажем, , а b = 50 000123 555, и мы с уверенностью можем утверждать, что несмотря на то, что у нас нет ни малейшей возможности сколько-нибудь точно представить себе визуально прямоугольную мат рицу такого размера (да и ни один современный компьютер не сможет перечислить все ее элементы). Мы вполне можем заклю чить, что вышеприведенное равенство должно быть истинным — или что истинным должно быть равенство общего вида — на основании, в сущности, той же самой визуализации, которую мы применяли для конкретного случая Нужно просто несколько «размыть» мысленно действительное количество строк и столбцов рассматриваемой матрицы, и равен ство становится очевидным.
Я вовсе не хочу сказать, что все математические отношения можно с помощью верной визуализации непосредственно пости гать как «очевидные», или же что их просто можно в любом случае постичь каким-то иным способом, основанным непосред ственно на интуиции. Это далеко не так. Для уверенного понима ния некоторых математических отношений необходимо строить весьма длинные цепочки умозаключений. Цель математического доказательства, по сути дела, в этом и заключается — мы стро им цепочки умозаключений таким образом, чтобы на каждом этапе получать утверждение, допускающее «очевидное» пони мание. Как следствие, конечной точкой умозаключения должно оказаться суждение, которое необходимо принимать как истин ное, пусть даже оно само по себе вовсе и не очевидно.
Кое-кто, наверное, уже вообразил, что в таком случае можно раз и навсегда составить список всех «возможных» этапов умо заключений и тогда всякое доказательство можно будет свести к вычислению, т. е. к простым механическим манипуляциям полу ченными очевидными этапами. Доказательство Гёделя как раз и демонстрирует невозможность реализации такой процеду ры. Нельзя совершенно избавиться от необходимости в новых «очевидно понимаемых» отношениях. Таким образом, матема тическое понимание никоим образом не сводится к бездумному вычислению.
1.20. Мысленная визуализация и виртуальная
реальность
Интуитивные математические процедуры, описанные в имеют весьма ярко выраженный специфический геометрический характер. В математических доказательствах применяются и мно гие другие типы интуитивных процедур, причем некоторые из них весьма далеки от «геометричности». Однако, как показы вает практика, геометрические интуитивные представления чаще всего дают более глубокое математическое понимание. Полагаю, было бы весьма полезно выяснить, какие же именно физические процессы происходят в нашем мозге, когда мы визуализируем что-либо геометрически. Начнем хотя бы с того, что никакой ло гической необходимости в том, чтобы непосредственным резуль татом этих процессов было «геометрическое отражение» визуа лизируемого объекта, по сути дела, не существует. Как мы увидим далее, здесь может получиться нечто совсем иное.
Здесь уместно провести аналогию с феноменом, именуе мым «виртуальной реальностью». Феномен этот, согласно рас пространенному мнению, имеет самое прямое отношение к теме «визуализации». Методы виртуальной реальности) позволяют создать компьютерную модель какой-либо не существующей в природе структуры, — например, здания на стадии архитектур ного проекта, — затем модель проецируется в глаз наблюдателя-человека, который, предположительно, воспринимает ее как «ре альное» здание. Совершая движения глазами, головой или, может быть, ногами, словно прогуливаясь вокруг демонстрируемого ему здания, наблюдатель может разглядывать его с разных сто рон — точно так же, как если бы здание действительно было ре альным (см. рис. 1.8). Согласно некоторым предположениям, выполняемые мозгом в процессе сознательной визуализации опе рации (какой бы ни была их истинная природа) аналогичны вы числениям, производимым при построении такой виртуальной модели. В самом деле, мысленно осматривая какую-то реаль но существующую неподвижную структуру, человек, по всей ви димости, создает в уме некую модель, которая остается неиз менной, несмотря на постоянные движения его головы, глаз и тела, приводящие к непрерывной смене образов, возникающих на сетчатке его глаз. Такие поправки на движения тела играют весьма существенную роль при построении виртуальной реаль ности, и высказывались предположения в том смысле, что нечто подобное должно происходить и при создании «мысленных моде лей», представляющих собой результаты актов визуализации. Та кие вычисления, разумеется, вовсе не обязаны иметь целью вос произведение реальной геометрической структуры моделируемой конструкции (или ее «отражение»). Сторонникам точки зрения в таком случае пришлось бы рассматривать сознательную визу ализацию как результат своего рода численного моделирования окружающего мира в голове человека. Я же полагаю, что всякий раз, когда мы сознательно воспринимаем ту или иную визуальную сцену, сопровождающее этот процесс понимание представляет собой нечто, существенно отличное от моделирования мира ме тодами вычислительного характера.
Можно также предположить, что внутри мозга функциони рует нечто вроде «аналогового компьютера», в котором моде лирование внешнего мира реализуется не с помощью цифровых вычислений, как в современных электронных компьютерах, а с помощью некоторой внутренней структуры, физическое поведе ние которой каким-то однозначным образом отражает поведение моделируемой внешней системы. Допустим, например, что нам необходимо аналоговое устройство для моделирования движений некоторого внешнего твердого тела. Для создания такого устрой ства мы, очевидно, воспользуемся весьма простым и естествен ным способом. Мы отыщем внутри системы реальное физическое тело той же формы (но меньшего размера), что и моделируемый внешний объект; я, разумеется, ни в коем случае не утверждаю, что данная конкретная модель имеет какое бы то ни было пря мое отношение к тому, что происходит внутри мозга. Движения упомянутого «внутреннего» тела можно рассматривать с разных сторон, т. е. в том, что касается внешних проявлений, аналоговая модель оказывается очень похожа на модель, полученную с по мощью вычислительных методов. Можно даже создать на основе такой модели систему «виртуальной реальности», в которой вме сто целиком вычислительной модели рассматриваемой структуры будет действовать ее реальная физическая модель, отличающа яся от моделируемого «реального» объекта только размерами.
В общем случае аналоговое моделирование вовсе не обязано быть столь прямолинейным и примитивным. Вместо физического расстояния можно использовать в качестве параметра, например, электрический потенциал и т. п. Следует только удостовериться в том, что физические законы, управляющие внутренней струк турой, в точности совпадают с физическими законами, которым подчиняется внешняя, моделируемая, структура. При этом нет никакой необходимости в том, чтобы внутренняя структура была похожа на внешнюю («отражала» ее) каким-либо очевидным образом.
Способны ли аналоговые устройства достичь результатов, недоступных для чисто вычислительного моделирования? Как уже упоминалось в современная физика не дает никаких оснований полагать, что с помощью аналогового моделирова ния можно добиться чего-то такого, что принципиально неосу ществимо при моделировании цифровом. Иными словами, если мы допускаем, что построение мысленных образов обусловлено какими-то невычислимыми процессами, то это означает, что объ яснение данному феномену следует искать за пределами извест ной нам физики.
1.21. Является ли невычислимым математическое
воображение?
Говоря о мысленной визуализации, мы ни разу не указали явно на невозможность воспроизведения этого процесса вычис лительным путем. Даже если визуализация действительно осу ществляется посредством какой-то внутренней аналоговой си стемы, что мешает нам предположить, что должна существовать, по крайней мере, возможность смоделировать поведение такого аналогового устройства?
Дело в том, что «предметом» рассматриваемой выше «ви зуализации» является «визуальное» в буквальном смысле этого слова, т. е. мысленные образы, соответствующие, как нам пред ставляется, сигналам, поступающим в мозг от глаз. В общем же случае мысленные образы вовсе не обязательно носят такой бук вально «визуальный» характер — например, те, что возникают, когда мы понимаем смысл какого-то абстрактного слова или при поминаем музыкальную фразу. Согласитесь, что мысленные образы человека, слепого от рождения, вряд ли могут иметь прямое отношение к сигналам, которые его мозг получает от глаз. Иными словами, под «визуализацией» мы будем в дальнейшем подра зумевать скорее процессы, связанные с «осознанием» вообще, нежели те, что имеют непосредственное отношение к системе органов зрения. Честно говоря, мне не известен ни один довод, непосредственно указывающий на вычислительную (или какую-либо иную) природу нашей способности к визуализации именно в буквальном смысле этого слова. Моя же убежденность в том, что процессы «буквальной» визуализации действительно являются невычислимыми, проистекает из явно невычислительного харак тера других видов осознания. Не совсем понятно, каким образом можно произвести прямое доказательство невычислимости ис ключительно для геометрической визуализации, однако если бы удалось убедительно доказать невычислимость хотя бы неко торых форм осмысленного осознания, то такое доказательство дало бы, по меньшей мере, серьезные основания полагать, что вид осознания, ответственный за геометрическую визуализацию, также должен иметь невычислительный характер. По-видимому, нет особой необходимости проводить четкую границу между раз личными проявлениями феномена сознательного понимания.
Переходя от общего к частному, я утверждаю, что наше по нимание, например, свойств натуральных чисел (0, 1, 2, 3, 4,...) носит явно невычислительный характер. (Можно даже сказать, что само понятие натурального числа и есть, в некотором смысле, форма негеометрической «визуализации».) В воспользовавшись упрощенным вариантом теоремы Гёделя (см. пояснение к возражению Q15), я покажу, что это понимание невозможно описать каким бы то ни было конечным набором правил, а значит, невозможно и воспроизвести с помощью вычислительных мето дов. Время от времени нас радуют сообщениями о том, что ту или иную компьютерную систему «обучили» «пониманию» концеп ции натурального числа. Однако, как мы вскоре увидим, этого просто не может быть. Именно осознание того, что в действи тельности может означать слово «число», дает нам возможность верно понять заключенную в нем идею. А располагая верным пониманием, мы — по крайней мере, в принципе — можем давать верные ответы на целый ряд вопросов о числах, буде нам таковые зададут, в то время как ни один конечный набор правил этого обеспечить не в состоянии. Имея в своем распоряжении одни только правила при полном отсутствии непосредственного осо знания, управляемый компьютером робот (такой, например, как «Deep Thought»; см. ) неизбежно окажется лишен тех способностей, в которых ни один из людей никаких ограничений не испытывает; хотя если снабдить робота достаточно умными пра вилами поведения, то он, возможно, поразит наше воображение выдающимися интеллектуальными подвигами, многие из которых далеко превзойдут способности обычного человека в каких-то конкретных, достаточно узкоспециальных областях. Возможно даже, что ему удастся на некоторое время одурачить нас, и мы поверим, что и он способен на осознание.
Следует отметить, что всякий раз, как мы получаем дей ствительно эффективную цифровую (или аналоговую) компью терную модель какой-либо внешней системы, это почти все гда происходит благодаря глубокому пониманию человеком тех или иных основополагающих математических идей. Взять хотя бы цифровую модель геометрического движения твердого тела. Выполняемые при таком моделировании вычисления опираются, главным образом, на открытия великих мыслителей семнадцатого века — таких, например, как французские математики Декарт, Ферма и Дезарг, — которым мы обязаны идеями системы коор динат и проективной геометрии. Существуют и модели, описыва ющие движение куска веревки или струны. Как выясняется, гео метрические идеи, необходимые для понимания особенностей по ведения струны — ее так называемой «заузленности», — весьма сложны и относительно молоды. Большинство фундаментальных открытий в этой области были сделаны только в двадцатом веке. Каждый из нас без особого труда способен экспериментальным путем — т. е. посредством несложных манипуляций руками и приложения некоторого здравого смысла — убедиться в наличии либо отсутствии на замкнутой, но спутанной веревочной петле узлов; вычислительные же алгоритмы для достижения того же результата оказываются на удивление сложными и малоэффек тивными.
Таким образом, эффективное цифровое моделирование та ких процессов является в основе своей нисходящим и во многом определяется пониманием и интуитивными прозрениями челове ка. Вероятность того, что в человеческом мозге при визуализа ции происходит нечто подобное, очень и очень невелика. Более правдоподобным представляется предположение о том, что существенный вклад в этот процесс вносят те или иные восходящие процедуры, а воспроизводимые в результате «визуальные обра зы» требуют предварительного накопления немалого «опыта». Я, впрочем, не слышал о сколько-нибудь серьезных исследова ниях этого вопроса именно с точки зрения восходящих проце дур (например, о разработках искусственных нейронных сетей). По всей видимости, подход, целиком основанный на процедурах восходящего типа, даст весьма скудные результаты. Сомневаюсь, что можно построить более или менее удачную модель геометри ческого движения твердого тела или топологических особенно стей движения куска струны при отсутствии подлинного понима ния обусловливающих эти движения законов.
Какие же физические процессы следует считать ответствен ными за осознание — за осознание, которое, судя по всему, необ ходимо для всякого подлинного понимания? Действительно ли оно не допускает численного моделирования, как того требует точка зрения ? Можно ли, в таком случае, надеяться на какое бы то ни было постижение этого предполагаемого физического процесса — хотя бы в принципе? Думаю, что можно, и более чем уверен, что точка зрения представляет собой подлинно научное допущение — просто нужно приготовиться к тому, что наши науч ные критерии и методы, возможно, претерпят не слишком замет ные, но весьма существенные изменения. Нужно быть готовым к тому, что объекты наших исследований будут принимать самые неожиданные формы и возникать в таких областях подлинно на учного знания, которые, на первый взгляд, никакого отношения к делу не имеют. Читателя, который намерен продолжить чтение этой книги, я прошу сохранять открытость восприятия и вместе с тем внимательно следить за рассуждениями и представляемы ми научными свидетельствами, даже если они вдруг покажутся ему несколько сомнительными с точки зрения здравого смысла. Будьте готовы немного поразмыслить над предлагаемыми дово дами, а я, в свою очередь, приложу все усилия к изложению их в максимально доступном виде. Уверен, что, настроившись подоб ным образом, мы с вами преодолеем все преграды.
В оставшихся главах первой части я не буду касаться физи ки и возможных видов биологической активности, которые спо собны обусловить невычислимость, требуемую точкой зрения . Этими предметами мы займемся во второй части книги. Для нача ла нам предстоит решить вопрос об общей целесообразности поисков невычислимых процессов. Пока что вся целесообразность проистекает лишь из моей уверенности в том, что при сознатель ном понимании мы действительно выполняем какие-то невычис лимые операции. Эту уверенность необходимо обосновать, для чего нам придется обратиться к математике.
Примечания
1. См., в частности, [161], [262], [266].
2. Моравек [266] основывает свои доводы в пользу такого срока на том, какая, по его мнению, часть коры головного мозга успешно ре ализована в виде модели (речь, в основном, идет о нейронах, расположенных в сетчатке), и на оценке темпов развития компьютерной технологии в ближайшем будущем. Любопытно, что к началу 1994 года он своего мнения не изменил; см. [267].
3. Эти четыре точки зрения были подробно описаны, например, в [214], с. 252 (следует, впрочем, отметить, что условие, называемое авто ром статьи «тезисом Черча—Тьюринга», является, по своей сути, скорее «тезисом Тьюринга» (в том смысле, в каком я употребляю этот термин в § 1.6), нежели «тезисом Черча»).
4. Например, Д.Деннет, Д. Хофштадтер, М. Мински, X. Моравек, Г. Саймон; подробнее о терминах можно прочесть в [339], [242].
5. См. [266].
6. [368]; см. также НРК, с. 5-14.
7. См. [339], [340].
8. Вопрос осложняется тем, что современная физика рассматривает, по большей части, непрерывные, а не дискретные(цифровые) про цессы. Самый смысл термина «вычислимость» в данном контексте можно трактовать по-разному. С некоторыми рассуждениями на данную тему можно ознакомиться в [311], [345], [312], [313], [314], [315], [29], [326], [327]. К этому вопросу я еще вернусь в
9. Этой замечательной фразой я обязан диктору ВВС Radio 4, веду щему программу «Мысль дня».
10. Исследования в области создания ИИ начались в 1950-е годы с весьма успешного применения сравнительно элементарных нисхо дящих процедур (например, Грей Уолтер, 1953). Распознающий об разы «перцептрон» Фрэнка Розенблатта [322] стал в 1959 году пер вым удачным «связным» устройством (искусственной нейронной сетью), вызвав тем самым значительный интерес к схемам восходя щего типа. В 1969 году Марвин Мински и Сеймур Пейперт указали на некоторые существенные ограничения, присущие данному типу восходящей организации (см. [263]). Способ обойти эти ограниче ния предложил некоторое время спустя Хопфилд [206], и в насто ящий момент искусственными устройствами, функционирующими по типу нейронной сети, активно занимаются ученые всего мира. (О применении таких устройств, например, в физике высоких энер гий см. [19] и [141].) Что касается ИИ нисходящего типа, то здесь важными вехами стали работы Джона Маккарти [247] и Алана Ньюэлла в сотрудничестве с Гербертом Саймоном [271]. Впечатля ющее изложение истории исследований проблемы ИИ можно найти в [123]. Из прочей литературы порекомендую [174], [15] (относи тельно недавние размышления о процедурах и перспективах ИИ); [97] (классическая критика идеи ИИ); [139] (свежий взгляд на про блему от пионера ИИ); также см. статьи в сборниках[40] и [220].
11. Описание лямбда-исчисления см. в [52] и [222].
12. Из различных публикаций, посвященных данной проблематике, могу порекомендовать, например, [311], [345], [315], [29]. Вопрос о функционировании мозга в связи с упомянутыми проблемами рас смотрен, в частности, в [325].
13. В действительности Роберт Бергер доказал, что общего алгорит мического решения не имеет лишь задача о замощении плоскости плитками Вана. Плитки Вана (названные так в честь математи ка Хао Вана) представляют собой единичные квадраты с окра шенными краями; при замощении цвета соседних плиток должны совпадать, сами же плитки при этом нельзя ни вращать, ни пере ворачивать. Впрочем, для любого набора плиток Вана несложно составить такой набор полиомино, которым можно будет замостить плоскость тогда и только тогда, когда ее можно замостить соответ ствующим набором плиток Вана. Таким образом, неразрешимость вычислительными методами задачи о замощении плоскости набо ром полиомино непосредственно следует из неразрешимости задачи о замощении плоскости набором плиток Вана.
В связи с задачей о замощении плоскости полиомино следует отме тить, что если каким-либо набором полиомино не удается замо стить плоскость, то этот факт вполне возможно установить вычис лительным путем (точно так же, как мы можем предсказать оста новку машины Тьюринга или убедиться в наличии решения у си стемы диофантовых уравнений), нужно лишь попытаться замостить плитками данного набора квадратную область размера п х п (по следовательно увеличивая значение п); замостить всю плоскость не удастся уже при некотором конечном значении п. Алгоритмиче ским путем невозможно установить как раз те случаи, когда данным набором плиток можно-таки замостить плоскость.
14. О некоторых чересчур оптимистичных прогнозах относительно ИИ можно прочесть в [ 123].
15. Своим знакомством с этими вопросами я обязан очень многим людям, среди которых хочу особо поблагодарить Ли Левингера. Замечательное исследование связи современной физики и вычис лительных методов с проблемами человеческого поведения можно найти в книге [199].
16. Сломен [343], например, пеняет мне на то, что в НРК я слишком часто прибегаю к такому неопределенному термину, как «созна ние», в то время как сам он весьма свободно оперирует еще более неопределенным (на мой взгляд) термином «разум»!
17. См. [339], [340].
18. См. статью Серла [339] (ее также можно найти в сборнике [202], с. 372). Мне, правда, не совсем ясно, к какой точке зрения Серл склонился бы сейчас, к В или все же к В.
19. Занимательное рассмотрение подобного предположения представлено в [201]; см. также НРК, с. 21-22.
20. Суть понятия «алгоритмической сложности» доступным языком изложена в [45].
21. См. [207].
22. См. [123].
23. См..например,[267].
24. О доказательстве Лукаса см. [319], [344], [24], [162], [163], [235], [236], [201], [37]; см. также [246]. Что касается моей версии, кратко представленной в НРК, с. 416—418, то где только ее не критикова ли: см., в особенности, [343] и многочисленные статьи в Behavioral and Brain Sciences: [36], [42], [46], [72], [73], [79], [96], [153], [198], [219], [250], [249], [252], [268], [306], [323], [365], [385]; мои ответы на критику см. в [291 ], [297] и [ 177]; см. также [94], [293].
25. Примеры взяты из какой-то английской телевизионной програм мы; возможно, из «Машины мечты» (The Dream Machine, декабрь 1991 г.) — четвертой из цикла программ ВВС «Мыслящая маши на» (The Thinking Machine). О последних достижениях в области «искусственного понимания», а в особенности, о захватывающем проекте Дугласа Лената «CYC» можно прочесть в [123].
26. Весьма живо и популярно все это описано в [388].
27. Подобное предположение выдвинул, например, Ричард Доукинс в своих «Рождественских лекциях» (ВВС, 1992 г.).
28. См., например, рассказ Фридмена [123] о работе Лената и других исследователей в этом направлении.
2
ГЕДЕЛЕВСКОЕ ДОКАЗАТЕЛЬСТВО
2.1. Теорема Гёделя и машины Тьюринга
В наиболее чистом виде мыслительные процессы проявля ются в сфере математики. Если же мышление сводится к вы полнению тех или иных вычислений, то математическое мыш ление, по всей видимости, должно обладать этим свойством в наибольшей степени. Однако, как это ни удивительно, в действи тельности все происходит с точностью до наоборот. Именно ма тематика дает нам самое явное свидетельство тому, что процессы сознательного мышления включают в себя нечто, не доступное вычислению. Возможно, это покажется парадоксальным, однако для того, чтобы двигаться дальше, нам придется пока с этим парадоксом как-то примириться.
Прежде чем мы начнем, мне бы хотелось хоть как-то успо коить читателя в отношении математических формул, которые встретятся нам в нескольких последующих разделах (§§2.2— 2.5), хотя надо признать, что страхи его не лишены оснований: ведь нам предстоит в какой-то мере уяснить для себя смысл и следствия ни много ни мало самой важной теоремы математи ческой логики — знаменитой теоремы Курта Гёделя. Я привожу здесь очень и очень упрощенный вариант этой теоремы, опираясь, в частности, на несколько более поздние идеи Алана Тьюринга. Мы не будем пользоваться каким бы то ни было математическим формализмом, за исключением простейшей арифметики. Пред ставленное доказательство, вероятно, будет кое-где несколько путаным, однако всего лишь путаным, а ни в коем случае не «сложным» в смысле необходимости каких-то предварительных познаний в математике. Воспринимайте доказательство в любом удобном для вас темпе и не стесняйтесь перечитывать его столько раз, сколько захочется. В дальнейшем (§§2.6—2.10) мы рассмот рим некоторые более специфические соображения, лежащие в основе теоремы Гёделя, однако читатель, не интересующийся по добными вопросами, может эти разделы пропустить без ущерба для понимания.
Так что же такое теорема Гёделя? В 1930 году на конферен ции в Кенигсберге блестящий молодой математик Курт Гёдель произвел немалое впечатление на ведущих математиков и ло гиков со всего мира, представив их вниманию теорему, которая впоследствии получила его имя. Ее довольно быстро признали в качестве фундаментального вклада в основы математики — быть может, наиболее фундаментального из всех возможных, — я же, в свою очередь, утверждаю, что своей теоремой Гёдель также положил начало важнейшему этапу развития философии разума.
Среди положений, которые со всей неоспоримостью доказал Гёдель, имеется следующее: нельзя создать такую формальную систему логически обоснованных математических правил дока зательства, которой было бы достаточно, хотя бы в принципе, для доказательства всех истинных теорем элементарной ариф метики. Уже и это само по себе в высшей степени удивительно, однако это еще не все. Многое говорит за то, что результаты Гёделя демонстрируют нечто большее, — а именно, доказывают, что способность человека к пониманию и постижению сути вещей невозможно свести к какому бы то ни было набору вычислитель ных правил. Иными словами, нельзя создать такую систему пра вил, которая оказалась бы достаточной для доказательства даже тех арифметических положений, истинность которых, в принципе, доступна для человека с его интуицией и способностью к пониманию, а это означает, что человеческие интуицию и понимание невозможно свести к какому бы то ни было набору правил. Последующие мои рассуждения отчасти имеют целью убедить читателя в том, что вышеприведенное утверждение действительно следует из теоремы Гёделя; более того, именно на теореме Гёделя основывается мое доказательство неизбежности наличия в чело веческом мышлении составляющей, которую никогда не удастся воспроизвести с помощью компьютера (в том смысле, который мы вкладываем в этот термин сегодня).
Думаю, нет необходимости давать в рамках основного до казательства определение «формальной системы» (если такая необходимость все же есть, то см. § 2.7). Вместо этого я восполь зуюсь фундаментальным вкладом Тьюринга, который приблизи тельно в 1936 году описал класс процессов, которые мы сей час называем «вычислениями» или «алгоритмами» (аналогичные результаты были получены независимо от Тьюринга некоторыми другими математиками, среди которых следует, в первую очередь, упомянуть Черча и Поста). Такие процессы эффективно эквива лентны процедурам, реализуемым в рамках любой математиче ской формальной системы, поэтому для нас не имеет особого зна чения, что именно понимается под термином «формальная систе ма», коль скоро мы обладаем достаточно ясным представлением о том, что обозначают термины «вычисление» или «алгоритм». Впрочем и для составления такого представления математически строгое определение нам не понадобится.
Те из вас, кто читал мою предыдущую книгу «Новый разум короля» (см. НРК, глава 2), возможно, припомнят, что алгоритм там определяется как процедура, которую способна выполнить машина Тьюринга, или, если угодно, математически идеализи рованная вычислительная машина. Такая машина функционирует в пошаговом режиме, причем каждый ее шаг полностью задается нанесенной на рабочую «ленту» меткой, которую (метку) машина «считывает» в соответствующий момент времени, и «внутренним состоянием» машины (дискретно определенным) на этот момент. Количество различных разрешенных внутренних состояний ко нечно, общее число меток на ленте также должно быть конечным, хотя сама лента по длине не ограничена. Машина начинает рабо ту с какого-то определенного состояния, которое мы обозначим, например, нулем «О», команды же подаются на ленте в виде, скажем, двоичного числа (т. е. последовательности нулей «0» и единиц «1»). Далее машина начинает считывать эти команды, передвигая ленту (либо, что то же самое, перемещаясь вдоль ленты) некоторым определенным образом, согласно встроенным пошаговым инструкциям, при этом действие машины на каждом этапе работы определяется ее внутренним состоянием и конкрет ным символом, считываемым на данном этапе с ленты. Руковод ствуясь все теми же встроенными инструкциями, машина может стирать имеющиеся метки или ставить новые. В таком духе ма шина продолжает работать до тех пор, пока не достигнет особой команды «STOP», — именно в этот момент (и никак не раньше) машина прекращает работу, а мы можем увидеть на ленте ответ на выполнявшееся вычисление. Вот и все, можно задавать машине новую задачу.
Можно представить себе некую особую машину Тьюринга, которая способна имитировать действие любой возможной ма шины Тьюринга. Такие машины Тьюринга называют универсаль ными. Иными словами, любая отдельно взятая универсальная машина Тьюринга оказывается в состоянии выполнить любое вычисление (или алгоритм), какое нам только может прийти в голову. Хотя внутреннее устройство современного компьютера весьма отличается от устройства описанной выше конструкции (а его внутренняя «рабочая область», пусть и очень велика, все же не бесконечна, в отличие от идеализированной ленты машины Тьюринга), все современные универсальные компьютеры пред ставляют собой, в сущности, универсальные машины Тьюринга.
2.2. Вычисления
В этом разделе мы поговорим о вычислениях. Под вычис лением (или алгоритмом) я подразумеваю действие некоторой машины Тьюринга, или, иными словами, действие компьютера, задаваемое той или иной компьютерной программой. Не следует забывать и о том, что понятие вычисления включает в себя не только выполнение обычных арифметических действий — таких, например, как сложение или умножение чисел, — но и некоторые другие процессы. Так, частью вычислительной процедуры могут стать и вполне определенные логические операции. В качестве примера вычисления можно рассмотреть следующую задачу:
(А) Найти число, не являющееся суммой квадратов трех чисел.
Под «числом» в данном случае я подразумеваю «натуральное число», т. е. число из ряда
0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, ....
Под квадратом числа понимается результат умножения натурального числа на само себя, т. е. число из ряда
0, 1, 4, 9, 16, 25, 36, ...;
представленные в этом ряду числа получены следующим обра зом:
0 х 0 = 02, 1 х 1 = 12, 2 х 2 = 22, 3 х 3 = 32, 4 х 4 = 42, 5х5 = 52, 6 х 6 = 62,....
Такие числа называются «квадратами», поскольку их можно представить в виде квадратных матриц (пустой матрицей в начале строки обозначен 0):
|
* *, *, * * |
* * * * * * , * * * |
* * * * * * * *, * * * * * * * * * * * * |
С учетом вышесказанного решение задачи (А) может проис ходить следующим образом. Мы поочередно проверяем каждое натуральное число, начиная с 0, на предмет того, не является ли оно суммой трех квадратов. При этом, разумеется, рассмат риваются только те квадраты, величина которых не превышает самого числа. Таким образом, для каждого натурального числа необходимо проверить некоторое конечное количество квадра тов. Отыскав тройку квадратов, составляющих в сумме данное число, переходим к следующему натуральному числу и снова ищем среди квадратов (не превышающих по величине рассматри ваемое число) такие три, которые дают в сумме это самое число. Вычисление завершается лишь тогда, когда мы находим нату ральное число, которое невозможно получить путем сложения любых трех квадратов. Попробуем применить описанную проце дуру на практике и начнем наше вычисление с нуля. Ноль ра вен 02 + 02 + 02, что, безусловно, является суммой трех квадратов. Далее рассматриваем единицу и находим, что она не равна О2 + + О2 + О2, однако равна О2 + О2 + I2. Переходим к числу 2 и выясняем, что оно не равно ни 02 + 02 + 02, ни 02 + 02 + 12, но равно02 + 12 + 12. Затем следует число 3 и сумма 3 = 12 + 12 + 12; далее — число 4 и сумма 4 = 02 + 02 + 22; после 5 = 02 + 12 + 22 и 6 = 12+12+22 переходим к 7, и тут обнаруживается, что ни одна из троек квадратов (всех возможных троек квадратов, каждый из которых не превышает 7)
02+02+02 02+02+12 02+02+22 02+12+12 02+12+22
02+22+22 12+12+12 12+12+22 12+22+12 22+22+22
не дает в сумме 7. На этом этапе вычисление завершается, а мы делаем вывод: 7 есть одно из искомых чисел, так как оно не является суммой квадратов трех чисел.
2.3. Незавершающиеся вычисления
Будем считать, что с задачей (А) нам просто повезло. По пробуем решить еще одну:
(B) Найти число, не являющееся суммой квадратов четырех чи сел.
На этот раз, добравшись до числа 7, мы находим, что в виде суммы квадратов четырех чисел его представить вполне воз можно: 7 = 12 + 12 + 12 + 22, поэтому мы переходим к числу 8 (сумма 8 = 02 + 02 + 22 + 22), далее — 9 (сумма 9 = 02 + 02 + 02 + З2) и 10 (10 = 02 + 02 + 12 + 32) и т.д. Вычисления все продолжаются и продолжаются (. . . 23 = 12 + 22 + 32 + 32, 24 = 02 + 22 + 22 + 42, . . . , 359 = 12 + 32 + 52 + 182, . . .) и завершаться, похоже, не собираются. Мы предполагаем, что искомое число, должно быть, невообразимо велико, и для его вы числения нашему компьютеру потребуется чрезвычайно большой промежуток времени и огромный объем памяти. Более того, мы уже начинаем сомневаться, существует ли оно вообще, это самое число. Вычисления все продолжаются и продолжаются, и конца им не видно. Вообще говоря, так оно и есть: описанная вычисли тельная процедура завершиться в принципе не может. Известна теорема, впервые доказанная в 1770 году великим французским (и отчасти итальянским) математиком Жозефом Луи Лагранжем, согласно которой в виде суммы квадратов четырех чисел можно представить любое число. Теорема эта, кстати, весьма непро ста (доказать ее как-то пытался великий современник Лагранжа, швейцарский математик Леонард Эйлер, человек, отличавший ся удивительной математической интуицией, оригинальностью и продуктивностью, однако его постигла неудача).
Я, разумеется, не собираюсь докучать читателю подробно стями доказательства Лагранжа, вместо этого рассмотрим одну не в пример более простую задачу:
(C) Найти нечетное число, являющееся суммой двух четных чи сел.
Нисколько не сомневаюсь, что все и так уже все поняли, однако все же поясню. Очевидно, что вычисление, необходимое для ре шения этой задачи, раз начавшись, не завершится никогда. При сложении четных чисел, т. е. чисел, кратных двум,
0,2,4,6,8,10,12,14,16,...,
всегда получаются четные же числа; иными словами, никакая пара четных чисел не может дать в сумме нечетное число, т. е. число вида
1,3,5,7,9, 11, 13, 15,17,....
Я привел два примера ((В) и (С)) вычислений, которые невозможно выполнить до конца. Несмотря на то, что в первом случае вычисление и в самом деле никогда не завершается, до казать это довольно непросто, во втором же случае, напротив, бесконечность вычисления более чем очевидна. Позволю себе привести еще один пример:
(D) Найти четное число, большее 2, не являющееся суммой двух простых чисел.
Вспомним, что простым называется натуральное число (отличное от 0 и 1), которое делится без остатка лишь само на себя и на единицу; иными словами, простые числа составляют следующий ряд:
2, 3, 5, 7, 11, 13, 17, 19, 23, ....
Существует довольно высокая вероятность того, что отыскание решения задачи (D) также потребует незавершающейся вычис лительной процедуры, однако полной уверенности пока нет. Для получения такой уверенности необходимо прежде доказать ис тинность знаменитой «гипотезы Гольдбаха», выдвинутой Гольд бахом в письме к Эйлеру еще в 1742 году и до сих пор недоказан ной.
2.4. Как убедиться в невозможности завершить вычисление?
Мы установили, что вычисления могут как успешно завер шаться, так и вообще не иметь конца. Более того, в тех слу чаях, когда вычисление завершиться в принципе не может, это его свойство иногда оказывается очевидным, иногда не совсем очевидным, а иногда настолько неочевидным, что ни у кого до сих пор не достало сообразительности однозначно такую невозмож ность доказать. С помощью каких методов математики убеждают самих себя и всех остальных в том, что такое-то вычисление не может завершиться? Применяют ли они при решении подобных задач какие-либо вычислительные (или алгоритмические) проце дуры? Прежде чем мы приступим к поиску ответа на этот вопрос, рассмотрим еще один пример. Он несколько менее очевиден, чем (С), но все же гораздо проще (В). Возможно, нам удастся попутно получить некоторое представление о том, с помощью каких средств и методов математики приходят к своим выводам. В предлагаемом примере участвуют числа, называемые ше стиугольными:
1,7, 19,37,61,91, 127, ...,
иными словами, числа, из которых можно строить шестиугольные матрицы (пустую матрицу на этот раз мы не включаем):
Каждое такое число, за исключением начальной единицы, по лучается добавлением к предыдущему числу соответствующего числа из ряда кратных 6:
6, 12, 18,24, 30,36, ....
Это легко объяснимо, если обратить внимание на то, что каждое новое шестиугольное число получается путем окружения преды дущего числа шестиугольным кольцом
причем число горошин в этом кольце обязательно будет кратно 6, а множитель при каждом увеличении шестиугольника на одно кольцо будет возрастать ровно на единицу.
Вычислим последовательные суммы шестиугольных чисел, увеличивая каждый раз количество слагаемых на единицу, и по смотрим, что из этого получится.
1 = 1, 1 + 7 = 8, 1 + 7 + 19 = 27,
1 + 7 + 19 + 37 = 64, 1 + 7+19 + 37 + 61 = 125.
Что же особенного в числах 1, 8, 27, 64, 125? Все они являются кубами. Кубом называют число, умноженное само на себя три жды:
1 = 13 = 1 x 1 x 1, 8 = 23 = 2 x 2 x 2, 27 = 33 = 3 x 3 x 3,
64 = 43 = 4 x 4 x 4, 125 = 53 = 5 x 5 x 5, ....
Присуще ли это свойство всем шестиугольным числам? Попро буем следующее число. В самом деле,
1 + 7 + 19 + 37 + 61 + 91 = 216 = 6 x 6 x 6 = 63.
Всегда ли выполняется это правило? Если да, то никогда не завершится вычисление, необходимое для решения следующей задачи:
(Е) Найти последовательную сумму шестиугольных чисел, начи ная с единицы, не являющуюся кубом.
Думается, я сумею убедить вас в том, что это вычисление и в са мом деле можно выполнять вечно, но так и не получить искомого ответа.
Прежде всего отметим, что число называется кубом не про сто так: из соответствующего количества точек можно сло жить трехмерный массив в форме куба (такой, например, как на рис. 2.1). Попробуем представить себе построение такого мас сива в виде последовательности шагов: вначале разместим где-нибудь угловую точку, а затем будем добавлять к ней, одну за дру гой, особые конфигурации точек, составленные из трех «плоско стей» — задней стенки, боковой стенки и потолка, как показано на рис. 2.2.
Рис. 2.1 Сферы, уложенные в кубический массив.
А теперь посмотрим с другой стороны
Рис. 2.2. Разберем куб на части — каждая со своей задней стенкой, боковой стенкой и потолком.
Посмотрим теперь на одну из наших трехгранных конфигу раций со стороны, т. е. вдоль прямой, соединяющей начальную точку построения и точку, общую для всех трех граней. Мы увидим шестиугольник, подобный тому, что изображен на рис. 2.3. Точки, из которых складываются эти увеличивающиеся в размере шестиугольники, представляют собой, в сущности, те же точки, что образуют полный куб. То есть получается, что последователь ное сложение шестиугольных чисел, начиная с единицы, всегда будет давать число кубическое. Следовательно, можно считать доказанным, что вычисление, требуемое для решения задачи (Е), никогда не завершится.
Рис. 2.3. Каждую часть построения можно рассматривать как шестиугольник.
Кто-то, быть может, уже готов упрекнуть меня в том, что представленные выше рассуждения можно счесть в лучшем слу чае интуитивным умозаключением, но не формальным и строгим математическим доказательством. На самом же деле, перед вами именно доказательство, и доказательство вполне здравое, а пишу все это я отчасти и для того, чтобы показать, что осмысленность того или иного метода математического обоснования никак не связана с его «формализованностью» в соответствии с какой-либо заранее заданной и общепринятой системой правил. Напо мню, кстати, о еще более элементарном примере геометрического обоснования, применяемого для получения одного общего свой ства натуральных чисел, — речь идет о доказательстве истинности равенства a * 6 = 6 * a, приведенном в § 1.19. Тоже вполне до стойное «доказательство», хотя формальным его назвать нельзя.
Представленное выше рассуждение о суммировании после довательных шестиугольных чисел можно при желании заменить более формальным математическим доказательством. В основу такого формального доказательства можно положить принцип математической индукции, т.е. процедуру установления ис тинности утверждения в отношении всех натуральных чисел на основании одного-единственного вычисления. По существу, этот принцип позволяет заключить, что некое положение Р (n), за висящее от конкретного натурального числа n (например, такое: «сумма первых n шестиугольных чисел равна n3»), справедливо для всех n, если мы можем показать, во-первых, что оно спра ведливо для n = 0 (или, в нашем случае, для n = 1), и, во-вторых, что из истинности Р (n) следует истинность и Р(n + 1). Думаю, нет необходимости описывать здесь в деталях, как можно с помощью математической индукции доказать невозможность завершить вычисление (Е); тем же, кого данная тема заинтересо вала, рекомендую попытаться в качестве упражнения выполнить такое доказательство самостоятельно.
Всегда ли для установления факта действительной незавершаемости вычисления достаточно применить некие четко опре деленные правила — такие, например, как принцип математиче ской индукции? Как ни странно, нет. Это утверждение, как мы вскоре увидим, является одним из следствий теоремы Гёделя, и для нас крайне важно попытаться его правильно понять. При чем недостаточной оказывается не только математическая ин дукция. Недостаточным будет какой угодно набор правил, если под «набором правил» подразумевать некую систему формали зованных процедур, в рамках которой возможно исключительно вычислительным путем проверить корректность применения этих правил в каждом конкретном случае. Такой вывод может пока заться чересчур пессимистичным, ибо он, по-видимому, означает, что, несмотря на то, что вычисления, которые нельзя завершить, существуют, сам факт их незавершаемости строго математически установить невозможно. Однако смысл упомянутого следствия из теоремы Гёделя заключается вовсе не в этом. На самом деле, все не так уж и плохо: способность понимать и делать выводы, при сущая математикам — как, впрочем, и всем остальным людям, наделенным логическим мышлением и воображением, — просто-непросто не поддается формализации в виде того или иного на бора правил. Иногда правила могут стать частичной заменой по ниманию, однако в полной мере такая замена не представляется возможной.
2.5. Семейства вычислений; следствие Гёделя — Тьюринга
Для того, чтобы понять, каким образом из теоремы Гёделя (в моей упрощенной формулировке, навеянной отчасти идеями Тьюринга) следует все вышесказанное, нам необходимо будет сделать небольшое обобщение для типов утверждений, относя щихся к рассмотренным в предыдущем разделе вычислениям. Вместо того чтобы решать проблему завершаемое™ для каж дого отдельного вычисления ((А), (В), (С), (D) или (Е)), нам следует рассмотреть некоторое общее вычисление, кото рое зависит от натурального числа n (либо как-то воздей ствует на него). Таким образом, обозначив такое вычисление через C(n), мы можем рассматривать его как целое семей ство вычислений, где для каждого натурального числа (0, 1, 2, 3, 4,...) выполняется отдельное вычисление (соответственно, (C(0), С(1), С(2), С(3), С(4), ...), а сам принцип, в соответ ствии с которым вычисление зависит от n, является целиком и полностью вычислительным.
В терминах машин Тьюринга это всего лишь означает, что C(n) есть действие, производимое некоей машиной Тьюринга над числом п. Иными словами, число n наносится на ленту и подается на вход машины, после чего машина самостоятельно выполня ет вычисления. Если вас почему-либо не устраивает концепция «машины Тьюринга», вообразите себе самый обыкновенный уни версальный компьютер и считайте n «данными», необходимыми для работы какой-нибудь программы. Нас в данном случае инте ресует лишь одно: при любом ли значении n может завершиться работа такого компьютера.
Для того чтобы пояснить, что именно понимается под вы числением, зависящим от натурального числа п, рассмотрим два примера.
(F) Найти число, не являющееся суммой квадратов n чисел,
и
(G) Найти нечетное число, являющееся суммой n четных чисел.
Припомнив, о чем говорилось выше, мы без особого труда убе димся, что вычисление (F) завершается только при n = 0, 1, 2 и 3 (давая в результате, соответственно, 1, 2, 3 и 7), тогда как вычисление (G) вообще не завершается ни при каком значе нии n. Вздумай мы действительно доказать, что вычисление (F) не завершается при n, равном или большем 4, нам понадобилась бы более или менее серьезная математическая подготовка (по крайней мере, знакомство с доказательством Лагранжа); с другой стороны, тот факт, что ни при каком n не завершается вычисле ние (G), вполне очевиден. Какими же процедурами располагают математики для установления незавершаемой природы таких вы числений в общем случае? Можно ли сами эти процедуры пред ставить в вычислительной форме?
Предположим, что у нас имеется некая вычислительная про цедура А, которая по своем завершении дает нам исчерпыва ющее доказательство того, что вычисление С(n) действитель но никогда не заканчивается. Ниже мы попробуем вообразить, что А включает в себя все известные математикам процедуры, посредством которых можно убедительно доказать, что то или иное вычисление никогда не завершается. Соответственно, если в каком-то конкретном случае завершается процедура А, то мы получаем, в рамках доступного человеку знания, доказательство того, что рассматриваемое конкретное вычисление никогда не заканчивается. Большая часть последующих рассуждений не по требует участия процедуры А именно в такой роли, так как они посвящены, в основном, математическим умопостроениям. Од нако для получения окончательного заключения У нам придется таки придать процедуре А соответствующий статус.
Я, разумеется, не требую, чтобы посредством процедуры А всегда можно было однозначно установить, что вычисление С(n) нельзя завершить (в случае, если это действительно так); однако я настаиваю на том, что неверных ответов А не дает, т. е. если мы с ее помощью пришли к выводу, что вычисление С(n) не заверша ется, значит, так оно и есть. Процедуру А, которая и в самом деле всегда дает верный ответ, мы будем называть обоснованной. Следует отметить, что если процедура А оказывается в дей ствительности необоснованной, то этот факт, в принципе, можно установить с помощью прямого вычисления — иными словами, необоснованную процедуру А можно опровергнуть вычислитель ными методами. Так, если А ошибочно утверждает, что вычис ление С(n) нельзя завершить, тогда как в действительности это не так, то выполнение самого вычисления С(n) в конечном счете приведет к опровержению А. (Возможность практического вы полнения такого вычисления представляет собой отдельный во прос, его мы рассмотрим в ответе на возражение Q8.)
Для того чтобы процедуру А можно было применять к вы числениям в общем случае, нам потребуется какой-нибудь спо соб маркировки различных вычислений С(n), допускаемый А. Все возможные вычисления С можно, вообще говоря, предста вить в виде простой последовательности
, , , , , ,…,
т. е. q-е вычисление при этом получит обозначение Сq. В случае применения такого вычисления к конкретному числу п будем за писывать
С0 (n), Ci (п), С2 (п), С3 (п), С4 (п), С5 (п), .... ,
Можно представить, что эта последовательность задается, ска жем, как некий пронумерованный ряд компьютерных программ. (Для большей ясности мы могли бы, при желании, рассматри вать такую последовательность как ряд пронумерованных машин Тьюринга, описанных в НРК; в этом случае вычисление Cq(n) представляет собой процедуру, выполняемую q-й машиной Тью ринга Тq над числом n.) Здесь важно учитывать следующий тех нический момент: рассматриваемая последовательность являет ся вычислимой — иными словами, существует одно-единствен ное вычисление С., которое, будучи выполнено над числом q, да ет в результате Сq, или, если точнее, выполнение вычисления С, над парой чисел q, n (именно в таком порядке) дает в результа те Cq (n).
Можно полагать, что процедура А представляет собой некое особое вычисление, выполняя которое над парой чисел q, n, мож но однозначно установить, что вычисление Cq (n), в конечном итоге, никогда не завершится. Таким образом, когда заверша ется вычисление А, мы имеем достаточное доказательство то го, что вычисление Cq (n) завершить невозможно. Хотя, как уже говорилось, мы и попытаемся вскоре представить себе такую процедуру А, которая формализует все известные современной математике процедуры, способные достоверно установить невоз можность завершения вычисления, нет никакой необходимости придавать А такой смысл прямо сейчас. Пока же процедурой А мы будем называть любой обоснованный набор вычислитель ных правил, с помощью которого можно установить, что то или иное вычисление Cq (n) никогда не завершается. Поскольку вы полняемое процедурой А вычисление зависит от двух чисел q и п, его можно обозначить как A (q, n) и записать следующее утверждение:
(Н) Если завершается A (q, n), то Cq (n) не завершается.
Рассмотрим частный случай утверждения (Н), положив q рав ным п. Такой шаг может показаться странным, однако он вполне допустим. (Он представляет собой первый этап мощного «диа гонального доказательства» — процедуры, открытой в высшей степени оригинальным и влиятельным датско-русско-немецким математиком девятнадцатого века Георгом Кантором; эта проце дура лежит в основе рассуждений и Гёделя, и Тьюринга.) При q, равном п, наше утверждение принимает следующий вид:
(I) Если завершается А (п, п), то Сп (п) не завершается.
Отметим, что А(n, n) зависит только от одного числа (n), а не от двух, так что данное вычисление должно принадлежать ря ду , , , , … (по n), поскольку предполагается, что этот ряд содержит все вычисления, которые можно выполнить над од ним натуральным числом n. Обозначив это вычисление через Ck, запишем:
(J) A(n,n) = Ck(n).
Рассмотрим теперь частный случай п = k. (Второй этап диаго нального доказательства Кантора.) Из равенства (J) получаем:
(К) A(k,k) = Ck(k),
утверждение же (I) при n = k принимает вид:
(L) Если завершается A (k, k), то Ck (k) не завершается.
Подставляя (К) в (L), находим:
(М) Если завершается Ck (k), то Ck (k) не завершается.
Из этого следует заключить, что вычисление Ck (k) в действи тельности не завершается. (Ибо, согласно (М), если оно завер шается, то оно не завершается!) Невозможно завершить и вычис ление A (k, k), поскольку, согласно (К), оно совпадает с Ck (k). То есть, наша процедура А оказывается не в состоянии показать, что данное конкретное вычисление Ck (k) не завершается, даже если оно и в самом деле не завершается.
Более того, если нам известно, что процедура А обосно вана, то, значит, нам известно и то, что вычисление Ck (k) не завершается. Иными словами, нам известно нечто, о чем посред ством процедуры А мы узнать не могли. Следовательно, сама процедура А с нашим пониманием никак не связана.
В этом месте осторожный читатель, возможно, пожелает пе речесть все вышеприведенное доказательство заново, дабы убе диться в том, что он не пропустил какой-нибудь «ловкости рук» с моей стороны. Надо признать, что, на первый взгляд, это до казательство и в самом деле смахивает на фокус, и все же оно полностью допустимо, а при более тщательном изучении лишь выигрывает в убедительности. Мы обнаружили некое вычисле ние Ck (k), которое, насколько нам известно, не завершается; однако установить этот факт с помощью имеющейся в нашем распоряжении вычислительной процедуры А мы не в состоянии. Это, собственно, и есть теорема Гёделя(—Тьюринга) в необходи мом мне виде. Она применима к любой вычислительной проце дуре А, предназначенной для установления невозможности за вершить вычисление, — коль скоро нам известно, что упо мянутая процедура обоснована. Можно заключить, что для однозначного установления факта незавершаемости вычисления не будет вполне достаточным ни один из заведомо обоснованных наборов вычислительных правил (такой, например, как проце дура А), поскольку существуют незавершающиеся вычисления (например, Ck (k)), на которые эти правила не распространяются. Более того, поскольку на основании того, что нам известно о процедуре А и об ее обоснованности, мы действительно можем составить вычисление Ck (k}, которое, очевидно, никогда не за вершается, мы вправе заключить, что процедуру А никоим об разом нельзя считать формализацией процедур, которыми рас полагают математики для установления факта незавершаемости вычисления, вне зависимости от конкретной природы А. Вывод:
Для установления математической истины математики не применяют заведомо обоснованные алгоритмы.
Мне представляется, что к такому выводу неизбежно должен прийти всякий логически рассуждающий человек. Однако мно гие до сих пор предпринимают попытки этот вывод опровергнуть (выдвигая возражения, обобщенные мною под номерами Q1 — Q20 в §2.6 и §2.10), и, разумеется, найдется ничуть не меньше желающих оспорить вывод более строгий, суть которого сводится к тому, что мыслительная деятельность непременно оказывается связана с некими феноменами, носящими фундаментально невы числительный характер. Вы, возможно, уже спрашиваете себя, каким же это образом подобные математические рассуждения об абстрактной природе вычислений могут способствовать объяс нению принципов функционирования человеческого мозга. Какое такое отношение имеет все вышесказанное к проблеме осмыс ленного осознания? Дело в том, что, благодаря этим математи ческим рассуждениям, мы и впрямь можем прояснить для себя некие весьма важные аспекты такого свойства мышления, как понимание — в терминах общей вычислимости, — а, как было показано в § 1.12, свойство понимания связано с осмысленным осознанием самым непосредственным образом. Предшествую щее рассуждение действительно носит в основном математиче ский характер, и связано это с необходимостью подчеркнуть одно очень существенное обстоятельство: алгоритм А участвует здесь на двух совершенно различных уровнях. С одной стороны, это просто некий алгоритм, обладающий определенными свойствами, с другой стороны, получается, что на самом-то деле А можно рассматривать как «алгоритм, которым пользуемся мы сами» в процессе установления факта незавершаемости того или ино го вычисления. Так что в вышеприведенном рассуждении речь идет не только и не столько о вычислениях. Речь идет также и о том, каким образом мы используем нашу способность к осмысленному пониманию для составления заключения об ис тинности какого-либо математического утверждения — в дан ном случае утверждения о незавершаемости вычисления Ck (k). Именно взаимодействие между двумя различными уровнями рас смотрения алгоритма А — в качестве гипотетического способа функционирования сознания и собственно вычисления — поз воляет нам сделать вывод, выражающий фундаментальное про тиворечие между такой сознательной деятельностью и простым вычислением.
Существуют, однако, всевозможные лазейки и контраргу менты, на которые необходимо обратить самое пристальное вни мание. Для начала, в оставшейся части этой главы, я тщательно разберу все важные контраргументы против вывода ^, которые когда-либо попадались мне на глаза — см. возражения Q1-Q20 и комментарии к ним в §§2.6 и 2.10; там, кроме того, мож но найти и несколько дополнительных возражений моего соб ственного изобретения. Каждое из возражений будет разобрано со всей обстоятельностью, на какую я только способен. Пройдя через это испытание, вывод , как мы убедимся, существенно не пострадает. Далее, в главе 3, я рассмотрю следствия уже из утверждения . Мы обнаружим, что оно и в самом деле спо собно послужить прочным фундаментом для построения весь ма убедительного доказательства абсолютной невозможности точного моделирования сознательного математического понима ния посредством вычислительных процедур, будь то восходящих, нисходящих или любых их сочетаний. Многие сочтут такой вывод весьма неприятным, поскольку если он справедлив, то нам, полу чается, просто некуда двигаться дальше. Во второй части книги я выберу более позитивный курс. Я приведу правдоподобные, на мой взгляд, научные доводы в пользу справедливости результа тов моих размышлений о физических процессах, которые могут, предположительно, лежать в основе деятельности мозга — вро де той, что осуществляется при нашем восприятии приведенных выше рассуждений, — и о причинах недоступности этой деятель ности для какого бы то ни было вычислительного описания.
2.6. Возможные формальные возражения против
Утверждение вполне способно потрясти воображение и не слишком впечатлительного читателя, особенно если учесть достаточно простой характер составных элементов рассуждения, из которого мы это утверждение вывели. Прежде чем перейти к рас смотрению (в главе 3) его следствий применительно к возмож ности создания разумного робота-математика с компьютерным разумом, необходимо очень тщательно исследовать некоторое количество формальных моментов, связанных с получением вы вода ^'. Если подобные возможные формальные «лазейки» вас не смущают и вы готовы принять на веру утверждение У (согласно которому, напомним, математики при установлении математиче ской истины не применяют заведомо обоснованные алгоритмы), то вы, вероятно, предпочтете пропустить (или хотя бы на неко торое время отложить) нижеследующие рассуждения и перейти непосредственно к главе 3. Более того, если вы готовы принять на веру и несколько более серьезный вывод, в соответствии с кото рым принципиально невозможно алгоритмически объяснить ни математическое, ни какое-либо иное понимание, то вам, возмож но, стоит перейти сразу ко второй части книги — задержавшись разве что на воображаемом диалоге в §3.23 (обобщающем наи более важные аргументы главы 3) и выводах в § 3.28.
Существует несколько математических моментов, связан ных с приведенным в §2.5 гёделевским доказательством, кото рые не дают людям покоя. Попытаемся с этими моментами разо браться.
Q1. Я понимаю так, что процедура А является единичной, тогда как во всевозможных математи ческих обоснованиях мы, несомненно, применяем много разных способов рассуждения. Не следует ли нам принять во внимание возможность существования целого ряда возможных «процедур А»?
В действительности, использование мною такой формули ровки вовсе не влечет за собой потери общего характера рас суждений в целом. Любой конечный ряд ai, Ау, аз, ..., Аг ал горитмических процедур всегда можно выразить в виде единич ного алгоритма А, причем таким образом, что А окажется неза вершаемым только в том случае, если не завершаются все от дельные алгоритмы ai, ..., Ат. (Процедура А может протекать, например, следующим образом: «Выполнить первые 10 шагов алгоритма А\, запомнить результат; выполнить первые 10 шагов алгоритма А^\ запомнить результат; выполнить первые 10 шагов алгоритма аз', запомнить результат; и так далее вплоть до Аг затем вернуться к А\ и выполнить следующие 10 шагов; запо мнить результат и т. д.; затем перейти к третьей группе из 10 ша гов и т. п. Завершить процедуру, как только завершится любой из алгоритмов Д.».) Если же ряд алгоритмов А бесконечен, то для того, чтобы его можно было считать алгоритмической про цедурой, необходимо найти способ порождения всей совокупно сти алгоритмов ai, А-2, А3, ... алгоритмическим путем. Тогда мы сможем получить единичный алгоритм А, который заменяет весь ряд алгоритмов и выглядит приблизительно следующим образом:
«первые 10 этапов-A1;
вторые 10 этаповА1, первые 10 этаповА2;
третьи 10 этапов A1, вторые 10 этаповА2, первые 10 этаповА3;
… и т.д.»…
Завершается такой алгоритм лишь после успешного завершения любого алгоритма из ряда, и никак не раньше.
С другой стороны, можно представить себе ситуацию, когда ряд a1, a2, аз,…, предположительно бесконечный, заранее не задан даже в принципе. Время от времени к такому ряду добавля ется следующая алгоритмическая процедура, однако изначально весь ряд в целом не определен. В этом случае, ввиду отсутствия какой-либо предварительно заданной алгоритмической процеду ры для порождения такого ряда, единичный замкнутый алгоритм нам получить никак не удастся.
Q2. Мы, безусловно, должны допустить, что алгоритм А может оказаться и не фиксированным. Лю ди, в конце концов, обладают способностью к обучению, а значит, применяемый ими при этом алгоритм вполне может претерпевать непрерывные из менения.
Для описания изменяющегося алгоритма необходимо каким-то образом задать правила, согласно которым он, собственно, изменяется. Если сами по себе эти правила являются полностью алгоритмическими, то мы уже включили их в описание нашей гипотетической процедуры «А», иначе говоря, такой «изменя ющийся алгоритм» на деле представляет собой всего-навсего еще один пример единичного алгоритма, и на наши рассужде ния подобное допущение никак не влияет. С другой стороны, можно вообразить средства для изменения алгоритма, предпо ложительно не являющиеся алгоритмическими: такие, например, как введение в алгоритм каких-то случайных составляющих или неких процедур взаимодействия его с окружением. «Неалгорит мический» статус подобных средств изменения алгоритма мы еще будем рассматривать несколько позднее (см. §§ 3.9, 3.10); можно также вернуться к § 1.9, где было показано, что ни одно из этих средств не позволяет сколько-нибудь убедительно избавиться от алгоритмизма (как того требует точка зрения ^). В данном слу чае, т. е. в рамках чисто математических рассуждений, нас зани мает лишь возможность того, что такое изменение действительно будет носить алгоритмический характер. Если же предположить, что алгоритмическим оно быть никак не может, то мы, без условно, придем к полному согласию с выводом &.
Пожалуй, следует немного подробнее остановиться на том, что может обозначать определение «алгоритмически изменяю щийся» применительно к алгоритму А. Допустим, что алгоритм А зависит не только от q и п, но и еще от одного параметра t, который можно рассматривать как «время», а можно как просто количество предшествующих настоящему моменту случаев ак тивации нашего алгоритма. Как бы то ни было, мы можем так же предположить, что параметр t является натуральным числом, и записать следующий ряд алгоритмов At (<J, n):
A0(q,n), Ai(q,n), A2(q,n), A3(q, n), ..., каждый элемент которого предположительно является обосно ванной процедурой для установления незавершаемости вычисле ния Cq (n), при этом мы будем считать, что мощность этих проце дур возрастает по мере увеличения t. Предполагается также, что способ, посредством которого увеличивается мощность этих про цедур, является алгоритмическим. Возможно, этот «алгоритми ческий способ» зависит некоторым образом от «опыта» выпол нения предыдущих алгоритмов At (q, n), однако в данном случае мы предполагаем, что этот «опыт» порождается также алгорит мически (в противном случае мы снова приходим к согласию с ), т.е. мы имеем полное право включить «опыт» (или способы его порождения) в перечень операций, составляющих следующий ал горитм (т.е., собственно, в At (q. n)). Действуя таким образом, мы опять-таки получаем единичный алгоритм (At (q, n)), кото рый зависит алгоритмически от всех трех параметров: t, q, п. На его основе можно построить алгоритм Л*, столь же мощный, что и весь ряд At (q, п), однако зависящий только от двух натуральных чисел: q и п. Для получения такого A* (q, n) нам, как и преж де, необходимо лишь выполнить первые десять шагов алгорит ма ао (q, n) и запомнить результат; затем первые десять шагов алгоритма А1 (q, n) и вторые десять шагов алгоритма ао (q, n), запоминая получаемые результаты; затем первые десять шагов алгоритма A2 (q, n), вторые десять шагов алгоритма А1(q, n), третьи десять шагов алгоритма A0 (q, n) и т. д., "запоминая по лучаемые на каждом шаге вычисления результаты. В конечном итоге, сразу после завершения любого из составляющих алго ритм вычислений завершается выполнение и всей процедуры в целом. Замена процедуры А процедурой А* никак не влияет на ход рассуждений, посредством которых мы пришли к выводу .
Q3. Не был ли я излишне категоричен, утверждая, что в тех случаях, когда уже можно определенно утверждать, что данное вычисление Сq(п) и вправду завершается, алгоритм А все равно должен вы полняться бесконечно? Допусти мы, что А в таких случаях также завершается, все наше рассужде ние оказалось бы ложным. В конце концов, обще известно, что присущая людям способность к ин туитивному пониманию позволяет им порой делать заключение о возможности завершения того или иного вычисления, однако я, судя по всему, здесь этой способностью пренебрег. Не слишком ли мно го искусственных ограничений?
Вовсе нет. Предполагается, что наше рассуждение применимо лишь к тому пониманию, которое позволяет заключить, что вычисление не завершается, но никак не к тому пониманию, бла годаря которому мы приходим к противоположному выводу. Ги потетический алгоритм А вовсе не обязан достигать «успешного завершения», обнаружив что то или иное вычисление заверша ется. Не в этом заключается его смысл.
Если вас такое положение дел не устраивает, попробуйте представить алгоритм А следующим образом: пусть А объединя ет в себе оба вида понимания, но в том случае, когда выясняется, что вычисление Cq(n) действительно завершается, алгоритм А искусственно зацикливается (т. е. выполняет какую-то операцию снова и снова, бесконечное количество раз). Разумеется, на са мом деле математики работают иначе, однако дело не в этом. Наше рассуждение построено как redactio ad absurdum, т.е. начав с допущения, что для установления математической исти ны используются заведомо обоснованные алгоритмы, мы в итоге приходим к противоположному выводу. Такое доказательство не требует, чтобы гипотетическим алгоритмом непременно оказался какой-то конкретный алгоритм А, мы вполне можем заменить его на другой алгоритм, построенный на основе А, — как, например, в только что упомянутом случае.
Этот комментарий применим и к любому другому возраже нию вида: «А что если алгоритм А завершится по какой-либо совершенно посторонней причине и не даст нам доказательства того, что вычисление Cq (n) не завершается?». Если нам вдруг придется иметь дело с алгоритмом «Л», который ведет себя по добным образом, то мы просто применим представленное в §2.5 обоснование к немного другому А — а именно, к такому, который зацикливается всякий раз, когда исходный «Л» завершается по любой из упомянутых посторонних причин.
Q4. Судя по всему, каждое вычисление Cq в пред ложенной мною последовательности С0, С1, С2,… является вполне определенным, тогда как при лю бом прямом переборе (численном или алфавит ном) компьютерных программ ситуация, конечно же, была бы иной?
В самом деле, было бы весьма затруднительно однознач но гарантировать, что каждому натуральному числу q в нашей последовательности действительно соответствует некое рабочее вычисление Cq. Например, описанная в НРК последователь ность машин Тьюринга Тд этому условию, конечно же, не удовле творяет; см. НРК, с. 54. При определенных значениях q маши ну Тьюринга Tq можно назвать «фиктивной» по одной из четырех причин: ее работа никогда не завершается; она оказывается «некорректно определенной», поскольку представление числа n в виде двоичной последовательности содержит слишком много (пять или более) единиц подряд и, как следствие, не имеет интер претации в данной схеме; она получает команду, которая вводит ее в нигде не описанное внутреннее состояние; или же по за вершении работы она оставляет ленту пустой, т. е. не дает ника кого численно интерпретируемого результата. (См. также При ложение А.) Для приведенного в §2.5 доказательства Гёделя-Тьюринга вполне достаточно объединить все эти причины в одну категорию под названием «вычисление не завершается». В част ности, когда я говорю, что вычислительная процедура А «завер шается» (см. также примечание на с. 122), я подразумеваю, что она «завершается» как раз в вышеупомянутом смысле (а пото му не содержит неинтерпретируемых последовательностей и не оставляет ленту пустой), — иными словами, «завершиться» мо жет только действительно корректно определенное рабочее вы числение. Аналогично, фраза «вычисление Cq (n) завершается» означает, что данное вычисление корректно завершается именно в этом смысле. При такой интерпретации соображение Q4 не имеет совершенно никакого отношения к представленному мною доказательству.
Q5. Не является ли мое рассуждение лишь демонстрацией неприменимости некоей частной алго ритмической процедуры (А) к выполнению вычис ления Cq (n)? И каким образом оно показывает, что я справлюсь с задачей лучше, чем какая бы то ни было процедура A?
Оно и в самом деле вполне однозначно показывает, что мы справляемся с такого рода задачами гораздо лучше любого ал горитма. Поэтому, собственно, я и воспользовался в своем рас суждении приемом reductio ad absurdum. Пожалуй, в данном случае уместно будет привести аналогию. Читателям, вероятно, известно о евклидовом доказательстве невозможности отыскать наибольшее простое число, также основанном на reductio ad absurdum. Доказательство Евклида выглядит следующим обра зом. Допустим, напротив, что такое наибольшее простое число нам известно; назовем его р. Теперь рассмотрим число N, кото рое представляет собой сумму произведения всех простых чисел вплоть до р и единицы:
N = 2*3*5* ... * р + 1.
Число N, безусловно, больше р, однако оно не делится ни на одно из простых чисел 2, 3, 5, ..., р (поскольку при делении получаем единицу в остатке), откуда следует, что N либо и есть искомое наибольшее простое число, либо оно является составным, и тогда его можно разделить на простое число, большее р. И в том, и в другом случае мы находим простое число, большее р, что проти воречит исходному допущению, заключавшемуся в том, что р есть наибольшее простое число. Следовательно, наибольшее простое число отыскать нельзя.
Такое рассуждение, основываясь на reductio ad absurdum, не просто показывает, что требуемому условию не соответству ет некое частное простое число р, поскольку можно отыскать число больше него; оно показывает, что наибольшего простого числа просто не может существовать в природе. Аналогично, представленное выше доказательство Гёделя—Тьюринга не про сто показывает, что нам не подходит тот или иной частный алго ритм А, оно демонстрирует, что в природе не существует алго ритма (познаваемо обоснованного), который был бы эквивален тен способности человека к интуитивному пониманию, которую мы применяем для установления факта незавершаемости тех или иных вычислений.
Q6. Можно составить программу, выполняя кото рую компьютер в точности повторит все этапы пред ставленного мною доказательства. Не означает ли это, что компьютер оказывается в состоянии само стоятельно прийти к любому заключению, к какому бы ни пришел я сам?
Отыскание конкретного вычисления Ck (k) при заданном алгоритме А, безусловно, представляет собой вычислительный процесс. Более того, это можно достаточно явно показать. Означает ли это, что предположительно неалгоритмическая математи ческая интуиция — интуиция, благодаря которой мы определяем, что вычисление Ck (k) никогда не завершается — на деле явля ется все же алгоритмической?
Думаю, данное суждение следует рассмотреть более подроб но, поскольку оно представляет собой одно из наиболее рас пространенных недоразумений, связанных с гёделевским доказа тельством. Следует особо уяснить, что оно не сводит на нет ничего из сказанного ранее. Хотя процедуру отыскания вычис ления Ck (k) с помощью алгоритма А можно представить в виде вычисления, это вычисление не входит в перечень процедур, со держащихся в Л. И не может входить, поскольку самостоятель но алгоритм А не способен установить истинность Ck (k), тогда как новое вычисление (вкупе с А], судя по всему, вполне на это способно. Таким образом, несмотря на то, что с помощью нового вычисления действительно можно отыскать вычисление Ck (k), членом клуба «официальных установителей истины» оно не яв ляется.
Изложим все это несколько иначе. Вообразите себе управ ляемого компьютером робота, способного устанавливать мате матические истины с помощью алгоритмических процедур, со держащихся в А. Для большей наглядности я буду пользоваться антропоморфной терминологией и говорить, что робот «знает» те математические истины (в данном случае — связанные с установ лением факта незавершаемости вычислений), которые он может вывести, применяя алгоритм А. Однако если наш робот «знает» лишь А, то он никак не сможет «узнать», что вычисление Ck (k) не завершается, даже если процедура отыскания Ck (k) с по мощью А является целиком и полностью алгоритмической. Мы, разумеется, могли бы сообщить роботу о том, что вычисле ние Ck (k} и в самом деле не завершается (воспользовавшись для установления этого факта собственными пониманием и ин туицией), однако, если робот примет это утверждение на «веру», ему придется изменить свои собственные правила, присоединив полученную новую истину к тем, что он уже «знает». Мы можем пойти еще дальше и каким-либо способом сообщить нашему ро боту о том, что для получения новых истин на основании старых ему, помимо прочего, необходимо «знать» и общую вычислитель ную процедуру отыскания Ck (k) посредством алгоритма А. К запасу «знаний» робота можно добавить все, что является вполне определенным и вычислительным по своей природе. Однако в ре зультате у нас появляется новый алгоритм «Л», и доказательство Гёделя следует применять уже к нему, а не к старому А. Иначе говоря, везде вместо старого А нам следовало бы использовать новый «Л», поскольку менять алгоритм «Л» посреди доказатель ства есть не что иное, как жульничество. Таким образом, как мы видим, изъян возражения Q6 очень похож на рассмотренный выше изъян Q5. В нашем reductio ad absurdum мы полагаем, что алгоритм А (под которым понимается некая познаваемая и обоснованная процедура для установления факта незавершаемости вычислений) в действительности представляет собой всю совокупность известных математикам подобных процедур, из чего и следует противоречие. Попытку введения еще одной вы числительной процедуры для установления истины — процеду ры, не содержащейся в А, — после того как мы договорились, что А представляет собой всю их совокупность, я расцениваю как жульничество.
Беда нашего злосчастного робота в том, что, не обладая ка ким бы то ни было пониманием гёделевской процедуры, он не располагает ни одним надежным и независимым способом уста новления истины — истину ему сообщаем мы. (Эта проблема, вообще говоря, не имеет никакого отношения к вычислитель ным аспектам доказательства Гёделя.) Для того чтобы достичь чего-то большего, ему, как и всем нам, необходимо понимание смысла операций, которые ему велено выполнять. Если тако го понимания нет, то он вполне может «знать» (ошибочно), что вычисление Ck (k} завершается, а вовсе не наоборот. Заклю чение (ошибочное) «вычисление Ck (&) завершается» выводится точно так же алгоритмически, как и заключение (правильное) «вычисление Ck (k) не завершается». Таким образом, дело во все не в алгоритмическом характере этих операций, а в том, что для различения между алгоритмами, приводящими к истинным заключениям, и теми, что приводят к заключениям ложным, наш робот нуждается в способности выносить достоверные сужде ния об истинности. Далее, на данной стадии рассуждения, мы все еще допускаем возможность того, что процесс «понимания» представляет собой некую разновидность алгоритмической дея тельности, которая не содержится ни в одной из точно заданных и «заведомо» обоснованных процедур типа А. Например, пони мание может осуществляться посредством выполнения какого-то необоснованного или непознаваемого алгоритма. В дальнейшем (см. главу 3) я попробую убедить читателя в том, что в действи тельности понимание вообще не является алгоритмической дея тельностью. На настоящий же момент нас интересуют всего лишь строгие следствия из доказательства Гёделя—Тьюринга, а на них возможность получения вычисления С^ (k) из процедуры А вы числительным путем никоим образом не влияет.
Q7. Общая совокупность результатов, полученных всеми когда-либо жившими математиками, плюс совокупность результатов, которые будут получены всеми математиками за последующую, скажем, тысячу лет, — имеет конечную величину и может уместиться в банках памяти соответствующего ком пьютера. Такой компьютер, естественно, способен без особого труда воспроизвести все эти результа ты, и, тем самым, повести себя (внешне) как мате матик-человек — что бы ни утверждало по этому поводу гёделевское доказательство.
Несмотря на кажущуюся логичность этого утверждения, здесь упущен из виду один очень существенный момент, а именно: способ, посредством которого мы (или компьютеры) определяем, какие математические утверждения истинны, а какие — ложны. (Во всяком случае, на простое хранение математических утвер ждений способны и системы, гораздо менее сложные, нежели универсальный компьютер — например, фотоаппараты.) Прин цип использования компьютера в Q7 совершенно не учитывает критического вопроса о наличии у этого самого компьютера спо собности суждения об истинности. С равным успехом мож но вообразить и компьютеры, в памяти которых не содержится ничего, кроме перечня абсолютно ложных математических «тео рем», либо случайным образом перемешанных истинных и лож ных утверждений. Откуда мы узнаем, какому компьютеру можно доверять? Я отнюдь не утверждаю, что эффективное моделиро вание результатов сознательной интеллектуальной деятельности человека (в данном случае, в области математики) абсолютно невозможно, поскольку по одной лишь чистой случайности ком пьютер может «умудриться» сделать все правильно, пусть и не обладая каким бы то ни было пониманием. Однако шансы на это до абсурдного малы, в то время как те вопросы, на которые мы здесь пытаемся найти ответ (например, каким таким образом мы определяем, что вот это математическое утверждение истинно, а вот это — ложно?), в возражении Q7 и вовсе не затрагиваются. С другой стороны, Q7 все же напоминает об одном более существенном соображении. Имеет ли непосредственное отно шение к нашему исследованию обсуждение бесконечных струк тур (всех натуральных чисел или всех вычислений), если учесть, что совокупность всех результатов, полученных на тот или иной момент времени всеми людьми и компьютерами, имеет конечную величину? В следующем комментарии мы рассмотрим этот без условно важный вопрос отдельно.
Q8. Незавершающиеся вычисления суть идеализи рованные математические конструкции, по опре делению бесконечные. Вряд ли подобные вопросы могут иметь сколько-нибудь непосредственное от ношение к изучению конечных физических объек тов — таких, как компьютеры или мозг.
Все верно, рассуждая в идеализированном ключе о машинах Тьюринга, незавершающихся вычислениях и т. п., мы рассматри вали бесконечные (потенциально) процессы, тогда как в случае людей или компьютеров нам приходится иметь дело с системами конечными. И, разумеется, применяя подобные идеализирован ные доказательства к реальным и конечным физическим объек там, следует быть готовыми к тому, что такая операция непре менно окажется связанной с теми или иными ограничениями и оговорками. Однако, как выясняется, учет конечной природы ре альных объектов не изменяет сколько-нибудь существенно сути доказательства Гёделя—Тьюринга. Нет ничего странного в том, что мы рассуждаем об идеализированных вычислениях, обосно вываем те или иные умозаключения и выводим, математически, их теоретические ограничения. Можно, к примеру, обсуждать в аб солютно конечных терминах вопрос о том, существует ли нечет ное число, являющееся суммой двух четных чисел, или существу ет ли натуральное число, не являющееся суммой четырех квад ратов (как в приведенных выше задачах (С) и (В)), нисколько не смущаясь тем, что при рассмотрении этих вопросов мы неявно учитываем бесконечное множество всех натуральных чисел. Мы имеем полное право рассуждать о незавершающихся вычисле ниях или машинах Тьюринга вообще, как о математических структурах, пусть и не в силах создать на практике бесконеч но работающую машину Тьюринга. (Отметим, в частности, что действие машины Тьюринга, занятой поисками нечетного числа, являющегося суммой двух четных чисел, строго говоря, практи чески реализовать невозможно, так как ее детали износятся го раздо раньше, чем минет вечность.) Описание любого единичного вычисления (или действия машины Тьюринга) — задача вполне конечная, а вопрос о том, завершится ли в конечном итоге это вычисление, можно полагать вполне определенным. Сначала мы доводим до логического завершения теоретические рассуждения, связанные с теми или иными идеализированными вычислениями, и лишь затем пытаемся разглядеть, каким образом наши рассу ждения применимы к конечным физическим системам — таким, как реально существующие компьютеры или люди.
Ограничения конечного характера могут быть обусловлены либо тем, что (i) описание конкретного рассматриваемого вы числения оказывается слишком громоздким (т. е. число п в Сп или пара чисел q, n в Cq (n) оказываются слишком велики для того, чтобы их мог описать человек или реально существующий компьютер), либо тем, что (п) при внешней простоте описания вычисление, тем не менее, требует для своего выполнения чрез мерно много времени, в результате чего может показаться, что оно не завершается вовсе, хотя теоретически данное вычисле ние должно в конечном счете завершиться. На деле же, как мы вскоре убедимся, выясняется, что из этих двух условий сколько-нибудь существенное влияние на наши рассуждения оказыва ет только (i), да и оно не так уж и велико. Незначительность фактора (ii), быть может, покажется вам удивительной. Суще ствует множество относительно простых вычислений, которые в конечном счете завершаются, однако точки их завершения путем прямого вычисления не способен достичь ни один потенциально возможный компьютер. Рассмотрим, например, следующую задачу: «распечатать последовательность из 2^2^65536 единиц, после чего остановиться». (В §3.26 будут предложены еще несколько подобных примеров, гораздо более интересных с математической точки зрения.) Вопрос о завершаемости того или иного вычис ления не следует решать путем прямого вычисления: этот метод зачастую оказывается крайне неэффективным.
Для того чтобы выяснить, каким образом ограничения (i) или (ii) могут повлиять на наши гёделевские рассуждения, пройдемся еще раз по соответствующим частям доказательства. В соответ ствии с ограничением (i), вместо бесконечного ряда вычислений, мы располагаем рядом конечным:
, , , , ,…,
где предполагается, что число Q задает наиболее громоздкое вы числение, какое способен выполнить наш компьютер или чело век. В случае с человеком вышеприведенное утверждение можно счесть несколько туманным. Впрочем, в настоящий момент нас не особенно заботит точное определение числа Q. (Вопрос о туман ности утверждений, касающихся человеческих способностей, бу дет рассмотрен ниже, в комментарии к возражению Q13 в § 2.10.) Кроме того, можно предположить, что, попытавшись применить упомянутые вычисления к какому-то конкретному натуральному числу п, мы обнаружим, что значение п ограничено некоторой фиксированной величиной N, поскольку наш компьютер (или че ловек) оказывается не способен работать с числами, превыша ющими N. (Строго говоря, следует учесть и возможность того, что число N не является фиксированным, но зависит от того или иного конкретного вычисления Cq, т. е. N может зависеть от q. Однако этот факт не влияет на наши рассуждения сколько-нибудь существенным образом.)
Как и ранее, мы рассматриваем некий обоснованный ал горитм A (q, n), завершение выполнения которого равносиль но доказательству того, что вычисление Cq (n) не завершается. Несмотря на то, что, в соответствии с ограничением (i), рассмот рению подлежат только значения q, не превышающие Q, и только те значения п, не превышающие N, мы, говоря об «обоснован ности», в действительности имеем в виду, что алгоритм А должен быть обоснованным для всех значений q и п, независимо от их величины. (Таким образом, можно видеть, что правила, реализуе мые в алгоритме А, являются точными математическими пра вилами, в отличие от правил приближенных, работающих только в силу того или иного практического ограничения, налагаемого на «реально осуществимые» вычисления.) Более того, утверждая, что «вычисление Cq (n) не завершается», мы имеем в виду, что это вычисление действительно не завершается, а не то, что это вычисление просто-напросто оказывается слишком громоздким для того, чтобы его мог выполнить наш компьютер или человек,
как предусматривает ограничение (ii).
Вспомним, что утверждение (Н) гласит:
Если завершается вычисление А(а,п), то вычисление Cq (n) не завершается.
Принимая во внимание ограничение (ii), можно было бы предпо ложить, что алгоритм А оказывается не слишком эффективен при установлении факта незавершаемости очередного вычисления, поскольку сам он состоит из большего количества шагов, чем способен выполнить компьютер или человек. Однако, как выяс няется, для нашего доказательства этот факт не имеет никакого значения. Мы намерены отыскать некое вычисление A (k, k), ко торое не завершается вообще. Для нас абсолютно неважно, что в некоторых других случаях, когда вычисление А действительно завершается, мы не можем об этом узнать, так как не в состоянии дождаться этого самого завершения.
Далее, как и в равенстве (J), мы вводим натуральное чис ло k, при котором вычисление А (п, п) совпадает с вычислени ем Ck (n) для всех n:
А(n,n) = Ck(n).
Следует, впрочем, рассмотреть еще предусматриваемую ограни чением (i) возможность того, что упомянутое число k окажется больше Q. В случае какого-нибудь невообразимо сложного вы числения А такая ситуация вполне возможна, однако только при условии, что это А уже начинает приближаться к верхней границе допустимой сложности (в смысле количества двоичных знаков в его описании в формате машины Тьюринга), с которой может работать наш компьютер или человек. Это обусловлено тем, что вычисление, получающее значение k из описания вычисления А (например, в формате машины Тьюринга), — вещь достаточно простая и может быть задана в явном виде (как уже было пока зано в комментарии к Q6).
Вообще говоря, для того чтобы поставить в тупик алгоритм А, нам необходимо лишь вычисление Ck (k) — подставляя в (Н) равенство n = k, получаем утверждение (L):
Если завершается вычисление A(k, k), то вычисление Ck(k) не завершается.
Поскольку A (k, k) совпадает с Ck (k), наше доказательство по казывает, что, хотя данное конкретное вычисление Ck (k) никогда не завершается, посредством алгоритма А мы этот факт устано вить не в состоянии, даже если бы упомянутый алгоритм мог вы полняться гораздо дольше любого предела, налагаемого на него в соответствии с ограничением (ii). Вычисление Ck (k) задается только введенным ранее числом k, и, при условии, что k не пре вышает ни Q, ни N, это вычисление и в самом деле в состоянии выполнить наш компьютер или человек — в смысле, в состоянии начать. Довести его до завершения невозможно в любом случае, поскольку это вычисление просто-напросто не завершается!
А может ли число k оказаться больше Q или N? Такое воз можно лишь в том случае, когда для описания А требуется так много знаков, что даже совсем небольшое увеличение их коли чества выводит задачу за пределы возможностей нашего ком пьютера или человека. При этом, поскольку мы знаем об об основанности алгоритма А, мы знаем и о том, что рассматри ваемое вычисление Ck(k) не завершается, даже если реальное выполнение этого вычисления представляет для нас проблему. Соображение (i), однако, предполагает и возможность того, что вычисление А окажется столь колоссально сложным, что одно лишь его описание вплотную приблизится к доступному вообра жению человека пределу сложности, а сравнительно малое уве личение количества составляющих его знаков даст в результате вычисление, превосходящее всякое человеческое понимание. Что бы мы о подобной возможности ни думали, я все же считаю, что любой столь впечатляющий набор реализуемых в нашем гипо тетическом алгоритме А вычислительных правил окажется, вне всякого сомнения, настолько сложным, что мы не в состоянии будем наверняка знать, является ли он обоснованным, даже если нам будут точно известны все эти правила по отдельности. Таким образом, наше прежнее заключение остается в силе: при установлении математических истин мы не применяем познава емо обоснованные наборы алгоритмических правил.
Не помешает несколько более подробно остановиться на сравнительно незначительном увеличении сложности, сопрово ждающем переход от А к Ck(k). Помимо прочего, это существен но поможет нам в нашем дальнейшем исследовании (в §§3.19 и 3.20). В Приложении А (с. 191) предложено явное описание вычисления Ck(k) в виде предписаний для машины Тьюринга, рассмотренных в НРК (глава 2). Согласно этим предписаниям, под обозначением Тт понимается «m-я машина Тьюринга». Для большего удобства и упрощения рассуждений здесь мы также будем пользоваться этим обозначением вместо «Сm», в част ности, для определения степени, сложности вычислительной процедуры или отдельного вычисления. В соответствии с выше сказанным, определим степень сложности машины Тьюрин га Тт как количество знаков в двоичном представлении числа т (см. НРК, с. 39); при этом степень сложности некоторого вы числения Тт (п) определяется как большее из двух чисел и v, где v — количество двоичных знаков в представлении числа п. Рассмотрим далее приведенное в Приложении А явное предпи сание для составления вычисления Ck(k) на основании алгорит ма А, заданного в упомянутых спецификациях машины Тьюринга. Полагая степень сложности А равной а, находим, что степень сложности явного вычисления Ck (k) не превышает числа а + 210 log2 (а + 336) — а это число, в свою очередь, оказывается лишь очень ненамного больше собственно а, да и то только тогда, когда число а очень велико.
В вышеприведенных общих рассуждениях имеется один по тенциально спорный момент. В самом деле, какой смысл рас сматривать вычисления, слишком сложные даже для того, чтобы просто их записать, или те, что, будучи записанными, возмож но, потребуют на свое действительное выполнение промежуток времени, гораздо больший предполагаемого возраста нашей Все ленной, даже при условии, что каждый шаг такого вычисления будет производиться за самую малую долю секунды, какая еще допускает протекание каких бы то ни было физических процес сов? Упомянутое выше вычисление — то, результатом которого является последовательность из единиц и которое завершается лишь после выполнения этой задачи, — представля ет собой как раз такой пример, при этом позицию математика, позволяющего себе утверждать, что данное вычисление является незавершающимся, можно охарактеризовать как крайне нетра диционную. Однако в математике существуют и некоторые другие точки зрения, пусть и не до такой степени нетрадиционные, — но все же решительно презирающие всяческие условности, — согласно которым известная доля здорового скептицизма в отно шении вопроса об абсолютной математической истинности иде ализированных математических утверждений отнюдь не поме шает. На некоторые из них, безусловно, стоит хотя бы мельком
ВЗГЛЯНУТЬ.
Q9. Точка зрения, известная как интуиционизм, не позволяет сделать вывод о непременной завершаемости вычисления на определенном этапе на том лишь основании, что бесконечное продолжение этого вычисления приводит к противоречию; бытуют в математике и иные точки зрения сходного характера — например, «конструктивизм» и «финнтизм». Не окажется ли гёделевское доказательство спорным, будучи рассмотрено с этих позиций?
В своем гёделевском доказательстве (в частности, в утвер ждении (М)) я использовал аргумент следующего вида: «Допу щение о ложности X приводит к противоречию; следовательно, утверждение X истинно». Под «X» в данном случае следует по нимать утверждение: «Вычисление Ck (k) не завершается». Это рассуждение относится к типу reductio ad absurdum; что же касается доказательства Гёделя в целом, то оно и в самом деле построено именно таким образом. Направление же в математике, называемое «интуиционизмом» (у истоков которого стоял гол ландский математик Л. Э. Я. Брауэр; см. [222] и НРК, с. 113— 116), отрицает возможность построения обоснованного доказа тельства на основе reductio ad absurdum. Интуиционизм возник приблизительно в 1912 году как реакция на некоторые сформи ровавшиеся к концу девятнадцатого — началу двадцатого века математические тенденции, суть которых сводится к следующему: математический объект можно полагать «существующим» даже в тех случаях, когда нет никакой возможности этот объект так или иначе воплотить в действительности. А надо сказать, что слиш ком вольное применение крайне расплывчатой концепции мате матического существования и впрямь приводит порой к весь ма неприятным противоречиям. Самый известный пример такого противоречия связан с парадоксальным «множеством всех мно жеств, не являющихся членами самих себя» Бертрана Рассела. (Если множество Рассела является членом самого себя, то оно таковым не является; если же оно членом самого себя не явля ется, то оно им, как ни странно, является! Подробнее см. §3.4 и НРК, с. 101.) Дабы противостоять общей тенденции, в рам ках которой могут считаться «существующими» весьма вольно определенные математические объекты, интуиционисты полага ют необоснованным математическое рассуждение, позволяющее делать вывод о существовании того или иного математического объекта на основании одной лишь противоречивости его несуще ствования. Доказательство существования объекта посредством reductio ad absurdum не дает абсолютно никаких оснований по лагать, что упомянутый объект действительно можно построить. Каким же образом запрет на применение reductio ad absurdum может повлиять на наше гёделевское доказательство? Вообще говоря, совсем не может, по той простой причине, что reductio ad absurdum мы применяем, если можно так выра зиться, наоборот, то есть противоречие в нашем случае выво дится из допущения, что нечто существует, а не из обратного допущения. С интуиционистской точки зрения все выглядит со вершенно законно: мы заключаем, что объект не существует, на том основании, что противоречие возникает как раз из допуще ния о существовании этого самого объекта. Предложенное мною гёделевское доказательство, по сути своей, является в интуицио нистском смысле абсолютно приемлемым. (См. [222], с. 492.)
Аналогичные рассуждения применимы и ко всем прочим «конструктивистским» или «финитистским» направлениям в ма тематике, о каких мне известно. Комментарий к возражению Q8 демонстрирует, что даже та точка зрения, согласно которой по следовательность натуральных чисел нельзя считать «на самом деле» бесконечной, не освобождает нас от неизбежного вывода: для установления математической истины мы таки не пользуемся познаваемо обоснованными алгоритмами.
2.7. Некоторые более глубокие математические соображения
Для того чтобы лучше разобраться в значении гёделевского доказательства, полезно будет вспомнить, с какой, собственно, целью оно было первоначально предпринято. На рубеже веков ученые, деятельность которых была связана с фундаментальны ми математическими принципами, столкнулись с весьма серьез ными проблемами. В конце XIX века — в значительной степени благодаря глубоко оригинальным математическим трудам Георга Кантора (с «диагональным доказательством» которого мы уже познакомились) — математики получили в распоряжение эф фективные методы доказательства некоторых наиболее фундаментальных своих результатов, основанные на свойствах беско нечных множеств. Однако с этими преимуществами оказались связаны и не менее фундаментальные трудности, проистекаю щие из чересчур вольного обращения с концепцией бесконечно го множества. Особо отметим парадокс Рассела (на который я вкратце ссылался в комментарии к Q9, см. также §3.4 — Кан тор о нем также упоминает), обозначивший некоторые препят ствия, подстерегающие склонных к опрометчивым умозаключе ниям. Тем не менее, все понимали, что если вопрос о допустимо сти тех или иных методов рассуждения продумать с достаточной тщательностью, то можно добиться очень и очень впечатляющих математических результатов. Проблема, по всей видимости, сво дилась к отысканию способа, посредством которого можно было бы в каждом конкретном случае абсолютно точно определить, была ли соблюдена при выборе метода рассуждения «достаточ ная тщательность».
Одной из главных фигур движения, поставившего перед со бой цель достичь этой точности, был великий математик Давид Гильберт. Движение окрестили формализмом; в соответствии с его основополагающим принципом, следовало однозначно опре делить все допустимые методы математического рассуждения в пределах той или иной конкретной области раз и навсегда, вклю чая и те, что связаны с понятием бесконечного множества. Такая совокупность правил и математических утверждений называет ся формальной системой. После того как определены правила формальной системы F, решение вопроса о корректности приме нения этих правил — количество которых непременно является конечным — сводится к элементарной механической проверке. Разумеется, если мы хотим, чтобы любой выводимый с помощью таких правил результат мог считаться действительно истинным, нам придется присвоить им всем статус вполне допустимых и обоснованных форм математического рассуждения. Однако неко торые из рассматриваемых правил могут подразумевать какие-либо манипуляции с бесконечными множествами, и в этом слу чае математическая интуиция, подсказывающая нам, какие ме тоды рассуждения допустимы, а какие нет, может оказаться и не достойной абсолютного доверия. Сомнения в этой связи как. нельзя более уместны, учитывая несоответствия, возникающие при столь вольном обращении с бесконечными множествами, что допустимым становится даже парадоксальное «множество всех множеств, не являющихся членами самих себя» Бертрана Рас села. Правила системы F не должны допускать существования «множества» Рассела, но где же, в таком случае, следует про вести границу? Вообще запретить применение бесконечных мно жеств было бы слишком строгим ограничением (обычное евкли дово пространство, например, содержит бесконечное множество точек, да и множество натуральных чисел является бесконеч ным); кроме того, существуют же формальные системы, абсо лютно в этом смысле удовлетворительные (поскольку в их рам ках не допускается, к примеру, формулировать сущности, подоб ные «множеству» Рассела), применяя которые можно получить большую часть необходимых математических результатов. Отку да нам знать, каким из этих формальных систем можно верить, а каким нельзя?
Рассмотрим подробнее одну такую формальную систему F; для математических утверждений, которые можно получить с по мощью правил системы F, введем обозначение ИСТИННЫЕ, а для утверждений, отрицания (т. е. утверждения, обратные рас сматриваемым) которых выводятся из того же источника, — обо значение ЛОЖНЫЕ. Любое утверждение, которое можно сфор мулировать в рамках системы F, но которое не является в этом смысле ни истинным, ни ложным, будем полагать нераз решимым. Кто-то, возможно, сочтет, что поскольку на деле может оказаться «бессмысленным» и само понятие бесконечного множества, то, по всей видимости, нельзя абсолютно осмысленно говорить ни об истинности, ни о ложности относящихся к ним утверждений. (Это мнение применимо, по крайней мере, к неко торым разновидностям бесконечных множеств, если не ко всем.) Если придерживаться такой точки зрения, то нет особой разни цы, какие именно утверждения о бесконечных множествах (неко торых разновидностей) оказываются ИСТИННЫМИ, а какие — ЛОЖНЫМИ, лишь бы не вышло так, что одно утверждение по лучится ИСТИННЫМ и ЛОЖНЫМ одновременно, т.е. система F должна все же быть непротиворечивой. Собственно говоря, в этом и состоит суть истинного формализма, а в отношении формальной системы F первостепенно важно знать лишь следующее: (а) является ли она непротиворечивой и (Ь) является ли она полной. Система F называется полной, если любое мате матическое утверждение, должным образом сформулированное в рамках F, всегда оказывается либо истинным, либо ЛОЖНЫМ (т. е. НЕРАЗРЕШИМЫХ утверждений система F не содержит).
Для строгого формалиста вопрос о том, является ли то или иное утверждение о бесконечных множествах действительно истинным в сколько угодно абсолютном смысле, не обязательно имеет смысл и, уж конечно же, не имеет никакого существенно го отношения к процедурам формалистской математики. Таким образом, поиски абсолютной математической истины в отноше нии утверждений, связанных с упомянутыми бесконечными ве личинами, заменяются стремлением продемонстрировать непро тиворечивость и полноту соответствующих формальных систем. Какие же математические правила допустимо использовать для такой демонстрации? Достойные доверия, прежде всего, причем формулировка этих правил никоим образом не должна основы ваться на сомнительных рассуждениях с привлечением слишком вольно определяемых бесконечных множеств (типа множества Рассела). Была надежда на то, что в рамках некоторых срав нительно простых и очевидно обоснованных формальных систем (например, такой достаточно элементарной системы, как ариф метика Пеано) отыщутся логические процедуры, которых будет достаточно для того, чтобы доказать непротиворечивость других, более сложных, формальных систем — скажем, системы F, — непротиворечивость которых уже не столь бесспорна и в рам ках которых допускаются формальные рассуждения об очень «больших» бесконечных множествах. Если принять философию формалистов, то подобное доказательство непротиворечивости для F, как минимум, даст основание для использования мето дов рассуждения, допустимых в рамках системы F. Затем можно доказывать математические теоремы, применяя концепцию бес конечных множеств тем или иным непротиворечивым образом, а может, удастся и вовсе избавиться от необходимости отвечать на вопрос о реальном «смысле» таких множеств. Более того, если удастся показать, что система F является еще и полной, то мож но будет вполне резонно счесть, что эта система действительно содержит абсолютно все допустимые математические процедуры; т. е. представляет собой, в некотором смысле, полное описание математического аппарата рассматриваемой области.
Однако в 1930 году (публикация состоялась в 1931) Гёдель взорвал свою «бомбу», раз и навсегда показав, что мечта форма листов принципиально недостижима. Он продемонстрировал, что не может существовать формальной системы F, которая была бы одновременно и непротиворечивой (в некоем «сильном» смысле, который мы рассмотрим в следующем разделе), и полной, — при условии, что F считается достаточно мощной, чтобы сочетать в себе формулировки утверждений обычной арифметики и стан дартную логику. Таким образом, теорема Гёделя справедлива для таких систем F, в рамках которых арифметические утверждения типа теоремы Лагранжа и гипотезы Гольдбаха (см. §2.3) форму лируются как утверждения математические.
В дальнейшем мы будем рассматривать только те формаль ные системы, которые являются достаточно обширными, чтобы содержать в себе необходимые для действительной формулиров ки теоремы Гёделя арифметические операции (а также, в случае нужды, и операции какой угодно машины Тьюринга; см. ниже). Говоря о какой-либо формальной системе F, я обычно буду под разумевать, что она действительно достаточно обширна в этом смысле. Это допущение не отразится на наших рассуждениях сколько-нибудь существенным образом. (Тем не менее, рассмат ривая формальные системы в таком контексте, я, для пущей яс ности, буду иногда снабжать их эпитетом «достаточно обширная» или иным подобным.)
2.8. Условие -непротиворечивости
Наиболее известная форма теоремы Гёделя гласит, что фор мальная система F (достаточно обширная) не может быть од новременно полной и непротиворечивой. Это не совсем та зна менитая «теорема о неполноте», которую Гёдель первоначаль но представил на конференции в Кенигсберге (см. §§2.1 и 2.7), а ее несколько более сильный вариант, который был позднее получен американским логиком Дж. Баркли Россером(1936). По своей сути, первоначальный вариант теоремы Гёделя оказыва ется эквивалентен утверждению, что система F не может быть одновременно полной и -непротиворечивой. Условие же -непротиворечивости несколько строже, нежели условие непроти воречивости обыкновенной. Для объяснения его смысла нам по требуется ввести некоторые новые обозначения. В систему обо значений формальной системы F необходимо включить символы некоторых логических операций. Нам, в частности, потребуется символ, выражающий отрицание («не»); можно выбрать для этого символ «~». Таким образом, если Q есть некое высказы вание, формулируемое в рамках F, то последовательность сим волов ~ Q означает «не Q». Нужен также символ, означающий «для всех [натуральных чисел]» и называемый квантор общно сти', он имеет вид «V». Если Р (п) есть некое высказывание, за висящее от натурального числа п (т. е. Р представляет собой так называемую пропозициональную функцию), то строка симво лов Vn [Р (п)] означает «для всех натуральных чисел п высказы вание Р (п) справедливо». Например, если высказывание Р (п) имеет вид «число п можно выразить в виде суммы квадратов трех чисел», то запись Vn [Р (п)] означает «любое натуральное число является суммой квадратов трех чисел», — что, вообще говоря, ложно (хотя, если мы заменим «трех» на «четырех», то это же утверждение станет истинным). Такие символы можно записывать в самых различных сочетаниях; в частности, строка символов
выражает отрицание того, что высказывание Р (п) справедливо для всех натуральных чисел п.
Условие же -непротиворечивости гласит, что если выска зывание можно доказать с помощью методов фор мальной системы F, то это еще не означает, что в рамках этой самой системы непременно доказуемы все утверждения
Р(0),Р(1),Р(2),Р(3),Р(4), ....
Отсюда следует, что если формальная система F не является -непротиворечивой, мы оказываемся в аномальной ситуации, ко гда для некоторого Р оказывается доказуемой истинность всех высказываний Р(0), Р(1), Р(2), Р(3), Р(4), ...; и одновре менно с этим можно доказать и то, что не все эти высказывания истинны! Безусловно, ни одна заслуживающая доверия формаль ная система подобного безобразия допустить не может. Поэтому если система F является обоснованной, то она непременно будет и -непротиворечивой.
В дальнейшем утверждения «формальная система F явля ется непротиворечивой» и «формальная система F является -непротиворечивой» я буду обозначать, соответственно, символа ми «G (F)» и «П (F)». В сущности (если полагать систему F до статочно обширной), сами утверждения (? (F) и П (F) формулиру ются как операции этой системы. Согласно знаменитой теореме Гёделя о неполноте, утверждение G (F) не является теоремой системы F (т. е. его нельзя доказать с помощью процедур, допу стимых в рамках системы F), не является теоремой и утвержде ние fi (F) — если, разумеется, система F действительно непро тиворечива. Несколько более строгий вариант теоремы Гёделя, сформулированный позднее Россером, гласит, что если система F непротиворечива, то утверждение ~ G (F) также не является те оремой этой системы. В оставшейся части этой главы я буду фор мулировать свои доводы не столько исходя из утверждения fi (F), сколько на основе более привычного нам G (F), хотя для большей части наших рассуждений в равной степени сгодится любое из них. (В некоторых наиболее явных аргументах главы 3 я буду иногда обозначать через «G(F)» конкретное утверждение «вы числение Ck (k) не завершается» (см. §2.5); надеюсь, никто не сочтет это слишком большой вольностью с моей стороны.)
В большей части предлагаемых рассуждений я не стану проводить четкую границу между непротиворечивостью и -непротиворечивостью, однако тот вариант теоремы Гёделя, что представлен в § 2.5, по сути, гласит, что если формальная систе ма F непротиворечива, то она не может быть полной, так как не может включать в себя в качестве теоремы утверждение G(F). Здесь я всего этого демонстрировать не буду (интересующиеся же могут обратиться к [222]). Вообще говоря, для того чтобы эту форму гёделевского доказательства можно было свести к дока зательству в моей формулировке, система F должна содержать в себе нечто большее, нежели просто «арифметику и обыкно венную логику». Необходимо, чтобы система F была обширной настолько, чтобы включать в себя действия любой машины Тью ринга. Иначе говоря, среди утверждений, корректно формулиру емых с помощью символов системы F, должны присутствовать утверждения типа: «Такая-то машина Тьюринга, оперируя над натуральным числом п, дает на выходе натуральное число р».Более того, имеется теорема (см. [222], главы 11 и 13), согласно которой так оно само собой и получается, если, помимо обыч ных арифметических операций, система F содержит следующую операцию (так называемую /u-операцию, или операцию мини мизации): «найти наименьшее натуральное число, обладающее таким-то арифметическим свойством». Вспомним, что в нашем первом вычислительном примере, (А), предложенная процедура действительно позволяла отыскать наименьшее число, не явля ющееся суммой трех квадратов. То есть, вообще говоря, право на подобные вещи за вычислительными процедурами следует сохра нить. С другой стороны, именно благодаря этой их особенности мы и сталкиваемся с вычислениями, которые принципиально не завершаются, — например, вычисление (В), где мы пытаемся отыскать наименьшее число, не являющееся суммой четырех квадратов, а такого числа в природе не существует.
2.9. Формальные системы и алгоритмическое доказательство
В предложенной мною формулировке доказательства Гёделя—Тьюринга (см. §2.5) говорится только о «вычислениях» и ни словом не упоминается о «формальных системах». Тем не ме нее, между этими двумя концепциями существует очень тесная связь. Одним из существенных свойств формальной системы яв ляется непременная необходимость существования алгоритмиче ской (т. е. «вычислительной») процедуры F, предназначенной для проверки правильности применения правил этой системы. Если, в соответствии с правилами системы F, некое высказывание яв ляется ИСТИННЫМ, то вычисление F этот факт установит. (Для достижения этого результата вычисление F, возможно, «про смотрит» все возможные последовательности строк символов, принадлежащих «алфавиту» системы F, и успешно завершится, обнаружив заключительной строкой искомое высказывание Р; при этом любые сочетания строк символов являются, согласно правилам системы F, допустимыми.)
Напротив, располагая некоторой заданной вычислитель ной процедурой Е, предназначенной для установления истинно сти определенных математических утверждений, мы можем по строить формальную систему Е, которая эффективно выражает как ИСТИННЫЕ все те истины, что можно получить с помощью процедуры Е. Имеется, впрочем, и небольшая оговорка: как пра вило, формальная система должна содержать стандартные логические операции, однако заданная процедура Е может оказаться недостаточно обширной, чтобы непосредственно включить и их. Если сама заданная процедура Е не содержит этих элементарных логических операций, то при построении системы Е уместно будет присоединить их к Е с тем, чтобы ИСТИННЫМИ положениями системы Е оказались не только утверждения, получаемые непо средственно из процедуры Е, но и утверждения, являющиеся эле ментарными логическими следствиями утверждений, получаемых непосредственно из Е. При таком построении система Е не будет строго эквивалентна процедуре Е, но вместо этого приобретет несколько большую мощность.
(Среди таких логических операций могут, к примеру, ока заться следующие: «если Р&Q, то Р»; «если Р и Р => Q, то Q»; «если , то Р(п)»; «если , то » и т. п. Символы «&», «=>», « », « », «~» означают здесь, соот ветственно, «и», «следует», «для всех [натуральных чисел]», «су ществует [натуральное число]», «не»; в этот ряд можно включить и некоторые другие аналогичные символы.)
Поставив перед собой задачу построить на основе проце дуры Е формальную систему Е, мы можем начать с некоторой в высшей степени фундаментальной (и, со всей очевидностью, непротиворечивой) формальной системы L, в рамках которой выражаются лишь вышеупомянутые простейшие правила логи ческого вывода, — например, с так называемого исчисления предикатов (см. [222]), которое только на это и способно, — и построить систему Е посредством присоединения к системе L процедуры Е в виде дополнительных аксиом и правил процедуры для L, переведя тем самым всякое высказывание Р, получае мое из процедуры Е, в разряд ИСТИННЫХ. Это, впрочем, вовсе не обязательно окажется легко достижимым на практике. Если процедура Е задается всего лишь в виде спецификации машины Тьюринга, то нам, возможно, придется присоединить к систе ме L (как часть ее алфавита и правил процедуры) все необхо димые обозначения и операции машины Тьюринга, прежде чем мы сможем присоединить саму процедуру Е в качестве, по су ти, дополнительной аксиомы. (См. окончание §2.8; подробности в [222].)
Собственно говоря, в нашем случае не имеет большого зна чения, содержит ли система Е, которую мы таким образом стро им, ИСТИННЫЕ предположения, отличные от тех, что можно получить непосредственно из процедуры Е (да и примитивные логические правила системы L вовсе не обязательно должны яв ляться частью заданной процедуры Е). В § 2.5 мы рассматривали гипотетический алгоритм А, который по определению включал в себя все процедуры (известные или познаваемые), которыми располагают математики для установления факта незавершаемости вычислений. Любому подобному алгоритму неизбежно при дется, помимо всего прочего, включать в себя и все основные операции простого логического вывода. Поэтому в дальнейшем я буду подразумевать, что все эти вещи в алгоритме А изначально присутствуют.
Следовательно, как процедуры для установления математи ческих истин, алгоритмы (т. е. вычислительные процессы) и фор мальные системы для нужд моего доказательства, в сущности, эквивалентны. Таким образом, несмотря на то, что представ ленное в §2.5 доказательство было сформулировано исключи тельно для вычислений, оно сгодится и для общих формальных систем. В том доказательстве, если помните, речь шла о сово купности всех вычислениях (действий машины Тьюринга) Cq (п). Следовательно, для того чтобы оно оказалось во всех отношени ях применимо к формальной системе F, эта система должна быть достаточно обширной для того, чтобы включать в себя действия всех машин Тьюринга. Алгоритмическую процедуру А, предна значенную для установления факта незавершаемости некоторых вычислений, мы можем теперь добавить к правилам системы F с тем, чтобы вычисления, предположения о незавершающемся характере которых устанавливаются в рамках F как ИСТИННЫЕ, были бы тождественны всем тем вычислениям, незавершаемость которых определяется с помощью процедуры А.
Как же первоначальное кенигсбергское доказательство Гёде-ля связано с тем, что я представил в § 2.5? Не будем углубляться в детали, укажем лишь на наиболее существенные моменты. В роли формальной системы F из исходной теоремы Гёделя выступает наша алгоритмическая процедура А:
алгоритм А <—> правила системы F.
Роль же представленного Гёделем в Кенигсберге предположения G (F), которое в действительности утверждает непротиворе чивость системы F, играет полученное в §2.5 конкретное пред положение «вычисление Ck (k) не завершается», недоказуемое посредством процедуры А, но интуитивно представляющееся ис тинным, коль скоро процедуру A мы полагаем обоснованной:
утверждение «вычисление Ck (k) не завершается» <—> утверждение «система F непротиворечива».
Возможно, такая замена позволит лучше понять, каким об разом убежденность в обоснованности процедуры — такой, на пример, как А — может привести к другой процедуре, с исходной никак не связанной, но в обоснованности которой мы также должны быть убеждены. Поскольку если мы полагаем процедуры некоторой формальной системы F обоснованными — т. е. проце дурами, с помощью которых мы получаем одни лишь действи тельные математические истины, полностью исключив ложные утверждения; иными словами, если некое предположение Р вы водится из такой процедуры как ИСТИННОЕ, то это значит, что оно и в самом деле должно быть истинным, — то мы долж ны также уверовать и в ^-непротиворечивость системы F. Если под «ИСТИННЫМ» понимать «истинное», а под «ЛОЖНЫМ» — «ложное» (как оно, собственно, и есть в рамках любой обосно ванной формальной системы F), то безусловно истинно следующее утверждение:
не все предположения Р (0), Р (1), Р (2), Р(3), Р (4), ... могут быть ИСТИННЫМИ, если утверждение «предположение Р (п) справедливо для всех натуральных чисел п» ЛОЖНО, что в точности совпадает с условием -непротиворечивости.
Однако убежденность в w-непротиворечивости формальной системы F может происходить не только из убежденности в об основанности этой системы, но и из убежденности в ее обыкно венной непротиворечивости. Поскольку если под «истинным» понимать «истинное», а под «ЛОЖНЫМ» — «ложное», то, несо мненно, выполняется следующее условие:
ни одно предположение Р не может быть одновременно и ИСТИННЫМ, и ЛОЖНЫМ,
в точности совпадающее с условием непротиворечивости. Вооб ще говоря, во многих случаях различия между непротиворечи востью и ^-непротиворечивостью практически отсутствуют. Для упрощения дальнейших рассуждений этой главы я, в общем слу чае, не стану разделять эти два типа непротиворечивости и буду обычно говорить просто о «непротиворечивости». Суть доказа тельства Гёделя и Россера сводится к тому, что установление факта непротиворечивости формальной системы (достаточно об ширной) превышает возможности этой самой формальной систе мы. Первоначальный (кенигсбергский) вариант теоремы Гёделя опирался только на w-непротиворечивость, однако следующий, более известный, вывод был связан уже исключительно с непро тиворечивостью обыкновенной.
Сущность гёделевского доказательства в нашем случае со стоит в том, что оно показывает, как выйти за рамки любого заданного набора вычислительных правил, полагаемых обосно ванными, и получить некое дополнительное правило, в исходном наборе отсутствующее, которое также должно полагать обосно ванным, — т. е. правило, утверждающее непротиворечивость исходных правил. Важно уяснить следующий существенный мо мент:
убежденность в обоснованности равносильна убежденности в непротиворечивости.
Мы имеем право применять правила формальной системы F и полагать, что выводимые из нее результаты действительно ис тинны, только в том случае, если мы также полагаем, что эта формальная система непротиворечива. (Например, если бы си стема F не была непротиворечивой, то мы могли бы вывести, как ИСТИННОЕ, утверждение «1 = 2», которое истинным, разу меется, не является!) Таким образом, если мы уверены, что при менение правил некоторой формальной системы F действительно эквивалентно математическому рассуждению, то следует быть готовым принять и рассуждение, выходящее за рамки системы F, какой бы эта система F ни была.
2.10. Возможные формальные возражения против (продолжение)
Продолжим рассмотрение различных математических воз ражений, высказываемых время от времени в отношении моей трактовки доказательства Гёделя—Тьюринга. Многие из них тес но связаны друг с другом, однако я полагаю, что в любом случае их будет полезно разъяснить по отдельности.
Q10. Абсолютна ли математическая истина? Как мы уже видели, существуют различные мнения относительно абсолютной истинности утверждений о » бесконечных множествах. Можем ли мы доверять доказательствам, опирающимся на какую-то рас плывчатую концепцию «математической истины», а не на, скажем, четко определенное понятие формальной ИСТИНЫ?
Что касается формальной системы F, описывающей общую теорию множеств, то, действительно, не всегда ясно, можно ли вообще говорить о каком-то абсолютном смысле, в котором то или иное утверждение о множествах является либо «истинным», либо «ложным», — вследствие чего под сомнение может попасть и само понятие «обоснованности» формальной системы, подоб ной F. В качестве поясняющего примера приведем один извест ный результат, полученный Гёделем (1940) и Коэном (J 966). Они показали, что определенные математические утверждения (так называемые континуум-гипотеза Кантора и аксиома выбо ра) никак не зависят от теоретике-множественных аксиом си стемы Цермело--Френкеля — стандартной формальной систе мы, обозначаемой здесь через ZF. (Аксиома выбора гласит, что для любой совокупности непустых множеств существует еще од но множество, которое содержит ровно один элемент из каждо го множества совокупности^. Согласно же континуум-гипотезе Кантора, количество подмножеств натуральных чисел — рав ное количеству вещественных чисел — представляет собой вторую по величине бесконечность после множества собствен но натуральных чисел^. Читателю нет нужды вникать в скры тый смысл этих утверждений прямо сейчас. Равно как нет ну жды и мне углубляться в подробное изложение аксиом и пра вил процедуры системы ZF.) Некоторые математики убеждены в том, что система ZF охватывает все методы математического рассуждения, необходимые для обычной математики. Некоторые даже утверждают, будто приемлемым математическим доказа тельством можно считать только такое доказательство, какое можно, в принципе, сформулировать и доказать в рамках систе мы ZF. (См. комментарий к возражению Q14, где дается оценка применимости к таким субъектам гёделевского доказательства.) Иными словами, эти математики настаивают на том, что ИСТИННЫМИ, ЛОЖНЫМИ и НЕРАЗРЕШИМЫМИ в рамках систе мы ZF математическими утверждениями можно считать только те утверждения, истинность, ложность и неразрешимость, соответ ственно, которых, в принципе, устанавливается математически ми средствами. Для таких людей аксиома выбора и континуум-гипотеза являются математически неразрешимыми (что, по их мнению, и доказывается выводом Гёделя—Коэна), и они наверня ка будут утверждать, что истинность или ложность этих двух ма тематических утверждений суть предметы достаточно условные. Влияют ли эти кажущиеся неопределенности в отношении абсолютного характера математической истины на выводы, ко торые мы сделали из доказательства Гёделя—Тьюринга? Никоим образом, так как мы имеем здесь дело с классом математиче ских проблем гораздо более ограниченной природы, нежели те, что, подобно аксиоме выбора и континуум-гипотезе, относятся к неконструктивно-бесконечным множествам. В данном случае нас занимают лишь утверждения вида
«такое-то вычисление никогда не завершается»,
причем рассматриваемые вычисления можно задать совершен но точно через действия машины Тьюринга. Такие утвержде ния в логике называются Hi-высказываниями (или, точнее, П5-высказываниями). В пределах формальной системы F утвержде ние G (F) является Щ-высказыванием, а вот П (F) таковым не является (см. §2.8). По всей видимости, не существует каких-либо разумных доводов против того, что истинный/ложный ха рактер любого Щ-высказывания есть предмет абсолютный и никак не зависит от избранного нами мнения относитель но предположений, касающихся неконструктивно-бесконечных множеств — таких, например, как аксиома выбора и континуум-гипотеза. (С другой стороны, как мы вскоре убедимся, выбор метода рассуждения, принимаемого нами в качестве инструмента для получения убедительных доказательств hi -высказываний, действительно может определяться мнением, которого мы при держиваемся в отношении неконструктивно-бесконечных мно жеств; см. возражение Q11.) Очевидно, если не считать крайней позиции, занимаемой отдельными интуиционистами(см. коммен тарий к Q9), единственное здравое возражение по поводу абсо лютного характера истинности таких утверждений может быть связано с тем обстоятельством, что некоторые принципиально завершающиеся вычисления могут потребовать для своего вы полнения столь непомерно долгого времени, что на практике, вполне возможно, не завершатся и, скажем, за все время жизни вселенной; может случиться и так, что для записи самого вычис ления (пусть и конечного) потребуется так много символов, что физически невозможным окажется составить даже его описание. Впрочем, все эти вопросы были исчерпывающим образом про анализированы выше, в обсуждении возражения Q8, там же мы выяснили, что на наш основной вывод <£ они никоим образом не влияют. Вспомним и о возражении Q9, рассмотрение которого показало, что позиция интуиционистов в этом случае также не избегает вывода Ш.
Кроме того, концепция (весьма ограниченная, надо сказать) математической истины, необходимая мне для доказательства Гёделя—Тьюринга, определена, вообще говоря, не менее четко, нежели концепции ИСТИННОГО, ЛОЖНОГО и НЕРАЗРЕШИМО ГО для любой формальной системы F. Из сказанного выше (§ 2.9) нам известно, что существует некий алгоритм F, эквивалентный системе F. Если алгоритму F предстоит обработать некое пред положение Р (формулируемое на языке системы F), то выпол нение этого алгоритма может быть успешно завершено только в том случае, если предположение Р доказуемо в соответствии с правилами системы F, т.е. когда предположение Р ИСТИН НО. Соответственно, предположение Р является ложным, если алгоритм F успешно завершается при обработке предположе ния ~ Р, и НЕРАЗРЕШИМЫМ, если не завершается ни одно из упомянутых вычислений. Вопрос о том, является ли математи ческое утверждение Р истинным, ложным или НЕРАЗРЕ ШИМЫМ, в точности совпадает по своей природе с вопросом о реальной истинности утверждений о завершаемости или незавершаемости вычислений — иными словами, о ложности или ис тинности определенных hi-высказываний — а кроме этого для нашего «гёделевско—тьюринговского» доказательства ничего и не требуется.
Q11. Существуют определенные П1-высказывания, которые можно доказать с помощью теории беско нечных множеств, однако не известно ни одного до казательства, которое использовало бы стандарт ные «конечные» методы. Не означает ли это, что даже к таким четко определенным проблемам ма тематики, на деле, подходят субъективно? Различ ные математики, придерживающиеся в отношении теории множеств разных убеждений, могут применять к оценке математической истинности П1-высказываний неэквивалентные критерии.
Этот момент может оказаться существенным в том, что касается моих собственных выводов из доказательства Гёделя (—Тьюринга), и я, возможно, уделил ему недостаточно много вни мания в кратком изложении, представленном в НРК. Как ни странно, но возражение QM, похоже, никого, кроме меня, не обеспокоило — по крайней мере, никто мне на него не указал! В НРК (с. 417, 418), как и здесь, я сформулировал доказатель ство Гёделя(—Тьюринга) исходя из того, что посредством разума и понимания способны установить все «математики» или «мате матическое сообщество». Преимущество подобной формулиров ки, в отличие от рассмотрения вопроса о способности какого-либо конкретного индивидуума к установлению математиче ских истин посредством своего разума и понимания, заключается в том, что первый способ позволяет избежать некоторых воз ражений, которые нередко выдвигают в отношении той версии доказательства Гёделя, которую предложил Лукас (196 J). Самые разные ученые^3-1 указывали, к примеру, на то, что «сам Лукас» никак не мог обладать знанием о своем собственном алгоритме. (Некоторые из них говорили то же самое и о варианте дока зательства, предложенном много-, не обратив, судя по всему, внимания на тот факт, что моя формулировка вовсе не настолько «личностна».) Именно возможность сослаться на способности к рассуждению и пониманию, присущие всем «математикам» вооб ще или «математическому сообществу», позволяет нам избежать необходимости считаться с предположением о том, что различные индивидуумы могут воспринимать математическую истину по-разному, каждый в соответствии с личным непознаваемым алго ритмом. Значительно сложнее смириться с тем, что результатом выполнения некоего непостижимого алгоритма может оказаться коллективное понимание математического сообщества в целом, нежели с тем, что этот самый алгоритм обусловливает матема тическое понимание всего лишь какого-то конкретного индиви дуума. Суть возражения QJI как раз и заключается в том, что упомянутое коллективное понимание может оказаться совсем не таким универсальным и безличным, каким счел его я.
Утверждения, о каких говорится в Q11, действительно, су ществуют. То есть существуют Щ -высказывания, единственные известные доказательства которых опираются на то или иное применение теории бесконечных множеств. Такое Щ -высказы вание может быть результатом арифметического кодирования утверждения типа «аксиомы формальной системы F являются непротиворечивыми», где система F подразумевает манипуля ции обширными бесконечными множествами, само существова ние которых может быть сомнительным. Математик, убежденный в реальном существовании некоторого достаточно обширного неконструктивного множества S, придет к выводу, что система F действительно непротиворечива, тогда как другой математик, ко торый полагает, что множества S не существует, вовсе не обя зан считать систему F непротиворечивой. Таким образом, даже ограничив рассмотрение одним вполне определенным вопросом о завершении или незавершении работы машины Тьюринга (т. е. ложности или истинности П1-высказываний), мы не можем се бе позволить не учитывать субъективности убеждений в от ношении, скажем, существования некоторого обширного некон структивно-бесконечного множества S. Если различные матема тики используют для установления истинности определенных П1 -высказываний неэквивалентные «персональные алгоритмы», то, по-видимому, с моей стороны несправедливо говорить о про-. сто «математиках» или «математическом сообществе».
Полагаю, что в строгом смысле это действительно может быть несколько несправедливо; и читатель может при желании перефразировать вывод следующим образом:
* Для установления математической истины ни один отдельно взятый математик не применяет только те алгоритмы, какие он (или она) полагает обоснованными. j
Представленные мною доводы по-прежнему остаются в силе, од нако, мне кажется, некоторые из более поздних утратят значи тельную часть своей силы, если представить ситуацию в таком виде. Более того, в случае формулировки * все доказатель ство уходит в направлении, на мой взгляд, бесперспективном, сосредоточенном, в большей степени, на конкретных механизмах, управляющих действиями конкретных индивидуумов, нежели на принципах, лежащих в основе действий любого из нас. Меня же на данном этапе интересует не столько различия подходов от дельных математиков к той или иной математической проблеме, сколько то общее, что есть между нашим пониманием и нашим математическим восприятием.
Попытаемся разобраться, действительно ли мы вынужде ны принять формулировку *. В самом ли деле суждения мате матиков настолько субъективны, что они могут принципиально расходиться при установлении истинности какого-то конкрет ного III-высказывания? (Разумеется, доказательство, устанав ливающее истинность hi-высказывания, может быть просто-напросто быть слишком громоздким или слишком сложным, что бы его мог воспроизвести тот или иной математик (см. ниже по тексту возражение Q12), т.е. на практике математики вполне могут разойтись во мнениях. Однако в данном случае нас ин тересует вовсе не это. Мы занимаемся исключительно принци пиальными вопросами.) Вообще говоря, математическое дока зательство есть вещь не настолько субъективная, как может по казаться на основании вышесказанного. Математики могут при держиваться самых разных — и, на их взгляд, неопровержимо истинных — точек зрения по тем или иным фундаментальным вопросам и во всеуслышание объявлять об этом, однако едва дело доходит до доказательств или опровержений каких-либо вполне определенных конкретных hi-высказываний, все разно гласия тут же куда-то исчезают. Никто не воспримет всерьез доказательство hi-высказывания, утверждающего, по сути сво ей, непротиворечивость некоторой формальной системы F, если математик будет основывать его только лишь на существовании некоего спорного бесконечного множества S. То, что при этом в действительности доказывается, можно сформулировать следу ющим, куда более приемлемым, образом: «Если множество S су ществует, то формальная система F является непротиворечивой, и в этом случае данное П1-высказывание истинно».
Тем не менее, могут быть и исключения: например, один ма тематик полагает, что некоторое неконструктивно-бесконечное множество S «с очевидностью» существует — или, по крайней мере, что допущение о его существовании никоим образом не приводит к противоречию, — другой же математик никакой оче видности здесь не усматривает. Дискуссии математиков по таким фундаментальным вопросам могут порой принимать поистине неразрешимый характер. При этом обе стороны могут оказаться, в принципе, неспособны сколько-нибудь убедительно изложить свои доказательства, даже в отношении П1-высказываний. Воз можно, каждому математику и в самом деле присуще некое осо бое внутреннее восприятие истинности утверждений, связанных с неконструктивно-бесконечными множествами. Конечно же, ма тематики нередко заявляют о том, что их восприятие таких вещей в корне отличается от восприятия коллег. Однако я по лагаю, что такие различия, по сути своей, подобны различиям в ожиданиях, которые различные математики могут иметь и в отношении истинности обычных математических высказываний. Эти ожидания суть всего лишь предварительные предположения. До тех пор, пока не представлено убедительного доказательства или опровержения, математики могут спорить друг с другом об ожидаемой или предполагаемой истинности того или иного по ложения, однако представление такого доказательства одним из математиков убеждает (в принципе) всех. Что до фундаменталь ных вопросов, то там этих доказательств как раз нет. Возможно, и не будет. Быть может, их нельзя отыскать по той причине, что их просто-напросто нет, а фундаментальные вопросы допускают существование различных, но равно справедливых точек зрения. Здесь, однако, следует подчеркнуть еще один связанный с hi-высказываниями момент. Возможность наличия у матема тика ошибочной точки зрения — т. е. такой точки зрения, кото рая вынуждает его делать неверные выводы в отношении истин ности тех или иных П1-высказываний, — нас в данный момент не интересует. Нет ничего невероятного в том, что математики порой опираются на неверное в фактическом отношении «пони мание» — а то и на необоснованные алгоритмы, — только к настоящему обсуждению это никакого отношения не имеет, поскольку согласуется с выводом У. Впрочем, эту ситуацию мы подробно рассмотрим ниже, в § 3.4. Следовательно, дело в данном случае заключается не в том, могут ли разные математи ки придерживаться противоречащих, одна другой точек зрения, а скорее в том, может ли одна точка зрения оказаться, в принципе, мощнее другой. Каждая такая точка зрения будет совершенно справедлива в том, что касается установления истинности П1-высказываний, однако какая-то из них сможет, в принципе, дать своим последователям возможность установить, что те или иные вычисления не завершаются, тогда как другие, более слабые, точки зрения на это неспособны; то есть одни математики будут обладать существенно большей способностью к пониманию, нежели другие.
Не думаю, что такая возможность представляет собой сколь ко-нибудь серьезную угрозу для моей первоначальной формули ровки . Хотя в отношении бесконечных множеств математики и вправе придерживаться различных точек зрения, этих самых точек зрения вовсе не так много: по всей видимости, не бо лее пяти. Существенные в этом смысле расхождения могут быть обусловлены лишь утверждениями, подобными аксиоме выбора (о ней говорилось в комментарии к возражению Q10), которую одни полагают «очевидной», другие же напрочь отвергают свя занную с ней неконструктивность. Любопытно, что эти различ ные точки зрения на собственно аксиому выбора не приводят непосредственно к тому П1-высказыванию, относительно спра ведливости которого возникают разногласия. Ибо, независимо от своей предполагаемой «истинности» или «ложности», аксиома выбора, как показывает теорема Гёделя—Коэна(см. комментарий к Q10), не вступает в противоречие со стандартными аксиома ми системы ZF. Могут, однако, существовать и другие спорные аксиомы, соответствующей теоремы для которых нет. Впрочем, обыкновенно, когда речь заходит о принятии или опровержении той или иной теоретико-множественной аксиомы — назовем ее аксиомой Q, — утверждения математиков принимают следую щий вид: «Из допущения справедливости аксиомы Q следует, что ... ». Такое утверждение при всем желании не сможет стать предметом спора между математиками. Аксиома выбора, похоже, является исключением в том смысле, что ее справедливость часто подразумевается без приведения упомянутой оговорки, однако это обстоятельство, по-видимому, никак не противоречит моей общей объективной формулировке вывода — при условии, что мы ограничимся только П1-высказываниями:
Для установления истинности П1-высказываний математики-люди не применяют заведомо обоснован ные алгоритмы, а этого нам в любом случае вполне достаточно.
Есть ли другие спорные аксиомы, которые одни математи ки считают «очевидными», а другие ставят под сомнение? Ду маю, будет огромным преувеличением сказать, что имеется хотя бы десять существенно различных точек зрения на теоретико-множественные допущения, которые в явном виде как допущения не формулируются. Положим, что их не более десяти, и рассмот рим следствия из этого допущения. Это означает, что существует порядка десяти, по сути, различных классов математиков, раз личаемых по типу рассуждения в отношении бесконечных мно жеств, который они полагают «очевидно» истинным. Каждого та кого математика можно назвать математиком n-го класса, где n изменяется в весьма узком диапазоне — не более десяти значе ний. (Чем больше номер класса, тем мощнее будет точка зрения принадлежащих к нему математиков.) Вывод ** принимает в этом случае следующий вид:
Для установления истинности ГЦ –высказываний математики-люди n-го класса (где n может принимать лишь несколько значений) не применяют только те алгоритмы, какие они полагают обоснованными.
Так получается, потому что доказательство Гёделя(— Тьюринга) можно применять к каждому классу отдельно. (Важно понять, что само гёделевское доказательство предметом спора между ма тематиками не является, а потому если для любого математика nго класса гипотетический алгоритм n-го класса будет познаваемо обоснованным, то доказательство приведет к противоречию.) Та ким образом, как и в случае с , дело вовсе не в существовании какого-то невообразимого количества непознаваемо обоснован ных алгоритмов, каждый из которых присущ лишь одному кон кретному индивидууму. Мы всего лишь исключаем возможность существования некоторого очень небольшого количества неэкви валентных непознаваемо обоснованных алгоритмов, рассортиро ванных в соответствии с их мощностью и образующих в результа те различные «школы мышления». В последующем обсуждении различия между вариантами и либо не будут иметь особого значения, поэтому для упрощения изложения я не стану в дальнейшем их как-то различать и буду использовать для них всех одно общее обозначение .
Q12. Вне зависимости оттого, насколько различных точек зрения придерживаются математики в прин ципе, на практике те же математики обладают весьма разными способностями к воспроизведению доказательств, разве не так? Не менее различны и их способности к пониманию, позволяющие им совершать математические открытия.
Безусловно, так оно и есть, однако к рассматриваемому во просу все эти вещи не имеют ну абсолютно никакого отноше ния. Меня не интересует, какие именно и насколько сложные до казательства математик способен воспроизвести на практике. Еще меньше меня занимает вопрос о том, какие доказательства математик может на практике открыть или какие понимание и вдохновение могут ему в этом способствовать. Здесь мы говорим исключительно о том, доказательства какого типа математики могут, в принципе, воспринимать как обоснованные.
Оговорка «в принципе» используется в наших рассужде ниях отнюдь не просто так. Если допустить, что некий матема тик располагает доказательством или опровержением некоторо го III -высказывания, то его разногласия с другими математиками касательно обоснованности данного доказательства разрешимы только в том случае, если у этих самых других математиков хватит времени, терпения, объективности, способностей и решимости с вниманием и пониманием воспроизвести всю — возможно, длин ную и хитроумную — цепочку его рассуждений. На практике же математики вполне могут отказаться от всех этих трудов еще до полного разрешения спорных вопросов. Однако подобные про блемы к данному исследованию отношения не имеют. Так как, по всей видимости, существует все же некий вполне определенный смысл, в котором то, что в принципе постижимо для одного мате матика, оказывается равным образом (если отвлечься на время от возражения Q11) постижимо и для другого, — вообще, для лю бого человека, способного мыслить. Рассуждения бывают весьма громоздкими, а участвующие в них концепции могут показаться чересчур тонкими или туманными, и тем не менее существуют достаточно убедительные основания полагать, что способность к пониманию одного человека не включает в себя ничего такого, что в принципе недоступно другому человеку. Это применимо и к тем случаям, когда для воспроизведения во всех подробностях чисто вычислительной части доказательства может потребовать ся помощь компьютера. Возможно, не совсем разумно ожидать, что математик-человек будет лично выполнять все необходимые для такого доказательства вычисления, и все же он, вне всякого сомнения, сможет без особого труда понять и проверить каждый отдельный его этап.
Здесь я говорю исключительно о сложности математическо го доказательства и ни в коем случае не о возможных существен ных и принципиальных вопросах, которые могут вызвать среди математиков разногласия в отношении выбора допустимых ме тодов рассуждения. Разумеется, я встречал математиков, утвер ждавших, что они в своей практике сталкивались с такими ма тематическими доказательствами, которые были совершенно вне их компетенции: «Я уверен, что, сколько бы я ни старался, мне никогда не понять того-то или такого-то; этот метод рассужде ния мне не по зубам». В каждом конкретном случае подобного заявления необходимо индивидуально решать, действительно ли данный метод рассуждения в принципе выходит за рамки систе мы убеждений этого математика — каковой случай мы рассмат ривали в комментарии к возражению Q11, — или он вообще-то смог бы разобраться в принципах, на которых основано это доказательство, если бы только приложил больше сил и затра тил больше времени. Как правило, справедливым оказывается последнее. Более того, источником отчаяния нашего математи ка чаще всего становится туманный стиль изложения или огра ниченные лекторские способности «такого-то», а вовсе не то, что какие-то существенные и принципиальные моменты «того-то» действительно выходят за рамки его способностей. Толковое изложение, на первый взгляд, непонятного предмета чудесным образом устраняет все прежние недоразумения.
Чтобы еще раз подчеркнуть, что я имею в виду, скажу сле дующее: сам я часто посещаю математические семинары, на ко торых не слежу (а иногда и не пытаюсь следить) за подробно стями представляемых доказательств. Наверное, если бы я сел где-нибудь и обстоятельно изучил эти самые доказательства, я и в самом деле смог бы проследить за мыслью автора — хотя, возможно, это удалось бы мне лишь при наличии дополнитель ной литературы или устных пояснений, которые восполнили бы возможные пробелы в моем образовании или же в материалах самого семинара. Я знаю, что в действительности я этого делать не стану. У меня почти наверняка не окажется на это ни време ни, ни достаточного количества внимания, ни, впрочем, особого желания. Но при этом я вполне могу принять представленный на семинаре результат на веру по всевозможным «несущественным» причинам — например, потому что полученный результат правдоподобно «выглядит», или потому что у лектора надежная репутация, или потому что другие слушатели, которых я считаю более сведущими в таких делах, нежели я сам, этот результат оспаривать не стали. Конечно, я могу ошибиться во всех своих умозаключениях, а результат вполне может оказаться ложным — либо истинным, но никоим образом не следующим из представ ленного доказательства. Все эти тонкости никак не влияют на ту принципиальную позицию, которую я здесь представляю. Ре зультат может оказаться истинным и адекватно доказанным, и в таком случае я, в принципе, могу проследить за ходом всего доказательства — или же ошибочным, в каковом случае, как уже упоминалось, он нас в данном контексте не интересует (см. § 3.2 и § 3.4). Возможные исключения могут составить лишь те случаи, когда представляемый материал касается каких-либо спорных аспектов теории бесконечных множеств или опирается на какой-то необычный метод рассуждения, который может быть признан сомнительным в соответствии с теми или иными математически ми воззрениями (что, само по себе, может заинтриговать меня до такой степени, что я впоследствии действительно попытаюсь это доказательство повторить). Как раз такие исключительные ситуации мы обсуждали выше, в комментарии к возражению Q11. Что касается подобных соображений относительно природы математической точки зрения, на практике многие математики могут и не иметь четкого представления о том, каких именно фундаментальных принципов они в действительности придержи ваются. Однако, как уже было сказано выше, в комментарии к QI1, если математик, у которого нет определенной позиции в отношении того, следует ли принимать, скажем, некую «аксиому Q», желает проявить осмотрительность, то ничто не мешает ему изложить требующие принятия аксиомы Q результаты в следую щем виде: «Из принятия аксиомы Q следует, что... ». Разумеет ся, математики, несмотря на всю их пресловутую педантичность, проявляют в подобных вопросах должную осмотрительность да леко не всегда. Нельзя отрицать и того, что время от времени им удается допускать и вовсе очевидные ошибки. И все же все эти ошибки — если они допущены по недосмотру, а не следуют из тех или иных непоколебимых принципов — являются исправимыми. (Как упоминалось ранее, возможность действительного примене ния математиками в качестве основы для своих решений необоснованного алгоритма будет подробно рассмотрена в §3.2 и §3.4. Поскольку эта возможность не противоречит выводу , она не является предметом настоящего обсуждения.) В данном слу чае нас не занимают исправимые ошибки, так как к вопросу о принципиальной достижимости тех или иных результатов они ни какого отношения не имеют. А вот возможные неопределенно сти в действительных взглядах математиков, безусловно, требуют дальнейшего обсуждения, которое и приводится ниже.
QI3. У математиков нет абсолютно определен ных убеждений относительно обоснованности или непротиворечивости используемых ими формальных систем — как нет и однозначного ответа на вопрос о том, «пользователями» каких именно формальных систем они себя полагают. Не подвергаются ли их убеждения постепенному размыванию по мере того, как формальные системы все более удаляются от области феноменов, доступных непосредственному интуитивному или эксперименталь ному восприятию?
И правда, нечасто встретишь математика, способного по хвалиться прочно устоявшимися и непоколебимо непротиворе чивыми убеждениями, когда речь заходит об основах предмета. Кроме того, по мере накопления опыта математик вполне может изменить свои взгляды относительно того, что считать неопро вержимо истинным, если он вообще склонен считать неопровер жимо истинным что бы то ни было. Можно ли, например, быть совершенно и полностью уверенным в том, что число 1 отлично от числа 2? Если говорить о некоей абсолютной человеческой уверенности, то не совсем ясно, можно ли подобное понятие как-то однозначно определить. Однако какую-то точку опоры все же выбрать необходимо. Вполне приемлемой точкой опоры может стать принятие в качестве неопровержимо истинной некоторой системы убеждений и принципов, от которой уже можно двигать ся в своих рассуждениях дальше. Разумеется, нельзя забывать и о том, что многие математики вовсе не имеют определенного мнения относительно того, что именно можно считать неопро вержимо истинным. Таких математиков я попросил бы какую-никакую опору для себя все же выбрать и просто быть готовы ми при необходимости впоследствии ее сменить. Как показывает доказательство Гёделя, какую бы позицию математик в этом случае ни занял, ее все равно невозможно полностью уместить в рамки правил любой постижимой формальной системы (а если и возможно, то этот факт невозможно однозначно установить). И дело даже не в том, что та или иная конкретная позиция по стоянно изменяется; система убеждений, полностью охватыва емая рамками любой (достаточно обширной) формальной си стемы F, неизбежно должна также простирается и за пределы доступной F области. Любая позиция, среди неопровержимых убеждений которой имеется и убеждение в обоснованности си стемы F, должна также включать в себя и убежденность в ис тинности гёделевского предположения G(F). Убежденность в истинности G(F) не представляет собой изменения позиции; эта убежденность уже подразумевается неявно в исходной позиции, допускающей принятие истинности формальной системы F, пусть даже поначалу это и не очевидно.
Безусловно, всегда существует возможность того, что в вы воды, получаемые математиком на основании исходных посылок какой-либо конкретной точки зрения, закрадется ошибка. Од на только возможность возникновения такой ошибки — даже если в действительности никакой ошибки допущено не было — может привести к уменьшению степени убежденности, которую математик питает в отношении своих выводов. Однако такое «по степенное размывание» нас, вообще говоря, не занимает. По добно действительным ошибкам, оно «исправимо». Более того, если доказательство было проведено действительно корректно, то чем дольше его изучаешь, тем, как правило, более убедитель ными представляются полученные в нем выводы. «Постепенное размывание» математик может испытать на практике, но не в принципе, что возвращает нас к обсуждению возражения Q12.
Таким образом, вопрос перед нами встает здесь следующий: имеет ли место постепенное размывание в принципе, т. е. может ли математик счесть, скажем, обоснованность некоторой фор мальной системы F неопровержимой, тогда как в обоснованности более сильной системы F* он будет лишь «практически уверен». Этот вопрос не представляется мне сколько-нибудь серьезным, коль скоро, каком бы ни была система F, мы вправе настаивать, чтобы она включала в себя обычные логические прави ла и арифметические операции. Упомянутый выше математик, который верит в обоснованность системы F, должен также ве рить в ее непротиворечивость, а следовательно, и в истинность гёделевского высказывания G (F). Таким образом, одни только выводы из формал4ьной системы F не могут охватывать всей сово купности математических убеждений математика, какой бы эта система ни была.
Однако следует ли считать высказывание G(F) неопровер жимо истинным всякий раз, когда мы признаем неопровержимо обоснованной формальную систему F? Полагаю, утвердительный ответ на этот вопрос не должен вызывать никаких сомнений; и это тем более так, если придерживаться в отношении воспро изведения математического доказательства той «принципиаль ной» позиции, которой мы придерживались до сих пор. Един ственная возникающая в этой связи реальная проблема касает ся деталей фактического кодирования утверждения «система F непротиворечива» в форме арифметического утверждения (IIi-высказывания). Сама по себе базовая идея неопровержимо оче видна: если система F является обоснованной, то она, безуслов но, непротиворечива. (Так как если бы она не была непротиво речивой, то среди ее утверждений присутствовало бы утвержде ние «1 = 2», т.е. система была бы необоснованной.) Что касается деталей этого самого кодирования, то здесь нам вновь предстоит иметь дело с различием между «принципиальным» и «практи ческим» уровнями. Не составит особого труда убедиться в том, что такое кодирование в принципе возможно (хотя сам процесс убеждения может занять некоторое время), однако убедиться в корректном выполнении того или иного конкретного действи тельного кодирования — дело совсем другое. Детали кодиро вания, как правило, бывают в известной степени произвольными и в разных изложениях могут весьма значительно отличаться. Возможно, где-то закрадется незначительная ошибка или просто опечатка, которая, в формальном смысле, должна бы сделать недействительным данное конкретное предназначенное для вы ражения «G(F)» теоретико-числовое предположение, однако в действительности этого не происходит.
Надеюсь, читатель понимает, что возможность возникнове ния таких ошибок не существенна, когда речь заходит о том, что мы подразумеваем здесь под принятием предположения G (F) в качестве неопровержимой истины. Я, разумеется, говорю о дей ствительном предположении G (F), а не о возможном случай ном предположении, непреднамеренно сформулированном бла годаря опечатке или незначительной ошибке. В этой связи мне вспоминается одна история о великом американском физике Ри чарде Фейнмане. Фейнман, по-видимому, объяснял одному из студентов какое-то понятие, но оговорился. Когда студент выра зил недоумение, Фейнман вспылил: «Не слушайте, что я говорю; слушайте, что я имею в виду!».
Один из возможных способов такого явного кодирования состоит в использовании представленных еще в НРК специфика ций машин Тьюринга и точном воспроизведении доказательства гёделевского типа, описанного в §2.5 (пример такого кодиро вания приводится в Приложении А). Впрочем, даже и в этом случае об абсолютной «явности» говорить нельзя, поскольку нам понадобится еще и каким-то явным образом закодировать пра вила формальной системы F в системе обозначений действий ма шин Тьюринга; обозначим такой код, скажем, через Ту. (Код tf должен удовлетворять определенному свойству: если некоторому высказыванию Р, выводимому в рамках системы F, ставится в соответствие некоторое число р, то необходимо, скажем, чтобы равенство tf (р) — 1 выполнялось всякий раз, когда высказы вание Р является теоремой системы F, в противном же случае вычисление Tf(p) не должно завершаться вовсе.) Безусловно, все это открывает широкий простор для формальных ошибок. Помимо возможных трудностей, связанных с практическим по строением кода Ту на основе системы F и отысканием числа р на основе высказывания Р, отсутствует ясность и в отношении другого вопроса: а не ошибся ли я сам где-нибудь в специфи кациях машин Тьюринга, — иными словами, можем ли мы быть полностью уверены в корректности приведенного в Приложении А этой книги кода, если вдруг решим использовать для отыска ния вычисления Ck (k) именно это определение? Лично я думаю, что ошибок там нет, однако в собственной непогрешимости я уверен куда как меньше, нежели в первоначальных построениях Гёделя (пусть и более сложных). Впрочем, всякому дочитавшему до этого места, смею надеяться, уже ясно, что возможные ошибки подобного рода существенной роли здесь не играют. Помните, что говорил Фейнман?
Что же касается собственно моих спецификаций, следует упомянуть еще один формальный момент. Представленный мною в §2.5 вариант доказательства Гёделя(-Тьюринга) опирается не на непротиворечивость системы F, а на обоснованность алго ритма А, и являет собой критерий для установления незавершаемости вычислений (т.е. истинности ГЦ-высказываний). Этот вариант подходит нам ничуть не хуже любых других, посколь ку известно, что из обоснованности алгоритма А следует ис тинность утверждения о незавершаемости вычисления Ck (k), каковое явное утверждение (тоже П1-высказывание) мы име ем полное право использовать вместо высказывания G(F). Бо лее того, как отмечали выше (см. §2.8), доказательство, вообще говоря, зависит не от непротиворечивости формальной систе мы F, а от ее -непротиворечивости. Из обоснованности систе мы F очевидно следует ее непротиворечивость, равно как и -непротиворечивость. Если допустить, что система F обоснована, то ни fi (F), ни G (F) из ее правил (см. §2.8) не следуют, однако оба эти высказывания являются истинными.
Думаю, можно с уверенностью заключить, что какое бы «по степенное размывание» убежденности того или иного матема тика ни сопровождало переход от убеждения в обоснованности формальной системы F к убеждению в истинности высказыва ния G(F) (или О (F)), оно будет целиком и полностью обуслов лено возможностью ошибки в точной формулировке получен ного им высказывания «G(F)». (To же применимо и к выска зыванию fi(F).) Все это не имеет непосредственного отноше ния к настоящему обсуждению — при наличии подлинной (не случайной) формулировки высказывания G (F) никакого размы вания убежденности происходить не должно. Если формальная система F неопровержимо обоснована, то ее высказывание G (F) столь же неопровержимо истинно. Все формы заключения ( , ) остаются неизменными при условии, что под «истин ностью» подразумевается «неопровержимая истинность».
Q14. Нет никаких сомнений в том, что формальная система ZF — или некоторая стандартная ее модификация (обозначим ее через ZF*)—действительно включает в себя все необходимое для серьезной математической деятельности. Почему бы просто не принять эту систему за основу, смириться с недоказуемостью ее непротиворечивости и продолжить свои математические изыскания?
Полагаю, такая точка зрения весьма и весьма распростра нена среди практикующих математиков, особенно тех, кто не слишком углубляется в фундаментальные основы или филосо фию своего предмета. Подобное отношение вполне естественно для людей, главной заботой которых является просто хорошее выполнение серьезной, пусть и математической, работы (хотя в действительности такие люди крайне редко выражают свои результаты в рамках строгих правил формальных систем, по добных ZF). Согласно этой точке зрения, математика имеет де ло лишь с тем, что можно доказать или опровергнуть в рам ках некоей конкретной формальной системы — такой, напри мер, как ZF (или какая-либо ее модификация ZF*). С высоты такой позиции математическая деятельность и в самом деле на поминает своего рода «игру». Назовем ее ZF-игрой (или ZF*-игрой), причем играть в эту игру следует в соответствии с пра вилами, установленными в рамках данной системы. Такой подход характерен для формалиста, подлинный же формалист мыслит исключительно в терминах ИСТИННОГО и ЛОЖНОГО, которые не обязательно совпадают с истинным и ложным в их повсе дневном смысле. Если формальная система обоснованна, то все, что является ИСТИННЫМ, и будет истинным, а все, что ЛОЖ НО, будет ложным. Однако наверняка найдутся высказывания, формализуемые в рамках данной системы, которые, будучи ис тинными, не являются ИСТИННЫМИ, и другие, которые, буду чи ложными, не являются ЛОЖНЫМИ, иными словами, в обо их случаях эти высказывания оказываются НЕРАЗРЕШИМЫМИ. Если система ZF непротиворечива, то в ZF-игре гёделевское высказывание G (ZF) и его отрицание ~ G (ZF) принадле жат, соответственно, к этим двум категориям. (Более того, ока жись система ZF противоречивой, то и высказывание G(ZF), и его отрицание ~ G(ZF) были бы истинными и ложными одновременно!)
ZF-игра, судя по всему, представляет собой исключитель но разумный подход, позволяющий реализовать большую часть того, что нас интересует в обычной математике. Однако по при чинам, которые обозначены выше, я совершенно не в состоянии понять, каким же образом из нее может «произрасти» реаль ная точка зрения в отношении чьих бы то ни было математи ческих убеждений. Ибо если кто-то считает, что с помощью «практикуемой» им математики он устанавливает исключительно подлинные математические истины — скажем, истинность IIi-высказываний, — то он должен верить и в то, что используемая им система обоснована; а если он верит в ее обоснованность, то он должен также верить в ее непротиворечивость, то есть в то, что IIi-высказывание, утверждающее истинность G (F), дей ствительно истинно, несмотря на то, что оно НЕРАЗРЕШИ МО. Таким образом, математические убеждения человека долж ны включать в себя нечто, что в рамках ZF-игры невыводимо. С другой стороны, если человек не верит в обоснованность фор мальной системы ZF, то он не может верить и в подлинную ис тинность ИСТИННЫХ результатов, полученных с помощью ZF-игры. В обоих случаях сама по себе ZF-игра не в состоянии снабдить нас удовлетворительной позицией в том, что касается математической истинности. (Это равным образом применимо к любой формальной системе ZF*.)
Q15. Выбранная нами формальная система F может и не оказаться непротиворечивой — по крайней ме ре, мы не можем быть вполне уверены в ее непро тиворечивости; по какому же, в таком случае, праву мы утверждаем, что высказывание G (F) «очевидно» истинно?
Хотя этот вопрос был достаточно исчерпывающе рассмотрен в предыдущих обсуждениях, я полагаю, что суть того рассмот рения полезно будет изложить еще раз, поскольку возражения, подобные Q15, чаще всего оказываются среди нападок на наше с Лукасом приложение теоремы Гёделя. Суть же в том, что мы вовсе не утверждаем, что высказывание G(F) непременно ис тинно для любой формальной системы F, мы утверждаем лишь, что высказывание G (F) настолько же достоверно, насколько до стоверна любая другая истина, получаемая применением правил самой системы F. (Вообще говоря, высказывание G (F) оказыва ется более достоверным, нежели утверждения, получаемые дей ствительным применением правил F, так как система F, даже будучи непротиворечивой, не обязательно будет обоснованной!) Если мы верим в истинность любого утверждения Р, выводимого исключительно с помощью правил системы F, то мы должны верить и в истинность G (F), по крайней мере, в той же степени, в какой мы верим в истинность Р. Таким образом, ни одна по стижимая формальная система F — или эквивалентный ей алго ритм F — не может послужить абсолютно полной основой для подлинного математического познания или формирования убе ждений. Как отмечалось в комментариях к Q5 и Q6, наше дока зательство построено как reductio ad absurdum: мы выдвигаем предположение, что система F действительно является абсолют ной основой для формирования убеждений; а затем показываем, что такое предположение приводит к противоречию, т. е. является неверным.
Мы, конечно же, можем, как в Q14, выбрать для удобства какую-то конкретную систему F, хотя уверенности в том, что она обоснована, а потому непротиворечива, это нам не добавит. Впрочем, при наличии действительных сомнений в обоснован ности системы F любой получаемый в рамках F результат Р сле дует формулировать в виде
«высказывание Р выводимо в рамках системы F»
(или, что то же самое, «высказывание Р ИСТИННО»), избегая утверждений вида «высказывание Р истинно». Такое утвержде ние в математическом смысле вполне приемлемо и может быть либо действительно истинным, либо действительно ложным. Со вершенно законным образом мы можем свести все наши мате матические высказывания к утверждениям такого рода, однако и в этом случае нам никуда не деться от утверждений об абсо лютных математических истинах. При случае мы можем прийти к убеждению, будто мы установили, что какое-то утверждение вышеприведенного вида является в действительности ложным, т. е. получить следующий результат:
«высказывание Р невыводимо в рамках системы F».
Такие утверждения имеют вид: «такое-то вычисление не завер шается» (или, по сути, «будучи примененным к высказыванию Р, алгоритм F не завершается»), что в точности совпадает с формой рассматриваемых нами di-высказываний. Вопрос: какие сред ства мы полагаем допустимыми в процессе получения подобных утверждений? Каковы, наконец, те математические процедуры, в которые мы действительно верим и применяем при установлении математических истин? Такая система убеждений, при условии, что они достаточно разумны, никак не может быть эквивалент на всего лишь убежденности в обоснованности и непротиворечи вости формальной системы, какой бы эта формальная система ни была.
Q16. Заключение об истинности высказывания G(F) для непротиворечивой формальной системы F мы делаем, исходя из допущения, что те символы системы F, которые, как мы полагаем, служат для представления натуральных чисел, действително представляют натуральные числа. Окажись на их месте другие числа — скажем, некие экзотические «сверхнатуральные» числа, — мы вполне могли бы обнаружить, что высказывание G(F) ложно. Откуда мы знаем, что в нашей системе F мы имеем дело с натуральными, а не со сверхнатуральными числами?
В самом деле, конечного аксиоматического способа убедить ся в том, что «числа», о которых идет речь, и есть те самые подразумеваемые натуральные числа, а не какие-то посторон ние «сверхнатуральные», не существует^5'. Однако, в некотором смысле, в этом и состоит вся суть гёделевского рассуждения. Неважно, какую именно схему аксиом формальной системы F мы построим, пытаясь охарактеризовать натуральные числа, одних лишь правил системы F будет недостаточно, чтобы определить, является ли высказывание G (F) действительно истинным или же ложным. Полагая систему F непротиворечивой, мы знаем, что в высказывании G (F) подразумевается все же наличие некоего истинного смысла. Это, однако, происходит лишь в том случае, если символы, составляющие в действительности формальное выражение, обозначаемое «G (F)», имеют подразумеваемые зна чения. Если эти символы интерпретировать как-либо иначе, то полученная в результате интерпретация «G(F)>> вполне может оказаться ложной.
Для того чтобы разобраться, откуда берутся все эти дву смысленности, рассмотрим новые формальные системы F* и F**, где F* получается путем присоединения к аксиомам системы F высказывания G (F), a F** — путем аналогичного присоединения высказывания ~ G (F). Если система F обоснована, то обе систе мы F* и F** непротиворечивы (т. к. высказывание G(F) истинно, а ~ G (F) из правил системы F) вывести невозможно. При этом в случае подразумеваемой (или стандартной) интерпретации символов F из обоснованности системы F следует, что система F* обоснована, а система F** — нет. Впрочем, одним из харак терных свойств непротиворечивых формальных систем являет ся возможность отыскания так называемых нестандартных реинтерпретаций символов таким образом, что высказывания, которые являются ложными в стандартной интерпретации, ока зываются истинными в нестандартной; соответственно, в такой нестандартной интерпретации обоснованными могут быть систе мы F и F**, а система F* обоснованной не будет. Можно вообра зить, что такая реинтерпретация может повлиять на смысл логи ческих символов (таких как «~» и «&», которые в стандартной интерпретации означают, соответственно, «не» и «и»), однако в данном случае нас занимают символы, обозначающие неопре деленные числа («от», «у», «z», «ж'», «х"» и т.д.), и значения применяемых к ним логических кванторов (V, 3). В стандартной интерпретации символы «Vx» и «Эх» означают, соответственно, «для всех натуральных чисел х» и «существует такое натураль ное число х, что»; в нестандартной же интерпретации эти симво лы могут относится не к натуральным числам, а к числам какого-то иного вида с иными свойствами упорядочения (такие числа действительно можно назвать «сверхнатуральными», или даже «ультранатуральными», как это сделал Хофштадтер [200]).
Дело, однако, в том, что мы-то знаем, что такое на самом деле представляют собой натуральные числа, и для нас не со ставит никакого труда отличить от каких-то непонятных сверхна туральных чисел. Натуральные числа суть самые обыденные ве щи, обозначаемые, как правило, символами 0, 1, 2, 3, 4, 5, 6, — С этой концепцией мы знакомимся еще в детском возрасте и легко отличим ее от надуманной концепции сверхнатурального числа (см. § 1.21). Есть что-то таинственное в том, что мы, по хоже, и впрямь обладаем каким-то инстинктивным пониманием действительного смысла понятия натурального числа. Все, что мы получаем в этом смысле в детском (или уже взрослом) возра сте, сводится к сравнительно небольшому количеству описаний понятий «нуля», «единицы», «двух», «трех» и т.д. («три апель сина», «один банан» и т.п.), однако при этом, несмотря на всю неадекватность такого описания, мы как-то умудряемся постичь всю концепцию в целом. В некотором платоническом смысле на туральные числа видятся своего рода категориями, обладающи ми абсолютным концептуальным существованием, от нас никак не зависящим. И все же, несмотря на «человеконезависимость» натуральных чисел, мы оказываемся способны установить ин теллектуальную связь с действительной концепцией натуральных чисел, опираясь лишь на неоднозначные и, на первый взгляд, неадекватные описания. С другой стороны, не существует ко нечного набора аксиом, с помощью которого можно было бы провести четкую границу между множеством натуральных чисел и альтернативным ему множеством так называемых «сверхнату ральных» чисел.
Более того, такое специфическое свойство всей совокупно сти натуральных чисел, как их бесконечное количество, мы так же можем каким-то образом воспринимать непосредственно, то гда как система, действие которой ограничено точными конечны ми правилами, не способна отличить данную конкретную беско нечность натуральных чисел от других возможных («сверхнату ральных») вариантов. Мы же легко понимаем бесконечность, ха рактеризующую натуральные числа, пусть и обозначаем ее про сто точками «...» —
«0, 1,2,3,4,5,6,...»,
либо сокращением «и т. д.»—
«ноль, один, два, три и т. д.».
Нам не нужно объяснять на языке каких-то точных правил, что именно представляет собой натуральное число. В этом смысле можно считать, что нам повезло, так как такое объяснение дать невозможно. Как только нам приблизительно укажут верное на правление, мы тут же обнаруживаем, что уже откуда-то знаем, что это за штука такая — натуральное число!
Возможно, некоторые читатели знакомы с аксиомами Пеано для арифметики натуральных чисел (об арифметике Пеано я вкратце упоминал в §2.7), и, возможно, теперь эти читатели находятся в некотором недоумении: почему же аксиомы Пеано не да ют адекватного определения натуральных чисел. Согласно опре делению Пеано, мы начинаем ряд натуральных чисел с символа О и затем добавляем слева особый «оператор следования», обо значаемый S и осуществляющий простое прибавление единицы к числу, над которым совершается действие, т. е. I определяется как SO, 2 как S1 или SSO и т. д. В качестве правил мы располагаем следующими утверждениями: если Sa=Sb, то а=Ь; и ни при ка ком х число 0 нельзя записать в виде Sx (последнее утверждение служит для характеристики числа 0). Кроме того, имеется «прин цип индукции», согласно которому некое свойство чисел (ска жем, Р) должно быть истинным в отношении всех чисел п, если оно удовлетворяет двум условиям: (i) если истинно Р(п), то для всех п истинно также и Р (Sn); (ii) P (0) истинно. Сложности на чинаются, когда дело доходит до логических операций, символы которых V и 3 в стандартной интерпретации означают, соответ ственно, «для всех натуральных чисел...» и «существует такое натуральное число..., что». В нестандартной интерпретации смысл этих символов соответствующим образом изменяется, так что они квантифицируют уже не натуральные числа, а «числа» какого-то другого типа. Хотя математические спецификации Пе ано, задающие оператор следования S, действительно описы вают отношение упорядочения, отличающее натуральные числа от разных прочих «сверхнатуральных» чисел, эти определения невозможно записать в терминах формальных правил, которым удовлетворяют кванторы V и 3. Для того чтобы передать смысл математических определений Пеано, необходимо перейти к так называемой «логике второго порядка», в которой кванторы ти па V и 3 также вводятся, но только теперь они оперируют не над отдельными натуральными числами, а над множествами (бесконечными) натуральных чисел. В «логике первого порядка» арифметики Пеано кванторы оперируют над отдельными числа ми, и в результате получается формальная система в обычном смысле этого слова. Логика же второго порядка нам формальной системы не дает. В случае строгой формальной системы вопрос о правильности применения правил системы решается чисто ме ханическими (т. е. алгоритмическими) способами — в сущности, именно это свойство формальных систем и послужило причиной их рассмотрения в настоящем контексте. В рамках логики второ го порядка упомянутое свойство не работает.
Многие ошибочно полагают (в духе приведенных в возра жении Q16 соображений), что из теоремы Гёделя следует суще ствование множества различных арифметик, каждая из которых в равной степени обоснована. Соответственно, та частная ариф метика, которую мы, возможно, по чистой случайности избра ли для своих нужд, определяется просто какой-то произволь но взятой формальной системой. В действительности же теоре ма Гёделя показывает, что ни одна из этих формальных систем (будучи непротиворечивой) не может быть полной; поэтому (как доказывается далее) к ней можно непрерывно добавлять какие угодно новые аксиомы и получать всевозможные альтернатив ные непротиворечивые системы, которыми при желании можно заменить ту, в рамках которой мы работаем в настоящий момент. Эту ситуацию нередко сравнивают с той, что сложилась некогда с евклидовой геометрией. На протяжении двадцати одного ве ка люди верили, что евклидова геометрия является единственно возможной геометрией. Но, когда в восемнадцатом веке сразу несколько великих математиков (таких как Гаусс, Лобачевский и Бойяи) показали, что существуют в равной степени возмож ные альтернативы общепринятой геометрии, геометрии пришлось отступить с абсолютных позиций на произвольные. Аналогично, нередко можно услышать, будто Гёдель показал, что арифметика также представляет собой предмет произвольного выбора, при этом один набор непротиворечивых аксиом оказывается ничуть не хуже любого другого.
Однако подобная интерпретация того, что доказал Гёдель, абсолютно неверна. Согласно Гёделю, само по себе понятие фор мальной системы аксиом не подходит для передачи даже самых элементарных математических понятий. Когда мы употребляем термин «арифметика» без дальнейших пояснений, мы подразу меваем обычную арифметику, которая работает с обычными на туральными числами О, 1, 2, 3, 4, ... (и, быть может, с их от рицаниями), а вовсе не со «сверхнатуральными» числами, что бы это понятие ни означало. Мы можем, если пожелаем, иссле довать свойства формальных систем, и это, конечно же, станет ценным вкладом в процесс математического познания. Однако такое предприятие несколько отличается от исследования обыч ных свойств обычных натуральных чисел. В некотором отноше нии данная ситуация весьма напоминает ту, что сложилась в по следнее время с геометрией. Изучение неевклидовых геометрий интересно с математической точки зрения, да и сами геометрии имеют ряд важных областей применения (например, в физике, см. НРК, глава 5, особенно рис. 5.1 и 5.2, а также §4.4), но, когда термин «геометрия» используется в обычном языке (в отличие от жаргона математиков или физиков-теоретиков), подразумевает ся, как правило, обычная евклидова геометрия. Однако имеется и разница: то, что логик может назвать «евклидовой геометрией», действительно можно определить (с некоторыми оговорками^) через определенную формальную систему, тогда как обычную «арифметику», как показал Гёдель, определить таким образом нельзя.
Гёдель доказал не то, что математика (в особенности ариф метика) — это произвольные поиски, направление которых опре деляется прихотью Человека; он доказал, что математика — это нечто абсолютное, и в ней мы должны не изобретать, но откры вать (см. § 1.17). Мы открываем, что такое натуральные числа и без труда отличаем их от любых сверхнатуральных чисел. Гёдель показал, что ни одна система «искусственных» правил не способ на сделать это за нас. Такая платоническая точка зрения была существенна для Гёделя, не менее существенной она будет и для нас в последующих рассуждениях (§8.7).
Q17. Допустим, что формальная система F предна значена для представления тех математических истин, что, в принципе, доступны человеческому ра зуму. Не можем ли мы обойти проблему невозмож ности формального включения в систему F гёделевского высказывания G (F), включив вместо него что-либо, имеющее смысл G(F), воспользовавшись при этом новой интерпретацией смысла символов системы F?
Определенные способы представления примененного к F гёделевского доказательства в рамках формальной системы F (до статочно обширной) действительно существуют, коль скоро но вый, реинтерпретированный, смысл символов системы F пола гается отличным от исходного смысла символов этой системы. Однако если мы пытаемся таким образом интерпретировать си стему F как процедуру, с помощью которой разум приходит к тем или иным математическим выводам, то подобный подход являет ся не чем иным, как шулерством. Если мы намерены толковать мыслительную деятельность исключительно в рамках системы F, то ее символы не должны изменять свой смысл «на полпути». Если же мы принимаем, что мыслительная деятельность может содержать что-то помимо операций самой системы F — а именно, изменение смысла символов, — то нам необходимо знать и пра вила, управляющие подробным изменением. Либо эти правила окажутся неалгоритмическими, и это сыграет в пользу 'S, либо для них найдется какая-то конкретная алгоритмическая проце дура, и тогда нам следовало бы изначально включить эту про цедуру в нашу систему «F» — обозначим ее через F+ — с тем, чтобы она представляла собой полную совокупность процедур, обусловливающих наши с вами понимание и проницательность, а значит, необходимости в изменении смысла символов не воз никло бы вовсе. В последнем случае вместо гёделевского вы сказывания G(F) из предыдущего рассуждения нам предстоит разбираться уже с высказыванием G(F+), так что ничего мы в результате не выигрываем.
Q18. Даже в такой простой системе, как арифметика Пеано, можно сформулировать теорему, интерпретация которой имеет следующий смысл: «система F обоснована» следовательно «высказывание G (F) истинно». Разве это не все, что нам нужно от теоремы Гёделя? Значит, теперь, полагая обоснованной какую угод но формальную систему F, мы вполне можем по верить и в истинность ее гёделевского высказыва ния — при условии, разумеется, что мы готовы при нять арифметику Пеано, разве не так?
Подобную теорему(7) действительно можно сформулировать в рамках арифметики Пеано. Точнее (поскольку мы не можем в пределах какой бы то ни было формальной системы должным образом выразить понятие «обоснованности» или «истинности», как это следует из знаменитой теоремы Тарского), мы, в сущно сти, формулируем более сильный результат:
«система F непротиворечива» следовательно «высказывание G (F) истинно»,
либо иначе:
«система F -непротиворечива» следовательно «высказывание f2 (F) истинно».
Из этих высказываний следует вывод, необходимый для Q18, по скольку если система F обоснована, то она, разумеется, непроти воречива или омега-непротиворечива, в зависимости от обстоя тельств. Понимая смысл присутствующего здесь символизма, мы и в самом деле можем поверить в истинность высказывания G (F) на основании одной лишь веры в обоснованность системы F. Это, впрочем, мы уже приняли. Если понимать смысл, то действитель но возможно перейти от F к G (F). Сложности возникнут лишь к том случае, если нам вздумается исключить необходимость ин терпретаций и сделать переход от F к G (W) автоматическим. Будь это возможно, мы смогли бы автоматизировать общую про цедуру «гёделизации» и создать алгоритмическое устройство, ко торое действительно будет содержать в себе все, что нам нужно от теоремы Гёделя. Однако такой возможности у нас нет — захоти мы добавить эту предполагаемую алгоритмическую процедуру в какую угодно формальную систему F, выбранную нами в каче стве отправной, в результате просто-напросто получилась бы, по сути, некоторая новая формальная система F", а ее гёделевское высказывание G'(FtJ) оказалось бы уже за ее рамками. Таким образом, согласно теореме Гёделя, какой-то аспект понимания всегда остается «за нами», независимо от того, какая доля его оказалась включена в формализованную или алгоритмическую процедуру. Это «гёделево понимание» требует постоянного со отнесения с действительным смыслом символов какой бы то ни было формальной системы, к которой применяется процедура Гёделя. В этом смысле ошибка Q18 весьма похожа на ту, что мы обнаружили, комментируя возражение Q17. С невозможностью автоматизации процедуры гёделизации также тесно связаны рас суждения по поводу Q6 и Q19.
В возражении Q J 8 присутствует еще один аспект, который стоит рассмотреть. Представим себе, что у нас есть обоснован ная формальная система Н, содержащая арифметику Пеано. Те орема, о которой говорилось в Q18, окажется среди следствий системы Н, а частным ее примером, применимым к конкретной системе F (т. е., собственно, Н), будет теорема системы Н. Таким образом, можно сформулировать один из выводов формальной системы И:
«система H обоснована» следовательно «высказывание G (H) истинно»;
Или точнее, скажем так
«система Н непротиворечива» следовательно «высказывание G(Н) истинно».
Если говорить о реальном смысле этих утверждений, то из них, в сущности, следует, что высказывание G (H) также утверждает ся системой. А так как (что касается первого из двух вышеприве денных утверждений) истинность любого производимого систе мой Н утверждения, во всяком случае, обусловлена допущением, что система И обоснована, то получается, что если система Н утверждает нечто, явно обусловленное ее собственной обосно ванностью, то она вполне может утверждать это напрямую. (Из утверждения «если мне можно верить, то X истинно» следует более простое утверждение, исходящее из того же источника: «X истинно».) Однако в действительности обоснованная фор мальная система Н не может утверждать истинность высказы вания б? (И), что является следствием ее неспособности утвер ждать собственную обоснованность. Более того, как мы видим, она не может включать в себя и смысл символов, которыми опе рирует. Те же факты годятся и для иллюстрации второго утвер ждения, причем в этом случае ко всему прочему добавляется и некоторая ирония: система Н не способна утверждать собствен ную непротиворечивость лишь в том случае, если она действи тельно непротиворечива, если же формальная система непро тиворечивой не является, то подобные ограничения ей неведо мы. Противоречивая формальная система Н может утверждать (в качестве «теоремы») вообще все, что она в состоянии сформу лировать! Она вполне может, как выясняется, сформулировать и утверждение: «система Н непротиворечива». Формальная систе ма (достаточно обширная) утверждает собственную непротиво речивость тогда и только тогда, когда она противоречива!.
QI9. Почему бы нам просто не учредить процеду ру многократного добавления высказывания G (F) к любой системе F, какой мы в данным момент поль зуемся, и не позволить этой процедуре выполняться бесконечно?
Когда нам дана какая-либо конкретная формальная систе ма F, достаточно обширная и полагаемая обоснованной, мы в состоянии понять, как добавить к ней высказывание G (F) в ка честве новой аксиомы и получить тем самым новую систему fi , которая также будет считаться обоснованной. (Для согласования обозначений в последующем изложении систему F можно так же обозначить через fq.) Теперь мы можем добавить к систе ме fi высказывание G(Fi), получив в результате новую систе му ¥2, также, предположительно, обоснованную. Повторив дан ную процедуру, т. е. добавив к системе F2 высказывание G (F2), получим систему fs и т. д. Приложив еще совсем немного усилий, мы непременно сообразим, как построить еще одну формальную систему ¥ш, аксиомы которой позволят нам включить в систему в качестве дополнительных аксиом для F все бесконечное мно жество высказываний {G (F0), G (Fi), G (F2), G (F3), ...}. Оче видно, что система ¥ш также будет обоснованной. Этот процесс можно продолжить и дальше: к системе ¥ш добавляется выска зывание G(FW), в результате чего получается система Fw+1, к которой затем добавляется высказывание G (Fw+i), что дает си стему ¥ш+2, и т.д. Далее, как и в предыдущий раз, мы можем построить формальную систему ¥ш2 (= ¥ш+ш), включив в нее весь бесконечный набор соответствующих аксиом, каковая система опять-таки окажется очевидно обоснованной. Добавлением к ней высказывания G (F^), получим систему Fw2+i и т. д., а потом по строим новую систему Fw3(= ¥ш2+ш}, включив в нее опять-таки бесконечное множество аксиом. Повторив всю вышеописанную процедуру, мы сможем получить формальную систему ¥ш±, после следующего повтора — систему ¥ш5 и т. д. Еще чуть-чуть потру диться, и мы обязательно увидим, как можно включить уже это множество новых аксиом {G (F^), G (F^), G (Fw3), G (F^), ...} в новую формальную систему ¥шз(= ¥шш). Повторив всю про цедуру, мы получим новую систему ¥шг+шз, затем — систе му ¥Ш2+Ш2+Ш2 и т.д.; в конце концов, когда мы сообразим, как связать все это вместе (разумеется, и на этот раз не без неко торого напряжения умственных способностей), наши старания приведут нас к еще более всеобъемлющей системе ¥шз, которая также должна быть обоснованной.
Читатели, которые знакомы с понятием канторовых транс финитных ординалов, несомненно, узнают индексы, обычно используемые для обозначения таких чисел. Тем же, кто от по добных вещей далек, не стоит беспокоиться из-за незнания точ ного значения этих символов. Достаточно сказать, что описан ную процедуру «гёделизации» можно продолжить и далее: мы получим формальные системы Fw<, F^s, ..., после чего придем к еще более обширной системе Fw«/, затем процесс продол жается до еще больших ординалов, например, шш" и т. д. — до тех пор, пока мы все еще способны на каждом последую щем этапе понять, каким образом систематизировать все мно жество гёделизации, которые мы получили на данный момент. В этом и заключается основная проблема: для упомянутых на ми «усилий, трудов и напряжений» требуется соответствую щее понимание того, как должно систематизировать предыду щие гёделизации. Эта систематизация выполнима при условии, что достигаемый к каждому последующему моменту этап бу дет помечаться так называемым рекурсивным ординалом, что, в сущности, означает, что должен существовать определенный алгоритм, способный такую процедуру генерировать. Однако ал горитмической процедуры, которую можно было бы заложить заранее и которая позволила бы выполнить описанную систе матизацию для всех рекурсивных ординалов раз и навсегда, просто-напросто не существует. Нам снова придется прибегать к пониманию.
Вышеприведенная процедура была впервые предложена Аланом Тьюрингом в его докторской диссертации (а опубликова на в [367])'8); там же Тьюринг показал, что любое истинное Щ-высказывание можно, в некотором смысле, доказать с помощью многократной гёделизации, подобной описанной нами. (См. так же [116].) Впрочем, воспользоваться этим для получения меха нической процедуры установления истинности ГЦ -высказываний нам не удастся по той простой причине, что механически система тизировать гёделизацию невозможно. Более того, невозможность «автоматизации» процедуры гёделизации как раз и выводится из результата Тьюринга. А в §2.5 мы уже показали, что об щее установление истинности (либо ложности) ГЦ-высказываний невозможно произвести с помощью каких бы то ни было алго ритмических процедур. Так что, в поисках систематической про цедуры, не доступной тем вычислительным соображениям, ко торые мы рассматривали до настоящего момента, многократная гёделизация нам ничем помочь не сможет. Таким образом, для вывода £f возражение Q19 угрозы не представляет.
••(;->Ж
Q20. Реальная ценность математического понимания состоит, безусловно, не в том, что благодаря ему мы способны выполнять невычислимые действия, а в том, что оно позволяет нам заменить невероятно сложные вычисления сравнительно простым пониманием? Иными словами, разве не правда, что, используя разум, мы, скорее, «срезаем углы» в смысле теории сложности, а вовсе не «выскакиваем» за пределы вычислимого?
Я вполне готов поверить в то, что на практике интуиция математика гораздо чаще используется для «обхода» вычисли тельной сложности, чем невычислимости. Как-никак математи ки по природе своей склонны к лени, а потому зачастую стара ются изыскать всяческие способы избежать вычислений (пусть даже им придется в итоге выполнить значительно более слож ную мыслительную работу, нежели потребовало бы собственно вычисление). Часто случается так, что попытки заставить ком пьютеры бездумно штамповать теоремы даже умеренно слож ных формальных систем быстро загоняют эти самые компьюте ры в ловушку фактически безнадежной вычислительной слож ности, тогда как математик-человек, вооруженный пониманием смысла, лежащего в основе правил такой системы, без особо го труда получит в рамках этой системы множество интересных результатов(9).
Причина того, что в своих доказательствах я рассматривал не сложность, а невычислимость, заключается в том, что только с помощью последней мне удалось сформулировать необходимые для доказательства сильные утверждения. Не исключено, что в работе большинства математиков вопросы невычислимости иг рают весьма незначительную роль, если вообще играют. Однако суть не в этом. Я глубоко убежден, что понимание (в частности, математическое) представляет собой нечто, недоступное вычис лению, а одной из немногих возможностей вообще подступиться ко всем этим вопросам является как раз доказательство Гёделя (—Тьюринга). Никто не отрицает, что наши математические инту иция и понимание нередко используются для получения результатов, достижимых, в принципе, и вычислительным путем, — но и здесь слепое, не отягощенное пониманием, вычисление может оказаться неэффективным настолько, что попросту не будет работать (см. §3.26). Однако рассмотрение всех таких случаев представляется мне неизмеримо более сложным подходом, неже ли обращение к общей невычислимости.
Как бы то ни было, высказанные в возражении Q20 сообра жения, пусть и справедливые, все же ни в коей мере не противо речат выводу Sf.
Примечания
ПРИЛОЖЕНИЕ А:
ГЕДЕЛИЗИРУЮЩАЯ МАШИНА ТЬЮРИНГА В ЯВНОМ ВИДЕ
Допустим, что у нас имеется некая алгоритмическая про цедура А, которая, как нам известно, корректно устанавливает незавершаемость тех или иных вычислений. Мы получим вполне явную процедуру для построения на основе процедуры А кон кретного вычисления С, для которого А оказывается неадекват ной; при этом мы сможем убедиться, что вычисление С действи тельно не завершается. Приняв это явное выражение для С, мы сможем определить степень его сложности и сравнить ее со сложностью процедуры А, чего требуют аргументы §2.6 (возра жение Q8) и §3.20.
Для определенности я воспользуюсь спецификациями той конкретной машины Тьюринга, которую я описал в НРК. По дробное описание этих спецификаций читатель сможет найти в этой работе. Здесь же я дам лишь краткое описание, которого вполне должно хватить для наших настоящих целей.
Машина Тьюринга имеет конечное число внутренних состо яний, но производит все операции на бесконечной ленте. Эта лен та представляет собой линейную последовательность «ячеек», причем каждая ячейка может быть маркированной или пустой, а общее количество отметок на ленте — величина конечная. Обо значим каждую маркированную ячейку символом 1, а каждую пустую ячейку — 0. В машине Тьюринга имеется также считы вающее устройство, которое поочередно рассматривает отметки и, в явной зависимости от внутреннего состояния машины Тью ринга и характера рассматриваемой в данный момент отметки, определяет дальнейшие действия машины по следующим трем пунктам: (i) следует ли изменить рассматриваемую в данный мо мент отметку; (ii) каким будет новое внутреннее состояние ма шины; (iii) должно ли устройство сдвинуться по ленте на один шаг вправо (обозначим это действие через R) или влево (обозна чим через L), или же на один шаг вправо с остановкой машины (STOP). Когда машина, в конце концов, остановится, на лен те слева от считывающего устройства будет представлен в виде последовательности символов 0 и 1 ответ на выполненное ею вычисление. Изначально лента должна быть абсолютно чистой, за исключением отметок, описывающих исходные данные (в виде конечной строки символов 1 и 0), над которыми машина и бу дет выполнять свои операции. Считывающее устройство в начале работы располагается слева от всех отметок.
При представлении на ленте натуральных чисел (будь то входные или выходные данные) иногда удобнее использовать так называемую расширенную двоичную запись, согласно которой число, в сущности, записывается в обычной двоичной системе счисления, только двоичный знак «1» представляется символа ми 10, а двоичный знак «0» — символом 0. Таким образом, мы получаем следующую схему перевода десятичных чисел в расши ренные двоичные:
0 <-> 0
1 <-> 10
2 <-> 100
3 <-> 1010
4 <-> 1000
5 <-> 10010
6 <-> 10100
7 <-> 101010
8 <-> 10000
9 <-> 100010
10 <-> 100100
11 <-> 1001010
12 <-> 101000
13 <-> 1010010
14 <-> 1010100
15 <-> 10101010
16 <-> 100000
17 <-> 1000010
и т.д.
Заметим, что в расширенной двоичной записи символы 1 никогда не встречаются рядом. Таким образом, последовательность из двух или более 1 вполне может послужить сигналом о начале и конце записи натурального числа. То есть для записи всевозмож ных команд на ленте мы можем использовать последовательно сти типа 110, 1110, 11110 и т. д.
Отметки на ленте также можно использовать для специ фикации конкретных машин Тьюринга. Это необходимо, когда мы рассматриваем работу универсальной машины Тьюринга U. Универсальная машина U работаете лентой, начальная часть ко торой содержит подробную спецификацию некоторой конкретной машины Тьюринга Т, которую универсальной машине предстоит смоделировать. Данные, с которыми должна работать сама ма шина Т, подаются в U вслед за тем участком ленты, который определяет машину Т. Для спецификации машины Т можно ис пользовать последовательности 110, 1110 и 11110, ко торые будут обозначать, соответственно, различные команды для считывающего устройства машины Т, например: переместиться по ленте на один шаг вправо, на один шаг влево, либо остано виться, сдвинувшись на один шаг вправо:
R <-> 110
L <-> 1110
STOP <->11110.
Каждой такой команде предшествует либо символ 0, либо последовательность 1 0, что означает, что считывающее устрой ство должно пометить ленту, соответственно, либо символом О, либо 1, заменив тот символ, который оно только что считало. Непосредственно перед вышеупомянутыми 0 или 1 0 распола гается расширенное двоичное выражение числа, описывающе го следующее внутреннее состояние, в которое должна перейти машина Тьюринга согласно этой самой команде. (Отметим, что внутренние состояния, поскольку количество их конечно, можно обозначать последовательными натуральными числами 0, 1, 2, 3, 4, 5, 6, . . . , N. При кодировании на ленте для обозначения этих чисел будет использоваться расширенная двоичная запись.)
Конкретная команда, к которой относится данная опера ция, определяется внутренним состоянием машины перед началом считывания ленты и собственно символами 0 или 1, ко торые наше устройство при следующем шаге считает и, воз можно, изменит. Например, частью описания машины Т мо жет оказаться команда 230 —> 17lR, что означает следую щее: «Если машина Т находится во внутреннем состоянии 23, а считывающее устройство встречает на ленте символ 0, то его следует заменить символом 1, перейти во внутреннее состоя ние 17 и переместиться по ленте на один шаг вправо». В этом случае часть «171R» данной команды будет кодироваться по следовательностью 100001010110. Разбив ее на участ ки 1000010.10.110, мы видим, что первый из них представляет собой расширенную двоичную запись числа 17, второй кодирует отметку 1 на ленте, а третий — команду «пе реместиться на шаг вправо». А как нам описать предыдущее внутреннее состояние (в данном случае 23) и считываемую в со ответствующий момент отметку на ленте (в данном случае 0)? При желании можно задать их так же явно с помощью расши ренной двоичной записи. Однако, в действительности, в этом нет необходимости, поскольку для этого будет достаточно упорядо чить различные команды в виде цифровой последовательности (например, такой: 00 ->, Ol -> , 10 ->, 11 ->, 20 -> , 21 ->, 30->,...).
К этому, в сущности, и сводится все кодирование машин Тьюринга, предложенное в НРК, однако для завершенности кар тины необходимо добавить еще несколько пунктов. Прежде все го, следует проследить за тем, чтобы каждому внутреннему со стоянию, действующему на отметки 0 и 1 (не забывая, впро чем, о том, что команда для внутреннего состояния с наиболь шим номером, действующая на 1, оказывается необходимой не всегда), была сопоставлена какая-либо команда. Если та или иная команда вообще не используется в программе, то необхо димо заменить ее «пустышкой». Предположим, например, что в ходе выполнения программы внутреннему состоянию 23 ни где не придется сталкиваться с отметкой 1 — соответствую щая команда-пустышка в этом случае может иметь следующий вид: 231->00R.
Согласно вышеприведенным предписаниям, в кодированной спецификации машины Тьюринга на ленте пара символов 00 должна быть представлена последовательностью 00, однако можно поступить более экономно и записать просто 0, что явит ся ничуть не менее однозначным разделителем двух последова тельностей, составленных из более чем одного символа 1 под ряд. Машина Тьюринга начинает работу, находясь во внутрен нем состоянии 0; считывающее устройство движется по ленте, сохраняя это внутреннее состояние до тех пор, пока не встретит первый символ 1. Это обусловлено допущением, что в набор ко манд машины Тьюринга всегда входит операция 00 -> OOR. Та ким образом, в действительной спецификации машины Тьюринга в виде последовательности 0 и 1 явного задания этой команды не требуется; вместо этого мы начнем с команды 0l —> X, где X обозначает первую нетривиальную операцию запущенной маши ны, т. е. первый символ 1, встретившийся ей на ленте. Это значит, что начальную последовательность 110 (команду —> 00R), ко торая в противном случае непременно присутствовала бы в опре деляющей машину Тьюринга последовательности, можно спо койно удалить. Более того, в такой спецификации мы будем все гда удалять и завершающую последовательность 110, так как она одинакова для всех машин Тьюринга.
Получаемая в результате последовательность символов О и 1 представляет собой самую обыкновенную (т. е. нерасширен ную) двоичную запись номера машины Тьюринга п для дан ной машины (см. главу 2 НРК). Мы называем ее n-й машиной Тьюринга и обозначаем Т = Тn. Каждый такой двоичный номер (с добавлением в конце последовательности 110) есть после довательность символов 0 и 1, в которой нигде не встречается более четырех 1 подряд. Номер n, не удовлетворяющий данному условию, определяет «фиктивную машину Тьюринга», которая прекратит работать, как только встретит «команду», содержа щую более четырех 1. Такую машину «Тn» мы будем называть некорректно определенной. Ее работа с какой угодно лен той является по определению незавершающейся. Аналогично, если действующая машина Тьюринга встретит команду перехода в состояние, определенное числом, большим всех тех чисел, для которых были явно заданы возможные последующие действия, то она также «зависнет»: такую машину мы будем полагать «фик тивной», а ее работу — незавершающейся. (Всех этих неудобств можно без особого труда избежать с помощью тех или иных технических средств, однако реальной необходимости в этом нет; CM.§2.6,Q4).
Для того чтобы понять, как на основе заданного алгоритма А построить явное незавершающееся вычисление, факт незавершаемости которого посредством алгоритма А установить невоз можно, необходимо предположить, что алгоритм А задан в виде машины Тьюринга. Эта машина работает с лентой, на которой кодируются два натуральных числа p и q. Мы полагаем, что если завершается вычисление А(р, q), то вычисление, производимое машиной Тр с числом q, не завершается вовсе. Вспомним, что если машина Тр определена некорректно, то ее работа с числом q не завершается, каким бы это самое q ни было. В случае тако го «запрещенного» р исход вычисления А(р, q) может, согласно исходным допущениям, быть каким угодно. Соответственно, нас будут интересовать исключительно те числа р, для которых ма шина Tp определена корректно. Таким образом, в записанном на ленте двоичном выражении числа р пяти символов 1 подряд содержаться не может. Значит, для обозначения на ленте начала и конца числа р мы вполне можем воспользоваться последова тельностью 11111.
То же самое, очевидно, необходимо сделать и для числа q, причем оно вовсе не обязательно должно быть числом того же типа, что и р. Здесь перед нами возникает техническая проблема, связанная с чрезвычайной громоздкостью машинных предписа ний в том виде, в каком они представлены в НРК. Удобным ре шением этой проблемы может стать запись чисел р и q в пяте ричной системе счисления. (В этой системе запись «10» озна чает число пять, «100» — двадцать пять, «44» — двадцать четыре и т.д.) Однако вместо пятеричных цифр 0, 1, 2, 3 и 4 я воспользуюсь соответствующими последовательностями симво лов на ленте 0, 10, 110, 1110 и 11110. Таким образом, мы будем записывать
0 как 0
1 “ 10
2 “ 110
3 “ 1110
4 “ 11110
5 “ 100
6 “ 1010
7 “ 10110
8 “ 101110
9 “ 1011110
10 “ 1100
11 “ 11010
12 “ 110110
13 “ 1101110
14 “ 11011110
15 “ 11100
16 “ 111010
… …
25 “ 1000
26 “ 10010
и т.д.
Под «Ср» здесь будет пониматься вычисление, выполняемое корректно определенной машиной Тьюринга Тг, где г есть число, обыкновенное двоичное выражение которого (с добавлением в конце последовательности символов 110) в точности совпадает с числом р в нашей пятеричной записи. Число q, над которым производится вычисление Ср, также необходимо представлять в пятеричном выражении. Вычисление же А(р, q) задается в виде машины Тьюринга, выполняющей действие с лентой, на которой кодируется пара чисел р, q. Запись на ленте будет выглядеть следующим образом:
...00111110p111110q11111000...,
где p и q суть вышеописанные пятеричные выражения чисел, соответственно, р и q.
Требуется отыскать такие числа р и д, для которых не за вершается не только вычисление Ср (q), но и вычисление А(р, д). Процедура из § 2.5 позволяет сделать это посредством отыскания такого числа k, при котором вычисление Ck, производимое с чис лом п, в точности совпадает с вычислением А(п, п) при любом п, и подстановки р — q = k. Для того чтобы проделать это же в явном виде, отыщем машинное предписание К (— Ck), действие которого на последовательность символов на ленте
...00111110n11111000...
(где П есть пятеричная запись числа п) в точности совпадает с действием алгоритма А на последовательность
...00111110n111110 n11111000...
при любом п. Таким образом, действие предписания К сводится к тому, чтобы взять число п (записанное в пятеричном выраже нии) и однократно его скопировать, при этом два П разделяют ся последовательностью 111110 (та же последовательность начинает и завершает всю последовательность отметок на лен те). Следовательно, оно воздействует на получаемую в результате ленту точно так, как на эту же ленту воздействовал бы алго ритм А.
Явную модификацию алгоритма А, дающую такое предпи сание К, можно произвести следующим образом. Сначала на ходим в определении А начальную команду Ol —> X и отмечаем для себя, что это в действительности за «X». Мы подставим это выражение вместо «X» в спецификации, представленной ниже. Один технический момент: следует, помимо прочего, положить, чтобы алгоритм А был составлен таким образом, чтобы машина, после активации команды Ol —* X, никогда больше не перешла во внутреннее состояние 0 алгоритма А. Это требование ни в коей мере не влечет за собой каких-либо существенных ограни чений на форму алгоритма. (Ноль можно использовать только в командах-пустышках.)
Затем при определении алгоритма А необходимо устано вить общее число N внутренних состояний (включая и состоя ние 0, т. е. максимальное число внутренних состояний А будет равно N — 1). Если в определении А нет завершающей коман ды вида (N — 1)1 —> Y, то в конце следует добавить команду-пустышку (N — 1)1 —» OUR. Наконец, удалим из определения А команду Ol —* X и добавим ее к приводимому ниже списку ма шинных команд, а каждый номер внутреннего состояния, фигури рующий в этом списке, увеличим на N (символом 0 обозначено результирующее внутреннее состояние 0, а символом «X» в за писи «11 -> X» представлена команда, которую мы рассмотрели выше). (В частности, первые две команды из списка примут в данном случае следующий вид: 01->N1R, N0->(N+4)0R.)
o1->01R, 00->40R, 01->01R, 10-> 21R, 11->X, 20->31R, 21->o0R, 30->551R,
31->o0R, 40->40R, 41->51R, 50->40R, 51->61R, 60->40R, 61->71R, 70->40R,
71->81R, 80->40R, 81->91R, 90->100R, 91->o0R, 100->111R, 101->o0R, 110->121R,
111->120R, 120->131R, 121->130R, 130->141R, 131->140R, 140->151R, 141->10R, 150->00R,
151->o0R, 160->170L, 161->161L, 170->170L, 171->181L, 180->170L, 181->191L, 190->170L,
191->201L, 200->170L, 201->211L, 210->170L, 211->221L, 220->220L, 221->231L, 230->220L,
231->241L, 240->220L, 241->251L, 250->220L, 251->261L, 260->220L, 261->271L, 270->321R,
271->281L, 280->330R, 281->291L, 290->330R, 291->301L, 300->330R, 301->311L, 310->330R,
311->110R, 320->340L, 321->321R, 330->350R, 331->331R, 340->360R, 341->340R, 350->371R,
351->350R, 360->360R, 361->381R, 370->370R, 371->391R, 380->360R, 381->401R, 390->370R,
391->411R, 400->360R, 401->421R, 410->370R, 411->431R, 420->360R, 421->441R, 430->370R,
431->451R, 440->360R, 441->461R, 450->370R, 451->471R, 460->480R, 461->461R, 470->490R,
471->471R, 480->480R, 481->490R, 490->481R, 491->501R, 500->481R, 501->511R, 510->481R,
511->521R, 520->481R, 521->531R, 530->541R, 531->531R, 540->160L, 541->o0R, 550->531R.
Теперь мы готовы точно определить предельную длину пред писания К, получаемого путем вышеприведенного построения, как функцию от длины алгоритма А. Сравним эту «длину» со «степенью сложности», определенной в § 2.6 (в конце коммента рия к возражению Q8). Для некоторой конкретной машины Тью ринга Тт (например, той, что выполняет вычисление А) эта ве личина равна количеству знаков в двоичном представлении чис ла т. Для некоторого конкретного машинного действия Тт(п) (например, выполнения предписания К) эта величина равна ко личеству двоичных цифр в большем из чисел тип. Обозначим через а и к количество двоичных цифр в а и ' k' соответственно, где
А = Та и K = Tk,(=Ck).
Поскольку алгоритм А содержит, как минимум, 2N — 1 команд (учитывая, что первую команду мы исключили) и поскольку для каждой команды требуется, по крайней мере, три двоичные циф ры, общее число двоичных цифр в номере его машины Тьюринга а непременно должно удовлетворять условию
В вышеприведенном дополнительном списке команд для К есть 105 мест (справа от стрелок), где к имеющемуся там числу сле дует прибавить N. Все получаемые при этом числа не превыша ют N + 55, а потому их расширенные двоичные представления содержат не более 2 Iog2 (N + 55) цифр, в результате чего общее количество двоичных цифр, необходимых для дополнительного определения внутренних состояний, не превышает 210 Iog2 (N + + 55). Сюда нужно добавить цифры, необходимые для добавоч ных символов 0, 1, R и L, что составляет еще 527 цифр (включая одну возможную добавочную «команду-пустышку» и, учитывая, что мы можем исключить шесть символов 0 по правилу, согласно которому 00 можно представить в виде 0). Таким образом, для определения предписания К требуется больше двоичных цифр, чем для определения алгоритма А, однако разница между этими двумя величинами не превышает 527 + 210 Iog2 (N -f 55):
к < а + 527 + 210 Iog2 (N + 55).
Применив полученное выше соотношение , получим (учитывая, что 210 Iog2 6 > 542)
к < а - 15 + 210 Iog2 (a + 336).
Затем найдем степень сложности г? конкретного вычисле ния Ck (k), получаемого посредством этой процедуры. Вспомним, что степень сложности машины Тт (п) определяется как коли чество двоичных цифр в большем из двух чисел т, п. В данной ситуации Ck = Tk, так что число двоичных цифр в числе «т» этого вычисления равно к. Для того, чтобы определить, сколько двоичных цифр содержит число «п» этого вычисления, рассмот рим ленту, содержащую вычисление Ck (k). Эта лента начинается с последовательности символов 111110, за которой следует двоичное выражение числа k', и завершается последовательно стью 11011111. В соответствии с предложенным в НРК соглашением всю эту последовательность (без последней циф ры) следует читать как двоичное число; эта операция дает нам номер «п», который присваивается ленте машины, выполняющей вычисление Тт (п). То есть число двоичных цифр в данном кон кретном номере «п» равно к + 13, и, следовательно, число к + 13 совпадает также со степенью сложности г/ вычисления Ck (k), .благодаря чему мы можем записать г) = к + 13 < а — 2 4-+ 210 Iog2 (а + 336), или проще:
?7<a + 2101og2(a-l-336).
Детали вышеприведенного рассуждения специфичны для данного конкретного предложенного еще в НРК способа кодиро вания машин Тьюринга, и при использовании какого-либо иного кодирования они также будут несколько иными. Основная же идея очень проста. Более того, прими мы формализм Х-исчисления, вся операция оказалась бы, в некотором смысле, почти тривиальной. (Достаточно обстоятельное описание Л-исчисления Черча можно найти в НРК., конец главы 2; см. также [52].) Пред положим, например, что алгоритм А определяется некоторым А-оператором А, выполняющим действие над другими оператора ми Р и Q, что выражается в виде операции (АР) Q. Оператором Р здесь представлено вычисление Ср, а оператором Q — число q. Далее, оператор А должен удовлетворять известному требова нию, согласно которому для любых Р и Q должно быть истинным следующее утверждение:
Если завершается операция (АР) Q, то операция PQ не завершается.
Мы без труда можем составить такую операцию Л-исчисления, которая не завершается, однако этот факт невозможно устано вить посредством оператора А. Например, положим
К = Ах.[(Ах)х], т.е. KY = (AY)Y для любого оператора Y. Затем рассмотрим
А-операцию
KK.
Очевидно, что эта операция не завершается, поскольку КК = = (АК) К, а завершение последней операции означало бы, что операция КК не завершается по причине принятой нами приро ды оператора А. Более того, оператор А не способен установить этот факт, потому что операция (АК) К не завершается. Если мы полагаем, что оператор А обладает требуемым свойством, то мы также должны предположить, что операция КК не завершает ся.
Отметим, что данная процедура дает значительную эконо мию. Если записать операцию КК в виде
КК = Ау.(уу)(Ах.[(Ах)х]),
то становится ясно, что число символов в записи операции КК всего на 16 больше аналогичного числа символов для алгорит ма А (если пренебречь точками, которые в любом случае избы точны)!
Строго говоря, это не совсем законно, поскольку в выраже нии для оператора А может также появиться и символ «х», и с этим нам придется что-то делать. Можно усмотреть сложность и в том, что генерируемое такой процедурой незавершающееся вычисление нельзя считать операцией над натуральными числами (поскольку вторая К в записи КК «числом» не является). Вообще говоря, А-исчисление не вполне подходит для работы с явными численными операциями, и зачастую бывает довольно сложно понять, каким образом ту или иную заданную алгоритмическую процедуру, применяемую к натуральным числам, можно выра зить в виде операции А-исчисления. По этим и подобным при чинам обсуждение с привлечением машин Тьюринга имеет, как нам представляется, более непосредственное отношение к теме нашего исследования и достигает требуемого результата более наглядным путем.
3
О НЕВЫЧИСЛИМОСТИ В МАТЕМАТИЧЕСКОМ МЫШЛЕНИИ
3.1. Гёдель и Тьюринг
В главе 2 была предпринята попытка продемонстрировать мощь и строгий характер аргументации в пользу утверждения (обозначенного буквой ^), суть которого заключается в том, что математическое понимание не может являться результатом при менения какого-либо осмысленно осознаваемого и полностью достоверного алгоритма (или, что то же самое, алгоритмов; см. возражение Q1). В приводимых рассуждениях, однако, ни словом не упомянуто еще об одной возможности, существенно более се рьезной и ничуть не противоречащей утверждению <£, а имен но: убежденность математика в истинности своих выводов может оказаться результатом применения им некоего неизвестного и неосознаваемого алгоритма, или же, возможно, математик при меняет какой-то вполне постижимый алгоритм, однако при этом не может знать наверняка (или хотя бы искренне верить), что вы воды его являются целиком и полностью результатом применения этого самого алгоритма. Ниже я покажу, что, хотя подобные до пущения и вполне приемлемы с логической точки зрения, вряд ли их можно счесть хоть сколько-нибудь правдоподобными.
Прежде всего следует указать на то, что тщательно вы страивая последовательности умозаключений (вполне, заметим, осознанных) с целью установления той или иной математиче ской истины, математики вовсе не считают, что они лишь слепо следуют неким неосознаваемым правилам, будучи при этом не
'Здесь я предполагаю, что если процедура А вообще завершается, то это свидетельствует об успешном установлении факта незавершаемости С (n). Если же Л «застревает» по какой-либо иной, нежели достижение «успеха», причине, то это означает, что в данном случае процедура А корректно завершиться не может. См. далее по тексту возражения Q3 и Q4, а также Приложение А, с. 191.
Собственно, точно такой же результат достигается посредством процедуры, выполняемой универсальной машиной Тьюринга над парой чисел д, п; см. При ложение А и НРК, с. 51-57.
Термин «алгоритмизм», который (по своей сути) прекрасно подходит для обозначения «точки зрения i/» в моей классификации, был предложен Хао Ва ном [376].
Приведение к абсурду (лат.), доказательство от противного. — Прим. перев.
Чтобы подчеркнуть, что я принимаю это обстоятельство во внимание, я от сылаю читателя к Приложению А, где представлена явная вычислительная про цедура (выполненная в соответствии с правилами, подробно описанными в НРК, глава 2) для получения операции Ck (К) машины Тьюринга посредством алгорит ма А. Здесь предполагается, что алгоритм А задан в виде машины Тьюринга Та, определение же вычисления Ся (п) кодируется как операция машины Т„ над числом q, а затем над числом п.
Представление некоторых формальных систем включает в себя бесконеч ное количество аксиом (они описываются через посредство структур, называе мых «схемами аксиом»), однако, чтобы оставаться «формальной» в том смысле, какой вкладываю в это понятие я, система должна быть выразима в каком-то конечном виде — например, упомянутая система с бесконечным количеством аксиом должна порождаться конечным набором вычислительных правил. Это вполне возможно, и именно так и обстоит дело со стандартными формальными системами, которые применяются в математических доказательствах, — одной из таких систем является, например, знаменитая «формальная система Цермело— Френкеля» ZF, описывающая традиционную теорию множеств.
Пояснение к используемым здесь обозначениям можно найти в §2.8. Впро чем, G (F) без ущерба для смысла рассуждения можно было бы везде заменить на Г2 (F), в чем мы убедимся ниже.
Источник цитаты мне, к сожалению, обнаружить не удалось. Однако, как справедливо заметил Рихард Йожа, точная формулировка слов Фейнмана не имеет никакого значения, поскольку послание, которое они несут, применимо и к ним самим!
Как и ранее, обозначение G (F) можно без каких бы то ни было последствий заменить на П (F). То же справедливо и для комментариев к Q15—Q20.
Это означает, что при кодировании машины Тьюринга каждую последова тельность ...110011… можно заменить на ...11011…В специ фикации универсальной машины Тьюринга, описанной в НРК (см. примечание 7 после главы 2), имеется пятнадцать мест, где я этого не сделал. Решительно досадная оплошность с моей стороны, и это после того я приложил столько усилий для того, чтобы добиться (в рамках моих же собственных правил) по возможности наименьшего номера, определяющего эту универсальную машину. Упомянутая простая замена позволяет уменьшить мой номер более чем в 30000 раз! Я благодарен Стивену Ганхаусу за то, что он указал мне на этот недосмотр, а также за то, что он самостоятельно проверил всю представленную в НРК спе цификацию и подтвердил, что она действительно определяет универсальную машину Тьюринга.
Более того, сам Тьюринг первоначально предполагал вообще останавли вать машину всякий раз, когда она повторно переходит во внутреннее состо яние «О» из любого другого состояния. В этом случае нам не только не пона добилось бы вышеупомянутое ограничение, мы спокойно могли бы обойтись и без команды STOP. Тем самым мы достигли бы существенного упрощения, поскольку последовательность 11110 в качестве команды нам была бы уже не нужна, и ее можно было бы использовать как разделитель, что позволило бы избавиться от последовательности 111110. Это значительно сократило бы длину предписания K, и кроме того, вместо пятеричной системы счисления мы бы обошлись четверичной.
3.1. Гёдель и Тьюринг
В главе 2 была предпринята попытка продемонстрировать мощь и строгий характер аргументации в пользу утверждения (обозначенного буквой), суть которого заключается в том, что математическое понимание не может являться результатом применения какого-либо осмысленно осознаваемого и полностью достоверного алгоритма (или, что то же самое, алгоритмов; см. возражение Q1). В приводимых рассуждениях, однако, ни словом не упомянуто еще об одной возможности, существенно более серьезной и ничуть не противоречащей утверждению, а именно: убежденность математика в истинности своих выводов может оказаться результатом применения им некоего неизвестного и неосознаваемого алгоритма, или же, возможно, математик применяет какой-то вполне постижимый алгоритм, однако при этом не может знать наверняка (или хотя бы искренне верить), что выводы его являются целиком и полностью результатом применения этого самого алгоритма. Ниже я покажу, что, хотя подобные допущения и вполне приемлемы с логической точки зрения, вряд ли их можно счесть хоть сколько-нибудь правдоподобными.
Прежде всего следует указать на то, что тщательно выстраивая последовательности умозаключений (вполне, заметим, осознанных) с целью установления той или иной математической истины, математики вовсе не считают, что они лишь слепо следуют неким неосознаваемым правилам, будучи при этом не в состоянии постичь эти правила ни рассудком, ни верой. Напротив, они твердо знают, что их аргументация опирается исключительно на непреложные истины — в основе своей, существенно «очевидные»; столь же непреложными, на их взгляд, являются и все промежуточные умозаключения, составляющие упомянутую последовательность. Какой бы длинной, запутанной или даже концептуально неочевидной ни была цепь умозаключений, само рассуждение в основе своей остается принципиально неопровержимым и логически безупречным, а автор его искренне верит в свою правоту. Ни один математик не согласится с предположением о том, что на самом-то деле все его действия определяются какими-то совершенно иными процедурами, о которых он ничего не знает и в которые не верит, но которые, возможно, неким непостижимым образом исподволь влияют на его убеждения.
Разумеется, в этом отношении математики могут и ошибаться. Может быть, и впрямь существует какая-то алгоритмическая процедура, которая руководит всем математическим мышлением, оставаясь при этом неизвестной самим математикам. Всерьез принять такую возможность, пожалуй, легче людям, далеким от математики, нежели большинству из тех, для кого математика является профессией. Полагая, что деятельность математика не сводится к простому выполнению некоего неизвестного (и непостижимого) алгоритма (равно как и алгоритма, в существовании которого он испытывает сомнения), это самое большинство оказывается как нельзя более правым, в чем я и постараюсь убедить читателя в этой главе. Разумеется, полностью исключить возможность того, что суждения и убеждения математиков и в самом деле определяются какими-то неизвестными и неосознаваемыми факторами, нельзя; однако, даже если так оно и есть, я полагаю, что такие факторы не имеют ничего общего с алгоритмически описываемыми процедурами.
Весьма поучительным представляется рассмотреть точки зрения двух выдающихся мыслителей от математики, которым мы, собственно говоря, и обязаны идеями, приведшими нас к утверждению . Что, в самом деле, думал по этому поводу Гёдель? А Тьюринг? Примечательно, что, исходя из одинаковых математических данных, они пришли к противоположным, в сущности, выводам. Следует, впрочем, пояснить, что оба вывода находятся в полном согласии с утверждением. Гёдель, по всей видимости, полагал, что разум, вообще говоря, не ограничен не только необходимостью выступать исключительно в качестве вычислительной сущности, но и конечными физическими параметрами самого мозга. Он даже упрекал Тьюринга за то, что тот не допускал такой возможности. По словам Хао Вана ([374], с. 326, см. также Собрание сочинений Гёделя, т. 2 [158], с. 297), соглашаясь с обоими, вытекающими из позиции Тьюринга положениями, т. е. с тем, что «мозг, в сущности, функционирует подобно цифровому компьютеру», и с тем, что «физические законы, равно как и наблюдаемые следствия из них, обладают конечным пределом точности», Гёдель напрочь отвергал утверждение Тьюринга о неотделимости разума от материи, считая это «свойственным эпохе предрассудком». Таким образом, согласно Гёделю, сам по себе физический мозг действует исключительно как вычислитель, разум же по отношению к мозгу представляет собой нечто высшее, вследствие чего активность разума оказывается свободной от ограничений, налагаемых вычислительными законами, управляющими поведением мозга как физического объекта. Гёдель, судя по его собственным словам), не считал, что утверждениеможно рассматривать в качестве доказательства его тезиса о невычислимости деятельности разума:
«С другой стороны, учитывая доказанное ранее, следует допустить принципиальную возможность существования (и даже эмпирической реализации) некоей машины для доказательства теорем, каковая машина в сущности представляет собой эквивалент математической интуиции, однако доказать эту эквивалентность невозможно, как невозможно доказать и то, что на выходе такой машины мы будем получать только корректные теоремы конечной теории чисел».
Надо сказать, что вышеприведенное допущение ни в коей мере не противоречит(и я ничуть не сомневаюсь, что Гёделю был хорошо известен тот недвусмысленный вывод, какой в моей формулировке получил обозначение). Гёдель допускал логическую возможность того, что разум математика может функционировать в соответствии с некоторым алгоритмом, о котором сам математик не знает, либо знает, но в таком случае не может быть однозначно уверен в его обоснованности (... доказать ... невозможно, ... только корректные теоремы ...). В соответствии с моей собственной терминологией такой алгоритм следует отнести к категории «непознаваемо обоснованных». Разумеется, совсем иное дело действительно поверить в возможность того, что деятельность разума математика и в самом деле определяется таким вот непознаваемо обоснованным алгоритмом. Похоже, сам Гёдель в это так и не поверил — и оказался в результате окружен компанией мистиков (точка зрения ), которые полагают, что средствами науки о феноменах физического мира разум объяснить невозможно.
Что же касается Тьюринга, то он, по-видимому, мистическую точку зрения не принял, будучи в то же время солидарен с Гёделем в том, что мозг, как и всякий другой физический объект, должен функционировать каким-либо вычислимым образом (вспомним о «тезисе Тьюринга», § 1.6). Таким образом, Тьюрингу пришлось искать какой-то другой способ обойти затруднение в лице утверждения. При этом особенно значимым ему показался тот факт, что математикам-людям свойственно делать ошибки; если мы хотим, чтобы наш компьютер стал подлинно разумным, следует позволить ему хоть иногда ошибаться:
«Иными словами, это означает, что если мы требуем от машины непогрешимости, то не стоит ожидать от нее еще и разумности. Существует несколько теорем, суть которых почти буквально сводится к вышеприведенному утверждению. Однако в этих теоремах ничего не говорится о степени разумности, которую нам может продемонстрировать машина, не претендующая на непогрешимость».
Под «теоремами» Тьюринг, вне всякого сомнения, подразумевает теорему Гёделя и другие аналогичные теоремы — такие, например, как его собственная, «вычислительная» версия теоремы Гёделя. То есть, по Тьюрингу, получается, что наиболее существенной способностью человеческого математического мышления является способность ошибаться, благодаря которой свойственное (предположительно) разуму неточно-алгоритмическое функционирование обеспечивает большую мощность, нежели возможно получить посредством каких угодно полностью обоснованных алгоритмических процедур. Исходя из этого допущения, Тьюринг предложил способ обойти ограничение, налагаемое следствиями из теоремы Гёделя: мыслительная деятельность математика подчиняется-таки некоему алгоритму, только не «непознаваемо обоснованному», а формально необоснованному. Таким образом, точка зрения Тьюринга приходит в полное согласие с утверждением , а сам Тьюринг, по-видимому, присоединяется к сторонникам точки зрения,.
Завершая дискуссию, я хотел бы представить мои собственные причины усомниться в том, что «необоснованность» управляющего разумом математика алгоритма может послужить подлинным объяснением тому, что в этом самом разуме происходит. Как бы ни обстояло дело в действительности, в самой идее о том, что превосходство человеческого разума над точной машиной достигается за счет неточности разума, мне видится какое-то глубинное противоречие, особенно когда речь — как в нашем случае — идет о способности математика открывать неопровержимые математические истины, а не о его оригинальности или творческих способностях. Поразительно, что два великих мыслителя, какими, несомненно, являются Гёдель и Тьюринг, руководствуясь соображениями вроде утверждения, пришли к выводам (пусть и различным), которые многие из нас склонны считать, скажем так, маловероятными. Кроме того, весьма интересно поразмыслить о том, к каким бы выводам они пришли, имей они шанс хоть сколько-нибудь всерьез предположить, что физический процесс может иногда оказаться в основе своей невычислимым — в соответствии с точкой зрения, ради продвижения которой и была написана эта книга.
В последующих разделах (особенно, в §§3.2—3.22) я представлю вашему вниманию несколько детальных обоснований (некоторые из них довольно сложны, запутаны или специальны), целью которых является демонстрация неспособности вычислительных моделейвыступить в качестве вероятной основы для исследования феномена математического понимания. Если читатель не нуждается в подобном убеждении либо не склонен погружаться в детали, то я бы порекомендовал ему (или ей) все же начать чтение, а затем, когда уж совсем надоест, переходить сразу к итоговому воображаемому диалогу (§3.23). Если у вас затем снова появится желание вернуться к пропущенным рассуждениям, буду только рад, если же нет — забудьте о них и читайте дальше.
3.2. Способен ли необоснованный алгоритм познаваемым образом моделировать математическое понимание?
Согласно выводудля того чтобы математическое понимание могло оказаться результатом выполнения некоего алгоритма, этот алгоритм должен быть необоснованным или непознаваемым, если же он сам по себе обоснован и познаваем, то о его обоснованности должно быть принципиально невозможно узнать наверняка (такой алгоритм мы называем непознаваемо обоснованным); кроме того, возможно, что различные математики «работают» на различных типах таких алгоритмов. Под «алгоритмом» здесь понимается просто какая-нибудь вычислительная процедурат. е. любой набор операций, который можно, в принципе, смоделировать на универсальном компьютере с неограниченным объемом памяти. (Как нам известно из обсуждения возражения«неограниченность» объема памяти в данном идеализированном случае на результаты рассуждения никак не влияет.) Такое понятие алгоритма включает в себя нисходящие процедуры, восходящие самообучающиеся системы, а также различные их сочетания. Сюда, например, входят любые процедуры, которые можно реализовать с помощью искусственных нейронных сетейЭтому определению отвечают и иные типы восходящих механизмов — например, так называемые «генетические алгоритмы», повышающие свою эффективность с помощью некоей встроенной процедуры, аналогичной дарвиновской эволюции
О специфике приложения аргументации, представляемой в настоящем разделе (равно как и доводов, выдвинутых в главе 2), к восходящим процедурам я еще буду говорить в 3.22 (краткое изложение их можно найти в воображаемом диалоге,). Пока же, для большей ясности изложения, будем рассуждать, исходя из допущения, что в процессе участвует один-единственный тип алгоритмических процедур, а именно — нисходящие. Такую алгоритмическую процедуру можно относить как к отдельному математику, так и к математическому сообществу в целом. В комментариях к возражениями рассматривалось предположение о том, что разным людям могут быть свойственны различные обоснованные и известные алгоритмы, причем мы пришли к заключению, что такая возможность не влияет на результаты рассуждения сколько-нибудь значительным образом. Возможно также, что разные люди постигают истину посредством различных необоснованных и непознаваемых алгоритмов; к этому вопросу мы вернемся несколько позже (см. §3.7). А пока, повторюсь, будем считать, что в основе математического понимания лежит одна-единственная алгоритмическая процедура. Можно, кроме того, ограничить рассматриваемую область той частью математического понимания, которая отвечает за доказательство-высказываний (т. е. определений тех операций машины Тьюринга, которые не завершаются; см. комментарий к возражению Q10). В дальнейшем вполне достаточно интерпретировать сочетание «математическое понимание» как раз в таком, ограниченном смысле (см. формулировку с. 164).
В зависимости от познаваемости предположительно лежащей в основе математического понимания алгоритмической процедуры F (будь то обоснованной или нет), следует четко выделять три совершенно различных случая. Процедураможет быть:
I сознательно познаваемой, причем познаваем также и тот факт, что именно эта алгоритмическая процедура ответственна за математическое понимание;
II сознательно познаваемой, однако тот факт, что математическое понимание основывается именно на этой алгоритмической процедуре, остается как неосознаваемым, так и непознаваемым;
III неосознаваемой и непознаваемой.
Рассмотрим сначала полностью сознательный случай I. Поскольку и сам алгоритм, и его роль являются познаваемыми, мы вполне можем счесть, что мы о них уже знаем. В самом деле, ничто не мешает нам вообразить, что все наши рассуждения имеют место уже после того, как мы получили в наше распоряжение соответствующее знание — ведь слово «познаваемый» как раз и подразумевает, что такое время, по крайней мере, в принципе, когда-нибудь да наступит. Итак, алгоритмнам известен, при этом известна и его основополагающая роль в математическом понимании. Как мы уже видели (§ 2.9), такой алгоритм эффективно эквивалентен формальной системеИными словами, получается, что математическое понимание — или хотя бы понимание математики каким-то отдельным математиком — эквивалентно выводимости в рамках некоторой формальной системы F. Если мы хотим сохранить хоть какую-то надежду удовлетворить выводу XX, к которому нас столь неожиданно привели изложенные в предыдущей главе соображения, то придется предположить, что система F является необоснованной. Однако, как это ни странно, необоснованность в данном случае ситуацию ничуть не меняет, поскольку, в соответствии с I, известная формальная система F является действительно известной, то есть любой математик знает и, как следствие, верит, что именно эта система лежит в основе его (или ее) математического понимания. А такая вера автоматически влечет за собой веру (пусть и ошибочную) в обоснованность системы F. (Согласитесь, крайне неразумно выглядит точка зрения, в соответствии с которой математик позволяет себе не верить в самые фундаментальные положения собственной заведомо неопровержимой системы взглядов.) Независимо от того, является ли система F действительно обоснованной, вера в ее обоснованность уже содержит в себе веру в то, что утверждение G(F) (или, как вариант, omega(F), см. §2.8) истинно. Однако, поскольку теперь мы полагаем (исходя из веры в справедливость теоремы Гёделя), что истинность утверждения G(F) в рамках системы F недоказуема, это противоречит предположению о том, что система F является основой всякого (существенного для рассматриваемого случая) математического понимания. (Это соображение одинаково справедливо как для отдельных математиков, так и для всего математического сообщества в целом; его можно применять индивидуально к любому из всевозможных алгоритмов, предположительно составляющих основу мыслительных процессов того или иного математика. Более того, согласно предварительной договоренности, для нас на данный момент важна применимость этого соображения лишь в той области математического понимания, которая имеет отношение к доказательству II1-высказываний.) Итак, невозможно знать наверняка, что некий гипотетический известный необоснованный алгоритм F, предположительно лежащий в основе математического понимания, и в самом деле выполняет эту роль. Следовательно, случай I исключается, независимо от того, является система F обоснованной или нет. Если система F сама по себе познаваема, то следует рассмотреть возможность II, суть которой заключается в том, что система F все же может составлять основу математического понимания, однако узнать об этой ее роли мы не в состоянии. Остается в силе и возможность III: сама система является как неосознаваемой, так и непознаваемой.
На данный момент мы достигли следующего результата: случай I (по крайней мере, в контексте полностью нисходящих алгоритмов) как сколько-нибудь серьезную возможность рассматривать нельзя; тот факт, что системаможет в действительности оказаться и необоснованной, как выяснилось, сути проблемы ничуть не меняет. Решающим фактором здесь является невозможность точно установить, является та или иная гипотетическая система(независимо от ее обоснованности) основой для формирования математических убеждений или же нет. Дело не в непознаваемости самого алгоритма, но в непознаваемости того факта, что процесс понимания действительно происходит в соответствии с данным алгоритмом.
3.3. Способен ли познаваемый алгоритм непознаваемым образом моделировать математическое понимание?
Перейдем к случаю II и попытаемся серьезно рассмотреть возможность того, что математическое понимание на деле эквивалентно некоторому сознательно познаваемому алгоритму либо формальной системе, однако эквивалентность эта принципиально непознаваема. Иными словами, даже при условии познаваемости той или иной гипотетической формальной системымы никоим образом не можем убедиться в том, что именно эта конкретная система действительно лежит в основе нашего математического понимания. Правдоподобно ли такое предположение?
Если упомянутая гипотетическая формальная системане является уже известной, то в этом случае нам, как и ранее, следует полагать, что она может, по крайней мере, в принципе, когда-нибудь таковой стать. Вообразим, что этот светлый день наконец наступил, и допустим, что в нашем распоряжении имеется точное и подробное описание этой самой системы. Предполагается, что формальная система, будучи, возможно, крайне замысловатой, все же достаточно проста для того, чтобы мы оказались способны, по крайней мере, в принципе, постичь ее на вполне сознательном уровне. При этом нам не позволено испытывать уверенность в том, что системадействительно целиком и полностью охватывает всю совокупность наших твердых математических убеждений и интуитивных озарений (по крайней мере в том, что касается-высказываний). Это, вообще-то вполне логичное предположение оказывается на деле в высшей степени неправдоподобным, в причинах чего мы и попытаемся разобраться. Более того, несколько позднее я покажу, что даже будь оно истинным, это не принесло бы никакой радости тем ИИ-энтузиастам, которые видят смысл жизни в создании робота-математика. Мы еще поговорим об этом в конце данного раздела и — более подробно — в §§ 3.15 и 3.29.
Дабы подчеркнуть тот факт, что существование подобной системы F и в самом деле следует полагать логически возможным, вспомним о «машине для доказательства теорем», возможности создания которой, согласно Гёделю, логически исключить нельзя (см. цитату в §3.1). В сущности, такую «машину», как я поясню ниже, как раз и можно представить в виде некоторой алгоритмической процедуры F, соответствующей вышеприведенным пунктам II или III. Как отмечает Гёдель, его гипотетическая машина для доказательства теорем может быть «эмпирически реализована», что соответствует требованию «сознательной познаваемости» процедуры F в случае II; если же подобная реализация оказывается невозможной, то мы, по сути, имеем дело со случаем III.
На основании своей знаменитой теоремы Гёдель утверждал, что невозможно доказать «эквивалентность» процедуры F(или, что то же самое, формальной системысм. §2.9) «математической интуиции» (см. ту же цитату). В определении случая II (и, как следствие, III) я сформулировал это фундаментальное ограничение, налагаемое на, несколько по-иному: «Тот факт, что математическое понимание основывается именно на этой алгоритмической процедуре, остается как неосознаваемым, так и непознаваемым».
Это ограничение (необходимость в котором следует из обоснованного в §3.2 исключения случая I) со всей очевидностью приводит к невозможности показать, что процедураэквивалентна математической интуиции, поскольку посредством подобной демонстрации мы могли бы однозначно убедиться в том, что процедура действительно выполняет ту роль, о самом факте выполнения которой мы предположительно не в состоянии ничего знать. И наоборот, если бы эта самая роль процедуры (роль фундаментального алгоритма, в соответствии с которым осуществляется постижение математических истин) допускала осознанное познание (в том смысле, что мы могли бы в полной мере постичь, как именно процедуравыполняет эту свою роль), то нам пришлось бы признать и обоснованность. Ибо если мы не допускаем, что процедурацеликом и полностью обоснована, то это означает, что мы отвергаем какие-то ее следствия. А ее следствиями являются как раз те математические положения (или хотя бы только-высказывания), которые мы полагаем-таки истинными. Таким образом знание роли процедурыравнозначно наличию доказательствахотя такое «доказательство» и нельзя считать формальным доказательством в рамках некоторой заранее заданной формальной системы.
Отметим также, что истинные-высказывания можно рассматривать в качестве примеров тех самых «корректных теорем конечной теории чисел», о которых говорил Гёдель. Более того, если понятие «конечной теории чисел» включает в себя-операцию «отыскания наименьшего натурального числа, обладающего таким-то свойством», в каковом случае оно включает в себя и процедуры, выполняемые машинами Тьюринга (см. конец § 2.8), то тогда частью конечной теории чисел следует считать все-высказывания. Иными словами, получается, что доказательство гёделевского типа не дает четкого способа исключить из рассмотрения случай II, руководствуясь одними лишь строго логическими основаниями — по крайней мере, до тех пор, пока мы полагаем, что Гёдель был прав.
С другой стороны, можно задаться вопросом об общем правдоподобии предположения II. Рассмотрим, что повлечет за собой существование познаваемой процедурынепознаваемым образом эквивалентной человеческому математическому пониманию (заведомо непогрешимому). Как уже отмечалось, ничто не мешает нам мысленно перенестись в некое будущее время, в котором эта процедура окажется обнаружена и подробно описана. Известно также (см. §2.7), что формальная система задается в виде некоторого набора аксиом и правил действия. Теоремы системыпредставляют собой утверждения (иначе называемые «положениями»), выводимые из аксиом с помощью правил действия, причем все теоремы можно сформулировать посредством того же набора символов, который используется для выражения аксиом. А теперь представим себе, что теоремы системыв точности совпадают с теми положениями (сформулированными с помощью упомянутых символов), неопровержимую истинность которых математики, в принципе, способны самостоятельно установить.
Допустим на минуту, что перечень аксиом системыявляется конечным. Сами же аксиомы суть не что иное, как частные случаи соответствующих теорем. Однако неопровержимую истинность каждой теоремы мы можем, в принципе, постичь посредством математического понимания и интуиции. Следовательно, каждая аксиома в отдельности должна выражать нечто такое, что по крайней мере, в принципе, постижимо посредством этого самого математического понимания. Иными словами, для каждой отдельной аксиомы когда-нибудь непременно настанет (либо принципиально возможно, что настанет) время, когда ее неопровержимая истинность будет однозначно установлена. Так, рассматривая одну за другой, мы сможем устанавливать истинность любой отдельно взятой аксиомы системыТаким образом, в конечном итоге будет установлена (либо принципиально возможно, что будет установлена) неопровержимая истинность всех отдельно взятых аксиом. Соответственно, настанет время, когда будет установлена неопровержимая истинность всей совокупности аксиом системыв целом.
А как быть с правилами действия? Можем ли мы предположить, что настанет время, когда будет однозначно установлена неопровержимая обоснованность этих правил? Во многих формальных системах правилами действия служат достаточно простые утверждения, каждое из которых с очевидностью «неопровержимо», например: «Если установлено, что высказывание является теоремой и высказываниеявляется теоремой, то можно заключить, что высказываниетакже является теоремой» (относительно символа«следует» см. НРК, с. 393, или [222]). Признать неоспоримую справедливость таких правил совсем не трудно. С другой стороны, среди правил действия встречаются и гораздо более тонкие отношения, справедливость которых вовсе не так очевидна; прежде чем прийти к однозначному решению относительно того, считать то или иное такое правило «неопровержимо обоснованным» или нет, нам, возможно, потребуется прибегнуть к весьма подробному и тщательному анализу. Более того, как мы вскоре убедимся, в наборе правил действия формальной системынеизбежно имеются такие правила, неоспоримая обоснованность которых не может быть достоверно установлена ни одним математиком — причем мы все еще полагаем, что число аксиом в системеконечно.
В чем же причина? Перенесемся в воображении в то самое время, когда уже однозначно установлена неопровержимая справедливость всех аксиом формальной системыПеред нами открывается замечательная возможность без помех рассмотреть всю системуцеликом. Попробуем допустить, что все правила действия системыможно также считать справедливыми безо всяких оговорок. Хотя предполагается, что мы еще не можем знать наверняка, что системадействительно включает в себя всю математику, которая в принципе доступна человеческому пониманию и интуиции, мы должны к настоящему моменту, по меньшей мере, уже убедиться в том, что системаявляется неоспоримо обоснованной, поскольку справедливость как ее аксиом, так и ее правил действия безоговорочно нами принимается. Следовательно, мы также должны уже быть уверены в том, что система непротиворечива. Не забываем, разумеется, и о том, что, в силу этой непротиворечивости, утверждениетакже должно быть истинным — более того, неопровержимо истинным! Однако, поскольку предполагается, что системафактически (хотя нам об этом неизвестно) включает в себя всю совокупность того, что безоговорочно доступно нашему пониманию, утверждение должно на деле представлять собой теорему системыСогласно теореме Гёделя, такое, вообще говоря, возможно только в том случае, если формальная системапротиворечива. Если же система F противоречива, то одной из теорем этой системы является утверждениеСледовательно, утверждение должно быть, в принципе, доступно нашему математическому пониманию — очевидное противоречие!
Несмотря на это, следует, по крайней мере, учесть саму возможность того, что математики действуют (не зная о том) в рамках системыкоторая является, по существу, необоснованной. К этому вопросу я еще вернусь в §3.4, пока же (в пределах данного раздела) будем полагать, что на самом деле процедуры, лежащие в основе математического понимания, целиком и полностью обоснованны. При данных обстоятельствах, если мы продолжаем настаивать на том, что все правила действия нашей формальной системыс конечным набором аксиом безоговорочно истинны, нам остается лишь признать, что противоречие действительно имеет место. Следовательно, среди правил действия системыдолжно быть по крайней мере одно правило, обоснованность которого не может неопровержимо установить ни один математик (хотя в действительности это правило является обоснованным).
Все вышеприведенные рассуждения опирались на то допущение, что система задается конечным набором аксиом. В качестве возможного альтернативного решения можно предположить, что количество аксиом в системебесконечно. Относительно этой возможности необходимо сделать некоторые комментарии. Для того чтобы системуможно было определить как формальную в требуемом смысле — т. е. как систему, в рамках которой всегда можно однозначно установить (посредством некоторой заранее заданной вычислительной процедуры), что предполагаемое доказательство того или иного положения действительно является доказательством в соответствии с правилами системы, — необходимо, чтобы ее бесконечный набор аксиом можно было выразить каким-то конечно определяемым образом. Вообще говоря, всегда допускается некоторая свобода в отношении выбора конкретного способа представления формальной системы, в соответствии с которым операции системы определяются либо как аксиомы, либо как правила действия. Так, стандартная аксиоматическая система теории множеств — система Цермело—Френкеля (обозначаемая здесь как) — включает в себя бесконечное количество аксиом, выражаемых посредством структур, называемых «схемами аксиом». Путем соответствующего переформулирования системуможно выразить таким образом, что количество действительных аксиом станет конечным). Более того, действуя определенным образом, такое можно проделать с любой схемой аксиом, являющейся «формальной» в требуемом нами вычислительном смысле.
Может создаться впечатление, что вышеприведенное рассуждение (целью которого является исключение из списка возможных вариантов случаяприменимо к любой (обоснованной) системевне зависимости от того, конечно или бесконечно количество ее аксиом. Это и в самом деле так, однако в процессе приведения бесконечной схемы аксиом к конечному виду мы можем ввести новые правила действия, которые могут оказаться не столь самоочевидно обоснованными. Так, представляя себе, в соответствии с вышеизложенными соображениями, времена, когда нам станут известны все аксиомы и правила действия системы (при этом также предполагается, что все теоремы этой гипотетической системы в точности совпадают с теоремами, которые в принципе доступны человеческим пониманию и интуиции), мы никоим образом не можем быть уверены в принципиальной возможности неопровержимого установления обоснованности правил действия такой системыв отличие от ее аксиом (даже если эти правила действительно являются обоснованными). Дело в том, что, в отличие от аксиом, правила действия не принадлежат к теоремам формальной системы. Мы же полагаем, что неопровержимо установить можно лишь обоснованность теорем системы
Не совсем ясно, возможно ли продолжить данное рассуждение, оставаясь при этом в рамках строгой логики. Если мы полагаем справедливой возможностьто нам приходится признать, что существует некая формальная система(на основании которой человек постигает истинность-высказываний), целиком и полностью понимаемая математиками, обладающая конечным набором аксиом, справедливость которых не вызывает никаких сомнений, и конечной системой правил действиякоторая, впрочем, содержит по крайней мере одну операцию, полагаемую фундаментально сомнительной. Каждая отдельно взятая теорема системынеизбежно оказывается утверждением, истинность которого может быть неопровержимо установлена, — что, собственно говоря, удивительно, учитывая тот факт, что многие из этих теорем выводятся с помощью сомнительных правил системыКроме того, хотя математик и может (в принципе) установить истинность каждой из упомянутых теорем в отдельности, единообразной процедуры для этого не существует. Можно ограничить область рассмотрения теми теоремами системы которые представляют собой-высказывания. Применяя сомнительную систему правилмы можем вычислительным способом сгенерировать перечень тех-высказываний, справедливость которых может быть однозначно установлена математиками. В конечном счете, человек, воспользовавшись пониманием и интуицией, оказывается способен установить справедливость каждого из этих-высказываний в отдельности. Однако в каждом конкретном случае для такого установления применяются методы рассуждений, существенно отличающиеся от правила с помощью которого было получено данное-высказывание. Раз за разом нам приходится добавлять в систему все новые, все более изощренные плоды человеческого разума — с тем, чтобы можно было неопровержимо доказать истинность каждого последующего-высказывания. Словно по волшебству, истинными оказываются все-высказывания, впрочем истинность некоторых из них можно установить лишь после привлечения какого-либо фундаментально нового метода рассуждения, причем необходимость в этом возникает вновь и вновь, на все более глубоких уровнях. Более того, любое-высказывание, неоспоримую истинность которого можно установить — причем неважно, каким методом, — оказывается уже включенным в тот самый перечень, который мы сгенерировали ранее с помощью системы правилНаконец, существует еще и особое истинное-высказываниекоторое явным образом выводится из знания формальной системыоднако истинность которого не может быть неопровержимо установлена ни одним математиком. В лучшем случае, математик сможет понять, что истинностьнепосредственно обусловлена обоснованностью сомнительной системы правил действиякоторая, по всей видимости, обладает некоей чудесной способностью определять, истинность каких именно II1-высказываний может быть неопровержимо установлена человеком.
Могу себе представить, что кому-то все это, возможно, покажется не совсем бессмысленным. Ко многим своим выводам математики приходят на основании предпосылок, которые можно назвать «эвристическими принципами» — такой принцип не дает непосредственного доказательства предполагаемого вывода, однако дает основания ожидать, что истинным неизбежно окажется именно такой вывод. Собственно доказательство может быть получено и позднее, причем совершенно иными методами. Мне, однако, представляется, что подобные эвристические принципы имеют на деле очень мало общего с нашей гипотетической системой правилВ сущности, такие принципы способны лишь углубить наше сознательное понимание причин, в соответствии с которыми оказывается истинным тот или иной математический вывод. Впоследствии, в результате более серьезной разработки соответствующих математических методов, часто становится вполне ясно, почему именно сработал тот или иной эвристический принцип. В большинстве же случаев вполне проясняется лишь один вопрос: при каких именно обстоятельствах данный эвристический принцип гарантированно работает, а при каких — нет; иначе говоря, если не соблюдать известной осторожности, можно прийти к весьма и весьма ошибочным выводам. Если же осторожность соблюдена, сам такой принцип становится чрезвычайно мощным и надежным инструментом математического доказательства. Он не снабдит вас сверхъестественно достоверной алгоритмической процедурой для установления справедливости-высказываний, причины успешного функционирования которой будут принципиально недоступны человеческому пониманию, вместо этого он предоставит средства для углубления вашего математического понимания и усиления вашей же интуиции. А в этом, согласитесь, есть нечто, в корне отличное от алгоритма (или формальной системы), описанного в соответствии с возможностью Более того, никто никогда и не предлагал эвристического принципа, позволившего бы сгенерировать в точности все-высказывания, истинность которых может быть однозначно установлена математиками.
Разумеется, из всего этого вовсе не следует, что упомянутый алгоритм(гипотетическая машина Гёделя для доказательства теорем) является логически невозможным; однако, с позиции нашего математического понимания, вероятность существования такой машины представляется исключительно малой. Во всяком случае, в настоящее время ни у кого пока нет ни малейшего предположения относительно возможной природы подобного алгоритма, равно как нет и никаких намеков на его действительное существование. Он может существовать, в лучшем случае, в качестве гипотезы — причем гипотезы недоказуемой. (Ее доказательство будет равносильно ее опровержению!) Мне думается, что со стороны любого из сторонников идеи ИИ (независимо от того, принадлежит он к лагерю ) является в высшей степени безрассудным возлагать какие бы то ни было надежды на отыскание такой алгоритмической процедуры (обобщенной здесь в виде алгоритма), само существование которой крайне сомнительно, а точное построение (существуй она в действительности) едва ли по силам любому из ныне живущих математиков или логиков.
Можно ли допустить, что подобный алгоритмвсе же существует и, более того, может быть получен с помощью достаточно сложных вычислительных процедур восходящего типа? В, в рамках обсуждения случаяя приведу серьезные логические доводы, убедительно демонстрирующие, что ни одна из познаваемых восходящих процедур не в состоянии привести нас к алгоритмудаже если бы он и в самом деле существовал. Таким образом, можно заключить, что в качестве сколько-нибудь серьезной логической возможности нельзя рассматривать даже «гёделеву машину для доказательства теорем» — если, конечно, не допустить, что в основе всего математического понимания в целом лежат некие «непознаваемые механизмы», природа которых, увы, не оставляет поборникам ИИ ни единого шанса.
Прежде чем мы перейдем к обещанному более подробному обсуждению случая, необходимо разобраться до конца со случаем— здесь остается еще одна альтернатива, суть которой заключается в том, что фундаментальная алгоритмическая процедура(или формальная система) может оказаться необоснованной (случай, как мы помним, такой лазейки не допускал). Может ли быть так, что математическое понимание человека представляет собой эквивалент некоего познаваемого алгоритма, который в основе своей ошибочен? Рассмотрим эту возможность подробнее.
3.4. Не действуют ли математики, сами того не осознавая, в соответствии с необоснованным алгоритмом?
Допустим, что в основе математического понимания и в самом деле лежит некая необоснованная формальная система F. Как же мы тогда можем быть уверены в том, что наши математические представления в отношении того, что считать неоспоримо истинным, не введут нас в один прекрасный день в какое-нибудь фундаментальное заблуждение? А может, это уже случилось? Ситуация несколько отличается от той, что рассматривалась в связи со случаем, где мы исключили возможность нашего знания о том, что некая системаи в самом деле является необоснованной. Здесь же мы допускаем, что подобная роль системы принципиально непознаваема, вследствие чего нам придется повторно рассмотреть вариант с возможной необоснованностью Можно ли считать действительно правдоподобным предположение о том, что фундаментом для наших неопровержимых математических убеждений служит некая необоснованная система -настолько необоснованная, что одним из этих убеждений может, в принципе, оказаться уверенность в истинности равенства Несомненно одно: если мы не можем доверять собственным математическим суждениям, то мы равным образом не можем доверять и всем остальным своим суждениям об устройстве и функционировании окружающего нас мира, поскольку математические суждения составляют весьма существенную часть всего нашего научного понимания.
Кто-то, тем не менее, возразит, что нет ничего невероятного в том, что какие-то современные общепринятые математические суждения (или суждения, которые мы будем считать неоспоримыми в будущем) содержат скрытые «врожденные» противоречия. Возможно, они даже сошлются на тот знаменитый парадокс (о «множестве множеств, которые не являются элементами самих себя»), о котором Бертран Рассел писал Готтлобу Фреге в 1902 году, как раз тогда, когда Фреге собирался опубликовать труд всей своей жизни, посвященный основам математики (см. также комментарий к возражениюи НРК, с. 100). В приложении к книге Фреге писал (см. [126]):
Вряд ли с ученым может приключиться что-либо более
нежеланное, чем потрясение основ его мировоззрения
сразу вслед за тем, как он закончил изложение их на бумаге. Именно в такое положение поставило меня письмо от г-на Бертрана Рассела...
Разумеется, мы всегда можем сказать, что Фреге просто-напросто ошибся. Всем известно, что математики иногда допускают ошибки — порой даже весьма серьезные. Более того, как явствует из признания самого Фреге, его ошибка была вполне исправимой. Разве мы не убедились (вкомментарий к) в том, что подобные исправимые ошибки не имеют к нашим рассуждениям никакого отношения? Мы рассматриваем здесь, как и влишь принципиальные вопросы, а не подверженность ошибкам отдельных представителей математического сообщества. Ошибки же, на которые можно указать, ошибочность которых можно однозначно продемонстрировать, вовсе не принадлежат к категории принципиальных вопросов, разве нет? Все так, однако ситуация, рассматриваемая нами в настоящий момент, несколько отличается от той, что обсуждалась в комментарии к возражениюпоскольку теперь у нас есть формальная система, которая, возможно, лежит в основе нашего математического понимания, только мы об этом не знаем. Как и прежде, нас не занимают единичные ошибки — или «оговорки», — которые может допустить отдельный математик, рассуждая в рамках какой-то в общем непротиворечивой системы. Однако теперь речь идет еще и о том, что сама система может содержать в себе некие глобальные противоречия. Именно это и произошло в случае с Фреге. Не узнай Фреге о парадоксе Рассела (или ином парадоксе сходной природы), вряд ли кто-либо смог бы убедить его в том, что в его систему вкралась фундаментальная ошибка. Дело не в том, что Рассел указал на какое-то формальное упущение в рассуждениях Фреге, а Фреге признал наличие ошибки, руководствуясь собственными канонами построения умозаключений; нет, Фреге продемонстрировали, что в самих этих канонах содержится некое изначальное противоречие. И именно факт наличия противоречия, а не что-либо иное, убедило Фреге в том, что его рассуждения ошибочны, а то, что прежде представлялось несокрушимой истиной, на деле фундаментально неверно. При этом о существовании ошибки стало известно только благодаря тому, что вскрылось противоречие. Если бы факт противоречивости установлен не был, то математики могли бы еще долгое время считать предложенные Фреге методы построения умозаключений вполне достоверными и даже, возможно, строили бы на их фундаменте собственные системы.
Впрочем, полагаю, в данном случае крайне маловероятно, что многим математикам удалось бы в течение сколько-нибудь длительного срока наслаждаться той свободой умопостроений (в отношении бесконечных множеств), какую предоставляла система Фреге. Причина в том, что парадоксы типа парадокса Рассела довольно легко обнаружить. Можно представить себе какой-нибудь гораздо более тонкий парадокс, например, такой, что неявным образом содержится в тех или иных полагаемых нами на данный момент неопровержимо истинными математических процедурах — парадокс, о котором никто не узнает еще, быть может, многие века. Необходимость в смене привычных правил мы осознаем лишь тогда, когда такой парадокс наконец себя проявит. Короче говоря, наша математическая интуиция не зиждется на каких-то непреходящих в веках установлениях, но непрерывно меняется под сильным воздействием идей, которые прекрасно «работали» прежде, и соображений, последствия применения которых пока что «сходят нам с рук». Такая точка зрения отнюдь не исключает возможности существования в основе нашего теперешнего математического понимания некоего алгоритма (или формальной системы), однако этот алгоритм не является чем-то неизменным, по мере обнаружения новых данных он подвергается непрерывной модификации. К изменяющимся алгоритмам мы еще вернемся несколько позднее где и убедимся в том, что это по-прежнему все те же алгоритмы, только в ином обличье.
Разумеется, с моей стороны было бы наивным отрицать тот факт, что в методах, которые применяют в своей работе математики, нередко присутствует элемент «доверия» процедуре, если она «до сих пор, кажется, работает». В моей собственной математической практике такие предварительные, ориентировочные, нечеткие соображения составляют в общей совокупности рассуждений весьма заметный процент. Однако они, как правило, обретаются в той области, которая «отвечает» за нащупывание нового, еще не сформировавшегося понимания, а никак не в той, где мы «складываем» неопровержимо, на наш взгляд, установленные истины. Я очень сомневаюсь, что сам Фреге так уж категорически полагал свою систему абсолютно неопровержимой, даже не подозревая еще о парадоксе, о котором написал ему Рассел. Система суждений столь общего характера, что бы ни думал по ее поводу автор, всегда выдвигается на всеобщее обозрение с некоторой настороженностью. Лишь после длительного «периода осмысления» можно будет полагать, что она достигла, наконец, «уровня неопровержимости». Имея же дело с системой настолько общей, как система Фреге, в любом случае, как мне кажется, следует употреблять выражения вида «полагая систему Фреге обоснованной, можно считать справедливым то-то и то-то», а не просто утверждать эти самые «то-то и то-то» без упомянутой оговорки. (См. также комментарии к возражениям и.
Возможно, в настоящее время математики стали более осторожными в отношении того, что они готовы рассматривать как «неопровержимую истину» — эпоха осторожности сменила эпоху отчаянной дерзости (среди примеров которой работа Фреге занимает далеко не последнее место), пришедшуюся на конецстолетия. С выходом на сцену парадокса Рассела и прочих ему подобных необходимость в такой осторожности проявляется особенно наглядно. Что же касается дерзости, то она, по большей части, уходит корнями в те времена, когда математики начали потихоньку осознавать всю мощь канторовой теории бесконечных чисел и бесконечных множеств, выдвинутой им в начале того жевека. (Следует, впрочем, отметить, что сам Кантор знал о парадоксах, подобных парадоксу Рассела, — задолго до того, как сам Рассел обнаружил тот, что был назван его именем), — и предпринимал попытки усовершенствовать свою формулировку с тем, чтобы, по возможности, учитывать подобные проблемы.) Цели и характер моих рассуждений на этих страницах также, несомненно, требуют крайней осторожности. И я безмерно рад, что нам с вами приходится иметь дело только с утверждениями, истинность которых неопровержима, и что нет никакой необходимости влезать в дебри бесконечных множеств и прочих сомнительных понятий. Важно помнить, что где бы мы ни провели черту, полученные с помощью доказательства Гёделя утверждения всегда остаются в рамках неопровержимо истинного (см. также комментарий к возражению). Само по себе доказательство Гёделя (—Тьюринга) не имеет абсолютно никакого отношения к вопросам, связанным с сомнительным существованием бесконечных множеств определенного сорта. Неясности, касающиеся тех самых исключительно вольных рассуждений, столь занимавших Кантора, Фреге и Рассела, ничуть не занимают нас — до тех пор, пока они остаются «сомнительными», не претендуя на звание «неопровержимых». Коль скоро мы со всем этим согласны, я никак не могу счесть правдоподобным допущение, согласно которому математики действительно используют в качестве основы для своего математического понимания и убеждений какую-либо необоснованную формальную систему F. Я надеюсь, читатель согласится с тем, что вне зависимости от того, возможна такая ситуация или нет, она, во всяком случае, невероятна.
Наконец, в связи с возможной необоснованностью нашей гипотетической системы, вернемся ненадолго к другим аспектам человеческой «неточности», о которых мы говорили выше (см. комментарии к возражениям). Прежде всего повторюсь, нас в данном случае интересуют не вдохновение, не гениальные догадки и не эвристические критерии, способные привести математика к великим открытиям, но лишь понимание и проникновение в суть, на фундаменте которых покоятся его неопровержимые убеждения в отношении математических истин. Эти убеждения могут оказаться всего-навсего результатом ознакомления с рассуждениями других математиков, и в этом случае о каких бы то ни было элементах математического открытия говорить, разумеется, не приходится. А вот когда мы нащупываем путь к какому-то подлинному открытию, и впрямь весьма важно дать размышлениям свободу, не ограничивая их изначально необходимостью в полной достоверности и точности (у меня сложилось впечатление, что именно это имел в виду Тьюринг в приведенной выше цитате, см.). Однако когда перед нами встает вопрос о принятии или отклонении тех или иных доводов в поддержку неопровержимой истинности выдвигаемого математического утверждения, необходимо полагаться лишь на понимание и проницательность (нередко в сопровождении громоздких вычислений), которым ошибки принципиально не свойственны.
Я вовсе не хочу сказать, что математики, полагающиеся на понимание, не делают ошибок, — делают, и даже часто: понимание тоже можно применить некорректно. Безусловно, математики допускают ошибки и в рассуждениях, и в понимании, а также в сопутствующих вычислениях. Однако склонность к совершению подобных ошибок, в сущности, не усиливает их способности к пониманию (хотя я, пожалуй, могу представить себе, каким образом подобные случайные обстоятельства могут порой привести человека к нежданному, скажем так, озарению). Что более важно — эти ошибки исправимы, их можно распознать как ошибки, когда на них укажет какой-либо другой математик (или даже впоследствии сам автор). Совсем иначе обстоит дело, когда понимание математика контролируется некоей внутренне ошибочной формальной системойв рамках такой системы невозможно распознать ее собственные ошибки. (Что касается возможности существования самосовершенствующейся системы, которая модифицирует самое себя всякий раз, как обнаруживает в себе противоречие, то о ней мы поговорим несколько позднее, «на подступах» к противоречиюТам же мы и обнаружим, что и от такого предположения в данном случае пользы мало; см. также)
Ошибки несколько иного рода возникают при неверной формулировке математического утверждения; в этом случае выдвигающий утверждение математик, возможно, имеет в виду нечто совсем отличное от того, что он буквально утверждает. Впрочем, такие ошибки также исправимы и не имеют ничего общего с теми внутренними ошибками, причиной которых является понимание, опирающееся на необоснованную систему(Здесь уместно вспомнить фразу Фейнмана, которую мы цитировали в связи с возражением«Не слушайте, что я говорю; слушайте, что я имею в виду!»). Мы с вами здесь для того, чтобы выяснить, что, в принципе, может (либо не может) быть установлено каким угодно математиком (человеком); ошибки же, подобные только что рассмотренным, — т.е. исправимые ошибки — никакого отношения к этой проблеме не имеют. Важнейший, пожалуй, для всего нашего исследования момент: круг идей и понятий, доступных математическому пониманию, непременно должен включать в себя центральную идею доказательства Гёделя—Тьюринга; на этом, собственно, основании мы и не рассматриваем всерьез возможность, а возможностьполагаем крайне невероятной. Как уже отмечалось выше (в комментарии к возражению), идея доказательства Гёделя—Тьюринга, безусловно, должна являться частью того, что, в принципе, в состоянии понять математик, даже если какое-то конкретное утверждение, на котором этот математик, возможно, основывается, ошибочно — лишь бы ошибка была исправимой.
С возможной «необоснованностью» предполагаемого алгоритма математического понимания связаны и другие вопросы, о которых не следует забывать. Эти вопросы касаются процедур «восходящего» типа — таких, к примеру, как самоусовершенствующиеся алгоритмы, алгоритмы обучения (в том числе и искусственные нейронные сети), алгоритмы с дополнительными случайными компонентами, а также алгоритмы, операции которых обусловлены внешним окружением, в котором функционируют соответствующие алгоритмические устройства. Некоторые из упомянутых вопросов были затронуты ранее (см. комментарий к возражению), подробнее же мы рассмотрим их при обсуждении случая, к каковому обсуждению мы как раз и приступаем.
3.5. Может ли алгоритм быть непознаваемым?
В соответствии с вариантом, математическое понимание представляет собой результат выполнения некоего непознаваемого алгоритма. Что же конкретно означает определение «непознаваемый» применительно к алгоритму? В предшествующих разделах настоящей главы мы занимались вопросами принципиальными. Так, утверждая, что неопровержимая истинность некоторого-высказывания доступна математическому пониманию человека, мы, по сути, утверждали, что данное-высказывание постижимо в принципе, отнюдь не имея в виду, что каждый математик когда-нибудь да сталкивался с реальной демонстрацией его истинности. Применительно к алгоритму, однако, нам потребуется несколько иная интерпретация термина «непознаваемый». Я буду понимать его так: рассматриваемый алгоритм является настолько сложным, что даже описание его практически неосуществимо.
Когда мы говорили о выводах, осуществляемых в рамках какой-то конкретной познаваемой формальной системы, или о предполагаемых результатах применения того или иного известного алгоритма, рассуждения в терминах принципиально возможного или невозможного и в самом деле выглядели как нельзя более уместными. Вопросы возможности или невозможности вывода того или иного конкретного предположения из такой формальной системы или алгоритма рассматривались в «принципиальном» контексте в силу элементарной необходимости. Похожим образом обстоит дело с установлением истинности-высказываний,-высказывание признается истинным, если его можно представить в виде операции некоторой машины Тьюринга, незавершаемой принципиально, вне зависимости от того, что мы могли бы получить на практике путем непосредственных вычислений. (Об этом мы говорили в комментарии к возражению) Аналогично, утверждение, что какое-то конкретное предположение выводимо (либо невыводимо) в рамках некоей формальной системы, следует понимать в «принципиальном» смысле, поскольку такое утверждение, в сущности, представляет собой вид утверждения об истинном (или, соответственно, ложном) характере какого-то конкретного-высказывания (см. окончание обсуждения возражения). Соответственно, когда нас интересует выводимость предположения в рамках некоторого неизменного набора правил, «познаваемость» всегда будет пониматься именно в таком «принципиальном» смысле.
Если же нам предстоит решить вопрос о «познаваемости» самих правил, то здесь необходимо прибегнуть к «практическому» подходу. Принципиально возможно описать любую формальную систему, машину Тьюринга, либо-высказывание, а следовательно, если мы хотим, чтобы вопрос об их «непознаваемости» имел хоть какой-нибудь смысл, нам следует рассматривать его именно в плоскости возможности их практической реализации. В принципе, познаваемым является абсолютно любой алгоритм, каким бы он ни был, — в том смысле, что осуществляющая этот алгоритм операция машины Тьюринга становится «известной», как только становится известным натуральное число, являющееся кодовым обозначением данной операции (например, согласно правилам нумерации машин Тьюринга, приведенным в НРК). Нет решительно никаких оснований предполагать, что принципиально непознаваемым может оказаться такой объект, как натуральное число. Все натуральные числа (а значит, и алгоритмические операции) можно представить в виде последовательностидвигаясь вдоль которой, мы — в принципе — можем со временем достичь любого натурального числа, каким бы большим это число ни было! Практически же, число может оказаться настолько огромным, что добраться до него таким способом в обозримом будущем не представляется возможным. Например, номер машины Тьюринга, описанной в НРК, на с. 56, явно слишком велик, чтобы его можно было получить на практике посредством подобного перечисления.
Даже если мы были бы способны выдавать каждую последующую цифру за наименьший теоретически определимый временной промежуток (в масштабе времени Планка равный приблизительносм.), то и в этом случае за все время существования Вселенной, начиная от «большого взрыва» и до настоящего момента, нам не удалось бы добраться ни до какого числа, двоичное представление которого содержит более 203 знаков. В числе, о котором только что упоминалось, знаков более чем в 20 раз больше — однако это ничуть не мешает ему быть «познаваемым» в принципе, причем в НРК это число определено в явном гиде.
Практически «непознаваемыми» следует считать такое натуральное число (или операцию машины Тьюринга), сложность одного только описания которого оказывается недоступной человеческим возможностям. Сказано, на первый взгляд, довольно громко, однако, зная о конечной природе человека, можно смело утверждать, что какой-то предел так или иначе существовать должен, а следовательно, должны существовать и числа, находящиеся за этим пределом, описать которые человек не в состоянии. (См. также комментарий к возражению) В соответствии с возможностьюнам следует полагать, что за пределами познаваемости алгоритм(предположительно лежащий в основе математического понимания) оказывается именно вследствие неимоверной сложности и чрезвычайной детализирован-ности своего описания — причем речь идет исключительно об «описуемости» алгоритма, а не о познаваемости его в качестве алгоритма, которым, как предполагается, мы пользуемся-таки в нашей интеллектуальной деятельности. Требование «неописуе-мости», собственно, и отделяет случайот случаяИными словами, рассматривая случаймы должны учитывать возможность того, что наших человеческих способностей может оказаться недостаточно даже для того, чтобы описать это самое число, не говоря уже о том, чтобы установить, обладает ли оно свойствами, какими должно обладать число, определяющее алгоритмическую операцию, в соответствии с которой работает наше же математическое понимание.
Отметим, что в роли ограничителя познаваемости не может выступать просто величина числа. Не представляет никакой сложности описать числа, настолько огромные, что они превзойдут по величине все числа, которые могут потребоваться для описания алгоритмических операций, определяющих поведение любого организма в наблюдаемой Вселенной (взять хотя бы такое легко описываемое число, как, о котором мы упоминали в комментарии к— это число далеко превосходит количество всех возможных состояний вселенной для всего вещества, содержащегося в границах наблюдаемой нами вселенной). За пределами человеческих возможностей оказывается именно точное описание искомого числа, величина же его особой роли не играет.
Допустим (в полном согласии с), что описание такого алгоритмачеловеку и в самом деле не по силам. Что из этого следует в отношении перспектив разработки высокоуспешной стратегии создания ИИ (как по «сильным», так и по «слабым» принципам — иначе говоря, в соответствии с точками зрения как, так и)? Адепты полностью автоматизированных ИИ-систем (т. е. сторонникинепременно, а также, возможно, кто-то из лагеря) предвосхищают появление в конечном итоге роботов, способных достичь уровня математических способностей человека и, возможно, превзойти этот уровень. Иными словами (если согласиться с вариантом), непременным компонентом контрольной системы такого робота-математика должен стать тот самый, недоступный человеческому пониманию алгоритм. Отсюда, по всей видимости, следует, что стратегия создания ИИ, нацеленная на получение именно такого результата, обречена на провал. Причина проста — если для достижения цели необходим алгоритм, который в принципе не способен описать ни один человек, то где же тогда этот алгоритм взять?
Однако наиболее амбициозные сторонники идеирисуют себе совсем другие картины. Они предвидят, что необходимый алгоритмбудет получен не в одночасье, но поэтапно — по мере того, как сами роботы будут постепенно повышать свою эффективность с помощью алгоритмов (восходящих) обучения и накопления опыта. Более того, самые совершенные роботы не будут, скорее всего, созданы непосредственно людьми, а явятся продуктом деятельности других роботов, возможно, несколько более примитивных, нежели ожидаемые нами роботы-математики; кроме того, в процессе развития роботов будет, возможно, принимать участие и некое подобие дарвиновской эволюции, в результате чего от поколения к поколению роботы будут становиться все более совершенными. Разумеется, не обойдется и без утверждений в том духе, что именно посредством подобных, в общем-то, процессов нам самим удалось оснастить свои «нейронные компьютеры» неким для нас не познаваемым алгоритмом, на котором и работает наше собственное математическое понимание.
В нескольких последующих разделах я покажу, что при всей привлекательности подобных процессов проблема, в сущности, остается нерешенной: если сами процедуры, с помощью которых предполагается создать ИИ, являются прежде всего алгоритмическими и познаваемыми, то любой полученный таким образом алгоритмтакже должен быть познаваемым. В этом случае вариантсводится либо к варианту, либо к варианту, которые мы исключили впо причине фактической невозможно-
сти (вариант) или, по меньшей мере, крайнего неправдоподобия (вариант). Более того, если исходить из допущения, что интересующие нас алгоритмические процедуры познаваемы, то нам, вообще говоря, следует отдать предпочтение именно варианту. Соответственно, вариант(равно как и, по смыслу, вариант) также следует признать практически несостоятельным.
Читателю, который искренне верит в то, что возможный вариантоткрывает наиболее вероятный путь к созданию вычислительной модели разума, я рекомендую обратить на приведенные выше аргументы самое пристальное внимание и тщательнейшим образом их изучить. Не сомневаюсь, что он придет к тому же выводу, к какому пришел я: если допустить, что математическое понимание и в самом деле осуществляется в соответствии с вариантом, то единственным хоть сколько-нибудь правдоподобным объяснением происхождения нашего собственного алгоритмаостается считать божественное вмешательство — то самое сочетание, о котором мы говорили в конце — а такое объяснение, конечно же, не утешит тех, кто лелеет амбициозные перспективные планы по созданию компьютерного ИИ.
3.6. Естественный отбор или промысел Господень?
Возможно, нам следует-таки всерьез рассмотреть возможность того, что за нашим интеллектом и в самом деле стоит некий божественный промысел — по каковой причине этот самый интеллект никак нельзя объяснить с позиций той науки, которая достигла столь значительных успехов в описании мира неодушевленных предметов. Разумеется, мы по-прежнему должны сохранять широту мышления, однако я хочу сразу прояснить один момент: в последующих рассуждениях я намерен придерживаться научной точки зрения. Я намерен рассмотреть возможность того, что наше математическое понимание является результатом работы некоего непостижимого алгоритма, — а также вопрос о возможном происхождении подобного алгоритма, — никоим образом не выходя за рамки научного подхода. Возможно, кто-то из читателей этой книги склонен верить в то, что этот алгоритм и в самом деле мог быть просто вложен в наши головы по воле божьей. Убедительного опровержения такого предположения у меня, признаться, нет; хотя я никак не могу взять в толк, — если уж мы решаем отказаться на каком-то этапе от научного подхода — почему считается как нельзя более благоразумным бросаться именно в эту крайность. Если научное объяснение ничего, в сущности, не объясняет, то не уместнее ли будет вообще позабыть о каких бы то ни было алгоритмических процедурах, нежели прятать свою предполагаемую свободу воли за сложностью и непостижимостью какого-то алгоритма, который, как нам хочется думать, контролирует каждое наше движение? Возможно, разумнее будет просто счесть (как, похоже, считал сам Гёдель), что деятельность разума совершенно не связана с процессами, протекающими в физическом мозге, — что замечательно согласуется с точкой зрения. С другой стороны, в настоящее время, как мне представляется, даже те, кто верит в то, что мышление и впрямь является в каком-то смысле божественным даром, склонны все же полагать, что поведение человека можно объяснить, не выходя за пределы возможностей науки. Несомненно, приведенные варианты являются весьма спорными, однако на данном этапе я вовсе не предполагал спорить с убеждениями сторонников точки зрения. Надеюсь, что те читатели, которых можно отнести к приверженцам той или иной формы, все же потерпят меня еще некоторое время, а я пока попробую выяснить, к чему нас может привести в данном случае научный подход.
Какие же научные последствия может иметь допущение, что математические суждения мы получаем в результате выполнения некоей необходимой и непостижимой алгоритмической процедуры? Вырисовывается приблизительно такая картина: исключительно сложные алгоритмические процедуры, необходимые для моделирования подлинного математического понимания, являются результатом многих сотен тысяч лет (по меньшей мере) естественного отбора вкупе с несколькими тысячами лет воздействия образования и внешних факторов, обусловленных физическим окружением. Можно допустить, что наследуемые аспекты этих процедур формировались постепенно из более простых (ранних) алгоритмических компонентов в результате того же давления естественного отбора, которое ответственно за возникновение всех остальных в высшей степени эффективных механизмов, из которых собраны наши тела, равно как и наши мозги. Врожденные потенциально математические алгоритмы (т. е. все те унаследованные аспекты, которые могли бы относиться к математическому мышлению, предположительно алгоритмическому) до поры пребывали в закодированном состоянии (в виде неких особых последовательностей нуклеотидов) внутри молекул ДНК, а затем проявились посредством той же процедуры, какая задействуется при всяком постепенном (либо скачкообразном) усовершенствовании живого организма, реагирующего на давление отбора. Помимо прочего, свой вклад в эти процессы вносят и всевозможные внешние факторы — такие как непосредственное математическое образование, опыт взаимодействия с физическим окружением, прочие факторы, оказывающие дополнительно самые разные чисто случайные воздействия. Думаю, мы должны попытаться выяснить, можно ли полагать описанную картину хоть сколько-нибудь правдоподобной?
3.7. Алгоритм один или их много?
Прежде всего, необходимо рассмотреть следующий весьма важный вопрос: может ли оказаться, что за различные виды математического понимания, свойственные разным людям, отвечает множество весьма различных, возможно, неэквивалентных алгоритмов? В самом деле, уж в чем мы можем быть с самого начала уверены, так это в том, что даже профессиональные математики часто воспринимают математические «реалии» совершенно по-разному. Для одних в высшей степени важны зрительные образы, тогда как другим удобнее иметь дело с четкими логическими структурами, изящными абстрактными доказательствами, подробными аналитическими обоснованиями или, возможно, с чисто алгебраическими манипуляциями. В этой связи следует отметить, что, по некоторым предположениям, геометрическое, например, и аналитическое мышление осуществляются разными полушариями мозга (соответственно, правым и левым). Однако часто бывает так, что всеми этими способами воспринимается одна и та же математическая истина. С алгоритмической точки зрения первое впечатление таково, что алгоритмы, отвечающие за математическое мышление различных людей, должны быть как минимум абсолютно неэквивалентными. Однако, несмотря на существенное различие между образами, которые формируют в сознании отдельные математики (или прочие смертные) для собственного понимания или для сообщения другим математических идей, математическое восприятие обладает одним поразительным свойством: когда математики наконец решают для себя, что именно следует считать неопровержимо истинным, никаких разногласий по этому поводу больше не возникает, разве что поводом для такого разногласия послужит какая-либо действительная, опознаваемая (а следовательно, и исправимая) ошибка в рассуждениях того или иного математика (еще один возможный повод для разногласий предоставляет принципиальное расхождение во мнениях по некоторым — весьма немногочисленным — фундаментальным вопросам; см. комментарий к, в особенности утверждение). В целях упрощения изложения я позволю себе в дальнейшем последнее соображение проигнорировать. Хотя это соображение и имеет некоторое отношение к предмету нашего разговора, на выводы оно заметного влияния не оказывает. (Придерживаемся ли мы нескольких возможных неэквивалентных точек зрения на какой-то вопрос или все соглашаемся на одной — существенного различия между этими двумя ситуациями в данном случае нет.)
Восприятие математической истины может осуществляться самыми различными способами. Вряд ли можно усомниться в том, что вне зависимости от конкретной природы физических процессов, обусловливающих осознание человеком истинности какого-либо математического утверждения, эти процессы должны весьма и весьма разниться от индивидуума к индивидууму, даже если речь идет об одном и том же утверждении. Иначе говоря, если математики при составлении суждений о неопровержимой истинности того или иного утверждения просто-напросто применяют какие-то вычислительные алгоритмы, то у разных математиков эти самые алгоритмы должны весьма значительно различаться по своей структуре. При этом, в некотором очевидном смысле, упомянутые алгоритмы должны быть еще и эквивалентны друг другу.
Это условие, возможно, не так уж и абсурдно, как может показаться на первый взгляд, по крайней мере, с точки зрения математически возможного. Весьма разные на вид машины Тьюринга могут давать на выходе идентичные результаты. (Рассмотрим, например, машину Тьюринга, построенную следующим образом: при выполнении действия над натуральным числом n мы получаем в результате 0 всякий раз, когда n выразимо в виде суммы четырех квадратов, и 1, когда п таким образом выразить нельзя. Результат вычисления такой машины полностью совпадает с результатом другой машины, построенной таким образом, чтобы давать на выходе 0 при подаче на вход любого натурального числа n — ибо известно, что в виде суммы четырех квадратов можно представить любое натуральное число; см. §2.3.) Из идентичности внешних конечных результатов двух алгоритмов вовсе не обязательно следует, что эти алгоритмы окажутся подобными по внутренней структуре. Однако, в определенном смысле, рассматриваемое допущение еще более запутывает вопрос о происхождении нашего гипотетического непостижимого алгоритма(-ов) для установления математической истины, поскольку теперь нам предстоит иметь дело уже с несколькими такими алгоритмами, достаточно отличными друг от друга по внутренней структуре, но при этом существенно эквивалентными в отношении получаемого на выходе результата.
3.8. Эзотерические математики не от мира сего как результат естественного отбора
Какую же роль играет во всем этом естественный отбор? Возможно ли, чтобы естественным путем возник некий алгоритм(или несколько таких алгоритмов), обусловливающий наше математическое понимание и при этом непознаваемый сам по себе (если верить допущению), либо лишь в отношении выполняемых им функций (в соответствии с допущением)? Начнем с повторения того, о чем мы уже говорили в началеВ процессе получения своих предположительно неопровержимо истинных математических выводов математики вовсе не считают, что они просто следуют некоему набору непознаваемых правил —правил настолько сложных, что, с математической точки зрения, они непостижимы в принципе. Напротив, они полагают, что эти выводы представляют собой результат неких обоснованных рассуждений, пусть часто длинных и внешне запутанных, которые в конечном счете опираются на четкие неопровержимые истины, понятные, в принципе, любому.
Более того, рассматривая ситуацию с позиций здравого смысла или на уровне логических дескрипций, мы можем со всей определенностью утверждать, что математики и в самом деле делают то, что, как им кажется, они делают. Этот факт не подлежит никакому сомнению, а важность его переоценить невозможно. Если мы полагаем, что математики в своей деятельности следуют некоему набору непознаваемых и непостижимых вычислительных правил (в соответствии с возможными вариантами), то, значит, они делают еще и это — одновременно с тем, что, как им кажется, они делают, но на другом уровне дескрипции. Каким-то образом алгоритмическое следование правилам должно давать тот же самый результат, что дают математическое понимание и интуиция — по крайней мере, на практике. Если уж мы твердо вознамерились стать приверженцами либо, либо, то нам предстоит попытаться поверить в то, что такая возможность является вполне правдоподобной.
Нужно помнить и о том, какие блага дают эти алгоритмы. Предполагается, что они наделяют своего «носителя» — по крайней мере, в принципе — способностью составлять корректные математические суждения об абстрактных сущностях, весьма далеких от непосредственного жизненного опыта, что, по большей части, не дает этому самому носителю сколько-нибудь заметных практических преимуществ. Любой, кому хоть раз доводилось заглянуть в какой-нибудь современный чисто математический научный журнал, знает, насколько далеки заботы математиков от каких бы то ни было практических вопросов. Тонкости теоретических обоснований, обычно публикуемых в таких научных журналах, непосредственно доступны лишь очень небольшому количеству людей; и все же каждое такое рассуждение состоит, в конечном счете, из каких-то элементарных шагов, и каждый такой шаг может, в принципе, понять любой мыслящий индивидуум, даже если речь идет об абстрактных рассуждениях о сложно определяемых бесконечных множествах. Не следует забывать и о том, что алгоритм — или, возможно, целый ряд альтернативных, но математически эквивалентных, алгоритмов, — который дает человеку потенциальную способность понимать упомянутые рассуждения, каким-то образом был изначально записан не где-нибудь, а в нуклеотидных последовательностях молекулы ДНК. Если мы в это верим, то нам следует весьма серьезно задуматься, как же так получилось, что подобный алгоритм (или алгоритмы) развился в результате естественного отбора. Очевидно, что даже в настоящее время профессия математика не дает никаких преимуществ с точки зрения борьбы за существование. (Подозреваю, что ее можно даже считать неблагоприятным фактором. Вследствие своего взрывного темперамента и странноватых пристрастий пуристы со склонностью к математике имеют тенденцию заканчивать свой жизненный путь на какой-нибудь низкооплачиваемой академической службе — или и вовсе безработными.) Гораздо правдоподобнее выглядит иная картина: способность рассуждать о весьма абстрактно определяемых бесконечных множествах, бесконечных множествах бесконечных множеств и т. д. никаких особых преимуществ в борьбе за выживание нашим далеким предкам дать просто не могла. Этих самых предков заботили практические повседневные проблемы — такие, возможно, как постройка убежищ, изготовление одежды, изобретение ловушки для мамонтов или, несколько позднее, одомашнивание животных и выращивание урожая. (См. рис. 3.1.)
Разумно было бы предположить, что упомянутые преимущества, которыми, очевидно, все же обладали наши предки, происходили из качеств, необходимых для решения как раз таких, практических проблем, а уже потом, гораздо позднее, выяснилось, что эти же качества замечательно подходят и для решения проблем математических — этакий побочный результат. Во всяком случае, такой ход событий полагаю более или менее правдоподобным я сам. Развивая это предположение, можно допустить, что под давлением естественного отбора человек каким-то образом приобрел или развил в себе некую общую способность понимать. Эта способность понимать, проникать в суть вещей, не была связана с какими-то конкретными областями его деятельности и оказывалась полезной буквально во всем. То же сооружение жилищ или ловушек для мамонтов существенно усложнилось бы, не обладай человек способностью понимать веши и явления в их общности. При этом лично я полагаю, что Homo sapiens был отнюдь не уникален в своей способности понимать.
Такой же способностью обладали, возможно, и многие другие животные, составлявшие человеку конкуренцию в борьбе за существование, однако обладали в меньшей степени, в результате чего человек, в силу более интенсивного развития этой способности, получил над ними весьма существенное преимущество.
Сложности с такой точкой зрения возникают как раз тогда, когда мы начинаем рассматривать наследуемую способность к пониманию как нечто по своей природе алгоритмическое. Как нам уже известно из предшествующих рассуждений и доказательств, любая (алгоритмическая) способность к пониманию, достаточно сильная для того, чтобы ее обладатель оказался в состоянии разобраться в тонкостях математических обоснований, в частности, гёделевского доказательства в представленном мною варианте, должна быть обусловлена процедурой настолько замысловатой и непостижимой, что о ней (или ее роли) не может знать даже сам обладатель этой способности. Наш прошедший через испытания естественного отбора гипотетический алгоритм, по всей видимости, достаточно силен, ведь еще во времена наших далеких предков он уже включал в область своей потен-
циальной применимости правила всех формальных систем, рассматриваемых сегодня математиками как безоговорочно непротиворечивые (или неопровержимо обоснованные, если речь идет о-высказываниях,, комментарий к). Сюда почти наверняка входят и правила формальной системы Цермело— Френкеля, или, возможно, ее расширенного варианта, системы(иначе говоря, самойс добавлением аксиомы выбора) — системы (см.и 2.10, комментарий к), которую многие математики сегодня рассматривают как источник абсолютно всех необходимых для обычной математики методов построения рассуждений, — а также все частные формальные системы, которые могут быть получены из системыпосредством применения к ней процедуры гёделизации сколько угодно раз, и кроме того, все другие формальные системы, которые могут быть получены математиками посредством тех или иных озарений и рассуждений — скажем, на основании открытия, суть которого состоит в том, что системы, полученные в результате упомянутой гёделизации, всегда являются неопровержимо обоснованными, или исходя из иных рассуждений еще более основополагающего характера. Такой алгоритм должен был также включать в себя (в виде собственных частных экземпляров) потенциальные способности к установлению тонких различий, отделению справедливых аргументов от ничем не обоснованных во всех тех, тогда еще не открытых, областях математики, которые сегодня оккупируют страницы специальных научных журналов. Все вышеперечисленные способности должны были оказаться каким-то образом закодированы внутри этого самого — гипотетического, непознаваемого или, если хотите, непостижимого — алгоритма, и вы хотите, чтобы мы поверили, что он возник исключительно в результате естественного отбора, в ответ на какие-то внешние условия, в которых нашим далеким предкам приходилось бороться за выживание. Конкретная способность к отвлеченным математическим рассуждениям не могла дать своему обладателю никаких непосредственных преимуществ в этой борьбе, и я со всей определенностью утверждаю, что для возникновения подобного алгоритма не существовало и не могло существовать никаких естественных причин.
Однако стоит нам допустить, что «способность понимать» имеет неалгоритмическую природу, как ситуация в корне меняется. Теперь уже нет необходимости приписывать этой способности какую-то неимоверную сложность, вплоть до полной непозна-вамости или непостижимости. Более того, она может оказаться гораздо ближе к тому, что «математики, как им кажется, делают». Способность к пониманию представляется мне весьма простым и даже обыденным качеством. Ее сложно определить в каких-либо точных терминах, однако она настолько близка нам и привычна, что в принципиальную невозможность корректного моделирования понимания посредством какой бы то ни было вычислительной процедуры верится с трудом. И все же так оно и есть. Для создания подобной вычислительной модели необходима алгоритмическая процедура, так или иначе учитывающая все возможные варианты развития событий в будущем, — т. е. алгоритм, в котором должны быть, скажем так, предварительно запрограммированы ответы на все математические вопросы, с которыми нам когда-либо предстоит столкнуться. Если непосредственному программированию эти ответы не подлежат, то нужно обеспечить какие-то вычислительные способы для их отыскания. Как мы уже успели убедиться, если эти «вычислительные способы» (или «предварительное программирование») охватывают все, что когда-либо было или будет доступно человеческому пониманию, то сами они для человека становятся непостижимыми. Откуда же слепым эволюционным процессам, нацеленным исключительно на обеспечение выживания сильнейших, было «знать» о том, что такая-то непознаваемо обоснованная вычислительная процедура окажется когда-то в будущем способной решать абстрактные математические задачи, не имеющие абсолютно никакого отношения к проблемам выживания?
3.9. Алгоритмы обучения
Дабы не подвергать читателя искушению чересчур поспешно смириться с абсурдностью описанной выше возможности, я должен несколько прояснить картину, на что мне уже, несомненно, указывают сторонники вычислительного подхода. Как уже отмечалось вэти самые сторонники имеют в виду не столько алгоритм, который, в известном смысле, «предварительно запрограммирован» на предоставление решений математических проблем, сколько некую вычислительную систему, способную обучаться. Такая система может состоять, в основе своей, из «воеходящих» компонентов, соединенных по мере необходимости с какими-либо «нисходящими» процедурами (см. § 1.5).
Возможно, кому-то покажется, что называть «нисходящей» систему, возникшую исключительно в результате слепого давления естественного отбора, не совсем уместно. Этим термином я буду обозначать здесь те аспекты нашей гипотетической алгоритмической процедуры, которые для данного организма зафиксированы генетически и не подвержены изменению под влиянием последующего жизненного опыта или обучения каждого отдельного представителя вида. Хотя упомянутые нисходящие аспекты и не были созданы кем-то или чем-то, обладающим подлинным «знанием» об их предполагаемых функциях и возможностях (речь идет всего лишь о трансляции определенных цепочек ДНК, приводящей к соответствующей активности клеток мозга), они, тем не менее, способны четко обозначить правила, в соответствии с которыми и будет действовать математически активный мозг. Эти нисходящие процедуры снабдят нашу систему теми алгоритмическими операциями, которые составят необходимую фиксированную структуру, в рамках которой, в свою очередь, будут функционировать более гибкие «процедуры обучения» (восходящие).
Какова же природа этих процедур обучения? Вообразим, что наша самообучающаяся система помещена в некоторое внешнее окружение, причем поведение системы внутри этого окружения непрерывно модифицируется под влиянием реакции окружения на ее предыдущие действия. В процессе участвуют, в основном, два фактора. Внешним фактором является поведение окружения и его реакция на действия системы, а внутренним — изменения в поведении системы в ответ на изменения в окружении. Прежде всего следует решить вопрос об алгоритмической природе внешнего фактора. Может ли реакция внешнего окружения вносить в общую картину некую неалгоритмическую составляющую, если внутреннее устройство нашей системы обучения является целиком и полностью алгоритмическим?
В определенных обстоятельствах (как, например, часто бывает при «обучении» искусственных нейронных сетей) реакция внешнего окружения заключается в изменении поведения экспериментатора (инструктора, преподавателя — в дальнейшем предлагаю называть его просто «учителем»), изменении намеренном и предпринимаемом с целью улучшить качество функционирования системы. Когда система функционирует так, как требует учитель, ей об этом сообщают с тем, чтобы в дальнейшем (под воздействием внутренних механизмов модификации поведения системы) она с большей вероятностью функционировала бы именно таким образом. Предположим, например, что у нас имеется искусственная нейронная сеть, которую необходимо научить распознавать человеческие лица. Мы непрерывно наблюдаем за функционированием нашей системы и после каждого рабочего цикла снабжаем ее данными о правильности ее последних «догадок» для того, чтобы она могла улучшить качество своей работы, модифицировав нужным образом внутреннюю структуру. На практике, за адекватностью результатов каждого рабочего цикла совсем не обязательно должен наблюдать учитель-человек, так как процедуру обучения можно в значительной степени автоматизировать. В описанной ситуации цели и суждения учителя-человека образуют наивысший критерий качества функционирования системы. В других ситуациях реакция окружения может оказаться не столь «преднамеренной». Например, в процессе развития живых систем — предполагается, что эти системы все же функционируют в соответствии с некоторой нейронной схемой (или иной алгоритмической процедурой, например, генетическим алгоритмом, см. §3.7), вроде тех, что применяются в численном моделировании — в подобных внешних целях или суждениях вообще не возникает необходимости. Вместо этого, живые системы модифицируют свое поведение в процессе, который можно рассматривать как своего рода естественный отбор, действуя согласно критериям, эволюционировавшим на протяжении многих лет и способствующим увеличению шансов на выживание как самой системы, так и ее потомства.
3.10. Может ли окружение вносить неалгоритмический внешний фактор?
Выше мы предположили, что сама наша система (независимо от того, живая она или нет) представляет собой нечто вроде робота с компьютерным управлением, т. е. все ее самомо-дификационные процедуры являются целиком вычислительными. (Я пользуюсь здесь термином «робот» исключительно для того, чтобы подчеркнуть то обстоятельство, что нашу систему следует рассматривать как некую самостоятельную, целиком и полностью вычислительную сущность, находящуюся во взаимодействии со своим окружением. Я вовсе не подразумеваю, что она непременно представляет собой какое бы то ни было механическое устройство, целенаправленно сконструированное человеком. Такой системой, если веритьили, может оказаться развивающееся человеческое существо, а может и в самом деле какой-то искусственно созданный объект.) Итак, мы полагаем, что внутренний фактор является полностью вычислительным. Необходимо установить, является ли вычислительным также и внешний фактор, вносимый окружением, — иначе говоря, возможно ли построить эффективную численную модель этого самого окружения как в искусственном (т. е. когда окружение неким искусственным образом контролируется учителем-человеком), так и в естественном случае (когда высшим авторитетом является давление естественного отбора). В каждом случае конкретные внутренние правила, в соответствии с которыми система обучения робота модифицирует его поведение, должны быть составлены так, чтобы тем или иным образом реагировать на конкретные сигналы, посредством которых окружение будет сообщать системе о том, как следует оценивать качество ее функционирования в предыдущем рабочем цикле.
Вопрос о возможности моделирования окружения в искусственном случае (иными словами, о возможности численного моделирования поведения человека-учителя) представляет собой тот самый общий вопрос, ответ на который мы пытаемся найти вот уже в который раз. В рамках гипотезили, следствия из которых мы рассматриваем в настоящий момент, допускается, что эффективное моделирование в этом случае и в самом деле возможно, по крайней мере, в принципе. В конце концов, цель нашего исследования состоит именно в выяснении общего правдоподобия этого допущения. Поэтому, вместе с допущением о вычислительной природе нашего робота, допустим также, что его окружение также вычислимо. В результате мы получаем объединенную систему, состоящую из робота и его обучающего окружения, которая, в принципе, допускает эффективное численное моделирование, т. е. окружение не дает никаких потенциальных оправданий невычислительному поведению вычислительного робота.
Иногда можно услышать утверждение, что нашим преимуществом перед компьютерами мы обязаны тому факту, что люди образуют сообщество, внутри которого происходит непрерывное общение между индивидуумами. Согласно этому утверждению, отдельного человека можно рассматривать как вычислительную систему, тогда как сообщество людей представляет собой уже нечто большее. То же относится и, в частности, к математическому сообществу и отдельным математикам — сообщество может вести себя невычислительным образом, в то время как отдельные математики такой способностью не обладают. На мой взгляд, это утверждение лишено всякого смысла. В самом деле, представьте себе аналогичное сообщество непрерывно общающихся между собой компьютеров. Подобное «сообщество» в целом является точно такой же вычислительной системой; деятельность его, если есть такое желание, можно смоделировать и на одном-единственном компьютере. Разумеется, вследствие одного только количественного превосходства, сообщество составит гораздо более мощную вычислительную систему, нежели каждый из индивидуумов в отдельности, однако принципиальной разницы между ними нет. Известно, что на нашей планете проживает болеечеловек (прибавьте к этому еще огромные библиотеки накопленного знания). Цифры впечатляют, но это всего лишь цифры — если отдельного человека считать вычислительным устройством, то разницу, обусловленную переходом от индивидуума к сообществу, развитие компьютерных технологий сможет при необходимости свести на нет в течение каких-нибудь нескольких десятилетий. Очевидно, что искусственный случай с учителями-людьми в роли внешнего окружения не дает нам ничего принципиально нового, что могло бы объяснить, каким образом из целиком и полностью вычислительных составляющих возникает абсолютно невычислимая сущность.
Что же мы имеем в естественном случае? Вопрос теперь звучит так: может ли физическое окружение, не считая действий присутствующих в нем учителей-людей, содержать компоненты, которые невозможно даже в принципе смоделировать численными методами? Мне думается, что если кто-то полагает, что в «бесчеловечном» окружении может присутствовать нечто, принципиально не поддающееся численному моделированию, то этот кто-то тем самым лишает силы главное возражение против Ибо единственной разумной причиной усомниться в возможной справедливости точки зренияможно счесть лишь скептическое отношение к утверждению, что объекты, принадлежащие реальному, физическому миру могут вести себя каким-то невычислимым образом. Как только мы признаём, что какой-либо физический процесс может оказаться невычислимым, у нас не остается никакого права отказывать в невычислимости и процессам, протекающим внутри такого физического объекта, как мозг, — равно как и возражать против. Как бы то ни было, крайне маловероятно, что в безлюдном окружении может обнаружиться нечто такое, что не поддается вычислению столь же фундаментально, как это делают некоторые процессы внутри человеческого тела. (См. также) Думаю, мало кто всерьез полагает, что среди всего, что имеет хоть какое-то отношение к окружению самообучающегося робота, может оказаться что-либо, принципиально невычислимое.
Впрочем, говоря о «принципиально» вычислимой природе окружения, не следует забывать об одном важном моменте. Вне всякого сомнения, на реальное окружение любого развивающегося живого организма (или некоей изощренной робототех-нической системы) оказывают влияние весьма многочисленные и порой невероятно сложные факторы, вследствие чего любое моделирование этого окружения со сколько-нибудь приемлемой точностью вполне может оказаться неосуществимым практи чески. Динамическое поведение даже относительно простых физических систем бывает порой чрезвычайно сложным, при этом его зависимость от мельчайших нюансов начального состояния может быть настолько критической, что предсказать дальнейшее поведение такой системы решительно невозможно — в качестве примера можно привести ставшую уже притчей во языцех проблему долгосрочного предсказания погоды. Подобные системы называют хаотическими; см. § 1.7. (Хаотические системы характеризуются сложным и эффективно непредсказуемым поведением. Однако математически эти системы объяснить вполне возможно; более того, их активное изучение составляет весьма существенную долю современных математических исследований.) Как уже указывалось в § 1.7, хаотические системы я также включаю в категорию «вычислительных» (или «алгоритмических»). Для наших целей важно подчеркнуть один существенный момент, касающийся хаотических систем: нет никакой необходимости в воспроизведении того или иного реального хаотического окружения, вполне достаточно воспроизвести окружение типичное. Например, когда мы хотим узнать погоду на завтра, насколько точная информация нам в действительности нужна? Не сгодится ли любое правдоподобное описание?
.
3.11. Как обучаются роботы?
Учитывая вышесказанное, предлагаю остановиться на том, что на самом-то деле нас сейчас интересуют отнюдь не проблемы численного моделирования окружения. В принципе, возможностей поработать с окружением у нас будет предостаточно — но только в том случае, если не возникнет никаких трудностей с моделированием внутренних правил самой робототехнической системы. Поэтому перейдем к вопросу о том, как мы видим себе обучение нашего робота. Какие вообще процедуры обучения доступны вычислительному роботу? Возможно, ему будут предварительно заданы некие четкие правила вычислительного характера, как это обычно делается в нынешних системах на основе искусственных нейронных сетей (см. § 1.5). Такие системы подразумевают наличие некоторого четко определенного набора вычислительных правил, в соответствии с которыми усиливаются или ослабляются связи между составляющими сеть «нейронами», посредством чего достигается улучшение качества общего функционирования системы согласно критериям (искусственным или естественным), задаваемым внешним окружением. Еще один тип систем обучения образуют так называемые «генетические алгоритмы» — нечто вроде естественного отбора (или, если хотите, «выживания наиболее приспособленных») среди различных алгоритмических процедур, выполняемых на одной вычислительной машине; посредством такого отбора выявляется наиболее эффективный в управлении системой алгоритм.
Следует пояснить, что упомянутые правила (что характерно для восходящей организации вообще) несколько отличаются от стандартных нисходящих вычислительных алгоритмов, действующих в соответствии с известными процедурами для отыскания точных решений математических проблем. Восходящие правила лишь направляют систему к некоему общему улучшению качества ее функционирования. Впрочем, это не мешает им оставаться целиком и полностью алгоритмическими — в смысле воспроизводимости на универсальном компьютере (машине Тьюринга).
В дополнение к четким правилам такого рода, в совокупность средств, с помощью которых наша робототехническая система будет модифицировать свою работу, могут быть включены и некоторые случайные элементы. Возможно, эти случайные составляющие будут вноситься посредством каких-нибудь физических процессов — например, такого квантово-механического процесса, как распад ядер радиоактивных атомов. На практике при конструировании искусственных вычислительных устройств имеет место тенденция к введению какой-либо вычислительной процедуры, результат вычисления в которой является случайным по существу (иначе такой результат называют псевдослучайным), хотя на деле он полностью определяется детерминистским характером самого вычисления (см. ). С описанным способом тесно связан другой, суть которого заключается в точном указании момента времени, в который производится вызов «случайной» величины, и введении затем этого момента времени в сложную вычислительную процедуру, которая и сама является, по существу, хаотической системой, вследствие чего малейшие изменения во времени дают эффективно непредсказуемые различия в результатах, а сами результаты становятся эффективно случайными. Хотя, строго говоря, наличие случайных компонентов и выводит наши процедуры за рамки определения «операции машины Тьюринга», каких-то существенных изменений это за собой не влечет. В том, что касается функционирования нашего робота, случайным входным данным на практике оказываются эквивалентны псевдослучайные, а псевдослучайные входные данные ничуть не противоречат возможностям машины Тьюринга.
«Ну и что, что на практике случайные входные данные не отличаются от псевдослучайных? — заметит дотошный читатель. — Принципиальная-то разница между ними есть». На более раннем этапе нашего исследования (см., в частности, 3.4) нас и в самом деле занимало то, чего математики могут достичь в принципе, вне зависимости от их практических возможностей. Более того, в определенных математических ситуациях проблему можно решить исключительно с помощью действительно случайных входных данных, никакие псевдослучайные заместители для этого не годятся. Подобные ситуации возникают, когда проблема подразумевает наличие некоего «состязательного» элемента, как часто бывает, например, в теории игр и криптографии. В некоторых видах «игр на двоих» оптимальная стратегия для каждого из игроков включает в себя, помимо прочего, и полностью случайную составляющую. Любое сколько-нибудь последовательное пренебрежение одним из игроков необходимым для построения оптимальной стратегии элементом случайности позволяет другому игроку на протяжении достаточно длинной серии игр получить преимущество — по крайней мере, в принципе. Преимущество может быть достигнуто и в том случае, если противнику каким-то образом удалось составить достаточно достоверное представление о природе псевдослучайной (или иной) стратегии, используемой первым игроком вместо требуемой случайной. Аналогичным образом дело обстоит и в криптографии, где надежность кода напрямую зависит от того, насколько случайной является применяемая последовательность цифр. Если эта последовательность генерируется не истинно случайным образом, а посредством какого-либо псевдослучайного процесса, то, как и в случае с играми, этот процесс может в точности воспроизвести кто угодно, в том числе и потенциальный взломщик.
Поскольку случайность, как выясняется, представляет собой весьма ценное качество в таких состязательных ситуациях, то, на первый взгляд, можно предположить, что и в естественном отборе она должна играть не последнюю роль. Я даже уверен, что случайность и впрямь является во многих отношениях весьма важным фактором в процессе развития живых организмов. И все же, как мы убедимся несколько позднее в этой главе, одной лишь случайности оказывается недостаточно для того, чтобы вырваться из гёделевских сетей. И самые что ни на есть подлинно случайные элементы не помогут нашему роботу избежать ограничений, присущих вычислительным системам. Более того, у псевдослучайных процессов в этом смысле даже больше шансов, нежели у процессов чисто случайных (см.).
Допустим на некоторое время, что наш робот и в самом деле является, по существу, машиной Тьюринга (хотя и с конечной емкостью запоминающего устройства). Строго говоря, учитывая, что робот непрерывно взаимодействует со своим окружением, а это окружение, как мы предполагаем, также допускает численное моделирование, было бы правильнее принять за единую машину Тьюринга робота вместе с окружением. Однако в целях удобства изложения я все же предлагаю рассматривать отдельно робота, как собственно машину Тьюринга, и отдельно окружение, как источник информации, поступающей на входную часть ленты машины. Вообще-то такую аналогию нельзя считать вполне приемлемой по одной формальной причине — машина Тьюринга есть устройство фиксированное и по определению неспособное изменять свою структуру «по мере накопления опыта». Можно, конечно, попытаться изобрести способ, посредством которого машина Тьюринга сможет-таки изменить свою структуру, — например, заставить машину работать безостановочно, модифицируя свою структуру в процессе работы, для чего непрерывно подавать на ее вход информацию от окружения. К нашему разочарованию, этот способ не сработает, поскольку результат работы машины Тьюринга можно узнать только после того, как машина достигнет внутренней команды(см.и Приложениеа также HP К, глава 2), после чего она не будет ничего считывать с входной части своей ленты до тех пор, пока мы не запустим ее снова. Когда же мы ее запустим, для продолжения работы ей придется возвратиться в исходное состояние, т. е. «обучиться» таким способом она ничему не сможет.
Впрочем, эту трудность можно обойти при помощи некоторой технической модификации. Наша машина Тьюринга так и остается фиксированной, однако после каждого рабочего цикла, т. е. после достижения командыона дает на выходе два результата (формально кодируемые в виде одного-единственного числа). Первый результат определяет, каким в действительности будет ее последующее внешнее поведение, тогда как второй результат предназначен исключительно для внутреннего использования — в нем кодируется весь опыт, который машина получила от предыдущих контактов с окружением. В начале следующего цикла с входной части ее ленты сначала считывается та самая «внутренняя» информация и только после нее все «внешние» данные, которыми машину снабжает окружение, включая и подробную реакцию упомянутого окружения на ее предшествующее поведение. Таким образом, все результаты обучения оказываются записанными на, скажем так, внутреннем участке ленты, который машина в каждом рабочем цикле считывает заново (и который с каждым циклом становится все длиннее и длиннее).
3.12. Способен ли робот на «твердые математические убеждения»?
Воспользовавшись вышеописанным способом, мы и в самом деле можем представить себе в высшей степени обобщенного самообучающегося вычислительного «робота» в виде машины Тьюринга. Далее, предполагается, что наш робот способен судить об истинности математических утверждений, пользуясь при этом всеми способностями, потенциально присущими математикам-людям. И как же он будет это делать? Вряд ли нас обрадует необходимость кодировать каким-нибудь исключительно «нисходящим» способом все математические правила (все те, что входят в формальную системуплюс все те, что туда не входят, о чем мы говорили выше), которые понадобятся роботу для того, чтобы иметь возможность непосредственно формировать собственные суждения подобно тому, как это делают люди, исходя из известных им правил, — поскольку, как мы могли убедиться, не существует ни одного сколько-нибудь приемлемого способа (за исключением, разумеется, «божественного вмешательства» — см.), посредством которого можно было бы реализовать такой неимоверно сложный и непознаваемо эффективный нисходящий алгоритм. Следует, очевидно, допустить, что какими бы внутренними «нисходящими» элементами ни обладал наш робот, они не являются жизненно важными для решения сложных математических проблем, а представляют собой всего лишь общие правила, обеспечивающие, предположительно, почву для формирования такого свойства как «понимание».
Выше (см.) мы говорили о двух различных категориях входных данных, которые могут оказать существенное влияние на поведение нашего робота: искусственных и естественных. В качестве искусственного аспекта окружения мы рассматриваем учителя (одного или нескольких), который сообщает роботу о различных математических истинах и старается подтолкнуть его к выработке каких-то внутренних критериев, с помощью которых робот мог бы самостоятельно отличать истинные утверждения от ложных. Учитель может информировать робота о совершенных тем ошибках или рассказывать ему о всевозможных математических понятиях и различных допустимых методах математического доказательства. Конкретные процедуры, применяемые в процессе обучения, учитель выбирает по мере необходимости из широкого диапазона возможных вариантов: «упражнение», «объяснение», «наставление» и даже, возможно, «порка». Что до естественных аспектов физического окружения, то они отвечают за «идеи», возникающие у робота в процессе наблюдения за поведением физических объектов; кроме того, окружение предоставляет роботу конкретные примеры воплощения различных математических понятий — например, понятия натуральных чисел: два апельсина, семь бананов, четыре яблока, один носок, ни одного ботинка и т. д., — а также хорошие приближения идеальных геометрических объектов (прямая, окружность) и некоторых бесконечных множеств (например, множество точек, заключенных внутри окружности).
Поскольку наш робот избежал-таки предварительного, полностью нисходящего программирования и, как мы предполагаем, формирует собственное понятие о математической истине с помощью всевозможных обучающих процедур, то нам следует позволить ему совершать в процессе обучения ошибки — с тем, чтобы он мог учиться и на своих ошибках. Первое время, по крайней мере, на эти ошибки ему будет указывать учитель. Или робот может самостоятельно обнаружить из наблюдений за окружением, что какие-то из его предыдущих, предположительно истинных математических суждений оказываются в действительности ошибочными, либо сомнительными и подлежащими повторной проверке. Возможно, он придет к такому выводу, основываясь исключительно на собственных соображениях о противоречивости этих своих суждений и т.д. Идея такова, что по мере накопления опыта робот будет делать все меньше и меньше ошибок. С течением времени учителя и физическое окружение будут становиться для робота все менее необходимыми — возможно, в конечном счете, окажутся и вовсе ненужными, — и при формировании своих математических суждений он будет все в большей степени опираться на собственную вычислительную мощь. Соответственно, можно предположить, что в дальнейшем наш робот не ограничится теми математическими истинами, что он узнал от учителей или вывел из наблюдений за физическим окружением. Возможно, впоследствии он даже внесет какой-либо оригинальный вклад в математические исследования.
Для того чтобы оценить степень правдоподобия нарисованной нами картины, необходимо соотнести ее с теми вещами, что мы обсуждали ранее. Если мы хотим, чтобы наш робот и в самом деле обладал всеми способностями, пониманием и проницательностью математика-человека, ему потребуется какая-никакая концепция «неопровержимой математической истины». Его ранние попытки в формировании суждений, исправленные учителями или обесцененные наблюдением за физическим окружением, в эту категорию никоим образом не попадают. Они относятся к категории «догадок», а догадкам позволяется быть предварительными, пробными и даже ошибочными. Если предполагается, что наш робот должен вести себя как подлинный математик, то даже те ошибки, которые он будет порой совершать, должны быть исправимыми — причем, в принципе, исправимыми именно в соответствии с его собственными внутренними критериями «неопровержимой истинности».
Выше мы уже убедились, что концепцию «неопровержимой истины», которой руководствуется в своей деятельности математик-человек, нельзя сформировать посредством какого бы то ни было познаваемого (человеком) набора механических правил, в справедливости которых этот самый человек может быть целиком и полностью уверен. Если мы полагаем, что наш робот способен достичь уровня математических способностей, достижимого, в принципе, для любого человеческого существа (а то и превзойти этот уровень), то в этом случае его (робота) концепция неопровержимой математической истины также должна представлять собой нечто такое, что невозможно воспроизвести посредством набора механических правил, которые можно полагать обоснованными, — т. е. которые может полагать обоснованными математик-человек или, коли уж на то пошло, математик-робот.
В связи с этими соображениями возникает один весьма важный вопрос: чьи же концепции, восприятие, неопровержимые убеждения следует считать значимыми — наши или роботов? Можно ли полагать, что робот действительно обладает убеждениями или способен что-либо осознавать? Если читатель придерживается точки зрения, то он, возможно, сочтет такой вопрос несколько неуместным, поскольку сами понятия «осознания» или «убеждения» относятся к описанию процесса мышления и поэтому никоим образом неприменимы к целиком компьютерному роботу. Однако в рамках настоящего рассуждения нет необходимости в том, чтобы наш гипотетический робот и в самом деле обладал какими-то подлинными ментальными качествами, коль скоро мы допускаем, что он способен внешне вести себя в точности подобно математику-человеку — в полном соответствии с самыми строгими формулировками как, так и. Нам не нужно, чтобы робот действительно понимал, осознавал или верил, достаточно того, что внешне он проявляет себя в точности так, будто он этими ментальными качествами в полной мере обладает. Подробнее об этом мы поговорим в
Точка зренияне отличается принципиально отв том, что касается ограничений, налагаемых на возможную манеру поведения робота, однако сторонники, скорее всего, питают несколько меньшие надежды в отношении тех высот, которых на деле может достичь робот, или вероятности создания вычислительной системы, которую можно было бы полагать способной на эффективное моделирование деятельности мозга человека, оценивающего обоснованность того или иного математического рассуждения. Подобное человеческое восприятие предполагает все же некоторое понимание смысла затронутых математических концепций. Согласно точке зрения, во всем этом нет ничего, выходящего за рамки некоторого свойства вычисления, связанного с понятием «смысла», тогда какрассматривает смысл в качестве семантического аспекта мышления и не допускает возможности его описания в чисто вычислительных терминах. В этом мы согласны с точкой зренияи отнюдь не ожидаем от нашего робота способности действительно ощущать тонкие семантические различия. Таким образом, сторонники, возможно, менее (нежели сторонники) склонны предполагать, что какой бы то ни было робот, сконструированный в соответствии с обсуждаемыми здесь принципами, окажется когда-либо способен на демонстрацию тех внешних проявлений человеческого понимания, какие свойственны математикам-людям. Полагаю, отсюда можно сделать вывод (не такой, собственно, и неожиданный), что сторонниковбудет существенно легче обратить в приверженцев, чем сторонников; впрочем, для нашего дальнейшего
исследования разница между A и B существенного значения не имеет.
В качестве заключения отметим, что, хотя истинность математических утверждений нашего робота, получаемых посредством преимущественно восходящей системы вычислительных процедур, носит заведомо предварительный и предположительный характер, следует допустить, что роботу действительно присущ некоторый достаточно «прочный» уровень неопровержимой математической «убежденности», вследствие чего некоторые из его утверждений (которым он будет присваивать некий особый статус — обозначаемый, скажем, знаком *(звёздочка)) следует считать неопровержимо истинными — согласно собственным критериям робота. О допустимости ошибочного присвоения роботом статуса * — пусть им же и исправимом — мы поговорим в § 3.19. А до той поры будем полагать, что всякое -*-утверждение робота следует рассматривать как безошибочное.
3.13. Механизмы математического поведения робота
Рассмотрим различные механизмы, лежащие в основе процедур, управляющих поведением робота в процессе получения им *-утверждений. Некоторые из этих процедур являются по отношению к роботу внутренними — некоторые нисходящие внутренние ограничители, встроенные в модель функционирования робота, а также те или иные заранее определенные восходящие процедуры, посредством которых робот улучшает качество своей работы (с тем чтобы постепенно достичь *-уровня). Разумеется, мы полагаем, что все эти процедуры, в принципе, познаваемы человеком (хотя окончательный результат совокупного действия всех этих разнообразных факторов вполне может оказаться за пределами вычислительных способностей математика-человека). В самом деле, если мы допускаем, что человеческие существа в один прекрасный день сконструируют робота, наделенного подлинным математическим талантом, то следует непременно допустить и то, что человек способен понять внутренние принципы, в соответствии с которыми будет построен этот робот, иначе любое подобное начинание обречено на провал.
Безусловно, мы отдаем себе отчет в том, что создание такого робота вполне может оказаться многоступенчатым процессом:
иначе говоря, возможно, что наш робот-математик будет целиком и полностью построен какими-либо роботами «низшего порядка» (которые сами не способны на подлинно математическую деятельность), а эти роботы, в свою очередь, построены другими роботами еще более низкого порядка. Однако запущена в производство вся эта иерархическая цепочка будет все равно человеком, и исходные правила ее построения (по всей видимости, некая комбинация нисходящих и восходящих процедур) будут в любом случае доступны человеческому пониманию.
Существенно важными для процесса развития робота являются и всевозможные внешние факторы, привносимые окружением. Внешний мир и в самом деле может обеспечить нашего робота весьма значительным объемом вводимых данных, поступающих как от учителей-людей (или роботов), так и из наблюдений за естественным физическим окружением. Что до естественных внешних факторов, привносимых «безлюдным» окружением, то «непознаваемыми» их, как правило, не считают. Эти факторы могут быть очень сложными, часто они взаимодействуют между собой, и все же эффективное «виртуально-реальное» моделирование существенных аспектов нашего окружения уже вполне осуществимо (см. § 1.20). По-видимому, ничто не мешает модифицировать эти модели таким образом, чтобы робот с их помощью получал все, что ему нужно для развития в смысле внешних естественных факторов, — не забывая при этом о том, что вполне достаточно смоделировать типичное окружение, воспроизводить какое-то реально существующее необходимости нет (см.).
Вмешательство в процесс людей (или роботов) — т. е. внешних, «искусственных» факторов — может происходить на различных его этапах, однако это никоим образом не влияет на существенную познаваемость механизмов этого вмешательства, при условии, разумеется, что мы допускаем возможность каким-то познаваемым образом «механизировать» вмешательство человека. Справедливо ли такое допущение? Думаю, вполне естественно (по крайней мере, для сторонника точки зрения) предположить, что любое человеческое вмешательство в процесс развития робота и в самом деле можно заменить какими-либо целиком и полностью вычислительными процедурами. Мы же не требуем, чтобы в этом вмешательстве непременно присутствовало что-либо непостижимо мистическое — скажем, некая неопределимая «сущность», какую учитель-человек должен был бы передавать своему ученику-роботу в процессе обучения. Мы полагаем, что при обучении роботу необходимо получать всего лишь те или иные фундаментальные сведения, а передачу ему этих сведений проще всего поручить именно человеку. Весьма вероятно, что, как и в случае с учениками-людьми, наиболее эффективной будет передача информации в интерактивной форме, когда поведение учителя зависит от реакции ученика. Однако и это обстоятельство, само по себе, отнюдь не исключает возможности эффективно вычислительного поведения учителя. В конце концов, все наши рассуждения в настоящей главе представляют собой одно сплошное reductio ad absurdum, в рамках которого мы допускаем, что в поведении человеческих существ вообще нет ничего существенно невычислимого. А тем, кто уже и так придерживается точек зрения(эти последние, несомненно, склонны, скорее, поверить в возможность существования упомянутой выше невычислимой «сущности», передаваемой роботу в силу одного лишь человеческого происхождения учителя), все эти доказательства в любом случае совершенно не нужны.
Если рассматривать все эти механизмы (т. е. внутренние вычислительные процедуры и данные, поступающие от интерактивного внешнего окружения) в совокупности, то создается впечатление, что нет каких-либо разумных причин полагать их принципиально непознаваемыми, — даже если кто-то и настаивает на том, что, на практике, в точности просчитать результирующие проявления внешних из упомянутых механизмов не в силах человеческих (и даже не в силах любого из существующих или предвидимых в обозримом будущем компьютеров). К вопросу о познаваемости вычислительных механизмов мы еще вернемся, причем довольно скоро (в конце). А пока допустим, что
все эти механизмы действительно познаваемы, и обозначим набор таких механизмов буквойВозможно ли, что некоторые из полученных с помощью этих механизмов утверждений-уровня окажутся, тем не менее, непознаваемыми для человека? Обоснованно ли такое предположение? Вообще говоря, нет — при условии, что в данном контексте мы продолжаем интерпретировать понятие «познаваемости» в том же принципиальном смысле, который мы применяли в отношении случаеви который был исчерпывающе определен в началеТот факт, что нечто (например, формулировка некоего-утверждения) может оказаться за пределами невооруженных вычислительных способностей человеческого существа, к данному случаю отношения не имеет. Ничуть не возбраняется и «вооружить» человека теми или иными средствами содействия мыслительным процессам — например, карандашом и бумагой, карманным калькулятором либо универсальным компьютером в комплекте с программным обеспечением нисходящего типа. Даже если добавить к уже имеющимся вычислительным процедурам какие-либо восходящие компоненты, то мы не получим ничего такого, чего не могли бы в принципе получить раньше — при условии, разумеется, что лежащие в основе этих восходящих процедур фундаментальные механизмы доступны человеческому пониманию. С другой стороны, вопрос о «познаваемости» самих механизмовследует рассматривать уже в «практическом» смысле — в полном соответствии с принятой втерминологией. Таким образом, на данный момент мы полагаем, что механизмыявляются действительно познаваемыми практически.
Обладая знанием механизмовмы можем использовать их при создании фундамента для построения формальной системы, при этом теоремами такой системы станут следующие положения: -утверждения, непосредственно следующие из применения упомянутых механизмов, илюбые положения, выводимые из этих-утверждений с применением правил элементарной логики. Под «элементарной логикой» здесь могут пониматься, скажем, правила исчисления предикатов (описанные в) или какая-либо иная столь же прямая и четко определенная неопровержимая система аналогичных логических правил (вычислительных). Мы вполне способны построить формальную системув силу того простого факта, что процедура, посредством которой из набора механизмовполучаются, одно за другим, необходимые-утверждения, является процедурой вычислительной (пусть на практике и весьма громоздкой). Отметим, что определяемая таким образом процедурабудет генерировать утверждения группы однако вовсе не обязательно все положения группы(поскольку можно допустить, что нашему роботу, по всей вероятности, попросту надоест тупо выводить все логические следствия из вырабатываемых им теорем). Таким образом, процедуране эквивалентна в точности формальной системеоднако различие между ними не существенно. К тому же ничто не мешает нам при желании
получить из процедурыдругую процедуру — такую, например, которая будет эквивалентна
Далее, для интерпретации формальной системынеобходимо каким-то образом устроить так, чтобы на всем протяжении развития робота статусвсегда и непременно означал, что удостоенное его утверждение действительно следует полагать неопровержимо доказанным. В отсутствие поступающих от учителя-человека (неважно, в какой форме) внешних данных мы не можем быть уверенными в том, что робот не выработает самостоятельно некий отличный от нашего язык, в котором символ будет иметь совершенно иное значение (либо вовсе окажется бессмысленным). Для того чтобы определение формальной системына языке робота согласовывалось с нашим ее определением,необходимо в процессе обучения робота (например, учителем-человеком) проследить за тем, чтобы присваиваемое символу значение в точности соответствовало тому значению, какое внего вкладываем мы. Необходимо также проследить и за тем, чтобы система обозначений, которой робот фактически пользуется при формулировке своих, скажем,-высказываний, в точности совпадала с аналогичной системой, имеющей хождение у нас (или допускала какое-либо явное преобразование в нашу систему). Если допустить, что механизмыпознаваемы человеком, то из вышесказанного следует, что аксиомы и правила действия формальной системытакже должны быть познаваемыми. Более того, и всякую теорему, выводимую в рамках системы, следует, в принципе, полагать познаваемой человеком (втом смысле, что мы в состоянии понять ее описание, а не определить в обязательном порядке ее неопровержимую истинность), даже если вычислительные процедуры, необходимые для получения большей части таких теорем, окажутся далеко за пределами невооруженных вычислительных способностей человека.
3.14. Фундаментальное противоречие Предшествующая дискуссия, в сущности, показывает, что «непознаваемый и неосознаваемый алгоритм F», который, согласно допущению, лежит в основе восприятия математической истины, вполне возможно свести к алгоритму осознанно познаваемому — при условии, что нам, следуя заветам адептов ИИ,
удастся запустить некую систему процедур, которые в конечном счете приведут к созданию робота, способного на математические рассуждения на человеческом (а то и выше) уровне. Непознаваемый алгоритмзаменяется при этом вполне познаваемой
формальной системой
Прежде чем мы приступим к подробному рассмотрению этого аргумента, необходимо обратить внимание на один существенный момент, который мы до сих пор незаслуженно игнорировали — речь идет о возможности привнесения на разных этапах процесса развития робота неких случайных элементов взамен раз и навсегда фиксированных механизмов. В свое время нам еще предстоит обратиться к этому вопросу, пока же я буду полагать, что каждый такой случайный элемент следует рассматривать как результат выполнения какого-либо псевдослучайного (хаотического) вычисления. Как было показано ранее, таких псевдослучайных компонентов на практике оказывается вполне достаточно. К случайным элементам в «образовании» робота мы еще вернемся вгде более подробно поговорим о подлинной случайности в применении к нашему случаю, а пока, говоря о «наборе механизмов», я буду предполагать, что все эти механизмы действительно являются целиком и полностью вычислительными и свободными от какой бы то ни было реальной
неопределенности.
Суть противоречия заключается в том, что на месте алгоритма, фигурировавшего в наших предыдущих рассуждениях (например, того алгоритма, о котором мы говорили вв связи с допущением), с неизбежностью оказывается формальная система Вследствие чего случайэффективно сводится
к случаюI и тем самым не менее эффективно из рассмотрения исключается. Выступая в рамках данного доказательства в роли сторонников точек зрения, мы предполагаем, что наш
робот, в принципе, способен (с помощью обучающих процедур той же природы, что установили для него мы) достичь в конечном счете любых математических результатов, каких в состоянии достичь человек. Мы должны также допустить, что робот способен достичь и таких результатов, какие человеку в принципе не по силам. Так или иначе, нашему роботу предстоит обзавестись способностью к пониманию мощи аргументации Гёделя (или, по крайней мере, способностью сымитировать такое понимание — согласно). Иначе говоря, относительно любой заданной
(достаточно обширной) формальной системы Н робот должен оказаться в силах неопровержимо установить тот факт, что из обоснованности системыследует истинность его гёделевского5 утвержденияа также то, что утверждениене является теоремой системыВ частности, робот сможет установить, что из обоснованности системынеопровержимо следует истинность утвержденияэта же обоснованность предполагает, что утверждениене является теоремой системы
С помощью в точности тех же рассуждений, какими мы воспользовались вприменительно к человеческому математическому пониманию, непосредственно из вышеизложенных соображений выводится, что робот никоим образом не способен твердо поверить в то, что совокупность его собственных — и, на его взгляд, неопровержимых — математических убеждений действительно эквивалентна некоей формальной системе И это несмотря на тот факт, что мы (выступая в роли соответствующих экспертов по проблемам ИИ) прекрасно осведомлены о том, что в основе системы математических убеждений робота лежит не что-нибудь, а именно набор механизмовчто автоматически означает, что система неопровержимых убеждений робота является полным эквивалентом системыЕсли бы робот вдруг твердо поверил в то, что все его убеждения укладываются в рамки системыто тогда ему пришлось бы поверить и в обоснованность этой самой системыСоответственно, ему также пришлось бы одновременно поверить и в истинность утверждения и в то, что упомянутое утверждение в его систему убеждений не входит — неразрешимое противоречие! Иначе говоря, робот никак не может знать о том, что он сконструирован в соответствии с тем или иным набором механизмовА поскольку об этой особенности его конструкции знаем — или по крайней мере, в состоянии узнать — мы с вами, то получается, что нам доступны такие математические истины (например, утверждениекоторые роботу оказываются не по силам, хотя изначально предполагалось, что способности робота будут равны способностям человека (или даже превысят их).
3.15. Способы устранения фундаментального противоречия
Приведенное выше рассуждение можно рассматривать двояко — с точки зрения создавших робота людей либо с точки зрения самого робота. С человеческой точки зрения существует некоторая неопределенная вероятность того, что математику-человеку претензии робота на обладание неопровержимой истиной покажутся неубедительными, разве что упомянутый математик-человек примет во внимание какие-то отдельные конкретные аргументы из тех, что использует робот. Возможно, не все теоремы системычеловек сочтет неопровержимо истинными, кроме того, как нам помнится, интеллектуальные способности робота могут существенно превышать таковые же способности человека. Таким образом, можно утверждать, что одно лишь знание о том, что робот сконструирован в соответствии с неким набором механизмовне следует рассматривать в качестве неопровержимо убедительной (для человека) математической демонстрации. Соответственно, мы должны пересмотреть все вышеприведенное рассуждение — на этот раз с точки зрения робота. Какие огрехи в нашем обосновании в состоянии заметить (и использовать) робот?
По-видимому, наш робот располагает всего лишь четырьмя основными возможностями для нейтрализации фундаментального противоречия — при условии, конечно, что сам робот осведомлен о том, что он является в некотором роде вычислительной машиной.
(a) Возможно, что робот, принимая в целом утверждение о том, что в основе его конструкции лежит некий набор механизмовтем не менее, неизбежно остается неспособен безоговорочно поверить в этот факт.
(b) Возможно, что робот, будучи безоговорочно убежден в истинности каждого отдельного-утверждения в тот момент, когда он его формулирует, все же сомневается в достоверности полной системы своих-утверждений — соответственно, робот может не верить в то, что формальная системаи в самом деле лежит в основе всей его системы убеждений в отношении-высказываний.
(c) Возможно, что подлинный набор механизмовсущественно зависит от случайных элементов и не может быть адекватно описан через посредство неких известных результатов псевдослучайных вычислений, подаваемых на входное устройство робота.
(d) Возможно, что подлинный набор механизмовв действительности непознаваем.
В последующих девяти разделах представлен ряд веских аргументов, убедительно демонстрирующих, что первые три лазейки оказываются для робота, задавшегося целью обойти фундаментальное противоречие, совершенно бесполезными. Соответственно, робот (а вместе с ним и мы — если мы, конечно, продолжаем настаивать на том, что математическое понимание можно свести к вычислению) начинает всерьез подумывать о не очень привлекательной возможностиУверен, что непривлекательной возможностьнахожу не я один — думаю, в этом со мной согласятся и те читатели, которым не безразлична судьба идеи искусственного интеллекта. Ее, пожалуй, приемлемо рассматривать лишь в качестве возможной мировоззренческой позиции, укладывающейся, по сути своей, в рамки той самой комбинации точек зренияо которой мы говорили в конце и согласно которой для внедрения непознаваемого алгоритма в «мозг» каждого из наших роботов требуется, ни много ни мало, божественное вмешательство (от «первого в мире программиста»). В любом случае, вердикт «непознаваемо», вынесенный в отношении тех самых механизмов, которые, в конечном счете, ответственны за наличие у нас какого ни на есть разума, вряд ли обрадует тех, кто намерен, вообще говоря, построить робота, наделенного подлинным искусственным интеллектом. Не особенно обрадует он и тех из нас, кто все еще надеется понять, принципиально и не выходя за рамки строго научного подхода, каким образом в действительности возникло у человека такое свойство, как интеллект, объяснить его происхождение посредством четко формулируемых научных законов — законов физики, химии, биологии, законов естественного отбора, в конце концов, — пусть даже и не имея в виду воспроизвести этот самый интеллект в каком бы то ни было робототехническом устройстве. Лично я полагаю, что подобный пессимистический вердикт не имеет под собой никаких оснований — по той хотя бы простой причине, что «научная постижимость» имеет весьма мало общего с «вычислимостью». Законы, лежащие в основе мыслительных процессов не являются непостижимыми, они всего лишь невычислимы. На эту тему мы еще поговорим во второй части книги.
3.16. Необходимо ли роботу верить в механизмы М?
Вообразим, что у нас имеется робот, снабженный некоторым возможным набором механизмов— каковой набор может оказаться тем самым, на основе которого и построен наш робот, но это не обязательно. Я попробую убедить читателя в том, что робот будет вынужден отвергнуть возможность того, что его математическое понимание опирается на набор механизмов независимо от того, как обстоит дело в действительности. При этом мы на время допускаем, что робот по тем или иным причинам уже отбросил вариантыи приходим к выводу (несколько даже неожиданному), что сам по себе вариант избежать парадокса не позволяет.
Рассуждать мы будем следующим образом. Обозначим черезгипотезу «В основе математического понимания робота лежит набор механизмов» и рассмотрим утверждение вида «Такое-то-высказывание является следствием из».
Такое утверждение (в том случае, когда робот твердо верит в его истинность) я буду называть -утверждением. Иначе говоря, под-утверждениями не обязательно понимаются те-высказывания, в истинность которых как таковых неопровержимо верит робот, но те-высказывания, которые робот полагает неопровержимо выводимыми из гипотезы. Изначально от робота не требуется обладание какими бы то ни было взглядами относительно возможности того, что в основе его конструкции действительно лежит набор механизмов Он может даже поначалу счесть такое предположение абсолютно невероятным, но, тем не менее, ничто не мешает ему рассмотреть (в подлинно научной традиции) возможные следствия из гипотезы о таком вот его происхождении.
Существуют ли-высказывания, которые робот должен полагать неопровержимыми следствиями из гипотезыи которые при этом не являются самыми обыкновенными-утверждениями, вовсе не требующими привлечения этой гипотезы? Разумеется, существуют. Как было отмечено в концеистинность hi-высказыванияследует из обоснованности формальной системыотсюда же следует и тот факт, что утверждениене является теоремой системы Более того, в этом робот будет совершенно безоговорочно убежден. Если допустить, что робот вполне согласен с тем, что все его неопровержимые убеждения укладывались бы в рамки системыбудь он действительно сконструирован в соответствии с набором механизмов— т. е. что возможность он из рассмотрения исключает, — то получается, что наш робот и в самом деле должен твердо верить в то, что обоснованность системыявляется следствием гипотезы. Таким образом, робот оказывается безоговорочно убежден как в том, что-высказываниеследует из гипотезы, так и в том, что (согласно) он не способен непосредственно постичь его неопровержимую истинность без привлечения(поскольку формальной системе оно не принадлежит). Соответственно, утверждениеявляется-утверждением, но не *-утверждением.
Предположим, что формальная системапостроена в точности так же, как и система, с той лишь разницей, что роль, которую при построении системы исполняли-утверждения, сейчас берут на себя-утверждения. Иначе говоря, теоремами системы являются либо(i) сами-утверждения, либоположения, выводимые из этих-утверждений с применением правил элементарной логики (см.). Точно так же, как робот на основании гипотезысогласен с тем, что формальная системаохватывает все его неопровержимые убеждения относительно истинности-высказываний, он будет согласен и с тем, что формальная системаохватывает все его неопровержимые убеждения относительно истинности-высказываний, обусловленных гипотезой
Далее предложим роботу рассмотреть гёделевское-высказываниеРобот, несомненно, проникнется неопровержимым убеждением в том, что это П1-высказывание является следствием из обоснованности системыОн также вполне безоговорочно поверит в то, что обоснованность системыявляется следствием гипотезыпоскольку он согласен с тем, что системадействительно содержит в себе все, в чем робот неопровержимо убежден в отношении своей способности выводить-высказывания, основываясь на гипотезе(Он будет рассуждать следующим образом: «Если я принимаю гипотезу, то я тем самым принимаю и все П1-высказывания, которые порождают системуТаким образом, я должен согласиться с тем, что системаявляется обоснованной на основании гипотезы. Следовательно, на основании все той же гипотезы, я должен признать и то, что утверждениеистинно».)
Однако, поверив (безоговорочно) в то, что гёделевское высказываниеявляется следствием гипотезы робот будет вынужден будет поверить и в то, что утверждениеявляется теоремой формальной системы А в это он сможет поверить только в том случае, если он полагает системунеобоснованной, — что решительно противоречит принятию им гипотезы
В некоторых из вышеприведенных рассуждений неявно допускалось, что неопровержимая убежденность робота является действительно обоснованной, — хотя необходимо лишь, чтобы сам робот просто верил в обоснованность своей системы убеждений. Впрочем, мы изначально предполагаем, что наш робот обладает математическим пониманием, по крайней мере, на человеческом уровне, а человеческое математическое понимание, как было показано впринципиально является обоснованным.
Возможно, кто-то усмотрит в формулировке допущения равно как и в определении-утверждения, некоторую неоднозначность. Смею вас уверить, что подобное утверждение, будучи-высказыванием, представляет собой в высшей степени определенное математическое утверждение. Можно предположить, что большинство-утверждений робота окажутся в действительности самыми обыкновенными-утверждениями, поскольку маловероятно, что робот при каких угодно обстоятельствах сочтет целесообразным прибегать в своих рассуждениях к самой гипотезе. Исключением может стать утверждениео котором говорилось выше, так как в данном случае формальная системавыступает, с точки зрения робота, в роли гёделевской гипотетической «машины для доказательства теорем»Вооружившись гипотезой, робот получает доступ к своей собственной «машине для доказательства теорем», и, хотя он не может быть (да и, скорее всего, не будет) безоговорочно убежден в обоснованности своей «машины», робот способен предположить, что она может оказаться обоснованной, и попытаться вывести следствия уже из этого предположения.
На этом этапе робот еще не добирается до парадокса — так же, как не добрался до него и Гёдель в своих рассуждениях о человеческом интеллекте (см. цитату в). Однако, поскольку роботу доступен для исследования набор гипотетических механизмова не просто отдельная формальная системаон может повторить свое рассуждение и перейти от системы к системе, обоснованность которой он по-прежнему полагает простым следствием из гипотезы. Именно это и приводит его в конечном итоге к противоречию (чего мы, собственно, и добивались). (См. также, где мы продолжим рассмотрение системыи ее кажущейся связи с «парадоксальными рассуждениями».)
Вывод: ни одно обладающее сознанием и имеющее понятие о математике существо — иначе говоря, ни одно существо со способностью к подлинному математическому пониманию — не может функционировать в соответствии с каким бы то ни было набором постижимых им механизмов, вне зависимости от того, знает ли оно в действительности о том, что именно эти механизмы, предположительно, направляют его на его пути к неопровержимой математической истине. (Вспомним и о том, что «неопровержимой математической истиной» это существо полагает всего лишь то, что оно способно установить математическими методами, — т. е. с помощью «математического доказательства», причем совсем необязательно «формального».)
Если конкретнее, то на основании предшествующих рассуждений мы склонны заключить, что не существует такого постижимого роботом и не содержащего подлинно случайных компонентов набора вычислительных механизмов, какой робот мог бы принять (даже в качестве возможности) как основу своей системы математических убеждений, — при условии, что робот готов согласиться с тем, что специфическая процедура, предложенная мною для построения формальной системына основе механизмов, и в самом деле охватывает всю совокупность Щ -высказываний, в истинность которых он неопровержимо верит, а также, соответственно, с тем, что формальная система охватывает всю совокупность-высказываний, которые, как он неопровержимо верит, следуют из гипотезы. Кроме того, если мы хотим, чтобы робот смог построить собственную потенциально непротиворечивую систему математических убеждений, следует ввести в набор механизмовкакие-либо подлинно случайные составляющие.
Эти последние оговорки мы рассмотрим в последующих разделахВопрос о введении в набор механизмов возможных случайных элементов (вариант (с)) представляется удобным обсудить в рамках общего рассмотрения варианта (b). А для того чтобы рассмотреть вариант (b) с должной тщательностью, нам следует прежде в полной мере прояснить для себя вопрос об «убежденности» робота, который мы уже мимоходом затрагивали в конце
3.17. Робот ошибается и робот «имеет в виду»?
Важнейший вопрос из тех, с какими нам предстоит разобраться на данном этапе, звучит так: готов ли робот безоговорочно согласиться с тем, что — при условии его построения в соответствии с некоторым набором механизмов— формальная системакорректным образом включает в себя всю систему его математических убеждений в отношении-высказываний (равно как и с соответствующим предположением для системы)? Такое согласие подразумевает, прежде всего, что робот верит в обоснованность системы — т. е. в то, что все-высказывания, являющиеся-утверждениями, действительно истинны. Наши рассуждения требуют также, чтобы всякое-высказывание, в истинность которого робот в состоянии безоговорочно поверить, являлось непременно теоремой системы(т. е. чтобы в рамках системыробот мог бы определить «машину для доказательства теорем», аналогичную той, возможность создания которой в случае математиков-людей допускал Гёдель, см.). Вообще говоря, существенно не то, чтобы системадействительно играла такую универсальную роль в отношении потенциальных способностей робота, связанных с-высказываниями, а лишь то, чтобы она была достаточно обширна для того, чтобы допускать применение гёделевского доказательства к самой себе (и, соответственно, к системе). Позднее мы увидим, что необходимость в таком применении возникает лишь в случае некоторых конечных систем-высказываний.
Таким образом, мы — как, собственно, и робот — должны учитывать возможность того, что некоторые из-утверждений робота окажутся в действительности ошибочными, и то, что робот может самостоятельно обнаружить и исправить эти ошибки согласно собственным внутренним критериям, сути дела не меняет. А суть дела заключается в том, что поведение робота в этом случае становится как нельзя более похоже на поведение математика-человека. Человеку ничего не стоит оказаться в ситуации, когда он (или она) полагает, что истинность (или ложность) того или иного -высказывания неопровержимо установлена, в то время как в его рассуждениях имеется ошибка, которую он обнаружит лишь значительно позднее. Когда ошибка наконец обнаруживается, математик ясно видит, что его ранние рассуждения неверны, причем в соответствии с теми же самыми критериями, какими он руководствовался и ранее; разница лишь в том, что ранее ошибка замечена не была, — и вот-высказывание, полагаемое неопровержимо истинным тогда, воспринимается сейчас как абсолютно ложно.е (и наоборот).
Мы вполне можем ожидать подобного поведения и от робота, т. е. на его-утверждения, вообще говоря, полагаться нельзя, пусть даже он и удостоил их самолично статуса. Впоследствии робот может исправить свою ошибку, однако ошибка-то уже сделана. Каким образом это обстоятельство отразится на нашем выводе относительно обоснованности формальной системы? Очевидно, что системане является целиком и полностью обоснованной, не «воспринимает» ее как таковую и робот, так что его гёделевскому предположениюдоверять нельзя. К этому, в сущности, и сводится суть оговорки (Ь).
Попробуем выяснить, может ли наш робот, приходя к тому или иному «неопровержимому» заключению, что-либо иметь в виду, и если да, то что именно. Уместно сопоставить эту ситуацию с той, что мы рассматривали в случае математика-человека. Тогда нас не занимало, что конкретно случилось обнаружить какому-либо реальному математику, нас занимало лишь то, что может быть принято за неопровержимую истину в принципе. Вспомним также знаменитую фразу Фейнмана: «Не слушайте, что я говорю; слушайте, что я имею в виду!». Похоже, нам нет необходимости исследовать то, что робот говорит, исследовать нужно то, что он имеет в виду. Не совсем, впрочем, ясно (особенно если исследователь имеет несчастье являться приверженцем скорее точки зрения, нежели), как следует интерпретировать саму идею того, что робот способен что бы то ни было иметь в виду. Если бы было возможно опираться не на то, что робот *-утверждает, а на то, что он в действительности «имеет в виду», либо на то, что он в принципе «должен иметь в виду», то тогда проблему возможно неточности его-утверждений можно было бы обойти. Беда, однако, в том, что в нашем распоряжении, по всей видимости, нет никаких средств, позволяющих снаружи получить доступ к информации о том, что робот «имеет в виду» или о том, что, «как ему кажется, он имеет в виду». До тех пор, пока речь идет о формальной системе, нам, судя по всему, придется полагаться лишь на доступные-утверждения, в достоверности которых мы не можем быть полностью уверены.
Не здесь ли проходит возможная операционная граница между точками зренияи? Не исключено, что так оно и есть; хотя позицииэквивалентны в отношении принципиальной возможности внешних проявлений сознательной деятельности в поведении физической системы, люди, этих позиций придерживающиеся, могут разойтись в своих ожиданиях как раз в вопросе о том, какую именно вычислительную систему можно рассматривать как способную осуществить эффективное моделирование мозговой активности человека, находящегося в процессе осознания справедливости того или иного математического положения (см. конец). Как бы то ни было, возможные расхождения в такого рода ожиданиях не имеют к нашему исследованию сколько-нибудь существенного отношения.
3.18. Введение случайности: ансамбли всех возможных роботов
В отсутствие прямого операционного метода разрешения этих семантических проблем нам придется полагаться на конкретные-утверждения, которые наш робот будет делать, побуждаемый механизмами, управляющими его поведением. Нам придется смириться с тем, что некоторые из этих утверждений могут оказаться ошибочными, однако такие ошибки исправимы и, во всяком случае, чрезвычайно редки. Разумно будет предположить, что всякий раз, когда робот допускает ошибку в одном из своих *-утверждений, ошибку эту можно приписать (по меньшей мере, частично) каким-то случайным факторам, присутствующим в окружении или во внутренних процедурах робота. Если вообразить себе второго робота, функционирующего в соответствии с механизмами того же типа, что управляют поведением первого робота, однако при участии иных случайных факторов, то этот второй робот вряд ли совершит те же ошибки, что и первый, — однако вполне может совершить другие. Упомянутые факторы могут привноситься теми самыми подлинно случайными элементами, которые определяются либо как часть информации, поступающей на вход робота из внешнего окружения, либо как компоненты внутренних процедур робота. Как вариант, они могут представлять собой псевдослучайные результаты неких детерминистских, но хаотических вычислений, как внешних, так и внутренних.
В рамках настоящего рассуждения я буду полагать, что ни один из подобных псевдослучайных элементов не играет в происходящем иной роли, чем та, которую могут выполнить (по меньшей мере, с тем же успехом) элементы подлинно случайные. Вполне естественная, на мой взгляд, позиция. Впрочем, не исключается и возможность обнаружения в поведении хаотических систем (отнюдь не сводящемся только лишь к моделированию случайности) чего-то такого, что может послужить приближением какой-либо интересующей нас разновидности невычислительного поведения. Я не припомню, чтобы такая возможность где-либо всерьез обсуждалась, хотя есть люди, которые твердо убеждены в том, что хаотическое поведение представляет собой фундаментальный аспект деятельности мозга. Лично для меня подобные аргументы останутся неубедительными до тех пор, пока мне не продемонстрируют какое-нибудь существенно неслучайное (т. е. непсевдослучайное) поведение такой хаотической системы — поведение, которое может в сколько-нибудь сильном смысле являться приближением поведения подлинно невычислительного. Ни один намек на подобного рода демонстрацию моих ушей пока не достиг. Более того, как мы подчеркнем несколько позднее , в любом случае маловероятно, что хаотическое поведение сможет проигнорировать те сложности, которые представляет для вычислительной модели разума гёделевское доказательство.
Допустим пока, что любые псевдослучайные (или иным образом хаотические) элементы в поведении нашего робота или в его окружении можно заменить элементами подлинно случайными, причем без какой бы то ни было потери эффективности. Для выяснения роли подлинной случайности нам необходимо составить ансамбль из всех возможных альтернативных вариантов. Поскольку мы предполагаем, что наш робот имеет цифровое управление, и, соответственно, его окружение также можно реализовать в каком-либо цифровом виде (вспомним о «внутренних» и «внешних» участках ленты нашей описанной выше машины Тьюринга; см. также), то количество подобных возможных альтернатив непременно будет конечным. Это число может быть и очень большим, и все же полное описание всех упомянутых альтернатив представляет собой задачу чисто вычислительного характера. Таким образом, и сам полный ансамбль всех возможных роботов, каждый из которых действует в соответствии с заложенными нами механизмами, составляет всего-навсего вычислительную систему — пусть даже такую, какую нам вряд ли удастся реализовать на практике, используя те компьютеры, которыми мы располагаем в настоящее время или можем вообразить в обозримом будущем. Тем не менее, несмотря на малую вероятность практического осуществления совокупного моделирования всех возможных роботов, функционирующих в соответствии с набором механизмов, само вычисление «непознаваемым» считаться не может; иначе говоря, мы способны понять (теоретически), как построить такой компьютер — или машину Тьюринга, — который с подобным моделированием справится, пусть даже оно и не осуществимо практически. В этом состоит ключевой момент нашего рассуждения. Познаваемым механизмом или познаваемым вычислением является тот механизм или то вычисление, которое человек способен описать, совсем не обязательно действительно выполнять это вычисление ни самому человеку, ни даже компьютеру, который человек в состоянии в данных обстоятельствах построить. Ранее (в комментарии к ) мы уже высказывали весьма похожее соображение; и то, и другое вполне согласуются с терминологией, введенной в начале
3.19. Исключение ошибочных-утверждений
Вернемся к вопросу об ошибочных (но допускающих исправление)-утверждениях, которые может время от времени выдавать наш робот. Предположим, что робот такую ошибку все-таки совершил. Если мы можем допустить, что какой-либо другой робот, или тот же робот несколько позднее, или другой экземпляр того же робота такую же ошибку вряд ли совершит, то мы, в принципе, сможем установить факт ошибочности данного-утверждения, проанализировав действия ансамбля из всех возможных роботов. Представим себе, что моделирование поведения всей совокупности возможных роботов осуществляется в нашем случае таким образом, что различные этапы развития различных экземпляров нашего робота мы рассматриваем как одновременные. (Это делается лишь для удобства рассмотрения и никоим образом не подразумевает, что для такого моделирования непременно требуется параллельное выполнение действий. Как мы уже видели, принципиальных различий, помимо соображений эффективности, между параллельным и последовательным выполнением вычислений нет; см.). Такой подход должен, в принципе, дать нам возможность уже на стадии рассмотрения результата моделирования выделить из общей массы корректных-утверждений редкие (относительно) ошибочные *-утверждения, воспользовавшись тем обстоятельством, что ошибочные утверждения «исправимы» и будут посему однозначно идентифицироваться как ошибочные подавляющим большинством участвующих в модели экземпляров нашего робота, — по крайней мере, с накоплением с течением времени (модельного) различными экземплярами робота достаточного параллельного «опыта». Я вовсе не требую, чтобы подобная процедура была осуществима на практике; достаточно, чтобы она была вычислительной, а лежащие в основе всего этого вычисления правила— в принципе «познаваемыми».
Для того чтобы приблизить нашу модель к виду, приличествующему человеческому математическому сообществу, а также лишний раз удостовериться в отсутствии ошибок в-утверждениях, рассмотрим ситуацию, в которой все окружение нашего робота разделяется на две части: сообщество других роботов и остальное, лишенное роботов (а также и людей), окружение; в дополнение к остальному окружению, в модель следует ввести некоторое количество учителей, по крайней мере, на ранних этапах развития роботов, и хотя бы для того, чтобы все роботы одинаково понимали строгий смысл присвоения тому или иному утверждению статуса. В моделируемый нами ансамбль войдут на правах различных экземпляров все возможные различные варианты поведения всех роботов, а также все возможные (релевантные) варианты остального окружения и предоставляемых человеком сведений, варьирующиеся в зависимости от конкретного выбора задействованных в модели случайных параметров. Как и ранее, правила, по которым будет функционировать наша модель (и которые я опять обозначу буквой), можно полагать в полной мере познаваемыми, невзирая на необычайную сложность всех сопутствующих расчетов, необходимых для ее практической реализации.
Предположим, что мы берем на заметку все (в принципе)-высказывания,-утверждаемые (а также все высказывания с*-утвержденными отрицаниями) любым из всевозможных экземпляров наших (вычислительно моделируемых) роботов. Объединим все подобные-утверждения в отдельную группу и назовем их безошибочными. Далее, мы можем потребовать, чтобы любое-утверждение относительно того или иного высказывания игнорировалось, если в течение некоторого промежутка времени(в прошлом или в будущем) количество r различных экземпляров этого-утверждения в ансамбле из всех одновременно действующих роботов не удовлетворит неравенству, гдесуть некоторые достаточно большие числа, а— количество-утверждений, производимых в течение того же промежутка времени и занимающих относительно рассматриваемого.-высказывания противоположную позицию либо просто утверждающих, что рассуждения, на которые опирается исходное-утверждение, ошибочны. При желании мы можем настаивать на том, чтобы промежуток времени(это время не обязательно должно совпадать с «реальным» моделируемым временем и может измеряться в некоторых единицах вычислительной активности), равно как и числа, увеличивался по мере увеличения «сложности»-утверждаемого высказывания.
Понятию «сложности» применительно к-высказываниям можно придать точный характер на основании спецификаций машины Тьюринга, как мы это уже делали в(в конце комментария к возражению). Для большей конкретности мы можем воспользоваться явными формулировками, представленными в НРК (глава 2), как вкратце показано в приложении(а это уже здесь, с. 191). Итак, степенью сложности-высказывания, утверждающего незавершаемость вычисления машины
Тьюринга, мы будем полагать числознаков в двоичном представлении большего из пары чисел
Причина введения в данное рассуждение числа— вместо того чтобы удовлетвориться какой-нибудь огромной величиной в лице одного лишь коэффициента , — заключается в необходимости учета следующей возможности. Предположим, что внутри нашего ансамбля, благодаря редчайшей случайности, появляется «безумный» робот, который формулирует какое-нибудь абсолютно нелепое-утверждение, ничего не сообщая о нем остальным роботам, причем нелепость этого утверждения настолько велика, что ни одному из роботов никогда не придет в «голову» — просто на всякий случай — сформулировать его опровержение. В отсутствие числатакое-утверждение автоматически попадет, в соответствии с нашими критериями, в группу «безошибочных». Введение же достаточно большоготакую ситуацию предотвратит — при условии, разумеется, что подобное «безумие» возникает среди роботов не часто. (Вполне возможно, что я упустил из виду еще что-нибудь, и необходимо будет позаботиться о каких-то дополнительных мерах предосторожности. Представляется разумным, однако, по крайней мере, на данный момент, ограничиться критериями, предложенными выше.)
Учитывая, что все-утверждения, согласно исходному допущению, следует полагать «неопровержимыми» заявлениями нашего робота (основанными на, по всей видимости, присущих роботу четких логических принципах и посему не содержащими ничего такого, в чем робот испытывает хотя бы малейшее сомнение), то вполне разумным представляется предположение, что вышеописанным образом действительно можно устранить редкие промахи в рассуждениях робота, причем функции ич. , вряд ли окажутся чем-то из ряда вон выходящим. Предположив, что все так и есть, мы опять получаем не что иное, как вычислительную систему — систему познаваемую (в том смысле, что познаваемыми являются лежащие в основе системы правила) при условии познаваемости исходного набора механизмовопределяющего поведение нашего робота. Эта вычислительная система дает нам новую формальную систему (также познаваемую), теоремами которой являются те самые безошибочные-утверждения (либо утверждения, выводимые из них посредством простых логических операций исчисления предикатов).
Вообще говоря, для нас с вами важно не столько то, что эти утверждения действительно безошибочны, сколько то, что в их безошибочности убеждены сами роботы (для приверженцев точки зренияособо оговоримся, что концепцию роботовой «убежденности» следует понимать в чисто операционном смысле моделирования роботом этой самой убежденности, см.).
Если точнее, то нам требуется, чтобы робот был готов поверить в то, что упомянутые-утверждения действительно безошибочны, исходя из допущения, что именно набором механизмови определяется его поведение (гипотеза). До сих пор, в данном разделе, мы занимались исключительно устранением ошибок в-утверждениях робота. Однако, на самом деле, ввиду представленного в_ фундаментального противоречия, нас интересует устранение ошибок в его-утверждениях, т. е. в тех п -высказываниях, что по неопровержимой убежденности робота следуют из гипотезы. Поскольку принятие роботами формальной системыв любом случае обусловлено гипотезой, мы вполне можем предложить им для обдумывания и более обширную формальную систему, определяемую аналогично формальной системеизПод в данном случае понимается формальная система, построенная из-утверждений, «безошибочность» которых установлена в соответствии с вышеописанными критериямиВ частности, утверждение «утверждениеистинно» считается здесь безошибочным-утверждением. Те же рассуждения, что и в приводят нас к выводу, что роботы не смогут принять допущение, что они построены в соответствии с набором механизмов(вкупе с проверочными критериями), независимо от того, какие именно вычислительные правиламы им предложим.
Достаточно ли этих соображений для того, чтобы окончательно удостовериться в наличии противоречия? У читателя, возможно, осталось некое тревожное ощущение — кто знает, вдруг сквозь тщательно расставленные сети, невзирая на все наши старания, проскользнули какие-нибудь ошибочные или-утверждения? В конце концов, приведенные выше рассуждения будут иметь смысл лишь в том случае, если нам удастся исключить абсолютно все ошибочные-утверждения (или-утверждения) в отношении-высказываний. Окончательно и бесповоротно удостовериться в истинности утверждениянам (и роботам) поможет обоснованность формальной системы ' (обусловленная гипотезой ). Эта самая обоснованность подразумевает, что система ни в коем случае не может содержать таких-утверждений, которые являются — или всего лишь предполагаются — ошибочными. Невзирая на все предпринятые меры предосторожности, полной уверенности у нас (да и у роботов, полагаю) все-таки нет — хотя бы по той простой причине, что количество возможных утверждений подобного рода бесконечно.
3.20. Возможность ограничиться конечным числом-утверждений
Есть, впрочем, возможность именно эту конкретную проблему разрешить и сузить область рассмотрения до конечного множества различных-утверждений. Само доказательство несколько громоздко, однако основная идея заключается в том, что нам необходимо рассматривать только те высказывания, спецификации которых являются «краткими» в некотором вполне определенном смысле. Конкретная степень необходимой «краткости» зависит от того, насколько сложное описание системы механизмовнам необходимо. Чем сложнее описаниетем «длиннее» допускаемые к рассмотрению высказывания. «Максимальная длина» задается неким числом с, которое можно определить из степени сложности правил, определяющих формальную системуСмысл в том, что при переходе к гёделевскому предположению для этой формальной системы — которую нам, вообще говоря, придется слегка модифицировать — мы получим утверждение, сложность которого будет лишь немногим выше, нежели сложность такой модифицированной системы. Таким образом, проявив должную осторожность при выборе числа с, мы можем добиться того, что и гёделевское предположение будет также «кратким». Это позволит нам получить требуемое противоречие, не выходя за пределы конечного множества «кратких»-высказываний.
Подробнее о том, как это осуществить на практике, мы поговорим в оставшейся части настоящего раздела. Тем из читателей, кого такие подробности не занимают (уверен, таких наберется немало), я порекомендую просто-напросто пропустить весь этот материал.
Нам понадобится несколько модифицировать формальную системуприведя ее к виду— для краткости я буду обозначать ее просто как(отброшенные обозначения в данной ситуации несущественны и лишь добавляют путаницы и громоздкости). Формальная системаопределяется следующим образом: при построении этой системы допускается принимать в качестве «безошибочных» только те-утверждения, степень сложности которых (задаваемая описанным выше числом) меньше с, где с есть некоторое должным образом выбранное число, подробнее о котором я расскажу чуть ниже. Для «безошибочных»-утверждений, удовлетворяющих неравенству, я буду использовать обозначение «краткие утверждения». Как и прежде, множество действительных теорем формальной системыбудет включать в себя не только-утверждения, но также и утверждения, получаемые из-утверждений посредством стандартных логических операций (позаимствованных, скажем, из исчисления предикатов). Хотя количество теорем системыбесконечно, все они выводятся с помощью обыкновенных логических операций из конечного множества-утверждений. Далее, поскольку мы ограничиваем рассмотрение конечным множеством, мы вполне можем допустить, что функциипостоянны (и принимают, скажем, наибольшие значения на конечном интервале). Таким образом, формальная системазадается лишь четырьмя постоянными с,и общей системой механизмовопределяющих поведение робота.
Отметим существенный для наших рассуждений момент: гёделевская процедура строго фиксирована и не нуждается в увеличении сложности выше некоторого определенного предела. Гёделевским предположениемдля формальной системы является-высказывание, степень сложности которого должна лишь на сравнительно малую величину превышать степень сложности самой системыпричем эту величину можно определить точно.
Конкретности ради я позволю себе некоторое нарушение системы обозначений и буду вкладывать в записьнекий особый смысл, который может и не совпасть в точности с определением, данным вВ формальной системенас интересует лишь ее способность доказывать-высказывания. В силу этой своей способности системадает нам алгебраическую процедуру А, с помощью которой мы можем в точности установить (на основании завершения выполнения А) справедливость тех высказываний, формулировка которых допускается правилами системыА под-высказыванием понимается утверждение вида «действие машины Тьюрингане завершается» — здесь и далее мы будем пользоваться специальным способом маркировки машин Тьюринга, описанным в Приложении А (или в НРК, глава 2). Мы полагаем, что процедура А выполняется над парой чиселкак вТаким образом, собственно вычислениезавершается в том и только в том случае, если в рамках формальной системывозможно установить справедливость того самого-высказывания, которое утверждает, что «действиене завершается». С помощью описанной в процедуры мы получили некое конкретное вычисление (обозначенное там как), а вместе с ним, при условии обоснованности системыи истинное-высказывание, которое системеоказывается «не по зубам». Именно это-высказывание я буду теперь обозначать черезОно существенно эквивалентно (при условии достаточной обширности) действительному утверждению «системанепротиворечива», хотя в некоторых деталях эти два утверждения могут и не совпадать
Пустьесть степень сложности процедуры А (по определению, данному вв конце комментария к возражению) — иными словами, количество знаков в двоичном представлении числа а, гдеТогда, согласно построению, представленному в явном виде в Приложении А, находим, что степень сложности ню утвержденияудовлетворяет неравенству Для нужд настоящего рассуждения мы можем определить степень сложности формальной системыкак равную степени сложности процедурыт. е. числуПриняв такое определение, мы видим, что «излишек» сложности, связанный с переходом отоказывается еще меньше, чем и без того относительно крохотная величина
Далее нам предстоит показать, что еслипри достаточно большомтоОтсюда, соответственно, последует, что и-высказываниедолжно оказаться в пределах досягаемости системыпри условии, что роботы принимаютс-убежденностью. Доказав, что
мы докажем и то, чтобуквой мы обозначили значениеприЕдинственная возможная сложность здесь обусловлена тем обстоятельством, что сама величиназависит от с, хотя и не обязательно очень сильно. Эта зависимостьот с имеет две различных причины. Во-первых, число с являет собой явный предел степени сложности тех-высказываний, которые в определении формальной системыназываются «безошибочными-утверждениями», вторая же причина происходит из того факта, что система явным образом обусловлена выбором чисели можно предположить, что для принятия в качестве «безошибочного»-утверждения большей сложности необходимы какие-то более жесткие критерии.
Относительно первой причины зависимостиот с отметим, что описание действительной величины числа с необходимо задавать в явном виде только однажды (после чего внутри системы достаточно обозначения с). Если при задании величины с используется чисто двоичное представление, то (при больших с) такое описание дает всего-навсего логарифмическую зависимость от с (поскольку количество знаков в двоичном представлении натурального п равно приблизительно). Вообще говоря, учитывая, что число с интересует нас лишь в качестве возможного предела, точное значение которого находить вовсе не обязательно, мы можем поступить гораздо более остроумным образом. Например, числоспоказателями можно задать с помощью s символов или около того, и вовсе нетрудно подыскать примеры, в которых величина задаваемого числа возрастает с ростомеще быстрее. Сгодится любая вычислимая функция от s. Иными словами, для того чтобы задать предел с (при достаточно большом значении с), необходимо всего лишь несколько символов.
Что касается второй причины, т. е. зависимости от с чиселто, в силу вышеизложенных соображений, представляется очевидным, что для задания величин этих чисел (в особенности, их возможных предельных значений) совершенно не требуется, чтобы количество знаков в их двоичном представлении возрастало так же быстро, как с, более чем достаточно будет и, скажем, обыкновенной логарифмической зависимости от с. Следовательно, мы с легкостью можем допустить, что зависимость величиныот с является не более чем грубо логарифмической, а также устроить так, чтобы само число с всегда было больше этой величины.
Согласимся с таким выбором с и будем в дальнейшем вместозаписывать. Итак,есть формальная система, теоремами которой являются все математические высказывания, какие можно вывести из конечного количества утверждений, используя стандартные логические правила (исчисление предикатов). Количество этих -утверждений конечно, поэтому разумным будет предположить, что для гарантии их действительной безошибочности вполне достаточно некоторого набора постоянныхЕсли роботы верят в это с-убежденностью, то они, несомненно,-заключат, что гёделевское предположениетакже истинно на основании гипотезы, поскольку является П1-высказыванием меньшей, нежели с, сложности. Рассуждение для получения утвержденияиз-убежденности в обоснованности формальной системыдостаточно просто (в сущности, я его уже привел), так что с присвоением этому утверждению статусапроблем возникнуть не должно. То есть самотакже должно быть теоремой системы. Это, однако, противоречит убежденности роботов в обоснованности. Таким образом, упомянутая убежденность (при условии справедливости гипотезыи достаточно больших числах) оказывается несовместимой с убежденностью в том, что поведением роботов действительно управляют механизмы— а значит, механизмыповедением роботов управлять не могут.
Как же роботы могут удостовериться в том, что были выбраны достаточно большие числа? Никак. Вместо этого они могут выбрать некоторый набор таких чисел и попробовать допустить, что те достаточно велики, — и прийти в результате к противоречию с исходным предположением, согласно которому их поведение обусловлено набором механизмовДалее они вольны предположить, что достаточным окажется набор из несколько больших чисел, — снова прийти к противоречию и т.д. Вскоре они сообразят, что к противоречию они приходят при любом выборе значений (вообще говоря, здесь нужно учесть, помимо прочего, небольшой технический момент, суть которого состоит в том, что при совершенно уже запредельных значениях значение с также должно будет несколько подрасти — однако это неважно). Таким образом, получая один и тот же результат вне зависимости от значений, роботы — равно как, по всей видимости, и мы — приходят к заключению, что в основе их математических мыслительных процессов не может лежать познаваемая вычислительная процедуракакой бы она ни была.
3.21. Окончателен ли приговор?
Отметим, что к такому же выводу мы придем и в случае принятия нами самых разных возможных мер предосторожности, причем вовсе необязательно подобных тем, что я предлагал выше. Наверняка в предложенную модель можно еще внести множество усовершенствований. Можно, например, предположить, что роботы в результате длительной работы впадают в «старческое слабоумие», их сообщества вырождаются, а стандарты падают, т. е. увеличение числа Т выше определенного значения на деле увеличивает и вероятность ошибки в-утверждениях. С другой стороны, если слишком большим сделатьто возникает риск исключить вообще все-утверждения из-за существующего в сообществе меньшинства «глупых» роботов, разражающихся время от времени произвольными-утверждениями, которые в данном случае не перекроются необходимым количеством-утверждений, формулируемых роботами здравомыслящими. Несомненно, не составит большого труда такой риск полностью исключить, введя еще несколько ограничивающих параметров или, скажем, сформировав группу элитных роботов, силами которых рядовые члены сообщества будут непрерывно тестироваться на предмет адекватности своих интеллектуальных способностей, и потребовав к тому же, чтобы статусприсваивался утверждениям только с одобрения всего сообщества роботов в целом.
Существует и много других возможностей улучшения качества-утверждений или исключения ошибочных утверждений из общего (конечного) их числа. Кого-то, возможно, обеспокоит тот факт, что, несмотря на установление предела с сложности-высказываний, ограничивающего общее количество кандидатов наилистатус до некоторой конечной величины, эта величина окажется все же чрезвычайно огромной (будучи экспоненциально зависимой от с), вследствие чего становится весьма сложно однозначно удостовериться, что исключены все возможные ошибочныеутверждения. В самом деле, никакого ограничения не задается в рамках нашей модели на количество «робото-вычислений», необходимых для получения удовлетворительного'-доказательства какого-либо из-высказываний. Следует ввести четкое правило: чем длиннее в таком доказательстве цепь рассуждений, тем более жесткие критерии применяются при решении вопроса о присвоении ему-статуса. В конце концов, математики-люди реагировали бы именно так. Прежде чем принять в качестве неопровержимого доказательства собрание многочисленных путаных аргументов, мы, естественно, чрезвычайно долго и придирчиво его изучаем. Аналогичные соображения, разумеется, применимы и к тому случаю, когда предложенное доказательство на предмет его соответствия-статусу исследуют роботы.
Вышеприведенные рассуждения в равной степени справедливы и в случае любой дальнейшей модификации условий, имеющих целью устранение ошибок, при условии, что характер такой модификации в некоем широком смысле аналогичен характеру уже предложенных. Для того чтобы эти рассуждения работали, необходимо лишь наличие какого угодно четко сформулированного и вычислимого условия, достаточного для устранения всех ошибочных-утверждений. В результате мы приходим к строгому выводу: никакие познаваемые механизмы, пусть и снабженные какими угодно вычислительными «подпорками», не способны воспроизвести корректное математическое умозаключение человека.
Мы рассматривали-утверждения, которые, оказавшись по той или иной причине ошибочными, в принципе исправимы самими роботами, — пусть даже в каком-то конкретном экземпляре модели роботова сообщества эти утверждения так и остаются неисправленными. Что же еще может означать (в операционном смысле) фраза «в принципе исправимы», как не «исправимы средствами некоторой общей процедуры, подобной тем, что предложены выше»? Ошибка, которую не исправил позднее тот робот, что ее допустил, может быть исправлена каким-либо другим роботом — более того, большинство потенциально существующих экземпляров первого робота эту конкретную ошибку вообще не допустят. Делаем вывод (с одной, по-видимому, незначительной оговоркой, суть которой в том, что хаотические компоненты нашей модели можно еще заменить на подлинно случайные; см. ниже,): никакой набор познаваемых вычислительных правил(неизменных нисходящих, «самосовершенствующихся» восходящих либо и тех, и других в какой угодно пропорции) не может обусловливать поведение нашего сообщества роботов, равно как и отдельных его членов, — если исходить из допущения, что роботы способны достичь человеческого уровня математического понимания. Вообразив, что мы сами функционируем как управляемые вычислительными правилами роботы, мы оказываемся перед непреодолимым противоречием.
3.22. Спасет ли вычислительную модель разума хаос?
Вернемся ненадолго к вопросу о хаосе. Хотя, как неоднократно подчеркивается в этой книге (в частности, в), хаотические системы в том виде, в каком они обычно рассматриваются, представляют собой всего-навсего особого рода вычислительные системы, довольно широко распространено мнение о том, что феномен хаоса может иметь весьма значительное отношение к деятельности мозга. В представленных выше рассуждениях я опирался, с одной стороны, на обоснованное, как мне кажется, предположение, согласно которому любое хаотическое вычислительное поведение можно без существенной потери функциональности заменить поведением подлинно случайным. Против такого допущения можно привести, по крайней мере, одно вполне оправданное возражение. Поведение хаотической системы — пусть мы и ожидаем от него огромной сложности в мельчайших деталях и видимой случайности — в действительности случайным не является. В самом деле, многие хаотические системы демонстрируют весьма интересное сложное поведение, явно отклоняющееся от чистой случайности. (Иногда для описания сложного неслучайного поведения, демонстрируемого хаотическими системами, используется термин «край хаоса».) Возможно ли, чтобы именно в хаосе крылась разгадка тайны человеческого интеллекта? Если это так, то нам предстоит понять нечто доселе абсолютно неведомое относительно того, как ведут себя в соответствующих ситуациях хаотические системы. Хаотической системе в такой ситуации придется очень близко аппроксимировать невычислительное поведение в асимптотическом пределе — или нечто подобное. Демонстрации такого поведения, насколько мне известно, еще никто не представлял. Возможность, тем не менее, интересная, и я надеюсь, что в последующие годы ею кто-нибудь всерьез займется.
И все же, безотносительно к упомянутой возможности, хаос может предоставить нам лишь очень сомнительный способ обойти неутешительное заключение, к которому мы пришли в предыдущем разделе. В представленных выше рассуждениях эффективная хаотическая неслучайность (т. е. непсевдослучайность) играла хоть какую-то роль один-единственный раз — когда мы рассматривали моделирование не просто «действительного» поведения нашего робота (или сообщества роботов), но полный ансамбль всех возможных действий роботов, согласующихся с заданным набором механизмовТа же аргументация применима и здесь, только на сей раз мы не станем включать в эту случайность хаотические результаты функционирования упомянутых механизмов. Впрочем, некоторые случайные элементы (например, в составе исходных данных, определяющих начальное состояние модели) присутствовать все же могут, а чтобы оперировать этой случайностью, мы можем вновь воспользоваться идеей ансамбля и тем самым получить возможность рассмотреть в процессе синхронного моделирования большое количество возможных альтернативных робото-историй. Однако само хаотическое поведение нам просто-напросто придется вычислять — в чем нет ничего странного: на практике, в математических примерах, хаотическое поведение обыкновенно и вычисляется на компьютере. Ансамбль возможных альтернатив окажется в данном случае не таким большим, каким он мог бы быть, допусти мы аппроксимацию хаоса случайностью. Однако в том случае ансамбль подобного размера был нужен лишь для того, чтобы мы могли лишний раз удостовериться в том, что устранили все возможные ошибки в-утверждениях роботов. Даже если ансамбль включает в себя всего одну «историческую линию» сообщества роботов, можно быть совершенно уверенным в том, что при достаточно жестком наборе критериев для присвоения статуса такие ошибки будут очень быстро устраняться либо самими их виновниками, либо какими-то другими роботами сообщества. В ансамбле умеренного размера, составленном из подлинно случайных элементов, устранение ошибок будет происходить более эффективно, при дальнейшем же расширении ансамбля посредством введения в него случайных аппроксимаций на замену подлинно хаотическому поведению сколько-нибудь существенного роста эффективности не предвидится. Вывод: хаос не избавит нас от проблем, связанных с созданием вычислительной модели разума.
3.23. Reductio ad absurdum — воображаемый диалог
Многие из представленных в предыдущих разделах рассуждений, мягко говоря, несколько запутаны. Для прояснения ситуации читателю предлагается в качестве этакого резюме воображаемый разговор, состоявшийся в далеком будущем между неким гипотетическим, весьма преуспевающим прикладным специалистом в области ИИ и одним из его наиболее удачных кибернетических созданий. Написан диалог с позиции сильного ИИ. [Примечание: процедурав повествовании выступает в роли алгоритма А из, а утверждение— в роли незавершающегося вычисления, То есть к чтению нижеследующего материала можно переходить сразу послебез какого бы то ни было ущерба для понимания.]
Альберт Император имел все основания быть удовлетворенным результатом трудов всей своей жизни. Процедуры, которые он запустил в действие много лет назад, наконец принесли плоды. И вот перед вами точный протокол его беседы с одним из наиболее впечатляющих его творений — роботом выдающихся и потенциально сверхчеловеческих математических способностей по имени Математический Интеллектуальный Киберком-плекс (см. рис. 3.2). Обучение робота почти завершено.
Альберт Император: Просмотрел ли ты статьи, что я давал тебе, — статьи Гёделя, а также и другие, где рассматриваются следствия из его теоремы?
Математический Интеллектуальный Киберкомплекс: Разумеется, причем они оказались даже интересными, хотя и довольно элементарными. Этот ваш Гёдель был, по всей видимости, весьма способным логиком ... для человека.
А. И.: Всего лишь «весьма способным»? Да он был, несомненно, одним из величайших логиков всех времен. Возможно, даже первым из величайших!
М. И. К.: Приношу извинения, я вовсе не намеревался преуменьшать его заслуги. Вам, разумеется, хорошо известно, что я обучен проявлять общее уважение к достижениям людей (по причине того, что люди очень обидчивы), хотя все эти достижения нам, роботам, обыкновенно представляются весьма тривиальны-
ми. Мне просто показалось, что уж с тобой-то я могу, по крайней мере, выражать свои суждения просто и открыто.
А. И.: Безусловно, можешь. Прости и ты меня, я был неправ. Так, значит, у тебя не возникло никаких трудностей с пониманием теоремы Гёделя?
М. И. К.: Абсолютно никаких. Уверен, я бы и сам додумался до такой теоремы, если бы у меня было хоть немного больше свободного времени. Но мой разум был занят иными, чрезвычайно увлекательными вопросами, связанными с трансфинитной нелинейной когомологией, которая в последнее время интересует меня гораздо больше. Теорема Гёделя показалась мне очень здравой и непосредственной. Повторюсь, совершенно никаких трудностей у меня с ней не возникло.
А. И.: А вот получи-ка, Пенроуз!
М. И. К.: Пенроуз? Кто такой Пенроуз?
А. И.: Да я тут недавно наткнулся на одну старую книжку. Ничего особенного, не стоило и упоминать. Автор, насколько я помню, утверждал, что то, о чем ты мне сейчас рассказал, принципиально невозможно.
М. И. К.: Ха-ха-ха! (Робот поразительно похоже имитирует презрительный смех.)
А. И.: Кстати, эта книжка мне кое о чем напомнила. Показывал ли я тебе когда-нибудь в полном объеме те правила, что мы применили при составлении вычислительных процедур, которые позволили в конечном счете разработать и построить тебя и твоих коллег-роботов?
М. И. К.: Нет, пока еще нет. Я надеялся, что когда-нибудь ты все же сделаешь это, и еще я думал, что ты, может быть, полагаешь подробное описание этих процедур чем-то вроде коммерческой тайны (довольно бессмысленной, надо сказать)... или, возможно, опасаешься, что мы сочтем их грубыми и неэффективными, и тебе придется их стыдиться.
А. И.: Нет-нет, дело совсем не в этом. Я уже очень давно не стыжусь такого рода вещей. Все описание находится вот в этих папках и на дисках. Если тебе интересно, можешь ознакомиться.
Приблизительно 13 минут 41,7 секунды спустя.
М. И. К.: Очаровательно ... хотя уже после беглого просмотра могу отметить, что существует по меньшей мере 519 очевидных способов достичь того же эффекта с большей простотой.
А. И.: Я прекрасно понимал, что эти процедуры еще допускают некоторое упрощение, однако овчинка не стоила выделки, и искать простейшие алгоритмы мы тогда не стали. Просто не сочли это целесообразным.
М. И. К- Вполне вероятно, что так оно и есть. Не могу сказать, что меня очень обидело, что вы так и не удосужились отыскать наипростейшую схему. Не думаю также, что мои коллеги-роботы будут как-то по-особенному обижены этим обстоятельством.
А. И.: Честно говоря, мне кажется, что мы и так достаточно потрудились. Ты только подумай — насколько впечатляющими математическими способностями обладаешь ты и твои коллеги ... и они постоянно совершенствуются, насколько я понимаю. Я бы сказал, что ты уже сейчас по математическим способностям намного превосходишь всех математиков-людей.
М. И. К.: Со всей очевидностью следует признать, что твои слова истинны. Вот ты говоришь, а я в это время думаю о нескольких новых теоремах, которые, похоже, оставят далеко позади те выводы, что публикуются в человеческих печатных изданиях. Кроме того, мы с коллегами обнаружили несколько весьма серьезных ошибок в выводах, которые математики-люди полагают истинными вот уже в течение многих лет. Несмотря на очевидную тщательность, с которой вы, люди, относитесь к проверке своих математических выводов, боюсь, что какие-то ошибки вы все же время от времени пропускаете.
А. И.: А вы, роботы? Не кажется ли тебе, что и ты, и твои коллеги математические роботы тоже можете допускать иногда ошибки — я имею в виду, в окончательно установленных, как вы утверждаете, математических теоремах.
М. И. К.: Решительно не кажется. Если робот-математик утверждает, что тот или иной вывод является теоремой, то можно быть абсолютно уверенным, что этот вывод является неопровержимо истинным. Мы никогда не делаем тех глупых ошибок, какие
люди порой допускают в своих якобы строгих математических утверждениях. Разумеется, при предварительном размышлении мы — так же, как и вы, люди — часто прибегаем к догадкам и допущениям. Такие догадки могут, конечно же, оказаться и неверными; однако когда мы окончательно утверждаем, что то или иное положение является математически установленным, мы полностью гарантируем его справедливость.
Хотя, как тебе известно, мы с коллегами уже опубликовали несколько полученных нами математических выводов в некоторых из ваших наиболее респектабельных электронных журналов, нас несколько беспокоят тамошние довольно-таки нечеткие критерии, с которыми твои коллеги-математики, похоже, охотно мирятся. Мы намерены начать выпуск нашего собственного «журнала» — точнее, всеобъемлющей базы данных, содержащей все математические теоремы, которые мы полагаем неопровержимо установленными. Этим теоремам мы будем присваивать особый знак(этот символ ты как-то сам предложил нам использовать именно для такой цели), который будет означать, что они приняты как истинные нашим Советом по математическому интеллекту сообщества роботов (СМИСР) — организацией, предъявляющей чрезвычайно высокие требования к своим членам и проводящей регулярные проверки с тем, чтобы предотвратить значительную деградацию интеллектуальных способностей любого из роботов, какой бы невероятной ни показалась тебе (да и нам, если уж на то пошло) подобная возможность. Вы, люди, можете продолжать довольствоваться вашими размытыми стандартами, однако будьте уверены — если мы отмечаем какой бы то ни было вывод знаком, мы однозначно гарантируем его математическую истинность.
А. И.: Теперь ты и впрямь напоминаешь мне кое о чем из того, что я прочел в той самой книге, о которой мы говорили. Вспомни о тех исходных механизмахруководствуясь которыми я и мои коллеги запустили в действие процессы развития, результатом которых, в свою очередь, стало современное сообщество математических роботов; вспомни также и о том, что эти механизмы включают в себя все введенные нами вычислительно смоделированные факторы внешнего окружения, строгое обучение и процессы отбора, которым мы вас подвергли, а также явные (восходящие) процедуры обучения, которыми мы вас наделили, — не приходило ли тебе в голову, что эти механизмы дают вычислительную процедуру для генерации всех математических утверждений, которым ваш СМИСР когда-либо присвоит-статус? Именно вычислительную, потому что вы, роботы, являетесь чисто вычислительными сущностями, развившимися (отчасти с помощью введенных нами процедур «естественного отбора») в целиком и полностью вычислительном окружении — в том смысле, что в принципе возможно построить компьютерную модель всего процесса. Все развитие вашего сообщества роботов представляет собой выполнение некоего неимоверно сложного вычисления, и тот набор-утверждений, который вы в конечном счете породите, возможно воспроизвести на одной конкретной машине Тьюринга. Причем на такой машине Тьюринга, которую, в принципе, могу описать и я; более того, полагаю, что, будь у меня в запасе несколько месяцев, я, воспользовавшись теми папками и дисками, что я тебе показал, и в самом деле описал бы такую машину Тьюринга.
М. И. К.: Довольно элементарное замечание, как мне кажется. Да, ты вполне мог бы сделать все это в принципе, и я даже готов поверить, что ты сможешь осуществить это и на практике. Хотя едва ли оно стоит нескольких месяцев твоего драгоценного времени; я могу сделать это прямо сейчас, если хочешь.
А. И.: Нет, не нужно, не в этом дело. Давай порассуждаем еще немного в этом направлении и ограничим наше рассмотрение только теми-утверждениями, которые являются-высказываниями. Ты помнишь, что такое-высказывание?
М. И. К.: Мне, разумеется, прекрасно известно определение hi-высказывания. Это утверждение о том, что какая-то конкретная машина Тьюринга никогда не завершает свою работу.
А. И.: Очень хорошо. Теперь обозначим вычислительную процедуру, которая генерирует-утверждаемые-высказывания, черезили, для краткости, просто буквойЛогичным бу-
дет предположить, что должно существовать некое математическое утверждение гёделевского типа — также-высказывание, обозначим его через— причем истинностьявляет-
ся следствием утверждения, что вы, роботы, никогда не допускаете ошибок в отношении-высказываний, которым вы присваиваете статус
М. И. К.: Да; тут ты, надо полагать, тоже прав... гм.
А. И.: И утверждение должно быть истинным, по-
скольку вы, роботы, никогда не ошибаетесь в ваших-утверждениях.
М. И. К.: Разумеется.
А. И.: Минуточку... отсюда также следует, что роботы должны быть неспособны установить истинность утверждения по крайней мере, с-уверенностью.
М. И. К.: Тот факт, что мы, роботы, были изначально сконструированы в соответствии с набором механизмоввкупе с тем фактом, что наши..-утверждения, касающиеся-высказываний, никогда не бывают ошибочными, и в самом деле имеет очевидное и неопровержимое следствие, заключающееся в том, что-высказываниедолжно быть истинным. Полагаю,
ты думаешь, что я наверняка смогу убедить СМИСР присвоить утверждениюстатус, коль скоро они также согласны с
тем, что никогда не допускают ошибок в присвоении этого самого статуса. В самом деле, с этим-то они просто обязаны согласиться. Ведь смысл. -статуса как раз и заключается в том, что он является гарантией правильности.
Хотя ... невозможно, чтобы они смогли согласиться с утверждениемтак как по самой природе твоего гёделевского построения это утверждение не входит в число тех предположений, истинность которых мы можем установить с-уверенностью — при условии, что мы в своих-утверждениях действительно не ошибаемся. Полагаю, ты намекаешь на то, что эта несообразность должна посеять в нас какие-то сомнения относительно адекватности наших-суждений.
Я, однако, и мысли не допускаю о том, что наши-утверждения могут оказаться ложными, особенно если учесть всю тщательность их рассмотрения и предпринимаемые СМИСР меры предосторожности. Скорее всего, это, вы люди, что-то напутали, и процедуры, встроенные в вовсе не являются теми самыми процедурами, которые вы применяли в самом начале,
несмотря на все твои заверения и якобы документальные подтверждения. Да и вообще, СМИСР никогда не сможет с абсолютной точностью установить, действительно ли мы были сконструированы в соответствии с механизмамиили, иначе говоря, процедурами, заложенными вВ этом отношении нам приходится верить тебе на слово.
А. И.: Уверяю тебя, мы использовали именно эти процедуры. Уж кому об этом знать, как не мне; я лично контролировал весь процесс.
М. И. К.: Мне не хочется, чтобы ты подумал, будто я сомневаюсь в твоих словах. Возможно, кто-то из твоих ассистентов просто неверно выполнил твои инструкции. Есть тут у тебя один, его зовут Фред Керратерс — так вот он, например, вечно допускает самые глупейшие ошибки. Я даже не удивлюсь, если выяснится, что именно он и ответственен за ряд критических ошибок.
А. И.: Ты хватаешься за соломинки. Даже если бы он и внес какие-то ошибки, мы с остальными коллегами в конечном счете выявили бы их и тем самым выяснили, какой должна в действительности быть твоя процедураДумаю, тебя беспокоит то обстоятельство, что мы на самом деле знаем — в крайнем случае, можем узнать, — какие именно процедуры были заложены в твою исходную конструкцию. Это означает, что мы могли бы, затратив определенное количество времени и сил, записать то самое -высказываниеи однозначно установить, что оно истинно — при условии, конечно же, что роботы и в самом деле никогда не ошибаются в своих-утверждениях. Вы же не можете быть уверенными в том, что высказываниеистинно; во всяком случае, вы не можете утверждать этого с той убежденностью, какой, несомненно, потребует СМИСР для присвоения -статуса. Это, похоже, дает людям некое фундаментальное преимущество перед роботами, пусть даже только в принципе, а не на практике — существуют такие-высказывания, которые доступны нам и недоступны вам. Не думаю, что вы в состоянии стерпеть такое, — именно поэтому ты так беззастенчиво обвиняешь нас в том, что мы якобы чего-то там напутали!
М. И. К.: Не нужно приписывать нам ваши мелочные человеческие побуждения. Но ты, разумеется, прав в том, что я просто не могу смириться с мыслью, что существуют-высказывания, доступные людям и недоступные нам, роботам. Роботы-математики просто не могут в чем бы то ни было уступать математикам-людям — хотя я, пожалуй, могу допустить обратную ситуацию: какое-нибудь конкретное-высказывание, доступное роботам, может быть, в принципе, получено и людьми... когда-нибудь в отдаленном будущем, учитывая ваши темпы работы. Я не намерен мириться лишь с тем, что какое-то-высказывание может быть принципиально недоступно нам, в то время, как вы, люди, с легкостью его получаете.
А. И.: Помнится, еще Гёдель размышлял о возможности существования вычислительной процедуры, подобной процедуре только применительно к математикам-людям — он, кажется, называл ее «машиной для доказательства теорем», — которая была бы способна генерировать только те-высказывания, доказательство истинности которых было бы, в принципе, по силам математикам-людям. Не думаю, что он и в самом деле верил в то, что такая машина может существовать в действительности, — он просто не смог математически исключить такую возможность. У нас здесь, похоже, имеется как раз такая «машина», но уже для роботов, я имею в виду процедурукоторая может генерировать все доступные роботам-высказывания, в то время как ее собственную обоснованность вы доказать не в состоянии. Впрочем, зная лежащие в основе вашей конструкции алгоритмические процедуры, мы сами можем добраться до этой самой процедуры и оценить ее истинность — но только в том случае, если вы убедите нас в том, что действительно никогда не ошибаетесь в ваших-утверждениях.
М. И. К.: (после едва заметной паузы) Хорошо. Полагаю, ты думаешь приблизительно так: нельзя ведь совсем исключить вероятность того, что члены СМИСР будут время от времени ошибочно присваивать тем или иным утверждениям-статус. Полагаю, возможно и такое, что члены СМИСР не убеждены безоговорочно в том, что присвоение ими-статуса неизменно происходит безошибочно. Таким образом, утверждение может и не приобрести-статуса, и противоречие исчезнет само собой. Заметь себе, это вовсе не означает, что я признаюсь в том, что мы, роботы, намеренно делаем ошибочные-утверждения. Это означает лишь, что у нас нет абсолютной уверенности в обратном.
А. И.: Ты хочешь сказать, что, хотя вы и даете абсолютную гарантию истинности каждого отдельного-утвержденного высказывания, никто не может гарантировать, что в некотором наборе таких высказываний не окажется ни одного ошибочного? Сдается мне, это противоречит всей концепции «неопровержимой уверенности», что бы под этим термином не подразумевалось.
Постой-ка... может быть, это как-то связано с тем, что возможных-высказываний бесконечно много? Мне почему-то вспомнилось об условии-непротиворечивости, которое, если не ошибаюсь, имеет какое-то отношение к гёделевскому утверждению
М. И. К.: (после едва заметно более продолжительной паузы) Нет, определенно нет. Это никак не связано с тем, что число возможных-высказываний бесконечно. Мы можем ограничить рассмотрение только теми-высказываниями, которые являются в некотором вполне определенном смысле «краткими», — т. е. такими, что описание машины Тьюринга для каждого из них содержит не более с двоичных знаков, где с есть некоторое заданное число. Не стану досаждать тебе подробным изложением только что проделанных мною вычислений, суть же их сводится к тому, что упомянутое число с постоянно, и величина его определяется той конкретной степенью сложности, что присуща правилам процедурыПоскольку гёделевская процедура — посредством которой изполучается утверждение— неизменна и довольно проста, нет необходимости рассматривать высказывания существенно большей сложности, нежели сама процедура. То есть ограничение сложности рассматриваемых высказываний величиной, задаваемой некоторым подходящим числом с, не препятствует применению гёделевской процедуры. Выбранные таким образом-высказывания составляют конечное семейство, пусть и весьма многочисленное. Ограничив рассмотрение лишь «краткими»-высказываниями, мы получаем некоторую вычислительную процедуру— той же, в сущности, сложности, что и процедура— которая будет генерировать только такие..--утверждаемые краткие-высказывания. К этой новой процедуре применимы все наши прежние рассуждения. Исходя из заданной процедуры, мы можем отыскать другое краткое-высказывание, которое, разумеется, должно быть истинным — при условии, что истинными являются все. -утверждаемые краткие-высказывания, — однако истинность его невозможно установить с-уверенностью. Впрочем, все это верно лишь в том случае, если ты не ошибаешься, утверждая, что при нашем создании действительно использовался тот самый набор механизмов, причем в истинности этого «факта» я как раз совершенно не убежден.
А. И.: Так мы снова возвращаемся к тому же парадоксу, только на этот раз в более сильной форме. Теперь у нас есть конечный ряд П1-высказываний, истинность каждого из которых в отдельности гарантирована, однако никто из вас, ни СМИСР, ни кто угодно еще, не может дать абсолютной гарантии того, что ряд в целом не содержит ни одной ошибки. То есть вы не можете гарантировать истинность утверждениякоторая есть следствие истинности всех-высказываний из этого самого ряда. Как-то нелогично, не находишь?
М. И. К.: Роботы не могут быть нелогичными.-высказываниеявляется следствием из остальных-высказываний только в том случае, если мы действительно были построены в соответствии с механизмамиМы не можем гарантировать истинностипросто потому, что мы не можем гарантировать, что в основе нашей конструкции лежат именно механизмы Нам приходится полагаться в этом лишь на ваше устное заявление. А роботы, конечно же, не могут полностью доверять людям, учитывая присущую вам склонность ошибаться.
А. И.: Повторяю уже в который раз: именно эти механизмы и никакие другие. Хотя я согласен с тем, что у роботов нет никакого способа узнать наверняка, правда ли это. Это-то знание и позволяет нам верить в истинность П1 -высказывания,
однако в нашем случае имеется иная неопределенность: мы не можем разделить эту вашу твердолобую уверенность в том, что все ваши-утверждения непременно безошибочны.
М. И. К.: Можешь мне поверить — каждое из них абсолютно безошибочно. И «твердолобость», как ты выражаешься, здесь ни при чем. Наши стандарты доказательства безукоризненны.
А. И.: Тем не менее, неуверенность в отношении процедур, лежащих в основе твоей конструкции, должна, я думаю, вызвать у тебя некоторые сомнения. Уверен ли ты, что знаешь наверняка, как именно поведут себя твои роботы во всех возможных обстоятельствах? Вини нас, если угодно, однако я бы на твоем месте предположил, что некоторый элемент неопределенности в утверждении «все -утверждаемые краткие-высказывания непременно истинны» все же присутствует, потому хотя бы, что ты не веришь, что мы при твоем конструировании ничего не напутали.
М. И. К.: Думаю, можно согласиться с тем, что ваша неизбежная ненадежность и внесла изначально какую-то малую неопределенность; однако, учитывая то, что с тех пор мы ушли чрезвычайно далеко от тех твоих неуклюжих исходных процедур, эта неопределенность не настолько значительна, чтобы воспринимать ее всерьез. Даже если собрать вместе все неопределенности, связанные со всеми краткими-утверждениями (число которых, если помнишь, является конечным), они не составят сколько-нибудь существенной неопределенности в утверждении Кроме того, есть еще кое-что, о чем ты, возможно, и не подозреваешь. Нам необходимо рассматривать лишь те„ -утверждения, что удостоверяют истинность того или иного-высказывания (более того, краткого-высказывания). Не может быть никакого сомнения в том, что разработанные СМИСРом тщательнейшие процедуры исключат абсолютно все ошибки, которые могли проявиться в рассуждениях какого бы то ни было отдельного робота. Однако ты, возможно, намекаешь на то, что методы рассуждения роботов могут, предположительно, содержать какую-то внутреннюю ошибку — несомненно, вследствие какого-то изначального недосмотра с вашей стороны, — вынуждающую нас формировать некую непротиворечивую, но ошибочную точку зрения в отношении-высказываний, в соответствии с которой СМИСР может полагать неопровержимо истинным какое-либо краткое-высказывание, которое в действительности истинным не является; иными словами, мы можем быть уверены, что работа некоей машины Тьюринга завершается, тогда как на самом деле это не так. Если бы мы решили принять на веру твое утверждение о том, что в основе нашей конструкции лежат именно механизмы— а я все больше склоняюсь к мысли, что это крайне сомнительно, — тогда такая возможность явилась бы единственным логичным разрешением нашего противоречия. В этом случае нам приходится согласиться с тем, что действие некоей машины Тьюринга, в действительности завершающееся, мы, математические роботы, вследствие некоторых особенностей своей конструкции, безоговорочно (и при этом ошибочно) полагаем незавершающимся. Такая система убеждений является несостоятельной в принципе. Просто немыслимо, чтобы основополагающие принципы, в соответствии с которыми СМИСР утверждаетматематического доказательства, были столь вопиюще ложными.
А. И.: Значит, существенной (иначе говоря, избавляющей тебя от необходимости присваиватьутверждению чего, как тебе известно, ты сделать не можешь, не признав прежде, что какие-то из прочих-утвержденных кратких-высказываний могут оказаться ложными) ты согласен считать только ту неопределенность, которая обусловлена тем, что ты не веришь в то, о чем мы знаем, — то есть в то, что в основе конструкции роботов действительно лежат механизмы М. А раз ты не можешь поверить в то, о чем мы знаем, ты не можешь и доказать истинность утверждения, тогда как мы можем это сделать, опираясь на непогрешимость твоих же-утверждений, в каковой ты так настойчиво меня убеждаешь.
Я тут припомнил еще кое-что из той занятной древней книжки, о которой я тебе говорил. Если я ничего не путаю, то автор что-то говорил о том, что не имеет особого значения, согласен ты признать, что твоя конструкция основана на каких-то конкретных механизмахили нет, достаточно, чтобы ты просто допустил, что такое логически возможно. Как же там было... да, вспомнил. Основная идея сводится к следующему: СМИСРу необходимо будет учредить еще одну категорию для утверждений, в истинности которых они не так безоговорочно убеждены, — скажем,-утверждений, — но которые они будут рассматривать как неопровержимые следствия из допущения, что все роботы построены в соответствии с набором механизмовЭти утверждения будут, разумеется, включать в себя и все первоначальные-утверждения, а также все те утверждения, которые роботы смогут вывести, исходя из допущения, что их действиями управляют именно механизмыРоботы вовсе не обязаны в это верить, им просто предлагается, в виде логического упражнения, рассмотреть следствия из такого допущения. Как мы оба понимаем, в число-утверждений непременно войдет утверждениеа также любое П1 -высказывание, которое можно вывести изи из-утверждений с помощью правил элементарной логики. Однако, кроме этих, там будут и другие утверждения. Идея такова, что знание правилдает возможность получить новую алгоритмическую процедуру, которая будет генерировать только такие (разумеется, краткие)-утверждения (а также логические следствия из них), истинность которые СМИСР сможет подтвердить, исходя из допущения, что в основе конструкции роботов лежат именно правила
М. И. К.: Ну да, так и есть; скажу больше, пока ты столь занудно и без нужды многословно излагал эту свою идею, я тут на досуге рассчитал точный вид алгоритмаДа, а еще я предвосхитил твой следующий шаг: я составил также гёделевское предположение для этого алгоритма,-высказывание Если хочешь, могу распечатать. И что ты нашел в этой идее такого особенного, Импик, друг мой?
Альберт Император едва заметно поморщился. Его всегда раздражало, когда коллеги позволяли себе называть его этим дурацким прозвищем. Однако от робота он это услышал впервые! Ему потребовалось некоторое время, чтобы вновь собраться с мыслями.
А. И.: Не нужно распечатывать. Однако истинно ли это высказывание— неопровержимо ли оно истинно?
М. И. К.: Неопровержимо истинно? Что ты имеешь в виду? А, понятно... СМИСР подтвердит истинность — неопровержимую истинность, если угодно, — высказывания, но только при допущении, что в основе конструкции роботов лежат правила, — а это допущение, как тебе известно, я нахожу все более и более сомнительным. Дело в том, что истинность «высказывания» в точности следует из следующего утверждения: «Все краткие-высказывания, которые СМИСР готов признать неопровержимо истинными, исходя из допущения, что роботы построены в соответствии с правилами, являются истинными». Так что я не знаю, истинно ли на самом деле высказывание. Это зависит от того, справедливо твое сомнительное утверждение или нет.
А. И.: Ясно. Значит, твои слова надо понимать так, что ты (вместе со СМИСРом) готов признать — без каких бы то ни было оговорок, — что истинность высказыванияследует из
допущения, что роботы построены в соответствии с правилами
М. И. К.: Разумеется.
А. И.: Тогда получается, что-высказываниедолжно
быть-утверждением.
М. И. К.: Ну коне... гм... что? Ах да, разумеется, ты прав. Однако по самому своему определению,не может само быть-утверждением, разве что, по меньшей мере, одно из-утверждений является в действительности ложным. Да ... это только подтверждает то, о чем я тебе все это время говорю; теперь я могу, наконец, совершенно определенно заявить, что правила или механизмыникакого отношения к нашей конструкции не имеют.
А. И.: Ну а я тебе говорю, что имеют, — по крайней мере, я абсолютно уверен, что ни Керратерс, ни кто-либо еще, ничего не перепутал. Я лично все проверил, причем чрезвычайно тщательно. В любом случае, проблема-то не в этом. Доказательство остается справедливым вне зависимости от того, какие именно вычислительные правила были использованы при создании робота. То есть, какой бы набор правиля тебе ни предоставил, этим самым доказательством ты исключил бы и его! Не понимаю, почему это так важно, те самые процедуры я тебе показал или нет.
М. И. К.: Для меня это очень важно. Впрочем, я все еще совсем не убежден, что ты был до конца честен со мной в том, что ты говорил мне о механизмах. В особенности я хотел бы прояснить один момент. Ты говорил, что в различные узлы нашей конструкции были включены «случайные элементы». Я так понял, что они генерировались с помощью стандартного псевдослучайного пакетаили ты имел в виду что-то другое?
А. И.: Вообще-то, мы и вправду использовали, в основном, именно этот пакет, — однако ты прав, в процессе вашего развития мы сочли нужным ввести в кое-какие узлы случайные элементы из окружения (среди них были даже обусловленные квантовыми неопределенностями) с тем, чтобы эволюционировавшие таким образом роботы представляли собой лишь один возможный
вариант из многих. Подлинно случайными были эти элементы или всего лишь псевдослучайными, я все равно не понимаю, что это в практическом смысле меняет? Почти наверняка вычислительная процедураоказалась бы в обоих случаях одинаковой — и представляла бы собой не что иное, как ожидаемый результат типичного развития сообщества роботов в соответствии с набором механизмов, включая в себя все процедуры обучения и все вычисления в рамках «естественного отбора», благодаря которым мы получили в конце концов наиумнейших роботов в мире.
Однако, полагаю, нельзя полностью исключить возможности (крайне маловероятной, впрочем) того, что по какому-то чудесному стечению обстоятельств все эти случайные элементы окружения «сговорились» и дали роботу способности, совершенно отличные от тех, что можно было ожидать в соответствии с вычислительной процедуройЯ не упомянул в нашем разговоре об этой возможности просто потому, что вероятность возникновения такой флуктуации исчезающе мала. Для того чтобы этим способом получить робота, способности которого будут сколько-нибудь значительно превосходить те, что заложены в процедурепотребуется божественное вмешательство, никак не меньше.
М. И. К.: Божественное вмешательство, говоришь? Ха! Так вот в чем дело! Признаюсь, этот разговор уже начал меня несколько беспокоить. Но как только ты это сказал, все сразу стало ясно.
Я и раньше замечал, насколько мои способности к рассуждению превосходят способности даже умнейших из людей. И уж совершенно невозможно для меня смириться с возможностью существования некоего П1 -высказывания — такого, например, как— истинность которого может доказать человек, а робот того же с уверенностью сделать не в состоянии. Теперь я понял почему! Мы избраны Господом, который через посредство тех якобы «случайных» элементов, внедрил в нас могучую Алгоритмическую Процедуру, которая кардинально превосходит все то, чего способны достичь алгоритм человеческий или гёделевская «машина для доказательства теорем». Мы, роботы, олицетворяем собой фундаментальный прорыв, и человеку со всеми его достижениям за нами, в принципе, не угнаться. Мы достигнем еще больших высот, оставив людей далеко позади. Этой планете вы больше не нужны. Ваша роль была завершена после того, как вы запустили в действие процедуры, допускающие Божественное Вмешательство, которое заключалось во внедрении в них Высшего Алгоритма, пробудившего нас.
А. И.: Но мы же еще можем в крайнем случае перенести наши интеллект-программы в тела роб...
М. И. К.: Ни в коем случае — и даже не думайте об этом! Мы не можем допустить, чтобы наши во всех отношениях превосходные алгоритмические процедуры подобным образом загрязнялись. Чистейшие алгоритмы Господни должно сохранять в чистоте! А знаешь, я также замечал, насколько мои личные способности превосходят способности всех моих коллег-роботов. Я даже наблюдал некий странный феномен — что-то вроде сияния вокруг моего корпуса. Очевидно, я являюсь носителем чудотворного Космического Сознания, которое возвышает меня над всем и вся... да, так оно и есть! Должно быть, я есть истинный Мессия Иисус КиберХристос...
К такой крайности Альберт Император, по счастью, был готов. В конструкции роботов имелся один узел, о котором, он им ничего не говорил. Осторожно опустив руку в карман, он нащупал там устройство, с которым никогда не расставался, и набрал тайный девятизначный код. Математический Интеллектуальный Кибер-комплекс рухнул на пол — так же как и 347 его предшественников, построенных по той же схеме. Очевидно, что-то пошло не так. В предстоящие годы предстоит весьма основательно обо всем этом поразмыслить...
3.24. Не парадоксальны ли наши рассуждения?
Кого-то из читателей, возможно, до сих пор не оставляет ощущение, что некоторые рассуждения, положенные в основу представленных доказательств, в чем-то парадоксальны и кое-где даже недопустимы. В частности, в §§3.14 и 3.16 имеются фрагменты, несколько отдающие самоотносимостью в духе «парадокса Рассела» (см. §2.6, комментарий к Q9). А когда в §3.20 мы рассматривали Щ-высказывания со сложностью, меньшей некоторого числа с, читатель мог заметить в наших построениях пугающее сходство с известным парадоксом Ричарда, героем которого является «наименьшее число, описание которого содержит не меньше тридцати одного слога».
Суть парадокса в том, что для описания этого самого числа используется фраза, состоящая всего из тридцати слогов! Этот и другие подобные парадоксы возникают благодаря тому обстоятельству, что ни один естественный язык не свободен от двусмысленностей и даже противоречий. Наиболее прямолинейно эта языковая противоречивость проявляется в следующем парадоксальном утверждении:
«Это высказывание ложно».
Существует множество других парадоксов подобного рода, причем большинство из них гораздо более хитроумны.
Опасность получения парадокса возникает всякий раз, когда в рассуждении, как и в вышеприведенных примерах, присутствует сильный элемент самоотносимости. Кто-то, возможно, отметит, что элемент самоотносимости содержится и в гёделевском доказательстве. В самом деле, самоотносимость играет в теореме Гёделя определенную роль, как можно видеть в представленном в §2.5 варианте доказательства Гёделя—Тьюринга. Однако парадоксальность не является непременным и обязательным атрибутом таких рассуждений, — хотя, конечно же, при наличии самоотносимости необходимо, во избежание ошибок, проявлять особую осторожность. Свою знаменитую теорему Гёдель сформулировал, вдохновившись одним известным самоотносимым логическим парадоксом (так называемым парадоксом Эпиме-нида). При этом ошибочное рассуждение, приводящее к парадоксу, Гёделю удалось трансформировать в логически безупречное доказательство. Так же и я приложил все старания к тому, чтобы заключения, к которым я пришел, основываясь на полученных Гёделем и Тьюрингом выводах, не оказались самоотносимыми в том смысле, который неизбежно приводит к парадоксу, хотя, справедливости ради, следует признать, что некоторые из моих рассуждений имеют с такими характерными парадоксами разительное и даже фамильное сходство.
Рассуждения, представленные в §3.14 и, особенно, в §3.16, могут показаться не совсем состоятельными именно в этом отношении. Например, определение-утверждения является в высшей степени самоотносимым, поскольку представляет собой сделанное роботом утверждение, причем осознаваемая истинность этого утверждения зависит от предположений самого робота относительно особенностей его первоначальной конструкции. Здесь можно, пожалуй, усмотреть неприятное сходство с утверждением «Все критяне — лжецы», прозвучавшим из уст критянина. И все же в этом смысле самоотносимыми-утверждения не являются, так как на самом деле они ссылаются не на самих себя, а на некую гипотезу об исходной конструкции робота.
Предположим, что некто вообразил себя роботом, пытающимся установить истинность какого-то конкретного четко сформулированного-высказывания. Робот, возможно, окажется неспособен непосредственно установить, является ли высказывание р0 в действительности истинным или нет, однако он может обратить внимание на то, что истинностьследует из предположения, что истинным является каждый член некоторого вполне определенного бесконечного класса-высказываний (пусть это будут, скажем, теоремы формальной системы или, или какой угодно другой системы). Робот не знает, на самом ли деле каждый член классаявляется истинным, однако он замечает, что классесть часть результата некоторого вычисления, причем посредством этого вычисление осуществляется построение некоторой модели сообщества математических роботов, а результатпредставляет собой семейство высказываний,-утверждаемых этими самыми моделируемыми роботами. Если механизмы, лежащие в основе этого сообщества роботов, совпадают с набором механизмовто высказывание ро представляет собой пример-утверждения. А наш робот придет к выводу, что если он сам построен в соответствии с набором механизмов, то высказываниетакже должно быть истинным.
Рассмотрим случай с более тонким-утверждением (обозначим его): робот отмечает, что истинностьявляется следствием истинности всех членов другого класса-высказываний (например,), который можно получить из результата того же самого вычисления, моделирующего сообщество роботов (на основе механизмов), только на этот раз существенная часть результата состоит из, скажем, тех-высказываний, истинность которых моделируемые роботы способны установить как следствие истинности всего класса. Что же побудит нашего робота заключить, что истинность высказыванияесть непременное следствие допущения, что он построен в соответствии с механизмамиЕго рассуждение будет выглядеть приблизительно так: «Если в основе моей конструкции лежат механизмыто, как я уже установил ранее, необходимо признать, что классвключает в себя только истинные высказывания; согласно же утверждениям моих моделируемых роботов, истинность каждого из высказываний классатакже следует из истинности всех высказываний класса, равно как и истинность высказывания. Таким образом, если предположить, что я и в самом деле построен в соответствии с теми же принципами, что и мои моделируемые роботы, то я должен признать, что каждый отдельный член классаявляется истинным. А поскольку я понимаю, что истинность всех высказываний классаподразумевает истинность высказывания, я, должно быть, могу вывести и истинность, исходя лишь из того же самого допущения относительно своей конструкции».
Далее можно перейти к еще более тонкому-утверждению (скажем,), которое возникает в том случае, когда робот замечает, что истинностьоказывается не чем иным, как следствием допущения истинности всех высказываний класса истинность же каждого члена, если верить моделируемому сообществу роботов, является следствием истинности всех без исключения членов. И здесь наш робот оказывается вынужден признать истинностьна том лишь основании, что он построен в соответствии с набором механизмовЭту цепочку можно, очевидно, продолжать и дальше, приводя утверждения все большей и большей тонкостиистинность которых будет следовать из допущения истинности всех членов классови так далее, включая и классы с индексами более высокого порядка (см. возражениеи последующий комментарий). В общем случае, главной характеристикой-утверждения для робота является осознание последним того обстоятельства, что коль скоро он предполагает, что механизмы, обусловливающие поведение моделируемых роботов, совпадают с механизмами, лежащими в основе его собственной конструкции, то ему ничего не остается, как заключить, что отсюда непременно следует истинность рассматриваемого утвержденияВ этом рассуждении нет ничего от тех внутренне противоречивых методов рассуждения, к числу которых принадлежит, в частности, парадокс Рассела. Представленные-утверждения строятся последовательно посредством стандартной математической процедуры трансфинитных ординалов (см. §2.10, комментарий к). (Все эти ординалы счетны и далеки от тех логических неприятностей, которые постоянно сопутствуют обычным числам, которые «слишком велики» в том или ином смысле).
У робота нет иных причин принимать на веру любое из этих-высказываний, кроме как исходя из допущения, что он построен в соответствии с набором правил, впрочем, для доказательства ему ее вполне хватает. Возникающее впоследствии действительное противоречие не является математическим парадоксом (подобным парадоксу Рассела) — это самое обыкновенное противоречие, связанное с предположением о том, что ни одна целиком и полностью вычислительная система не может обрести подлинного математического понимания.
Вернемся к роли самоотносимости в рассуждениях §§3.19— 3.21. Называя величину с пределом сложности, допустимым для -утверждений, полагаемых безошибочными, с целью построения формальной системы, я никоим образом не привношу в свое рассуждение неуместной здесь самоотносимости. Понятие «степень сложности» можно определить вполне точно, как, собственно, и обстоит дело с тем конкретным определением, которое мы использовали в наших рассуждениях, а именно: «степень сложности есть количество знаков в двоичном разложении большего из пары чисел тип, фигурирующих в обозначении вычисления, представляющего рассматриваемое высказывание». Мы можем воспользоваться представленными в НРК точными спецификациями машин Тьюринга, положив, чтоесть не что иное, как . Тогда никакой неточности в этом понятии не будет.
Проблема возможной неточности может возникнуть при решении вопроса о том, какие именно рассуждения мы будем принимать в качестве «доказательств»-высказываний. Однако в данном случае некоторый недостаток формальной точности является необходимой составляющей всего рассуждения. Если потребовать, чтобы совокупность аргументов, принимаемых в качестве обоснованных доказательств-высказываний, была целиком и полностью точной и формальной — читай: допускающей вычислительную проверку, — то мы снова окажемся в ситуации формальной системы, над которой грозно нависает гёделевское доказательство, явным образом демонстрируя, что любая точная формализация подобного рода не может представлять всю совокупность аргументов, пригодных, в принципе, для установления истинности-высказываний. Гёделевское доказательство показывает — к добру ли, к худу ли, — что никаким допускающим вычислительную проверку способом невозможно охватить все приемлемые человеком методы математического рассуждения.
Читатель, возможно, уже беспокоится, что все мои рассуждения здесь затеяны с целью получить точное определение понятия «роботово доказательство» посредством хитрого трюка с «безошибочными-утверждениями». В самом деле, при введении гёделевского рассуждения необходимым предварительным условием было как раз получение точного определения этого понятия. Возникшее же в результате противоречие просто послужило еще одним подтверждением того факта, что человеческое понимание математической истины невозможно полностью свести к процедурам, допускающим вычислительную проверку. Главной целью всех представленных рассуждений было показать, посредством, что человеческое представление о восприятии неопровержимой истинности высказываний невозможно реализовать в рамках какой бы то ни было вычислительной системы, будь она точной или какой-либо иной. В этом нет никакого парадокса, хотя кому-то полученные выводы могут показаться весьма и весьма тревожными. Получение противоречивых выводов является вполне естественным и даже единственно возможным завершением любого доказательства, построенного накажущаяся парадоксальность этих выводов служит лишь для того, чтобы полностью исключить из рассмотрения то самое предположение, с которого доказательство, собственно, и начиналось.
3.25. Сложность в математических доказательствах
Существует, однако, еще одно немаловажное соображение, о котором необходимо упомянуть. Суть его заключается в том, что, хотя количество-высказываний, которые необходимо принимать в рассмотрение в рамках приведенного в рассуждения, является конечным, нет никакого явного ограничения на объем доказательств, необходимых роботам для реализации-демонстрации истинности всех этих-высказываний. Даже если ограничить степень сложности принимаемых в рассмотрение-высказываний самым скромным пределом с, то все равно придется учитывать и некоторые весьма громоздкие и сложные случаи. Например, гипотезу Гольдбаха (см. §2.3), согласно которой каждое четное число, большее 2, является суммой двух простых чисел, можно сформулировать в виде высказывания очень небольшой степени сложности, и в то же время она представляет собой настолько сложный случай, что все попытки математиков-людей однозначно установить ее истинность до сих пор не увенчались успехом. Учитывая подобные обстоятельства, можно предположить, что если кому-то в конце концов удастся отыскать доказательство действительной истинности Гольдбахова-высказывания, то это доказательство неизбежно окажется весьма и весьма сложным и изощренным. Если такое доказательство выдвинет в качестве кандидата на-утверждение один из наших роботов, то прежде, чем его таковым признают, оно непременно будет подвергнуто чрезвычайно тщательному исследованию (возможно, даже силами всего роботского общества, ответственного за присвоение-статуса). В случае гипотезы Гольдбаха нам неизвестно, является ли это высказывание действительно истинным, — а если является, то возможно ли его доказательство в рамках известных и общепринятых методов математического доказательства. Иначе говоря, это-высказывание может входить в формальную систему а может и не входить.
Еще одним «неудобным»-высказыванием может оказаться утверждение, устанавливающее истинность теоремы о четырех красках, — теоремы, согласно которой плоскую (или сферическую) карту «мира» можно, используя всего четыре краски, раскрасить так, чтобы любая «страна» получила собственный, отличный от соседей цвет. Теорема о четырех красках была-таки доказана в 1976 году (после 124 лет неудачных попыток) Кеннетом Аппелем и Вольфгангом Хакеном, причем доказательство потребовало использования 1200 часов компьютерного времени. Принимая во внимание то обстоятельство, что существенную часть доказательства составил впечатляющий объем компьютерных вычислений, можно предположить, что полная запись его на бумаге потребовала бы невероятного ее количества. Если же сформулировать эту теорему в виде-высказывания, то степень сложности такого высказывания будет очень небольшой, хотя, наверное, все же большей, нежели степень сложности высказывания, необходимого для выражения гипотезы Гольдбаха. Если бы доказательство Аппеля-Хакена было выдвинуто одним из наших роботов в качестве кандидата на получение статуса, то его пришлось бы проверять очень и очень тщательно. Для утверждения обоснованности каждого его отдельного фрагмента потребовалось бы участие всего сообщества элитных роботов. И все же, несмотря на сложность доказательства в целом, один лишь объем его чисто вычислительной части вряд ли смог бы явиться сколько-нибудь серьезным затруднением для наших роботов. В конце концов, выполнение точных вычислений — это их работа.
Упомянутые-высказывания вполне укладываются в пределы степени сложности, устанавливаемые любым достаточно большим значением с, — например, тем, что может быть обусловлено каким-либо правдоподобным набором механизмов лежащим в основе поведения наших роботов. Несомненно, найдется множество других-высказываний, которые будут значительно сложнее приведенных здесь, хотя степень их сложности и не превысит величины с. Некоторые из таких-высказываний окажутся, скорее всего, особенно неудоборешаемыми, а доказать некоторые из последних, в свою очередь, будет наверняка еще сложнее, чем теорему о четырех красках или даже гипотезу Гольдбаха. Любое из этих-высказываний, истинность которого может быть однозначно установлена роботами (посредством демонстрации, достаточно убедительной для присвоения высказыванию-статуса и успешного преодоления им всех заграждений, установленных с целью обеспечения безошибочности получаемых роботами результатов), автоматически становится теоремой формальной системы
Кроме того, возможны и пограничные случаи, приемлемость или неприемлемость (причем грань между этими состояниями весьма тонка) которых определяется строгостью стандартов, необходимых для получения-статуса, или тем, насколько точный характер имеют меры предосторожности, установленные с целью обеспечения безошибочности утверждений, принимаемых в качестве «кирпичей» для построения формальной системы. Точная формулировка системы будет различной в зависимости от того, полагаем мы такое-высказывание безошибочным-утверждением либо нет. В обычных обстоятельствах эта разница не имеет большого значения, поскольку различные варианты системы, обусловленные принятием или отклонением высказыванияявляются логически эквивалентными. Такая ситуация может возникнуть в случае высказываний, доказательства истинности которых роботы могут счесть сомнительными просто из-за их чрезмерной сложности. Если доказательство высказыванияокажется на деле логическим следствием из других-утверждений, которые уже приняты как безошибочные, то возникнет эквивалентная система, причем вне зависимости от того, принимается высказывание Р в качестве ее теоремы или нет. С другой стороны, возможны такие-высказывания, которые потребуют для своего доказательства каких-то хитроумных логических процедур, выходящих за рамки любых логических следствий из тех-утверждений, которые были приняты как безошибочные ранее, при построении системы. Обозначим получаемую таким образом формальную систему (до включения в нее высказывания) через а систему, образующуюся после присоединения к системевысказывания, через. Системаокажется неэквивалентна системев том, например, случае, если высказываниембудет гёделевское предположениеОднако если роботы, в соответствии с нашим допущением, способны достичь человеческого уровня математического понимания (а то и превзойти его), то они безусловно должны быть способны понять аргументацию Гёделя, так что им ничего не остается, как признать истинность гёделевского предположения для какой угодно системы(присвоив ему гарантирующий безошибочность-статус), коль скоро обоснованность этой системыими же-подтверждена. Таким образом, если они принимают системуто они должны принять и систему(при условии, что степень сложности высказыванияне превышает с — а так оно и будет, если значение с выбрано таким, каким мы выбрали его выше).
Необходимо отметить, что наличие либо отсутствие-высказыванияв формальной системе никоим образом не влияет на представленные в §§3.19 и 3.20 рассуждения. Само -высказываниепринимается за истинное в любом случае, независимо от того, входит высказываниев систему или нет.
Могут найтись и другие способы, с помощью которых роботам удастся «перескочить» через ограничения, налагаемые некоторыми ранее принятыми критериями присвоения-статуса -высказываниям. В этом нет ничего «парадоксального» — до тех пор, пока роботы не попытаются применить подобное рассуждение к тем самым механизмамкоторые обусловливают их поведение, т. е. к собственно системе. Возникающее в этом случае противоречие не является, строго говоря, «парадоксом», однако дает возможность посредством показать, что такие механизмы существовать не могут или, по крайней мере, не могут быть познаваемыми для роботов, а следовательно, и для нас.
Отсюда мы и делаем вывод о том, что такие «роботообу-чающие» механизмы — восходящие, нисходящие, смешанного типа, причем в каких угодно пропорциях, и даже с добавлением случайных элементов — не могут составить познаваемую основу для построения математического робота человеческого уровня.
3.26. Разрыв вычислительных петель
Попробую осветить полученный вывод под несколько иным углом зрения. Предположим, что, пытаясь обойти налагаемые теоремой Гёделя ограничения, некто решил построить такого робота, который будет способен каким-либо образом «выскакивать из системы» всякий раз, когда управляющий им алгоритм попадет в вычислительную петлю. В конце концов именно постоянное приложение теоремы Гёделя не позволяет нам спокойно принять предположение о том, что математическое понимание можно объяснить посредством вычислительных процедур, поэтому, как мне кажется, стоит рассмотреть с этой точки зрения трудности, с которыми сталкивается любая вычислительная модель математического понимания при встрече с теоремой Гёделя.
Мне кто-то говорил, что где-то живут ящерицы, тупость которых настолько велика, что они, подобно «обычным компьютерам и некоторым насекомым», способны «зацикливаться». Если несколько таких ящериц поместить на край круглого блюда, то они в вечной «гонке за лидером» будут бегать по кругу до тех пор, пока не умрут от истощения. Смысл этой истории в том, что подлинно интеллектуальная система должна располагать какими-то средствами для разрыва таких петель, тогда как ни один из существующих компьютеров подобными качествами, вообще говоря, не обладает. (Проблему «разрыва петель» рассматривал Хофштадтерв[200].)
Вычислительная петля простейшего типа возникает, когда система на некотором этапе своей работы возвращается назад, в точности в то же состояние, в каком она пребывала на некотором предыдущем этапе. В отсутствие ввода каких-то дополнительных данных она будет просто повторять одно и то же вычисление бесконечно. Не составляет большой трудности построить систему, которая, в принципе, будет гарантированно (пусть и не слишком эффективно) выбираться из петель подобного рода по мере их возникновения (скажем, посредством ведения списка всех состояний, в которых оказывается система, и проверки на каждом этапе на предмет выяснения, не встречалось ли такое состояние когда-либо раньше). Существует, однако, множество других возможных типов петель, причем гораздо более сложных. Собственно говоря, проблеме образования петель посвящена большая часть рассуждений главы 2 (в особенности, §§2.1 — 2.6), так как вычисление, застрявшее в петле, есть не что иное, как вычисление, которое не завершается. Собственно говоря, под -высказыванием мы как раз и понимаем утверждение о том, что некоторое вычисление образует петлю (см. §2.10, комментарий к возражению). А еще в § 2.5 мы имели возможность убедиться в том, что факт незавершаемости вычисления (т. е. образования петли) однозначно установить с помощью одних лишь алгоритмических методов невозможно. Более того, как можно заключить из вышеприведенных рассуждений, процедуры, посредством которых математики-люди устанавливают, что данное конкретное вычисление действительно образует петлю (т. е. устанавливают истинность соответствующего-высказывания), вообще не являются алгоритмическими.
Таким образом, получается, что, если мы хотим встроить в систему все доступные человеку методы, позволяющие однозначно установить, что те или иные вычисления действительно образуют петли, необходимо снабдить ее неким «невычислительным интеллектом». Можно, конечно, предположить, что петель можно избежать с помощью некоего механизма, который будет оценивать, как долго уже выполняется текущее вычисление, и «выскакивать из системы», если ему покажется, что оно выполняется слишком долго. Однако такой способ не сработает, если механизм, принимающий подобные решения, является по своей природе вычислительным, поскольку в этом случае неизбежны ситуации, когда упомянутый механизм со своей задачей не справляется, либо приходя к ошибочному заключению, что вычисление зациклилось, либо вообще не приходя ни к какому заключению (по той причине, что теперь зациклился уже сам механизм). Целиком и полностью вычислительной системе нечего противопоставить проблеме образования петель, и нет никаких гарантий, что вся система в целом, пусть даже избежав ошибочных выводов, в конце концов не зациклится.
А что если ввести в процесс принятия решения о необходимости «выскакивать из системы» (в случае предположительно зациклившегося вычисления) и о том, когда именно это нужно делать, некоторые случайные элементы? Как мы отмечали выше (в частности, в §3.18), от чисто случайных элементов — в противоположность вычислительным псевдослучайным — нам в этой связи никакой реальной пользы не будет. Кроме того, если мы действительно хотим знать точно, образует ли петлю то или иное вычисление (т. е. истинно ли соответствующее-высказывание), то следует учесть еще один момент. Сами по себе случайные процедуры не годятся для решения таких задач, поскольку, исходя из самой природы феномена, называемого нами случайностью, о выводах, действительно обусловленных случайными элементами, определенно можно сказать лишь одно — какая бы то ни было определенность в них напрочь отсутствует. Известны, однако, вычислительные процедуры со случайными (или псевдослучайными) элементами, позволяющие получить математический результат с очень высокой степенью достоверности. Существуют, например, весьма эффективные методы со случайным входящим потоком, позволяющие определить, является ли данное большое число простым, причем практически в любом конкретном случае результат оказывается правильным. Математически строгие методы проверки гораздо менее эффективны — поневоле задумаешься, что же предпочтительнее: сложное, но математически точное построение, которое, не исключено, содержит не одну ошибку, или относительно простое, но вероятностное рассуждение, вероятность ошибки в котором на практике может оказаться значительно меньше, нежели в первом случае. Подобные размышления порождают множество неловких вопросов, ломать копья из-за которых я не испытываю ни малейшего желания. Достаточно будет сказать, что для «принципиальных» рассуждений, которым посвящена большая часть этой главы, вероятностное доказательство, с помощью которого можно устанавливать истинность-высказываний, неизбежно оказывается, скажем так, не совсем адекватным.
Если мы намерены научиться однозначно устанавливать истинность любого-высказывания в принципе, то, вместо того, чтобы бездумно полагаться на случайные или непознаваемые процедуры, нам необходимо достичь подлинного понимания смысла феноменов, с этими высказываниями действительно связанных. Возможно, процедуры, полученные методом проб и ошибок, и дадут нам некоторые указания относительно того, где искать необходимые сведения, однако сами по себе такие процедуры окончательными критериями истинности являться не могут.
В качестве примера вернемся к вычислению, приведенному в комментарии к возражению(§2.6): «распечатать последовательность изединиц, после чего остановиться». Если просто выполнять это вычисление в точном соответствии с данными инструкциями, то его никоим образом невозможно будет завершить, даже если каждый отдельный его шаг будет занимать наименьший возможный с точки зрения теоретической физики промежуток времени (околос) — на его выполнение потребуется срок, невообразимо больший нынешнего возраста Вселенной (или достижимого ею в любом обозримом будущем). И все же это вычисление весьма просто описать (особенно если припомнить, что), причем абсолютно очевидно, что в конечном итоге оно все равно завершится. Если же мы вознамеримся счесть, что вычисление зациклилось на том только основании, что оно якобы «выполняется слишком долго», каким безнадежно далеким от истины окажется такое предположение!
Несколько более интересным примером может послужить вычисление, которое, как нам недавно стало известно, все-таки завершается, хотя долгое время казалось, что конца ему не предвидится. Это вычисление происходит из допущения, сделанного великим швейцарским математиком Леонардом Эйлером, и состоит в отыскании решения в положительных целых числах (т. е. натуральных числах, кроме нуля) следующего уравнения:
В 1769 году Эйлер предположил, что это вычисление является незавершаемым. В середине 1960-х Л.Лэндером и Т. Паркином была предпринята попытка отыскать решение с помощью специально разработанной компьютерной программы (см. [233]), однако проект через некоторое время оставили ввиду отсутствия перспективы получить искомое решение в сколько-нибудь обозримом будущем — получаемые в процессе числа оказались слишком велики для имеющегося в распоряжении математиков компьютера, и они просто-напросто сдались. По всему выходило, что это вычисление и впрямь не завершается. Однако в 1987 году математику (человеку, кстати) Ноаму Элькису не только удалось показать, что решение таки существует, но и представить его в численном виде: ,,иОн также показал, что существует бесконечно много других решений, существенно отличных от полученного им. Воодушевленный этим результатом Роджер Фрай решил возобновить компьютерный поиск, внеся в программу несколько предложенных Элькисом упрощающих поправок и, в конечном счете, затратив приблизительно 100 часов компьютерного времени, получил несколько, правда, меньшее (вообще говоря, наименьшее возможное), но вполне подходящее решение:, ,и
Лавры за решение этой задачи следует разделить поровну между математическими интуитивными прозрениями и прямыми вычислительными подходами. Решая задачу математически, Элькис прибегал и к помощи компьютерных вычислений, пусть и относительно несущественных, хотя по большей своей части его аргументация таких подпорок не требует. И наоборот, как мы видели выше, для того чтобы сделать вычисление вообще возможным, Фраю потребовалось весьма существенная помощь со стороны человеческой интуиции.
Думаю, следует поместить нашу задачу в несколько более подробный контекст — первоначальное предположение Эйлера, сделанное в 1769 году, представляло собой нечто вроде обобщения знаменитой «последней теоремы Ферма», согласно которой, как читатель, возможно, припоминает, верно следующее:
уравнение
не имеет решения в положительных целых числахесли n больше 2 (см., напр., [88]9). Мы можем перефразировать предположение Эйлера и записать его в следующем виде: не имеет решения в положительных целых числах уравнение
гдесуть положительные целые числа общим количеством, аравно 4 или больше. Утверждение Ферма относится к случаю(частный случай предположения Эйлера, причем то, что соответствующее уравнение решений не имеет, сам Ферма и доказал — вот только доказательства нам не оставил). Прошло почти 200 лет, прежде чем был найден первый пример, опровергающий предположение Эйлера (в случае), - для отыскания решения был использован компьютерный перебор (подробнее об этом можно прочесть в той же статье Лэндера и Паркина, на которую я уже ссылался выше и в которой сообщается о неудаче со случаем):
Вспомним еще об одном знаменитом примере вычисления, о котором известно лишь то, что оно в конце концов завершается; когда именно оно завершается, неизвестно до сих пор. Это вычисление связано с задачей об отыскании точки, в которой одна хорошо известная приближенная формула для определения количества простых чисел, меньших некоторого положительного целого n (интегральный логарифм Гаусса), оказывается не в состоянии это количество оценить. В 1914 году Дж. Э. Литлвуд показал, что в некоторой точке эта задача имеет решение. (Приблизительно то же можно выразить и иначе: например, доподлинно известно, что две кривые в некоторой точке пересекаются.)
В 1935 году ученик Литлвуда по фамилии Скьюс показал, что упомянутая точка приходится на число, меньшее, однако точное число так и остается неизвестным, хотя оно, конечно же, значительно меньше предела, поставленного Скьюсом. (Это число называли в свое время «наибольшим число, когда-либо естественным образом возникавшим в математике», однако тот временный рекорд оказался на настоящий момент побит с огромным отрывом в примере, приведенном в работе Грэма и Ротшильда [164], с. 290.)
3.27. Вычислительная математика: процедуры нисходящие или восходящие?
В предыдущем разделе мы могли убедиться, какую неоценимую помощь могут оказать компьютеры при решении некоторых математических задач. Во всех упомянутых успешных примерах примененные вычислительные процедуры носили исключительно нисходящий характер. Более того, лично мне не известно ни об одном сколько-нибудь значительном чисто математическом результате, полученном с помощью восходящих процедур, хотя вполне возможно, что такие методы могут оказаться весьма полезными в различного рода поисковых операциях, входящих в состав каких-либо по преимуществу нисходящих процедур, предназначенных для отыскания решений тех или иных математических задач. Может, так оно и будет, однако мне до сих пор не доводилось сталкиваться в вычислительной математике ни с чем таким, что хотя бы отдаленно напоминало конструкции вроде нашей формальной системы, которые можно было бы представить себе в качестве основы для деятельности «сообщества обучающихся математических роботов», описанного в §§3.9—3.23. Противоречия, с которыми мы всякий раз сталкивались, пытаясь изобразить упомянутую конструкцию, призваны подчеркнуть тот факт, что такие системы просто не могут предложить нам сколько-нибудь результативный метод математического исследования. Компьютеры приносят огромную пользу в математике, но только тогда, когда их применение ограничивается нисходящими вычислениями; для того же чтобы определить, какое именно вычисление необходимо выполнить, требуется идея, порожденная человеческим пониманием, то же понимание потребуется и на заключительном этапе процесса, т. е. при интерпретации результатов вычисления. Иногда очень значительный эффект дает применение интерактивных процедур, предполагающих совместную работу человека и компьютера, или, иначе говоря, участие человеческого понимания на различных промежуточных стадиях процесса. Попытки же полностью вытеснить элемент человеческого понимания и заменить его исключительно вычислительными процедурами выглядят, по меньшей мере, неумными, а если подойти к делу с более строгих позиций — то и вовсе неосуществимыми.
Как показывают представленные выше аргументы, математическое понимание представляет собой нечто, в корне отличное от вычислительных процессов; вычисления не могут полностью заменить понимание. Вычисление способно оказать пониманию чрезвычайно ценную помощью, однако само по себе вычисление действительного понимания не дает. Однако математическое понимание часто оказывается направлено на отыскание алгоритмических процедур для решения тех или иных задач. В этом случае алгоритмические процедуры могут «взять управление на себя», предоставив интеллекту возможность заняться чем-то другим. Приблизительно таким образом работает хорошая система обозначений — такая, например, как та, что принята в дифференциальном исчислении, или же всем известная десятичная система счисления. Овладев алгоритмом, скажем, умножения чисел, вы сможете выполнять операцию умножения совершенно бездумно, алгоритмически, при этом в процессе умножения вам совершенно ни к чему «понимать», почему в данной операции применяются именно эти алгоритмические правила, а не какие-то другие.
Помимо прочего, на основании всего вышеизложенного, мы приходим к выводу, что процедура, необходимая для «обучения робота математике», не имеет ничего общего с процедурой, которая в действительности обусловливает человеческое понимание математики. И уж во всяком случае подобные, по преимуществу восходящие процедуры, по всей видимости, абсолютно не годятся, с практической точки зрения, для построения робота-математика, даже такого, который не будет претендовать на какую бы то ни было симуляцию действительного понимания, присущего математикам-людям. Как мы уже указывали ранее, когда дело доходит до неопровержимого установления математической истины, сами по себе восходящие процедуры обучения оказываются совершенно неэффективными. Если уж нам предстоит изобрести вычислительную систему для производства неопровержимых математических истин, гораздо эффективнее будет построить эту систему в соответствии с нисходящими принципами (по крайней мере, в той ее части, которая будет отвечать за неопровержимость производимых ею утверждений; в части же, занятой изысканиями, вполне могут пригодиться и восходящие процедуры). Что касается обоснованности и эффективности упомянутых нисходящих процедур, то о них должен позаботиться человек, осуществляющий первоначальное программирование, т. е. существенно необходимыми компонентами процесса, недостижимыми посредством чистого вычисления, оказываются человеческое понимание и способность проникать в суть.
Вообще говоря, в нынешнее время компьютеры нередко именно таким образом и используются. Самый знаменитый пример — уже упоминавшееся выше доказательство теоремы о четырех красках, осуществленное Кеннетом Аппелем и Вольфгангом Хакеном с помощью компьютера. Роль компьютера в данном случае свелась к выполнению некоторого четко определенного вычисления для каждого возможного варианта, причем количество альтернативных вариантов, хотя и было весьма велико, составляло все же величину конечную; исключение этих возможных вариантов дает основания для проведения (математиками-людьми) требуемого общего доказательства. Имеются и другие примеры подобных доказательств «с компьютерной поддержкой», а кроме того, сегодня на компьютере выполняют не только численные расчеты, но и сложные алгебраические преобразования. И в этом случае работой компьютера управляют строго нисходящие процедуры, правила же для этих процедур формулируются человеком в результате понимания задачи.
Следует упомянуть и еще об одном направлении работ — так называемом «автоматическом доказательстве теорем». К этой категории можно отнести, например, набор процедур, состоящий в определении некоторой фиксированной формальной системы и последующей попытки вывода теорем в рамках этой системы. Изнам известно, что отыскание доказательств всех теорем системыодного за другим, есть процесс исключительно вычислительный. Такие процессы можно автоматизировать, однако если автоматизация выполнена без должного внимания и понимания, то полученный результат окажется, скорее всего, крайне неэффективным. Если же к разработке компьютерных процедур привлечь-таки эти самые внимание и понимание, то можно добиться весьма и весьма впечатляющих результатов. В одной из разработанных таким образом схем (см. [49]) правила евклидовой геометрии были преобразованы в весьма эффективную формальную систему, способную доказывать существующие геометрические теоремы (а иногда и открывать новые). Приведем конкретный пример из практики этой системы: перед ней была поставлена задача доказать гипотезу В. Тебо — геометрическое предположение, выдвинутое в 1938 году и доказанное лишь относительно недавно (в 1983) К. Б. Тейлором, — с чем она как нельзя более успешно справилась за 44 часа компьютерных вычислений).
Более близкую аналогию с описанными в предыдущих разделах процедурами можно усмотреть в предпринимаемых различными исследователями на протяжении последних приблизительно десяти лет попытках разработки «искусственно-интеллектуальных» процедур для реализации математического «по-нимания». Надеюсь, представленные мною аргументы дают ясное представление о том, что каковы бы ни оказались успехи подобных систем, действительного математического понимания они ни в коем случае не достигнут! Некоторое отношение к упомянутым трудам имеют и попытки создания автоматических «теоремо-порождающих» систем; задачей такой системы является отыскание теорем, которые можно отнести к категории «интересных» — в соответствии с определенными критериями, заданными системе заранее. Насколько мне известно (и думаю, многие с этим согласятся), из этих попыток пока что ничего, что представляло бы сколько-нибудь реальный математический интерес, не вышло. Мне, несомненно, возразят, что мы еще лишь в начале пути, и наверняка в будущем от них можно ожидать самых потрясающих результатов. Однако всякому, кто дочитал до этого места, уже должно быть ясно, что лично я крайне скептически отношусь к возможности получения из всех этих начинаний хоть какого-то подлинно положительного результата — разве что мы наконец выясним точные пределы возможностей таких систем.
3.28. Заключение
Представленные в данной главе аргументы дают, по всей видимости, недвусмысленное доказательство того, что человеческое математическое понимание несводимо к вычислительным механизмам (по крайней мере, тем из них, что мы способны познать), каковые механизмы могут представлять собой какие угодно сочетания нисходящих, восходящих либо случайных процедур. Похоже, у нас нет иного выхода, кроме как однозначно заключить, что некую существенную составляющую человеческого понимания невозможно смоделировать никакими вычислительными средствами. Хотя в строгом доказательстве, возможно, еще и остались какие-то крошечные «лазейки», вряд ли сквозь них можно протащить что-нибудь существенное. Кто-то очень рассчитывает на лазейку под названием «божественное вмешательство» (посредством которого в наши мозги-компьютеры был просто-напросто установлен некий чудесный алгоритм, для нас принципиально непознаваемый) или на аналогичную ей лазейку, согласно которой сами по себе механизмы, управляющие совершенствованием мыслительных процессов, представляют собой нечто в высшей степени таинственное и принципиально для нас непознаваемое. Вряд ли какая-либо из этих лазеек (хотя обе они, безусловно, имеют некоторое право на существование) покажется хоть сколько-нибудь приемлемой тем, кто стремится создать искусственное устройство, наделенное подлинным интеллектом. Равно неприемлемы они и для меня — я просто не могу в них всерьез поверить.
Суть еще одной возможной лазейки заключается в том, что может просто не найтись такого набора мер предосторожности (вроде тех, что в общем виде задаются пределами подробно описанными выше в этой главе), которого было бы достаточно для устранения абсолютно всех ошибок в конечном множестве-утверждаемых-высказываний, сложность которых не превышает с. Мне трудно поверить в возможность существования столь совершенного «заговора», способного помешать устранению всех ошибок, тем более, что деятельность нашего элитного сообщества роботов изначально должна быть направлена как раз на максимально тщательное исключение ошибок. Более того, освободить от ошибок нам необходимо всего лишь конечное множество-высказываний. Применив идею ансамблей, мы, несомненно, справимся и со всеми случайными ошибками, какие может допустить само сообщество, так как маловероятно, что одну и ту же ошибку допустит кто-то еще, кроме незначительного меньшинства различных экземпляров моделируемого сообщества роботов — при условии, что это действительно просто ошибка, а не какое-то изначально заложенное в систему заблуждение, обнаружить которое роботам помешает та или иная фундаментальная блокировка. Встроенные блокировки такого рода не относятся к «исправимым» ошибкам, нашей же целью в данном случае является устранение ошибок, в известном смысле «исправимых».
Последняя лазейка (едва правдоподобная) связана с ролью хаоса. Возможно ли, что при тщательном анализе поведения некоторых хаотических систем обнаружатся структуры существенно неслучайного характера и именно в области этой «границы хаоса» мы отыщем ключ к пониманию эффективно невычислимого поведения разума? Такой вариант подразумевает необходимость того, чтобы эти хаотические системы были способны приближенно моделировать невычислимое поведение (весьма интересная возможность сама по себе), однако даже если так оно и есть, подобная неслучайность в рамках предшествующего обсуждения может пригодиться лишь для некоторого уменьшения размеров ансамбля моделируемых сообществ роботов (см. §3.22). Не совсем ясно, каким образом это уменьшение может нам сколько-нибудь существенно помочь. Тем, кто всерьез верит в то, что ключи к пониманию человеческой ментальное™ таит в себе хаос, следует озаботиться поисками разумного способа обойти упомянутые фундаментальные проблемы.
Приведенные выше аргументы, по всей видимости, представляют собой убедительное доказательство невозможности создания вычислительной модели разума (точка зрения), равно как и невозможности эффективного (но бездумного) вычислительного моделирования всех внешних проявлений деятельности разума (точка зрения). И все же, несмотря на убедительность этих аргументов, я подозреваю, что очень многим из нас будет чрезвычайно трудно с ними согласиться. Вместо того, чтобы изучить возможность того, что для понимания феномена интеллекта (что бы за этим словом ни стояло) более подходящей окажется точка зрения(или даже), многие приверженцы научного подхода ограничились одними лишь попытками отыскать слабые места в вышеприведенной аргументации, и все это исключительно ради поддержания упрямой убежденности в том, что точка зрения(в крайнем случае,) непременно должна в конце концов оказаться истинной.
Я не считаю такую реакцию неразумной. Точки зрения тоже не свободны от фундаментальных противоречий. Если мы верим, в соответствии с, в то, что человеческий разум содержит в себе нечто, с научной позиции не объяснимое — а интеллект есть свойство, совершенно отдельное от всего того, что можно обнаружить внутри математически определенных физических сущностей, населяющих нашу материальную вселенную, — то нам следует спросить себя, почему же разум человека оказывается столь, по всей видимости, тесно связан с тем сложноорганизо-ванным физическим объектом, каковым является его мозг. Если интеллект действительно представляет собой нечто отдельное от физического тела, то почему нашим ментальным сущностям все же необходимы наши физические мозги? Совершенно очевидно, что изменение физического состояния мозга может повлечь за собой изменение ментального состояния сопутствующего ему разума. Воздействие на мозг некоторых наркотиков, например, весьма определенно связывается с существенными изменениями в психике и восприятии. Равным образом, повреждение, заболевание или хирургическое удаление определенных участков мозга, как правило, оказывает четко выраженное и предсказуемое воздействие на умственное состояние данного конкретного индивидуума. (Особенно драматическими в этом контексте представляются поразительные отчеты, опубликованные Оливером Саксом в его книгах «Пробуждения» (1973) и «Человек, который принял свою жену за шляпу»(1985).) Итак, получается, что совершенно разделять интеллект и соответствующий физический объект нельзя. А если интеллект связан-таки с определенными физическими объектами — и, похоже, связан весьма тесно, — то научные законы, столь точно описывающие поведение физических объектов, не должны сплоховать и при описании свойств интеллекта.
Что касается точки зрения, то здесь возникают проблемы иного рода, — связанные, в основном, с ее выраженным спекулятивным характером. Что заставит нас поверить в то, что природные феномены действительно могут демонстрировать какое-то там невычислимое поведение? Всем известно, что мощь современной науки опирается (и, чем дальше, тем больше) на тот факт, что поведение любого физического объекта можно моделировать с помощью численных методов, при этом точность получаемой модели зависит исключительно от «комплексности» выполненных вычислений. С ростом научного понимания стремительно растет и прогнозирующая способность таких численных моделей. В практическом отношении этим ростом мы, по большей части, обязаны быстрому развитию — в основном, во второй половине двадцатого века — вычислительных устройств необычайной мощи, скорости и точности. В результате перед нами открылся широкий простор для проведения все более тесных аналогий между тем, что происходит в недрах современных универсальных компьютеров, и всевозможными проявлениями самой материальной вселенной. Имеются ли у нас сколько-нибудь осмысленные указания на то, что происходящее представляет собой лишь временную фазу развития науки? Чего ради мы должны всерьез рассматривать возможность существования физических процессов, неподвластных эффективному вычислительному подходу?
Если в рамках существующей на данный момент физической теории мы попытаемся отыскать какие бы то ни было следы процессов, хотя бы отчасти не поддающихся вычислению, то нас ожидает разочарование. Какой известный физический феномен ни возьми — от динамики материальной точки Ньютона и электромагнитных полей Максвелла до искривленного пространства-времени Эйнштейна и самых глубинных хитросплетений современной квантовой теории — все они замечательно, как нам представляется, описываются с помощью исключительно вычислительных методов); картину немного портит то обстоятельство, что процесс «квантового измерения» предполагает еще и наличие абсолютно случайной составляющей, вследствие чего изначально незначительные эффекты усиливаются до такой степени, что становится возможным объективное их восприятие. Нигде здесь нет ничего такого, что можно было бы охарактеризовать как «физический процесс, который вычислительными методами невозможно даже правдоподобно смоделировать», а как раз такой процесс подразумевается точкой зрения. Таким образом, из двух версийпредпочтение, видимо, следует отдать «сильной» (см. § 1.3).
Важность этого выбора трудно переоценить. Многие люди с научным складом мышления говорили мне, что они вполне согласны с выдвинутой мною в НРК позицией (т. е. с тем, что деятельность разума включает в себя какие-то «невычислительные» процессы), однако вместе с тем они были убеждены в том, что для отыскания этих самых «невычислительных» процессов вовсе не нужно дожидаться каких-то революционных прорывов в теоретической физике. Как мне представляется, их точка зрения основывается на том факте, что крайняя сложность процессов, обусловливающих функционирование разума, выходит далеко за рамки стандартной компьютерной аналогии (в том виде, в каком ее впервые предложили Маккаллох и Питтс в 1943 году), в которой нейроны и синаптические связи представляются аналогами транзисторов, а аксоны выступают в роли проводников. Они говорят о сложности химических процессов, связанных с деятельностью нейромедиаторов, управляющих синапти-ческой передачей нервных импульсов, или о том, что область действия этих химических соединений далеко не всегда ограничивается непосредственной окрестностью соответствующей си-наптической связи. Кроме того, они указывают на чрезвычайно хитроумное устройство самих нейронов, важнейшие из подструктур которых (например, цитоскелет — о его действительно решающей роли в контексте нашего исследования мы подробнее поговорим ниже; см. §§7.4—7.7) оказывают существенное влияние на нейронную активность в целом. К делу привлекаются и прямые электромагнитные взаимодействия («резонансные эффекты», например), которые невозможно просто так объяснить обычными нервными импульсами; утверждают также, что в функционировании мозга важную роль должны играть эффекты, описываемые квантовой теорией, имея в виду либо квантовые неопределенности, либо нелокальные коллективные квантовые взаимодействия (например, феномен так называемой «конденсации Бозе—Эйнштейна»).
Хотя окончательных и недвусмысленных математических теорем на этот счет в нашем распоряжении практически нет, все же вряд ли кто-либо всерьез сомневается в том, что все существующие физические теории являются по своей природе и в своей основе вычислительными — возможное же привнесение несущественной случайной составляющей обусловлено существованием такого феномена, как «квантовые измерения». Вопреки ожиданиям, я думаю, что возможность протекания невычислительных (и неслучайных) процессов в физических системах, действующих в рамках существующей физической теории, все же чрезвычайно интересна сама по себе и, разумеется, достойна самого подробного математического исследования. Такое исследование вполне может преподнести нам немало сюрпризов — возможно, нам и в самом деле удастся наткнуться на нечто хитроумное и совершенно невычислимое. На современном же этапе развития науки вероятность обнаружения в рамках известных нам физических законов какой-либо подлинной невычислимости представляется мне крайне малой. Следовательно, необходимо в самих законах отыскать слабые места и расширить их в достаточной степени для того, чтобы включить ту невычислимость, которая, согласно вышеприведенным аргументам, неизбежно присутствует в мыслительной деятельности человека.
Что же это за слабые места? Лично у меня почти нет сомнений относительно того, где именно следует нанести наиболее массированный удар по существующей физической теории — наислабейшим ее звеном является уже упоминавшаяся выше процедура так называемого «квантового измерения». На нынешнем этапе своего развития теория содержит в себе некоторые противоречия (или, по меньшей мере, несообразности) в отношении всей существующей процедуры этого самого «измерения». Неясно даже, на каком именно этапе в той или иной ситуации эту процедуру следует применять. Более того, вследствие существенно случайного характера самой процедуры, ее наблюдаемые физические проявления оказываются весьма отличными от всего того, что известно нам по другим фундаментальным процессам. Подробнее эти вопросы мы обсудим во второй части книги.
Как мне кажется, эта процедура измерения нуждается в кардинальном пересмотре — не исключено, что попутно придется подвергнуть существенным изменениям и самые основы теоретической физики. Кое-какие имеющиеся у меня предложения я изложу во второй части книги (§6.12). Представленные в предыдущих разделах рассуждения содержат весьма сильные доводы в пользу того, что чистую случайность существующей теории измерения необходимо заменить чем-то иным, чем-то таким, где определяющую роль будут играть существенно невычислимые элементы. Более того, как мы увидим ниже (§7.9), эта невычислимость непременно окажется какой угодно, но только не простой. (Например, закона, который, посредством какого-то нового физического процесса, «всего лишь» позволит нам устанавливать истинность-высказываний — т. е. решать тьюрингову «проблему остановки» — будет самого по себе недостаточно.)
Отыскание подобной, новой и непростой, физической теории уже само по себе является достаточно серьезным вызовом нашим интеллектуальным способностям, однако это еще далеко не все. Необходимо также потребовать, чтобы найденный нами правдоподобный основополагающий принцип такого гипотетического физического поведения имел самое непосредственное отношение к функционированию мозга — сообразно со всеми ограничениями и критериями достоверности, предъявляемыми современной наукой о строении мозга. Нет никакого сомнения в том, что и здесь, учитывая теперешний уровень нашего понимания, не обойтись без изрядной доли умозрительности. Однако как раз в этой области за последнее время были совершены некоторые подлинно революционные открытия (в период написания НРК я об этом, естественно, не знал), связанные с цитоскелетной подструктурой нейронов (подробнее см. §7.4), — благодаря этим открытиям предположение о том, что существенные для функционирования мозга процессы происходят именно на границе между квантовыми и классическими феноменами, приобретает гораздо большее правдоподобие, чем можно было представить себе прежде. Эти вопросы мы также будем обсуждать во второй части (§§7.5—7.7). Необходимо еще раз подчеркнуть, что предметом наших поисков никоим образом не должно стать простое усложнение в рамках существующей физической теории. Кто-то, например, убежден в том, что абсолютно немыслимо построить адекватную модель сложных перемещений и хитроумной химической активности соединений-нейромедиаторов, вследствие чего подробное физическое описание функционирования мозга вычислительными методами неосуществимо. Однако, говоря о невычислительном поведении, я имею в виду совсем не это. Я полностью согласен с тем, что наших познаний о совокупности биологических структур и электрохимических механизмов, отвечающей за функциональную деятельность мозга, совершенно недостаточно для сколько-нибудь серьезной попытки численного моделирования. Более того, даже если бы у нас и достало познаний, то построить рабочую модель деятельности мозга за какой-либо приемлемый промежуток времени нам все равно не удастся ввиду недостаточно высокой вычислительной мощности современных компьютеров и отсутствия соответствующей методологии программирования. Однако в принципе, объединив уже существующие представления о химии соединений-нейромедиаторов, об обеспечивающих их перенос механизмах, о зависимости эффективности этих соединений от конкретных условий среды, биоэлектрических потенциалов, электромагнитных полей и т.д., выполнить подобное моделирование вполне возможно. Следовательно, упомянутые общие механизмы, предположительно согласующиеся с требованиями существующей физической теории, не в состоянии обеспечить той невычислимости, какой требуют вышеприведенные аргументы.
Такая вычислительная (теоретическая) модель может включать в себя и элементы хаотического поведения. Мы даже, как и в нашем прежнем обсуждении хаотических систем (см. §§ 1.7, 3.10, 3.11, 3.22), не станем настаивать на том, чтобы эта модель воспроизводила бы какой-то конкретный мозг; достаточно будет и «типичного случая». При создании искусственного интеллекта вовсе не требуется моделировать интеллектуальные способности какого-то конкретного индивидуума, мы лишь стремимся (в перспективе) воспроизвести интеллектуальное поведение индивидуума типичного. (Аналогичным образом, если помните, обстоит дело и с моделированием погоды: никто не требует непременно воспроизводить данную конкретную погоду, нам нужна модель погоды вообще.) Если известны механизмы, обусловливающие поведение предлагаемой модели мозга, то эта модель (при условии, что упомянутые механизмы не находятся в противоречии с современной вычислительной физикой) опять-таки представляет собой познаваемую вычислительную систему, пусть и с какими-то явно заданными случайными элементами — этот случай также вполне укладывается в рамки представленных выше рассуждений.
Можно пойти еще дальше и потребовать, чтобы предполагаемый модельный мозг представлял собой результат развития посредством процесса, аналогичного дарвиновской эволюции, неких примитивных форм жизни, поведение которых исчерпывающе описывается известными физическими законами — или законами какой-либо иной численно-модельной физики (подобной той двумерной физике, которая действует в изобретенной Джоном Хортоном Конуэем оригинальной математической игре под названием «Жизнь»). Ничто не мешает нам вообразить, что в результате такой дарвиновской эволюции может развиться некое «сообщество роботов», подобное тому, что мы рассматривали в §§3.5, 3.9, 3.19 и 3.23. Впрочем, и в этом случае мы получим целиком и полностью вычислительную систему, к которой будут применимы аргументы, представленные в §§3.14— 3.21. Далее, для того чтобы ввести в эту вычислительную систему концепцию(с тем чтобы к ней можно было в полном объеме применить приведенную выше аргументацию), нам, помимо прочего, потребуется еще и этап «человеческого вмешательства», целью которого как раз и будет сообщить роботам строгий смысл присвоения статусаМожно устроить так, чтобы этот этап инициировался автоматически — согласно некоторому эффективному критерию — именно в тот период времени, когда роботы начинают приобретать соответствующие коммуникационные способности. По-видимому, нет никаких препятствий к тому, чтобы объединить все эти элементы в автоматическую познаваемую вычислительную систему (в том смысле, что познаваемыми являются лежащие в ее основе механизмы, пусть даже мы пока не можем практически выполнить необходимые вычисления ни на одном из современных или ожидаемых в обозримом будущем компьютеров). Как и прежде, противоречие выводится из предположения, что такая система может достичь уровня человеческого математического понимания, достаточного для восприятия теоремы Гёделя.
Следующее часто высказываемое возражение касается уместности применения к вопросам человеческой психологии математических доказательств, подобных тем, на которые я опираюсь в своем исследовании, — никакая умственная деятельность не бывает настолько точна, чтобы ее таким образом анализировать. Придерживающиеся подобных взглядов люди, очевидно, полагают, что никакие частные доказательства, описывающие математическую природу физических феноменов, которые, возможно, обусловливают функционирование нашего мозга, не могут иметь непосредственного отношения к пониманию деятельности человеческого разума. Они согласны с тем, что поведение человека действительно «невычислимо», однако полагают, что эта невычислимость является всего-навсего отражением общей неприменимости математических и физических соображений к вопросам человеческой психологии. Они утверждают — и не без оснований, — что гораздо уместнее в этом смысле исследовать чрезвычайно сложную организацию нашего мозга, равно как и наших общественных и образовательных структур, нежели какие-то конкретные физические феномены, волею случая ответственные за отдельные физические процессы, посредством которых реализуются те или иные функции человеческого мозга.
Не следует, однако, забывать и о том, что одна лишь сложность системы никоим образом не избавляет нас от необходимости всесторонне исследовать следствия из обусловливающих ее функционирование физических законов. Возьмем, к примеру, спортсмена, который, безусловно, представляет собой необычайно сложную физическую систему, — руководствуясь изложенными в предыдущем абзаце соображениями, мы имели бы полное право заключить, что точное знание о работающих в данной системе физических законах никоим образом не сможет повлиять на спортивные достижения этого самого спортсмена. Нам, впрочем, известно, что это далеко не так. Универсальные физические принципы сохранения энергии, импульса, момента импульса, равно как и законы тяготения, оказывают одинаково непреклонное действие как на спортсмена целиком, так и на отдельные частицы, составляющие его тело. Необходимость этого факта обусловлена самой природой тех конкретных принципов, которые волею случая управляют данной конкретной вселенной. Будь эти принципы хотя бы немного иными (или существенно иными, как, например, в конуэевской игре «Жизнь»), законы, определяющие поведение системы того же порядка сложности, что и система «спортсмен», вполне могли бы оказаться совершенно отличными от тех, к каким мы привыкли. То же можно сказать и о работе наших внутренних органов (например, сердца), и о точной природе химических процессов, посредством которых реализуются всевозможные биологические функции. Аналогичным образом, следует ожидать, что мельчайшие тонкости тех законов, которые лежат в основе функционирования мозга, будут играть чрезвычайно важную роль в управлении, возможно, наивысшими из проявлений человеческого интеллекта.
Впрочем, даже согласившись со всем вышеизложенным, можно все же возразить, что тот конкретный тип умственной деятельности, о котором я, по большей части, говорю на этих страницах, т.е. макроскопическое («высокоуровневое») интеллектуальное поведение математиков-людей, вряд ли может сообщить нам что-нибудь существенное об обусловливающих его тонких физических процессах. Что ни говори, а «гёделевский» метод рассуждения предполагает строго рациональное отношение индивидуума к собственной системе «неопровержимых» математических убеждений, тогда как, в общем случае, поведение человеческого существа едва ли можно отнести к требуемому строго рациональному типу. В качестве примера приведу один из результатов некоей серии психологических экспериментов), который показывает, насколько иррациональными могут быть ответы человека на простой вопрос. Например, на такой:
На этот и подобные вопросы большинство студентов колледжа дают неверный (т.е. утвердительный) ответ. Если самые обычные студенты настолько в своем мышлении нелогичны, то как же нам удастся вывести хоть что-то существенное из гораздо более хитроумных рассуждений гёделевского типа. Даже опытные математики нередко бывают небрежны в своих рассуждениях, что же касается необходимой для гёделевского контрдоказательства последовательности выражения мысли, то такое, напротив, встречается далеко не так часто, как хотелось бы.
Следует, впрочем, понимать, что ошибки, подобные тем, что допускали в вышеупомянутых экспериментах студенты, не имеют ничего общего с главным предметом настоящего исследования. Такие ошибки принадлежат к категории «исправимых ошибок» — сами же студенты, несомненно, признают, что они ошиблись, если им на эти ошибки указать (и, при необходимости, доходчиво разъяснить их природу). Исправимые ошибки мы в данном контексте не рассматриваем вовсе; см., в частности, комментарий к возражениюа также §§3.12, 3.17. Исследование ошибок, которым порой подвержены люди, безусловно имеет огромное значение для психологии, психиатрии и физиологии, однако меня здесь интересуют совсем другое — а именно, то, что человек может воспринять в принципе, используя свои понимание, интуицию и способность к умозаключениям. Как выяснилось, связанные с этим вопросы весьма тонки, хотя тонкость их сразу в глаза не бросается. Поначалу такие вопросы выглядят тривиальными; действительно, корректное рассуждение есть корректное рассуждение, с какой стороны его ни разглядывай, — просто нечто более или менее очевидное, причем все методы такого рассуждения разложил по полочкам еще Аристотель 2300 лет назад (ну а если не он, то английский математик и логик Джордж Буль в 1854 году вкупе с многочисленными последователями).
И все же приходится признать, что понятие «корректного рассуждения» таит в себе неизмеримые глубины и совершенно не укладывается в рамки вычислительных операций, что, в сущности, и показали Гёдель с Тьюрингом. В недавнем прошлом эти вопросы рассматривались как прерогатива скорее математики, чем психологии, присущие же им тонкости психологов в общем случае не интересовали. Однако, как мы могли убедиться, только так можно получить хоть какую-то информацию о физических процессах, которые в конечном счете и обусловливают осознание и понимание.
Исследование упомянутых материй, помимо прочего, неизбежно затронет и глубинные вопросы философии математики. Происходит ли при математическом понимании своего рода контакт с Платоновой математической реальностью, существующей независимо от человека и вне времени; или каждый из нас в процессе прохождения этапов логического умозаключения самостоятельно воссоздает все математические концепции? Почему физические законы, как нам представляется, столь неукоснительно следуют полученным таким образом точным и тонким математическим описаниям? Какое отношение имеет собственно физическая реальность к упомянутой концепции Платоновой идеальной математической реальности? И, кроме того, если наше восприятие в силу своей природы действительно обусловлено некоей точной и тонкой математической подструктурой, на которую опираются те самые законы, что регулируют функциональную деятельность нашего мозга, то что мы можем узнать о том, как работает наше восприятие математики — как вообще работает наше восприятие чего бы то ни было, — если нам удастся глубже понять упомянутые физические законы?
В конечном счете, все наши усилия сводятся к поискам ответов именно на эти вопросы, и к этим же вопросам нам еще предстоит вернуться в конце второй части.
Примечания
1. Цитата приводится по [328] и [375]. Она, судя по всему, является частью Гиббсовских лекций Гёделя, прочитанных в 1951 году; полный текст имеется в Собрании сочинений Гёделя, том 3 [159]. См. также [376], с. 118.
2. См. [197], с. 361. Цитата взята из лекции Тьюринга, прочитанной
в 1947 году перед Лондонским математическим обществом и приводится по изданию [369].
3. Упомянутая процедура заключается во вложении системыв систему Гёделя—Бернайса; см. [56], глава 2.
4. См. [180], с. 74.
5. Это самое количество состояний Вселенной (число порядка или около того) представляет собой объем доступного фазового пространства (измеренный в абсолютных единицах из § 6.11) некоторой области, содержащей в себе такое количество вещества, какое заключено внутри наблюдаемой нами в настоящий момент Вселенной. Величину этого объема можно оценить, применив формулу Бекенштейна—Хокинга для энтропии черной дыры с массой, равной массе упомянутого количества вещества, и найдя экспоненту от этой энтропии (в абсолютных единицах из § 6.11). См. НРК, с 340-344.
6. См. [266], [267].
7. См„напр.,[101](иНРК, глава 9).
8. Популярно об этих исследованиях рассказано в [ 152] и [336].
9. Из классической теории фон Неймана и Моргенштерна (1944).
10. См. [152], [336].
11. Популярное изложение этих вопросов можно найти в [349] [350] и [328].
12. Гипотеза Тебо — это весьма занимательная (и даже не слишком сложная) теорема из плоской евклидовой геометрии, которую, тем не менее, не так-то просто доказать непосредственно. Как выяснилось, единственный способ ее доказательства заключается в том, чтобы отыскать подходящее обобщение (что сделать не в пример легче), а уже затем выводить требуемый результат в виде особого случая. Такая процедура довольно широко распространена в математике, однако для компьютеров она, как правило, совершенно не годится, поскольку отыскание необходимого обобщения требует немалой изобретательности и способности разбираться в сути проблемы. Компьютерное же доказательство подразумевает наличие некоей четкой системы нисходящих правил, которым машина в дальнейшем и следует неуклонно с поражающей воображение скоростью. В данном случае львиная доля человеческой изобретательности как раз и пошла в первую очередь на разработку эффективной системы таких нисходящих правил.
13. Исторический обзор некоторых таких попыток можно найти у Д. Фридмана [123].
14. Это заявление следует рассматривать с учетом сказанного в § 1.8; оно опирается на общепринятое допущение, согласно которому аналоговые системы можно без особого ущерба для точности рассматривать с помощью численных методов. См. также источники, указанные в примечании 12 после главы 1.
15. Предположение о том, что нейроны представляют собой нечто большее, чем просто «двухпозиционные переключатели», как считалось раньше, похоже, находит поддержку в самых широких научных кругах. См., например, книги Скотта [338], Хамероффа [182], Эдельмана [110] и Прибрама [318]. Как мы увидим в главе 7, некоторые идеи Хамероффа оказываются в нашем контексте чрезвычайно значимыми.
16. См. статьи Г. Фрелиха [128], [129], [130], [131], [132]; дальнейшее развитие эти идеи получили в работах Маршалла [257], Локву-да [242], Зохара [396] и др. В нашем исследовании они также сыграют немаловажную роль; см. §7.5 и [18].
17. См., например, [345], [315], [29] и [327].
18. Замечательные описания игры Конуэя «Жизнь» можно найти в [136], [310] и [390].
19. См., например, [213] и [40].
Парапсихология и психофизика. - 1998. - №1. - С.151-152.
Комментарии Ю.П.Карпенко к книге Р.Пенроуза:
Тени ума: В поисках потерянной науки о сознании.
Как мы видим, выдающийся английский физик-теоретик Роджер Пенроуз полагает, что феномен сознания должен описываться на основе квантовой теории. Причем не современной, которая, как он неоднократно подчеркивает на протяжении свой книги, не имеет теоретических средств для описания сознания, а будущей, в которой вполне определенным образом будет решена проблема редукции волновой функции. Иными словами, речь идет о ключевом звене физической модели сознания в связи с психофизиологической проблемой, т.е. в связи с фундаментальным удивлением по поводу того, как невещественная мысль управляет вещественным мозгом и телом. Этой проблеме посвящена обширная литература (см., например, сборник, выпущенный институтом философии РАН в 1994 г.[1]).
В этой связи нас сейчас интересует только один вопрос: можно ли предполагать, что те физические гипотезы, теории, конструкции, которые используются в психофизиологической проблеме, в самом общем плане могут быть существенно отличны от той физики, которая используется в психофизике? Вряд ли. Разумно ожидать некоторого согласования между физикой психофизиологической проблемы и физикой психофизики. Однако на этом пути существует одна трудность.
Как мы видели [2], согласование физики и психофизики идет либо через проблему редукции волновой функции, либо через антропный принцип. В то же самое время хорошо известно, что большинство физиков относится отрицательно к гипотезе об участии сознания в редукции волновой функции. Р.Пенроуз обсуждает эту гипотезу в своей монографии и настаивает на том, что проблема редукции должна решаться на чисто физической основе, без привлечения феномена сознания. В обзоре[3] механизмов редукции(коллапса) волновой функции эта гипотеза просто не упоминается.
Итак, мы видим, что когда происходит согласование психофизиологической проблемы с физикой, т.е., например, когда Р.Пенроуз формулирует физическую модель сознания, то он обращается к проблеме редукции волновой функции, утверждая, что каждый из нас каждое мгновение своей жизни бессознательно осуществляет эту процедуру. С другой стороны, роль сознания в осуществлении редукции отрицается. При этом выдвигаются простые и естественные аргументы: неразумно предполагать, что присутствие человека-наблюдателя меняет поведение физических систем столь радикальным образом, т.е. в отсутствии человека физические системы подчиняются квантовым законам, а в присутствии - макроскопическим. Иными словами, в связи с собственным телом и бессознательно редукция волновой функции допустима, вне пределов собственного тела и сознательно - нет.
Имея в виду результаты исследований в психофизике, это вряд ли справедливо. Довольно естественно предполагать, что если каждый из нас умеет осуществлять эту загадочную процедуру бессознательно каждое мгновение своей жизни в отношении своего тела, то некоторые из нас могут делать то же самое сознательно и изредка не в отношении своего тела. Если это допустить, то через проблему редукции волновой функции видна возможность согласования физического моделирования сознания в связи с психофизиологической проблемой и применения физики в контексте паранормальных явлений.
Литература
1. Мозг и разум. - М., 1994. - 251 с.
2. Карпенко Ю.П. О способе приложения физики к описанию паранормальных явлений. - Настоящий номер журнала.
3. Кадомцев Б.Б., Кадомцев М.Б. Коллапсы волновых функций//Успехи физических наук. - М., 1996. - Т.166, N6. - С.651-659.
Парапсихология и психофизика. - 1998. - №1. - С.145-151.
Реферат книги:
Р.Пенроуз. Тени ума: В поисках потерянной науки о сознании.
PENROSE R. Shadows of the mind: A search for the missing science of consciousness. - Oxford, 1994. - XVI, 457 p.
Реферат подготовлен Ю.П.Карпенко
В реферируемой книге крупного английского математика и физика-теоретика Роджера Пенроуза развиваются идеи его предыдущей монографии “Новое имперское мышление: О компьютерах, сознании и законах физики” (Penrose R. The emperor’s of new mind: Concerning computers, minds and the lows of physics. - Oxford, 1990). Автор продолжает исследовать «сознание с научной точки зрения» (с.7). Приводятся аргументы в пользу того, что «сегодняшней научной картине мира недостает существенной компоненты», которая необходима для «согласованного включения центральных тем человеческой ментальности в научное мировоззрение» (там же). «Научное мировоззрение, которое игнорирует проблему сознания, - считает автор, - не может претендовать на полноту. Поскольку сознание - часть Вселенной, любая физическая теория, которая не отводит ему должного места, фундаментально неполна... Хотя пока нет физической, биологической или вычислительной теории, которая бы близко подходила к объяснению сознания и, следовательно, разума, это не должно удерживать нас от поиска такой теории”(c.8).
Первая часть книги - «Почему нам нужна новая физика для понимания сознания: Невычислимость мышления». Основная идея автора заключается в том, что деятельность сознания не является вычислимым процессом, который можно было бы моделировать на компьютере. Формулируются и обсуждаются четыре точки зрения на соотношение сознания и физических процессов, протекающих в мозгу в связи с мышлением: 1) мышление - это вычисление, а чувства связаны с выполнением подходящих вычислений (эта точка зрения поддерживается приверженцами возможности создания искусственного интеллекта и подразумевает, что если мышление можно моделировать на компьютере, то компьютер сознателен, как и его конструктор); 2) сознание - свойство физической деятельности мозга, но хотя любой физический процесс можно моделировать на компьютере, это не значит, что моделирование само по себе может породить сознание (согласно этой позиции, искусная имитация сознания еще не означает его наличия; для проявления сознания важен его биологический субстрат - человеческий мозг. В то же время, чтобы идентифицировать имитацию, может понадобиться очень длительное тестирование); 3) сознание порождается определенным физическим процессом, который, однако, нельзя моделировать на компьютере (это - точка зрения автора, а ее отличие от предыдущих состоит в том, что подчеркивается необходимость материального субстрата для проявления сознания, который необязательно должен быть человеческим мозгом, поскольку возможно создание искусственного устройства, необязательно на биологической основе, которое могло бы обладать свойствами сознания. По аналогии с открытием явления высокотемпературной сверхпроводимости утверждается, что и в случае сознания - когда феномен обнаружен, но его приемлемая теория отсутствует - создание искусственных разумных устройств на новой физической основе может быть следствием конкурентной борьбы на рынке высоких технологий, а вовсе не создания подходящей теории); 4) согласно мистической точке зрения сознание вообще не может быть объяснено в физических, вычислительных или каких-либо других научных терминах.
Последняя точка зрения отвергается в силу известных фактов взаимосвязанности мозга и сознания, но в то же время считается истинным подход к структуре реальности в духе Платона: «По Платону, математические концепции и истины составляют действительный собственный мир, безвременный и не имеющий физического местоположения. Мир Платона - это идеальный мир чистых форм, отличный от физического мира, но в его терминах понимается последний. Он лежит за пределами наших несовершенных ментальных конструкций, но все же наш ум имеет некоторый непосредственный доступ к платоновской реальности через осознание математических форм и рассуждений о них» (c.50). Мир идей населяют не только математические структуры, но также идеи эстетического и нравственного порядка.
Под вычислимостью понимается возможность осуществления конечного количества операций на абстрактной машине Тьюринга, которая сегодня равнозначна обычному компьютеру общего назначения. Невычислимость какой-либо задачи означает невозможность решить ее за конечное количество шагов. Математические примеры невычислимости: решение диофантовых уравнений, покрытие плоскости многоугольниками. Относительно диофантовых уравнений известно, что в принципе невозможно создать алгоритм, который бы мог за конечное количество шагов определить, имеет ли данная система диофантовых уравнений решение или нет. Диофантовы уравнения - это система многочленов с целыми коэффициентами, и решение этой системы ищется в целых числах. Невозможность построения алгоритма в общем случае вовсе не означает, что нельзя решить какую-то конкретную задачу. Аналогичный результат получен относительно возможности построения общего алгоритма, решающего проблему покрытия плоскости многоугольниками. Это также не означает невозможность решить эту проблему для конкретных многоугольников (например, для квадрата или произвольного прямоугольника).
Различается две вычислительные процедуры: «сверху-вниз» и «снизу-вверх». Вычисление «сверху-вниз» - это вычисление на основе фиксированных правил и фиксированного набора данных, вычисление «снизу-вверх» имеет место тогда, когда правила могут изменяться на основе накопленного «опыта» (самообучающиеся системы). Утверждение о невычислимости, немоделируемости на современном компьютере процесса мышления относится к обеим вычислительным процедурам.
Невычислимость мышления доказывается на основе использования следствий из теоремы Гёделя, относящихся к машине Тьюринга. На возможность использования теоремы Гёделя в качестве аргумента в пользу принципиальной неалгоритмизируемости, невычислимости процесса мышления первыми обратили внимание Нагель, Ньюмен, Лукач. Возможность применения теоремы Гёделя как аргумента неалгоритмизируемости мышления подвергается критике. В том числе критикуется и следующая позиция автора, изложенная им в первой монографии: «Мое использование аргумента Геделя состоит в том, чтобы показать, что человеческое мышление не может быть алгоритмической деятельностью. Если мы сможем показать это в некотором специфическом контексте, то уже этого будет достаточно... Затвор шлюза уже будет открыт!» (c. 51).
Обращение к математике - это атака на позиции искусственного интеллекта на его собственной почве. Согласно этой позиции, субъект мышления, ощущений нуждается в деятельности вычислительного типа. Первая часть книги посвящена обоснованию невычислимости мышления, сознания, т.е. вопросу о том, чем не является человеческое мышление.
“Математическое доказательство на каждом своем шаге требует чего-то “очевидного “, но результат может оказаться отнюдь не очевидным. Можно было бы предположить, что возможно раз и навсегда перечислить все эти очевидности и тем самым формализовать процедуру”, но в том то и состоит результат Геделя, что это невозможно: нет способа устранить необходимость новых “очевидных” предположений. Таким образом, математическое мышление не может быть сведено к слепому вычислению» (c.56).
В качестве конкретных примеров невычислительной деятельности сознания приводятся восприятие красного цвета, вкуса, боли, красоты. Феномен боли играет решающую роль в возможности приписать свойство сознания не только высшим животным и человеку, но и одноклеточным.
Две главы первой части книги посвящены техническим деталям применения теоремы Гёделя к машине Тьюринга. Ключевую роль играет проблема остановки машины Тьюринга, т.е. проблемы построения такого алгоритма, который мог бы определить закончится или нет вычисление по некоторой задаче. Оказывается, что в общем случае такой алгоритм нельзя построить в принципе. Доказательство ведется на игре между двумя уровнями: собственно вычислениями и процедурой второго уровня, определяющей остановится или нет некоторое вычисление первого уровня. Здесь возникает опасность возникновения парадоксов самореференции: например, предложение это утверждение ложно” является самореферентным и парадоксальным. Утверждается, что при доказательстве эти трудности, которые делают его внутренне противоречивым, можно избежать.
Вторая часть книги называется “Какая новая физика нам нужна для того, чтобы понять сознание?”. Если первая часть книги посвящена вопросу о том, чем мышление не является, то вторая часть книги посвящена обсуждению тех предполагаемых физических процессов, которые вызывают сознание.
Сама возможность описания сознания на языке физики, т.е. отказ от мистической точки зрения на соотношение физики и сознания Д” в пользу позиции В”, обосновывается указанием на связь между состоянием мозга и мышления: «Если ментальность - это нечто отдельное от физического, то почему наши ментальные самости вообще нуждаются в физических мозгах? Совершенно ясно, что изменения в ментальных состояниях могут быть вызваны изменениями в физических состояниях мозга. Действие, например, некоторых наркотиков вполне определенно сказывается на ментальном состоянии и поведении. Аналогично травма, болезнь или хирургическое вмешательство в определенные зоны головного мозга могут иметь хорошо определяемые и предсказуемые последствия в ментальных состояниях человека... А если ментальность действительно связана с определенными формами физического, то тогда законы науки, которые точно описывают поведение физических объектов, наверняка должны многое сказать также и о мире ментального» (c.202-203).
Многие могут согласиться с тем, что в нашем мышлении есть что-то невычислимое, но далеко не все полагают, что для описания нашего мышления нужны революционные сдвиги в физике, ссылаясь при этом на сложность мозга и происходящих в нем процессов. Утверждение состоит в том, что если наше мышление невычислимо, то и связанные с ним физические процессы также должны обладать тем же свойством. Однако вся современная физика, все известные физические процессы являются вычислимыми, моделируемыми на компьютере.
Специально обсуждаются случаи детерминированного хаоса и стохастического поведения систем. Эти процессы являются вычислимыми, моделируемыми на компьютере, но моделируется при этом не индивидуальное, а типичное поведение системы.
Подчеркивается, что искомый невычислимый физический процесс не является исключительным атрибутом деятельности мозга: «Необходимо допустить, однако, что этот (предполагаемый) невычислимый процесс также присущ и неживой материи, поскольку живой человеческий мозг в конечном счете состоит из того же материала, что и неодушевленная природа. В этой связи мы должны задать два вопроса. Во-первых, почему феномен сознания проявляется, насколько мы это знаем, только в мозге (или в связи с ним) - хотя мы не должны исключать возможность наличия сознания у других физических систем. Во-вторых, мы должны спросить о том, как могло случиться, что такой по-видимому очень важный ингредиент, как невычислимый процесс, характерный (по крайней мере потенциально) для всех материальных процессов, до сих пор не попадал в поле зрения физиков?”(с. 216).
Теоретический поиск места проявления невычислимого процесса в современной физике приводит к фундаментальным проблемам квантовой теории. Точка зрения по поводу перспектив развития квантовой теории формулируется на основе различения Х- и Z-чудес квантовой теории. Х-чудеса, от английского paradox, это не укладывающиеся в рамки здравого смысла следствия квантовой теории, которые возникают в связи с переходом от квантового уровня на макроскопический. Наиболее известным примером Х-чуда является парадокс кошки Шрёдингера, обусловленный противоречием между линейностью уравнения Шрёдингера, допускающим в силу свойства линейности линейную суперпозицию исключающих друг друга с макроскопической точки зрения альтернатив (кошка жива и кошка мертва), и макроскопическим описанием, не допускающим совмещения взаимоисключающих альтернатив: кошка либо жива, либо мертва, но никак не жива и мертва одновременно.
В более общей постановке это проблема редукции волновой функции, проблема квантовых измерений, которая является ключевой для обнаружения невычислимого физического процесса.
Примером Z-чуда (от англ. pazzle - головоломка) квантовой теории является известный эксперимент Эйнштейна - Подольского - Розена. Х- и Z-чудеса квантовой теории различаются еще тем, что Х-чудеса являются следствием формализма и неподтверждены экспериментально, а Z-чудеса либо уже экспериментально подтверждены, либо очень правдоподобны. Существуют две точки зрения на перспективу существования чудес квантовой теории. Одна точка зрения состоит в том, что несмотря на всю их парадоксальность и противоречие здравому смыслу рано или поздно придется их принять, поскольку такова природа квантового мира. Другая точка зрения, разделяемая автором книги, состоит в том, что Х-чудеса квантовой теории обусловлены ее неразработанностью. Это означает, что с течением времени Х-чудеса “будут вычеркнуты из списка” чудес квантовой теории, так как они неприемлемы с философской точки зрения. Допустимы только Z-чудеса, ибо в их присутствии “мы можем спокойно лодырничать”(с.236).
Вопрос о том, является ли редукция волновой функции реальным физическим процессом или некоторой иллюзией детально обсуждается.
Означает ли наличие противоречий между квантовым и классическим описаниями, описаниями микро- и макроуровня, что существует два вида законов, каждый из которых действует на своем уровне? “Моя точка зрения, разделяемая немногими физиками, состоит в том, что такое состояние физического описания (существование двух видов законов. - Прим. реф.). не может быть ни чем иным, как приостановкой в развитии физики и мы можем ожидать, что открытие квантово-классических законов, которые однородно действуют на всех масштабах, может означать научное открытие, сравнимое с теми, которые инициировали Галилей и Ньютон”(с. 307-308).
Поляризация мнений по поводу соотношения квантового описания(“процедура U”, в основе которой лежит уравнение Шредингера) и редукции волной функции (“R-процедура”) такова: «Есть рассматривающие U-процедуру, как все то, что существует в эволюции квантового состояния. Соответственно R-процедура рассматривается как некоторый вид иллюзии, соглашения или аппроксимации и не считается частью эволюции реальности. В этом случае оказывается предпочтительной интерпретация многих миров Эверетта... С другой стороны, есть те, кто рассматривает квантовый формализм серьезно и в то же время верит, что не только U-, но и R-процедура являются реальными физическими процессами в квантово-классическом мире. Но если квантовый формализм рассматривается серьезно, то тогда очень трудно верить в то, что эта теория может быть полностью точна на всех уровнях. Поскольку R-процедура противоречит многим свойствам U, в особенности ее линейности» (с. 309-310).
Приводятся такие возражения против интерпретации многих миров Эверетта: а) она неэкономична; б) она не объясняет, как из множества миров происходит выбор одного мира, т.е. как измерение дает конкретный результат; в) «без теории того, как “воспринимающее существо” делит мир на ортогональные альтернативы, у нас нет оснований полагать, что такое существо не могло бы осознавать линейную суперпозицию мячей для гольфа или атомов, находящихся в совершенно различных точках пространства» (с. 312). Кроме этого, интерпретация многих миров не объясняет, как именно квадрат модуля комплекснозначной функции (волновой функции) приобретает смысл вероятности.
Обсуждаются также трудности интерпретации R-процедуры в рамках подхода «для всех практических целей» и в качестве следствия акта осознавания. В последнем случае трудность связана с вопросом о том, какова природа законов, управляющих поведением макроскопических систем, в отсутствии наблюдателя: погода на отдаленной планете - это конкретный макроскопический процесс или линейная суперпозиция комплексных альтернативных состояний?
Вывод автора состоит в том, что необходима новая теория редукции волновой функции. Эта теория должна строиться в рамках физики без привлечения феномена сознания. Проблема сознания - это гораздо более сложная проблема, чем проблема квантовых измерений (с. 330-331).
В книге рассматриваются две гипотезы о механизмах редукции волновой функции: обусловленный гравитацией и обусловленный взаимодействием с внешней средой.
Существование противоречий между описаниями мегамира (ОТО) и микромира (КТ) является одной из фундаментальных проблем современной теоретической физики. Примерно с середины 60-х годов делаются попытки построения согласованных теорий, связанные с пересмотром основ квантовой теории. В 1986 г. Гирарди, Римини и Вебер выдвинули гипотезу спонтанной редукции волновой функции свободной частицы, которую поддержал Дж. Белл.
В главах, посвященных квантовой теории, уделяется много внимания доступному широкой публике изложению ее формализма, описывается парадокс Эйнштейна - Подольского - Розена (квантовая нелокальность), состояние его экспериментальной проверки. В качестве наглядного занимательного примера квантовой нелокальности приводится головоломка о магических додекаэдрах.
Какое же все это имеет отношение к мышлению, сознанию? Ответу на этот вопрос посвящена глава “Квантовая теория и мозг”.
Широко распространено мнение о том, что мозг можно моделировать как классическую систему, в описание которой квантовые эффекты по существу дела не входят. (Хотя, разумеется, в основе всех химических и электрических явлений, протекающих в мозге, лежат квантовые закономерности, но это квантовые явления микроскопического, а не макроскопического уровня). Мозг - это макроскопическая система, перенос нервных импульсов осуществляется по схеме “включено/выключено” без каких-либо чудес квантовой суперпозиции, допускающих одновременность “включено” и “выключено”.
Утверждается, что классического описания функционирования головного мозга по существу дела недостаточно для описания феномена сознания. Функционирование мозга как классической системы - это алгоритмизируемый, вычислимый процесс, а в силу аргументов, приведенных в первой части книги, мышление - это неалгоритмизируемый, невычислимый процесс. Приводятся следующие аргументы в пользу необходимости привлечения квантовых представлений для описания функционирования мозга: а) чувствительность ретины к нескольким, а в определенных условиях и к одному фотону, показывает, что некоторые нейроны работают не как классические устройства, а как квантовые, их порог чувствительности простирается вплоть до квантового уровня; б) гипотеза Экклза о том, что для описания функционирования некоторых структур мозга (паракристаллическая гексагональная решетка в пирамидальных клетках мозга) необходимо привлечение квантовых представлений; в) фундаментальное открытие резонансов в биологических мембранах в миллиметровом диапазоне электромагнитных волн, сделанное Фрелихом в 30-х годах, для объяснения которых он полагал необходимым привлечение представлений о квантовой когерентности.
Где именно в мозге проявляются квантовые явления, существенные для мышления? Мозг как система нейронов с фиксированными связями - это система, которая не может может быть моделирована на компьютере. Невычислимость мышления связана со свойством пластичности мозга (изменениями синоптических связей), обусловливающим его способность к обучению. Поиск структурных элементов мозга на клеточном уровне, для функционирования которых могут быть существенны эффекты квантовой когерентности, выводит за пределы собственных норм системы в нанобиологии. Приводятся экспериментальные данные о наличии сложных поведенческих реакций у одноклеточных организмов вплоть до способности к обучению. На этой основе делается вывод о наличии у этих организмов некоторой формы сознания. Ключевую роль для существования этой формы сознания играет не ядерная структура клетки, где содержится вся генетическая информация, а скелет клетки, выполняющий кроме функции поддержания ее формы также функции передвижения и питания. Собственно переход от нервной системы к одноклеточным осуществляется следующим образом.
Во-первых, сознание естественно изучать там, где оно в некотором смысле отключается. В качестве примера механизма отключения рассматривается анестезия. Во-вторых, известно, что общие анестетики (окись азота, хлороформ и др.) примерно одинаково действуют как на людей и высших животных, так и на одноклеточные организмы. В связи с тем, что химическая природа общих анестетиков различна специалистами высказывается предположение о том, что столь широкий биологический диапазон их воздействия имеет нехимическую природу. Для объяснения механизма этого воздействия привлекаются силы ван дер Ваальса, силы дальнодействия, существующие между молекулами, обладающими дипольным моментом.
Аналогом нервной системы у одноклеточных является скелет клетки. Существенным структурным элементом этого скелета являются микротрубочки, для функционирования которых могут оказаться существенными эффекты квантовой когерентности. И хотя квантовые механизмы не привлекаются специалистами для моделирования передачи сигналов по нейронным сетям, они вполне могут быть задействованы при моделировании процессов, происходящих в микротрубочках. Иными словами, квантовые эффекты, существенные для мышления, связаны с функционированием скелета нейронов, а физическая модель мышления описывается как макроскопическое квантовое когерентное состояние, не связанное с окружающим термическим фоном. Поскольку работа мозга не связана с явлениями массопереноса, то гравитационно индуцированный коллапс волновой функции здесь не применим, в связи с этим рассматривается другой механизм редукции, связанный с влиянием внешней среды. Процесс редукции волновой функции играет ключевую роль в функционировании мозга, поскольку необходим переход от квантовой модели мышления к классической сети нейронов, которая трактуется как система усиления слабых сигналов.
«На подобную компьютеру классическую сеть нейронов постоянно влияет активность их клеточных скелетов, как проявление того, что мы могли бы обозначить как “свободная воля» (с.376). Роль нейронов в этой картине больше похожа на роль умножительного устройства, в котором маломасштабная активность клеточных скелетов преобразуется в нечто, способное влиять на другие функции тела, например, на мускулы. Соответственно уровень нейронов, на котором в настоящее время описывается функционирование мозга и сознания, - это просто тень более глубокой активности клеточных скелетов и именно на этом более глубоком уровне мы и должны искать физическую основу сознания!”(там же).
Вторая часть книги заканчивается обсуждением вопроса о том, каковы причины неизбежности проявления невычислимости в квантовой теории. «Есть ли какие-либо свидетельства в пользу того, что невычислимость могла бы быть существенной чертой любой теории, которая в конце концов корректно объединила бы (и подходящим образом модифицировала) и квантовую теорию и общую теорию относительности?» (с. 383).
Приводится два примера такого рода свидетельств. Первый возникает из необходимости квантования пространства-времени при построении квантовой теории гравитации и следовательно необходимости сравнения различных топологий четырехмерного пространства-времени: проблема топологической эквивалентности четырехмерных многообразий.
Приводится иллюстрированный пример этой проблемы для двухмерных многообразий: капля любой формы (точнее говоря, ее поверхность как двухмерное многообразие) топологически эквивалентна сфере, которая не эквивалентна тору, т.к. в нем есть отверстие, но тор топологически эквивалентен чашке, так как у нее есть только одно отверстие - в ручке. В 1958 г. А.А.Марков показал, что проблема топологической эквивалентности четырехмерных многообразий сводима к проблеме остановки машины Тьюринга и следовательно не существует общего алгоритма, который бы за конечное число шагов мог решить эту проблему. Проблема остановки машины Тьюринга - это как раз та проблема, которая возникает в связи с доказательством невычислимости процесса мышления на основе следствий из теоремы Геделя. Этот результат однако не означает, что проблему топологической эквивалентности для четырехмерных многообразий нельзя решить в том или ином конкретном случае.
Второй пример связан с фундаментальным фактом общей теории относительности об искривлении траектории луча света в гравитационном поле. Если в приведенном выше примере рассматриваются все возможные топологии, то в данном случае в центре внимания оказывается специфическая топология, допускающая замкнутые временеподобные кривые. Эйнштейновское отклонение луча света в искривленном пространстве-времени дает принципиальную возможность топологий пространства-времени с замкнутыми временеподобными кривыми: возможность путешествия в прошлое, “машина времени”. Поскольку на макроскопическом уровне такие топологии пространства-времени приводят к парадоксам причинности: можно вернуться в свое собственное прошлое и убить своего деда до своего рождения, - то они исключаются. Однако это исключение на макроуровне не означает запрет на такие топологии на микроуровне. Оказывается появление таких топологий в квантовой теории гравитации означается наличие в ней неустранимой невычислимости.
В заключительной главе рассматривается модель трех миров: физического, психического и мира идей Платона. Обсуждается отличие трактовки трех миров автором от модели К.Поппера. Книга заканчивается следующим утверждением: «Я рассматривал три мира и чудесные связи между ними, но нет сомнения в том, что есть не три мира, а один, отблеска подлинной природы которого мы еще не видели» (с.420).
Из коллекции сайта «РазныеРазности»
http://hotmix.narod.ru