В поисках философского камня

Заметки о  заметках или где прячется разум

Натолкнулся на любопытную статью «Некоторые заметки, на книгу Р. Пенроуза «Тени разума», российского программиста  Б.М. Полосухина. Вот что пишет автор в самом начале:

«Основная мысль вышеназванной книги [Прим.имеется ввиду книга Роджера Пенроуза «Тени разума…», ее раньше можно было найти здесь] — доказать, что в определении сущности человеческого сознания явно присутствует некая неалгоритмическая составляющая, что не позволяет свести сознание к выполнению вычислительных процедур (пусть, сколь угодно большой сложности), на чем настаивают сторонники сильной и слабой концепции искусственного интеллекта. Проведя, с нашей точки зрения, подобное доказательство весьма корректно, Пенроуз проводит в дальнейшем мысль, что непознанные нами сущности «понимания», «осознания», «сознания», определяются некими мозговыми процессами, описать которые в рамках существующей физической парадигмы вряд ли удастся, и в этом смысле нужна некая новая физическая картина мира. При этом следует признать, что, критикуя позиции сторонников обеих концепции искусственного интеллекта, Р. Пенроуз целиком остается на научных позициях, отвергая напрочь всякие мистические и религиозные идеи относительно происхождения и понимания сознания [Прим. Если не считать таковыми идеи Платона об идеальном пространстве, которые для ортодоксальных материалистов марксистско-ленинского разлива столь же экзотичны, как и мистицизм]».

Прежде чем продолжить дальше, введем читателя в курс проблем. Физик, специалист по квантовой механике и математик Роджер Пенроуз, сейчас один из наиболее авторитетных специалистов в области философии разума, на него ссылаются не только математики и программисты, но даже нейрофизиологи (как, например, член-корреспондент РАН, доктор медицинских наук, руководитель лаборатории высшей нервной деятельности человека Института высшей нервной деятельности и нейрофизиологии РАН Алексей Михайлович Иваницкий в передаче «Очевидное-невероятное»).

Никто не находит «дыр» в рассуждениях Пенроуза, но многие, с точки зрения своей узкой специальности пытаются «обойти» фундаментальные ограничения, которые накладывают результаты Пенроуза. Феномен тем более любопытный, что подобным же образом пытался обойти собственное доказательство еще Алан Тьюринг, который первым неопровержимо доказал, что логический автомат будет неизбежно зависать, встречаясь с парадоксами, которые не предусмотрены в алгоритме, по которому работает идеальная вычислительная машина, которую сейчас называют Машиной Тьюринга.

Возражения Тьюринга против собственного доказательства были философского плана. Тьюринг, понимая, что дать удовлетворительного, а тем более математически точного определения таким понятиям как  «разум», «мышление», «сознание» не удастся никогда, нашел гениальное решение. Он сообразил, что определение разумности или неразумности того или иного объекта дают люди, и иного, очевидно, и быть не может.  И он придумал гениальный тест, который носит его имя  – тест Тьюринга.

Суть теста Тьюиринга в современной термирологии – беседа через компьютерный интерфейс с кем-либо, причем проводящему тест экспериментатору известно, что это может быть машина или человек, и если люди перестанут в подобном тесте отличать человека от компьютера, то следует признать и компьютер разумным.

Сам Тьюринг считал этот подход сомнительным и привел сразу же кучу возражений за возможных оппонентов, и сразу же предложил свои варианты контраргументов на возражения скептиков. Одно из возражений, к которому Тьюринг отнесся довольно легкомысленно, считая его не очень серьезным, был, как он сформулировал: «Возражение с точки зрения сознания [The Argument from Consciousness]». Вот как сформулировал диалог на тему этого возражения Тьюринг:

«Это возражение особенно ярко выражено в выступлении профессора Джефферсона на Листеровских чтениях за 1949 год, откуда я и привожу цитату. «До тех пор, пока машина не сможет написать сонет или сочинить музыкальное произведение, побуждаемая к тому собственными мыслями и эмоциями, а не за счет случайного совпадения символов, мы не можем согласиться с тем, что она равносильна мозгу, т.е. что она может не только написать эти вещи, но и понять то, что ею написано. Ни один механизм не может чувствовать (а не просто искусственно сигналить, для чего требуется достаточно несложное устройство) радость от своих успехов, горе от постигших его неудач, удовольствие от лести, огорчение из-за совершенной ошибки, не может быть очарованным противоположным полом, не может сердиться или быть удрученным, если ему не удается добиться желаемого»».

Возражение на эту позицию сводилось, в общем к следующему: «Это рассуждение, по-видимому, означает отрицание нашего критерия. Согласно самой крайней форме этого взгляда, единственный способ, с помощью которого можно удостовериться в том, что машина может мыслить, состоит в том, чтобы стать машиной и осознавать процесс собственного мышления. Свои переживания можно было бы потом описать другим, но, конечно, подобное сообщение никого бы не удовлетворило. Точно так же, если следовать этому взгляду, то окажется, что единственный способ убедиться в том, что данный человек действительно мыслит, состоит в том, чтобы стать именно этим человеком. Фактически эта точка зрения является солипсистской*. Быть может, подобные воззрения весьма логичны, но если исходить из них, то обмен идеями становится весьма затруднительным. Согласно этой точке зрения, А обязан думать, что «А мыслит, а В нет», в то время как В убежден в том, что «В мыслит, а А нет». Вместо того чтобы постоянно спорить по этому вопросу, обычно принимают вежливое соглашение о том, что мыслят все».

Короче говоря, опираясь на чисто марксовское – кто ясно мыслит, тот ясно излагает, Тьюринг решил обойти собственное доказательство, очевидно полагая, что тот, кто ясно излагает тот ясно мыслит. То, что это не так, как раз и доказал Роджер Пенроуз. Но об этом чуть позже,  а сейчас о том, каким образом Тьюринг планиовал обойти математические доказательства, которых к тому времени накопилось достаточно и помимо Машины Тьюринга. Это, в первую очередь, фундаментальный прорыв в математике, и не только в математике, а как оценивает Пенроуз, прорыв в философии разума – теорема Геделая о неполноте. Помимо  того еще были аналогичные математические результаты, принадлежащие Черчу, Клини, Россеру – все  говорило о невозможности алгоритмического устройства выбраться за пределы очерченные заданным алгоритмом.

Вначале Тьюринг пытался, используя метод мысленного эксперимента, снабдить Машину неким внешним устройством, «оракулом», неизвестной природы,  которое выводило бы ее из зависания, но в результате вновь все сводилось к очередной Машине Тьюринга, которой тоже был нужен «оракул», и так до бесконечности. Но бесконечность начинает приводить к некой внешней силе, которую в некоторых религиях, называют Богом, что было не приемлемо для Тьюринга как для ученого, как жрецу науки, где вмешательство сверхъестественных сил недопустимо по определению, поэтому Тьюринг нашел простое и изящное решение. Хорошо, решил он, пусть машина отвечает не на все поставленные вопросы, но ее можно обучить, как он считал, отвечать на определенный круг вопросов, ведь не требуем же мы  от какого бы то ни было человека, даже самого гениального, быть компетентным во всех без исключения вопросах. Т.е. создаем узкого специалиста, который честно отвечает, что в том или ином вопросе он не компетентен, но зато там, где ее обучат специалисты, машина превзойдет любого специалиста и ее ответы будет невозможно отличить от ответов данных самым компетентным человеком.

В конце своей статьи Тьюринг еще раз подчеркнул, что у него нет решительно никакой уверенности, что задуманные им хитрости и методы сработают и решить все может только практика. Он спрогнозировал, что решение вопроса станет ясно в конце 20-го века: сможет ли машина одурачить среднего человека.

Самым слабым звеном, как мы уже выше сказали, оказалось суждение о том, что возможно ли хоть каким-либо образом установить осознает ли субъект свои действия, т.е. осознание смысла своих ответов. Если бы это удалось доказать, то это бы означало, что это обстоятельство, как шило из мешка, вылезет и укажет на то, что перед нами не мыслящий субъект, а тупой и бездушный автомат.

И доказательств к концу века набралось, как говорится, выше крыши.

На практике оказалось, что машину можно обучить каким-то видам деятельности, которыми до этого был способен заниматься только человек, причем будет она делать это, зачастую, лучше самого человека. Как пример, Тьюринг, который был великолепным, разносторонним спортсменом (например он в десятикилометровом кроссе выигрывал у призера Олимпийских игр), в том числе и шахматистом, предложил в первую очередь обучить машину игре в шахматы.

Машину удалось обучить играть в шахматы, компьютерная программа играет на уровне чемпионов мира. Но, оказалось совершенно очевидным, что отличить игру автомата от игры человека достаточно просто, в силу того, что машина совершенно не понимает того, что она делает. Пример на эту тему приводит Роджер Пенроуз в своей книге. В позиции на приведенной в начале статьи диаграмме, робот, который выигрывал у гроссмейстеров, делает следующий непостижимый ляп: белые берут ладью на a5, тем самым разрушая неприступную стену и моментально проигрывают. Такой ошибки не допустит белковый шахматист, даже если это новичок, только что освоивший ходы, тем более такое решение никак не придет в голову гроссмейстеру, а мы имеем дело с программой, которая играет на уровне гроссмйстера! Этот пример наглядно показывает фундаментальные отличия в мышлении человека и робота. Робот не обладал подлинным пониманием не только того, что может ему дать заслон из пешек, но и вообще любого из своих действий! А это обстоятельство – отсутствие понимания того, что ты делаешь, непременно скажется на результатах прохождения теста Тьюринга.

Данный пример показал наглядно, что алгоритмическое устройство, не сможет понимать того, что оно делает. Практика подтвердила сомнения Тьюринга в том, что робот сможет обойти доказательство Тьюринга и других математиков.

Человек мыслит метафорично. Джеймс Максвелл, оперируя зубчатыми колесами, создал для себя удобную и понятную модель электромагнитного поля. Человечество, оперируя, китами и черепахами, создало для себя великолепную модель устойчивости Вселенной, в которой все должно быть уравновешено, каждому действию – противодействие, а каждой силе должна соответствовать противоположная равная сила. Автомат же этому, как ни бились, обучить не удалось, не удалось даже хоть как-то сдвинуться с места в этом направлении.

В приведенном шахматном примере для человека очевидно соответствие данной позиции положению осажденной крепости: вражеский предводитель может пожертвовать частью своих сил, для захвата абсолютной ценности: в крепости есть вода, а войска, ведущие осаду, стоят в пустыне. А вот защитникам все, что требуется, спокойно ждать, когда враг сдохнет, для этого, только не нужно отворять ворота, поддавшись на троянского коня — в данном случае ладью… Вот этого подхода, обучить робот метафоричному мышлению, за полвека бесплодных усилий, программистам так и не удалось, даже близко.

Примеров тупости роботов каждый, кто ходит в Интернет, может привести сам сколько угодно. Чего стоит одно то, что роботы сами не могут обучиться различать криво написанные символы — капчи, которые мы все успешно проходим, регистрируясь в каком-либо сервисе. Каждый новый вид капчи — новая задача для программиста, обучить же робот учиться самому, оказалось решительно невозможно.

Во второй половине 20 века философ Джон Серл первым нанес чувствительный теоретический удар по представлениям о том, что алгоритмическая  программа сможет когда-либо мыслить. Он предложил модель «китайской комнаты», где сидящему в отдельной комнате человеку даются инструкции, аналогичные  компьютерной программе, но задаваемые вопросы и выдаваемые ответы в результате манипуляций в соответствии с кодом программы, формулируются на неизвестном для исполняющего программу человека, языке. В результате, если программа составлена корректно, а оперетор действует пунктуально, ответы будут правильные, но абсолютно не понятные для исполнителя, так как он не знает языка, на котором построен интерфейс. Более того, у сидящего в такой комнате разумного существа нет никакой возможности исправить некорректный алгоритм, ведь он находится в полном неведении, что он делает на самом деле, не сможет модифицировать программу, если встанет вопрос выйти за рамкии того алгоритма, который он исполняет.  Здесь Серл показал, что синтаксис, который известен исполнителю, это совсем иное, чем семантика, которая «внутри алгоритма» оказывается недоступной как исполняющим органам, в данном случае венцу творения — хоме сапиенсу, так, разумеется, и самому алгоритму. И сколько бы мы извне ни пихали новых инструкций, пытаясь «обучить» данное устройство — все бестолку: система будет тупо следовать комплексу инструкций, но не сможет сама проявить разумной инициативы. Кстати, эти соображения, основанные на принципиальной необучаемости машины Тьюринга, легли в основу математического доказательства невозможности эволюциии описываемой различными модификациями дарвинизма.

Мысленный эксперимент Джона Серла подвергся ожесточенной критике. Самый неотразимый аргумент был таков: да, ни комната, ни исполняющий субъект, ни сама программа, каждый в отдельности,  не понимают китайского (для англичанина) или английского (для китайца), но получившейся в целом системе из инструкций, оператора и комнаты, отказать в интеллекте мы не вправе, т.е. следует считать систему в целом разумной. Заметим в связи с этим: а шкафы с энциклопедией, которые дают разумные овтеты на поставленные вопросы, тоже следует считать мыслящей системой?!

Любопытно, что те, кто считают, что сундук с гайками, если он правильно отвечает на вопросы, можно считать в какой-то мере разумным, в то же время они отказывают в разуме тому, кто создал весь этот разумный мир! Случай (есть и такое мнение) создал Человека и разумное  мыслящее сообщество жизни на Земле, но ему почему-то в разумности отказывают…

В принципе, доказательства практикой, да еще и подкрепленного такими аргументами, которые привел Джон Серл, для Тьюринга было бы, очевидно, более чем достаточно. Но число любителей строить вечные двигатели никогда не уменьшалось.

Аналогом по значиости циклу Карно в термодинамике, в области философии разума, несомненно, следует считать доказательство Роджера Пенроуза. Пенроуз, опираясь на понятие Машины Тьюринга и на упрощенный вариант теоремы Геделя, доказал, что разум не может быть численно смоделирован ни в каком разумном смысле.

Пенроуз выделяет четыре наиболее характерные точки зрения на вопрос о связи сознательного мышления и вычислений на компьютере:

A. Мышление целиком и полностью является вычислением. В частности, ощущение осознания (feeling of conscious awareness) вызывается просто выполнением соответствующих вычислений.

B. Сознание есть один из результатов физического действия мозга. Любое физическое действие может быть вычислительно смоделировано. Однако само по себе вычислительное моделирование не может вызвать осознание.

C. Определенное физическое действие мозга вызывает осознание. Однако это физическое действие не может быть вычислительно смоделировано ни в каком разумном смысле.

D. Сознание невозможно объяснить ни в рамках физики, ни в рамках теории вычислений, ни вообще в рамках науки.

Пенроуз придерживается позиции C, и ее обоснованию посвящена вся его книга. По отношению к другим позициям автор исключительно корректен (в особенности это относится к D), но всегда абсолютно четко формулирует свое отношение к ним. По поводу D он замечает (после многочисленных реверансов) примерно следующее: а почему, собственно, именно эту проблему — что такое сознание, осознание, понимание — мы должны отказаться исследовать научными методами, которые позволили человечеству так заметно продвинуться в понимании мира, в котором мы живем?

Пенроуз высказывает предположение, что если оставаться на научных позициях, то вариантов объяснения не много: за осознание должен отвечать некий физический процесс, который всегда, изначально был во Вселенной, так же как, например, гравитация.

По его мнению должен существовать некий мир идеальных образов, который не материален и не имеет своего места в пространстве и времени (типа идеального платоновского пространства), доступ к которому материя получает через коллапс волновой функции известной из квантовой механики.

Пользуясь, возможно, грубым аналогом, столь же грубым, как метафора  зубчатых колес,  которой пользовался Максвелл, описывая волновую природу электромагнетизма мы воспользуемся компьютерной метафорой, того мира, который, возможно, скрывается за рассуждениями Пенроуза. То, что вы сейчас читаете, или в другом случае смотрите видео на мониторе своего компьютера, изначально существует в виде идеи, которая закодирована, например, в виде точек на лазерном диске или магнитных диполей на винчестере, а может быть и вообще в виде дырочек на перфоленте – не суть важно какой материальный носитель, важно, что это  на самом деле изнчально — идея. Но  идея может быть и записаной карандашом или шариковой ручкой на листе бумаги, а потом перенесена на какой-то носитель, с которого  компьютеру ее проще «понять» — считать и отправить на обработку алгоритмом – тоже некоей идеей, и, далее, в виде максвелловской волны в той или иной среде, идея достигает вашего компьютера и далее «материализуется» в виде изображения. Так вот, «головкой» того лазерного диска, что во вселенной считывает идеи, переводу ее из мира идей в материальный мир служит, по мнению Пенроуза, редукция (коллапс, схлопывание) волновой функции.

Обоснованию этой своей гипотезы Пенроуз посвящает, собственно, бОльшую часть книги. Для меня одним из наиболее убедительных аргументов в пользу квантового характера этого процесса, является то обстоятельство, что разум покидает живой организм во время наркоза, от растений до человека, при действии химически неактивных веществ, вплоть до некоторых инертных газов. Т.е., мы видим, что временное помутнение  разума не зависит от химических реакций, но зависит от некоего физического процесса: инертные вещества могут повлиять на Ван-дер-ваальсовы силы, которые отвечают за квантовые процессы, отвечающие за разум.

Таков, в кратком очерке, круг идей, которые сейчас имеют место быть в области философии разума. Заинтересовавшийся читатель легко может сам найти в современном информационном пространстве массу материалов на эту тему, было бы желание. Мы же сейчас готовы, чтобы продолжить рассмотрение идей автора расматриваемой статьи, которая послужила поводом для написания всего того, о чем мы сейчас здесь говорим.

Отдавая дань безупречности доказательств Пенроуза, Полосухин, подобно Тьюрингу вновь пытается обойти доказательство, причем совсем не оригинально, а тем же самым путем, который намечал Тьюринг первоначально, и от которого напрочь отказался: он прибегает, по сути дела, к помощи «оракула», вот что он пишет:

Однако мы не стали уповать на «новую физику», а постарались «выжать» из машины Тьюринга все, что позволило бы найти эту самую «неалгоритмическую составляющую» в алгоритмически корректном определении машины Тьюринга. И такая составляющая, оказалось, там есть. Это — процесс самоприменимости машины Тьюринга, иными словами, процесс, когда машина читает с ленты, записанное на ленте ее собственное описание. Математически корректно доказано (не нами, но, используя тот же диагональный метод Кантора, которым пользовался и Р.Пенроуз, обосновывая свою точку зрения), что понятие самоприменимости машины Тьюринга алгоритмически неразрешимо. Иными словами, без привлечения «новой физики», можно утверждать: какая-то составляющая работы мозга, в самом деле, может выпадать из алгоритмического ложа. Как интерпретировать эту составляющую?

Поясню о чем идет речь. Речь идет о том, что строго доказано, что машина Тьюринга не может читать самое себя, т.е. алгоритм, который образует машину Тьюринга. Если удастся создать какое-то устройство, которое позволит это дело делать, то все будет о’екй и вери гуд: тогда машина начнет осознавать сама себя, отличать свое «я» от прочего. И этого будет достаточно для того, чтобы у машины появилось осознание.

Если бы дальше автор остановился на рассуждениях используя понятие машины Тьюринга и не обращался бы к такому понятию, как мозг, то он, возможно бы и не пришел к тем вываодам, к которым он пришел: какая-то информационно-физическая структура может построить отношение сама к себе и решить проблему осознания собственных действий.

Но далее идет кульбит через голову под столом:

Что такое самоприменимость мозга мы не знаем. Можно лишь предположить, что мозг, как информационная и физическая структура, каким-то образом может построить отношение «сам к себе». И поскольку мы высказали предположение, что самоприменимость машины Тьюринга есть, выполняемый внутренними средствами машины, способ отличения «себя от не себя», то не лишено основания следующее, построенное по ассоциации, предположение. Мозг, входя в неизвестный нам процесс самоприменимости своих структур, эмерджентно порождает некое новое состояние, называемое нами способностью человека отличать «Я» от «не-Я». А это есть ничто иное, как способность осознавания собственного существования, как появление свойства субъективности.

Давайте начнем отделять мух от котлет. Автор ведет речь о мозге, как о машине Тьюринга с некоторой надстройкой. Заметим только, что Пенроуз в своей книге показал, что осознание есть универсальное свойство – оно присуще всему, от человека до инфузории, у которой не только мозга нет, но нет даже никаких нервных волокон! В поле зрения Пенроуза не попали работы советских ученых, о которых я собираюсь вскоре рассказать, описание одной из подобных работ выложено у меня на сайте. Эти работы показывают, что даже растения, не говоря о простейших, способны запоминать информацию и обучаться, чего не могут делать никакие суперкомпьютеры даже в принципе, по крайней мере, если их не оборудовать каким-то хитрым устройством. Так что, понятие «мозг» в контексте обсуждаемого, весьма условно. Может быть Полосухин, считает мозгом некое информационное поле или что там еще может управлять растениями и микробами. Но, господь с ним, мозг, так – мозг. Важно то, что он считает его эквивалентным машине Тьюринга, так вот и будем дальше говорить о машине Тьюринга, т.к. из теории известно, что любая машина Тьюринга может быть реализована на другой машине Тьюринга. Вот и давайте, чтоб не пудрить мозги, не будем о мозге больше упоминать, а перейдем к эквиваленту – машине Тьюринга.

Что мы имеем в «сухом остатке»? А мы имеем машину Тьюринга с каким-то прибамбасом, вариантов коих гениальный Тьюринг перевыдумывал целую кучу, но из ступора машину, в общем случае, они не выводят. И, что самое интересное: в наше время можно поставить, для наглядности, не мысленный, а натурный эксперимент! Роль машины Тьюринга может выполнять обычный персональный компьютер, т.к. он эквивалентен некоторой машине Тьюринга, разумеется не любой, но для нашего примера это вполне законная замена, т.к. в ходе эксперимента мы покажем абсолютную достаточность его мощности для данного случая применения.

И так, имеем частный вариант машины Тьюринга – персональный компьютер. (Вообще-то более корректно сказать, что некая  машина Тьюиринга смоделирована на персональном компьютере). Усаживаем желающего, хоть самого автора — Полосухина, в мозгу которого, по им же данному  определению, есть нечто, что способно выдать все что требуется для постановки опыта, т.е. тот самый «оракул Полосухина» там присутствует. Теперь эту «машину Тьюринга», с тем придатком, который есть (возможно что в мозгу) у любого из нас, никто не отличит от человека в тесте Тьюринга. Т.е. проблема осознания, без сомнения, решена. Вот только вопрос: а где это осознание локализовано? Неужто,  это осознание следует приписать этой тупой железяке?! Очевидно, что как бы мы ни изловчались, мы не сможем придумать ситуации, когда бы мы смогли приписать настольному компьютеру понимание того, что он делает. Так что, нужно не «выжимать из машины Тьюринга» что-то сверхъестественное, а следует вообще выжать саму машину за пределы сознания, она вообще никаким боком к нему отношения не имеет. Что, кстати, хорошо было понятно тому же Геделю, который первым решительно отделил вычислительное от интуиции, которая не то синоним,  не то некая ипостась или, по крайней мере, важнейшая часть осознния. Гедель вообще радикально высказывался по данному поводу, он говорил, что привязывать разум к материальному носителю есть предрассудок эпохи. Мы не обязаны быть столь радикальны, но то, что машина Тьюринга к процессу осознания ни каким местом не может быть приделана, доказано совершенно опеределенно.

Резюме: пытаться что-то «выжать из машины Тьюринга» это то же самое, что искать философский камень или клепать вечный двигатель.