?

Log in

No account? Create an account

Previous Entry | Next Entry

Неудавшаяся попытка критического прочтения

Русское название: Роджер Пенроуз. «Новый ум короля. О вычислительных машинах, разуме и законах физики». Номера страниц следуют в квадратных скобках за цитатами, и даются по изданию [Penrose 89]. Все переводы сделаны автором, изо всех сил старавшимся сохранить не только семантику, но и стилистику оригинала; последнюю, разумеется, не в ущерб первой. Ссылки на литературу в квадратных скобках и начинаются с фамилии автора. Ссылки на комментарии в конце статьи обозначаются «ножичко솻.

Эта книга захватывает читателя, захватывает новым, по крайней мере для вашего скромного собеседника, методом: в течение всего изложения автор обещает объяснить множество вещей, от необходимости квантово-механического объяснения работы его, читателя, мозга, до эволюционных преимуществ сознания, но не торопится с этими объяснениями. Подобного suspense ожидаешь от детективной истории, но никак уж ни от научно-популярной книги, ни от монографии.

В книге чуть более 450 страниц, но далеко не все они посвящены изложению теории ее автора. В задачу книги входит, как следует думать, предварительное образование читателя до уровня, необходимого для понимания обосновываемых Пенроузом идей. Книга состоит из десяти глав, из которых семь содержат в сжатом и, по видимому пониманию писавшего, популярном изложении определенные физические и математические теории. В главах со второй по девятую кратко и сжато излагаются основы следующих наук и дисциплин:

  • философии математики (где автор указывает, что он последователь Платонова учения, утверждающего, среди прочего, существование независимого от нас, непридуманного мира чисел, идеального, внепространственного, неизменного и непреходящего);
  • арифметики и теории чисел;
  • теории множеств (десятая проблема Гильберта, теорема Гёделя о неполноте, Канторовы мощности множеств; фрактальность, рекурсивная перечислимость множеств);
  • вычислительной математики (включая машины Тьюринга, тезис Тьюринга-Черча и λ-исчисление) и теории сложности;
  • классической механики (включая Гамильтоново изложение динамики и фазовые пространства);
  • классической электродинамики;
  • специальной теории относительности;
  • общей теории относительности (с тензорами, разумеется!);
  • квантовой механики;
  • квантовой электродинамики;
  • гипотез о квантовой гравитации;
  • и наконец, космологии (черные дыры, Большой взрыв, направленность времени и энтропия вселенной).

Список, как видите, нешуточный, и задача изложить эти науки в тех трехстах пятидесяти страницах, наверное, неразрешима. Поэтому не следует ставить Пенроузу в вину то, что он ее не исполнил: иные тратят годы и прочитывают десятки пухлых томов, чтобы понимать все эти учения. Разумеется, разъяснить λ-исчисление, даже популярно, на трех страницах, которые автор смог для того выкроить, невероятно трудно, если и возможно вообще. Именно сжатым объемом и надобностью донести до читателя несоразмерно огромное знание и вызвано такое рваное, косноязычное и совершенно непонятное изложение материала, к которому был вынужден прибегнуть автор. Положа руку на сердце, мало кто произвел бы лучший результат, пытаясь справиться с подобной задачей. Автор здесь признается, что малодушно отказался бы от такой попытки сразу же, без размышления.

Мой наблюдательный читатель уже, должно быть, задается вопросом: как же работа по теории сознания обходится без хотя бы обзора теорий в области искусственного интеллекта (ИИ)? Ведь читателя надо бы «подтянуть» и в этих дисциплинах? Здесь, справедливости ради, надо возразить, что все узнать зараз все равно нельзя. Пенроуз обучает читателя здесь лишь самому необходимому, а что касается остального, тут нам придется положиться на анализ этой области, проделанный Пенроузом, и изложенный кратко и сжато, да и понятный притом без всякой подготовки.

А именно, Пенроуз считает, что ИИ невозможен, и все эти ученые занимаются, в отличие от него, физика, каким-то нелепым делом. Чтобы избавить нас, читателей, от утомительных споров по существу дела, он применяет новый, невиданный доселе в научной литературе (хотя и популярный в некоторых торговых точках) риторический прием: вводит коллективное понятие «ИИ-парни», они же «ИИшники», а затем, виртуозно оперируя утверждениями, подобными «ИИшники никакого понятия не имеют, как запрограммировать [алгоритм] суждения [об истинности факта] на компьютере!»,[412] немедленно заставляет своего читателя задуматься: а всякое ли суждение «естественного» интеллекта озарено светом истины?

Для доказательства «невозможности» ИИ, Пенроуз приводит хорошо известный «аргумент Сирла», известный также под именем «китайской комнаты». «Доказательство» производится путем reductio ad absurdum, или «рассуждением от противного» (см., напр., Википедия, «Доказательство от противного»). Предположим, что ИИ возможен, в том смысле, что существует алгоритм, понимающий китайский язык и выдающий осмысленные ответы. Испытатель, не знающий китайского, запирается в комнате, а испытуемый, не знакомый с испытателем и говорящий по-китайски, пишет на листочке вопрос, а затем просовывает этот листочек в запертую комнату. Испытатель проделывает все шаги алгоритма и пишет в итоге ответ по-китайски. Испытуемый читает ответ и говорит: «Да, это разумный ответ! В комнате сидит человек, оворящий по-китайски!». Но ведь испытатель не говорит по-китайски? Не говорит. Противоречие? Ага! Следовательно, наше начальное положение неверно, и, стало быть, ИИ невозможен.

Правда, автор этих строк не видит, почему бы тем же способом не доказать также и невозможности алгоритмического сложения чисел, или, скажем, решения квадратного уравнения. Ведь если испытатель не обучен сложению, а пользуется алгоритмом, то испытуемый снаружи тоже подумает, что человек в комнате складывать умеет! Противоречие? Противоречие! Значит, алгоритм сложения двух чисел невозможен! Калькуляторы тоже невозможны: читатель легко докажет это, дав необученному арифметике испытателю в руки вместо алгоритма калькулятор. Впрочем, философия на то и древняя наука, чтобы все было туманно, но утвердительно. Автор здесь уверен, что есть философские аргументы, объясняющие принципиальную разницу между этими двумя случаями, и почти уверен, что их ему точно так же не понять… Впрочем, не будем огорчаться. Калькуляторов не бывает, но самая обычная логарифмическая линейка† сделает то, что никакому компьютеру не под силу! Сейчас ее превосходство будет объяснено.

В главе о классической механике Пенроуз говорит о принципиальной невозможности численного моделирования механической системы, за редким исключением сконструированных специально для того, чтобы быть моделируемыми. Этот тезис доказывается очень просто: до бесконечного числа знаков компьютер ведь считать не может†. А из него сразу же следует вывод, блестящий в своей простоте, мимо которого прошли, буквально не заметив его прямо под ногами, целые поколения физиков и математиков! Например, угол отклонения качающегося маятника от вертикали может оказаться числом и невычислимым. А значит, компьютерная модель маятника невозможна! Правда, Пенроуз тут же оговаривается, что специально просчитанный маятник можно смоделировать. Но кому это было бы интересно — заранее придумать то, что моделировать? Да и как считать, если калькуляторов не бывает? Но старая добрая логарифмическая линейка нас спасет! Она-то считает любые числа с бесконечной точностью! Движок на ней можно передвигать на сколь угодно малые расстояния, правда ведь?

Позволительно ли так надувать физику, чтобы натянуть ее на математику? Пенроуз, при всей неординарности своего, можно назвать, мышления, — все-таки физик, и о том, что материя состоит из атомов, наверное, знает. И о том, что длинами меньше планковской, ~10−35 м, не оперируют даже в микромире, тоже знает. Но требует при этом бесконечной точности в вычислениях: или бесконечность, или ничего не вычислится! А вот почему, этого нам с вами, по нашей недоученности, не понять. Да в конце концов, кто книжку писал? — Пенроуз. Кто писал, тот и написал, а чего не написать-то?

Затем Пенроуз переходит к описанию устройства мозга и выяснению, где именно в нем находится сознание. Путем довольно неочевидных рассуждений, Пенроуз, в своей конструктивной манере изложения, одну за одной исключает все части мозга, как возможные вместилища сознания. Все гениальное воистину просто! Сознание — нигде! Даже не в больших полушариях, столь высоко оцененных лишь несколькими страницами ранее, в следующем образчике изящного слова: большие полушария есть «та часть, которой, как знают человеческие существа, им следует гордиться более всего,… поскольку эта часть не только наибольшая от всего мозга человека, но и наибольшая по отношению к [размеру] всего мозга, в сравнении с другими животными».[375] Нельзя не согласиться: именно это чувство, вызывающая желание помериться величиной сего предмета гордости, и нашла отражение в известной поговорке; хорошо известна также и сила влечения к истине, возбуждаемая двумя большими полушариями в особо страстных адептах философии! А вот «бессознательное… все то, что можно вычислить алгоритмически, [находится], предположительно, в мозжечке».[413] Из чего, правда, исходя, делается такое предположение, в книге не говорится. Но, повторюсь, учитывая малый объем книги и грандиозность задачи, опущение принципиальных рассуждений тут вполне оправдано. Да и вообще, что для нас главное: рассуждения или результат? К теории, товарищи, надо подходить практически!

Далее Пенроуз дает первую из давно обещанных разгадок: почему мозг — это квантовый вычислитель. Это рассуждение достойно развернутой цитаты (речь в этом параграфе сначала велась о параллельных компьютерах):

Единство «я»† сознательного восприятия, как мне кажется, идет вразрез с картиной параллельного компьютера. Эта же картина могла бы, с другой стороны, подойти в качестве модели бессознательных действий мозга… С другой стороны [с третьей —freg.], мне кажется, что может быть вполне вообразима связь между единством «я» и квантовым параллелизмом†… Если сознательное «ментальное состояние» может быть уподоблено квантовому состоянию, то некая форма единственности «я» или глобальности мысли может быть более подходящей, чем в случае обычного параллельного компьютера… Но прежде, чем рассматривать такую идею, мы должны рассмотреть вопрос о важности квантовых эффектов вообще в деятельности мозга.[399]

Этими золотыми словами, этим обещанием рассмотреть вопрос важности квантовых эффектов Пенроуз опять создает ситуацию подвешенности в долгом, напряженном ожидании! Вашему собеседнику-недоучке, например, кажется, что единство «я» также идет вразрез и с картиной Ван Гога «Череп с сигаретой в зубах», из чего он все же затрудняется сделать вывод о квантово-механической природе своего «я», Ван Гога или черепа. Неясность эту мы опять же должны отнести на стесненность Пенроуза несоразмерностью громадья задач и ничтожности объема одного тома. Следует отметить, справедливости ради, что отдельные логически завершенные рассуждения мы все-таки находим: «Поскольку [в сетчатке] имеются нейроны, возбудимые, в принципе, одним квантом [света], не будет бессмысленным вопрос, а нет ли подобных нейронов и в мозге? Свидетельств этому, как мне известно, нет… Однако, можно и представить, что где-то глубоко в мозге найдутся нейроны с порогом возбуждения ниже [энергии] одного кванта. Если таковые нейроны вдруг обнаружатся, тогда можно будет сказать, что квантовая механика важна для деятельности мозга».[400] Присутствие столь неоспоримо справедливого вывода еще раз укрепляет пишущего эти строки в убежденности, что в прочих случаях Пенроуз отказывается от логического размышления лишь для экономии изложения, а вовсе не из неумения или, как можно было бы подумать, нежелания.

По ходу изложения Пенроуз оперирует понятиями «сознание» (consciousness), «бдение» (awareness) и «мышление» (cognition), по-видимому, в равном смысле, как антитезу «бессознательному» (unconscious), покрывающему такой диапазон явлений, как сон, инстинкты, рефлексы и автоматические действия. За 40 страниц до конца изложения, когда наступает пора, наконец, определить термины, которыми Пенроуз пользуется в течение всей книги, он отводит этому несколько страниц, где, в очередной раз не обманывая наших ожиданий, так и не приходит ни к какому определению†; затем он неоднократно возвращается к этим попыткам. В числе прочих, при обращении к этой же теме возник следующий, несомненно благородный по своим намерениям пассаж, обличающий тех из братьев старших, которые совершенно не по-братски принижают достижения и подавляют личности братьев меньших: «Остается открытым вопрос о возможности горилл и шимпанзе общаться, пользуясь языком жестов, а не нормальным[sic!] человеческим образом (коему они не приспособлены из-за отсутствия подходящих[sic!] голосовых связок)… Кажется ясным, что, невзирая на жаркие дебаты, [обезьяны эти] способны к обмену знаками, хоть и элементарному. По моему убеждению, это немного хамовато[sic!] со стороны некоторых не называть этот обмен жестами „словесным“. Не для того ли не допускают они приматов в „клуб небессловесных тварей“, чтобы потом изгнать их и из клуба тварей сознательных?»[425]. Да, товарищи, стыдно, стыдно за наших товарищей по биологическому виду, еще допускающих немного хамство, и, не обойду вниманием намека тов. Пенроуза, замышляющих конспирацию с целью изгнания наших ближайших родственников, наших братьев, «способных на истинное вдохновение»,[425] наших, так сказать, соратников в этом нелегком деле словесности, из партии сознательных, честных и совестливых! Где же ваш интерспециализм, товарищи! Позор предателям классовых, отрядных и семейственных интересов!

И вот, наконец, мы, вслед за автором, приближаемся к разгадке, к торжественному моменту, когда ленточка будет разрезана, и покрывало тайн сознания падет, и ничто более не скроет от нас живительных лучей света истинного знания! Полезно здесь перечислить, какие же истины были открыты нам к этому времени:

  • ИИ не бывает.
  • Модели механической системы тоже, в общем случае, не бывает.
  • Ум алгоритмом не охватишь.
  • Можно было бы предположить, что нельзя исключить возможного влияния квантовых эффектов на работу мозга, если вдруг найдутся этому экспериментальные подтверждения.
  • Гориллы суть говорящи и вдохновенны.

Какой же нам следует сделать из этого вывод? Невозможно было нам и на этот раз предвосхитить той ярчайшей вспышки интуиции, момента озарения истинного мыслителя! Вот что говорит сам Пенроуз, открывая нам глаза на эту тайну:

Я представляю себе, что, когда ум воспринимает математическую идею, он входит в контакт с Платоновым миром идеальных концепций… В соответствии с точкой зрения Платона, математические идеи существуют сами по себе, в идеальном, [вечном и неизменном] мире, доступном лишь уму. Когда кто-либо „видит“ математическую идею, его сознание врывается в этот идеальный мир, и входит с ним прямой контакт („доступность только через ум“)[sic!]… Разговор математиков возможен только лишь потому, что им открыта эта прямая дорога к истине, и сознание каждого из них находится в состоянии напрямую воспринимать истины математики, посредством „ви́дения“…
…Разум всегда в состоянии соединиться [с этим миром]. Но только немного выдается каждый раз… Из того факта, что математические истины есть необходимые истины, никакой „информации“, в техническом смысле, делающему открытие не передается. Вся информация была там [где? —freg.] все время. Это — лишь вопрос совокупления  фактов и „ви́дения“ ответа! Все это соответствует идее самого Платона о том, что (скажем, математическое) открытие есть лишь разновидность воспоминания!… Но, чтобы эта точка зрения была полезна, в случае математической коммуникации, следует представлять себе, что интересные и глубокие математические идеи неким образом более существуют[sic!], нежели тривиальные или неинтересные.[428—429]

Оставшиеся несколько страниц книги посвящены, насколько смог их понять ваш скромный помощник, геометрическим мозаикам и специальным вопросам кристаллографии.

«А как же обещания автора?», спросит удивленный читатель, «Как же suspense? А зачем нас учили на протяжении семи глав непроходимым языком всем этим головоломным дисциплинам, которых все равно из такого краткого изложения не понять — при том, что для осознания идеи автора, кажется, даже школьная арифметика не требуется? Зачем меня, добропорядочного читателя, так жестоко надули?» Увы, ответы нам не известны. Рискнем лишь предположить, что Пенроуз сам не предвидел этого неожиданного контакта с идеальным миром истин, закончившегося извлечением в наш мир этой, несомненно, самой существующей из идей, и именно нежданное, не по плану, можно сказать, изложение ее и сделало все предыдущие вопросы несущественными, а ответы на них — более не нужными. Задаваться этими вопросами теперь было бы, думается, так же несмысленно, как, дочитав «Знак четырех», терять и сон, и аппетит, мучаясь загадкой: а ковырял ли когда-нибудь Шерлок Холмс в носу?

Ведь нам все ясно уже и без этого, не правда ли?

Комментарии

Это приложение, в отличие от основного текста статьи, не содержит ни иронии, ни сарказма. Любое утверждение здесь, за исключением, разумеется, цитат, следует принимать за то, чем оно представляется.


Логарифмическая линейка — вычислительный прибор, состоящий из корпуса с неподвижными шкалами, скользящего в нем движка со шкалами, подвижными относительно первых, а также визира с риской для точного считывания значений с отдаленных друг от друга шкал. Градуировка шкал нелинейная, и, хоть не для всех шкал она и логарифмическая, именно такой принцип градуировки дал название прибору. Устройство использовалось до появления калькуляторов для численных расчетов инженерами, навигаторами и т. д. См., напр., Википедия, «Логарифмическая линейка».


Вычислимые и невычислимые числа. Натуральных чисел, как известно, бесконечно много, а целых чисел — так же много, как и натуральных, а вовсе не вдвое больше (здесь полезно вспомнить, что расходящиеся ряды не позволяют применять к ним кажущиеся очевидными алгебраические преобразования). Доказательство этой теоремы разработано великим математиком Георгом Кантором, и удивительно просто: возьмем и перенумеруем все целые числа! Поскольку мы не можем нумеровать каждое число в отдельности, мы выведем вместо того общий принцип нумерации, для произвольного целого числа n. Начнем нумерацию так: 0 будет № 1, −1 — № 2, 1 — № 3, −2 — № 4, 2 — № 5, −3 — № 6, и так далее, так что любое целое число n будет иметь номер 2n + 1, если оно положительное, или −2n в противном случае. Другими способами можно перенумеровать все рациональные числа, т. е. дроби (т. н. «диагональный аргумент Кантора»), а также все алгебраические числа, которые суть решения полиномиальных уравнений. Но даже за вычетом всех этих перенумерованных чисел, остается еще множество чисел, которые нельзя перенумеровать: континуум вещественных чисел. Кантор доказывает, что даже в интервале между 0 и 1 «все» числа перенумеровать нельзя. Также верно и то, что эти числа непредставимы в компьютере, и даже называются они «невычислимыми». Компьютеры ведь считают с ограниченной точностью. Представим, что некий компьютер считает числа до 40 десятичных знаков. Такому компьютеру все равно, что вот это число:
    0,1111122222333334444455555666667777788888 ,
что это:
    0,1111122222333334444455555666667777788887 ,
потому что оба они округлятся до
    0,111112222233333444445555566666777778889 ,
Если надо для решения конкретной задачи, правда, компьютер может и до сотни, и до тысячи знаков сосчитать, и с любой конечной точностью. Но с бесконечной точностью за конечное время, само собой, нет.

Тем не менее, утверждения о бесконечной точности механического движения в системе, даже идеальной, равно как и о бесконечной точности, потребной для построения вычислительной модели такой системы, от физика слышать чрезвычайно, просто запредельно странно.


Единство «я». Пенроуз постоянно ссылается на некое единство сознания как данность. Аргумент этот возникает из здравомысленных наблюдений, но рациональному обсуждению не подвергается: «Характеристикой сознательной мысли является ее единство… Вопросы наподобие „Как, по-вашему, мне думать более одной мысли сразу?“ совершенно обычны».[399] Меж тем, постулат единства «я», как процесса, производящего сознание, отнюдь не очевиден, более того, при внимательном рассмотрении оказывается ошибочным.

«Мы называем словом «я» полновластное существо внутри нас, желающее чувствовать и думать за нас, и принимать важные решения за нас. Мы зовем его «я», самость, эго, и мы представляем его никогда не меняющимся, чтобы ни случилось с нами. Иногда мы даже делаем «я» маленьким человечком, живущим внутри нашего разума».[Minsky 06 с. 299]

«Гомункул… миниатюрный взрослый, который, по положению, обитает в мозгу… воспринимая… сенсорные сигналы и вызывая все команды мускулам. Любая теория, полагающая подобного внутреннего агента, рискует оказаться в бесконечной рекурсии… поскольку мы можем спросить, а нет ли у маленького человечка в голове своего маленького человечка, отвечающего за его действия и восприятия, и так далее». [Dennett 78 apud Minsky 06].


Квантовый параллелизм — вытекающая из особой интерпретации квантовой механики возможность элементарной частице находиться одновременно в нескольких точках пространства.


Определение сознания и интеллекта. Справедливости ради, отметим, что определение даже в гораздо менее расплывчатых случаях затруднительно. Пенроуз, по недопониманию, устанавливает рамки для определений невнимательно, и пытается разграничить процессы в уме там, где они в разграничении не нуждаются. Даже сама терминология, используемая Пенроузом, противоречива и нестабильна. Он говорит, «при моем собственном взгляде на вещи, вопрос интеллекта подчинен вопросу сознания. Я не полагаю, что я мог бы поверить, что истинный интеллект может проявиться, если при этом не появляется и сознание».[407] Автор, при всех приложенных им стараниях, так и не смог разобраться, что же, по взглядам Пенроуза, есть главное, а также в чем состоит отличие истинного интеллекта от просто интеллекта.

Минский [Minsky 86], вводя понятие сознания [гл. 6.1], пишет, «в жизни вам очень часто приходится иметь дело с вещами, которых вы не понимаете. Вы водите машину, не зная, как двигатель устроен внутри. Вы едете пассажиром, не зная, как водитель устроен внутри. Но самое странное, вы управляете своими телом и разумом, не понимая, как вы сами устроены внутри. Не замечательно ли то, что мы можем думать, не понимая, что значит думать?… Наши мысли… управляют множеством процессов, которые мы редко замечаем. Не понимая, как они работают, мы учимся достигать цели, посылая сигналы этим чудесным машинам, словно колдуны древности, читающие ритуальные заклинания».

Здесь же Минский приводит определение из словаря Вебстера: «сознающий. 1. имеющий чувства или знание о своих ощущениях, либо о внешних вещах); знающий или чувствующий, (что ч.‑л. существует, происходит);… 3. Воспринимающий себя мыслящим существом, знающий, что и почему он делает». Как хорошо заметно, ни метафорическое сказание Минского, ни претендующий на четкость определения язык словаря ясности здесь не дают.

В [гл. 7.1], Минский рассуждает о трудности определения интеллекта, пробует, ведя диалог с критиком, различные определения, и останавливается вот на таком: «В наших умах происходят процессы, позволяющие нам решать задачи, которые мы сами полагаем сложными. Те из этих процессов, которые мы пока не понимаем, называются „интеллектом“. Некоторым не понравится это определение, поскольку оно обречено на изменение по мере того, как мы все глубже изучаем психологию. Но, на мой взгляд, именно так и должно быть, поскольку само понятие „интеллекта“ напоминает фокус на сцене. Подобно „неисследованным регионам Африки“, он исчезает по мере того, как мы исследуем его».

Здесь автору остается лишь согласиться с Минским и расстаться с надеждой дать четкое и неопровержимое определение сознанию или интеллекту, а заняться вместо того делом интересным и полезным.

Использованная литература

Dennett, Daniel C. “Why Can't You Build A Machine That Feels Pain.” In Brainstorms, Cambridge: MIT Press, 1978, 190—229. Apud [Minsky 06].

Minsky, Marvin. The Society of Mind. New York: Simon and Schuster, 1986.

Minsky, Marvin. Emotion Machine: Commonsense Thinking, Artificial Intelligence, and the Future of the Human Mind. New York: Simon & Schuster, 2006.

Penrose, Roger. The Emperor's New Mind. Concerning Computers, Minds And the Laws of Physics. New York: Oxford University Press, 1989

Tags:

Comments

oleg_mazurov
Jan. 6th, 2008 09:25 am (UTC)
Re: 2.2.1., Продолжение разъяснения со статьей в руках.
Ну, сразу и критиковать. Серль разъясняет свою позицию и в частности свой аргумент Китайской комнаты (как он его мыслит двадцать лет спустя). Чтобы критиковать Серля, нужно понимать, что он понимает под сознанием (не умом, не мышлением, не само-сознанием), и здесь ключевое слово - qualia (это в других статьях). Далее - что "понимание" по Серлю - часть сознания (мысль для него обладает quale). Далее - что Китайская комната по Серлю не будет обладать именно этим "пониманием", читай quale, читай сознанием, читай субъективностью. Если грубо, то весь результат работы Китайской комнаты - это синтаксис (текст), семантика (осмысление) которого определяется сознанием китайцев, которые с ней общаются, но никак не самой комнатой (даже с Серлем внутри).
В свете сказанного, большая часть критики в этой теме "мимо кассы". Серля нужно критиковать на другом уровне.

fregimus
Jan. 6th, 2008 12:32 pm (UTC)
Re: 2.2.1., Продолжение разъяснения со статьей в руках.
Ладно, тогда не буду критиковать. :-)

Можно я спрошу вот что. Вот я философов как-то не могу понять часто. Устройте мне введение в современную философию из ответа на один простой вопрос, а?

Вот, скажем, стоит машина, говорит по-китайски. Совершенно разумно. То есть, я, такой, ее спрашиваю по-китайски: «Что ты думаешь об аргументе Сирла про КК?», а она, такая, по-китайски: «Слушь, мужик, ну даешь ты, ведь ТТ будешь проходить, засыплешься! Ты нашел, чего спросить! Откуда у меня ум-то, сам не знаешь, чё ли?»

Глядя на эту картину, вполне логично было бы, кажется, предположить: да, машина рубит, хоть и на граммофон похожа. Видно, в сложных алгоритмах и впрямь ум (сознание, самосознание, интеллект) заводится! Особенно если учесть при этом, что в простых алгоритмах и правда заводятся удивительные по сложности поведения вещи (ключевое слово “rule 30”).

А вместо этого какой-то философ (сирлиянского, конечно, пути мысли) говорит, такой, — «Нет. Ума тут быть не может. Ибо материя, из которой изготовлен этот граммофон», — тут машина тихонько бормочет по-китайски какую-то фразу про Лао Цзы и осла, — «э-э-э… эта машина, да, так эта материя не обладает каузальными свойствами. Каузальные свойства же, они же квальи, они же понимание, а с ним и сознание, — но, не перепуайте! — только не самосознание, — не заводятся просто так, из какого-то там алгоритма! Они заводятся от э-э-э…», — его рвет, он убегает.© А мы быстренько сворачиваем этот мысленный эксперимент.

Вот скажите мне, пожалуйста, по-простому: вот этот весь винегрет из редьки с бузиной про квалии — он зачем замешивается? Я вот этого никогда понять не мог, хотя много раз по разным поводам пытался. Не могу понять разницы между вот этим философом и, скажем, френологом, объявляющим, что раз шишек на черепе у машины нет, ума у нее быть не может. Вроде бы, наука такие «объяснения» отвергает, а философия что же — приветствует? Философия науке, выходит, что же, теперь противостоит? Вы говорите о «другом уровне», Вы примерно это и имеете в виду? Я совершенно наивен в этом вопросе.
ex_kosilova
Jan. 7th, 2008 08:22 am (UTC)
Re: 2.2.1., Продолжение разъяснения со статьей в руках.
ну а Вам доводилось когда-нибудь говорить без понимания? Может быть, в детстве, в школе, либо еще где-нибудь. А потом вдруг понять, о чем речь.
У меня был знакомый вундеркинд, который в 8-9 лет писал поэмы про любовь. Писал красиво, и вполне можно было подумать, что автор знает, что такое любовь. Потом ему исполнилось 15 лет, он впервые влюбился и сразу перестал писать поэмы. До него дошло, ЧТО это было, про что он столько написал. Вот то, что он испытал в этот момент, и называется qualia. Вам разве всерьез непонятно, чем отличается qualia от отсутствия qualia?
fregimus
Jan. 9th, 2008 06:12 am (UTC)
Re: 2.2.1., Продолжение разъяснения со статьей в руках.
Спасибо, прекрасное объяснение. Можно вас попросить уточнить кое что, но только если время у Вас есть, отрывать из-за меня на надо.

а) Qualia — это только момент «озарения», или состояние в этот момент и после него? Непрерывно после него? Например, я говорил без понимания об одной штучке в теории вероятностей, а потом я ее понял. Я вспомнил, как говорил — неприятно, помню, было; момент, когда, видимо, позже, через годы, «озарило» — не помню. Еще, позже, когда я этим уравнвнием пользовался, я помню, что не вспоминал про тот неприятный случай. Со мной случилась qualia, можно так сказать? Я ее забыл? Или она теперь есть, то есть это — именно понимание этого уравнения, а не только момент понимания?

б) Как я понял, это относится и к чувственному (влюболся), и к сенсорному (обжег руку), и к интеллектуальному (понял уравнение) опыту — правильно?
ex_kosilova
Jan. 9th, 2008 11:42 am (UTC)
Специально для латинистов, смайлик: Qualia - это, насколько я понимаю, множественное число от qualium, а не женский род :))
Поэтому на всякий случай будем говорить о "квалия-состоянии".
Если я правильно понимаю смысл этого термина, а я в этом уверена не на 100%, то квалия-состояние озарения гораздо сильнее, квалитативнее, так сказать, чем состояние повседневного понимания, но и последнее тоже квалитативно. Квалитативный - это же, в общем, "качественный", то есть ну, "какой-то", что ли... Так что можно говорить о "сильно каком-то" и "не столь сильно таком-то", и это различие будет количественное, а качественно то и другое будет одинаково.
Это относится ко всему, что мы переживаем, да. К сенсорному, чувственному, к интеллектуальному. Разные состояния, но все квалитативные. У робота, типа, ничего подобного нет, никакого переживания, ничего.
PS, ну как не ответить такому приятному человеку! Особенно после того, как обозвала Вас "алгоритмом!"
fregimus
Jan. 10th, 2008 05:35 am (UTC)
Ага, спасибо! В общих чертах, кажется, понимаю. Качество, отделенное от количества этого качества. Текучесть воды против текучести варенья. Прозрачность красного стекла против красноты красного стекла. Теперь перемешаем текучесть воды как понимает ее физик, с собственными ощущениями, отнесенными к категории текучести. Первое (рациональное понимание) не вызывает второго (опытного, «интуитивного», «ощутительного» знания)? По-моему, вполне очевидное утверждение. «Вы представляете, как красиво выглядит эта равнина в рентгеновских лучах?» Нет, конечно, что бы там из физики о рентгеновских лучах ни знал. Думаете, я правильно понимаю, что Сирл этом хочет сказать?

Спасибо Вам за ответ и приятные слова. Все, что ниже, само написалось, это я не спрашиваю, а просто такие мысли на тему, так что если некогда или не интересно, то, само собой, не надо читать и/или отвечать на это, меня не заденет, конечно, ни капельки.

У роботов не может и т. д. — Эту проблему своего и чужого «оно там внутри» рассматривали писатели-фантасты сколько уже раз! Встреча с чужим разумом, который, в целом, тоже оперирует символами, но побуждения у него иные, этика иная и проч. Даже у людей разных стран и веков они различны вплоть до полного непонимания, чего уж там говорить о «чужаках».

Вспонил еще одну жуткую забавную историю про квалии: проблему в одной экспериментальной сетке (далее, «мальчиками», но это жаргон; никакого очеловечивания). Это примитивный разум, он оперирует семантикой на уровне, может быть, двухгодовалого человека, в смысле только «ума», конечно; в двухгодовалом ребенке не ум ведь заметен большей часть. :-) Мальчику задают вопрос, он переваривает, в «мозгу» рождается ответ. Ответ можно наблюдать — узлы сетки «активны», светятся. Он может выдать ответ в виде текста — у него есть «орган языка», «врожденная» способность говорить и понимать. Но он не отвечает: у него нет побуждения «говорить», он «думает» ответ, но молчит. Помню, у меня тогда и произошел такой qualium. Как-то сразу ясно: а с чего бы это ему говорить? Вы ведь слышали притчу о мальчике, который молчал лет до 15, пока мама впервые не дала ему подгорелую кашу, на что он тут же пожаловаля. Выходит, забыли подключить внутренний «побудитель». Ведь и притчу эту все знали… Тогда я понял, что «иной» разум может быть сколь угодно иным, до такой даже степени, что, может, не признаем его даже за разум. У фантастов все-таки те ситуации, где понимание какое-то возможно. Хотя нет, вру: есть же «Малыш» Стругацких (Ай! Опять мальчики!). Не всегда возможно, даже в фантастике.

Я редко как-то эмоционально отношусь к спорам вообще, хотя иногда такие диспуты с обзываниями читаю! Мне это кажется интересным для понимания, но не обсуждаемых вещей, а собственно коммуникации. Само содержание спора меня редко «зацепляет», но вот аргументы «от бабуина» — «этой железяке никогда не испытать того кайфа, который я, альфа-бабуин, переживаю, когда счастливцы, допущенные к телу, выбирают у меня вшей, следовательно, она тупа и бесчувсвенна» — какую-то обиду за человечество мне причиняют, не знаю, как объяснить точнее; etiam humanum id sicut non humanum est, может быть, как-то так бесчеловечно, как только человеки могут. «Аргумент Сирла будет позором человечества в глазах ИИ» — вот такая доля шутки. :-)

PS и т.д. ‐ Как приятно чувствовать себя приятным алгоритмом, спасибо! :-) Для меня знать себя алгоритмом совершенно нормально, никак, обычно, не иначе, чем понимать руки и ноги механизмами, не более и не менее «божественно» по определениям одних, «квантовогравитационно» других, «недостижимо-круто-человеческое» третьих или «не лезь, а то мало ли чего» четвертых… Другое дело, алгоритм не понятен, и может быть не понят еще долгое время, но в процессе поиска образуется всегда много интересного и нового (какой уж там мозг — как аспирин работает, и то, слышал, если и ясно, то лишь в общих чертах!) Не стали же люди спотыкаться и проносить вилку мимо рта, узнав, что руки и ноги — системы рычагов с мышцами—актуаторами. Оказалось, что у инженеров множество совпавших с природой решений, но не подсмотренных у нее; такие успехи нечаянного моделирования обнадеживают: к сознанию ведь такой редуктивный подход, как к конечностям, с разбиранием на суставы и сухожилия, весьма мало применим.
ex_kosilova
Jan. 11th, 2008 11:33 am (UTC)
чего-то я никак не соображу, на что Вам ответить :)
Смотрите, тут вот синхронно возникали похожие обсуждения
http://vfc.org.ru/forum/index.php?PAGE_NAME=read&FID=6&TID=51&MID=s
http://aleatorius.livejournal.com/752697.html
(во втором случае там надо пройти по ссылкам).
Про сознание роботов обсуждать не буду. Тут у меня пока не сложилось уверенности.
Про то, что Вы пишете, что чувствуете себя алгоритмом - это мне странно. Наверное, за этим что-то есть, нужно копать. Ваше сознание имеет спонтанность и совместима ли она с алгоритмической организацией?
fregimus
Jan. 14th, 2008 07:53 am (UTC)
Я Вас хочу поблагодарить за то, что Вы это все читаете, и объясняете мне что-то. От меня гуманитарии бегают почему-то, а Вы вот со мной возитесь.

Я почитал эти обсуждения. Второе вроде бы о программистах, не о программах? Программисты ведь вроде люди? :-) У меня, кстати, другое немного объяснение, отчего программисты бывают хорошие или плохие, а средних нет. Вычислительная математика вообще слишком новая область, чтобы к ней применять те же понятия, что и к другом наукам или ремеслам. Как Абельсон сказал, что-то от науки, что-то от инженерного дела, а что-то и от черной магии. Дело в том, что программист, хороший, имею в виду, единственное из всех занятий, где он один — на треть чистый теоретик, на треть прикладник, и на треть ремесленник. И по верхам, и по низам. Это, наверное, особенного склада ума требует. Еще единственное занятие, где работающее изделие идеально, «само себе чертеж», где нет границы между планом и его воплощением, где нет ограничений реального мира, а те, что есть, обычному жизненному опыту противоречат. Думаю, что хакеры такие «странные» потому что их здравый смысл даже отличается от обычного. Не уживаются в одном человеке два таких разных «здравых смысла».

С первым — я еще не понимаю, как постулируется непротиворечивый «зомби», способный интеллектуально говорить, то есть обладающий памятью, а стало быть, и опытом, но как бы опыта не имеющий, чтобы не было воспоминаний, а то у него те же квалии начнутся. Как застраховать символически мыслящую систему от рефлексии и саморефлексии — я вот не знаю, и можно ли с ней вести интеллектуальну ю беседу, не понимаю, и как это противоречие разрешается. тоже не понимаю. Вроде бы, философы оперирут ей, как чем-то осуществимым, но вот как она делается, что именно в ней предотвращает рефлексию — мне не ясно. Наверное, надо мне тут еще поразбираться самому.
fregimus
Jan. 14th, 2008 07:56 am (UTC)
«Ваше сознание имеет спонтанность и совместима ли она с алгоритмической организацией?»

Алгоритмическая организация не предполагает предсказуемого поведения. В сложных системах возникает поведение, которого нельзя ни предсказать, ни даже просчитать с любой конечной точностью. Изучает это теория с неудачным названием «теория хаоса». Простейшая хаотическая система — три звезды (планеты, булыжники) близких масс. Их траектории бесконечно запутываются, и не предсказываются точно даже алгоритмически. Естественно, алгоритм рисует эти траектории, но насколько они соответствуют настоящему развитию вещей? Вот на такой вопрос теория сложного поведения, теория хаоса и отвечает. Системы со сложным поведением наз. «хаотическими», но это означает «непонятные, непредсказуемые», но — не «случайные!»

Другая сложная система — турбулентность: траектории чаинок в стакане, обтекание самолета воздухом, предсказание погоды. Эти системы тоже хаотические, тоже плохо моделируемые. Но самые впечатляющие из хаотических систем — т.н. области итеративной сходимости. Системы невообразимой красоты возникают из элементарных формул.

Как делаются такие картинки? Возьмем формулу, очень простую: «старый икс» в квадрате плюс константа дает «новый икс». Все! А картину будем так рисовать. Возьмем квадрат, скажем, 100×100 точек, пикселов на экране. По горизонтали, скажем, самая левая точка пусть имеет координату 0, следучщая — 0,01, дальше 0,02, а сотая будет 0,99. И по вертикали тоже. Вот возьмем координату первого пиксела. Это — тот самый «икс». Возведем в квадрат, прибавим константу. Это — новый «икс». А его опять возведем в квадрат и прибавим константу. Это — следующий «икс». И так будем повторять и повторять, считая, сколько повторов делаем. Наш ряд «иксов» может «сходиться», то есть, скажем, начнем в точке 1,01, следучщий будет (все цифры выдуманные, но приблизительно так и получится, если считать), скажем, 1,55. Дальше 3,33; 2,45; 2,28; 2,27; 2,26; 2,26;… Как только из «старого икса» получается тот же самый, значит, так и дальше будет: из 2,26 получится 2,26, а из них — опять 2,26, сколько ни считай. Так вот, как только старый и новый совпадают, вспоминаем, сколько повторов понадобилось, и закрашиваем пискел: если за один шаг сошлось — ярко-белый, за три — тусклее, за 50 — еще тусклее. Но бывают и точки, из которых мы начнем, а «иксы» повторяться «не захотят». Такие точки будут черными. Можно и по другой системе раскрашивать, главное, чтобы разный счетчик повторов — разный цвет.

Ничего интересного из такого скучного алгоритма, наверное, и не получится?

http://www.eclectasy.com/Fractal-Explorer/gal-02.htm

Посмотрите там другие галереи тоже. Там ничего в фотошопе не подрисовано: можно загрузить файлы с параметрами и самому построить.

Так вот, такая простейшая формула дает бесконечно сложную картину. Есть зоны, где переход цвета плавный. А есть — идеальный, полноценный, бесконечный хаос! Начнешь считать в точке 1,0000001 — за 5 повторов сходится. 1,0000002 — не сходится. 1,0000003 — 15. 1,0000004 — 35. 1,0000005 — не сходится. 1,0000006 — 15 повторов. Вот здесь проходит тот самый «край хаоса», где возникают чудесные картины невиданных миров. И — обратите внимание! — все эти бесконечные (они действительно бесконечные) картины получились из формулы x2 + c.

Теперь представьте, что я показал Вам эти картинки, а про алгоритм не сказал. Наврал, что это нарисовал один художник—абстракционист. У него, скажу, был такой приступ вдохновения на интервале от 0,72625 до 0,72675. Похоже? Все не так, конечно, примитивно, Вы почувствуете подвох. Но вот когда эти картинки проявляются точка за точкой, а еще не знаешь, что там будет — ни за что не представить! Даже помня о примитивной машине, высчитывающей эти точки, все равно любуешься картинами.

Ну и конечно, сколько ни наблюдай за этой простейшей машиной, ее «намерения», того, что она собирается нарисовать, выдумать — этого человеку предсказать, предвидеть, угадать не дано. Сколько за ней ни наблюдай, все это разнообразие сопоставить с итеративной формулой — скажем, трудно. Умом понимаешь, а в ощущениях — полный qualium.

А между 0,980455 и 0,980459 — там еще одна китайская поэма… :-)

Edited at 2008-01-14 07:58 am (UTC)
oleg_mazurov
Jan. 7th, 2008 09:02 am (UTC)
Qualia or No qualia
> Вот скажите мне, пожалуйста, по-простому: вот этот весь винегрет из редьки с бузиной про квалии — он зачем замешивается?

По Серлю: нет qualia - нет сознания (не только по нему, но для него мысль также обладает quale, видимо, чтобы от "понимания" не отказываться).
Можно ли слепому объяснить, как выглядит закат? Можно ли Китайской комнате объяснить, как выглядит закат? Как пахнет кофе? Как звучит колокол? Как болит голова? Нет? Ладно, уберем все эти сенсорные переживания (хотя без них тест Тьюринга заваливается в два счета). Может ли Китайская комната быть слепо-глухо-..., то есть лишенным всякого восприятия, но субъектом, со своими субъективными переживаниями? Из всех субъективных переживаний мы этому "субъекту" оставили только внутренние, все внешние убрали (почти все: оставили только оргазм ввода с клавиатуры и рези при выводе на дисплей, но нам эти субъективные переживания так же близки и понятны, как и эхолокация летучих мышей). Ведем диалог: мы ей на языке L с клавиатуры вводим текст T1, она нам в ответ на дисплей текст T2. Мы читаем, думаем: "Сообража-а-ет". Мы ей - T3, а она нам - T4! Мы смотрим: "Да она лучше нас соображает!" Что отсюда следует? Серль с Пенроузом считают, что ровным счетом - ничего. Если L - это язык шахматных ходов, а "Китайская комната" - это Deep Blue, мы с ними готовы согласиться: никаких внутренних субъективных переживаний, в частности, никакого понимания у Deep Blue нет. Но если бы L был китайским языком, говорим мы, это означало бы, что понимание и субъект есть. "С каких щей?" - возражает нам Серль. И действительно, как смена синтаксиса вдруг приводит к такому разительному изменению: вот в этом языке сознания нет, а в этом - есть. - А мы посадим китайца в комнату, и значит про него тоже нельзя будет сказать с уверенностью, есть ли у него сознание или нет. - А сознание - биологический феномен, - говорит Серль, - и с китайцем нас роднит общность биологического происхождения, поэтому про него мы можем с большой уверенностью сказать, что он обладает такими же как у нас субъективными переживаниями (включая все сенсорные). А с программой нас ничего не роднит, и биологического происхождения в ней - ноль. С чего бы в ней сознанию завестись. Сложное поведение, которое мы можем интерпретировать как "интеллектуальное", - сколько угодно. А сознания нет.
fregimus
Jan. 9th, 2008 06:46 am (UTC)
Re: Qualia or No qualia
Спасибо большое Вам за ответ. Я понял. Думаете, аргумент его идет от человеческого шовинизма: я чувствую зуд, следовательно существую, или, там, оно не биологическое, мне вообще не родня, хуже ниггера — откуда в нем сознание? Я так и думал всегда, собственно. Тьюринг наивный и хороший был человек, полагал, что это происходит от страха перед последствиями возникновения ИИ (в «девяти возможных возражениях», второе), хотя сам всю жизнь и был как раз тем самым иным, чужаком. А я знаю, что от неприятия чужого.

Мой вопрос был правда про немного другое. Вот философ Х очень хочет, чтобы У не было. Тогда философ Х строит целую «теорию», со всемы вытекачщими, потом, чтобы она хоть отдаленное отношение к реальности имела, вводит какого-нибудь шайтана — это ведь любую теорию проводит в соответствие с чем угодно — и начинает проповедовать свои взгляды. Особенно смешно бывает, если У во время процесса возникает. Видел, как некоторые всю жизнь продолжали полагать что-нибудь, что уже 30 лет хорошо известно и изучено.

Это его право, конечно, думать и писать что угодно. Но он ассоциирует себя с философией — вот это с точки зрения «изнутри» философии, полагая, что Вы в ней «варитесь», считается в порядке вещей? Вот был такой Алан Чумак, через телевизоры воду заряжал. Он называл себя ученым исследователем заряженной воды, но ученым (имея в виду естественников) он таковым не казался, и в свою малину они его, естественно, не допускали. А если бы, скажем, он изучал философию заряженной воды — философское как бы «среднее течение» его бы принимало? А вот таких (увы, вовсе не) гипотетических Х? А Сирла? Это зависит от идей? от обоснованности идей? Вот, кажется, отказавшийся от логики П. — философией принимается, хотя вроде бы от писателя или проповедника это не требуется, а от философа (по моему, возможно, заблуждению) как бы ожидается, все-таки. Мне почему-то кажется, Аристотеля бы инфаркт разбил на месте, прочитай он что-нибудь в этом духе, невзирая на его прекрасно тренированный организм. Ну, можно так — вопрос о границе между полным бредом и все-таки философией, есть ли эта граница, где она проходит. Я вот этого понять не могу, хотя и пытаюсь. Вот хотя бы в двух словах, если у вас найдется время и желание мне это объяснить.