?

Log in

No account? Create an account

Previous Entry | Next Entry

Неудавшаяся попытка критического прочтения

Русское название: Роджер Пенроуз. «Новый ум короля. О вычислительных машинах, разуме и законах физики». Номера страниц следуют в квадратных скобках за цитатами, и даются по изданию [Penrose 89]. Все переводы сделаны автором, изо всех сил старавшимся сохранить не только семантику, но и стилистику оригинала; последнюю, разумеется, не в ущерб первой. Ссылки на литературу в квадратных скобках и начинаются с фамилии автора. Ссылки на комментарии в конце статьи обозначаются «ножичко솻.

Эта книга захватывает читателя, захватывает новым, по крайней мере для вашего скромного собеседника, методом: в течение всего изложения автор обещает объяснить множество вещей, от необходимости квантово-механического объяснения работы его, читателя, мозга, до эволюционных преимуществ сознания, но не торопится с этими объяснениями. Подобного suspense ожидаешь от детективной истории, но никак уж ни от научно-популярной книги, ни от монографии.

В книге чуть более 450 страниц, но далеко не все они посвящены изложению теории ее автора. В задачу книги входит, как следует думать, предварительное образование читателя до уровня, необходимого для понимания обосновываемых Пенроузом идей. Книга состоит из десяти глав, из которых семь содержат в сжатом и, по видимому пониманию писавшего, популярном изложении определенные физические и математические теории. В главах со второй по девятую кратко и сжато излагаются основы следующих наук и дисциплин:

  • философии математики (где автор указывает, что он последователь Платонова учения, утверждающего, среди прочего, существование независимого от нас, непридуманного мира чисел, идеального, внепространственного, неизменного и непреходящего);
  • арифметики и теории чисел;
  • теории множеств (десятая проблема Гильберта, теорема Гёделя о неполноте, Канторовы мощности множеств; фрактальность, рекурсивная перечислимость множеств);
  • вычислительной математики (включая машины Тьюринга, тезис Тьюринга-Черча и λ-исчисление) и теории сложности;
  • классической механики (включая Гамильтоново изложение динамики и фазовые пространства);
  • классической электродинамики;
  • специальной теории относительности;
  • общей теории относительности (с тензорами, разумеется!);
  • квантовой механики;
  • квантовой электродинамики;
  • гипотез о квантовой гравитации;
  • и наконец, космологии (черные дыры, Большой взрыв, направленность времени и энтропия вселенной).

Список, как видите, нешуточный, и задача изложить эти науки в тех трехстах пятидесяти страницах, наверное, неразрешима. Поэтому не следует ставить Пенроузу в вину то, что он ее не исполнил: иные тратят годы и прочитывают десятки пухлых томов, чтобы понимать все эти учения. Разумеется, разъяснить λ-исчисление, даже популярно, на трех страницах, которые автор смог для того выкроить, невероятно трудно, если и возможно вообще. Именно сжатым объемом и надобностью донести до читателя несоразмерно огромное знание и вызвано такое рваное, косноязычное и совершенно непонятное изложение материала, к которому был вынужден прибегнуть автор. Положа руку на сердце, мало кто произвел бы лучший результат, пытаясь справиться с подобной задачей. Автор здесь признается, что малодушно отказался бы от такой попытки сразу же, без размышления.

Мой наблюдательный читатель уже, должно быть, задается вопросом: как же работа по теории сознания обходится без хотя бы обзора теорий в области искусственного интеллекта (ИИ)? Ведь читателя надо бы «подтянуть» и в этих дисциплинах? Здесь, справедливости ради, надо возразить, что все узнать зараз все равно нельзя. Пенроуз обучает читателя здесь лишь самому необходимому, а что касается остального, тут нам придется положиться на анализ этой области, проделанный Пенроузом, и изложенный кратко и сжато, да и понятный притом без всякой подготовки.

А именно, Пенроуз считает, что ИИ невозможен, и все эти ученые занимаются, в отличие от него, физика, каким-то нелепым делом. Чтобы избавить нас, читателей, от утомительных споров по существу дела, он применяет новый, невиданный доселе в научной литературе (хотя и популярный в некоторых торговых точках) риторический прием: вводит коллективное понятие «ИИ-парни», они же «ИИшники», а затем, виртуозно оперируя утверждениями, подобными «ИИшники никакого понятия не имеют, как запрограммировать [алгоритм] суждения [об истинности факта] на компьютере!»,[412] немедленно заставляет своего читателя задуматься: а всякое ли суждение «естественного» интеллекта озарено светом истины?

Для доказательства «невозможности» ИИ, Пенроуз приводит хорошо известный «аргумент Сирла», известный также под именем «китайской комнаты». «Доказательство» производится путем reductio ad absurdum, или «рассуждением от противного» (см., напр., Википедия, «Доказательство от противного»). Предположим, что ИИ возможен, в том смысле, что существует алгоритм, понимающий китайский язык и выдающий осмысленные ответы. Испытатель, не знающий китайского, запирается в комнате, а испытуемый, не знакомый с испытателем и говорящий по-китайски, пишет на листочке вопрос, а затем просовывает этот листочек в запертую комнату. Испытатель проделывает все шаги алгоритма и пишет в итоге ответ по-китайски. Испытуемый читает ответ и говорит: «Да, это разумный ответ! В комнате сидит человек, оворящий по-китайски!». Но ведь испытатель не говорит по-китайски? Не говорит. Противоречие? Ага! Следовательно, наше начальное положение неверно, и, стало быть, ИИ невозможен.

Правда, автор этих строк не видит, почему бы тем же способом не доказать также и невозможности алгоритмического сложения чисел, или, скажем, решения квадратного уравнения. Ведь если испытатель не обучен сложению, а пользуется алгоритмом, то испытуемый снаружи тоже подумает, что человек в комнате складывать умеет! Противоречие? Противоречие! Значит, алгоритм сложения двух чисел невозможен! Калькуляторы тоже невозможны: читатель легко докажет это, дав необученному арифметике испытателю в руки вместо алгоритма калькулятор. Впрочем, философия на то и древняя наука, чтобы все было туманно, но утвердительно. Автор здесь уверен, что есть философские аргументы, объясняющие принципиальную разницу между этими двумя случаями, и почти уверен, что их ему точно так же не понять… Впрочем, не будем огорчаться. Калькуляторов не бывает, но самая обычная логарифмическая линейка† сделает то, что никакому компьютеру не под силу! Сейчас ее превосходство будет объяснено.

В главе о классической механике Пенроуз говорит о принципиальной невозможности численного моделирования механической системы, за редким исключением сконструированных специально для того, чтобы быть моделируемыми. Этот тезис доказывается очень просто: до бесконечного числа знаков компьютер ведь считать не может†. А из него сразу же следует вывод, блестящий в своей простоте, мимо которого прошли, буквально не заметив его прямо под ногами, целые поколения физиков и математиков! Например, угол отклонения качающегося маятника от вертикали может оказаться числом и невычислимым. А значит, компьютерная модель маятника невозможна! Правда, Пенроуз тут же оговаривается, что специально просчитанный маятник можно смоделировать. Но кому это было бы интересно — заранее придумать то, что моделировать? Да и как считать, если калькуляторов не бывает? Но старая добрая логарифмическая линейка нас спасет! Она-то считает любые числа с бесконечной точностью! Движок на ней можно передвигать на сколь угодно малые расстояния, правда ведь?

Позволительно ли так надувать физику, чтобы натянуть ее на математику? Пенроуз, при всей неординарности своего, можно назвать, мышления, — все-таки физик, и о том, что материя состоит из атомов, наверное, знает. И о том, что длинами меньше планковской, ~10−35 м, не оперируют даже в микромире, тоже знает. Но требует при этом бесконечной точности в вычислениях: или бесконечность, или ничего не вычислится! А вот почему, этого нам с вами, по нашей недоученности, не понять. Да в конце концов, кто книжку писал? — Пенроуз. Кто писал, тот и написал, а чего не написать-то?

Затем Пенроуз переходит к описанию устройства мозга и выяснению, где именно в нем находится сознание. Путем довольно неочевидных рассуждений, Пенроуз, в своей конструктивной манере изложения, одну за одной исключает все части мозга, как возможные вместилища сознания. Все гениальное воистину просто! Сознание — нигде! Даже не в больших полушариях, столь высоко оцененных лишь несколькими страницами ранее, в следующем образчике изящного слова: большие полушария есть «та часть, которой, как знают человеческие существа, им следует гордиться более всего,… поскольку эта часть не только наибольшая от всего мозга человека, но и наибольшая по отношению к [размеру] всего мозга, в сравнении с другими животными».[375] Нельзя не согласиться: именно это чувство, вызывающая желание помериться величиной сего предмета гордости, и нашла отражение в известной поговорке; хорошо известна также и сила влечения к истине, возбуждаемая двумя большими полушариями в особо страстных адептах философии! А вот «бессознательное… все то, что можно вычислить алгоритмически, [находится], предположительно, в мозжечке».[413] Из чего, правда, исходя, делается такое предположение, в книге не говорится. Но, повторюсь, учитывая малый объем книги и грандиозность задачи, опущение принципиальных рассуждений тут вполне оправдано. Да и вообще, что для нас главное: рассуждения или результат? К теории, товарищи, надо подходить практически!

Далее Пенроуз дает первую из давно обещанных разгадок: почему мозг — это квантовый вычислитель. Это рассуждение достойно развернутой цитаты (речь в этом параграфе сначала велась о параллельных компьютерах):

Единство «я»† сознательного восприятия, как мне кажется, идет вразрез с картиной параллельного компьютера. Эта же картина могла бы, с другой стороны, подойти в качестве модели бессознательных действий мозга… С другой стороны [с третьей —freg.], мне кажется, что может быть вполне вообразима связь между единством «я» и квантовым параллелизмом†… Если сознательное «ментальное состояние» может быть уподоблено квантовому состоянию, то некая форма единственности «я» или глобальности мысли может быть более подходящей, чем в случае обычного параллельного компьютера… Но прежде, чем рассматривать такую идею, мы должны рассмотреть вопрос о важности квантовых эффектов вообще в деятельности мозга.[399]

Этими золотыми словами, этим обещанием рассмотреть вопрос важности квантовых эффектов Пенроуз опять создает ситуацию подвешенности в долгом, напряженном ожидании! Вашему собеседнику-недоучке, например, кажется, что единство «я» также идет вразрез и с картиной Ван Гога «Череп с сигаретой в зубах», из чего он все же затрудняется сделать вывод о квантово-механической природе своего «я», Ван Гога или черепа. Неясность эту мы опять же должны отнести на стесненность Пенроуза несоразмерностью громадья задач и ничтожности объема одного тома. Следует отметить, справедливости ради, что отдельные логически завершенные рассуждения мы все-таки находим: «Поскольку [в сетчатке] имеются нейроны, возбудимые, в принципе, одним квантом [света], не будет бессмысленным вопрос, а нет ли подобных нейронов и в мозге? Свидетельств этому, как мне известно, нет… Однако, можно и представить, что где-то глубоко в мозге найдутся нейроны с порогом возбуждения ниже [энергии] одного кванта. Если таковые нейроны вдруг обнаружатся, тогда можно будет сказать, что квантовая механика важна для деятельности мозга».[400] Присутствие столь неоспоримо справедливого вывода еще раз укрепляет пишущего эти строки в убежденности, что в прочих случаях Пенроуз отказывается от логического размышления лишь для экономии изложения, а вовсе не из неумения или, как можно было бы подумать, нежелания.

По ходу изложения Пенроуз оперирует понятиями «сознание» (consciousness), «бдение» (awareness) и «мышление» (cognition), по-видимому, в равном смысле, как антитезу «бессознательному» (unconscious), покрывающему такой диапазон явлений, как сон, инстинкты, рефлексы и автоматические действия. За 40 страниц до конца изложения, когда наступает пора, наконец, определить термины, которыми Пенроуз пользуется в течение всей книги, он отводит этому несколько страниц, где, в очередной раз не обманывая наших ожиданий, так и не приходит ни к какому определению†; затем он неоднократно возвращается к этим попыткам. В числе прочих, при обращении к этой же теме возник следующий, несомненно благородный по своим намерениям пассаж, обличающий тех из братьев старших, которые совершенно не по-братски принижают достижения и подавляют личности братьев меньших: «Остается открытым вопрос о возможности горилл и шимпанзе общаться, пользуясь языком жестов, а не нормальным[sic!] человеческим образом (коему они не приспособлены из-за отсутствия подходящих[sic!] голосовых связок)… Кажется ясным, что, невзирая на жаркие дебаты, [обезьяны эти] способны к обмену знаками, хоть и элементарному. По моему убеждению, это немного хамовато[sic!] со стороны некоторых не называть этот обмен жестами „словесным“. Не для того ли не допускают они приматов в „клуб небессловесных тварей“, чтобы потом изгнать их и из клуба тварей сознательных?»[425]. Да, товарищи, стыдно, стыдно за наших товарищей по биологическому виду, еще допускающих немного хамство, и, не обойду вниманием намека тов. Пенроуза, замышляющих конспирацию с целью изгнания наших ближайших родственников, наших братьев, «способных на истинное вдохновение»,[425] наших, так сказать, соратников в этом нелегком деле словесности, из партии сознательных, честных и совестливых! Где же ваш интерспециализм, товарищи! Позор предателям классовых, отрядных и семейственных интересов!

И вот, наконец, мы, вслед за автором, приближаемся к разгадке, к торжественному моменту, когда ленточка будет разрезана, и покрывало тайн сознания падет, и ничто более не скроет от нас живительных лучей света истинного знания! Полезно здесь перечислить, какие же истины были открыты нам к этому времени:

  • ИИ не бывает.
  • Модели механической системы тоже, в общем случае, не бывает.
  • Ум алгоритмом не охватишь.
  • Можно было бы предположить, что нельзя исключить возможного влияния квантовых эффектов на работу мозга, если вдруг найдутся этому экспериментальные подтверждения.
  • Гориллы суть говорящи и вдохновенны.

Какой же нам следует сделать из этого вывод? Невозможно было нам и на этот раз предвосхитить той ярчайшей вспышки интуиции, момента озарения истинного мыслителя! Вот что говорит сам Пенроуз, открывая нам глаза на эту тайну:

Я представляю себе, что, когда ум воспринимает математическую идею, он входит в контакт с Платоновым миром идеальных концепций… В соответствии с точкой зрения Платона, математические идеи существуют сами по себе, в идеальном, [вечном и неизменном] мире, доступном лишь уму. Когда кто-либо „видит“ математическую идею, его сознание врывается в этот идеальный мир, и входит с ним прямой контакт („доступность только через ум“)[sic!]… Разговор математиков возможен только лишь потому, что им открыта эта прямая дорога к истине, и сознание каждого из них находится в состоянии напрямую воспринимать истины математики, посредством „ви́дения“…
…Разум всегда в состоянии соединиться [с этим миром]. Но только немного выдается каждый раз… Из того факта, что математические истины есть необходимые истины, никакой „информации“, в техническом смысле, делающему открытие не передается. Вся информация была там [где? —freg.] все время. Это — лишь вопрос совокупления  фактов и „ви́дения“ ответа! Все это соответствует идее самого Платона о том, что (скажем, математическое) открытие есть лишь разновидность воспоминания!… Но, чтобы эта точка зрения была полезна, в случае математической коммуникации, следует представлять себе, что интересные и глубокие математические идеи неким образом более существуют[sic!], нежели тривиальные или неинтересные.[428—429]

Оставшиеся несколько страниц книги посвящены, насколько смог их понять ваш скромный помощник, геометрическим мозаикам и специальным вопросам кристаллографии.

«А как же обещания автора?», спросит удивленный читатель, «Как же suspense? А зачем нас учили на протяжении семи глав непроходимым языком всем этим головоломным дисциплинам, которых все равно из такого краткого изложения не понять — при том, что для осознания идеи автора, кажется, даже школьная арифметика не требуется? Зачем меня, добропорядочного читателя, так жестоко надули?» Увы, ответы нам не известны. Рискнем лишь предположить, что Пенроуз сам не предвидел этого неожиданного контакта с идеальным миром истин, закончившегося извлечением в наш мир этой, несомненно, самой существующей из идей, и именно нежданное, не по плану, можно сказать, изложение ее и сделало все предыдущие вопросы несущественными, а ответы на них — более не нужными. Задаваться этими вопросами теперь было бы, думается, так же несмысленно, как, дочитав «Знак четырех», терять и сон, и аппетит, мучаясь загадкой: а ковырял ли когда-нибудь Шерлок Холмс в носу?

Ведь нам все ясно уже и без этого, не правда ли?

Комментарии

Это приложение, в отличие от основного текста статьи, не содержит ни иронии, ни сарказма. Любое утверждение здесь, за исключением, разумеется, цитат, следует принимать за то, чем оно представляется.


Логарифмическая линейка — вычислительный прибор, состоящий из корпуса с неподвижными шкалами, скользящего в нем движка со шкалами, подвижными относительно первых, а также визира с риской для точного считывания значений с отдаленных друг от друга шкал. Градуировка шкал нелинейная, и, хоть не для всех шкал она и логарифмическая, именно такой принцип градуировки дал название прибору. Устройство использовалось до появления калькуляторов для численных расчетов инженерами, навигаторами и т. д. См., напр., Википедия, «Логарифмическая линейка».


Вычислимые и невычислимые числа. Натуральных чисел, как известно, бесконечно много, а целых чисел — так же много, как и натуральных, а вовсе не вдвое больше (здесь полезно вспомнить, что расходящиеся ряды не позволяют применять к ним кажущиеся очевидными алгебраические преобразования). Доказательство этой теоремы разработано великим математиком Георгом Кантором, и удивительно просто: возьмем и перенумеруем все целые числа! Поскольку мы не можем нумеровать каждое число в отдельности, мы выведем вместо того общий принцип нумерации, для произвольного целого числа n. Начнем нумерацию так: 0 будет № 1, −1 — № 2, 1 — № 3, −2 — № 4, 2 — № 5, −3 — № 6, и так далее, так что любое целое число n будет иметь номер 2n + 1, если оно положительное, или −2n в противном случае. Другими способами можно перенумеровать все рациональные числа, т. е. дроби (т. н. «диагональный аргумент Кантора»), а также все алгебраические числа, которые суть решения полиномиальных уравнений. Но даже за вычетом всех этих перенумерованных чисел, остается еще множество чисел, которые нельзя перенумеровать: континуум вещественных чисел. Кантор доказывает, что даже в интервале между 0 и 1 «все» числа перенумеровать нельзя. Также верно и то, что эти числа непредставимы в компьютере, и даже называются они «невычислимыми». Компьютеры ведь считают с ограниченной точностью. Представим, что некий компьютер считает числа до 40 десятичных знаков. Такому компьютеру все равно, что вот это число:
    0,1111122222333334444455555666667777788888 ,
что это:
    0,1111122222333334444455555666667777788887 ,
потому что оба они округлятся до
    0,111112222233333444445555566666777778889 ,
Если надо для решения конкретной задачи, правда, компьютер может и до сотни, и до тысячи знаков сосчитать, и с любой конечной точностью. Но с бесконечной точностью за конечное время, само собой, нет.

Тем не менее, утверждения о бесконечной точности механического движения в системе, даже идеальной, равно как и о бесконечной точности, потребной для построения вычислительной модели такой системы, от физика слышать чрезвычайно, просто запредельно странно.


Единство «я». Пенроуз постоянно ссылается на некое единство сознания как данность. Аргумент этот возникает из здравомысленных наблюдений, но рациональному обсуждению не подвергается: «Характеристикой сознательной мысли является ее единство… Вопросы наподобие „Как, по-вашему, мне думать более одной мысли сразу?“ совершенно обычны».[399] Меж тем, постулат единства «я», как процесса, производящего сознание, отнюдь не очевиден, более того, при внимательном рассмотрении оказывается ошибочным.

«Мы называем словом «я» полновластное существо внутри нас, желающее чувствовать и думать за нас, и принимать важные решения за нас. Мы зовем его «я», самость, эго, и мы представляем его никогда не меняющимся, чтобы ни случилось с нами. Иногда мы даже делаем «я» маленьким человечком, живущим внутри нашего разума».[Minsky 06 с. 299]

«Гомункул… миниатюрный взрослый, который, по положению, обитает в мозгу… воспринимая… сенсорные сигналы и вызывая все команды мускулам. Любая теория, полагающая подобного внутреннего агента, рискует оказаться в бесконечной рекурсии… поскольку мы можем спросить, а нет ли у маленького человечка в голове своего маленького человечка, отвечающего за его действия и восприятия, и так далее». [Dennett 78 apud Minsky 06].


Квантовый параллелизм — вытекающая из особой интерпретации квантовой механики возможность элементарной частице находиться одновременно в нескольких точках пространства.


Определение сознания и интеллекта. Справедливости ради, отметим, что определение даже в гораздо менее расплывчатых случаях затруднительно. Пенроуз, по недопониманию, устанавливает рамки для определений невнимательно, и пытается разграничить процессы в уме там, где они в разграничении не нуждаются. Даже сама терминология, используемая Пенроузом, противоречива и нестабильна. Он говорит, «при моем собственном взгляде на вещи, вопрос интеллекта подчинен вопросу сознания. Я не полагаю, что я мог бы поверить, что истинный интеллект может проявиться, если при этом не появляется и сознание».[407] Автор, при всех приложенных им стараниях, так и не смог разобраться, что же, по взглядам Пенроуза, есть главное, а также в чем состоит отличие истинного интеллекта от просто интеллекта.

Минский [Minsky 86], вводя понятие сознания [гл. 6.1], пишет, «в жизни вам очень часто приходится иметь дело с вещами, которых вы не понимаете. Вы водите машину, не зная, как двигатель устроен внутри. Вы едете пассажиром, не зная, как водитель устроен внутри. Но самое странное, вы управляете своими телом и разумом, не понимая, как вы сами устроены внутри. Не замечательно ли то, что мы можем думать, не понимая, что значит думать?… Наши мысли… управляют множеством процессов, которые мы редко замечаем. Не понимая, как они работают, мы учимся достигать цели, посылая сигналы этим чудесным машинам, словно колдуны древности, читающие ритуальные заклинания».

Здесь же Минский приводит определение из словаря Вебстера: «сознающий. 1. имеющий чувства или знание о своих ощущениях, либо о внешних вещах); знающий или чувствующий, (что ч.‑л. существует, происходит);… 3. Воспринимающий себя мыслящим существом, знающий, что и почему он делает». Как хорошо заметно, ни метафорическое сказание Минского, ни претендующий на четкость определения язык словаря ясности здесь не дают.

В [гл. 7.1], Минский рассуждает о трудности определения интеллекта, пробует, ведя диалог с критиком, различные определения, и останавливается вот на таком: «В наших умах происходят процессы, позволяющие нам решать задачи, которые мы сами полагаем сложными. Те из этих процессов, которые мы пока не понимаем, называются „интеллектом“. Некоторым не понравится это определение, поскольку оно обречено на изменение по мере того, как мы все глубже изучаем психологию. Но, на мой взгляд, именно так и должно быть, поскольку само понятие „интеллекта“ напоминает фокус на сцене. Подобно „неисследованным регионам Африки“, он исчезает по мере того, как мы исследуем его».

Здесь автору остается лишь согласиться с Минским и расстаться с надеждой дать четкое и неопровержимое определение сознанию или интеллекту, а заняться вместо того делом интересным и полезным.

Использованная литература

Dennett, Daniel C. “Why Can't You Build A Machine That Feels Pain.” In Brainstorms, Cambridge: MIT Press, 1978, 190—229. Apud [Minsky 06].

Minsky, Marvin. The Society of Mind. New York: Simon and Schuster, 1986.

Minsky, Marvin. Emotion Machine: Commonsense Thinking, Artificial Intelligence, and the Future of the Human Mind. New York: Simon & Schuster, 2006.

Penrose, Roger. The Emperor's New Mind. Concerning Computers, Minds And the Laws of Physics. New York: Oxford University Press, 1989

Tags:

Comments

nature_wonder
Jan. 2nd, 2008 09:48 pm (UTC)
нет, я не брызгаю ядом. Своей репликой я покамест выразил сожаление вместе с удивлением. С одной стороны, текст, который читал я, никак не подпадает под характеристику "рваное, косноязычное и совершенно непонятное изложение". И это меня сразу насторожило - может оказаться, мы читали разное. Из вашего поста не совсем ясно, с каким текстом ознакомились вы: в самом начале вы ссылаетесь на оригинальное издание, затем приводите цитаты на русском. Либо это ваш перевод, либо они взяты из русскоязычного издания, мне неизвестного. Вы указываете русское название, которое не совсем совпадает с официальным - "Новый ум короля. О компьютерах, мышлении и законах физики". - Так что здесь могут быть причины разночтений и "трудностей перевода". Я читал ясно и блестяще написанную книгу.

С другой стороны, из вашего отзыва следует, что книга действительно осталась вами непонятой. Причем не в деталях, а в отношении всей системы рассуждений в целом и ключевых доводов в частности. И в этом случае остается лишь выразить сожаление.
Пенроуз, конечно, в моей защите не нуждается. И не соглашаться с его аргументами абсолютно нормально. Даже пусть не до конца понять некоторые моменты - тоже абсолютно нормальная вещь. Но не понять все? - мне кажется, для умного и грамотного человека, которым вы, безусловно, являеетесь, это можно было сделать только намеренно. Потому и сожаление.
fregimus
Jan. 3rd, 2008 12:10 am (UTC)
Про перевод — это в третьем сверху предложении: «Все переводы сделаны автором, изо всех сил старавшимся сохранить не только семантику, но и стилистику оригинала; последнюю, разумеется, не в ущерб первой». Про оригинал — там в конце указано издание.

Не понять «все» — видимо, я действительно или недостаточно умный, или недостаточно грамотный, но намерения у меня не было и быть не могло. Даю Вам слово, что никаких личных счетов у меня с Пенроузом нет.

Вы читали по-русски? Возможно, переводчик поработал редактором. Над чем работать редактору — там есть. На мой взгляд.

Далее, мне хотелось прочитать книгу, понять мысль автора, найти, может быть, заблуждения, с чем-то не согласиться, с чем-то согласиться. Так обычно книги и читаю. Но здесь, простите меня, две части. В первой — комканное изложение математики и физики, примерно за 4 года физфака + 3 CS. Это никуда не годится. Когда я это читал, думал, ладно, не главное, хотя и неясно зачем. Хотя предисловие, про мальчика Адама в третьем ряду я же не комментировал — если бы выискивал, что обосрать, наверное, с него и надо было начинать. Я решил, что этот короткий рассказа с неожиданной глупостью в конце просто не к месту, вычеркиваем.

Хорошо. В первой главе аргумент Сирла — каждый, кто не Сирл, должен десять раз подумать, а стоит ли позориться, повторяя его, ну да ладно. Ну не понял, бывает. Тоже ладно. Но вот в последних двух главах я связности не обнаружил, это вот плохо. Когда прочитаешь 350 страниц коряво накорябанного того, что или знаешь, или все равно из такого чтения не узнаешь, а потом оказывается, что квантовые мозги соединяются с астралом — аргументированное «я думаю, не исключено, что возможно, что и так» — да, немного чувствуешь себя как бы в дураках, что ли. Чтобы продраться через середину книги, мне столько работы потребовалось, при образовании физика, и основному заниятию математикой, по большей части именно той самой, что он там преподает.

Можно Вас попросить — давайте так сделаем. Я, совершенно непредвзято, хочу узнать Ваше толкование его выводов. Как вы их понимаете. Как минимум в узком смысле — как астральное соединение (без негативной окраски — если Вам не нравится такое название, введем акроним, в его терминологии это установление коммуникации без передачи информации с идеальным, вечным и непреходящим миром чисел и других математических концепций) следует из (как Вы раньше сказали) теоремы Геделя. Я запросто могу поверить, что не понял, даже если и ничего не понял. Если хотите, можно и в более широком — как он обосновывает существование этого мира. Я до сих пор нахожусь в обалдевшем состоянии от этой книги. Вроде, буквы вижу, и что так написано, кажется, умом понимаю, но до конца поверить в это как бы и не могу. Поэтому я попытаюсь понять объяснение, какое Вы дадите. Никакого сарказма.
nature_wonder
Jan. 3rd, 2008 03:49 pm (UTC)
часть 1. про оффтоп.
Непосредственным образом к предмету, заявленному в заглавии книги, относятся первые четыре главы и две последние. Главы 5-8 являются существенным уходом от темы. Формально Пенроуз ими хочет показать, что в рамках современной КМ, вероятно, описать процесс мышления принципиально невозможно (из-за пробемы редукции, которую он считает непосредственно связанной с проблемой мышления). И показывает, что следует развивать квантовую теорию гравитации, в рамках которой редукция вектора состояний будет просто оборотной стороной гипотезы о вейлевской кривизне. То есть процедура редукции, неразрешимая в КМ, должна представлять собой эффект квантовой теории гравитации.

Но это формально. Реально, полагаю, причина в том, что Пенроузу нравится физика и он хотел донести свои мысли о фундаментальных изъянах квантовой теории. На мой взгляд, делать это столь подробно в книге, посвященной искусственному интеллекту, совершенно излишне. Правда, это никоим образом не умаляет достоинств "физических" глав как таковых (особенно если бы они вышли отдельной брошюрой) - это взгляд на известные положения с несколько отличной расстановкой акцентов, что довольно увлекательно само по себе.

С другой стороны я все-таки могу предположить, почему Пенроуз решился на такой "перегруз" текста - он понимал, что адресует книгу в первую очередь специалистам, которые потребуют серьезных и последовательных аргументов. Если ты утверждаешь, что проблема расположена на фундаментальном уровне (уровне самой физ. теории), придется лезть глубоко и подробно разбирать все ходы. Потому что это весьма сильное утверждение.
fregimus
Jan. 3rd, 2008 08:01 pm (UTC)
Re: часть 1. про оффтоп.
Спасибо, очень признателен, что Вы смогли ответить, нашли время. Я пока отвечу на часть 1, а на часть 2 чуть позже.

Мне бы хотелось кое с чем не согласиться, но тут я не понимаю отношения, которые эти главы имеют к предмету книги вообще. Может быть, эта книга описывает «теорию» (не хочется использовать «откровение», будет похоже на сарказм, хотя точнее всего. Теория без кавычек — Вы сами понимаете, это другое) Пенроуза (ЪП) и каким-то боком также его взгляд на проблемы современной (1989) физики? Не понимаю, к чему такое объединение, но допускаю, что по причинам, от меня ускользающим.

Маленькое па вбок (я не П., но мне тоже можно): Я физике учился не случайно, при определенных обстоятельствах (в другой вселенной?) так бы и занимался ею. Тем не менее, слинял все-таки во время. Теории были нарождались красивые, это да, но даже когда запустят, наконец, в Банкирии Большую Балалайку, теории эти так и останутся непроверяемыми. Лучше, решил, займусь-ка я чем-нибудь действительно, и при моей жизни, достижимым (или опровержимым; это всегда подразумевается), ИИ, например. Конец па вбок.

Никак не соглашусь с тем, что если для специалистов, то надо начинать объяснение с ньютоновой механики, вводить λ-calculus and затем его ни разу не использовать, и т.д. Никак не соглашусь еще с этим потому, что в предисловии он говорит о боязни распугать читателя формулами. А получилось — мне мало формул, многабукафф, а кому-то 5 формул — страшно. Это списываю, конечно, на наивность, в хорошем смысле. Очень многие ученые думают, что знают, насколько не-ученые (non scientists, конечно, не ignoramini) видят мир иным, привыкли читать другое и т.д. Но, с другой стороны, натолкнуло меня это на совершенно фантастическую, сумасшедшую мысль.

Кажется, что при написании книги он сделал все канонические ошибки «из учебника» (эх, мне бы в руки такой учебник!): и выбор языка, и расположение материала, и степень его уплотнения; в изложении — и дилетантское залезание не в свое дело (одни гориллы, истинно вдохновенные, чего стоят. Журналист из приличного издания, уровня New Yorkera бы на таком карьеру схоронил — не то, что ученый!), и полная, абсолютная бездоказательность, и эта присказка, которая повторяется всю книгу (сначала раздражала, потом смешила, потом раздражала), о том, что вот-вот мы это обоснуем, объясним и т.д., обещание, исполненное один раз за книгу (случайно?). Язык, опять же. Русский перевод скачал откуда-то, какой-то. Там другие немного слова, сглаженные конструкции. Может, по незнанию переводческому, переводчики-то или вымерли, или одно из двух, так что перевод там такой механический, как сейчас делают, без понимания, без комментариев (вру, с одним, про «игру слов» “I see.” (!) Плохой перевод. Хорошо, если Вы читали другой). Вместо «хамовато», «неотесанно» — не помню, посмотрю, если это важно, но литературно все-таки. Не принято в научных книгах называть своих коллег за их скепсис «хамами» и «деревенщиной» (даже если это и правда — ну, скажем так: гипотеза более достоверная, чем астрал), правда ведь? Хоть физики же люди и веселые, шутить любят, но все-таки это уже через край…

И название, которое, в общем-то, к книге ни пришей, ни пристегни. Вот моя дурная гипотеза (П. можно, мне нельзя. В самом деле нельзя. Но я не могу отделаться от этой мысли) состоит в том, что сделал он все-таки такой розыгрыш, написал канонически по всем параметрам дикую совершенно книгу, для физика немыслимую в принципе (бесконечная точность, необходимая для моделирования динамической системы. Ну не сумасшедший же он, правда?), посмотреть, как филосо́фы будут лбами сшибаться, рога ломать? А потом что-то случилось, ну, кто-то кого он очень уважал на это попался, не успел П. его предупредить, и пришлось хорошую мину дальше строить. Не знаю. Такая же легенда, как про астрал, непроверяемая, но… Не могу объяснить. Не хочу верить, что всерьез это все написано. Унутре у ей неонка, ей богу. Жалко было бы очень, если он правда так думает.

На часть 2 чуть позже отвечу, сегодня, хорошо? Спасибо Вам за то, что Вы написали, и вот еще что: все, что здесь написал, это не стёб, не сарказм — нет, это действительно то, что об этом думаю.

Edited at 2008-01-03 08:15 pm (UTC)
nature_wonder
Jan. 4th, 2008 06:38 pm (UTC)
Re: часть 1. про оффтоп.
Спасибо. Вижу, что у вас много претензий к Пенроузу: по формату, по языку, по названию, по выбору тем, по кол-ву формул, по присказкам и т.п. Честно, не считаю нужным подробно на этом останавливаться, поскольку эти вещи относятся к субъективным вкусам и предпочтениям. Я читал официальное русское издание (скачать можно, например, здесь) - у меня нет стольких претензий. Позиция автора обозначена вполне ясно и не один раз, все там в порядке с изложением. По кр. мере если помнить, что Пенроуз - не писатель.
Однако это несущественные моменты. Грубо говоря, это ваши трудности.
Существенно другое -- ваши претензии относятся к форме и практически не касаются содержания, собственно основной аргументации и предмета книги. На мой взгляд просто потому, что каким-то образом вы умудрились пройти мимо них. Это удивительно, потому что думать над доводами Пенроуза (пусть и возражая им) гораздо интереснее, чем громить его соломенное чучело. Чем, на мой взгляд, занялись вы в своем отзыве.

Вы ниже пишете про "отрицание реальности, противоречащей убеждению"...да, я понимаю, про что идет речь. Данный способ сохранения целостности своего мировоззрения характерен для большинства людей. Тут только важно иметь в виду, что сторонники сильного ИИ в этом плане не являются исключением. И приведенное вами наблюдение - обоюдоострое. Возможно, то, как вы "не замечаете" основной линии рассуждений автора, имеет прямое отношение к указанному свойству психики.
Так что я бы не злоупотреблял эмоциональными доводами такого рода - на мой взгляд, эмоции у вас превалируют. Когда я открыл ваш отзыв, меня интересовали соображения по содержательной части. Поскольку вы ее, насколько я смог понять, в книге не обнаружили (ну или проигнорировали), то почвы для разговора, в сущности, нет. Мне оставалось лишь выразить сожаление, что я и сделал.

Я с готовностью отвечаю на ваши вопросы, но обсуждать литературные вкусы или идею с розыгрышем представляется мне пустой тратой времени. Вероятно, вам есть смысл посмотреть ключевые места, в русском издании. Попалось еще интервью от 2004 года. Ничего особенного, но, может, отдельные моменты чуть прояснятся.
fregimus
Jan. 4th, 2008 09:36 pm (UTC)
Re: часть 1. про оффтоп.
Эмоции превалируют у Вас, сударь мой. Кажется, я совершенно ясно, прямым текстом, сказал, что делюсь опытом — думаю, сударь мой, Вам не стоило переходить на обсуждение этого опыта, особенно учитывая, что я просил, причем черным по белому, этого не делать. Если задуматься, прошлый опыт мой от этого мало поменяется, сколько черных кислых и пахучих чернил не излей. А рассказывал его я не из желания лясы поточить, а потому, что разум мой рос не в ушате с питательным раствором, потому, что опыт мой отчасти облегчит дорогу пониманию того, откуда заблуждения П. берут начало.

Итак, ежели Вы хотите моего разъяснения по тем вопросам, что П. ставит во главу угла, больше узнать — прошу Вас, продолжить будет удовольствием, но только чтобы обсуждение более на меня, мои неправильные претензии к П., мои трудности, мои обоюдоострые или троякотупые наблюдения и недопустимый опыт мой не переходило. Если Вы найдете у меня хоть одно утверждение, которого я не помечу явно как мнение, и не смогу притом подкрепить надежной ссылкой, я буду посрамлен и разгромлен. Тем не менее, кое-какие суждения, не вытекающие ни из «абсолютно истинных», ни из предположительно верных логических препозиций я буду высказывать. Вас лично они никогда не будут касаться. П. они касаться будут. Такие вот будут правила игры, чтобы она в размазывание тортов по рылам не переходила. Ежели принимаете, почту за честь беседу продолжить. Ожидаю Ваших вопросов по части 2.2, если принимается.

Благодарю за ссылку на русский перевод. Да, пролистал я тот самый, что Вы называете «официальным русским изданием». Смею продолжать утверждать, что перевод «прилизан». Думаю (возможно, думаю неправильно. Это мнение мое, безосновательная литературная претензия к безвестному переводчику), что переводчик тоже удивлялся, переводя, скажем, «churlish» как «высокомерный», ибо словари-то говорят «хамский», «крестьянский», «деревенский», «неотесанный». Ничего тут удивительного, что «хлесткое слово» (более, по моему мнению, уместное на колхозном рынке, чем в монографии, как квалификация оппонента) оригинала несколько «причесано». Конструкции, черт ногу, следует сказать, в которых сломит, языка изложения, — тоже переводчиком переработаны, «выпрямлены».
Re: часть 1. про оффтоп. - nature_wonder - Jan. 4th, 2008 10:52 pm (UTC) - Expand
fregimus
Jan. 4th, 2008 09:42 pm (UTC)
Re: часть 1. про оффтоп.
Вы ответили на 2.2, пока я писал ответ выше. В ответе моем я сказал, что жду ответа на 2.2, ежели кое-какие условия приличия беседы Вы желаете далее соблюдать. Я это замечание просто для ясности пишу, что, понимаю, как именно было, что никаких импликаций причининности и следственности здесь возникать не должно. Отвечу я вам чуть позже.
nature_wonder
Jan. 3rd, 2008 04:17 pm (UTC)
часть 2. по сабжу.
Главная тема книги отнюдь не связь с астралом, а вопрос о (не)вычислимости разума. Основным доводом тут, на который опирается Пенроуз, является теорема Геделя. Повторять аргументацию не буду - она изложена в четвертой главе (а лучше перечитать первые четыре). Позже он еще более подробно развивает этот аргумент в Shadows of the Mind (на русском "Тени разума") и отвечает на критику в сетевой статье. Но там гораздо сложнее, чем в "Новом уме" - сплошная заумь и формализм
Если же вас волнует вопрос именно о связи с астралом, то в представлении Пенроуза платоновский мир и мир физический - это одно и то же, на очень глубоком уровне. Но это очень боковая тема, которая в книге почти не затрагивается - удивительно, что вы акцентировали внимание на ней, а не на основных вопросах, которым посвящена книга (неалгоритмичность мышления и связь с редукцией).

Сразу хочу заметить, что Пенроуз, конечно, ничего не доказал (это, полагаю, невозможно). Он предложил доводы. Навязывать оценку этих доводов не считаю нужным, но их хотя бы стоит увидеть. То, как вы расправились с "китайской комнатой", в этом же ряду. Если бы с аргумент Сирла можно было так легко снять, он не прожил бы и недели. И его разбору не было бы посвящено столько литературы. Мне кажется, вы путаете алгоритм сложения, исполняемый калькулятором, и понимание сложения, которое калькулятору не присуще. Именно проблеме понимания посвящены в конечном итоге аргументы Сирла и Пенроуза.
fregimus
Jan. 4th, 2008 08:41 am (UTC)
Часть 2.1. Предисловие. [Re: часть 2. по сабжу.]
Сначала расскажу Вам, в форме сказки, без аргументов, откуда растут у П. и Сирла корни. Есть такое качество у некоторых людей, не знаю, как его и назвать. ***ь будет слишком религиозно-заряженно, ***зм — слишком натянуто. Обозначим его греческой буквой Ξ. Мне, в силу специфики занятий, приходилось Ξ чувствовать, видеть, трогать, лизать, нюхать, биться головой о и тонуть в. Некоторые люди знают, что такой крутизны, как они сами, никому никогда не повторить ни в жись. Вот знают, и все тут. Это религиозного толка Ξ, и сделать с ним ничего нельзя. Теперь отступаюсь сразу, занюхав Ξ из-за горизонта.

Видел я, как нормальные вроде бы люди уходят в чистое отрицание реальности — не буду рассказывать анекдотических свидетельств, пароль в гугол “denial” — когда она начинала противоречить их убеждению. Думаю, различных проявлений Ξ бывает множество, скажем, если начать всякими бритвами им. отца Оккама махать перед безнадежно религиозным человеком, то же самое и выйдет. Не делать этого с последними мне хватало здравомыслия с подросткового возраста, а вот до не говорить об этом с первыми мне почему-то пришлось идти очень долго и ухабисто.

Вот мы с Ξ тут дело и имеем. У П. на первых страницах это прямо и заявлено. Потому и начал читать в добром спортивном настроении — «Да? Ну давай, побей меня своей логикой», по наивности, кажущейся мне самому оптимизмом, изготовился возражать. Подумал, что наконец-то все вот и откроется, что у человека не такое Ξ, как у всех, а аргументированное, с которым можно спорить! Фигу…

Это личные впечатления, опыт, если хотите. Аргументы будут в части 2.2.
fregimus
Jan. 4th, 2008 08:57 am (UTC)
Часть 2.2. Китайская комната. [Re: часть 2. по сабжу.]
Китайскую комнату изобрел Сирл в 1980 году. Тогда справедливость аргумента Сирла не подтверждалась справедливостью аргумента Сирла, а сейчас Вы его пытаетесь использовать. Мне Ваше рассуждение разбирать теперь, или П., из книги?

Начну с Вашего. Вот Вы говорите, «Если бы с аргумент Сирла можно было так легко снять, он не прожил бы и недели. И его разбору не было бы посвящено столько литературы.» Совершенно не понимаю — как из того, что «если» у Вас следует, что «то». Правда. Искренне не понимаю. Одно из самых легких на свете занятий человеческих, за которые платят деньги — обсуждать вечные вопросы философии. Желающих никогда не переводилось.

Теперь рассуждение Сирла (вздохнув, пускается в объяснения в тысячный, наверное, раз). Формулировка будет та, что я написал в статье — подойдет? В китайской комнате имеется несколько логических ошибок.

Первая — апелляция к эмоциям. В комнату я посадил «испытателя»; Сирл не допускал в нее никого, кроме себя. Эта отсылка к тому же самому, «как же я, такой хороший, исполню алгоритм умнее меня? да нет такого алгоритма!» Заменим испытателя железным процессором, чтобы призрак подобного злоумышления не болтался вокруг нас и не ухал по углам, — согласны?

Вторая логическая ошибка. Требуется переформулировка утверждений, и точная. Буду я свои уточнения в фигурные скобчки вписывать. Вы сперва вот прочитайте, пропуская то, что в скобках, и это будут уже знакомые аргументы Сирла. А вот второй раз читайте, прочитывая и то, что в скобочках.

{ «Совместимый» употребляю в наименее слабом смысле. Любой реальный вычислитель слабее или так же силен, как машина Тьюринга с бесконечной лентой; «совместимость», таким образом, просто требование достаточного для исполнения А запаса ленты, не более того. Скорее даже, это просто для меня повод упомянуть процессор там, где надо. }

1. Пусть существует алгоритм А, реализующий ИИ, такой, что разговаривает по-китайски { при исполнении его на процессоре, совместимом с алгоритмом А }.
2. Возьмем процессор { совместимый с алгоритмом А }. Этот процессор { при отсутствии алгоритма А } не говорит по-китайски.
3. Запустим алгоритм А на этом процессоре. Из (1) следует, что процессор { , исполняющий алгоритм А , } начинает говорить по-китайски, что противоречит (2), утверждению, что процессор { , при отсутствии алгоритма А , } не говорит по-китайски. Следовательно, положение (1) ложно.

Если читать с тем, что в скобках, противоречия никакого не возникает, просто повторно проговариваются утверждения (1) и (2). В противоречие они не вступают, ибо у каждого из них появляется предусловие, и эти предусловия в двух утверждениях суть исключительны.

Третья ошибка, на которую зачем-то попались Вы, поэтому проговорю подробнее. Ваше утверждение: «Мне кажется, вы путаете алгоритм сложения, исполняемый калькулятором, и понимание сложения, которое калькулятору не присуще».

Внутри комнаты есть машина Тьюринга с лентой, которая просто отвечает на вопросы по-китайски. Иллюзия разумности возникает у «испутуемого» снаружи комнаты. Как Вы думаете, я — вот я, Ваш собеседник, понимаю сложение? Да, я могу прямо перед Вами сложить прямо вот столбиком два числа: 123+321=444. Почему Вы думаете, что я понимаю сложение? Может, я просто умею? Ошибка в том, что Вы распространяете свои личные ментальные процессы на что-то другое, например, меня. Вы не знаете, как я думаю, и никогда не узнаете этого, но Вам может казаться, что Вы знаете, полагая, что я устроен в целом так же, как и Вы. Подобные рассуждения о таком неисследованном аппарате, как мозг, совершенно недопустимы, ведь нельзя судить о сути явления по столь поверхностным проявлениям.

Более того, попробуйте сформулировать отличие «понимаю» и «умею». Великолепное упражнение, если только его проделать, исходя не из здравого смысла, а из логики!

Аристотель не зря придумывал строгие, как уголовный кодекс, правила рассуждения: он знал, что без этой системы логическое мышление не состоится, а будет здравый смысл. А вот П. утверждает, что у человека врожденное логическое мышление. Это утверждение очень недальновидное, и, услышь я его от кого-то другого, подумал бы даже, что глуповатое.

Про якобы «невычислимость» потом расскажу. Давайте начнем пока спорить по этой части. :-)
nature_wonder
Jan. 4th, 2008 08:27 pm (UTC)
Re: Часть 2.2. Китайская комната. [Re: часть 2. по сабжу.]
От такого ответа я в изрядном недоумении. На мой взгляд, вы привели один аргумент, как-то относящийся к проблеме, а именно третий. Первые две, как вы их называете, "ошибки" заставляют поинтересоваться, как вы трактуете мысль, которую пытался донести Сирл.
Может, поясните, что вы этими примерами хотели проиллюстрировать в контексте "китайской комнаты" - я их не смог никак приложить.

Сирл говорит простую вещь: смотрите, я делаю в точности то, что компьютер при выполнении программы - при этом у меня не возникает ни малейшего понимания. Соответственно, у меня нет оснований считать, что понимание может в таком процессе каким-то образом возникнуть у компьютера.
Вот суть доводов Сирла. Это все. Он оспаривает не способность МТ писать на китайском или считать. Он оспаривает возможность понимания в результате исполнения алгоритма. Ваши возражения, как я их увидел, направлены мимо этого тезиса.

Лишь в третьем доводе вы оспариваете саму постановку такого вопроса - о разграничении понимания и умения. Думаю, это ключевой вопрос и камень всех преткновений в проблематике ИИ. Потому что если вы не признаете такого качества как понимание (которое имеет дело с семантикой), то разговор, по сути, бессмысленен.
Вероятно, вы хотите сказать, что по внешним признакам эти вещи могут быть неразличимы - здесь легко соглашусь. Но ваша идея считать всех людей кроме себя бай дефолт не обладающими пониманием кажется мне менее здравой нежели считать их бай дефолт пониманием обладающими. Пусть даже проверить наверняка это невозможно. Вы предлагаете солипсизм, который позволяет уйти от проблемы вместо ее решения. А это неконструктивно и скучно, на мой вкус.
fregimus
Jan. 4th, 2008 10:15 pm (UTC)
Часть 2.2: Просьба уточнить интерпретации
Давайте вот что выясним, для начала. Не буду длинно расписываться, но хочу уточнить сначала кое-что в Ваших рассуждениях. Никакого подтекста в моих вопросах нет.

Скажите, Ваше понимание того, что есть сам аргумент Сирла по форме: это a) логическое рассуждение, основанное на неких предпосылках; либо это b) притча, понимать которую следует метафорически?

Дело в том, что я слышал и «ну конечно же а)!!!» или «само собой разумеется, b), чего спрашивать-то?!». Не понял, как Вы его интерпретируете.

Второе, если можно, сделайте мне такую любезность, изложите аргумент Сирла о КК от начала до конца, пожалуйста. Это всего несколько строчек, а поможет это нам премного. Дело здесь в том, что Сирл приводил много вариантов. Хотелось бы очень четко понимать, что мы обсуждаем. Смогу Вам тогда ответить гораздо яснее.
(Deleted comment)
(no subject) - fregimus - Jun. 20th, 2009 08:52 pm (UTC) - Expand
(Deleted comment)
(no subject) - fregimus - Jun. 22nd, 2009 12:45 pm (UTC) - Expand
(Deleted comment)
(no subject) - gevor - Jul. 10th, 2009 09:44 pm (UTC) - Expand
Отв. 1 - yurvor - Jan. 6th, 2008 02:53 pm (UTC) - Expand
Re: Отв. 1 - nature_wonder - Jan. 6th, 2008 06:24 pm (UTC) - Expand
Re: Отв. 1 - yurvor - Jan. 6th, 2008 06:49 pm (UTC) - Expand
Re: Отв. 1 - nature_wonder - Jan. 6th, 2008 07:01 pm (UTC) - Expand
Re: Отв. 1 - yurvor - Jan. 6th, 2008 07:15 pm (UTC) - Expand
Re: Отв. 1 - nature_wonder - Jan. 6th, 2008 07:48 pm (UTC) - Expand
Re: Отв. 1 - yurvor - Jan. 6th, 2008 08:04 pm (UTC) - Expand
Re: Отв. 1 - nature_wonder - Jan. 6th, 2008 08:18 pm (UTC) - Expand
Re: Отв. 1 - yurvor - Jan. 6th, 2008 08:57 pm (UTC) - Expand
Re: Отв. 1 - nature_wonder - Jan. 6th, 2008 09:11 pm (UTC) - Expand
Re: Отв. 1 - yurvor - Jan. 6th, 2008 09:42 pm (UTC) - Expand
Re: Отв. 1 - nature_wonder - Jan. 6th, 2008 09:57 pm (UTC) - Expand
Re: Отв. 1 - yurvor - Jan. 6th, 2008 10:21 pm (UTC) - Expand
Re: Отв. 1 - nature_wonder - Jan. 7th, 2008 06:20 am (UTC) - Expand
Re: Отв. 1 - yurvor - Jan. 7th, 2008 06:40 am (UTC) - Expand
Re: Отв. 1 - yurvor - Jan. 6th, 2008 10:34 pm (UTC) - Expand
Re: Отв. 1 - gineer - Mar. 25th, 2017 09:04 am (UTC) - Expand
Отв. 2 - yurvor - Jan. 6th, 2008 02:59 pm (UTC) - Expand
Re: Отв. 2 - nature_wonder - Jan. 6th, 2008 05:55 pm (UTC) - Expand
Re: Отв. 2 - yurvor - Jan. 6th, 2008 06:56 pm (UTC) - Expand
Re: Отв. 2 - nature_wonder - Jan. 6th, 2008 07:21 pm (UTC) - Expand
Re: Отв. 2 - yurvor - Jan. 6th, 2008 07:32 pm (UTC) - Expand
Re: Отв. 2 - nature_wonder - Jan. 6th, 2008 08:04 pm (UTC) - Expand
Re: Отв. 2 - yurvor - Jan. 6th, 2008 09:00 pm (UTC) - Expand
Отв. 3 - yurvor - Jan. 6th, 2008 03:08 pm (UTC) - Expand
Re: Отв. 3 - nature_wonder - Jan. 6th, 2008 05:43 pm (UTC) - Expand
Re: Отв. 3 - yurvor - Jan. 6th, 2008 07:00 pm (UTC) - Expand
Re: Отв. 3 - nature_wonder - Jan. 6th, 2008 07:15 pm (UTC) - Expand
Re: Отв. 3 - yurvor - Jan. 6th, 2008 07:22 pm (UTC) - Expand
(no subject) - nature_wonder - Jan. 6th, 2008 06:11 am (UTC) - Expand
(no subject) - fregimus - Jan. 6th, 2008 07:30 am (UTC) - Expand
(no subject) - nature_wonder - Jan. 6th, 2008 06:29 pm (UTC) - Expand
повторно - nature_wonder - Jan. 7th, 2008 08:07 am (UTC) - Expand
Re: повторно - yurvor - Jan. 7th, 2008 08:29 am (UTC) - Expand
в третий раз - nature_wonder - Jan. 7th, 2008 09:00 am (UTC) - Expand
Re: в третий раз - yurvor - Jan. 7th, 2008 09:06 am (UTC) - Expand
все, хватит - nature_wonder - Jan. 7th, 2008 09:10 am (UTC) - Expand
Re: все, хватит - yurvor - Jan. 7th, 2008 09:22 am (UTC) - Expand
Re: в третий раз - yurvor - Jan. 7th, 2008 09:13 am (UTC) - Expand
Re: в третий раз - nature_wonder - Jan. 7th, 2008 09:23 am (UTC) - Expand
Re: в третий раз - yurvor - Jan. 7th, 2008 09:33 am (UTC) - Expand
в четвертый раз - nature_wonder - Jan. 7th, 2008 09:47 am (UTC) - Expand
Re: в четвертый раз - yurvor - Jan. 7th, 2008 10:18 am (UTC) - Expand
(Deleted comment)
(Deleted comment)
(Deleted comment)
(no subject) - fregimus - Jun. 24th, 2009 06:29 pm (UTC) - Expand
Re: запоздалые вопросы ;) - (Anonymous) - Jun. 24th, 2009 08:29 pm (UTC) - Expand
все наоборот - nature_wonder - Jan. 7th, 2008 07:26 am (UTC) - Expand
Re: все наоборот - yurvor - Jan. 7th, 2008 07:59 am (UTC) - Expand
Re: все наоборот - nature_wonder - Jan. 7th, 2008 08:11 am (UTC) - Expand
Re: Небольшое добавление - yurvor - Jan. 5th, 2008 10:56 pm (UTC) - Expand
Re: Небольшое добавление - yurvor - Jan. 6th, 2008 05:47 am (UTC) - Expand
Re: Небольшое добавление - yurvor - Jan. 6th, 2008 02:47 pm (UTC) - Expand
Re: Небольшое добавление - yurvor - Jan. 6th, 2008 06:37 pm (UTC) - Expand
Re: Небольшое добавление - yurvor - Jan. 6th, 2008 06:51 pm (UTC) - Expand
Re: Небольшое добавление - yurvor - Jan. 6th, 2008 07:18 pm (UTC) - Expand
Re: Небольшое добавление - yurvor - Jan. 6th, 2008 07:58 pm (UTC) - Expand
Re: Небольшое добавление - yurvor - Jan. 6th, 2008 09:07 pm (UTC) - Expand
Re: Небольшое добавление - yurvor - Jan. 6th, 2008 09:48 pm (UTC) - Expand
Re: Небольшое добавление - yurvor - Jan. 7th, 2008 06:04 am (UTC) - Expand
Re: Небольшое добавление - yurvor - Jan. 6th, 2008 10:06 pm (UTC) - Expand
Re: Небольшое добавление - yurvor - Jan. 7th, 2008 05:46 am (UTC) - Expand
(no subject) - ex_kosilova - Jan. 9th, 2008 11:42 am (UTC) - Expand
(no subject) - fregimus - Jan. 10th, 2008 05:35 am (UTC) - Expand
(no subject) - ex_kosilova - Jan. 11th, 2008 11:33 am (UTC) - Expand
(no subject) - fregimus - Jan. 14th, 2008 07:53 am (UTC) - Expand
(no subject) - fregimus - Jan. 14th, 2008 07:56 am (UTC) - Expand
Qualia or No qualia - oleg_mazurov - Jan. 7th, 2008 09:02 am (UTC) - Expand
Re: Qualia or No qualia - fregimus - Jan. 9th, 2008 06:46 am (UTC) - Expand
(no subject) - nature_wonder - Jan. 7th, 2008 05:38 am (UTC) - Expand
(no subject) - kaktus77 - Jan. 7th, 2008 09:54 am (UTC) - Expand
(no subject) - nature_wonder - Jan. 7th, 2008 10:51 pm (UTC) - Expand
(no subject) - kaktus77 - Jan. 8th, 2008 07:59 am (UTC) - Expand
(no subject) - nature_wonder - Jan. 8th, 2008 09:51 am (UTC) - Expand
(no subject) - kaktus77 - Jan. 8th, 2008 11:17 am (UTC) - Expand
(no subject) - nature_wonder - Jan. 8th, 2008 11:44 am (UTC) - Expand
(no subject) - kaktus77 - Jan. 8th, 2008 11:59 am (UTC) - Expand
(no subject) - nature_wonder - Jan. 9th, 2008 01:28 am (UTC) - Expand
fandaal
Sep. 13th, 2010 02:16 pm (UTC)
Re: Часть 2.2. Китайская комната. [Re: часть 2. по сабжу.]
думаю, о разнице между умением и пониманием хорошо высказался Tononi со своей теорией интегрированной информации. если взять не китайский, а еще более простой алгоритм, когда фотодиод видит свет, то он выдает значение 1, когда не видит, то 0.
то же самое можно заставить делать человека. но разница будет в том, что человек при этом осознает, что он видит именно свет(а не ощущает звук), что свет этот черный или белый, что источник света этот расположен в такой то географической точке, и что свет это поток фотонов\электромагнитная волна.
то есть человек выбирает не между двумя значениями, а между тысячями.
примерно так.
faceless_lady
Jan. 6th, 2008 05:28 am (UTC)
Огромное спасибо за Ваш текст.
Вы читали по-русски? Возможно, переводчик поработал редактором.

русский перевод косноязычен и невнятен невероятно. Я читала по-русски, сначала думала, что первод некачественный, не верилось, что такой заслуженный человек мог так туманно написать.
Потом, дискутируя многократно с теми, кто читал в оригинале, поняла, что косноязычие - не главный недостаток книги....и, трудно поверить, авторская мысль при переводе не пострадала. :-)

Вообще, чем меня Пенроуз поразил...неумением думать в незнакомых ему областях. Разве так бывает?...очень удивлялась тому.

Все Ваши замечания - в точку.Ещё раз спасибо. За смелость.
fregimus
Jan. 6th, 2008 08:57 am (UTC)
Re: Огромное спасибо за Ваш текст.
Спасибо! Да ведь особой смелости в наше время и уже не надо, и еще пока не надо. Пытаюсь вот писаниной хоть чуть-чуть это самое «пока» растянуть.

Profile

oak
fregimus
L. Fregimus Vacerro

Latest Month

June 2018
S M T W T F S
     12
3456789
10111213141516
17181920212223
24252627282930
Powered by LiveJournal.com
Designed by Tiffany Chow