?

Log in

No account? Create an account

Previous Entry | Next Entry

Гедель 6

1  2  3  4  5   6   7

XIII. Искусственный интеллект

Искусственный интеллект — понятие чрезвычайно широкое. Когнитивную науку, как и многие другие, по решаемым задачам можно условно разделить на фундаментальную и прикладную. Задача фундаментальной науки — теоретическое описание природы, прикладной — применение моделей, взятых у фундаментальной, к решению технологических задач. Под искусственным интеллектом понимается чаще всего прикладной аспект когнитивных исследований, позволяющий техническими средствами решать задачи, которые не решаются простыми механическими методами.

Весьма часто приходится видеть «убежденных противников» ИИ, уверяющих, будто бы он невозможен в принципе. Что именно невозможно, они обычно сформулировать не в состоянии, и это действительно было бы непросто. Согласно Минскому, словом «интеллект» мы называем совокупность явлений, проявляющихся в связи с сознанием человека, из которых мы еще не научились даже выделять отдельных процессов. Он сравнивает понятие интеллекта с «неисследованными областями Африки»: вроде бы, такое понятие и имеет смысл, но если начинать их изучать, они сразу пропадают. Это действительно так. Оглянувшись на 10—15 лет назад, увидим, что задачи технического зрения, распознавания речи и изображений, обработки больших массивов данных и многие другие еще относились к «интеллектуальным», а сегодня они применяются в технике вокруг нас. Никто не называет их более интеллектуальными, иначе придется признать, что ваша оптическая мышь обладает интеллектом…

В более узком смысле можно понимать ИИ как интеллект, проявляющийся равным человеческому. Но эта почва тоже зыбка: вспомните, о скольких людях, отвечающих на комментарии в вашем журнале, вы подумали, что они только что провалили тест Тьюринга, и со сколькими роботами поговорили. Можно было бы подумать о мыслительных задачах, решаемых человеком и алгоритмами, но и здесь найдется огромное множество узких областей, в которых вычислительная процедура побивает человека «одной левой». Даже о равенстве интеллекта некоему «человеческому» говорить трудно. Равен ли интеллект Эйнштейна человеческому? А интеллект истопника дяди Васи из анекдота «а чуть чего, так дядя Вася»? Человеческий диапазон умственных возможностей широк чрезвычайно.

ТГ приводятся в качестве возражения возможности ИИ с должной регулярностью. Формулировка возражения, так или иначе, сводится к следующей: вычислительные возможности компьютера ограничены арифметической неполнотой, а сознание человека ею не ограничено, следовательно, не найдется такого компьютерного алгоритма, чтобы он мог достичь возможностей сознания. Нам следует внимательно разобрать справедливость исходных постулатов и применимость вывода из них к реальности.

Вначале рассмотрим первое положение: вычислительные возможности компьютера ограничены арифметической неполнотой. Как производится такой переход к вычислительным возможностям от неполноте? Этот переход позволителен — об этом утверждает тезис Черча-Тьюринга. Хоть этот тезис и не сформулирован так же формально, как ФС, на которых строится доказательство Геделя, но имеется не менее формальное доказательство невычислимости некоторых утверждений на машине Тьюринга (МТ); постулирование эквивалентности одного другому для нас уже вторично. Эквивалентом невыводимости теоремы в ФСЭА будет для МТ невозможность завершения некоей формальной процедуры, алгоритма. МТ — автомат особого рода, который, в соответствии с программой, заданной таблицей конечного размера, передвигает бесконечную ленту, размеченную на клеточки, читает текущий квадратик и может стирать и переписывать его. Никакой памяти, кроме ленты и одной ячейки «текущего состояния» нет. МТ не может даже передвигать ленту более, чем на одну клеточку — удивительно, что такая простая машина обладает возможностью вычислить все вычислимое в арифметике.

Есть, однако, задачи, не решаемые вычислением в общем виде. Например, задача проанализировать состояние некоей МТ и сказать, завершится она или нет, относится к неразрешимым на МТ. Не следует думать, будто это вообще неразрешимая для алгоритма задача — напротив, она часто решается16 для множества частных случаев, а неразрешима она только в общем виде.

Это, собственно, и есть источник первой предпосылки возражения. С этой, сугубо теоретической его частью, конечно, не поспоришь. Но необходимо еще и задуматься, а как много есть задач, не разрешимых на компьютере? Тезис Черча-Тьюринга позволяет нам предположить, что встречаются они примерно столько же часто, сколь в арифметике Геделевы утверждения, иными словами, их еще и найти не так-то просто. С другой стороны, даже неразрешимые в общем виде задачи решаются для большого числа частных случаев, как видно из примера с оптимизирующим компилятором выше.

Кроме того, не следует забывать, что речь идет только о выводе верных утверждений из верных предпосылок — в конечном счете, из аксиом. Никаких особых ограничений на истинность, в любом ином смысле, утверждений, выдаваемых компьютером, не налагается. Например, давайте попробуем заставить компьютер вывести неверное утверждение: 2×2=5. Видите, что тут написано? Это утверждение выведено компьютером вам на экран. Конечно, это игра со значениями слова «вывести». Мы можем даже положить это утверждение аксиомой некоей альтернативной арифметики, и, хотя она наверняка окажется противоречивой, если ее хоть сколько-нибудь интересно развивать, все же рассматривать одну-единственную аксиому мы тоже можем. Точно так же, можно заставить компьютер напечатать, не вычисляя, Геделево утверждение арифметики, например, утверждение теоремы Гудстайна, о которой мы уже говорили. Откройте страницу энциклопедии, и вы прочитаете там, как формулируется эта теорема. Если бы компьютеры не могли этого сделать в принципе, то на месте текста вы увидели бы, наверное, серое пятно! Разница, конечно же, в том, что теорема не выводится в арифметике, а просто набрана текстом — в некотором смысле, аксиоматизирована в том крошечном кусочке некоей большей системы, каким является страница энциклопедии, и которая отнюдь не претендует на полноту и непротиворечивость — здесь мы также, в зависимости от выбранного угла зрения, либо выходим за пределы применимости теоремы Геделя, либо просто не интересуемся свойствами этой большей системы.

МТ есть абстрактная машина, пригодная для невероятно абстрактных, удаленных от нашей реальности математических рассуждений. Попробуйте сочинить алгоритм умножения для МТ: он будет невероятно тяжелым для понимания и сложным. МТ, в некотором смысле, простейшая абстракция вычислителя, весьма подходящая, в силу простоты определения, для описания общих свойств всех вычислителей, но совершенно непригодная для практического программирования. В анализе МТ мы задаемся одним вопросом: остановится МТ или нет. МТ «выводит» результат только после останова. В реальных вычислительных системах процесс вычисления не менее важен, чем останов, а в некоторых системах он и не предусмотрен. Например, программа, управляющая атомным реактором, ни в коем случае не должна останавливаться! Разумеется, можно представить себе процесс ее работы как множество соединенных между собой МТ: одна останавливается и выдает результат, другая запускается, начиная с этого результата… Однако, это предмет уже совершенно иной разновидности анализа, и возможность такого представления оказывается вовне нашей области интереса, именно теорем Геделя.

Отвлечемся здесь, чтобы понять двоякую роль, сыгранную теорией Тьюринга в понимании логики, вычислимости и теории вычислений. Изначально МТ была задумана как воображаемый механизм, или алгоритм, позволяющий определить, выводится ли некое утверждение (в частности, о целых числах) из набора исходных предпосылок. Невозможность решения этой задачи во всех случаях и есть результат Тьюринга, по сути своей эквивалентный Геделевой неполноте. Этот результат, важный сам по себе, имеет чрезвычайно узкую применимость на практике, за пределами арифметической теории, как это мы уже знаем из рассуждений о применении ТГ. Однако, второй результат Тьюринга, и, несомненно, более важный и общий, состоит в следующем. В своей работе Тьюринг вывел абстрактную универсальную машину (УМТ), способную проделать те же вычисления, что и любая другая МТ. До этого обобщения, МТ представлялась отдельной сущностью от данных на ленте: машина определяет, как обрабатываются данные, или, иными словами, алгоритм определяется конструкцией машины. УМТ оказалась одним из крупнейших математических открытий XX в., предвосхитив появление компьютерной науки и технологии. Она способна «прочитать» с ленты именно «конструкцию», алгоритм другой машины и произвести все те же самые вычисления, что и та машина. Таким образом, для УМТ алгоритм не определяется более устройством машины: она способна выполнить любой алгоритм. Тьюринг доказал возможность построить универсальный вычислитель — теоретический прототип современной вычислительной машины: все, что может быть вычислено, может быть вычислено на УМТ, а, значит и на любом цифровом компьютере (если только у него достаточно памяти).

Нам следует заострить внимание на различении этих двух выводов, следующих из свойств МТ. Когда мы говорим, что универсальный современный компьютер не способен вычислить некоторые вещи, мы попадаем в ловушку чрезмерного теоретизирования. Да, МТ как абстрактный механизм не позволяет вычислить, выводится ли любое заданное утверждение о целых числах из набора аксиом. В то же время, МТ, как прототип реального вычислителя, все-таки позволяет вычислить на практике огромное множество всякой интересной всячины. Рассуждая об ограниченности алгоритмической системы всегда следует помнить, как невелико влияние теоретической невычислимости на реальные алгоритмические модели.

Еще одно важное отличие реальных вычислителей от МТ — существование их во времени. Алгоритмы выполняются с определенной скоростью, и их можно прервать, используя внешнее по отношению к программе событие. Например, программа распознавания образов может просто прерваться и выдать результат «ничего не распознано», или «похоже на Х, достоверность низкая», если на вычисления затрачено больше времени, чем заранее отведено17. С точки зрения абстрактной математики, недоказанное нельзя считать верным, граница проведена четко и однозначно. В математической же практике мы часто оставляем задачи нерешенными, решенными для некоторых частных случаев или решенными только приблизительно. Чего же говорить о физике, где теории всегда вынужденно описывают свой предмет, устройство мира, лишь приблизительно.

Итак, первая предпосылка абстрактно-теоретически верна, хотя практическое ее влияние невелико. Вторая предпосылка, о том, будто человеческое сознание не ограничено неполнотой арифметики, далеко не самоочевидна, и требует хорошего обоснования. К возможности такого обоснования в физическом мире мы вернемся в следующей части, а теперь мне хотелось бы порассуждать сначала о выводе, который из него будто бы следует. Вывод этот, как мы помним, состоит в том, что не найдется алгоритма, полностью эквивалентного человеческому сознанию. Рассмотим, какое отношение он имеет к теории сознания или практике интеллектуальных технологий.

В первую очередь нас здесь интересует сознание как процесс, происходящий в физической реальности нашего мира, в его отношении к нашим методам познания этого мира. Познание сознания и мышления, в принципе, не отличается от познания других аспектов реальности, потому общефилософский подход к этим вопросам, на определенном уровне абстракции, сходен. Здесь, вам покажется, мы удаляемся от нашей достаточно узкой темы о ТГ, но размышление это нам потребуется как основа понимания того вопроса, который мы пока откладываем.

Мы постигаем реальность, моделируя ее. Модели служат единственной цели — сделать реальность понимаемой, хотя ни одна модель не может претендовать на объяснение всей реальности. Мы как бы накрываем реальность лоскутным одеялом моделей, стремясь к тому, чтобы лоскуты перекрывались, не оставляли дырок, а там, где перекрываются, объясняли бы именно покрытый ими фрагмент. Вначале, модели были философскими, рассудительными, затем к ним добавился эксперимент и вычисление. Модель, оснащенная вычислительным языком, обладает предсказательной силой относительно измерений: выведя еще не измеренные физические величины из модели, мы можем произвести измерения в реальности, и, если они совпадут, утвердиться в уверенности, что модель описывает реальность в таких-то границах и с такой-то точностью. Здесь математика стала развиваться, чтобы дать возможность физике записать свои алгоритмы вычислений. Для механики Ньютона потребовалось дифференциальное исчисление, для механики Эйнштейна возникли тензоры. Новый математический язык позволяет компактно записать вычислительную процедуру модели, облегчая ее применение. Но это еще меньшая половина достижения: образуя чудесный цикл обратной связи — от математического аппарата к модели — математика дает возможность умственному охвату модели. Начав работать с производными функций, как будто это элементарные понятия, мы легко понимаем механику Ньютона. Если бы мы каждый раз думали о бесконечно малых и их приращениях, понять эту теорию было бы куда сложнее. Математический язык вырабатывается по требованию физической теории, а затем придает этой теории куда более удобоваримую форму, которую можно уместить в уме как целое, поворачивать так и сяк и уходить по желанию в ее глубину, разглядывая детали.

В моделировании сознания мы находимся на том этапе, где математический язык еще не сформировался. Я говорю «еще», хоть есть и те, кто утверждает, будто он никогда не будет сформирован. Такие утверждения, впрочем, сопровождали философию, а затем и науку все то время, что она существует, поэтому не стоит их принимать всерьез. Такой математический язык, позволящий сделать теории понятными, отсутствует в наше время не только в науке о сознании; мы не можем пока понимать множество других систем, которые называются сложными именно по этой причине, например, турбулентность, климат, внутреннее устройство Земли, а также, если очерчивать этот круг несколько оптимистично, то экосистемы, цивилизации — все то, чем занимается кибернетика. Вычислительные модели, которые мы строим, пока могут лишь обрабатываться численно, на мощных компьютерах, но недоступны непосредственному пониманию, так, как можно понимать механику Ньютона или электродинамику Максвелла. Но это лишь промежуточный этап, каковые всегда оказываются в науке, и никаких оснований предполагать, что на этот раз он не будет пройден, нет.

Таково отличие науки о сознании от некоторых других — она молода, и не породила своего математического языка — но это отличие не принципиально. Ни от одной теории, включая теории мышления, мы не требуем ее полного описания объекта, полной эквивалентности теоретического объекта реальному; да и вряд ли такое вообще возможно. Поэтому вывод о неэквивалентности вычислительной модели реальному сознанию оказывается тривиальным: да, не эквивалентны и нет, мы этого и не ожидали. Вовсе не требовалось выводить это утверждение из ТГ, вдобавок логически сомнительным, в лучшем случае, образом, когда к нему можно прийти иными простыми рассуждениями.

В то же самое время, когнитивные модели, пусть пока и вычислительно-интенсивные и «неохватные», дали начало интереснейшим технологиям, использующим алгоритмы этих моделей, такие, как нейронные сети и Байесовы классификаторы: распознаванию речи и изображений, системам управления городским транспортом и программам очистки почты от спама. Все это, конечно, не «разумные» машины, с которыми можно было бы поговорить, но начинают появляться уже и такие — в узких областях, например, приемщики заказов и справочные системы. Мы сидим с карандашом в руках и продолжаем вычеркивать их из списка «интеллектуального» — эти области Африки уже исхожены.

1  2  3  4  5   6   7
__________________________________
16. Например, оптимизирующий компилятор языка может предупредить о бесконечном цикле в программе до ее запуска. Однако, неразрешимость в общем случае означает, что найдется такая зацикливающаяся программа, о которой компилятор не предупредит.

17. У людей это тоже случается — состояние, когда вот-вот вспомнишь или узнаешь что-то, а не получается. При недостаточном освещении или вдалеке даже знакомые предметы надо долго разглядывать, чтобы опознать. Это поверхностные аналогии, не говорящие ничего о внутреннем устройстве программ и сознания, но это указание на то, что зрительный аппарат человека тоже далек от совершенства.

Tags:

Comments

( 38 comments — Leave a comment )
falcao
Jan. 5th, 2010 09:35 am (UTC)
зацикливание
> Однако, неразрешимость в общем случае означает, что найдется такая зацикливающаяся программа, о которой компилятор не предупредит.

Я думаю, что это утверждение неточно. Причиной бесконечно долгой работы программы совершенно не обязательно является "зацикливание". Это лишь один из наиболее простых случаев. Если как-то точно сформулировать, что же такое "зацикливание", то тогда окажется, что множество всех "зацикливающихся" программ будет рекурсивно перечислимым. Однако из результатов, полученных в теории алгоритмов, мы знаем, что множество всех никогда не останавливающихся программ (или МТ) рекурсивно перечислимым уже не является. Можно поэтому сказать, что причины бесконечно долгой работы программ могут оказаться сколь угодно сложными, далеко превосходя по степени сложности такие процессы как "зацикливание".
fregimus
Jan. 5th, 2010 10:43 am (UTC)
Кто ходит к цирюльнику, а кто и сам бреется
Мне просто хотелось дать наглядный пример — многие думают, будто ни о какой МТ нельзя заранее сказать, остановится она или нет (http://fregimus.livejournal.com/80970.html?thread=1771338#t1771338). Очень неряшливо получилось?
предостережение - falcao - Jan. 5th, 2010 12:35 pm (UTC) - Expand
(no subject) - fregimus - Jan. 5th, 2010 01:12 pm (UTC) - Expand
за горизонтом - falcao - Jan. 5th, 2010 02:14 pm (UTC) - Expand
Re: за горизонтом - fregimus - Jan. 6th, 2010 06:36 am (UTC) - Expand
lemon tree - falcao - Jan. 6th, 2010 11:26 am (UTC) - Expand
Re: lemon tree - fregimus - Jan. 6th, 2010 05:29 pm (UTC) - Expand
Re: зацикливание - (Anonymous) - Jan. 5th, 2010 01:22 pm (UTC) - Expand
unending chess - falcao - Jan. 5th, 2010 02:10 pm (UTC) - Expand
Re: unending chess - (Anonymous) - Jan. 5th, 2010 09:05 pm (UTC) - Expand
helvas
Jan. 5th, 2010 09:58 am (UTC)
под кат!!!
уважайте окружающих!!
fregimus
Jan. 5th, 2010 10:38 am (UTC)
Re: под кат!!!
Понимаете, я еще на прошлый Новый год дал себе обещание под кат прятать не то, что я хочу сказать, а только то, что я хочу спрятать. В общем-то, тот год кончился, так что теперь я могу и отказаться от этого правила. А почему Вы называете это неуважением к окружающим? Кажется, я в статье особенно громко зря не матерился и фантиков мимо урны не бросал…
удачи... - helvas - Jan. 5th, 2010 11:23 am (UTC) - Expand
Re: удачи... - fregimus - Jan. 5th, 2010 01:23 pm (UTC) - Expand
Re: под кат!!! - 1st_figure - Jan. 5th, 2010 12:56 pm (UTC) - Expand
Re: под кат!!! - fregimus - Jan. 5th, 2010 01:05 pm (UTC) - Expand
Re: под кат!!! - 1st_figure - Jan. 5th, 2010 01:13 pm (UTC) - Expand
Re: под кат!!! - fregimus - Jan. 5th, 2010 01:21 pm (UTC) - Expand
Re: под кат!!! - 1st_figure - Jan. 5th, 2010 01:30 pm (UTC) - Expand
Re: под кат!!! - fregimus - Jan. 5th, 2010 01:32 pm (UTC) - Expand
jurgenkom
Jan. 5th, 2010 11:03 am (UTC)
Что я знаю об искусственном интеллекте?
Боюсь только следующий анекдот:
Дана Борисова (это телеперсонаж, но в пинципе на её месте может быть любая другая блондинка) купила себе стиральную машину с искусственным интеллектом и через неделю попала к ней в рабство...
Если честно, то из Вашего поста я почерпнул не больше, чем вышеупомянутая Дана из её чУдного дивайса. Хотя Вашей целью, повидимому, всётаки была некая популяризация...
fregimus
Jan. 5th, 2010 11:24 am (UTC)
Думаю, что Д. Борисова почерпнула из стиральной машины постиранное белье — больше из машины почерпнуть просто нечего. Сравнивать тут было бы и впрямь затруднительно.
bvn_mai
Jan. 5th, 2010 04:16 pm (UTC)
Уважаемый Фрегумис снимаю шляпу, особенно за этот абзац "...В моделировании сознания мы находимся на том этапе, где математический язык еще не сформировался.<...> Такой математический язык, позволящий сделать теории понятными, отсутствует в наше время не только в науке о сознании; мы не можем пока понимать множество других систем, которые называются сложными именно по этой причине, например, турбулентность, климат, внутреннее устройство Земли, <...>, экосистемы, цивилизации — все то, чем занимается кибернетика. Вычислительные модели, которые мы строим, пока могут лишь обрабатываться численно, на мощных компьютерах, но недоступны непосредственному пониманию, <...>. Это самое то, когда я говорил, что пришло "время собирать камни". Нужен математический аппарат для содержательной работы с такими вещами. Как у Вас с этим дело ?
Вечно инженерам приходится самим строить под себя наколенную математику (Где Фалькао? :) ).

P.S.: с огромным удовольствием прочел все 5 частей про "теорему Геделя" - увы, я так писать не могу.
fregimus
Jan. 6th, 2010 06:48 am (UTC)
> Как у Вас с этим дело ?

Как-то не очень. Интересно посмотреть на то, какой Мандельброт пытался выработать «фрактальный» язык, через похожести. Ощущение пограничной области математики и гуманитарных дисциплин. Мне отнюдь не кажется, что это то, что надо, но интересно, насколько смело он думает вне обычных математических рамок.

Но это все рассуждения о том, как храбро в бой пойдем, а вот кого, где и, главное, чем воевать будем — это пока не ясно.

> Вечно инженерам приходится самим строить под себя наколенную математику

Ну, а как иначе. Президент Линкольн, как написал один одаренный школьник, родился в бревенчатом доме, который построил своими руками. Вот так же и приходится — кто ж построит…
readership
Jan. 5th, 2010 11:32 pm (UTC)
= Познание сознания и мышления, в принципе, не отличается от познания других аспектов реальности, потому общефилософский подход к этим вопросам, на определенном уровне абстракции, сходен.

Вот как бы, в принципе, и отличается. И философские подходы тоже отличаются. Конечно, есть и такой ФП, в котором это все не отличается :)

= Мы как бы накрываем реальность лоскутным одеялом моделей

Так можно сказать, но вопрос на каких принципах строятся модели. Если для сознания сами принципы не гожи, то накрывай не накрывай... Поясню. Насколько знаю, все современное моделирование объектно. То есть, элементами для создания модели служат некие выделенные абстрактные объекты. А объектом можно назвать всякую сущность, наделенную некими "внешними" свойствами, то есть, такими, которые сам объект проявить не может. Стало быть, чтобы эти свойства задействовать, вводятся функции над объектами, рассматриваются их отношения и тому подобное. На философском языке я бы это сформулировал так - сущее разделено со своим существованием. И сам объект получается мертвым.

Вот, а в сознании все основное - живое, и потому подобными объектами вместе со всеми их отношениями неописуемо.

= В моделировании сознания мы находимся на том этапе, где математический язык еще не сформировался.

Еще бы. Математика современная вроде вся состоит из объектов (ну, и стрелочек). Например, возьмем числа. В математике это абсолютно мертвые объекты подчиняющиеся определенным правилам. А в сознании числа - живые. Разница.

= это лишь промежуточный этап, каковые всегда оказываются в науке, и никаких оснований предполагать, что на этот раз он не будет пройден, нет.

Так были бы основания сказать, будь в физике все этапы пройдены. Тем более описание физического мира и сознания в чем-то обратное. В мире законов природы живое возникает из мертвого. А в мире сознании наоборот - из живого мертвое. Уже из этого ясно, что вершиной объектного моделирования будет зомби.

Да не берите близко. Просто мысли возникли по ходу...

fregimus
Jan. 6th, 2010 05:46 am (UTC)
К сложным системам системный подход, не объектный, иначе никак.

Не понимаю, что такое живые объекты и числа — это бы объяснить. Похоже, что вы не от витализма разговор ведете, но все равно непонятно. Сознание — живое. А циклон живой? Клеточный автомат? Множество Мандельброта? Как бы вот тут ухватить.

Зомби? В эти штуки я не верю. Вот я скажу, что Чалмерс зомби, а Вы скажете, что не зомби. А как нам правду узнать? Никак.
(no subject) - readership - Jan. 6th, 2010 01:37 pm (UTC) - Expand
tilimilitram
Jan. 6th, 2010 02:21 pm (UTC)
Снимаю шляпу. Интересно очень.

Есть еще один тип весомых возражений -- вопрос о свободе воли ИИ.

Можно ли сложность современных компьютернов, обеспеченную согласованной работой многих миллиардов вентилей, как-то сопоставить со сложностью человеческого мозга? Вентили примитивны, но быстры. Нейроны очень сложны, но неторопливы. И быстродействие и количественная сложность машин стремительно растет. Рано или поздно их научат обсчитывать в реальном времени модели нейронных сетей, сопоставимых по количеству элементов и связей с мозгом человека. Исследования ИИ за это время, надо полагать, тоже продвинутся. Думаю, превосходство тех машин в тюринговской игре в имитацию будет такой же банальностью, как превосходство нынешних компьютерных шахматистов над людьми.

Итак, мысленно возьмем типичный ПК 2500 года :) Запустим пару программ, -- прекрасно проходящих тест Тюринга виртуальных собеседников. Пусть побеседуют друг с дружкой. Посреди беседы делаем snapshot (отправляем Windows в спяший режим :) состояния системы. Теперь мы можем проследить ход беседы, а затем вернуть в прошлое состояние машину и, разумеется, наших собеседников. Если у них нет сетевых подключений и состояние таймера восстановлено, то у них нет средств обнаружить такой финт. С неизбежностью их беседа со всеми мельчайшими подробностями, жестами, интонациями, мимикой, сомнениями и муками выбора в точности повторит уже известную нам. Можно ли говорить о свободе этих виртуалов, что с точностью магнитофона раз за разом воспроизводят одно и то же? Разумеется, нет. Понятно так же, что магнитофон не отвечает за ход фильма.

Дальше раскручиваем цепь вопросов: свобода, ответственность, любовь, различение добра и зла. Согласие принять за равного или старшего собеседника, для которого все перечисленное лишь бледные тени, а иногда и вовсе лишено привычного содержания, означает, что мы готовы пересмотреть свое отношение к этим ключевым вещам. Тогда и на нас можно будет взглянуть как на подобные машины и даже попытаться повторить подобный фокус.

Это даже не в порядке спора. Просто, мне очень интересен этот вопрос.
fregimus
Jan. 7th, 2010 05:48 am (UTC)
Такую ситуацию с разговаривающими машинами трудно себе представить, если только разговор не идет в глубоком темном подвале на необитаемом острове. Иначе придется внести в модель несколько сомнительных постулатов, например, о том, что дрожание пола от проехавшего неподалеку гипертрамвая (мы же в 2050 году!) не может повлиять на ход разговора. Несомненно, сознание обладает сложным, хаотическим поведением, так что малые воздействия имеют нарастающие лавиною последствия. С другой стороны, представьте, что, например, всемогущий бог-шутник вернул всю Вселенную вместе со мной и с Вами в предыдущее состояние. Узнать об этом Вы так же не сможете. Повторится все еще раз или нет? Мы не знаем. Эксперименты с откатом Вселенной, даже мысленные, довольно нетривиальны.

Насчет свободы воли. В природе объектов нет — нет ни атомов, ни галактик, это все умственные построения. Реальность состоит из материи, внутренне организованной, но не разграниченной. Когда задаетесь вопросом о том, существует ли что-то, Вы спрашиваете о существовании способа выделить объект. Ответ часто бывает — да, но это нам сейчас ни к чему. Вы спросите: существуют ли атомы? Да, безусловно. Вообще в физике есть модели, оперирующие с атомами. Но, если мы сейчас обсуждаем механику Солнечной системы, то атомы мы в модель не вносим, и из реальности их не вычленяем, иначе будет каша: «рассмотрим все атомы, из которых состоит Солнечная система, и посмотрим, какими силами они друг на друга воздействуют». То есть — атомы вообще можно выделить и описать, но к данной задаче это не относится.

Свобода воли — тоже один из таких объектов, как и понятия интуиции, неожиданного понимания, или, скажем, понятие «я», эго. О свободе воли каждый знает, что она у него есть, но это когда у него. Но когда вы строите модель сознания, там такой штуки не оказывается. Почему? Дело в том, что собственная свобода имеет первопричину. Желание действия ощущается причиной исполнения действия, но это не так. На деле, и то, и другое суть проявления глубоких неосознанных (и не осознаваемых) нейрофизиологических процессов. Были интересные эксперименты (найти вам описание? вылетела из головы фамилия) которые показывают активность мозга за чуть ли не секунду до того, как возникает, исполняется и осознается якобы «свободное» желание. Поэтому объектизировать с. в. в модели сознания будет ошибкой, противоречащей нашим знаниям о его работе.

Посмотрите еще теорему Конвея (Conway theorem). Он доказывает, что если экспериментатор в определенном квантовомеханическом эксперименте обладает свободой воли, то ею же обладает и наблюдаемый им электрон. Это неожиданное, и на самом деле верное доказательство, отнюдь не софизм. Отчего возникает такой неожиданный вывод? Вы уже догадываетесь — свободе воли в модели физического наблюдения делать нечего. Это та же самая ошибка, что и рассмотрение Солнечной системы, состоящей из атомов, только здесь результат еще нелепее из-за невложенности модельных объектов (экспериментатор не состоит из свободы воли и всего прочего), отсюда возникает противоречие уже внутри самой модели.

В то же самое время, рассуждая на иные темы, вносить в картину свободу воли очень удобно и правильно. Ни одной этической теории, например, не построить без этого понятия. К примеру, ответственность человека за свои дела вовсе не снимается тем, что его действия будто бы контролируются нейрофизиологическими процессами, которые недоступны его контролю — за исключением случаев психической болезни, конечно. Видите, и психическую болезнь можно лечить как органическое расстройство мозга, органа (таблетками, например), а в теории этики она войдет как случай расстройства именно свободы воли.
(no subject) - tilimilitram - Jan. 7th, 2010 11:45 am (UTC) - Expand
auraz
Jan. 8th, 2010 09:23 pm (UTC)
Лучшая статья из цикла! Огромное спасибо!
fregimus
Jan. 9th, 2010 02:59 am (UTC)
Рад, что получилось интересно. Спасибо.
captainl
Jan. 9th, 2010 03:12 am (UTC)
Мне кажется, что отсутствие общепринятого определения для интеллекта вообще и для искусственного интеллекта, в частности, изначально переводит рассуждения о невозможности построения ИИ (и о возможности тоже!) из сферы науки в сферу демагогии. Я, конечно, не Ваш пост имею в виду. Вы всё замечательно написали, но применительно к одной из трактовок понятия "интеллект". Особенно раздражают варианты выражения "прикладной ИИ”, а среди них - популярное с недавних пор "с элементами искусственного интеллекта". Это ведь не более, чем маркетинговая уловка. Дескать, мы знаем, что такое ИИ, и из каких элементов (!!!) он состоит, - а вы разве не знаете? Но даже те относительно "разумные" системы, о которых Вы упоминаете в конце этой части, представляют собой лишь скрупулёзно записанные в виде исполняемых машинных кодов алгоритмы действий человека (разработчика системы) при приёме заказов и выдаче справочной информации, то есть законсервированное в виде компьютерной программы проявление совершенно конкретного человеческого интеллекта в конкретных, сравнительно устойчивых условиях. Вопрос о возможности создания ИИ, таким образом, - это совсем не вопрос "Может ли компьютер думать?", и даже не "Может ли человек построить модель своего мышления?" (уже построено великое множество), а вопрос "Насколько точную модель своего мышления может создать человек?" Но прежде чем говорить о точности модели нужно определиться с тем, что же собой представляет моделируемый объект.

fregimus
Jan. 9th, 2010 08:00 am (UTC)
По-моему, термин «интеллект» — некий catch-all для всего, чего мы не понимаем и не называем в сознании. Слишком обширно для объективирования. Примерно как «язык» в лингвистике — тоже ведь нельзя дать определение, кажется.

«законсервированное в виде компьютерной программы проявление совершенно конкретного человеческого интеллекта» — это можно о любой модели сказать. Естественно, я не о проверке статуса заказа на веб-сайте говорю, типа введите номер заказа — получите результат.

«"Может ли человек построить модель своего мышления?" (уже построено великое множество)» — можете посоветовать одну-две лучших, на Ваш взгляд? Был бы премного Вам обязан: мне до сих пор ни одной работающей модели так и не встретилось, не говоря уж о множестве, тем более «великом».
(no subject) - captainl - Jan. 10th, 2010 02:59 am (UTC) - Expand
xeus_top_98
Feb. 9th, 2010 10:11 am (UTC)
Вы попали в Топ-30 Зиуса!
Ваш пост написан настолько интересно, что вы попали в Топ-30 Зиуса самых обсуждаемых тем в Живом Журнале.
Зиус поздравляет вас с наступившим Новым 2010 Годом от Р.Х. и желает вам добра.
( 38 comments — Leave a comment )