?

Log in

No account? Create an account

Previous Entry | Next Entry

Про тест Тьюринга все слышали? Все, да? Вот сейчас мы и будем его проходить.

Тест наш будет всего из одного вопроса: как Тьюринг описывал свою идею теста, который потом получил это самое расхожее название?

Если вы ответили на этот вопрос, то вы прошли тест, и, значит, вы — бот, слава вам! А для людей — рассказываю. (Это, конечно, шутка. Никакого шовинизма: роботам тоже можно.)

Статья Тьюринга написана более 60 лет назад. Это было время появления вычислительной математики (ВМ). Сейчас, много лет спустя, мы так и не осознали до конца, что такое ВМ. Знаменитое утверждение Абельсона о том, что computer science (английское название ВМ, буквально «компьютерная наука») это не наука не о компьютерах, совершенно точно обозначает положение дел и сегодня. Компьютеры изменяют мир, а осознать толком мы их так и не можем. Но вернемся к статье Тьюринга. Ссылка на оригинал есть в конце этого сообщения.

В своей статье Тьюринг рассуждает над вопросом «может ли машина думать». Поскольку понятия «машина» и «думать» достаточно расплывчаты, он размышляет о том, как переформулировать задачу в иных терминах. По части «думания» он рассматривает игру в «имитацию», с игроками М и Ж, и ведущим В. В задает М и Ж вопросы, и должен определить, где М, а где Ж. М — мужчина, он заинтересован в том, чтобы В не угадал правильного ответа. Ж — женщина, которая заинтересована в том, чтобы В угадал правильный ответ. Таким образом, М делает вид, будто бы он Ж, он «имитатор», а Ж изображает себя, она как бы «на самом деле».

Тьюринг предлагает заменить вопрос «может ли машина думать» на другой: «будет ли В ошибаться одинаково часто, если заменить в этой игре мужчину М на „машину“». Этот вопрос отличается от изначального тем, что его уже можно проверить на практике.

Затем он переходит к понятию о машине. С одной стороны, кажется, что можно было бы позволить при создании машины любые инженерные решения. Однако, здесь возникает трудность, как обычно, связанная с разграничением человеков и машин. Например, может ли команда разнополых инженеров родить и воспитать ребенка? Будет ли этот ребенок засчитан подходящим кандидатом в «машины» для игры? Очевидно, что нет. А если это такие биоинженеры, которые вырастят человека из единственной клетки донора? Такой человек ведь тоже не годится на роль машины в игре — он ничем не отличается от любого другого человека. Следуя таким рассуждениям, Тьюринг ограничивает круг рассматриваемых машин только электронными цифровыми компьютерами.

Поскольку все цифровые компьютеры эквивалентны в смысле вычислений, которые они могут производить, то вопрос, который следует рассматривать, Тьюринг окончательно формулирует так: «Возможен ли такой воображаемый цифровой компьютер, успешно играющий роль М в игре в имитацию?»
Первоначальный вопрос «может ли машина думать» я полагаю недостаточно осмысленным, чтобы его обсуждать. Тем не менее, я полагаю, что к концу [XX] века смысл слов и общее понимание образованной публики изменится таким образом, что можно будет говорить о том, что машина думает, не вызывая возражений. Я полагаю также, что мне нет смысла скрывать это убеждение. Совершенно неверно популярное заблуждение, будто наука продвигается от одного достоверного факта к следущему достоверному факту, минуя предположения. Предположения не нанесут урона, коль скоро будет явно оговорено, что есть установленный факт, а что есть предположение. Предположения чрезвычайно важны, поскольку они задают направление научного поиска.
Большая часть статьи посвящена рассмотрению возможных возражений точке зрения Тьюринга, именно, аргументов, утверждающих, что машина думать на может — имея в виду новую формулировку вопроса. Стоит и нам их вкратце рассмотреть.

1. Теологическое возражение. Мышление есть функция бессмертной души. Бог дал бессмертную душу только людям, но не животным и не машинам. Следовательно, ни животное, ни машина думать не может.

Теологическое же возражение Тьюринга состоит в том, что это утверждение противоречит утверждению о божественном всемогуществе, поскольку утверждается, что бог не в состоянии дать мыслящей души машине.

2. Возражение от страуса. Последствия того, что машины начнут мыслить, настолько ужасны, что нам следует надеяться и верить, что этого не произойдет.
Этот аргумент редко выражается в столь явной форме… Не думаю, что [он] требует опровержения. Здесь скорее пристало утешение; возможно, следует искать его в переселении душ.
Ни первое, ни второе возражения, как видим, не вызывают у Тьюринга энтузиазма. Спор тут вряд ли возможен. К следующему он относится намного серьезнее.

3. Математическое возражение. Теорема Геделя говорит о том, что в любой достаточно мощной непротиворечивой формальной системе может быть сформулировано утверждение, которое не может быть ни доказано, ни опровергнуто в этой системе.
Кратким ответом на этот аргумент будет то, что, хотя предел возможностей данной конкретной машины и доказан,… не существует доказательства, что то же самое ограничение неприменимо и к человеческому интеллекту… Когда машина отвечает на критический вопрос, выдает ответ, но мы знаем, что ответ этот неверен, это дает нам определенное ощущение превосходства. Но не иллюзорно ли это ощущение?.. Мы сами слишком часто уверенно выдаем неверные ответы, чтобы принимать подобные свидетельства погрешности машин.

4. Возражение от сознания.
«Покуда машина не сочинит сонета или концерта от мыслей и эмоций, что она переживает, а не по случайному сложению символов, мы не примем того, что машина ровня мозгу, то есть, что не только пишет, но и знает, что пишет. Механизм не может чувствовать (а не просто искусственно о том сообщать) удовлетворения от успеха, печали от сгоревших ламп, услады от лести, печали от ошибок, очарования плотской любви, не может разозлиться или впасть в подавленность, когда не может получить, чего хочет» (проф. Джефферсон).
Этот аргумент отрицает самое возможность нашей проверки. Крайняя форма подобного рассуждения такова, что единственный способ убедиться, что машина думает — это быть этой машиной… Можно описать собственные чувства, но, разумеется, [с этой точки зрения] неразумно обращать на [такое описание] внимание… Это, фактически, солипсистский взгляд на вещи… Думаю, что тем, кто поддерживает такой аргумент, следовало бы отказаться от него, нежели встать на такую солипсистскую позицию. Тогда они, вероятно, согласятся с возможностью нашей проверки… Разумеется, я не думаю, что в сознании нет загадки… Но я не полагаю, что эта загадка должна быть полностью разгадана для того, чтобы нам начать искать ответ на вопрос, рассматриваемый в этой статье.

5. Возражения от разнообразных немощей.
Машины могут делать все, что угодно, но только не X, где X может быть {быть добрым, прекрасным, дружелюбным; обладать инициативой, чувством юмора; отличать плохое от хорошего; ошибаться; влюбляться; наслаждаться клубникой со сливками; обучаться; красиво и правильно говорить; размышлять о себе; делать что-то новое, и так далее}.

Тьюринг подробно анализирует несколько немощей. Не буду здесь останавливаться на конкретных примерах: лучше все-таки прочитать всю статью. Вывод его таков:
Эти аргументы представляют собой вариации аргумента от сознания [пункт 4, выше] Чаще всего, спорящий согласен, что машина может делать все это, и описывает метод, которым она это делает, но считает это невпечатляющим. Полагают, что метод, каким бы он ни был — просто механическое подражание. См. скобки в цитате из Джефферсона [в пункте 4].

6. Возражение от леди [Ады] Лавлейс. «Аналитическая машина не способна ничего зачинать. Она может делать только то, что мы умеем заставить ее делать» [курсив — ее].
Вариант… [этого] возражения таков: «машина не способна сделать ничего нового». Здесь неплохо вспомнить, что «нет ничего нового под солнцем»… Лучшим вариантом возражения будет «машина никогда не сделает чего-то удивительного». Такое утверждение… может быть прямо оспорено. Машины удивляют меня поразительно часто. Происходит это, скорее, оттого, что я не проделываю достаточно вычислений, а, если и делаю их, то второпях, неряшливо, рискованно… Естественно, я часто ошибаюсь, и результат удивляет меня, когда эксперимент уже проделан, а предположения мои давно забылись. Эти признания хоть и дают повод отчитать меня за мою порочную практику, но, тем не менее, не бросают ни тени сомнения в моей честности, когда я свидетельствую, что испытываю самое настоящее удивление… Не ожидаю, конечно, что этот ответ убедит моего критика: здесь он возразит, что удивление — творческий акт с моей стороны, а не со стороны машины. Это возвращает нас к аргументу от сознания [п. 4]. Стоит, однако, заметить, что восприятие чего-либо удивительным есть также творческий акт, будь удивление вызвано человеком, книгой или чем угодно еще.

7. Возражение от аналоговой нервной системы:
нервная система — не цифровой компьютер.

Рассуждение здесь интересно, но оно скорее дополнительное к главному аргументу Тьюринга: пусть нервная система и отличается от цифрового компьютера, но В не может воспользоваться отличиями практически.

8. Возражение от неформальности поведения: невозможно составить список правил, описывающих, как поведет себя человек в любой вообразимой ситуации.
Мы не можем убедиться в том, что подобных правил не существует. Единственный способ их поиска — научное наблюдение, но мы не можем представить себе случая, когда мы могли бы сказать: «Мы искали достаточно. Этих законов не существует».

Предположим, что мы обязательно должны были бы найти такие законы. Тогда некая цифровая машина должна была бы их найти, по наблюдении в течение некоего разумного времени, например, не более тысячи лет [вычислений]. Но это, похоже, не так. Я написал небольшую программу для Манчестерской машины, занимающую не более 1000 ячеек памяти, которая в ответ на шестнадцатизначное число выдает другое шестнадцатизначное число, затратив на вычисления не более двух секунд. Уверен, что никто не сможет найти из этих ответов, какова эта программа, чтобы предсказать ее ответы на любые исходные запросы.

9. Возражение от экстрасенсорного восприятия.
Этот раздел представляет только исторический интерес. Тьюринг рассматривает экстрасенсорное восприятие как научную гипотезу, и рассуждает, как исключить его влияние в эксперименте, предполагая, что человек им наделен, а машина — нет.

Заключительная часть статьи посвящена рассуждению об обучении людей и машин. Не буду здесь ее касаться, но она интересна, и ее тоже стоит прочитать.

Тьюринг, безусловно, прав, говоря, что значения слов меняются со временем. В области машинного интеллекта это особенно заметно. Игра в шахматы безусловно считалась областью, недостижимой для машины — и машина победила чемпиона мира по шахматам. Но, думаем мы, это не интеллект. Машина не думает. Восприятие образов, зрение было человеческой прерогативой — а теперь системы машинного зрения используются на линиях упаковки шоколадок. Но это тоже не интеллект: машина ведь не понимает, на что она смотрит. Машина не знает, как это вкусно — шоколадка, ей даже никогда не хочется ее попробовать. Значит, это тоже не интеллект. Системы, которые находят математические доказательства — тоже более не считаются интеллектуальными. Системы, которые просматривают все пакеты на входе в компьютерную сеть и «опускают шлагбаум», когда замечают подозрительные запросы, попытки «взломать» сеть — и они не интеллектуальны. Они не понимают, что такое сеть и что значит ее «взломать». Диспетчерская система, управляющая всеми линиями в Парижском метро тоже начисто лишена интеллекта. Она просто решает необозримую человеком задачу и быстро принимает часто непостижимые решения. Но что она знает о Париже?

Тут бы нам и остановиться, а то ведь так себя можно и совсем без интеллекта оставить. А может, так было бы и к лучшему. Зачем нам такое слово, которым непонятно даже, что называется?
__________________________________________

Turing, A.M. (1950). Computing machinery and intelligence. Mind, 59, 433-460

Если кто-то знает хороший перевод статьи Тьюринга — дайте, пожалуйста, ссылку.

Tags:

Comments

( 72 comments — Leave a comment )
9000
Dec. 7th, 2008 07:00 am (UTC)
Про экстрасенсорное — молодец Тьюринг, настоящий экспериментатор всегда перестрахуется на случай наводок :)
matholimp
Dec. 7th, 2008 07:23 am (UTC)
Путь Разума
Чтобы не перегружать комментарии, ответил Вам встречным постом http://matholimp.livejournal.com/26192.html . Там мой рассказик из нескольких новелл по мотивам сюжетов теста Тьюринга. О мышлении, душе, чувствах, ...
fregimus
Dec. 8th, 2008 08:46 am (UTC)
Мрачненько. А почему «сюжетов теста Тьюринга»? Я не совсем связь понял.

kmmbvnr
Dec. 7th, 2008 08:49 am (UTC)
Хм.. такое ощушение что я уже все это где-то читал. Начиная со слов "В своей статье Тьюринг..."

Уж не у Хофштадтера ли?
fregimus
Dec. 7th, 2008 08:51 am (UTC)
Наверное, у Тьюринга все-таки.
fat_crocodile
Dec. 7th, 2008 09:20 am (UTC)
Ну, имхо, задачка несложно решается, т.к. опять запутались в словах.

Просто в человеке есть не только интеллект. Интеллект это как раз такой компьютер, умеющий делать логические заключения, анализировать.

Но интеллект -- служебная часть. Ставить задачи/цели он не умеет. Угадывать он не умеет... Творить не умеет. Есть ещё кто-то, кто этим интеллектом пользуется как инструментом, подбрасывает ему задачки и данные со стороны.

В машине это можно эмулировать генератором случайных чисел... Но он всё же не настолько случайный, он генерирует осмысленные случайные числа :) Случайные потому что вне логики, а осмысленные потому что оказывается, что подходят. Так и Гегеля можно обмануть.
fregimus
Dec. 7th, 2008 10:14 am (UTC)
Хочу уточнить — Вы подписываетесь на возражения №4, №5 и/или №6.

Я правильно понимаю Ваш ответ Тьюрингу: Тьюринг просто запутался в словах, двух мыслей связать не может. Может быть, у Вас нашлось бы более конструктивное ему возражение?
(no subject) - fat_crocodile - Dec. 7th, 2008 10:29 am (UTC) - Expand
(no subject) - fregimus - Dec. 7th, 2008 10:36 am (UTC) - Expand
(no subject) - fat_crocodile - Dec. 7th, 2008 10:48 am (UTC) - Expand
(no subject) - fregimus - Dec. 7th, 2008 11:15 am (UTC) - Expand
(no subject) - fat_crocodile - Dec. 7th, 2008 11:20 am (UTC) - Expand
(no subject) - fregimus - Dec. 7th, 2008 11:51 am (UTC) - Expand
(no subject) - fat_crocodile - Dec. 7th, 2008 12:00 pm (UTC) - Expand
(no subject) - fregimus - Dec. 8th, 2008 08:45 am (UTC) - Expand
(no subject) - fat_crocodile - Dec. 8th, 2008 09:00 am (UTC) - Expand
(no subject) - fregimus - Dec. 8th, 2008 05:55 pm (UTC) - Expand
(no subject) - fat_crocodile - Dec. 9th, 2008 10:02 am (UTC) - Expand
aelfhere
Dec. 7th, 2008 01:14 pm (UTC)
Считаете ли Вы известную историю с "Корчевателем" примером успешного прохождения машиной теста Тьюринга?
fregimus
Dec. 7th, 2008 09:34 pm (UTC)
Нет, конечно. Не было ведущего, двух участников, интерактивного диалога и т. д.
(no subject) - a_konst - Dec. 8th, 2008 03:35 pm (UTC) - Expand
(no subject) - Rainaldo Anonimato [isopenid.ru] - Dec. 10th, 2008 04:20 pm (UTC) - Expand
poslednii_krot
Dec. 7th, 2008 09:27 pm (UTC)
Я бы сказал, что вопрос об интеллекте - это вопрос о социализации машин. Когда люди начнут включать роботов в свою социальную жизнь (дружить с ними, враждовать, обижаться, завидовать...), тогда и можно будет говорить об "искусственном разуме". Все прочее (включая и владение письменным языком, вырванное из контекста социальной жизни) - лишь попытка затуманить очевидное. (Чуть подробнее
у меня в журнале)
fregimus
Dec. 7th, 2008 09:43 pm (UTC)
Я прочитал. Можно поинтересоваться — Вы прочитали саму статью Тьюринга? Он дает полноценное объяснение почему он сводит вопрос к своему тесту.
(no subject) - poslednii_krot - Dec. 8th, 2008 02:25 pm (UTC) - Expand
(no subject) - fregimus - Dec. 10th, 2008 11:23 pm (UTC) - Expand
(no subject) - Rainaldo Anonimato [isopenid.ru] - Dec. 11th, 2008 12:33 am (UTC) - Expand
(no subject) - fregimus - Dec. 11th, 2008 12:47 am (UTC) - Expand
(no subject) - Rainaldo Anonimato [isopenid.ru] - Dec. 11th, 2008 01:14 am (UTC) - Expand
(no subject) - fregimus - Dec. 11th, 2008 12:11 pm (UTC) - Expand
(no subject) - Rainaldo Anonimato [isopenid.ru] - Dec. 11th, 2008 01:32 pm (UTC) - Expand
(no subject) - poslednii_krot - Dec. 11th, 2008 11:12 am (UTC) - Expand
(no subject) - fregimus - Dec. 11th, 2008 12:04 pm (UTC) - Expand
(no subject) - Rainaldo Anonimato [isopenid.ru] - Dec. 11th, 2008 02:36 pm (UTC) - Expand
(no subject) - fregimus - Dec. 11th, 2008 07:40 pm (UTC) - Expand
(no subject) - Rainaldo Anonimato [isopenid.ru] - Dec. 11th, 2008 11:44 pm (UTC) - Expand
(no subject) - poslednii_krot - Dec. 12th, 2008 11:35 am (UTC) - Expand
(no subject) - fregimus - Dec. 13th, 2008 05:57 am (UTC) - Expand
(no subject) - poslednii_krot - Dec. 13th, 2008 06:01 pm (UTC) - Expand
(no subject) - fregimus - Dec. 13th, 2008 07:32 pm (UTC) - Expand
(no subject) - poslednii_krot - Dec. 13th, 2008 09:48 pm (UTC) - Expand
(no subject) - fregimus - Dec. 14th, 2008 07:58 am (UTC) - Expand
(no subject) - poslednii_krot - Dec. 14th, 2008 01:28 pm (UTC) - Expand
(no subject) - fregimus - Dec. 14th, 2008 06:51 pm (UTC) - Expand
(no subject) - poslednii_krot - Dec. 14th, 2008 08:45 pm (UTC) - Expand
(no subject) - poslednii_krot - Dec. 11th, 2008 05:18 pm (UTC) - Expand
(no subject) - fregimus - Dec. 11th, 2008 07:32 pm (UTC) - Expand
(no subject) - Rainaldo Anonimato [isopenid.ru] - Dec. 12th, 2008 12:10 am (UTC) - Expand
(no subject) - fregimus - Dec. 13th, 2008 05:59 am (UTC) - Expand
(no subject) - Rainaldo Anonimato [isopenid.ru] - Dec. 10th, 2008 05:54 pm (UTC) - Expand
(no subject) - poslednii_krot - Dec. 10th, 2008 08:36 pm (UTC) - Expand
(no subject) - Rainaldo Anonimato [isopenid.ru] - Dec. 10th, 2008 10:30 pm (UTC) - Expand
(no subject) - poslednii_krot - Dec. 11th, 2008 05:34 pm (UTC) - Expand
xeus_top_999
Dec. 8th, 2008 09:55 am (UTC)
Ваш пост написан настолько интересно, что вы попали в Топ-30 Зиуса самых обсуждаемых тем в Живом Журнале.
Это очень положительное явление. Пожалуйста, продолжайте в том же духе. © Зиус
jaerraeth
Dec. 8th, 2008 11:06 am (UTC)
Интеллект (способность решать поставленную задачу) у компьютера потенциально есть. Запрограммируем - будет решать, т.е. будет работать не хуже человеческого.
Но у компьютера, на данном витке развития систем, нет и не предвидится способности СТАВИТЬ задачу.
В рамках теории Тьюринга рассуждать об этом трудно, т.к. о постановке задачи он ничего не говорит, только о решении задачи уже поставленной.
Rainaldo Anonimato [isopenid.ru]
Dec. 10th, 2008 06:36 pm (UTC)
Скажите, положа руку на сердце: Вы лично - много себе (или другим) поставили принципиально новых, ни из чего не вытекающих, произвольных "задач" в этом мире?
Вот родились, скажем, (поставив себе уж конечно такую задачу) - и сразу себе задачи изобретать: "надо дышать!", "надо кушать!", "надо спать!", "надо язык изучать! (выбрать только сначала...)". Или Вам это как бы не очень и требовалось? (Всё, чудесным образом, уже оказалось "украдено до нас"?..)
Где? когда? - как Вы себе представляете - пролёг тот чудесный рубеж, за которым Вы перестали опираться на "задачи", диктуемые нашему сознанию "извне" (нашим собственным устройством и устройством нашего мира), а стали их себе ставить исключительно оригинально и ничем не обусловленно? Уж не тогда ли, когда задумались: чтобы покушать - открыть ли холодильник, пойти ли в магазин или редиску на подоконнике посадить? Я даже не стану утверждать, что такого рубежа не случилось - да что мне, жалко? Просто вот, смотрите - ну, если Вам это удалось: перестать на протяжении жизни быть "только решателем" и начать с определённого момента воспринимать себя "ставящим задачи" (удовлетворяющим Вас образом), - то отчего бы за здорово живёшь в такой возможности любому компьютеру отказывать?

Я просто искренне не понимаю постулируемой Вами разницы: у Вас-человека есть "задачи" базово-врождённые + почерпнутые из социума, которые заставляют Вас впоследствии находить и ставить производные (поскольку Вы - система обучающаяся). Отключите врождённые (психическое заболевание) или не вложите социальные (дети-маугли и изолянты) - не будет нипочём и дальнейших надстроек.
Так что может мешать закладывать то же самое и в "электронный ящик"?
(no subject) - jaerraeth - Dec. 11th, 2008 01:50 pm (UTC) - Expand
(no subject) - fregimus - Dec. 11th, 2008 07:44 pm (UTC) - Expand
(no subject) - jaerraeth - Dec. 12th, 2008 02:54 pm (UTC) - Expand
(no subject) - fregimus - Dec. 12th, 2008 06:58 pm (UTC) - Expand
(no subject) - jaerraeth - Dec. 12th, 2008 08:24 pm (UTC) - Expand
(no subject) - Rainaldo Anonimato [isopenid.ru] - Dec. 13th, 2008 03:06 am (UTC) - Expand
(no subject) - jaerraeth - Dec. 15th, 2008 10:05 am (UTC) - Expand
(no subject) - fregimus - Dec. 13th, 2008 05:52 am (UTC) - Expand
(no subject) - jaerraeth - Dec. 15th, 2008 10:10 am (UTC) - Expand
(no subject) - fregimus - Dec. 15th, 2008 05:12 pm (UTC) - Expand
(no subject) - jaerraeth - Dec. 15th, 2008 05:51 pm (UTC) - Expand
vlkamov
Dec. 19th, 2008 08:24 am (UTC)
> машина ведь не понимает, на что она смотрит. Машина не знает, как это
> вкусно — шоколадка, ей даже никогда не хочется ее попробовать. Значит,
> это тоже не интеллект.

Толкование интеллекта сомнительно, но допустим. по существу же процитированного - есть масса производственных процессов, в которых работник не понимает, как вкусно или полезно то что он делает, часто вообще не догадываясь о конечном назначении продукции и(*) . Вы непроизвольно сместили акцент и сделали из этого аргумент. А это не аргумент.

* Например слепые нередко работают на сборке несложной электротехники. Представьте, что они собирают фонарики...
fregimus
Dec. 19th, 2008 09:27 am (UTC)
Ну, значит, не справился.
paraxboct
Jan. 8th, 2009 05:58 am (UTC)
Очень интересное эссе. Спасибо.

Резюмируя, добавлю, что машина не способна понимать и ососзнавать свое существование. Она лишь может совершать ряд закономерных действий, основанных на происходящих в ее "мыслительном" устройстве объективных событиях.

Человек же с этой точки зрения полагает наличие у себя воли и способности принимать решение из неисчислимого множества выбора таковых решений. И назвает это способностью думать.
fregimus
Jan. 8th, 2009 10:44 pm (UTC)
Как резюме мне это кажется странным — с это возражением Тьюринг спорил как с гипотетическим аргументом №5. Можно его так сформулировать: «машина может (что угодно), но не может осознавать себя»? С этим он как раз не согласен, и аргументы даже привел, почему он так не считает.

> происходящих в ее "мыслительном" устройстве объективных событиях.
А мышление человека не основано на объективных событиях в его мыслительном устройстве?
(no subject) - paraxboct - Jan. 9th, 2009 03:11 am (UTC) - Expand
( 72 comments — Leave a comment )