?

Log in

No account? Create an account

Previous Entry | Next Entry

Эффект «зловещей долины» хорошо известен, например, мультипликаторам. Люди испытывают симпатию к пушистому созданию или человекоподобному роботу — но только до тех пор, пока человекоподобие невелико. По мере того, как существо делается все более и более похожим на человека, симпатия переходит в сильное отторжение и неприязнь. Многие испытывают отвращение к обезьянам, в то время как, например, медведь может вызывать чувство опасности, но не отвращения.



Существует множество гипотез, пытающихся объяснить этот эффект. Полагают, например, что, начиная с какой-то ступени человекоподобия, животное, робот или мультяшный персонаж начинает восприниматься как уродливый человек, а отторжение чужака или уродства — тоже широко известное явление, в частности, порождающее в отражении на общество расизм и шовинизм. Тем не менее, есть и другие гипотезы, объясняющие это наблюдение, и нисколько не худшие: истинная причина «зловещей долины» так и остается неизвестной.

В одной из свежих статей Курт Грей из университета Северной Каролины и Дэниел Вегнер из Гарварда описывают эксперимент в подтверждение еще одной любопытной гипотезы. Согласно ей, неприязнь (в статье говорится unnerve — нервировать, причинять беспокойство) случается, когда ожидания эмоциональности объекта общения расходятся с действительностью. В то же время, интеллект, присутствующий там, где его не ожидается, не вызывает у испытуемых отторжения.

Исследователи провели два эксперимента с добровольцами. В первом трем группам рассказали о новом будто бы суперкомпьютере «Дельта Крэй». Контрольной группе объяснили, что новый суперкомпьютер значительно мощнее и быстрее любого существующего. Группе, которую мы назовем «Э+» (от «эмоций»; в статье говорится experience), было рассказано, что новый суперкомпьютер способен испытывать эмоции: голода, удовлетворения, страха и другие. Третьей группе, «И+» (от «интеллекта», agency в статье) рассказали, что новая машина обладает самоконтролем и способностью к планированию своих действий. Подопытные должны были оценить, по шкале от 1 до 5, насколько их нервировала бы встреча с этим суперкомпьютером. Контрольная группа и «И+» не нервничали: средняя оценка 1,22 и 1,36 соответственно. А вот группа «Э+» оценила беспокойство на 3,27 балла!

Во втором эксперименте исследователи сформировали три такие же группы, но показывали им на этот раз фотографию некоего человека и рассказывали его историю. Контрольной группе было сказано, что человек этот нормален во всех отношениях. Группе «И-» объяснили, что этот человек страдает неким недугом, лишающим его самоконтроля и возможности планировать свои действия. Группе же «Э-» рассказали, что этот человек неспособен испытывать никаких эмоций: он не чувствует боли, не испытывает ни радости, ни страха. Оценки беспокойства в ожидании встречи с этим человеком для контрольной группы и группы «И-» различалсь мало: соответственно 1,88 и 1,98 (в целом, контрольную группу более нервировала встреча с обычным незнакомцем, нежели демонстрация компьютера, так что повышение индекса по сравнению с первым экспериментом ожидаемо). Однако, в группе «Э-» оценка нервозности оказалась значительно выше: 2,88.



Напрашивается вывод о том, что «зловещая долина» проявляется только в эмоциональных отношениях с объектом: как компьютер, обладающий эмоциями, когда их не ожидается, так и человек, лишенный эмоций, когда им следовало бы быть, равно вызывают отторжение. В то же время, ни компьютер, наделенный рациональным умом, ни человек, лишенный рационального ума, не вызвали у испытуемых существенной неприязни.

Если задуматься, результат не такой уж и неожиданный. Если ваш холодильник попросит вас растолковать темное место из Платона, вы еще с ним поговорите, а вот если он начнет жаловаться, что ему холодно и он вообще устал работать холодильником — тут вам и правда с ним будет нелегко…

________________________________
Gray K., & Wegner D.M. (2012). Feeling robots and human zombies: Mind perception and the uncanny valley. Cognition. PMID: 22784682. В Сети есть препринт.

Tags:

Comments

( 30 comments — Leave a comment )
gdt
Jul. 28th, 2012 10:09 am (UTC)
непривычное вызывает отторжение. средний человек не удивится тому, что компьютер "думает", он и так уже "почти думает", а вот что у компьютера будут эмоции, никто не всерьез не ожидает. равно как неумных людей все видели, а людей без эмоций не бывает.
spamsink
Jul. 28th, 2012 02:44 pm (UTC)
Люди без эмоций бывают - это психопаты. Обычно, правда, их интеллект не столь высок, чтобы совсем уж не попадаться, поэтому они обычно с подросткового возраста от общества изолированы, вот нам и кажется, что их не бывает.
lenivtsyn
Jul. 28th, 2012 10:27 am (UTC)
Дык, "свой -- чужой" -- это и есть эмоциональная сфера. Т.е. я хочу сказать, что эксперименты не иллюстрируют "другие гипотезы", а по сути укрепляют первую. Слишком человекоподобные роботы -- чужие, пытающиеся сойти за своих. А свой не обязательно тот, кто так же думает, но обязательно -- тот, кто также чувствует. Если тебя что-то огорчает, то его это не развеселит и т.д.
huzhepidarasa
Jul. 28th, 2012 10:33 am (UTC)
не зловещая, а жуткая все-таки
efimpp
Jul. 28th, 2012 02:15 pm (UTC)
оба слова к uncanny имеют сомнительное отношение
(no subject) - fregimus - Jul. 28th, 2012 04:23 pm (UTC) - Expand
(no subject) - farwideserenity - Jul. 28th, 2012 04:41 pm (UTC) - Expand
(no subject) - fregimus - Jul. 28th, 2012 07:35 pm (UTC) - Expand
(no subject) - farwideserenity - Jul. 28th, 2012 10:13 pm (UTC) - Expand
slobin
Jul. 28th, 2012 10:35 am (UTC)
Какая-то фигня. По-моему, тут спутано... не удивительно, что оно тут спутано, потому что правильных слов для этих понятий я тоже не помню! Назовём их условно "низкими чувствами" и "высокими чувствами". Первыми -- голодом, страхом, удовлетворением -- животные обладают. И я утверждаю, что это не приписывание им человеческих чувств, что они реально для нас общие. А вот "высокие чувства" -- это, похоже, признак человека. Давайте для примера заменим холодильник на кошку. Если кошка начнёт жаловаться мне на то, что ей голодно... при чём здесь "если", она и так на это жалуется! А вот если на то, что ей надоело работать кошкой... иногда я подозреваю, что она и на это способна, но это всё-таки уже мои фантазии. И, кстати, какие именно проблемы ожидаются от холодильника, которому надоело? Нет, серьёзно, что именно пугает в этой ситуации? У меня есть подозрение, но я с ним пока подожду.

... Двойная жизнь без сахара ...

cobetbi
Jul. 28th, 2012 11:52 am (UTC)
>>И, кстати, какие именно проблемы ожидаются от холодильника, которому надоело? Нет, серьёзно, что именно пугает в этой ситуации? У меня есть подозрение, но я с ним пока подожду.

Нифигасе. Я представил вас и холодильник. Холодильник вдруг жалуется. А вы без малейшего удивления, лишь с некоторой сосредоточенностью - "хорошо, прекрати ныть. просто расскажи, что тебе не нравится. что ты хочешь? можешь мне что-то предложить конкретное? давай сядем и всё серьёзно обсудим".

-----

Моё мнение. Людям здесь не нравится ровно то, что не нравилось бы, например, с женой или детьми. Если жена начинает жаловаться, что "ей надоело быть женой", и вообще всё хреново, "ты козёл", "всю жизнь мне загубил", и т.д., то это очень неприятная ситуация(при том, надолго), мозгу предстоит очень непросая работа по разрешению этого кризиса, и есть риск, что кризис не удастся разрешить, а после него предётся "выстраивать жизнь по-новому". Ну и ещё надо сказать о том, о чём я выше чёрточки написал. Тут наверно нет смысла просто абстрагироваться от мистики и прочей гадости, или от более реальных проблем психиатрического порядка (весь самым разумным в ситуации с говорящим холодильником было бы задуматься о своём здоровье; кстати, ещё и это может пугать людей в вопросе). Надо сказать, что мы рассматриваем конкретный случай - "холодиьник с ИИ". Только тут возникает сразу вопрос - какому идиоту придёт в голову сделать такой холодильник? Зачем вставлять в холодильник программу, чтоб он постоянно стонал о своей тяжкой доле, напрягая своих владельцев? Пусть лучше анекдоты рассказывает что ли..., интересный маркетинговый ход на переполненном рынке холодильников.
(no subject) - fregimus - Jul. 28th, 2012 07:39 pm (UTC) - Expand
cobetbi
Jul. 28th, 2012 11:17 am (UTC)
Дьявольски интересная тема. Всегда задумывался. Например, над тем какое невероятное обезьянство демонстрируют люди, воспринимающие разные типы "разумных роботов" в кино. Скажем, что ьыло бы, если бы в фильме "терминатор" роботы выглядели как в фильме "двухсотлетний человек" или наоборот? Ну и т.д. Вообще, если задуматься, люди - абсолютные неразумные обезьяны, не способные рационально мыслить, а на 100% управляемые "прошитой в мозгах" системой распознавания визуальных образов, которая генерирует управляющие ими эмоции. Или интересный вопрос, почему такое умиление вызывают детёныши млекопитающих. Если рационально подумать, эволюция должна была бы другие механизмы сформировать. Скажем, если первобытный человек идёт по лесу и увидел медвежонка (или львёнка), он должен чуствовать крайние страх и опасность, ведь где-то медведица или львица.

И я думаю, надо разделять здесь разные вещи. Есть одна интересная штука - это вот эта система распознавания визуальных образов. Кстати, интереснее всего распознавание лиц монстров, инопланетян и зомби. Это, видимо, наследие со времён, когда было много видов хомо, и вообще много высокоразвитых обезьян. Недавно, например, вообще меня впечатлило одно видео. У меня есть "теория", что "обеьяна стала человеком, когда взяла в руку палку, ... и убила обезьяну-конкурента". Никогда не видел, чтоб кто-то кроме человека использовал оружие, а тут вообще офигенные кадры. Шимпанзе загнала какую-то обезьянку в дупло на дереве, и долго радостно тыкала в неё острой палкой. То есть, ещё немножко, и шимпанзе были бы опасны для человека. Но им повезло, что они некоторого критического уровня развития всё же не достигли, не перешли некоторую границу. Так вот. Это одно - прошитая в мозгах система распознавания визуальных образов, которая людьми полностью управляет. Абсолютно другой вопрос то, что написано в конце. Думаю, никак не связано. Тут нормальное рациональное абстрактное мышление. Человек всегда любит взаимодействовать с понятными предсказыемыми системами. Например, чем друзья замечательны? Именно тем, что это насквозь понятные предсказуемые системы. А вот непонятные люди вызывают тревогу, нервируют. Так же и любые нечеловеческие системы должны быть понятны и предсказыемы, иначе нервируют.
fregimus
Jul. 28th, 2012 07:42 pm (UTC)
Да, шимпанзе воюют стаями, причем не на жизнь, а на смерть, очень жестоко.

Что чужак отталкивает — это несомненно. Эксперимент проводился, чтобы различить аспекты «чужести». Чужой интеллект, выходит, не вызывает такого отторжения, как чужие эмоции.
(no subject) - cobetbi - Jul. 28th, 2012 08:43 pm (UTC) - Expand
(no subject) - fregimus - Jul. 28th, 2012 08:45 pm (UTC) - Expand
(no subject) - cobetbi - Jul. 28th, 2012 09:53 pm (UTC) - Expand
(no subject) - annamain_r - Aug. 12th, 2012 09:54 pm (UTC) - Expand
oleg96345
Jul. 28th, 2012 11:58 am (UTC)
Эмоции -- это огромная массивная пирамида, интеллект -- небольшая надстройка, про которую известно из СМИ, что она уже как бы частично реализуется на компьютерах, ведь они играют в шахматы, распознают голоса/лица, предсказывают погоду и т.д.
fregimus
Jul. 28th, 2012 08:48 pm (UTC)
То есть, Вы говорите о том, что люди воспринимают свою эмоциональную сущность как огромную пирамиду, а ум — как нечто прикладное? Я не знаю просто, мне по себе судить не кажется верным, как бы элитистски это ни звучало. Такие эксперименты как раз и позволяют встретиться взглядом с бездной…
(no subject) - oleg96345 - Jul. 29th, 2012 11:54 am (UTC) - Expand
farwideserenity
Jul. 28th, 2012 12:32 pm (UTC)
Да, любопытно.

А есть и такие исследования:

"В неграх видят обезьян

Одной из причин дискриминации афроамериканцев является то, что они «напоминают белым обезьян». Стэнфордские психологи, занимавшиеся изучением расизма и его причин, пытались понять, откуда возникает это чувство и неотрывно связанная с ним жестокость.

Выяснилось, что изображения черных подсознательно ассоциируются у белых, которые были основными добровольцами в испытании, с обезьянами и дикой природой. Причем подобных результатов не удалось показать для азиатов, тоже подвергающихся нападкам расистов."

ethology.ru/news/?id=431
fregimus
Jul. 28th, 2012 08:49 pm (UTC)
Есть что-то зашитое, наверняка есть. Но ведь человеческое — это не столько обезьяна, сколько то, насколько нам эту обезьяну удается приручить.
(no subject) - farwideserenity - Jul. 29th, 2012 12:52 pm (UTC) - Expand
shuurrsh
Jul. 28th, 2012 12:40 pm (UTC)
С усталым и замерзшим холодильником примерно понятно о чем и как говорить. А вот что удумает холодильник, размышляющий о Платоне... Мне как раз здесь заранее жутко. Впрочем, меня и человек, лишенный самоконтроля и планирования, пугает больше, чем человек, лишенный эмоций. Последний-то вполне предсказуем, в отличие от первого.
А так, красиво все очень.
fregimus
Jul. 28th, 2012 08:50 pm (UTC)
Тут бы я повторил вот это, о неловкости: http://fregimus.livejournal.com/197291.html?thread=5651627#t5651627

Можно в той ветке дальше продолжить разговор, если интересно..
sizif73
Jul. 28th, 2012 09:26 pm (UTC)
Забавно. Попробовал поставить себя в подопытные группы, и понял, что в обоих случаях (эмоциональный комп / безэмоциональный человек) беспокойство вызывают вроде бы противоположные причины, но в итоге ведущие к одному и тому же.
Мы не знаем что нам сделает озлившийся на нас компьютер или вдруг пожелавший нам добра. Зарисовок на эту тему у фантастов хватает. С безэмоциональным человеком же мы предполагаем отсутствие у него сочувствия, и что он нам может причинить неприятности из любопытства или просто от скуки. В обоих случаях мы не можем предвидеть их мотивы и предсказать поведение.
Вот только не понял, какое отношение эти эксперименты имеют к природе "зловещей долины".
livejournal
Jul. 30th, 2012 01:19 am (UTC)
Тайна зловещей долины раскрыта!
User cobetbi referenced to your post from Тайна зловещей долины раскрыта! saying: [...] В продолжение поста "Зловещая долина, интеллект и эмоции" [...]
annamain_r
Aug. 12th, 2012 09:58 pm (UTC)
Впечатляющий график! НО вот вопрос: а что насчет ультур, где выражение эмоций прессингуется, считается непреемлемым?
emuzychenko
Dec. 30th, 2012 06:11 pm (UTC)
Для отнесения к "своим" и "чужим" действительно важна степень детализации. Такой же механизм работает, например, и при оценке рисунков: простенький набросок отдельными мазками, кого-то неуловимо напоминающий, многие оценят очень высоко, но более детальный рисунок оценят уже гораздо более критично - для высокой оценки потребуется либо высокая степень натуральности, либо какие-то особые приемы, иллюстрирующие мастерство.
( 30 comments — Leave a comment )