?

Log in

No account? Create an account

Previous Entry | Next Entry

Хард и софт

slavin_e спросил меня (не прошло с тех пор и года):
Каким образом, по вашему мнению, возник человеческий интеллект? [...]

Я немного программирую, и знаю из опыта, что бывает такая ситуация, что для небольшого изменения функциональности программы требуется переписать ее с нуля, т. к. это изменение требует полной смены плана программы. В частности, иногда приходится перепридумать то, каким образом структурированы данные, которые использует алгоритм в ходе своей работы, и из-за этого код меняется до неузнаваемости. Как же человеческий интеллект, развиваясь в ходе эволюции, мог перескочить такие «барьеры», которые не преодолеваются за множество мелких шагов, а только сразу, за один большой шажище, который вряд ли может совершиться случайно? Или вы считаете, что путем мелких случайных изменений программа мозга достигла с нуля того уровня, когда она может изменять себя уже не случайно, а алгоритмически?
Ответ на простой вопрос может быть очень непростым. У меня не получится ответить на него коротко. Если попытаться выразить сказанное ниже в нескольких словах, например, «fregimus сказал, что мозг — это компьютер», то получится глупость. Между тем, ниже, как это ни странно, я действительно это едва ли не скажу.

Аналогия между мозгом и компьютером — одна из самых сильных и самых неверно применяемых. Эта мысль очень глубока и мощна, и, как и любой опасный инструмент, требует умелого и осторожного обращения. В нее нельзя бросаться без подготовки — из нее было выведено столько глупостей, что, видя ее упоминание, многие болезненно морщатся и скрипят зубами, как будто сама эта аналогия в принципе недопустима. Но это не так. Аналогия есть сильнейший из всех инструментов мышления. Меж тем, любую аналогию можно довести неумелым обращением до абсурда, а наиболее мощные из них равно скоро приводят и к замечательным, и к глупейшим выводам. Поэтому мне бы хотелось сначала внимательно рассмотреть, насколько мозг можно сопоставить с аппаратурой вычислительной машины, а ум, mens, — с ее программным обеспечением.

Прежде всего, нам надо аккуратно выбрать уровни и предметы сравнения. Компьютер угловатый, сухой, жужжит под столом, а мозг округлый, мокрый, тихо сидит в черепе. На этом уровне мы никакого подобия не увидим… Шутки шутками, но, огрубленно, это «сравнение» дает нам понять, насколько далеко нам придется углубиться в абстракции, чтобы аналогию нашу имело смысл применять, и, тем более, делать из нее интересные выводы. В первую очередь, нам следует договориться о том, что такое компьютер, и чем различаются «хард» и «софт».

Ну, это просто! «Хард» — вот он, его можно увидеть, пощупать, померять токи и напряжения. А программа — нефизическая сущность, ее нельзя увидеть или измерить.

Это частая ошибка в рассуждении. Начнем с того, что на свете нет ничего «нефизического»: любая система, обрабатывающая информацию, непременно представляет ее взаиморасположением вполне материальных объектов. Программа современной вычислительной машины хранится в оперативной памяти, в виде малых электрических зарядов между электродами транзистора. Исполнение программы возможно только благодаря электрическим токам — распространению полей вдоль проводников. Программа на магнитном диске находится в виде комбинации магнитных доменов, сохранющих намагниченность и без подвода внешней энергии. Таким образом, программа вычислительной машины непременно изменяет физическое состояние самой машины.

Если этот эффект кажется малым, обратимся на 60 лет назад. Первые вычислительные машины еще не умели хранить программы в памяти. Они программировались втыканием кабелей в гнезда — вспомните картинку с телефонной «барышней», соединяющей звонки. Еще раньше были перфокарты и перфоленты. Пробивание дырочек в бумаге — очень даже заметное физическое изменение, и именно оно принципиально важно для работы программы.

Но программа — это не дырочки в бумаге, не электроны и не магнитные домены. Редукция программ до подобных вещей невозможна — или, если и возможна формально, то не приведет к пониманию того, как программа работает. Понимание программы возможно лишь на ином уровне, а именно на уровне математических абстракций, которые эта программа реализует. Иными словами, мы можем думать о программе множеством способов, и одни из них более продуктивны, чем другие.

«Софт» отделяется от «харда» тем, как мы о них думаем?!

Да, и в этой мысли нет ничего странного. Мы привыкли к такому разделению настолько, что мы его не осмысливаем. Для решения программистской задачи нам дается условие, и в это условие неявно входит существование компьютера. Программист изготавливает нечто, что в совокупности с этим компьютером решает поставленную задачу. Это нечто мы называем программой, и отделяем ее от «железа» по линии поставленной задачи: то, что было дано, и то, что программист менять в процессе решения не мог, мы назовем «железом», а то, что к нему добавили, решая задачу — «программой». Эту границу провести просто, только когда была поставлена задача, и мы можем проследить процесс ее решения. Теперь представьте марсианского ученого-компьютеролога, которому достался работающий компьютер с простеньким текстовым редактором. Проведет ли он границу там же, где провел ее программист, написавший этот редактор?

Чтобы почувствовать, каким может быть ответ на этот вопрос, задумаемся о реальности границ. Если граница между «хардом» и «софтом» реальна, но марсианин ее обнаружит. Если эта граница существует в человеческом сознании, отягощенном западной культурой и наукой, то вполне вероятно, что марсианин прочертит ее иначе. Пример с компьютером, чтобы рассуждать о границах было легче, можно значительно упростить. Представьте себе три камешка на столе. Где проходит граница, отделяющая «три» от камешков? Реальна ли она? А если мы возьмем три кубика, или три гайки, или три стола, или три горы или планеты, и проведем границу, она отделит то же самое «три» — существует ли «три» само по себе?

Здесь можно было бы говорить о разных философских системах, но, чтобы нам думать дальше, годится только одна. В мире нет «трех» — во всяком случае, в мире за пределами наших с вами костяных черепов. И, чтобы два раза не вставать, в мире нет кубиков, гаек, столов, гор и планет.

О, месье идеалист?

Отнюдь нет. Мир состоит из материи (вещество и энергия), но эта материя не аморфна, а организована определенным образом. Вторая важная составляющая мира — структура материи (информация и энтропия). Но эта структура не содержит естественных границ и предметов — их мы выделяем сами, своим сознанием. В определенных областях пространства физические свойства меняются — три камешка на столе плотнее воздуха, например, — но не более того. Нет ничего, что бы делало эти вещи камешками.

Наверное, если вы попытаетесь сейчас представить, как выгладит мир без понятий, которые мы вводим, ничего не получится. Мы просто не умеем так видеть и думать. Наш внутренний мир с рождения наделен ощущениями, через которые мы проводим границы и придаем видимому свойства. Даже новорожденный младенец видит мир уже с границами: красное — красное, а теплое — теплое. Потом он узнает, что красное называется словом «красное», но даже не называя, он уже знает, что это такое. Многие из тех границ, что мы проводим — врожденные. Прочие образуются культурой, и, в современной нам культуре, наукой. Понятие «теплого» есть у всех людей на свете, а понятие, например, «турбулентность» — только у культур, в которых существует физика.

Наука строит модели, но неверно говорить о моделях, будто они являются упрощением реальности. Модели — способ представления определенных аспектов реальности, и хорошая модель постижима и обладает предсказательной силой, но, так или иначе, модель остается идеальной конструкцией, не являющейся упрощением чего бы то ни было.

Значит, разделение вычисляющей системы на «хард» и «софт» — модель?

Да, и эта модель построена так, чтобы быть понятной человеку современной культуры. Марсианская модель или модель человека иной культуры не обязана быть такой же.

Более того, любая вычисляющая система непременно состоит из «железа» и «программы». И то, и другое возьмем в кавычки: железо может быть отнюдь не железным, а программу никто не программировал. «Программа» будет описанием процесса переработки информации в системе (почти эквивалентным процессом будет распределение энтропии в системе, но так думают обычно о термодинамических системах, а не о вычислительных). Но никакая переработка информации невозможна без материальной основы; в частности, чтобы производить вычисления, система должна получать из внешнего источника низкоэнтропийную, а диссипировать, рассеивать высокоэнтропийную энергию.

Такое разделение возможно, повторюсь, для любой системы, но полезно оно лишь для понимания систем, где обработка информации является существенной частью изучаемого процесса. Можно, например, изучая литосферную тектонику, говорить о процессах, изменяющих энтропию, но выделять их в «программу» вряд ли полезно для получения осмысленных результатов. С другой стороны, для описания таких систем, как работающий мозг или реплицирующаяся ДНК, выделение информационного слоя в процессе способствует их пониманию.

Программы можно исполнять на разных компьютерах. А «софт» мозга может работать на разном «харде»? Если нет — грош цена такой модели!

Само собой, «переписать» целый живой мозг на компьютер или в другой мозг — задача не только невыполнимая практически, но и поднимающая целый пласт этических вопросов. Ограничимся здесь осознанием того, что, получив полную копию ума в компьютере, мы вряд ли сделаем его более понятным. Модели, пригодные для понимания и изучения, охватывают лишь малый срез процессов, происходящих в настоящем мозге. Вот такие модели показывают большую предсказательную силу. Модель обонятельного тракта крысы, построенная несколько лет назад моим коллегой, например, предсказывает дискретную перцепцию с частотой 5 Гц (то есть запах считывается не непрерывно, а 5 раз в секунду), и именно такую частоту обнаруживают в соответствующей области мозга живой крысы.

В нашей модели «харда» и «софта» мы, в определенном смысле, рассматриваем «софт» как часть, переносимую на другой «хард». Это не метафора. Обонятельная модель крысы производит те же вычисления, что живой крысиный мозг. Модель — часть настоящего крысиного информационного процесса в вычислительной машине. В такой форме аналогия мозг — аппаратура и mens — программа осмысленна и производительна.

Остановимся подробнее на том, где проводится линия, разделяющая «хард» и «софт» в этой модели. «Софт», очевидно, это информационный процесс, реализуемый одинаково в живом мозге крысы и в вычислительной модели. Но что же является «хардом»? В случае мозга — это сеть из соединенных нейронов. Но нейрон — это живая клетка с очень сложным своим, внутренним поведением. Мы не рассматриваем в модели все аспекты поведения нейрона — лишь малую их часть, которая, по выбору строящего модель, принципиально важна для понимания работы механизма. В компьютерной модели сначала строится модельный нейрон, обладающий теми же самыми принципиальными свойствами, и он тоже является частью «харда». Это как бы симулятор, виртуальный «хард», подобный сумулятору системы команд, например, древнего TRS-80, позволяющего запускать CP/M и ее BASIC на обычном персональном компьютере. Получается, что часть симуляционной программы образует в модели «хард» вместе с аппаратурой настоящего компьютера, на котором уже работает тот самый «софт».

Как и любая аналогия, эта имеет свои пределы применимости. Например, заметным отличием будет то, что «железо» мозга изменяется не только под непосредственным управлением программы, но и само по себе (а в промежутке можно найти множество градаций опосредованности), и иногда, в зависимости от рассматриваемого аспекта, это отличие нужно учитывать. Ну и, конечно, самое интересное для нас сейчас отличие в том, что мозг никто не программирует.

Так откуда все-таки берется «софт», которого никто не пишет?

Переформулируем этот вопрос, чтобы обычное значение слова «софт» не увело нас в сторону, так: каким образом сложный процесс нетривиальной обработки информации самоорганизуется в мозге? Таким образом, мы включаем в число «программ» и непонятные, и бесполезные для обычных практических целей; вопрос в том, как образуются структуры, организующие и обрабатывающие информацию.

Нам известно множество систем, испытывающих самоорганизацию. Самоорганизация — такой процесс, в котором внутреннее информационное устройство системы усложняется. Самоорганизация происходит в достаточно обширных системах, содержащих множество взаимодействующих элементов и охваченных петлями положительной и отрицательной обратной связи. Я избегаю слова «сложных», говоря вместо него «обширных», потому что самоорганизация наблюдается и в системах, где элементарные взаимодействия чрезвычайно просты. Даже такие системы могут проявлять чрезвычайно сложное, непостижимое поведение, по которому нельзя восстановить, очевидным, во всяком случае, образом, эти элементарные взаимодействия.

Программы для вычислительных машин, которые пишут люди, напротив, не должны проявлять сложного, неожиданного поведения. Программы пишутся с результатом в уме, так, чтобы совершать предсказуемые, заложенные в них действия. Само собой, что исправно работающая в этом смысле программа должна находиться в состоянии, далеком от критического. Это не всегда получается, но, когда программа начинает «себя вести», это всегда неожиданно и плохо. Знаете ведь шутки, что было бы, если бы «Микрософт» строил самолеты? «Когда в салоне находится сумка в частую красную полоску, то в полете отвалится левое крыло». Вычислительные системы много гибче других инженерных сооружений, имеют большее число степеней свободы, но оттого они намного легче скатываются в критическую область.

Очень многие думают, что компьютерные программы всегда, всенепременно детерминированы в своем скучном поведении. Это верно — как эмпирический, наблюдаемый неспециалистом факт, но отнюдь не как данность, непременно присутствующая в «софте». Скорее, верно как раз обратное: программисты прилагают множество усилий к тому, чтобы поведение программы было детерминированным и скучным!

Так почему же мы не пишем «критических» программ, которые так легко было бы перенастроить на новый вид вычислений?

С одной стороны, мы ими, конечно, пользуемся. Нейронные сети — как раз пример таких программ. С другой стороны, было бы неверным, в нашей терминологии, говорить, что мы эти «программы» каким-либо образом «делаем»: ведь программа, которую пишет человек, реализует механизмы нейронной сети, то есть является «железом», аппаратурой вычисления; «программа» же в данном случае выращивается таким же естественным образом, как и в природе, где эти механизмы подсмотрены.

Нейронные сети, при своей универсальности, имеют и серьезные недостатки. Например, обучение нейронной сети, именно то самое органическое взращивание ее поведения, — очень долгий процесс, требующий огромного объема учебных данных. Практически всегда, когда алгоритм решения известен, он оказывается куда эффективнее, чем нейронная сеть. Нейронные сети хороши для решения задач, которые мы не знаем, как решать. Универсальность здесь не дается даром. Это же относится и к живым нервным системам: их неспециализированность позволяет решать неограниченное множество задач, но имеет своей оборотной стороной неэффективность, по сравнению со специализированным механизмом, при решении почти любой конкретной из них.

Литература

Книги о самоорганизации в естественных системах:

1. Kauffman, S., (1993). The Origins of Order. Oxford Oxfordshire : Oxford University Press.
2. Camazine, S., et al., (2001). Self-Organization in Biological Systems. Princeton: Princeton University Press.

А также статьи о вычислениях в самоорганизующихся системах:

3. Bertschinger H., Natschläger T. Real-Time Computation at the Edge of Chaos in Recurrent Neural Networks. Neural Computation 16 (2004): 1413—1436.
4. Lazar A, Pipa G, Triesch J. SORN: a self-organizing recurrent neural network. Front Comput Neurosci. 2009;3:23. Epub 2009 Oct 30.

Tags:

Comments

( 85 comments — Leave a comment )
Page 1 of 2
<<[1] [2] >>
blotigracher
Sep. 6th, 2010 07:09 am (UTC)
Но проблема в том, что все модели нейронных сетей несостоятельны. Да, они применимы как для известных задач (банальное распознавание образов, классификаторы, например), так и для неизвестных, когда итеративно надо получить действующую модель или приближение. Отлично, но это совсем не ответ на главный вопрос, это попытки положить вычисления нестандартными путями на "живые" модели, но не "интеллект". По сути, у машины нет эмоции, и сама она не думает, даже в самообучающихся и динамических системах. Простое переложение "харда" на опыт, как это похоже на человека, не работает на самом деле с дальнейшей настройкой программы и обучения. Подобный аппаратно-программный подход, всякие приближения с самоорганизацией, самообучением и связанными памятью несостоятелен. Мозг мыслит быстро и эффективно... и не однозначно.
fregimus
Sep. 6th, 2010 07:19 am (UTC)
Нельзя ж топором тесто месить. Модель не умеет быть несостоятельной — она что-нибудь, да описывает. Такое ощущение, что Вы пытаетесь ее для чего-то такого приспособить, для чего она не предназначена, а потом ругаете модель.

Все остальное — такая рубка сплеча, что даже и не знаю, как ответить… Откуда Вы знаете, что у машины нет эмоций? Даже если она сама так сказала — с какой стати ей надо в этом верить?
(no subject) - blotigracher - Sep. 6th, 2010 07:44 am (UTC) - Expand
(no subject) - fregimus - Sep. 6th, 2010 07:57 am (UTC) - Expand
(no subject) - cobetbi - Sep. 6th, 2010 09:40 pm (UTC) - Expand
(no subject) - fandaal - Sep. 7th, 2010 05:11 am (UTC) - Expand
(no subject) - fregimus - Sep. 7th, 2010 06:57 am (UTC) - Expand
(no subject) - cobetbi - Sep. 7th, 2010 12:32 pm (UTC) - Expand
(no subject) - fregimus - Sep. 7th, 2010 06:59 am (UTC) - Expand
(no subject) - cobetbi - Sep. 7th, 2010 12:31 pm (UTC) - Expand
(no subject) - fandaal - Sep. 6th, 2010 04:46 pm (UTC) - Expand
(no subject) - blotigracher - Sep. 9th, 2010 05:06 am (UTC) - Expand
bvn_mai
Sep. 6th, 2010 07:30 am (UTC)
Уважаемый Fregimus, третья ссылка "...3. Bertschinger H., Natschläger T. Real-Time Computation ..." дает "...Страница не найдена! ". Если не сложно, поправте ее.
Ох, сйчас понабегут люди, которые будут доказывать Вам доказывать, что мозг это не комьютер :)
Еще раз огромное спасибо за отличный текст и ссылки.
fregimus
Sep. 6th, 2010 07:50 am (UTC)
Ой, страница-то с каким козлищем! Поправил. Рад, что Вам текст понравился, спасибо.
(no subject) - bvn_mai - Sep. 13th, 2010 08:00 pm (UTC) - Expand
(no subject) - fregimus - Sep. 13th, 2010 10:21 pm (UTC) - Expand
(Deleted comment)
fregimus
Sep. 6th, 2010 08:16 am (UTC)
Я попытался, во всяком случае. Ответ зависит от того, как именно выделить «хард» и «софт».

Не знаю, возможна ли сетлеретика. Пока неизвестно ничего, принципиально запрещающего копирование сознания, но, с другой стороны, практическую возможность зацепить пока не за что, знаний таких нет. Думаю, еще многому надо научиться — одним из шагов будет коррекция психики (а что мы вообще знаем о психике!) в естественном мозге — люди-то в своем родном теле в какие депресняки впадают и с катушек слетают, а ежели их в ящик переписать… Этот путь долог и труден в любом случае. И еще я думаю, что решение проблемы будет иное — как-то иначе поделятся пропорции между живым и машинным в будущих киборгах, чем 100% кремния.
(Deleted comment)
(no subject) - fregimus - Sep. 6th, 2010 08:36 am (UTC) - Expand
(Deleted comment)
(no subject) - fregimus - Sep. 6th, 2010 05:04 pm (UTC) - Expand
(no subject) - fandaal - Sep. 6th, 2010 08:37 pm (UTC) - Expand
(no subject) - fregimus - Sep. 6th, 2010 11:26 pm (UTC) - Expand
(no subject) - cobetbi - Sep. 6th, 2010 09:55 pm (UTC) - Expand
(no subject) - fregimus - Sep. 6th, 2010 11:45 pm (UTC) - Expand
pingback_bot
Sep. 6th, 2010 03:17 pm (UTC)
Про "мозг это компьютер?"
User darth_vasya referenced to your post from Про "мозг это компьютер?" saying: [...] ей [включая, правда, и спам] начиная с ~31 августа), я всё равно её люблю и стараюсь читать, потому что она регулярно приносит, например, такое: http://fregimus.livejournal.com/116622.html [...]
palmas1
Sep. 6th, 2010 05:54 pm (UTC)
А как Вы думаете, информация и энтропия - они есть или это просто наш способ думать о материи? А можно иначе и без них?
fregimus
Sep. 6th, 2010 10:32 pm (UTC)
Как взаиморасположение материальных элементов — конечно есть. Без них — не знаю. Папуасы думают без них, но можно ли перестроить всю научную мировоззренческую картину, отказавшись от энтропии, не знаю, можно ли. Наверное, можно, если думать в терминах квантовой электродинамики и «не замечать» макромира, но я все равно не уверен, что получится.
(no subject) - palmas1 - Sep. 7th, 2010 01:28 am (UTC) - Expand
(no subject) - fregimus - Sep. 7th, 2010 07:08 am (UTC) - Expand
(no subject) - palmas1 - Sep. 7th, 2010 04:48 pm (UTC) - Expand
(no subject) - fregimus - Sep. 9th, 2010 01:05 pm (UTC) - Expand
(no subject) - palmas1 - Sep. 10th, 2010 05:03 am (UTC) - Expand
(no subject) - fregimus - Sep. 11th, 2010 03:16 am (UTC) - Expand
(no subject) - palmas1 - Sep. 11th, 2010 06:31 am (UTC) - Expand
(no subject) - fregimus - Sep. 11th, 2010 07:48 am (UTC) - Expand
(no subject) - fregimus - Sep. 11th, 2010 03:21 am (UTC) - Expand
(no subject) - kondybas - Sep. 12th, 2010 03:15 pm (UTC) - Expand
(no subject) - palmas1 - Sep. 13th, 2010 04:59 am (UTC) - Expand
(no subject) - kondybas - Sep. 13th, 2010 08:15 am (UTC) - Expand
(no subject) - palmas1 - Sep. 13th, 2010 02:18 pm (UTC) - Expand
(no subject) - kondybas - Sep. 13th, 2010 02:30 pm (UTC) - Expand
(no subject) - palmas1 - Sep. 13th, 2010 04:10 pm (UTC) - Expand
(no subject) - kondybas - Sep. 13th, 2010 04:38 pm (UTC) - Expand
(no subject) - palmas1 - Sep. 13th, 2010 05:16 pm (UTC) - Expand
(no subject) - kondybas - Sep. 13th, 2010 05:35 pm (UTC) - Expand
(no subject) - _iga - Sep. 13th, 2010 01:40 am (UTC) - Expand
(no subject) - palmas1 - Sep. 13th, 2010 04:58 am (UTC) - Expand
luxett
Sep. 6th, 2010 06:27 pm (UTC)
отличная статья.
выражу свое мнение:
ИМХО, в разуме (говорим о человеке, ибо иного не знаем) все-таки первичем хард. Софт накручивается потом, и не совсем сам, как это может показаться. причем в мозге есть своя (и весьма большая) область ПЗУ (интстинкты, безусловные рефлексы), где программы прописаны именно хардом - никакого софта в них нет, там все зависит только конкретно взятых нейронов. Но это не разум.
а вот разум создается (именно создается!) социализацией и воспитанием. большую (наверное, главенствующую) роль в этом имеет речь (для примера - в большинстве сказок когда лев ест зебру (с), это плохо, а рыбо - нормальный компромис, и зритель с этим согласен. догадайтесь почему - рыба не разговаривает). И это - речь родителей, их поведение, их советы и понукание - как раз и есть работа программиста.
поэтому мозг можно разделить на две составляющие: хардовую, в которой по структуре "харда" уже заложена программа и (мне она, несмотря на осведомленность и глубокую материалистичность взглядов, все равно кажется несколько мистической) программируемой. вот второй у неразумных как рах и нет.

а вот еще - в принципе нет никакой уверенности, что наш разум есть ни что иное, как высокоорганизованный рефлекс, а сознание не больше, чем фикция , созданная (самоорганизовавшаяся) средой для удобства коммуникации единиц функционирования среды. как такая версия?
fregimus
Sep. 6th, 2010 11:34 pm (UTC)
Насчет ПЗУ есть такой коан.

Сюссман просветляется

Когда Сюссман, будучи еще простым послушником, сидел однажды за терминалом PDP-6, к нему подошел Минский.
— Что ты делаешь? — спросил Минский.
— Я обучаю случайно соединенную нейронную сеть играть в «крестики-нолики», — ответил Сюссман.
— А почему твоя сеть соединена случайным образом? — удивился Минский.
— Чтобы у нее не было никаких предположений, как играть в «крестики-нолики».
Минский ничего не ответил, только закрыл глаза.
— Мастер, почему ты закрыл глаза? — спросил Сюссман.
— Я закрыл глаза, — ответил Минский, — чтобы в комнате никого не было.
В этот момент Сюссман просветлился.
(no subject) - luxett - Sep. 7th, 2010 06:05 pm (UTC) - Expand
eslitak
Sep. 6th, 2010 06:57 pm (UTC)
> Очень многие думают, что компьютерные программы всегда, всенепременно детерминированы в своем скучном поведении. Это верно — как эмпирический, наблюдаемый неспециалистом факт, но отнюдь не как данность, непременно присутствующая в «софте».

Полагаю, это верно всегда и всенепременно. Программа в принципе не может ничего "отчебучить", если только она на взаимодействует с некоторым внешним (по отношению к программе) генератором случайностей. Другое дело, что программист может ошибиться или не учесть какой-то влияющий на работу программы фактор. Тогда как раз и наблюдается непредсказуемое поведение программы, то есть, эмпирический факт её скатывания в критическую область. И неспециалистами тоже наблюдается.

И ещё, если я правильно понял (если нет - поправьте), в вашей статье как бы само собой подразумевается, что алгоритмический компьютер является пусть и упрощённой, но хорошей моделью мозга. А ведь это ни разу не доказано! Пока мнение об аналогичности базовых принципов построения человеческого интеллекта и вычислительной машины базируется только лишь на том факте, что никакого другого устройства для обработки информации, кроме алгоритмической машины Тьюринга, человечество не придумало.

А вообще, славная писанина :)
a_bronx
Sep. 6th, 2010 09:27 pm (UTC)


Программа в принципе не может ничего "отчебучить" потому что вычислительные схемы процессора в принципе не могут ничего "отчебучить" -- они работают согласно спецификациям, за отклонениями от которых которыми строго следит отдел тестирования и техприёмки.

Тогда и мозг в принципе ничего не может "отчебучить", потому что нейроны тоже в принципе не могут ничего "отчебучить" -- они работают согласно спецификациям, за отклонениями от которых строго следит естественный отбор.

Всё упирается в широту термина "отчебучить".
(no subject) - palmas1 - Sep. 7th, 2010 02:19 am (UTC) - Expand
(no subject) - a_bronx - Sep. 7th, 2010 06:57 am (UTC) - Expand
(no subject) - fregimus - Sep. 7th, 2010 07:13 am (UTC) - Expand
(no subject) - a_bronx - Sep. 7th, 2010 07:22 am (UTC) - Expand
(no subject) - eslitak - Sep. 7th, 2010 04:20 pm (UTC) - Expand
zweipatronen
Sep. 6th, 2010 07:21 pm (UTC)
Отрадно видеть знакомые мысли.

Только, в общем случае система не обязана осуществлять диссипацию при произведении вычисления, т.к. не существует нижней границы энерговыделения, как считали ранее, приписывая её каждому «элементарному акту», а диссипативный процесс может быть заменён обратимыми перераспределениями энтропии (в определённых системах). Это, конечно, никак не меняет остального сказанного и, если говорить о мозге, то может и вовсе к нему непосредственно не относиться, ведь, например, нейроны в этом плане крайне неэффективны из-за своих размеров (что, собственно, ещё раз подчёркивает важность организационной структуры).
fregimus
Sep. 6th, 2010 11:19 pm (UTC)
А что, как то придумали, как обойти предел Ландауэра в необратимом вычислении? Я не слышал об этом, расскажите, пожалуйста!
(no subject) - zweipatronen - Sep. 7th, 2010 07:59 am (UTC) - Expand
(no subject) - fregimus - Sep. 7th, 2010 08:02 am (UTC) - Expand
(no subject) - zweipatronen - Sep. 7th, 2010 10:44 am (UTC) - Expand
(no subject) - fregimus - Sep. 7th, 2010 04:41 pm (UTC) - Expand
(no subject) - fregimus - Sep. 7th, 2010 08:03 am (UTC) - Expand
cobetbi
Sep. 6th, 2010 09:34 pm (UTC)
Я щас одну очень мощную мысль сообщу про мозговой софт.

Можно ли мозговые программы перемещать на разное железо?

Конечно же. Это происходит непрерывно. Именно это происходит в моих мозгах когда я читаю этот текст, это происходит в мозгах, осмысливающих этот камент. Меняются "модели мышления" - а это и есть "перенос софта".
Утверждение сомнительно, если речь идёт о гуманитарных духовных полях исуса и любви. Но например. У меня как-то очень мощное удивление возникло, когда из меня усиленно начинали делать математика в вузе, и когда я размышлял над происходящим. Треугольники, круги, точки, пространства, операторы... Как-то получается так, что после долгих разговоров, в разных мозгах возникают идеально, в точности, одни и те же "механизмы", абсолютно тождественные, подчеркну. Нет никакой свободы взглядов на какой-нибудь оператор - добрый он или злой, православный или онтихристовский, есть одно абстрактное, но предельно точное понимание.
Но это просто "ощущение" из личного опыта. На самом деле и в "гуманитарном" всё так же. Там даже частенько наблюдаются явления гораздо более примитивного, почти автоматического, уровня. Например, возьмём политику, "демократия спасёт мир!", "сила рыночной экономики!", "при коммунизме леса не горели!"... Часто ведь мышление человека представляет из себя набор абсолютно убогих примитивных штампов (в рассуждениях о политике это очень ярко проявляется). И эти штампы с необычайной лёгкостью передаются.
Или совсем простая плоскость. "инфа 100%", "ПГМ", "школоте не понять"... Появляется огромное количество мемов и бешенными темпами распространяется.

Тут не менее сложный вопрос возникает - Граница между "данными" и "алгоритмами".

И вот тут я считаю, что в мозге такой границы вообще не существует. Даже "слова" - нет такой единицы хранения в "ПЗУ мозга". Запоминание слова(/мема) происходит перенастройкой алгоритмов, для которых это полезно.

И есть у меня глобальное обобщение. Эволюция состоит из нескольких уровней. Жизнь - вид - популяция - особь - "мемы"/модели мышления. Единицы каждого уровня борятся за выживание (популяции и виде, особи в популяции, модели мышления в особи). Между уровнями существуют связи. Например, состояние популяций сказывается на виде, состояние особей сказывается на состоянии популяции, состояние моделей мышления на состоянии особи.

Надо будет дописать в http://cobetbi.livejournal.com/10768.html раздел про мышление. (Как нипишу, обязательно буду везде давать ссылку). Пока есть текст про антропогенез и причины развития мозга http://cobetbi.livejournal.com/11321.html. Там даётся ответ на вопрос, с которого обсуждаемый текст начинается. (И, кстати, вроде, ответа на вопрос в обсуждаемом тексте не последовало).
Пока не забыл мысль чтоб закрепить. Неверно у меня немного там про антропогенез. Есть важный момент. Люди начали представлять друг для друга смертельную угрозу. И скорее всего, самым важным тут был ещё "шизофренический" момент. Это ведь очень возбуждает мозг - думать о том что вокруг тебя против тебя все заговорщики. Видимо на раннем этапе эта способность к здоровой шизофрении оказалась крайне необходимой - нужно было уметь распознавать "заговоры" против себя в стае. И именно из этого вырос интеллект - шизофреническая способность рассматривать множество вариантов, способность находить надёжные (и даже доказательные) гипотезы в абстрактном мире (каковым является мир предполагаемых заговоров, например).

Хочу ещё ссылочкой поделиться. Программы гордона. http://www.gnozis.info/?q=book/export/html/2446. На днях нашёл, выкачал и с бешенным интересом пересматриваю. Очень много очень важных вещей по теме.
clayrat
Sep. 6th, 2010 10:57 pm (UTC)
махровая гедельэшербаховщина!
fregimus
Sep. 6th, 2010 11:21 pm (UTC)
С матерым вольфрамизмом впридачу!
ushastyi
Sep. 7th, 2010 11:41 am (UTC)
Но вопрос-то вашего френда остался без ответа:
Как же человеческий интеллект, развиваясь в ходе эволюции, мог перескочить такие «барьеры», которые не преодолеваются за множество мелких шагов, а только сразу, за один большой шажище, который вряд ли может совершиться случайно?

Про самоорганизацию на русском в последнее время я видел много книг. Собстевнно, Илья Пригожин Нобелевскую премию за это получил. А про самоорганизующиеся нейронные сети -- спасибо, не знал. Когда я интересовался этими вопросами 10 лет назад, такого еще, по-моему, не было.
fregimus
Sep. 7th, 2010 04:52 pm (UTC)
Ах да, катастрофы. Известное свойство критических систем — но надо было явно упомянуть.

Насколько я помню, Пригожин проблемой самоорганизации занялся уже после Нобелевки. Но Вы лучше проверьте, если это важно.
(no subject) - ushastyi - Sep. 7th, 2010 08:56 pm (UTC) - Expand
pingback_bot
Sep. 11th, 2010 03:47 am (UTC)
Хотя, чтобы окончательно завернуть эту мысль в кольцо
pingback_bot
Sep. 12th, 2010 02:18 pm (UTC)
Мозг и компьютер
avigmati
Sep. 12th, 2010 03:41 pm (UTC)
интересен феномен "знать" - как это? говорят "я чувствую, это точно должно быть так", на вопрос: "почему?", ответ: "я это знаю". казалось бы причем тут чувства, когда речь идет о знании как о некоего рода информации?
оказывается можно чувствовать знание. тогда что такое ум? ведь хардом+софтом не почувствуешь - не ощутишь полноты знания. для меня наиболее близкий к субъективной - истине ответ состоит в том, что ум это не софт+хард, ум это софт+хард+душа если хотите, а что такое душа, можно только почувствовать, обработать чувства хардом+софтом тем самым узнать.
fregimus
Sep. 12th, 2010 03:51 pm (UTC)
Мне кажется, Вы две независимые вещи тут затрагиваете. Феномен «знаю, потому что знаю» — это одно. Чаще всего, это не знание, а заблуждение, твердое убеждение, что что-то так. В других случаях, это знание без осмысления — мы знаем, какими мышцами подвигать, а еще знаем, как броситься бежать, если вдруг начнет, скажем, рядом стена обрушиваться — «знание» как бы не сознанием, что придавит, осмысление потом приходит («потом» часто упускают, скажут «я побежал, потому что понял, что на меня упадет кирпич» — ни фига не понял, побежал просто). Третья разновидность такого «знания» — знание, близкое знакомство с неописуемыми вещами. Вы знаете, что такое «тепло» и «холодно», и я знаю. Только мы не можем друг другу этого рассказать.

Вторая вещь — проблема «я», близкая к третьей разновидности знания из вышеупомянутых. Если хотите в таком рассмотрении, «я» — qualium, ощущение разумным фрегимусом разумного фрегимуса. Но тут много можно с самых разных углов зрения приглядываться.

Ну, и насчет плюс души — наверное, бывает и такая модель. Только я не об этой модели ведь сейчас говорю.
(no subject) - avigmati - Sep. 12th, 2010 05:25 pm (UTC) - Expand
_iga
Sep. 13th, 2010 01:23 am (UTC)
> то, что было дано, и то, что программист менять в процессе решения не мог, мы назовем «железом», а то, что к нему добавили, решая задачу — «программой»

Таким образом стандартную библиотеку C, а также ядро операционной системы, если программист их не меняет, а только использует, - следует относить к hardware??
fregimus
Sep. 13th, 2010 02:41 am (UTC)
Не понимаю смысла Вашего уточнения. Ну, будем добавлять много широких ногтей — и что мы в результате-то получим? Ну, подвинем границу чуть-чуть, а какое принципиальное изменение возникнет от этого?
(no subject) - _iga - Sep. 13th, 2010 03:23 am (UTC) - Expand
(no subject) - fregimus - Sep. 13th, 2010 03:36 am (UTC) - Expand
Page 1 of 2
<<[1] [2] >>
( 85 comments — Leave a comment )