От многих слышу такое утверждение, что сознание (иногда здесь говорят о мышлении) невычислимо, не алгоритмизируемо. Понятно, что это может быть вопросом веры, в секулярном или религиозном смысле. Но мне все-таки хотелось бы спросить у тех, кто так думает — как именно вы себе представляете эту невычислимость? Что именно такое может происходить в физическом мозге, чего не может произойти в механическом или электронном устройстве?

Мне приходит в голову несколько возможных объяснений. Это далеко не все возможные, конечно, поэтому мне было бы очень интересно узнать, что об этом думают. Я набросаю их тезисно, чтобы как-то очертить, и пронумерую, чтобы легче было на них ссылаться.

(1) Религиозное возражение — машина не содержит живой души. Сюда же можно отнести (2) виталистическое — машина не содержит животворного начала, vis vitalis. Это понятно. Если мы отставим эти возражение в сторону, то, вероятно, мы признаем, что мозг подчиняется тем же природным законам, что и неживая материя. Пойдем материалистическим путем. Тогда вопрос оказывается о том, что это за функции материи, организованной в мозге, которая недоступна электронной машине.

Есть такое объяснение: цифровая машина способна вычислят только рекурсивно-перечислимые функции (РПФ), а мозг этим не ограничен. Это я слышал, но тут надо уточнять, почему — на веру это не принимается. Уточнения бывают такие: (3) в мозгу происходят аналоговые процессы, которые принципиально позволяют вычислить функции за пределами множества РПФ. То есть, аналоговая вычислительная машина мощнее цифровой (гипервычисления, Коупленд, Зибельман, машины Зенона). Есть и такое: (4) мозг подвержен случайностям, а цифровая машина без генератора случайных чисел менее мощна. Здесь же надо вспомнить утверждение, будто (5) нейроны проявляют квантовые эффекты, и при этом подразумевается, что квантовый вычислитель принципиально мощнее цифровой машины.

Имеются еще наблюдение из области эксперименальной эпистемологии (Пенроуз), будто (6) человеку непосредственно видна истина, а это дело не программируется. То есть, неизвестно, почему — причина невычислимости тут не объясняется, но понятно, что если так, то алгоритма не сочинишь.

Еще есть (Вегнер, интерактивные вычисления) утверждение (7), что человек непрерывно взаимодействует со средой, и это взаимодействие создает вычислитель более мощный, чем машина Тьюринга.

Возражения от практики — (8) невозможность описать все вычисления, производимые мозгом. Тут надо тоже уточнять — почему важно их описать, ведь, казалось бы, частные задачи решаются и без этого, разные вычислительные модели в той или иной степени работают; объяснить, почему это движение не закончится модельным сознанием.

Далее, всякие объяснения не от математики или материализма. Например, (9) сознание есть социальное взаимодействие, и, покуда социум не принимает носителя разума за «своего», никакого мышления у него нет. Этот тезис тоже хотелось бы увидеть более проработанным. Другие социальные и проч. причины — глубоко не ходил, не могу здесь даже грубо набросать.

В общем, дополняйте, развивайте, если интересно.