Тайна китайской комнаты раскрыта

[vlkamov]

Тайна китайской комнаты раскрыта. Не тайна, конечно, это я воспользовался методикой апологетов упомянутой "комнаты". Правильнее сказать: теорема, которая благодаря чрезвычайно неряшливой, зато гламурной формулировке, стала популярным средством парить мозги.
Пройдемся по Википедии:

Предположим также, что мне дали учебник на английском языке, в котором приводятся правила сочетания символов китайского языка...В данном случае книга правил есть не что иное, как «компьютерная программа».

Здесь Сёрль описывает не программу вообще, а простую таблицу вида "вопрос-ответ". А ведь еще до Сёрля знали, что кроме тупых таблиц, есть алгоритмы, оперирующие переменным, есть самообучающиеся алгоритмы... В конце этой цепочки - генераторы знаний. В принципе опять наткнулись на типовую подмену "частное-общее", но там есть еще над чем повеселиться.

Таким образом, я выдержу тест Тьюринга на понимание китайского языка.

Тест Тьюринга НЕ на понимание языка. Языковые же тесты как раз являются таблицами и написать такую программу особого труда не составляет. Кроме того, респондентом у Тьюринга является весь комплекс, а не одно устройство для перелистывания страниц (еще одна подмена целого частью).

Подобно компьютеру, я манипулирую символами, но не могу придать им какого бы то ни было смысла.

Надо думать, смысл каждого нейроимпульса в его мышином мозгу этому жулику известен.

Мозг порождает разум.

У мыши есть мозг, т.о. Сёрль - сам сознался - не разумнее мыши :-). Тут еще спутаны разум и интеллект, но это возможно перевод. У мышей интеллект есть, а разума нет. У Сёрля тоже. Да и интеллект, прямо скажем, невелик.

Компьютерная программа полностью определяется своей синтаксической структурой.

Опровержение: if ( rand > 0.5) {...} else {...}
Код действительно фиксированный, но работает отнюдь не предопределенным образом, результат т.о. может быть не предопределенным "синтаксической структурой".

Программы не являются сущностью разума и их наличия недостаточно для наличия разума.

Конечно недостаточно. Нужен еще компьютер, периферия в том числе ДЛЯ ОБМЕНА информацией. И генератор шума. Мозг - очень шумная система, ему требуется очень напрягаться, чтобы получить "предопределенный результат".

Тот способ, посредством которого человеческий мозг на самом деле порождает ментальные явления, не может сводиться лишь к выполнению компьютерной программы.

Напоминаю, что Сёрль назначил примитивные таблицы программами вообще. И как бы правда, мозг, даже и мышиный, работает существенно иначе, чем таблица.

Таким образом Сёрль взял "программу" заведомо не обладающую интеллектом, некорректно обобщил и чего-то якобы доказал. На самом деле это две разные теоремы:
1) Существуют программы, не обладающие интеллектом.
2) Существуют программы, обладающие интеллектом.
Лемма :-)
Существуют программы, обладающие мышиным интеллектом.

Глубокая философия нередко имеет место быть на пробелах школьного образования, как и было сказано. Сёрль и сёрл-овцы отсюда и навсегда идут на в китайскую комнату и больше не парят мозги тем, у кого они есть.

Comments

[dibr.livejournal.com]

> Здесь Сёрль описывает не программу вообще, а простую таблицу вида "вопрос-ответ". А ведь еще до Сёрля знали, что кроме тупых таблиц, есть алгоритмы, оперирующие переменным, есть самообучающиеся алгоритмы...

"люди [...] передают в комнату наборы символов и что в ответ я манипулирую символами согласно правилам и передаю обратно другие наборы символов"

Разве это не описание "алгоритма", пусть и корявое? И даже если это и в самом деле не описание алгоритма - что мешает рассмотреть то же рассуждение, но с "алгоритмом" (и добавить возможность вызова rnd(), раз уж это кажется таким важным)?

> Мозг порождает разум.
> У мыши есть мозг, т.о. Сёрль - сам сознался - не разумнее мыши :-)

Да-да, "ракета летает на смеси топлива и окислителя, дрова - тоже топливо, пергидроль - тоже окислитель, но ракета на дровах с пергидролем не взлетит, значит ракет не бывает".

Пока я вижу придирки вида "не написаны ключевые слова вроде "алгоритм", значит алгоритмы мы рассматривать намеренно не будем", и нюанс с возможностью введения в алгоритм случайности (взаимодействие с внешним миром и самообучение вполне могут быть частью алгоритма). Но утверждение, что разум/сознание/интеллект появляется только из наличия rnd() в коде - оно довольно смелое. И немного обидное для носителей этого самого разума-сознания :-)

[vlkamov.livejournal.com]

> Разве это не описание "алгоритма", пусть и корявое?
И да и нет. Это часть тестируемого.

> я вижу придирки
Подмена частногj общим имела место ? Только "да" или "нет".

[dibr.livejournal.com]

  -1) А давайте отступим на шаг назад, и определимся с предметом спора? А то я (и википедия) считаем, что китайская комната - мысленный эксперимент, а вы спорите с какой-то "теоремой". Хотелось бы услышать эту "теорему" в явном виде - в статье по ссылке нет ни слова "теорема", ни чего-то, обладающего признаками теоремы (например, теорема подразумевает наличие теории (аксиоматики), в рамках которой она доказывается, а теории я не вижу).

  0) Формулировка эксперимента в википедии весьма мутная (они философы всё-таки, "у них так принято"), и оставляет простор трактовок "что же хотел сказать автор". Я вижу там одно (алгоритм), вы - почти диаметрально противоположное (простую таблицу откликов), и на этой формулировке мы ничего друг другу не докажем. Поэтому предлагаю на неё забить, и обсудить мою формулировку эксперимента, которую с считаю очень близкой, если не эквивалентной :-) Хотя, конечно, ответ "нет, эта формулировка совсем другого эксперимента" я тоже приму - каждый, повторюсь, может воспринимать неясности и недоговорки исходной формулировки по своему.

   - у человека есть "неведомая фигня" (далее НФ) - сознание, разум, "квалиа" - you name it, которое мы можем попытаться обнаружить тестом Тьюринга (ТТ). ТТ сам по себе субъективен и нестрог, но лучшего у нас пока нет - мы ведь и что такое НФ понять-то пока не можем.
   - рассмотрим Машину. Машина имеет ввод, вывод, заданную заранее кем-то программу и данные (заданные заранее, но изменяемые машиной в процессе работы), и выполняет действия в соответствии со входными данными, программой и собственными данными, по строгим формальным правилам. Это может быть машина Тьюринга, или "интел пентиум" - неважно, важно что правила строго формальные, при этом ввод-вывод и "память" есть (а значит есть возможность "обучения"). Может ли такая строго формализованная машина "мыслить" (обладать НФ, пройти тест Тьюринга)? А вот фиг её знает...
   - а теперь рассмотрим Мозг Человека, который, как мы считаем, обладает НФ. Мозг состоит из нейронов элементарных частиц (протонов, нейтронов, электронов, и так далее), которые ведут себя в соответствии с законами физики - которые нам известны пока не полностью, но которые, хочется верить, являются строгими и формальными. Более того - зная эти законы, можно построить Машинную Модель мозга (чисто формальную, на Машине из предыдущего пункта), воспроизводящую работу мозга с любой заранее заданной точностью. Даже "истинная случайность" большой помехой не является - мы можем примотать к Машине физический датчик СЧ (квантовый, например), и использовать его в модели.

  Это был эксперимент. А дальше, собственно, рассуждения.
  Может ли Машина обладать НФ? Допустим, нет (ведь это же машина, в ней нет Души, есть только слепое следование программе). Но тогда получается, что Модель Мозга в Машине (которую мы можем построить с любой наперёд заданной точностью) тоже не сможет обладать НФ, а значит при любой точности модели поведение модели будет достоверно отличаться от оригинала, что требует какого-то объяснения: почему законы физики в модели и в реальности дают разный ответ? Можно ли вообще в таком случае говорить, что всё вокруг нас определяется только формальными "законами физики", вдруг есть что-то ещё ("душа")?
  Хорошо, пусть Машина может обладать НФ. Но тогда получается, что всё наше "самосознание", "свобода воли", и подобная НФ может быть сведена к обычному механическому следованию программе (очень большой, но программе). В частности, свобода воли при этом сведётся к банальным квантовым случайностям, поскольку кроме них ничего недетерминированного, как мы считаем, вокруг (и внутри) нас нет. А это несколько обидно для человека, как носителя разума - получается, что вся эта загадочная "душа" - есть то-ли очень большая программа, то-ли следствие флюктуаций квантовых процессов...

> Подмена частногj общим имела место ? Только "да" или "нет".

В википедии? Нет, там имела место только ужасная мутность формулировок, позволяющая найти там что угодно, хоть "подмену понятий", хоть "строгое рассуждение".
У меня? Я пока не вижу :-) Покажете, где у меня такая подмена - будем разбираться.

[vlkamov.livejournal.com]

> Хотелось бы услышать эту "теорему" в явном виде - в статье по ссылке нет ни слова "теорема",

"Был очень удивлен, узнав, что всю жизнь говоил прозой".

> У меня? Я пока не вижу :-) Покажете, где у меня такая подмена - будем разбираться.

У вас другая подмена, очевидно, чтобы разбирательства ни к чему не привели.

[dibr.livejournal.com]

> У вас другая подмена, очевидно, чтобы разбирательства ни к чему не привели.

Ну так покажите же. Мне правда интересно.

[dibr.livejournal.com]

> И да и нет. Это часть тестируемого.

Ну так да. Мы тестируем комнату, в комнате - человек, иероглифы и правила, так что очевидно что правила - часть тестируемого, сама задача так поставлена.

А вот какие есть основания считать, что "правила" в той формулировке - не более чем таблица откликов, а не полноценный алгоритм, выполняемый на Тьюринг-полной машине? Что запрещает задать в правилах, да хоть ту же машину Тьюринга (в виде её формального описания), и программу для неё? Ограничений на объём данных (количество бумажек и толщину "книги правил") и на время отклика (скорость перекладывания бумажек) в задаче вроде бы нет...

[http://users.livejournal.com/sharper_/]

Всё это, конечно, здорово, но есть ещё одно замечание. Сдаётся мне, что Сёрль, как и большинство не понимает что такое смысл и придаёт ему значение бОльшее, чем тот заслуживает. Разница между пониманием слов родного языка и китайских иероглифов только в том, что у Сёрла нет их перевода и определения на родном языке. А слова родного языка такие определения, хотя и далеко не однозначные, имеют. Но что означает наличие таких определений? Только то, что левой части выражения, короткому идентификатору соответствует развёрнутая, длинная правая часть. В этом равенстве и заключается смысл и более ни в чём. Поэтому понимание смысла текста на родном языке основывается не более чем на "переводе" с родного языка на родной. Нет никакого другого способа проверить понимание смысла текста, кроме как потребовать изложить смысл "своими словами". А на это способна обычная механическая процедура. Программа.

[http://users.livejournal.com/sharper_/]

Короче, мысль такая. При условии, что существует задача (тест) Тьюринга, методы её решения могут быть различными. Сёрль разобрал метод не требующий знаний китайского языка и перевода иероглифов на родной язык и предложил алгоритм. Очевидно, что алгоритм использующий значения иероглифов в переводе на родной язык, будет совсем другим. И не более.

[yarikas.livejournal.com]

"шум" обеспечивает уже "включённость" в "сеть":
> Конечно недостаточно. Нужен еще компьютер, периферия в том числе ДЛЯ ОБМЕНА информацией.

Немного оффтоп, но Вам может быть интересна книга Ф. Капры "Паутина жизни" (The Web of Life) - перевод есть в сети.