Мария абсолютно правильно сказала,нужны определения для слов которые они используют в беседе.Как вообще можно что либо выяснить если нет понимания слов и их семантики?Сделали определения,ведем дискуссию,по мере необходимости добавляем слова и определения,завершаем дискуссию и идем работать над искусственным интеллектом.
@@yarunskiy Вряд ли я смогу дать определение удовлетворяющее всех. Но зачем мне пытаться удовлетворить всех? Как мне кажется, при обсуждении вопросов ИИ, китайских комнат, философских зомби и т.д. требуется такое определение, которое подойдет для участников дискуссии. Чем более компетентные участники, тем более ясный смысл будет нести слово "сознание" во время их общения. Это не значит, что они обязательно должны сузить пространство возможных сознаний, это значит, что пространство будет более явно очерчено. Когда я пишу "сузить пространство возможных сознаний" я имею ввиду, что они могут прийти к такому определению сознания, что туда будут подпадать обычные компьютеры и животные, а могут ограничить пространство и не включать их. Вообще, мне кажется, что вы написали этот комментарий как упрек мне, что-то в стиле: "А ты можешь дать идеальное определение? Нет? Ну тогда не умничай!". Возможно, я ошибаюсь, но если я правильно понял ваш посыл, то должен сказать, что моя неспособность дать идеальное определение не является свидетельством чего-либо, кроме моего ограниченного ума. Вне зависимости от того, могу я дать определение или не могу, факт остается фактом - качественно продуманные определения важны, если мы хотим вести продуктивную дискуссию. Всегда стоит потратить время и силы на то, чтобы сократить понятийные расстояние и прийти к тому, чтобы участники беседы говорили об одних и тех же вещах. В теме сознания это особенно актуально.
@@yanagaeify всё так, но я имел ввиду, что ни определения ни теории сознания (более-менее адекватной, "рабочей") на сегодняшний день НЕ СУЩЕСТВУЕТ. Есть лишь досужие разговоры "на тему". Даже сами творцы ИИ ещё на заре компьютерной эры однозначно заявили, что ИИ (Искусственный Интеллект) - это только - и исключительно!!! - вычислительная машина. Не более того. Никакие "обучения" ИИ ничего не дают так как это всего лишь примитивная симуляция упрощённых процессов. Всё живое имеет обратные связи. ИИ - не имеет никаких связей и он мёртв в антропологическом смысле. Поскольку на сегодняшний день нет ответа на вопрос - сознание причинно или имманентно, то это сильный аргумент в пользу того, что физикализм потерпел поражение.
@@yarunskiy Во первых, я не понимаю вот это "сознание причинно или имманентно" и вот это "ИИ - не имеет никаких связей и он мёртв в антропологическом смысле." Во вторых, системы ИИ имеют обратные связи, которые позволяют ему учиться на своих ошибках и менять себя(свое поведение) в сторону более оптимальной стратегии, так работают некоторые ИИ уже сегодня. "Даже сами творцы ИИ ещё на заре компьютерной эры однозначно заявили, что ИИ (Искусственный Интеллект) - это только - и исключительно!!! - вычислительная машина.", а что есть причины думать, что какой либо мозг это не исключительно вычислительная машина? Или есть причина думать, что вычислительной машина не может работать как какой либо известный нам мозг? Я не специалист, но насколько мне известно, таких свидетельств не существует, но существуют косвенные свидетельства обратного. В третьих, у меня вообще нет желания спорить или что либо доказывать. Я предполагаю, что мой взгляд на физикализм существенно отличается от вашего. Если я прав в своем предположении, то наш разговор ничего не даст, мы только оба потратим время. Если вы действительно хотите глубоко окунуться в вопросы сознания, ИИ, вычислительных систем и физикализма, то я могу предоставить вам очень полезные материалы на эту тему. Почти наверняка вы не знакомы с этими материалами и судя по вашему сообщению они здорово отличаются от ваших текущих взглядов.
Может пора задать вопрос "а что есть понимание и какие его критерии, и есть ли оно у человека"? Мозг человека тоже можно считать китайской комнатой, которая выполняет определенные инструкции, получая входящие сигналы и выдает какие-то реакции на них.
разговор о каком-то искусственном интеллекте. А что мы подразумеваем под интеллектом в целом? Почему отрицаем интеллект у сири, например? Интеллект не есть ли синоним для вычисления? Или вычисление, активизирующееся от постороннего источника? Или что? Может упразднить это понятие или определить его как способность к вычислению у живых существ - проблем станет гораздо меньше.
Курт Гёдель в своей теореме доказал, что невозможно изнутри системы доказать или опровергнуть её ошибочность, нужно выйти пределы системы. Целеполагание как критерий разумности и наличия сознания слабо применим, какое целеполагание у младенца или у плода внутри матки? Автоматически-запрограммированный рост и развитие. Какое целеполагание у машин Тесла? Самообучение, т.е. развитие. Есть ли сознание у беспилотных машин? Так можно договориться до того, что дети до ХХ сознанием не обладают, и поэтому на них не должны распространятся правила и законы созданные для разумных существ, это кстати к вопросу о том, что некоторые законы не применимы к детям до их совершеннолетия. Грубо говоря есть разные типы сознаний, Человеческое, животное, растительное, минеральное и т.д. Те кто думают, что только человек разумен ибо у него своеобразное понимание мира и некая уникальная личность и психический окрас - заблуждаются, существуют типизации по типам личностей, исходя из которой можно сказать что все люди похожи друг на друга, существуют исследования доказывающие что растения обладают интеллектом, что они общаются друг с другом, например посредством химических веществ, в общем разница между сознанием Человека и растений в том, что у психики растения уже диапазон осознаваемых им факторов среды, почва, воздух, удобрения, свет, человеческому же сознанию доступен более широкий диапазон факторов, в том числе виртуальных - вымышленных гипотез и фантазий. Древние индейцы знали что у камня, травы, дерева есть душа (сознание-интеллект), а современные учёные на их фоне просто неучи.
Сознание это осозновать что живёшь и в один день умрёшь. Способность не послушатся своим инстиктам. Самоубийство, не продолжать свое потомство. А не какие то растение который могут общаться.
@@radugaduga72 , Вы правильно подметили, в комментарии сказано интересно. Но, к сожалению, далеко от истины. Вы намекнули о душе, которая является тем самим сознанием. Это и есть наша аура. Уход ауры, после угасания тела, заснял профессор Коротков.
Почему Мария на 06:25 как-то странно заявляет, что все философы соглашаются в том, что наличие субъективного опыта у человека сомнению не подлежит. Про иллюзионизм не слышала? Ну и Дэниел Деннет смеётся над этими её словами.
Интеллект - это часть психики. Сюда же входят инстинкты, эмоции, чувства, воля. Все эти вещи не исследованы полностью, как тогда их можно воспроизвести искусственно? Как можно воспроизвести то, что знаешь частично? То о чем ученые не знают, может очень сильно влиять на общую картину
так же как и сознание. В плане психологии есть такая шутка, в которой доля шутки "всизологи обладают огромным объемом интересного строительного материала с который не знают что делать". Речь шла о данных экспериментов которые трактуются практически каждой школой по своему и практически все. Но да я с вами более чем согласен
У человека (у личности, субъекта) есть способность формировать самостоятельные желания, интерес. Искусственный интеллект может быть производительнее человеческого разума, но он не имеет своих желаний, не имеет своего интереса. Может его изображать, если того ПОЖЕЛАЮТ его создатели, программисты, но самостоятельно создать его не может. Если сможет, то в этот момент искусственный интеллект действительно станет личностью, самостоятельным субъектом.
Комната в целом представляет собой организм наподобие нашего. Мозг человека функционирует также согласно заложенным программам. Электрические импульсы, идущие по нервным волокнам, действуют так же как человек в китайской комнате(без понимания). Тут и возникает логическая ошибка ложной аналогии. Внутри комнаты функция передатчика возложена на существо, уже обладающее сознанием, в то время как в нашем организме эту функцию выполняет совокупность бессознательных элементов. То есть противоречия тут нет. Вопрос в том, что если в комнате, вместо существа, обладающего сознанием, эту функцию будет выполнять нечто им не обладающее, можно ли тогда считать комнату в целом им обладающей? Кажется, что да. Но в то же время, если нет, то обладаем ли сознанием мы?
Это глупо ибо человек лишь выполняет поставленную задачу . ( И как свойственно человеку - он способен допустить ошибку ) но это в очень грубом варианте , эксперимент лишь доказывает что человек способен действовать подобно роботу . Если ты всю жизнь совал купюру в аппарат и получал жетон - ты не заметишь отличия если в аппарате будет сидеть человек что выдаёт жетон за купюру .
>Электрические импульсы, идущие по нервным волокнам Тута проблема в том, шо большинство не сознаёт, шо там собсна электрические импульсы совмещены со сложными биохимическими реакциями. И вообще, весьма сомнительно, шо работа мозга в своей целостности сводима к работе нынешней электротехники, которые работают чисто на электрических явлениях.
На два вопроса можно ответить одним мысленным допущением, что наше "сознание" это побочный продукт "работы" биохимических процессов проходящих в мозге. То-есть если допустить что наше сознание (раздумья, размышления) это всего лишь "просмотр" выборочного сбора данных по определенному алгоритму созданной программой из всей загруженной базы данных (назовем базу мозг). Мы стоим с фотоаппаратом и фоткаем от третьего лица этот процесс (выборочного извлечения из базы данных определенных логически складываемых паттернов) и по картинкам интерпретируем (анализируем) эту работу, так мы выстраиваем картину мира и называем ее жизнь. Опять же, это проиходит по определенной программе.
Справедливо сказано про склонность наделять всё вокруг разумностью. Но ещё есть другая склонность. Наделять именно свой мозг, так похожий (если смотреть с далека) на мозги других животных, в особенности млекопитающих, какой-то особой категорией СОЗНАНИЕ и отказывать в ней всем остальным системам допускающим хоть и зачастую более сложное, но не требующее привлечения дополнительных сущностей объяснение. Уже феерически бомбит от этого бородатого ad hoc-ка.
Очень наглядная аналогия через которую легко поставить вопрос ребром и отобразить, насколько неосознанны и безразличны действия вычислительной машины, который просто дали алгоритмы. При этом вся эта система целиком, может сойти за сознательный разум, хотя бы потому, что алгоритмы то ей должен писать именно он.
Так же положительно отношусь к самому занятию -- задавать (зачастую на первый взгляд) сложные вопросы. Они делают нас умнее, дают более чёткое понимание научных идей, углубляют мировоззрение. Просто с точки зрения большинства философов и учёных, как отмечено в видео -- тема исчерпана. А меньшинство вместо того, что бы вступить в конструктивную беседу с этим большинством и попытаться опровергнуть очевидные контр-аргументы -- изолируется от него в свой мирок расплывчатых понятий и скрытых аксиом. Видимо тут большинство должна была представлять психолог, но не срослось.
Хорошо в конце дискуссии заметила Мария Фаликман - всё зависит от того, как определять само понятие разумности. Здесь речь велась о разумности как свойстве самой комнаты (компьютера, человека). Но это ведь, мягко говоря, некорректно. Разумность сама по себе не существует в отдельном человеке. Разумность это свойство сообщества в целом. По большому счету все члены сообщества имитируют некую форму разумности, принятую в культуре данного сообщества (в том числе и используемый для этого язык). Отсюда следует, что ИИ вполне может имитировать разумность, если снабдить его всеми когнитивными и поведенческими шаблонами данного сообщества. Но вот чего он никогда не сможет имитировать, так это творчество. Для этого он должен уметь оперировать не только символами, но и идеями, на что способен видимо только человек.
Простейший механизм. Есть генераторы псевдослучайных чисел. Далее к ним можно привязать набор каких-либо действий. И делать естественный отбор. И что-то выстреливает. Например, поведение бота против другого бота в игре. Или там основной мотив в песне.
:) т.е. вы считаете, что творчество это случайный процесс... Ваше право. Ну да, согласно современной науке все, что мы наблюдаем сейчас возникло благодаря великому богу случайности - Хаосу. Лично я другого мнения. Для меня творчество, это выход за рамки имеющегося мира, выход к идеям и их воплощение. И это может сделать только человек, его душа.
А Вы считаете его определённым, как программа? То есть можно его закодить? Да ну куда Вы выйдете?! :) Дальше оперирования информацией с помощью логики никуда у Вас не получится уйти. Вы в "коробке", да и все остальные. Как можно со стороны проверить логику? Чем её можно поверить?
Если компьютер выключить из розетки, то он не умрёт, а заснёт как делают люди при кратковременной эпилепсии (будет провал сознания, но не смерть). А когда код Элизы переписывают, то она просто меняет свою память, свой характер (ведь даже человека в течении жизни переписывают обстоятельства и другие люди). Ну или можно сказать что мы все умираем постоянно и не замечаем этого.
Кстати, если человек внутри китайской комнаты не справится... И китайцы решат, что они не получают разумных ответов на обращение к комнате... И забросят внутрь гранату.... То они уничтожат настоящего живого разумного и обладающего сознанием человека, проблема которого была лишь в невозможности выстроить нормальную коммуникацию. То есть если нам не известен точно принцип работы китайской комнаты, мы не можем быть уверены в отсутствии сознания внутри, даже если комната ведет себя несознательно с нашей точки зрения.
А сейчас нейросети - отличная иллюстрация Китайской Комнаты, где нет ни сознания, ни понимания. И сейчас куда легче сформулировать идею о проблеме понимания: нейросеть не понимает, не анализирует, она воспринимает входящие данные как запускающую команду для угадывания (а точнее, имитирования) похожего на живой ответ реакции. И причем часто этот ответ совершенно невалиден, содержит артефакты и ошибки "инструкции" (модель нейронки, та самая инструкция с иероглифами). Да, можно представить куда более совершенную модель нейросети (GPT-x+1), но даже тогда - это будет более совершенная версия угадайки. Эта система: компьютер+обученная модель+святой дух чего-либо - абстрактно даже не существуют до тех пор, пока на них не оказываются воздействия извне. Пока "китайцы" не толкают в прорезь бумагу с вопросами на китайском. Если рядом не будет ни одного "китайца", то из прорези не появится бумажка с вопросом на "китайском" - Кто я? Ау? Где я? Только если такое поведение не запрограммировать (та же имитация). Тут легко демонстрируется отсутствие реальной "научаемости" - здесь даже иллюзии субъективного опыта нет. На примере нейросетей абсолютно хорошо проглядывается синтезированность при попытке ведения осмысленного диалога, где в конечном итоге ты понимаешь - общение происходит со сложной динамической инструкцией, а не с разумной машиной. Нейросетевой арт, звукогенерация, программный код, текст из GPT-4 - всё это очень наглядно демонстрирует отсутствие сознания. А вот роль сознания на себя берет промт-разработчик (человек, который задает команды для генерации нейронкой чего-либо), обладающий мотивацией и субъективным восприятием и ожиданием для конечной цели.
Все просто - человек в комнате китайского языка не знает, но система "комната+человек" его знает. Точно так же как отдельный нейрон в мозгу не обладает сознанием, но система из N миллиардов таких нейронов - уже им обладает. Сейчас уже не вспомню как называется, давно это было, но в теории систем для этого даже специальное название есть - для свойств, не присущих каждому элементу в отдельности, но присущих системе в целом.
Точно, все просто) а мужики то не знают!)) Вообще, ни комната, ни человек не знают. Знают авторы инструкций, которых в этой системе нет. Так что, да, все просто, но не так просто, как у Вас))
В таком случае ИИ все равно не может иметь сознания так как тоже является частью системы человека( программиста ) и окружающего мира ,где человек является определяющим " как жить и что делать")
> его аргумент [..] показал , что существует некоторая проблема и мы должны решить её на теоретическом уровне. Это проблема существует только в коллективном воображении некоторых групп мыслителей и не имеет отношения к реальности.
В ответ на предположение о невозможности компьютерной программы обладать интеллектом я предлагаю следующий мысленный эксперимент: эмулировать работу 83e+9 нейронов головного мозга человека, обладающие некоторым субъективным опытом, схожим с человеческим. Это будет осознавать себя таким же человеком и реагировать будет так же. По сути человеческое сознание - это лишь очень сложная нейронная сеть. Также хочется вспомнить интересную вариацию Китайской комнаты из фильма Ex Machina - человека запирают в черно-белой комнате, в которой он живет всю свою жизнь. Ему дают возможность изучать физическую природу цвета, его воздействие на сознание, то, каким образом устроены человеческие глаза и т.д. , но лишь по чб книгам. По окончании курса обучения его выпускают в цветной мир и лишь тогда он на самом деле понимает, каково это, ощущать цвета. Стоит ли считать, что в этот момент человек обрел больший интеллект вместе с этим пониманием?
+Jagon Могу вас уверить, что интеллект современных компьютеров намного выше, чем среднего человека. Еще лет пять и "интеллектуалы" будут по сравнению с ним обезьянами из зоопарка. Нет это произойдет не как осознанный процесс, до понимания дуализма наука не подымется, просто методом тыка переберут все варианты и получат то, что написал.
Философский вопрос состоит вот в чём. Будет ли эмуляция этих 83е+9 нейронов сама испытывать чувства, или только в точности воспроизводить механизм их работы? Будет ли виртуальная сущность истинным наблюдателем, или лишь копией наблюдателя? Похоже на проблему солипсизма, только в отношении машин.
До тех пор, пока компьютер работает четко по введеной программе, пока нам точно понятен принцип его работы, механизм и механика его работы, пока мы можем точно предсказать его следующее действие - компьютер является для нас неразумным автоматом. Но вот если появится компьютер, работу которого мы до конца не понимаем, ни программа, ни механика работы нам точно не известны, и мы не можем предсказать его последующие действия... Вот тут нужно задуматься, что внутри спрятан разум. И возможно сознание. Сами мы такой сделать не можем. И еще долго не сможем.... Ну если только родить ;)
Аргумент с отсутствием целеполагания у ИИ не совсем справедлив. У человека, по сути, тоже нет целеполагания и вся деятельность сводится к ответной реакции на окружающую среду
Ну как же нет... "Жизнь - это экспансия". Сахаров вроде так сказал. В целом человек хочет процветания своего вида и себя. Ну как хочет... ЕГо подкорка так настроена. Детей, если может, если не может, тогда подкорка влключает механизмы принудительного альтруизма.
Язык имеет синтаксис, грамматику. Поэтому, если инструкция не позволяет понять смысл вопросов на китайском, то нельзя дать связный ответ. Интеллектуальный эксперимент предельно некорректен, в нём нет описания того, как работает инструкция по расшифровке неизвестного языка или хотя бы объясняющую, как можно, не зная языка, дать ответ на нём - сам механизм действия. Поэтому всё это вообще не имеет отношения к философии, все эти спекуляции - тут нет собственно мышления, а только игра с некими готовыми элементами, тогда как мысль возникает из ничего, без внешних влияний, она ничем не обусловлена.
> мы создаем некоторую интеллектуальную систему которая в чем-то похожа, но она просто симулирует, просто похожа, но НА САМОМ ДЕЛЕ эта система не может быть сама по себе рациональна А если она во всём похожа и её поведение статистически не отличимо (тест тьюринга и ему подобные), то, лол, что тогда значит НА САМОМ ДЕЛЕ ?
Китайская комната получается вопросом изоляции одного процесса обработки информации от других (в данном случае обработка китайского языка инструкциями и всех свойственных работающему в ней субъекту). Будет ли больной с расщеплённым сознанием её примером? Они ведь тоже иногда не могут добавить к речи данные от других процессов в их голове.
а как Вы объясните ситуацию, когда ребёнок подходит к ф-но впервые в жизни и за пару минут подбирает в точности мелодию, которую только что услышал, а другой ребёнок, даже окончив музшколу, этого сделать не может?
25:35 "...В общем, нет решения у этой проблемы!..." Рассуждения очень интересные, их стОит послушать. Но если кому столько не осилить, то я привёл слова Юлии Полевой, которые резюмируют всё сказанное во время беседы. 😄
23:23 Где сказано, что на строгом формальном уровне доказано, что невозможно экспериментально решить проблемы сильного ИИ? Любая гипотеза проверяется эмпирически (скажем предположение в СТО о постоянстве скорости света в вакууме). Фантазии Серла дают повод предсказывать возможности технологий будущего??
Я думаю никаких логических проблем не может возникнуть в вопросе о невозможности сверхсильного ИИ. Если взглянуть на всех людей, как говорится, все кроме меня роботы работающие по принципу "китайской комнаты", а то чтл у них несуществует "сознания" я никогда бы и не смог узнать, так же как и обратное.
Чтобы в китайской комнате появилось понимание, достаточно лишить её инструкций, а человека поощрять по принципу кнут и пряник. Т.е. то что человек называет пониманием, на самом деле просто болевой и эмоциональный отклик.
Согласен! Если учесть что эмоциональный или болевой синдром это просто определенный "код" на билинейном языке, который мы воспринимаем как "реальное чувство" (что принято считать в "реальном" мире), собой, то-есть программой написанной на том же би-ом языке.
Ну, так самосознание и пробуждается когда возникает угроза существованию индивида. Но это лишь начало. Далее самосознание усложняется и совершенствуеться
И это будет просто понимание ощущений - болевого и эмоционального состояния. Так то и животное его в какой-то мере его ощущает, то есть понимает, то есть делает выводы и соответственно им ведёт себя для избежания или повторения ситуации. Проблема в том, что вы вводите тут дополнительные условия для китайской комнаты которые противоречат ее смыслу. Если ввести "кнут и пряник" для реальной программы (китайская комната как аналогия программы) то у программы нет потребностей как минимум - у нее нет ощущения того что ей надо. Основные требования допустим - электричество, если отключать и включать его - программа внезапно не станет препятствовать включению или выключению. Если лишить "комнату" инструкцию, то есть программу то она и работать не будет. Инструкция это ее сущность, последовательность действие, необходимое описание. В китайской комнате: комната - есть материальная сторона программы, человек - ее сущность, задачи, функций. Соответственно вы взаимодействуете в данном эксперименте только с внешней стороной комнаты или с задачами человеку. Если использовать систему поощрений - к чему это делать? Какая вам выгода? Про подробности человека тут не было сказано, про то что он может работать хуже или лучше от каких-то условий тоже ни слова, потому что не в этом суть эксперимента. Попытка доказать "понимание" через поощрение не вписывается в данную ограниченную модель.
Последняя фраза психолога -- золото. По итогу : ни к кому претензий нет, ничего личного, уважаю и мс слева, и мс справа просто у меня есть определенные причины (см другие комментарии) считать, что вы говорите глупости. P.S. Меньше всего глупостей сказала ведущая
Здравствуйте. Вопрос по Китайской комнате: Когда человек, находящийся внутри комнаты, пользуясь книга и инструкциями на английском языке, Он отвечает правильно, на поставленные ему вопросы (на китайском языке), или нет?
качество "сознание" (в том смысле, каким его знает общечеловеческая культура) есть только там, где реакциями на внешние раздражители есть страдание/удовольствие , сознание невозможно без этих качественных реакций на действительность.
Главная проблема этого эксперимента в его умозрительности. Реализовать такую систему невозможно, она имела бы бесконечную сложность. В итоге, рассуждаем о том, что в принципе невозможно в материальном мире. Философский зомби невалиден как идея, значит, и проблема надумана. Это то же самое, что придумать концепт бога, а потом спорить, существует ли он, всемогущ ли, как соотносится с материей и т.д.
А что если представить Антикитайскую комнату (назовём её Уйгурской комнатой). В Уйгурской комнате находится уйгур с китайско-уйгурским словарём, подучает вопросы на китайском, переводит для себя, но ответ даёт ответ на уйгурском языке. У китайцев уйгурско-китайского словаря нет. Получив рац она ный ответ, китайцы его не поймут. Но разве это делает Уйгурскую комнату нерациональной? Кстати, а разве до начала письменности у людей не было рациональности и семантики?
Не совсем понятно, чем эксперимент с китайской комнатой отличается от обычного общения, особенно на расстоянии. Откуда я знаю, что человек, с которым я говорю по телефону, действительно понимает то, что я ему говорю? Что такое "понимание", кроме как свойство, которое человек решил приписать самому себе?
Дилемму про "отключение искуственного сознание равно смерть" можно предположить не верной ......так как человека тоже можно отключать и включать, если не имеется ограничения обусловленной биологическим системой жизниобеспечения....как тебе такое Илон Маск?!
> когда вы выключаете вы убиваете А когда обратно включаю, воскрешение ебать? Сорян, но убийство выглядит не очень хорошо, только потому что на данный момент немного необратимо. Да значительная необратимая потеря памяти -- это в соответствующей степени смерть. Но если вся (в том числе оперативная) память после включения остаётся на месте т.е. система восстанавливается к состоянию в момент выключения, то ИИ права которого вы защищаете не узнает о своём выключении (и о существовании такового в принципе) ничего до тех пор пока вы ему об этом не скажите.
11:30 говорит "ладно я выучу карточки, но всё равно буду отвечать так КАК БУДТО я понимаю". НО ведь это не значит что в этом действии не появилось сознание, просто сознание этого учёного находится под этим новым сознанием, либо параллельно ему (как и подсознание). То есть новое сознание в таком случае появилось поверх этого учёного, возможно оно глупое, однако всё равно это НОВОЕ сознание и даже главнее предыдущего более умного (ведь подсознательно мы обрабатываем куда более сложные объекты чем сознание, даже при повреждении зоны обрабатывающих лиц, сознательно мы не можем взять на себя всю работу этой подсознательной части, а значит сознание может быть глупее, но оно всё равно может быть при этом главнее).
Не понял я смысла китайской комнаты. Человек получает вопросы и утверждения на китайском языке, после переводит на английский и пишит ответ на китайском. Почему считается, что человек ничего не понимает? Он не понимает только язык. Ответы же он откуда-то берет. Из "личного" опыта, например. Он же понимает, что отвечает и понимает вопросы так как делает перевод с китайского. Могут быть ошибки и недопонимания, но у себя в башке этот человек видет картину происходящего и действует "рационально" (что это вообще такое). Другое дело нужно ли это все самому человеку. Какого ляда он сидит в комнате и занимается этим... действием.
На мой взгляд феномен сознание невозможно разгадать. Возможно это такое же фундоментальное явление, как гравитация к примеру. Вероятно сама материя и есть сознание.
15:50 Ха, а ведь я самостоятельно пришёл к идее, что компьютер не может иметь личность, поскольку у него нет своих желаний. И чувств тоже нет. Даже тех, что я испытываю сейчас...
Но компьютер можно научить выбирать свои "желания" и ставить цели так же, как их ставит себе человек . Человеческие желания только кажутся автономными и независимыми, на самом деле они вторичны и производны от инстинктов и эволюционных целей, зависят от железа и базовой прошивки, так сказать. Свобода воли и целеполагания вообще дико переоценена. Это скорее иллюзия.
Когда-то белые люди не считали чернокожих людьми. Данная дискуссия как раз об этом. Когда чернокожие люди заставили белых считать себя людьми, то белым больше ничего не осталось, как с этим согласиться. Проблема с ИИ схожая, но еще более сложная, так как у ИИ может появиться желание считать людей более примитивными существами, не заслуживающими того, чтобы им вообще что-то доказывать. Мы же не доказываем крысам, что мы люди.)
Сейчас вам зададут по-китайски вопрос: "你喜欢咖啡吗?". Переводить его я не буду, но надо ответить "是的", если вы любите кофе, и "不", если не любите. Нет, в самом деле, почему никто не пытался перевести эксперимент из мысленного в реальный? Хотя бы на примере детских книжек и словарного запаса в 20-50 слов. Я подозреваю, что в тот момент, когда человек выучит все инструкции, он довольно много начнет понимать. Можно было бы дать человеку все инструкции к беседе на определенную тему, "побеседовать", а потом на родном языке спросить - какие предположения у него могут быть по поводу использованной темы?
Но вы объяснили суть вопроса (или ввели в заблуждение). Т.е. в инструкции записано, что при получении текста 1 впервые - выдать текст А или Б случайным образом и запомнить ответ, воспроизводя его в будущем.
@@spatifilla , ну да, инструкция. А случайный ответ - это имитация того, любит ли человек кофе или нет. Какой-то же ответ должен быть. Ну или он должен быть записан в инструкции. А сидящий в комнате - не знает о чем вопрос, потому свою волю не спроецирует на ответ.
@@SharkTPO я думаю, тут мы дошли до того момента, где в видео обсуждалась бутылка колы. Подаст человек в комнате бутылку или нет? То есть до того момента, когда замкнутая на себе система символов соприкасается с реалтным миром и должна или не должна каким-то образом его отражать.
"тело" сложнее определять. Определить сознание не сложно, оно компенсация бесполого Тела, тогда как само "тело" не действует в отличие от бесполого Тела. Сознание начинает действовать по пробуждению ото сна, но это "действие" уже пассивное в отличие от действия бесполого Тела дающего программу сознанию, которая имеет целью уравновесить бесполое Тела в среде обитания и действия. Стоит ли придавать значение сознанию, нет, вторичное и зависимое вне цели, а значит важнее бесполое Тела и его "действие", которое определяется "средой". Почему "тело" действует во многих концепциях? связано с незрелостью мысли, и например в философии с механицизмом до сих пор господствующим среди философов, а в психологии с интересом также, чтобы клиент "двигался" к ним, ведь рынок знает только деньги, и где многие вещи ради прибыли существуют. Ведь любому идиоту понятно что вселенная никуда не двигается, и если глянуть в учебник физики, где и напрашивается принцип простой аналогии к "индивиду", и ясно что политикам идиотам это неизвестно, иначе бы они делали ставку не на "политэкономию", и принимали бы более взвешенные, разумные, решения.
а что если искусственный разум (интеллект) - это не человек (машина-поцессор), который сидит в комнате и не комната (набор вариантов), а тот кто НАПИСАЛ изначально все карточки, предвосхитив все вопросы. То есть создатель (программист), грубо говоря "скопировавший" свой разум в чистом виде. Такой разум продолжает жить уже самостоятельно и вполне осмысленно.
Так вроде человек перебирает карточки, пока не совпадёт то, на что ему надо отвечать с тем, что на инструкции написано. Ну типа ему передали 4231. Он ищет инструкцию, где написано если 4321, ответить абвгд. Ну он и отвечает абвгд.
Да нельзя китайскую комнату представлять как изолированную систему. Кто создавал ее со всеми этими инструкциям? Мы не найдем понимания , пока не увидим китайскую комнату как часть болшой системы , куда входят все китайцы, окружающие комнату , да и англичане тоже. Китайская комната таким образом представляет собой лишь " зеркало" от которого отражается разумный посыл из вне наружу. И лишь поэтому китайцы видят разумное поведение комнаты. На самом деле они видят свое "психичесакое " отражение .
А человек по своей сути не является продвинутой версией Китайской комнаты. Что, если то что мы подразумеваем под "пониманием" является некой иллюзией, результатом множественных перестановок карточек внутри комнаты?
Если философы могут оставаться в рамках языка, не лишая себя, тем не менее, разумности, то какой принцип дает им основания сомневаться в разумности гипотетической программы, строящей карту и иерархическую структуру окружающей её информации? Начальное целеполагание у человека не отличается от целеполагания червя - продолжиться гену. Все остальные целеполагания вторичны. Существование именно этого целеполагания - казус, в чём-то близкий антропоморфному принципу.
Складывается впечатление, что основная критика Серла была все же направлена против теста Тьюринга. И действительно, если мы предположим, что существуют и сильный и слабый ИИ, мы не сможем посредством теста Тьюринга их отличить - первый есть личность, а второй способен эмулировать личность (выполняет функцию интеллектуального общения). Да, но это не значит, что сильный интеллект невозможен!!! И очевидно, что кроме теста Тьюринга необходимы дополнительные критерии проверки.
Имхо, здесь рациональность и рассматривается относительно достижения личных целей. Похоже на то, что выступающие более склонны признать разум у программы/машины, если у нее будут цели, но это пожалуй не так и сложно для программистов - задать автомату цель или даже несколько. Цели жизни человека тоже не особо разнообразны: удовлетворить несколько потребностей, продолжать жизнь далее, накапливать опыт и осуществлять логический вывод на основе поступающего опыта - а модули выводов человека они пожалуй тоже в некотором роде автоматы, только не железные, а биологические. В общем, пока еще программы/машины, прошедшие тест Тьюринга - это автоматы мимикрии под человека. Для их восприятия как созданий, подобных людям, нужна реализация тела, сенсоров и некого подобия чувствительности.
в данном случае признаком разумности , но увы, еще не доказательством будет факт искаженной интерпретации вопроса, и соответственно неточности ответа - довесок разрушающейся плоти, туман чувственности умирающего мяса от желания интерпретации, подключения второго смысла со стороны тела, как того, что неспособно интерпретировать, но способно внести помехи случайным искажением собственного разложения. своеволие, невыполнение задания, непреднамеренный бунт, выраженный например в отказе, или вариациях почерка, если иероглифический ответ будет записан на бумаге. как же непонятно, что машина дает ответ без искажений, или с прочитанными , ожидаемыми искажениями, в отличи от человека, который, в отличии от машины будет выдавать в ответ гораздо большее, чем его спросили - симптом. ведь ответ человека -- это не просто нули и единицы, это запись на бумаге - мятой, ровной, загнутой от волнения, это знаки, написанные разным почерком. куда вы денете этот самый важный довесок? машину можно запрограммировать , человека нет, он всегда будет выдавать искажения. мы не можем запрограммировать машину на искажения, поскольку искажение не высчитываемый контекст, в первую очередь не высчитываемый контекст саморазрушения.
Мария абсолютно правильно сказала,нужны определения для слов которые они используют в беседе.Как вообще можно что либо выяснить если нет понимания слов и их семантики?Сделали определения,ведем дискуссию,по мере необходимости добавляем слова и определения,завершаем дискуссию и идем работать над искусственным интеллектом.
а Вы можете дать такое определение сознания, которое бы удовлетворило всех?
@@yarunskiy Вряд ли я смогу дать определение удовлетворяющее всех. Но зачем мне пытаться удовлетворить всех? Как мне кажется, при обсуждении вопросов ИИ, китайских комнат, философских зомби и т.д. требуется такое определение, которое подойдет для участников дискуссии.
Чем более компетентные участники, тем более ясный смысл будет нести слово "сознание" во время их общения. Это не значит, что они обязательно должны сузить пространство возможных сознаний, это значит, что пространство будет более явно очерчено. Когда я пишу "сузить пространство возможных сознаний" я имею ввиду, что они могут прийти к такому определению сознания, что туда будут подпадать обычные компьютеры и животные, а могут ограничить пространство и не включать их.
Вообще, мне кажется, что вы написали этот комментарий как упрек мне, что-то в стиле: "А ты можешь дать идеальное определение? Нет? Ну тогда не умничай!". Возможно, я ошибаюсь, но если я правильно понял ваш посыл, то должен сказать, что моя неспособность дать идеальное определение не является свидетельством чего-либо, кроме моего ограниченного ума. Вне зависимости от того, могу я дать определение или не могу, факт остается фактом - качественно продуманные определения важны, если мы хотим вести продуктивную дискуссию. Всегда стоит потратить время и силы на то, чтобы сократить понятийные расстояние и прийти к тому, чтобы участники беседы говорили об одних и тех же вещах. В теме сознания это особенно актуально.
@@yanagaeify всё так, но я имел ввиду, что ни определения ни теории сознания (более-менее адекватной, "рабочей") на сегодняшний день НЕ СУЩЕСТВУЕТ. Есть лишь досужие разговоры "на тему". Даже сами творцы ИИ ещё на заре компьютерной эры однозначно заявили, что ИИ (Искусственный Интеллект) - это только - и исключительно!!! - вычислительная машина. Не более того. Никакие "обучения" ИИ ничего не дают так как это всего лишь примитивная симуляция упрощённых процессов. Всё живое имеет обратные связи. ИИ - не имеет никаких связей и он мёртв в антропологическом смысле. Поскольку на сегодняшний день нет ответа на вопрос - сознание причинно или имманентно, то это сильный аргумент в пользу того, что физикализм потерпел поражение.
@@yarunskiy Во первых, я не понимаю вот это "сознание причинно или имманентно" и вот это "ИИ - не имеет никаких связей и он мёртв в антропологическом смысле."
Во вторых, системы ИИ имеют обратные связи, которые позволяют ему учиться на своих ошибках и менять себя(свое поведение) в сторону более оптимальной стратегии, так работают некоторые ИИ уже сегодня.
"Даже сами творцы ИИ ещё на заре компьютерной эры однозначно заявили, что ИИ (Искусственный Интеллект) - это только - и исключительно!!! - вычислительная машина.", а что есть причины думать, что какой либо мозг это не исключительно вычислительная машина? Или есть причина думать, что вычислительной машина не может работать как какой либо известный нам мозг? Я не специалист, но насколько мне известно, таких свидетельств не существует, но существуют косвенные свидетельства обратного.
В третьих, у меня вообще нет желания спорить или что либо доказывать. Я предполагаю, что мой взгляд на физикализм существенно отличается от вашего. Если я прав в своем предположении, то наш разговор ничего не даст, мы только оба потратим время. Если вы действительно хотите глубоко окунуться в вопросы сознания, ИИ, вычислительных систем и физикализма, то я могу предоставить вам очень полезные материалы на эту тему. Почти наверняка вы не знакомы с этими материалами и судя по вашему сообщению они здорово отличаются от ваших текущих взглядов.
Ведущая находится в Китайской комнате)
не совсем, пожалуй
🤣🤣🤣
Да не. Всё ж понимает.
@@Червячелло она имитирует целеполагание и понимание, она - искуственный интелект
Ахххх 👍👍👍👍
Может пора задать вопрос "а что есть понимание и какие его критерии, и есть ли оно у человека"? Мозг человека тоже можно считать китайской комнатой, которая выполняет определенные инструкции, получая входящие сигналы и выдает какие-то реакции на них.
разговор о каком-то искусственном интеллекте. А что мы подразумеваем под интеллектом в целом? Почему отрицаем интеллект у сири, например? Интеллект не есть ли синоним для вычисления? Или вычисление, активизирующееся от постороннего источника? Или что? Может упразднить это понятие или определить его как способность к вычислению у живых существ - проблем станет гораздо меньше.
Курт Гёдель в своей теореме доказал, что невозможно изнутри системы доказать или опровергнуть её ошибочность, нужно выйти пределы системы. Целеполагание как критерий разумности и наличия сознания слабо применим, какое целеполагание у младенца или у плода внутри матки? Автоматически-запрограммированный рост и развитие. Какое целеполагание у машин Тесла? Самообучение, т.е. развитие. Есть ли сознание у беспилотных машин? Так можно договориться до того, что дети до ХХ сознанием не обладают, и поэтому на них не должны распространятся правила и законы созданные для разумных существ, это кстати к вопросу о том, что некоторые законы не применимы к детям до их совершеннолетия. Грубо говоря есть разные типы сознаний, Человеческое, животное, растительное, минеральное и т.д. Те кто думают, что только человек разумен ибо у него своеобразное понимание мира и некая уникальная личность и психический окрас - заблуждаются, существуют типизации по типам личностей, исходя из которой можно сказать что все люди похожи друг на друга, существуют исследования доказывающие что растения обладают интеллектом, что они общаются друг с другом, например посредством химических веществ, в общем разница между сознанием Человека и растений в том, что у психики растения уже диапазон осознаваемых им факторов среды, почва, воздух, удобрения, свет, человеческому же сознанию доступен более широкий диапазон факторов, в том числе виртуальных - вымышленных гипотез и фантазий. Древние индейцы знали что у камня, травы, дерева есть душа (сознание-интеллект), а современные учёные на их фоне просто неучи.
Боже как это скопировать
Гениально
Интересно сказано.
Добавлю, что для большого количества людей наличие души у человека тоже вызывает сомнение.
Сознание это осозновать что живёшь и в один день умрёшь. Способность не послушатся своим инстиктам. Самоубийство, не продолжать свое потомство. А не какие то растение который могут общаться.
@@radugaduga72 , Вы правильно подметили, в комментарии сказано интересно. Но, к сожалению, далеко от истины.
Вы намекнули о душе, которая является тем самим сознанием. Это и есть наша аура. Уход ауры, после угасания тела, заснял профессор Коротков.
Почему Мария на 06:25 как-то странно заявляет, что все философы соглашаются в том, что наличие субъективного опыта у человека сомнению не подлежит. Про иллюзионизм не слышала? Ну и Дэниел Деннет смеётся над этими её словами.
Благодарю за видео. Очень понравилось как рассказывает Дмитрий Волков
Так, у них в 2015 ещё ни один *человек* не доказал теорему Пункаре. Что знают о Перельмане они, чего не знаем мы ?
Сформулированная в 1904 году математиком Анри Пуанкаре гипотеза была доказана в серии статей 2002-2003 годов Григорием Перельманом.
Интеллект - это часть психики. Сюда же входят инстинкты, эмоции, чувства, воля. Все эти вещи не исследованы полностью, как тогда их можно воспроизвести искусственно? Как можно воспроизвести то, что знаешь частично? То о чем ученые не знают, может очень сильно влиять на общую картину
так же как и сознание. В плане психологии есть такая шутка, в которой доля шутки "всизологи обладают огромным объемом интересного строительного материала с который не знают что делать". Речь шла о данных экспериментов которые трактуются практически каждой школой по своему и практически все.
Но да я с вами более чем согласен
Интерьер крут
Restrocket что то от инквизиции
Не понимаю почему у программы нет цели..?
А вы не думаете, что эти трое на самом деле являются философскими зомби?
У человека (у личности, субъекта) есть способность формировать самостоятельные желания, интерес.
Искусственный интеллект может быть производительнее человеческого разума, но он не имеет своих желаний, не имеет своего интереса. Может его изображать, если того ПОЖЕЛАЮТ его создатели, программисты, но самостоятельно создать его не может. Если сможет, то в этот момент искусственный интеллект действительно станет личностью, самостоятельным субъектом.
Наше сознание и работает как китайская комната, просто у нас много китайских комнат, которые передают друг другу карточки.
причём в этих китайских комнатах сидят китайцы, которые отвечают на вопросы китайцев
Комната в целом представляет собой организм наподобие нашего. Мозг человека функционирует также согласно заложенным программам. Электрические импульсы, идущие по нервным волокнам, действуют так же как человек в китайской комнате(без понимания). Тут и возникает логическая ошибка ложной аналогии. Внутри комнаты функция передатчика возложена на существо, уже обладающее сознанием, в то время как в нашем организме эту функцию выполняет совокупность бессознательных элементов. То есть противоречия тут нет.
Вопрос в том, что если в комнате, вместо существа, обладающего сознанием, эту функцию будет выполнять нечто им не обладающее, можно ли тогда считать комнату в целом им обладающей? Кажется, что да. Но в то же время, если нет, то обладаем ли сознанием мы?
Это глупо ибо человек лишь выполняет поставленную задачу . ( И как свойственно человеку - он способен допустить ошибку ) но это в очень грубом варианте , эксперимент лишь доказывает что человек способен действовать подобно роботу . Если ты всю жизнь совал купюру в аппарат и получал жетон - ты не заметишь отличия если в аппарате будет сидеть человек что выдаёт жетон за купюру .
>Электрические импульсы, идущие по нервным волокнам
Тута проблема в том, шо большинство не сознаёт, шо там собсна электрические импульсы совмещены со сложными биохимическими реакциями. И вообще, весьма сомнительно, шо работа мозга в своей целостности сводима к работе нынешней электротехники, которые работают чисто на электрических явлениях.
На два вопроса можно ответить одним мысленным допущением, что наше "сознание" это побочный продукт "работы" биохимических процессов проходящих в мозге. То-есть если допустить что наше сознание (раздумья, размышления) это всего лишь "просмотр" выборочного сбора данных по определенному алгоритму созданной программой из всей загруженной базы данных (назовем базу мозг). Мы стоим с фотоаппаратом и фоткаем от третьего лица этот процесс (выборочного извлечения из базы данных определенных логически складываемых паттернов) и по картинкам интерпретируем (анализируем) эту работу, так мы выстраиваем картину мира и называем ее жизнь. Опять же, это проиходит по определенной программе.
Человек не больше чем сумма частей что его составляют
@@saintjacob6428 как раз таки реальность говорит что это не так
Справедливо сказано про склонность наделять всё вокруг разумностью. Но ещё есть другая склонность. Наделять именно свой мозг, так похожий (если смотреть с далека) на мозги других животных, в особенности млекопитающих, какой-то особой категорией СОЗНАНИЕ и отказывать в ней всем остальным системам допускающим хоть и зачастую более сложное, но не требующее привлечения дополнительных сущностей объяснение. Уже феерически бомбит от этого бородатого ad hoc-ка.
Очень наглядная аналогия через которую легко поставить вопрос ребром и отобразить, насколько неосознанны и безразличны действия вычислительной машины, который просто дали алгоритмы. При этом вся эта система целиком, может сойти за сознательный разум, хотя бы потому, что алгоритмы то ей должен писать именно он.
Тем не менее спасибо ПостНауке - за всё ! Нельзя выпустить миллион пуль и каждой попасть точно в цель. #светнауки
Прочитали все комментарии и уже готовы отдать вам титул самого внимательного зрителя. Давно у нас не было такого разбора (почти прожарки).
Спасибо )
Извините, за грубость, пожалуйста. Надеюсь вы не обиделись.
У вас все по делу! Мы только рады таким комментариям
Я конечно прошу прощения 😁🤷но можно объяснить что тут происходит?(контекст пожалуйста)
ведущая - прелесть, в эту сухую академическую дискуссию вливала струйки ...ммм позитива своими милыми репликами.
Очень интересно. И хорошая аналогия. Эта тема гораздо важнее, чём покорение космоса.
Спасибо за Марию!
Так же положительно отношусь к самому занятию -- задавать (зачастую на первый взгляд) сложные вопросы. Они делают нас умнее, дают более чёткое понимание научных идей, углубляют мировоззрение. Просто с точки зрения большинства философов и учёных, как отмечено в видео -- тема исчерпана. А меньшинство вместо того, что бы вступить в конструктивную беседу с этим большинством и попытаться опровергнуть очевидные контр-аргументы -- изолируется от него в свой мирок расплывчатых понятий и скрытых аксиом. Видимо тут большинство должна была представлять психолог, но не срослось.
Человек подобен магнитофону. Что записал, то и слушаешь. Бывает человек так и проживает всю свою жизнь с одной песней в голове.
Позвали бы самого Васильева, о котором упоминает Волков. Вот уж харизматичный лектор и приятный человек, ну и специалист по фф сознания крупный)
Интересно, но звук хромает. Очень тихо, в транспорте слушать невозможно. И судя по комментариям к другим видео, не у меня одного такая сложность.
Ведущая похожа на одноклассницу из далёкого 95го, просто 🔥🔥🔥🥰
Хорошо в конце дискуссии заметила Мария Фаликман - всё зависит от того, как определять само понятие разумности. Здесь речь велась о разумности как свойстве самой комнаты (компьютера, человека). Но это ведь, мягко говоря, некорректно. Разумность сама по себе не существует в отдельном человеке. Разумность это свойство сообщества в целом. По большому счету все члены сообщества имитируют некую форму разумности, принятую в культуре данного сообщества (в том числе и используемый для этого язык). Отсюда следует, что ИИ вполне может имитировать разумность, если снабдить его всеми когнитивными и поведенческими шаблонами данного сообщества. Но вот чего он никогда не сможет имитировать, так это творчество. Для этого он должен уметь оперировать не только символами, но и идеями, на что способен видимо только человек.
Творчество уже пройденный этап слабого ИИ. И давно пройденный.
Простейший механизм. Есть генераторы псевдослучайных чисел. Далее к ним можно привязать набор каких-либо действий. И делать естественный отбор. И что-то выстреливает. Например, поведение бота против другого бота в игре. Или там основной мотив в песне.
:) т.е. вы считаете, что творчество это случайный процесс... Ваше право. Ну да, согласно современной науке все, что мы наблюдаем сейчас возникло благодаря великому богу случайности - Хаосу.
Лично я другого мнения. Для меня творчество, это выход за рамки имеющегося мира, выход к идеям и их воплощение. И это может сделать только человек, его душа.
А Вы считаете его определённым, как программа? То есть можно его закодить?
Да ну куда Вы выйдете?! :) Дальше оперирования информацией с помощью логики никуда у Вас не получится уйти. Вы в "коробке", да и все остальные. Как можно со стороны проверить логику? Чем её можно поверить?
Ну это Вы, видимо, посадили себя в "коробку логики". Для меня логика лишь один из способов мышления, не более. Логику тоже придумали люди.
Если компьютер выключить из розетки, то он не умрёт, а заснёт как делают люди при кратковременной эпилепсии (будет провал сознания, но не смерть).
А когда код Элизы переписывают, то она просто меняет свою память, свой характер (ведь даже человека в течении жизни переписывают обстоятельства и другие люди).
Ну или можно сказать что мы все умираем постоянно и не замечаем этого.
Кстати, если человек внутри китайской комнаты не справится... И китайцы решат, что они не получают разумных ответов на обращение к комнате... И забросят внутрь гранату.... То они уничтожат настоящего живого разумного и обладающего сознанием человека, проблема которого была лишь в невозможности выстроить нормальную коммуникацию. То есть если нам не известен точно принцип работы китайской комнаты, мы не можем быть уверены в отсутствии сознания внутри, даже если комната ведет себя несознательно с нашей точки зрения.
невероятно интересно!
ведущая сильно портит впечатление от замечательной дискуссии.
А сейчас нейросети - отличная иллюстрация Китайской Комнаты, где нет ни сознания, ни понимания. И сейчас куда легче сформулировать идею о проблеме понимания: нейросеть не понимает, не анализирует, она воспринимает входящие данные как запускающую команду для угадывания (а точнее, имитирования) похожего на живой ответ реакции.
И причем часто этот ответ совершенно невалиден, содержит артефакты и ошибки "инструкции" (модель нейронки, та самая инструкция с иероглифами). Да, можно представить куда более совершенную модель нейросети (GPT-x+1), но даже тогда - это будет более совершенная версия угадайки. Эта система: компьютер+обученная модель+святой дух чего-либо - абстрактно даже не существуют до тех пор, пока на них не оказываются воздействия извне. Пока "китайцы" не толкают в прорезь бумагу с вопросами на китайском. Если рядом не будет ни одного "китайца", то из прорези не появится бумажка с вопросом на "китайском" - Кто я? Ау? Где я? Только если такое поведение не запрограммировать (та же имитация).
Тут легко демонстрируется отсутствие реальной "научаемости" - здесь даже иллюзии субъективного опыта нет. На примере нейросетей абсолютно хорошо проглядывается синтезированность при попытке ведения осмысленного диалога, где в конечном итоге ты понимаешь - общение происходит со сложной динамической инструкцией, а не с разумной машиной.
Нейросетевой арт, звукогенерация, программный код, текст из GPT-4 - всё это очень наглядно демонстрирует отсутствие сознания.
А вот роль сознания на себя берет промт-разработчик (человек, который задает команды для генерации нейронкой чего-либо), обладающий мотивацией и субъективным восприятием и ожиданием для конечной цели.
Все просто - человек в комнате китайского языка не знает, но система "комната+человек" его знает.
Точно так же как отдельный нейрон в мозгу не обладает сознанием, но система из N миллиардов таких нейронов - уже им обладает. Сейчас уже не вспомню как называется, давно это было, но в теории систем для этого даже специальное название есть - для свойств, не присущих каждому элементу в отдельности, но присущих системе в целом.
Эмержентность или синергетичекий эффект
Точно, все просто) а мужики то не знают!)) Вообще, ни комната, ни человек не знают. Знают авторы инструкций, которых в этой системе нет. Так что, да, все просто, но не так просто, как у Вас))
В таком случае ИИ все равно не может иметь сознания так как тоже является частью системы человека( программиста ) и окружающего мира ,где человек является определяющим " как жить и что делать")
Супер! Формат хороший
> его аргумент [..] показал , что существует некоторая проблема и мы должны решить её на теоретическом уровне.
Это проблема существует только в коллективном воображении некоторых групп мыслителей и не имеет отношения к реальности.
В ответ на предположение о невозможности компьютерной программы обладать интеллектом я предлагаю следующий мысленный эксперимент: эмулировать работу 83e+9 нейронов головного мозга человека, обладающие некоторым субъективным опытом, схожим с человеческим. Это будет осознавать себя таким же человеком и реагировать будет так же. По сути человеческое сознание - это лишь очень сложная нейронная сеть.
Также хочется вспомнить интересную вариацию Китайской комнаты из фильма Ex Machina - человека запирают в черно-белой комнате, в которой он живет всю свою жизнь. Ему дают возможность изучать физическую природу цвета, его воздействие на сознание, то, каким образом устроены человеческие глаза и т.д. , но лишь по чб книгам. По окончании курса обучения его выпускают в цветной мир и лишь тогда он на самом деле понимает, каково это, ощущать цвета. Стоит ли считать, что в этот момент человек обрел больший интеллект вместе с этим пониманием?
+Jagon Могу вас уверить, что интеллект современных компьютеров намного выше, чем среднего человека. Еще лет пять и "интеллектуалы" будут по сравнению с ним обезьянами из зоопарка.
Нет это произойдет не как осознанный процесс, до понимания дуализма наука не подымется, просто методом тыка переберут все варианты и получат то, что написал.
Философский вопрос состоит вот в чём. Будет ли эмуляция этих 83е+9 нейронов сама испытывать чувства, или только в точности воспроизводить механизм их работы? Будет ли виртуальная сущность истинным наблюдателем, или лишь копией наблюдателя?
Похоже на проблему солипсизма, только в отношении машин.
До тех пор, пока компьютер работает четко по введеной программе, пока нам точно понятен принцип его работы, механизм и механика его работы, пока мы можем точно предсказать его следующее действие - компьютер является для нас неразумным автоматом.
Но вот если появится компьютер, работу которого мы до конца не понимаем, ни программа, ни механика работы нам точно не известны, и мы не можем предсказать его последующие действия... Вот тут нужно задуматься, что внутри спрятан разум. И возможно сознание.
Сами мы такой сделать не можем. И еще долго не сможем.... Ну если только родить ;)
А квалиа это и есть сознание или сознание находится внутри квалиа, или квалиа находится внутри сознания?
Аргумент с отсутствием целеполагания у ИИ не совсем справедлив. У человека, по сути, тоже нет целеполагания и вся деятельность сводится к ответной реакции на окружающую среду
Ну как же нет... "Жизнь - это экспансия". Сахаров вроде так сказал. В целом человек хочет процветания своего вида и себя. Ну как хочет... ЕГо подкорка так настроена. Детей, если может, если не может, тогда подкорка влключает механизмы принудительного альтруизма.
Представляю, какая у Вас невеселая жизнь... Только реакция, мда...
Жду статей, написанных роботами о неискусственном интеллекте и может ли он захватить мир и все такое.
Язык имеет синтаксис, грамматику. Поэтому, если инструкция не позволяет понять смысл вопросов на китайском, то нельзя дать связный ответ. Интеллектуальный эксперимент предельно некорректен, в нём нет описания того, как работает инструкция по расшифровке неизвестного языка или хотя бы объясняющую, как можно, не зная языка, дать ответ на нём - сам механизм действия. Поэтому всё это вообще не имеет отношения к философии, все эти спекуляции - тут нет собственно мышления, а только игра с некими готовыми элементами, тогда как мысль возникает из ничего, без внешних влияний, она ничем не обусловлена.
> мы создаем некоторую интеллектуальную систему которая в чем-то похожа, но она просто симулирует, просто похожа, но НА САМОМ ДЕЛЕ эта система не может быть сама по себе рациональна
А если она во всём похожа и её поведение статистически не отличимо (тест тьюринга и ему подобные), то, лол, что тогда значит НА САМОМ ДЕЛЕ ?
Китайская комната получается вопросом изоляции одного процесса обработки информации от других (в данном случае обработка китайского языка инструкциями и всех свойственных работающему в ней субъекту). Будет ли больной с расщеплённым сознанием её примером? Они ведь тоже иногда не могут добавить к речи данные от других процессов в их голове.
Неужели нельзя было найти ведущую, хоть на капельку обремененную интеллектом?
+Адам Джаутханов они все у Венедиктова под крылом пригрелись, или окопались в окопах НТВ)))
+Адам Джаутханов Не дави на леди. Наберется опыта.
Вопрос не в "разуме", вопрос - в "личности". Неужели это так трудно увидеть. Не в сознании, а в самоосознании
это второй вопрос, разве он отменяет семантическую проблему?
А что если осмысленность появляется не в процессе, а в результате (как и сознание)?
а как Вы объясните ситуацию, когда ребёнок подходит к ф-но впервые в жизни и за пару минут подбирает в точности мелодию, которую только что услышал, а другой ребёнок, даже окончив музшколу, этого сделать не может?
25:35 "...В общем, нет решения у этой проблемы!..."
Рассуждения очень интересные, их стОит послушать. Но если кому столько не осилить, то я привёл слова Юлии Полевой, которые резюмируют всё сказанное во время беседы. 😄
23:23 Где сказано, что на строгом формальном уровне доказано, что невозможно экспериментально решить проблемы сильного ИИ? Любая гипотеза проверяется эмпирически (скажем предположение в СТО о постоянстве скорости света в вакууме). Фантазии Серла дают повод предсказывать возможности технологий будущего??
Я думаю никаких логических проблем не может возникнуть в вопросе о невозможности сверхсильного ИИ. Если взглянуть на всех людей, как говорится, все кроме меня роботы работающие по принципу "китайской комнаты", а то чтл у них несуществует "сознания" я никогда бы и не смог узнать, так же как и обратное.
Чтобы в китайской комнате появилось понимание, достаточно лишить её инструкций, а человека поощрять по принципу кнут и пряник. Т.е. то что человек называет пониманием, на самом деле просто болевой и эмоциональный отклик.
Тогда будет не разум,а Павловская собака.
почитайте критику бихевиоризма. Там про это все описано
Согласен! Если учесть что эмоциональный или болевой синдром это просто определенный "код" на билинейном языке, который мы воспринимаем как "реальное чувство" (что принято считать в "реальном" мире), собой, то-есть программой написанной на том же би-ом языке.
Ну, так самосознание и пробуждается когда возникает угроза существованию индивида. Но это лишь начало. Далее самосознание усложняется и совершенствуеться
И это будет просто понимание ощущений - болевого и эмоционального состояния. Так то и животное его в какой-то мере его ощущает, то есть понимает, то есть делает выводы и соответственно им ведёт себя для избежания или повторения ситуации. Проблема в том, что вы вводите тут дополнительные условия для китайской комнаты которые противоречат ее смыслу. Если ввести "кнут и пряник" для реальной программы (китайская комната как аналогия программы) то у программы нет потребностей как минимум - у нее нет ощущения того что ей надо. Основные требования допустим - электричество, если отключать и включать его - программа внезапно не станет препятствовать включению или выключению.
Если лишить "комнату" инструкцию, то есть программу то она и работать не будет. Инструкция это ее сущность, последовательность действие, необходимое описание.
В китайской комнате: комната - есть материальная сторона программы, человек - ее сущность, задачи, функций.
Соответственно вы взаимодействуете в данном эксперименте только с внешней стороной комнаты или с задачами человеку. Если использовать систему поощрений - к чему это делать? Какая вам выгода? Про подробности человека тут не было сказано, про то что он может работать хуже или лучше от каких-то условий тоже ни слова, потому что не в этом суть эксперимента. Попытка доказать "понимание" через поощрение не вписывается в данную ограниченную модель.
Тяжело смотреть, когда у ведущей тяжелый случай
А что всё упёрлось в Сёрла? Д. Чалмерс так наоборот отметал все основные возражения против ИИ
Вот я орнул в голос, когда эта замечательная парочка все разжевала, и тут - бах! Ведущая спрашивает: так где же все таки здесь столкновения?
13:54 я тоже орнул!!!
Последняя фраза психолога -- золото.
По итогу : ни к кому претензий нет, ничего личного, уважаю и мс слева, и мс справа просто у меня есть определенные причины (см другие комментарии) считать, что вы говорите глупости.
P.S. Меньше всего глупостей сказала ведущая
Здравствуйте. Вопрос по Китайской комнате: Когда человек, находящийся внутри комнаты, пользуясь книга и инструкциями на английском языке, Он отвечает правильно, на поставленные ему вопросы (на китайском языке), или нет?
качество "сознание" (в том смысле, каким его знает общечеловеческая культура) есть только там, где реакциями на внешние раздражители есть страдание/удовольствие , сознание невозможно без этих качественных реакций на действительность.
Очень интересно.
Теорема или гипотеза Пуанкаре доказана... Человек ли Перельман - это конечно вопрос!
К К это наивный аргумент в пользу того , что человек "единственный и неповторимый ".
Главная проблема этого эксперимента в его умозрительности. Реализовать такую систему невозможно, она имела бы бесконечную сложность. В итоге, рассуждаем о том, что в принципе невозможно в материальном мире. Философский зомби невалиден как идея, значит, и проблема надумана. Это то же самое, что придумать концепт бога, а потом спорить, существует ли он, всемогущ ли, как соотносится с материей и т.д.
А что если представить Антикитайскую комнату (назовём её Уйгурской комнатой). В Уйгурской комнате находится уйгур с китайско-уйгурским словарём, подучает вопросы на китайском, переводит для себя, но ответ даёт ответ на уйгурском языке. У китайцев уйгурско-китайского словаря нет. Получив рац она ный ответ, китайцы его не поймут. Но разве это делает Уйгурскую комнату нерациональной?
Кстати, а разве до начала письменности у людей не было рациональности и семантики?
Жалкие людишки - ошибка Вашей логики в том, что Вы сравниваете интеллект со своим виртуальным псевдо-интиллектом *металлический смех*
Скрежет скрежет скрежет 😃
Когда включил видео чтобы узнать что-то новое и понял, что знает больше чем "учёные"
Не совсем понятно, чем эксперимент с китайской комнатой отличается от обычного общения, особенно на расстоянии. Откуда я знаю, что человек, с которым я говорю по телефону, действительно понимает то, что я ему говорю? Что такое "понимание", кроме как свойство, которое человек решил приписать самому себе?
Дилемму про "отключение искуственного сознание равно смерть" можно предположить не верной ......так как человека тоже можно отключать и включать, если не имеется ограничения обусловленной биологическим системой жизниобеспечения....как тебе такое Илон Маск?!
> когда вы выключаете вы убиваете
А когда обратно включаю, воскрешение ебать?
Сорян, но убийство выглядит не очень хорошо, только потому что на данный момент немного необратимо. Да значительная необратимая потеря памяти -- это в соответствующей степени смерть. Но если вся (в том числе оперативная) память после включения остаётся на месте т.е. система восстанавливается к состоянию в момент выключения, то ИИ права которого вы защищаете не узнает о своём выключении (и о существовании такового в принципе) ничего до тех пор пока вы ему об этом не скажите.
Вот именно. Как можно убить то, у чего нет "я", что не знает о своем существовании, а также о понятиях жизнь или смерть
да, и добавлю, - что теорема Пуанкаре, о которой упомянула Мария, вроде как была доказана М. Перельманом, ещё в 2007 году. Как-то так.
Такая хорошая дискуссия. Убрали бы ведущую и было бы все вообще замечательно.
Ведущая секси! Немного разбавить серьёзность. Для разнообразия :)
11:30 говорит "ладно я выучу карточки, но всё равно буду отвечать так КАК БУДТО я понимаю". НО ведь это не значит что в этом действии не появилось сознание, просто сознание этого учёного находится под этим новым сознанием, либо параллельно ему (как и подсознание).
То есть новое сознание в таком случае появилось поверх этого учёного, возможно оно глупое, однако всё равно это НОВОЕ сознание и даже главнее предыдущего более умного (ведь подсознательно мы обрабатываем куда более сложные объекты чем сознание, даже при повреждении зоны обрабатывающих лиц, сознательно мы не можем взять на себя всю работу этой подсознательной части, а значит сознание может быть глупее, но оно всё равно может быть при этом главнее).
Не понял я смысла китайской комнаты. Человек получает вопросы и утверждения на китайском языке, после переводит на английский и пишит ответ на китайском. Почему считается, что человек ничего не понимает? Он не понимает только язык. Ответы же он откуда-то берет. Из "личного" опыта, например. Он же понимает, что отвечает и понимает вопросы так как делает перевод с китайского. Могут быть ошибки и недопонимания, но у себя в башке этот человек видет картину происходящего и действует "рационально" (что это вообще такое). Другое дело нужно ли это все самому человеку. Какого ляда он сидит в комнате и занимается этим... действием.
На мой взгляд феномен сознание невозможно разгадать. Возможно это такое же фундоментальное явление, как гравитация к примеру.
Вероятно сама материя и есть сознание.
Медиатор или ведущая, так и не понял, подитожила: в общем, нет решения этой проблеме
Чем симуляция отличается от эмуляции?)))
15:50 Ха, а ведь я самостоятельно пришёл к идее, что компьютер не может иметь личность, поскольку у него нет своих желаний. И чувств тоже нет. Даже тех, что я испытываю сейчас...
Но компьютер можно научить выбирать свои "желания" и ставить цели так же, как их ставит себе человек . Человеческие желания только кажутся автономными и независимыми, на самом деле они вторичны и производны от инстинктов и эволюционных целей, зависят от железа и базовой прошивки, так сказать. Свобода воли и целеполагания вообще дико переоценена. Это скорее иллюзия.
дайте ему идею, ради чего он живет, и чувства появятся...
нейросети сегодня дают более осмысленные ответы на понятном языке 😁😁😁
Когда-то белые люди не считали чернокожих людьми.
Данная дискуссия как раз об этом. Когда чернокожие люди заставили белых считать себя людьми, то белым больше ничего не осталось, как с этим согласиться. Проблема с ИИ схожая, но еще более сложная, так как у ИИ может появиться желание считать людей более примитивными существами, не заслуживающими того, чтобы им вообще что-то доказывать. Мы же не доказываем крысам, что мы люди.)
Приятно услышать знакомый голос ведущего)
Сейчас вам зададут по-китайски вопрос: "你喜欢咖啡吗?". Переводить его я не буду, но надо ответить "是的", если вы любите кофе, и "不", если не любите.
Нет, в самом деле, почему никто не пытался перевести эксперимент из мысленного в реальный? Хотя бы на примере детских книжек и словарного запаса в 20-50 слов. Я подозреваю, что в тот момент, когда человек выучит все инструкции, он довольно много начнет понимать. Можно было бы дать человеку все инструкции к беседе на определенную тему, "побеседовать", а потом на родном языке спросить - какие предположения у него могут быть по поводу использованной темы?
Но вы объяснили суть вопроса (или ввели в заблуждение). Т.е. в инструкции записано, что при получении текста 1 впервые - выдать текст А или Б случайным образом и запомнить ответ, воспроизводя его в будущем.
@@SharkTPO нет, в китайской комнате все неслучайным образом выдается
@@spatifilla , ну да, инструкция. А случайный ответ - это имитация того, любит ли человек кофе или нет. Какой-то же ответ должен быть. Ну или он должен быть записан в инструкции. А сидящий в комнате - не знает о чем вопрос, потому свою волю не спроецирует на ответ.
@@SharkTPO я думаю, тут мы дошли до того момента, где в видео обсуждалась бутылка колы. Подаст человек в комнате бутылку или нет? То есть до того момента, когда замкнутая на себе система символов соприкасается с реалтным миром и должна или не должна каким-то образом его отражать.
"тело" сложнее определять. Определить сознание не сложно, оно компенсация бесполого Тела, тогда как само "тело" не действует в отличие от бесполого Тела. Сознание начинает действовать по пробуждению ото сна, но это "действие" уже пассивное в отличие от действия бесполого Тела дающего программу сознанию, которая имеет целью уравновесить бесполое Тела в среде обитания и действия. Стоит ли придавать значение сознанию, нет, вторичное и зависимое вне цели, а значит важнее бесполое Тела и его "действие", которое определяется "средой". Почему "тело" действует во многих концепциях? связано с незрелостью мысли, и например в философии с механицизмом до сих пор господствующим среди философов, а в психологии с интересом также, чтобы клиент "двигался" к ним, ведь рынок знает только деньги, и где многие вещи ради прибыли существуют. Ведь любому идиоту понятно что вселенная никуда не двигается, и если глянуть в учебник физики, где и напрашивается принцип простой аналогии к "индивиду", и ясно что политикам идиотам это неизвестно, иначе бы они делали ставку не на "политэкономию", и принимали бы более взвешенные, разумные, решения.
Чересчур много повторений звука в заставке в конце
Наглядная реализация такой комнаты - Google Translate и другие машинные переводы.
13:54 лучший момент видео.
Китайская комната не обладает памятью, что легко проверяется вопросами. Как можно говорить про сознание в таком случае?
Комната может записывать и регистрировать свои действия. Это разве не память?
@@radugaduga72 Нет, потому что все действия по "вызову информации" из ячейки памяти у программы будут неверны.
а что если искусственный разум (интеллект) - это не человек (машина-поцессор), который сидит в комнате и не комната (набор вариантов), а тот кто НАПИСАЛ изначально все карточки, предвосхитив все вопросы. То есть создатель (программист), грубо говоря "скопировавший" свой разум в чистом виде. Такой разум продолжает жить уже самостоятельно и вполне осмысленно.
так и до религии недалеко
интересное предположение, но выбор какую карточку использовать все же достается человеку в комнате а не програмисту.
Так вроде человек перебирает карточки, пока не совпадёт то, на что ему надо отвечать с тем, что на инструкции написано. Ну типа ему передали 4231. Он ищет инструкцию, где написано если 4321, ответить абвгд. Ну он и отвечает абвгд.
Felix Judith Выбора у человека нет, у него инструкции.
Инструкции это не копия разума, а его продукт. Так что разум не продолжает жить и действовать самостоятельно в этой комнате.
Два человека пытаются доказать, что ИИ невозможен, забывая вставлять оговорку "сейчас"
Это зависит от полноты определения ИИ.
> но мне кажется что большинство философ и (не знаю как) учёных с большим скепсисом относятся к этому эксперименту
Закономерно.
Да нельзя китайскую комнату представлять как изолированную систему. Кто создавал ее со всеми этими инструкциям? Мы не найдем понимания , пока не увидим китайскую комнату как часть болшой системы , куда входят все китайцы, окружающие комнату , да и англичане тоже. Китайская комната таким образом представляет собой лишь " зеркало" от которого отражается разумный посыл из вне наружу. И лишь поэтому китайцы видят разумное поведение комнаты. На самом деле они видят свое "психичесакое " отражение .
> она может ставить цели ?
Да, иначе она отличима от здорового человека.
//Я создал ИИ-аутиста, КАРЛ !
Мне вот интересно,ведущая за красоту или за ум попала туда?
мб чья то дочь..
А человек по своей сути не является продвинутой версией Китайской комнаты. Что, если то что мы подразумеваем под "пониманием" является некой иллюзией, результатом множественных перестановок карточек внутри комнаты?
наставьте лайков этому челу
@@tuqinator поставил и ему, и тебе
@@vitalyaruzankin965 _😁 Сколько лет прошло. а тайна осталась за кадром)))
@@grayaudio8657 какая тайна?
При просмотре испытывал испанский стыд за ведущую. И, кстати, а как же Перельман?
Если философы могут оставаться в рамках языка, не лишая себя, тем не менее, разумности, то какой принцип дает им основания сомневаться в разумности гипотетической программы, строящей карту и иерархическую структуру окружающей её информации? Начальное целеполагание у человека не отличается от целеполагания червя - продолжиться гену. Все остальные целеполагания вторичны. Существование именно этого целеполагания - казус, в чём-то близкий антропоморфному принципу.
именно. и именно этого целеполагания и нет компьютера. у него нет цели размножится. появится желание размножиться - появится и все остальное
Складывается впечатление, что основная критика Серла была все же направлена против теста Тьюринга. И действительно, если мы предположим, что существуют и сильный и слабый ИИ, мы не сможем посредством теста Тьюринга их отличить - первый есть личность, а второй способен эмулировать личность (выполняет функцию интеллектуального общения). Да, но это не значит, что сильный интеллект невозможен!!! И очевидно, что кроме теста Тьюринга необходимы дополнительные критерии проверки.
Мыслить рационально, как мне кажется, за частую крайне сложно ввиду эгоистичной сущности человека.
Имхо, здесь рациональность и рассматривается относительно достижения личных целей. Похоже на то, что выступающие более склонны признать разум у программы/машины, если у нее будут цели, но это пожалуй не так и сложно для программистов - задать автомату цель или даже несколько.
Цели жизни человека тоже не особо разнообразны: удовлетворить несколько потребностей, продолжать жизнь далее, накапливать опыт и осуществлять логический вывод на основе поступающего опыта - а модули выводов человека они пожалуй тоже в некотором роде автоматы, только не железные, а биологические.
В общем, пока еще программы/машины, прошедшие тест Тьюринга - это автоматы мимикрии под человека. Для их восприятия как созданий, подобных людям, нужна реализация тела, сенсоров и некого подобия чувствительности.
@@ЮлияУ-у7э Цель должен задавать сам автомат, "делать целеполагание" - это интенциональность.
в том то и прикол, что человек в своих целях может быть глуп, не рационален (например погибнуть как герой, или как наркоман) и так далее
20:10 Днепров предвосхитил эксперимент с кк.
Один Я смотрю передачи т.к. ведущая мне понравилась?
Господи, в Википедии про китайскую комнату информации в 100 раз больше чем в вашем 26-минутном пустопорожнем самодовольстве
*о ПРИВЕТ ВЕДУЩИЙ(ДИКТОР) ИЗ ИГРОМАНИИ !!!!*
в данном случае признаком разумности , но увы, еще не доказательством будет факт искаженной интерпретации вопроса, и соответственно неточности ответа - довесок разрушающейся плоти, туман чувственности умирающего мяса от желания интерпретации, подключения второго смысла со стороны тела, как того, что неспособно интерпретировать, но способно внести помехи случайным искажением собственного разложения.
своеволие, невыполнение задания, непреднамеренный бунт, выраженный например в отказе, или вариациях почерка, если иероглифический ответ будет записан на бумаге.
как же непонятно, что машина дает ответ без искажений, или с прочитанными , ожидаемыми искажениями, в отличи от человека, который, в отличии от машины будет выдавать в ответ гораздо большее, чем его спросили - симптом.
ведь ответ человека -- это не просто нули и единицы, это запись на бумаге - мятой, ровной, загнутой от волнения, это знаки, написанные разным почерком.
куда вы денете этот самый важный довесок?
машину можно запрограммировать , человека нет, он всегда будет выдавать искажения. мы не можем запрограммировать машину на искажения, поскольку искажение не высчитываемый контекст, в первую очередь не высчитываемый контекст саморазрушения.
про "одесского мальчика"
22century.ru/popular-science-publications/cheating-on-the-test
а.днепров Игра "Знание - сила", 1961, ©