ИИ: какого понимания нам не хватает?

[незлой]

и давайте в конце концов сформулируем, чего мы хотим от ии: чтобы он был как мы (со всеми нашими эволюционно-сформированными тараканами), или чтобы он был просто интеллектом?

[PathFinder]

а вы можете подробнее рассказать про квалиа?

Есть у меня некоторые рассуждения по этому поводу. Не стопроцентное объяснение этого феномена конечно...
Расскажу завтра-послезавтра. Нужно с мыслями собраться для такого рассказа.

а откуда известно что то, что я вижу красным другому не кажется зелёным, например, просто этого другого научили называть то, что он видит зелёным -- "красным", т.е. откуда известно, что восприятие одинаково названных вещей/свойств у всех одно и тоже?).

А это достоверно никому пока и не известно. В качестве пищи для рассуждений по этому поводу можно вспомнить различные иллюзии цветовосприятия. Вам такие знакомы или нужно приводить ссылки?

[Golossvyshe]

Народная мудрость гласит – об искусственном интеллекте мечтают  те, у кого с естественным дела обстоят неважно. 

[ВадимZero]

речь о другом: откуда уверенность, что интеллект не пользуется теми-же механизмами?

А интелект ими пользуеться без сомнения..он веть продукт эволюции.

или чтобы он был просто интеллектом?

Вот тут проблема с определением, что такое просто интелект. Некоторые люди не отделяют мотивацию от интелекта...Они свое хочу, приписывают интелекту.
Может это просто у генома мания величия, он уже не хочет быть просто реплекатором.

[незлой]

Есть у меня некоторые рассуждения по этому поводу. Не стопроцентное объяснение этого феномена конечно...
Расскажу завтра-послезавтра. Нужно с мыслями собраться для такого рассказа.

подожду, конечно.

А это достоверно никому пока и не известно.

пока или в принципе? как _стать_ хотябы одним другим человеком и проверить?

В качестве пищи для рассуждений по этому поводу можно вспомнить различные иллюзии цветовосприятия. Вам такие знакомы или нужно приводить ссылки?

знакомы. эксплойты к багам в алгоритмах затылочной области и глазного нерва.

[незлой]

А интелект ими пользуеться без сомнения..он веть продукт эволюции.

ну вот и ии пусть пользуется, чё он, рыжий? зачем -- сказано выше.

или чтобы он был просто интеллектом?

Вот тут проблема с определением, что такое просто интелект.

предлагаю определение: то, что решает поставленную задачу, чем шире круг решаемых задач -- тем выше интеллект.
в принципе -- даже мышеловку можно рассматривать в качестве простого, механического интеллектуального устройства.

[Дед Моррозоу]

чем шире круг решаемых задач -- тем выше интеллект. В принципе -- даже мышеловку можно рассматривать в качестве простого, механического интеллектуального устройства.

Ну тагдысь... посмотрим на всю вселенную целиком. На "звёздное небо над головою". Чем не высшая ступень ИИ?

[ВадимZero]

предлагаю определение: то, что решает поставленную задачу, чем шире круг решаемых задач -- тем выше интеллект.

Претположу что интелект это чтото что находит решение, а не решает.

[PathFinder]

и давайте в конце концов сформулируем, чего мы хотим от ии: чтобы он был как мы (со всеми нашими эволюционно-сформированными тараканами), или чтобы он был просто интеллектом?

Меня, например, интересует ИИ в смысле "просто интеллект".
Чтобы он умел взаимодействовать с окружающей реальностью (в самом прямом бытовом смысле) и умел самостоятельно логически додумываться до того, до чего точно известно, что можно додуматься.

Например, додуматься до решения квадратного уравнения "в общем виде". Я пробовал прикидывать, что для этого нужно. Получается довольно длинная и интересная история.

Начиная от обретения способности понимать, что такое "отдельный объект". Продолжая возникновением  абстрактного понятия числа (у Бодякина кое-что есть по этому поводу вот тут:http://www.informograd.narod.ru/IR_2005/IR_2010/Mind-003.html#09 (Где-то в середине текста. В районе рисунка 5. Там на нём картинка с двумя кругами и квадратами. Если текст не отображается, задать в браузере кириллическую кодировку страницы.)).
Ну и до того, что у решения уравнения может быть какой-то "общий вид" тоже ещё нужно додуматься.
И это я ещё не всё перечислил. Хотя бы такая "мелочь", как додуматься до позиционной (ну или хоть какой) системы счисления. Ну и многое другое...

И, обратите внимание, всё вышеперечисленное можно сделать не привлекая никаких случайностей. (Как это предлагает Семёнов.)
То есть вот такой вариант ИИ можно, на мой взгляд, взять за основу и дорабатывать его если вдруг выяснится, что он на что-то принципиально неспособен.

[незлой]

Чем не высшая ступень ИИ?

на практике пока -- ничем, даже в перспективе.

Претположу что интелект это чтото что находит решение, а не решает.

а в чём разница?

хотя - да, стоит уточнить. ещё пара определений:

интеллект не равнозначен разуму. разум есть элементарная часть цивилизации, кусочек цивилизации в отдельно взятой голове.
цивилизация -- самоактуальная структура (в том смысле, в каком самоактуален любой организм -- ему не требуется обоснований для своего существования помимо самого этого существования), развивающаяся в сетях индивидуумов, связаных второй сигнальной.

определения сырые, критикуйте.

[PathFinder]

А это достоверно никому пока и не известно.

пока или в принципе? как _стать_ хотябы одним другим человеком и проверить?

Надеюсь, что всё-таки пока. Нужно же решить этот вопрос.

Что касается "как стать хотя бы одним другим человеком"...
Ну напимер соединить инвазивным нейроинтерфейсом у двух человек области мозга, которые по нашему мнению отвечают за формирование сознания (неокортекс?). И затем спросить этих людей об их ощущениях.

Ещё вариант - поискать "сеамских близнецов", достаточно плотно сросшихся мозгами. Достаточно адекватных, чтобы рассказать о своих ощущениях.
Интересно, такие случаи происходили?

[Муха_]

Ещё вариант - поискать "сеамских близнецов", достаточно плотно сросшихся мозгами.

Читали опыты с расщеплением мозга?
Никаких ощущений не существует. Существуют отчеты об этих ощущениях и объективные причины в нейронной сети, породившие эти отчеты.

[незлой]

И, обратите внимание, всё вышеперечисленное можно сделать не привлекая никаких случайностей. (Как это предлагает Семёнов.)
То есть вот такой вариант ИИ можно, на мой взгляд, взять за основу и дорабатывать его если вдруг выяснится, что он на что-то принципиально неспособен.

а.

но ведь до тех пор, пока они будут оставаться собой а не другим человеком, всё это жонглирование смысла имеет не более, чем очки или шлем с виртуальной реальностью: квалиа субъективен по определению. или нет?

[PathFinder]

Читали опыты с расщеплением мозга?
Никаких ощущений не существует. Существуют отчеты об этих ощущениях и объективные причины в нейронной сети, породившие эти отчеты.

Нет, не читал. Можно подробности, ссылки? Если не затруднит, конечно.

[незлой]

мозолистое тело действительно рассекают при тяжёлых случаях эпилепсии. а дальше, похоже, какому полушарию речевой центр активнее достанется -- тот и пан, хотя случаи  когда правая рука не ведает, что творит левая тоже сплошь и рядом (причём - буквально).
подобных пациентов довольно много исследовали когда выясняли специализацию полушарий. некий роджер сперри нобелевку получил за.
читал с бумаги, т.е. ссылок нет, но искать можно начать с этого.

[незлой]

пара следствий из определений:

интеллект может быть как разумным, так и неразумным. разумным станет называться тот интеллект, который будет "встроен" в цивилизацию хотя-бы на правах одного из "узлов" сети, в которой она существует.

про хомо: наш интеллект построен на базе эволюционного алгоритма, банального перебора по сути (тут сунули - одёрнули, там сунули -- весь залезли), цивилизация ("разум") этот алгоритм в ряде случаев оптимизировала ("логика"), но и только.

к слову, вопрос о необходимости такого элемента нашего разума как "Я" для разумного интеллекта по прежнему под вопросом. и это, между прочим, гораздо серъёзнее чем чисто прикладной вопрос со случайностями.

[PathFinder]

И, обратите внимание, всё вышеперечисленное можно сделать не привлекая никаких случайностей. (Как это предлагает Семёнов.)
То есть вот такой вариант ИИ можно, на мой взгляд, взять за основу и дорабатывать его если вдруг выяснится, что он на что-то принципиально неспособен.

а.

но ведь до тех пор, пока они будут оставаться собой а не другим человеком, всё это жонглирование смысла имеет не более, чем очки или шлем с виртуальной реальностью: квалиа субъективен по определению. или нет?

Что то я не совсем понял, зачем вы соотнесли друг с другом эти две моих цитаты. Противоречие какое-то усмотрели?

Так что пока отвечу на нижнюю вашу фразу.
"Пока они будут оставаться собой а не другим человеком..."
А где проходят границы "себя"? Наше "Я" при взгляде изнутри представляет собой совокупность квалий. Зрение, слух, обоняние, вкус, осязание. Различные эмоциональные квалиа...   Можно даже, я думаю, квалиа памяти выделить.
Так вот, не исключено, что у людей соединённых нейроинтерфейсом или ещё как-то по-другому, могут возникнуть новые квалиа, которые (не исключено) они будут воспринимать по-разному. (Ну и далее, соответственно, возникает почва для анализа.)
В возникновении же новых квалий у человека нет ничего невозможного и даже необычного.

Например был проведён такой эксперимент, описанный в фильме на канале "24Техно". (Название фильма забыл.)
Так вот, людям одевали пояса с внутренней стороны которых находилось несколько (10-20) плоских вибрирующих дисков.
Вибрировали те диски, которые указывали направление на север. И в конце концов, через некоторое время у людей появлялось новое чувство, новое квалиа, которого раньше не было. Ощущение направления.
Так эти люди потом могли воспроизвести сложную траекторию, по которой их предварительно провели с завязанными глазами.

[Дед Моррозоу]

определения сырые, критикуйте.

У вас всё время определения интеллекта идут через "не". Но таким путём вряд ли куда придёшь.
Предлагаю так:
Интеллект - это то, что способно поставить (сформулировать) нетиповую задачу.

ЗЫ. Ну и есесьно - решить её.

[PathFinder]

к слову, вопрос о необходимости такого элемента нашего разума как "Я" для разумного интеллекта по прежнему под вопросом. и это, между прочим, гораздо серъёзнее чем чисто прикладной вопрос со случайностями.

Попробуйте донести эту мысль до Семёнова. Он этот вопрос считает не прикладным, а главным. Вы читали его рассуждения об этом в теме "научный метод"? А я по этому поводу (необходимость случайности) как-то пока не определился. Вроде детерминизма пока хватает...

[незлой]

Что то я не совсем понял, зачем вы соотнесли друг с другом эти две моих цитаты. Противоречие какое-то усмотрели?

вообще не соотносил, просто чтобы не плодить лишних постов собрал в одном.

Так что пока отвечу на нижнюю вашу фразу.
"Пока они будут оставаться собой а не другим человеком..."
А где проходят границы "себя"? Наше "Я" при взгляде изнутри представляет собой совокупность квалий. Зрение, слух, обоняние, вкус, осязание. Различные эмоциональные квалиа...   Можно даже, я думаю, квалиа памяти выделить.

именно. ровно по этой причине говорить о субъективных ощущениях особого смысла нет: их не измерить, вообще никак.
допустим, завтра некто заявит что изобрёл чаямый самоощущающий и самопознающий ии -- как доказать что у нея внутре только набор алгоритмов, а не теплится какоенибудь "Я", с ужасом ожидающее выключения?