ИИ: какого понимания нам не хватает?

[незлой]

Пока геном определен внешними факторами, что исключает обратную связь. Если мы начнем программировать его согласно своим мотивациям, которые в свою очередь порождены геномом, создасться положительная  обратная связь и система может потерять устойчивость.

давно уже нет: "внешние факторы" искусственны, отбор практически сведён к половому. если не начнём активно вмешиваться в процесс -- выродимся через десяток-другой поколений.
собственно говоря, альтернатива генной инженерии -- вымирание, имхо.

[незлой]

Разбаловали вас новинки технического прогресса, если вы счтиаете, что если чего-то нет в вашей персоналке, то этого нет вообще. Как только программы, подобные вышеописанным, будут встроены в очередной Windows, капчи будут неэффективны (или значительно менее эффективны) и их придётся чем-то заменять. Чем-то вроде теста Тьюринга.

да мне-то ладно, я стаю роботов роботов в столе не держу. а вот те кто держат -- вполне кровно заинтересованы научить эти свои стайки капчи распознавать, и насколько мне известны суммы которые там крутятся (да тот же спам) -- они вполне могут себе позволить держать нос по ветру.

однако капчи по прежнему существуют, следовательно они остаются достаточно эффективным механизмом по отсеиванию этих стай. ловите логику?

[PathFinder]

однако капчи по прежнему существуют, следовательно они остаются достаточно эффективным механизмом по отсеиванию этих стай. ловите логику?

Ну возможно пока оно и так. Пока капчи эффективны.
Разговор-то с чего начался. С разницы между терминами "распознавание образов" и "образное мышление".
И я говорил, что "распознавание образов" - это тупая операция по разделению множества объектов на несколько классов.
Это по определению термина "распознавание образов" так. Даже если это самое распознавание с нашей человеческой точки зрения выполнено неверно, всё равно это - "распознавание образов".
Даже вот такая примитивная операция, как отнесение к разным классам объектов разных цветов, уже является по определению "распознаванием образов".
И говоря, что "распознавание образов" могут выполнять и "тупые" компьютеры я имел ввиду, что компьютеры умеют выполнять вот такое примитивное "распознавание образов", а не любое вообще.

[незлой]

Разговор-то с чего начался. С разницы между терминами "распознавание образов" и "образное мышление".
И я говорил, что "распознавание образов" - это тупая операция по разделению множества объектов на несколько классов.

ок. а что такое "образное мышление"?
на мой взгляд -- это именно что манипуляция "распознанными" (или "сконструированными", тут не суть важно*) образами.

мне кажется, или вы ставите знак равенства между "образным мышлением" и "разумом"? это немного перпендикулярные вещи: разум возникает чуть позже, когда эти образы не только распознаются, но и описываются. в принципе "разум" -- это манипуляция абстракциями ака описанными образами.

*) почему не важно "распознанными" или "сконструированными" -- разговор достаточно долгий, если совсем вкратце -- а у нас всё "сконструированное", только либо на основе показаний органов чувств, либо на "воспоминаниях".

[PathFinder]

Ну и кстати, глядя изнутри себя, каждый может сказать, что квалиа всё-таки существует

Да, это единственный аргумент в пользу существования квалиа. Других нет по определению. Хотя, философы иногда пытаются скрестить ежа с ужом и ввести квалиа в реальный, существующий независимо мир. Отсюда и путанница в определениях.
Изначально квалиа введено как сущность, которой нет, но которая нам кажется существующей со всей очевидностью.
Это парадокс для философов а к ИИ он отношения не имеет. Вопрос о том, где у ИИ найти квалиа так же не имеет решения, как вопрос где оно находится у человека.

Скажите, Муха_, из каких источников вы почерпнули свои представления о квалиа? Просто, чтобы от путаницы избавиться.

[ВадимZero]

Я программист и я вижу, что случайный набор битов и алгоритмов не порождает ничего кроме хаоса.

Програмист но не эволюционист....Случайный набор битов на вашем компьютере не чего не породит....А вот если взять число компьютеров стремящихся к бесконечности...то может и породит программу которая стремиться к выживанию.

[andreichk]

А вот если взять число компьютеров стремящихся к бесконечности...то может и породит программу которая стремиться к выживанию.

после того, как перержавеют в первичном бульоне под воздействием солнца и электрических разрядов молнии....

[ВадимZero]

Не умеют пока.

Вика чего не умеют? Осознаной селекцией человек занимаеться уже не одно тысячелетие. Дастаточно перенести этот опыт на людей, чтобы получить верных рабов, сильных солдат и т.д. Такая цивилизация смогла бы вытеснить все остальные...Но этого не происходило, даже попыток не было..

[Муха_]

Скажите, Муха_, из каких источников вы почерпнули свои представления о квалиа? Просто, чтобы от путаницы избавиться.

Как обычно это бывает. Спорил на форумах, нужно было слово для понятия, суть которого обсуждалась, нашел слово. Вроде наиболее детально разжевано это было у Чалмерса.
Трудность в том, что формально "квалиа" - это слово, описывающее объект, рождаемый при определенном философском заблуждении. Поэтому дать его точное определение невозможно. Нельзя точно определить объект, введенный по ошибке из за неточностей в определениях.
Вторая трудность состоит в том, что каждый человек имеет собственную философскую позицию. Поэтому, для одного определение квалиа абсурдно, для второго непонятно, для третьего самоочевидно.
Чалмерс заблуждается самым классическим способом, поэтому у него можно получить наиболее полное понятие о квалиа.

[Муха_]

Програмист но не эволюционист....Случайный набор битов на вашем компьютере не чего не породит....А вот если взять число компьютеров стремящихся к бесконечности...то может и породит программу которая стремиться к выживанию.

Нэт. В том то и дело. Все это большая ошибка, уходящая корнями в теории самозарождения мышей из старых носков.

[ВадимZero]

Разумеется, вы можете заменить случайность псевдослучайностью или использовать один источник случайности

Давайте определимся с пониманием того какие выгоды дает случайность(псевдослучайность)  кибернетическому существу. Допустим некой бактерии выгодно махать своим жгутиком случайно а не дискретно. Чтобы избежать зацикливания своей траектории движения. Сделать так сказать патерн движения бактерии более гибким.  Я расматриваю имено такой эволюционный смысл случайности как запрограмированного механизма. А теперь вопрос какая степень псевдослучайности удовлетворительна для жизни бактерии?
Факт первый, сама среда вносит значительные возмущения в патерн передвижения бактерии не давая траектории зациклиться.
Факт второй бактерия может просто не исчерпать за время жизни запас своей траектории пусть и зацикленной.
Факт третий..для эволюции совсем не обязательно чтобы патерн работал на все сто. достаточно чтобы выжило критически важное количество бактерий. Даже если 20-30% бактерий умрут с голода двигаясь по зацикленной траектории, остальные успешно передадут свои гены дальше.
Факт четвертый...Даже если все бактерии этого вида вымрут, это не равносильно смерти всего генотипа. Это значит генотип шел по тупиковому пути и дошел до его финала.
Вывод...В случайности нет не какого смысла, жизнь может обойтись нискоуровневой псевдослучайностью.

Надо признать, некоторые гены  достаточно либеральные хозяева.
С чего бы это?
Не от добраты, не от выской духовности - точно!

Этот либерализм следствие эволюции. Если разум это достаточно позняя адаптация, то она должна гармонично вписываться в весь организм, а аргонизм в свою очередь должен подстроиться к разуму. Либеральность генов думаю некая необходимость без которой гармоничное взаимодействие древнего мозга с новым невозможно. От себя могу сказать, что по моему мнению разум, он чтото вроде третейского судьи который разбераеться со всем ворохом мотиваций. Как бы каждая мотивация гнет свою линию, а разум пытаеться найти консенсус в меру своего опыта.

[ВадимZero]

Нэт. В том то и дело. Все это большая ошибка, уходящая корнями в теории самозарождения мышей из старых носков.

В старых носках не идет эволюция так как это не случайный набор битов. Это повторяющийся набор битов.

[PathFinder]

мне кажется, или вы ставите знак равенства между "образным мышлением" и "разумом"? это немного перпендикулярные вещи: разум возникает чуть позже, когда эти образы не только распознаются, но и описываются. в принципе "разум" -- это манипуляция абстракциями ака описанными образами.

Нет я не ставлю знак равенства между "образным мышлением" (квалиа) и "разумом" (интеллектом).
Я говорил, что:

Я вообще предполагаю, что человеческий интеллект построен на базе этих квалиа. Использует их как сервис более низкого уровня. А сами квалиа строятся на базе сознания или составляют с ним диалектическое единство.
Хотя я и не исключаю, что возможен интеллект, превосходящий человеческий, но построенный на принципе, отличном от использования квалиа.

То есть по моей версии "разум" (интеллект) использует "образное мышление" (квалиа) как сервис более низкого уровня. (Возможно именно это придаёт интеллекту стабильность, не давая впадать во всякие неадекватности. Например, не зацикливаться, глядя на фразу "я лгу".  )
Это примерно как прикладные программы используют программные драйверы. Как же можно ставить знак равенства между "образным мышлением" и "разумом"?

Ну вот смотрите. Решаем мы, например, уравнение. Мы производим некие действия с символами этого уравнения. Но выполнить эти действия не прибегая к "образному мышлению", ощущениям, квалиа мы не можем. Мы видим символы этого уравнения на бумаге или проговариваем их или представляем перед мысленным взором. И никак иначе.
Может ли быть как-то по другому? Возможно... Но у нас происходит вот так.

[незлой]

Давайте определимся с пониманием того какие выгоды дает случайность(псевдослучайность)  кибернетическому существу

решение проблем буриданова осла он деманд.

Даже если 20-30% бактерий умрут с голода двигаясь по зацикленной траектории, остальные успешно передадут свои гены дальше.
Вывод...В случайности нет не какого смысла, жизнь может обойтись нискоуровневой псевдослучайностью.

а если все?
мне кажется, вы спешите с выводами.

[ВадимZero]

решение проблем буриданова осла он деманд.

У ослов такой проблемы нет, это проблема абстрактного мышления.....

[ВадимZero]

а если все?

То этот вид бактерий вымрет, отдав место другому виду...

[незлой]

Нет я не ставлю знак равенства между "образным мышлением" (квалиа) и "разумом" (интеллектом).
[..]
Как же можно ставить знак равенства между "образным мышлением" и "разумом"?

 просто показалось, извините.
а вы можете подробнее рассказать про квалиа? судя по статье в вике -- это просто очередная попытка вычленить (и проименовать) объекты  в потоке ощущений. (попытка ответить на детский вопрос, возникавший у каждого, наверно: а откуда известно что то, что я вижу красным другому не кажется зелёным, например, просто этого другого научили называть то, что он видит зелёным -- "красным", т.е. откуда известно, что восприятие одинаково названных вещей/свойств у всех одно и тоже?).

[незлой]

решение проблем буриданова осла он деманд.

У ослов такой проблемы нет, это проблема абстрактного мышления.....

нуда. именно что ослы решают эту задачу не задумываясь. и именно подобная лёгкость и требуется от ии, разве нет?

[ВадимZero]

нуда. именно что ослы решают эту задачу не задумываясь. и именно подобная лёгкость и требуется от ии, разве нет?

Понимаете осел эту проблему решает просто...он выбирает либо право, либо лево, в зависимости от тога как он генетически запрограмирован. Такие опыты проводились уже и выбор был продиктован полушарной асиметрией. Что как понимаете не как не связано с интелектом.

[незлой]

Что как понимаете не как не связано с интелектом.

речь о другом: откуда уверенность, что интеллект не пользуется теми-же механизмами?
"буриданов осёл" -- просто формулировка демонстрирующего этот тезис парадокса: именно что ни один интеллектуал в подобной ситуации не сдохнет с голоду.