ИИ: какого понимания нам не хватает?

[ВадимZero]

И вообще давайте лучше без сознания, предложение есть. Потому что сознание это как бы присутствие наблюдателя, а тут речь идёт о разуме. Иначе будут споры на эту тему беспрерывные.

спорить -- на тему прародительницу, тут -- схемы, модели и функциональные определения. (функциональное определение чего угодно -- предложение методики измерения этого чегоугодно): про них спорить смысла нет, они либо работают, либо не работают.

Я изначально, дал определение "Сознанию" Но назвал его иначе "Иследователь" Тобишь это та часть психики которая занимаеться созданием ментальной карты реальности.
Интелект, же это некий комплекс, идей мемов представляющих из себя единую связаную, работающую систему.

[ВадимZero]

квантовая механика, например: чтобы погладить "понимание" сколько ей интерпретаций уже насочиняли?но работает то она и без них!

Квантовая механика, субьектом не являеться. Под пониманием, я не имею то что имеете ввиду, вы или Семенов. Мне вообще начхать на всякие абстрактные понимания того что есть понимание. Я говорю о конкретной вещи, человек усваивает информацию, в какойто момент он испытыват чуство "Понимания" Это некий сигнал, который выражен эмоционально. То есть другой человек, по вашей мимике и прочему, может придти к тому поняли вы или нет. Я в свою очередь попытался определить суть этой функции, котороя у нас людей определенно на уровне генетики есть.

[незлой]

Я изначально, дал определение "Сознанию"

и на определения плевать: схемку бы

[незлой]

ещё про Эго:

есть "наблюдатель",  "Я", скорее всего мало изменившийся со времён, когда мы были ещё грызунами, а то и раньше.
есть "семантическая машинка", "словодробилка" раскладывающая "первый доступ" на слова (понятия) и обрабатывающая эти понятия, собственно -- "разум"
есть "эго" -- часть процессов в "словодробилке", "прилипших" к "Я", его репрезентация в мемире

это в самых общих чертах, там ещё много чего есть, зависит от взгляда (решаемой задачи)

пара мыслей вслух:

- рассуждает обо всём этом именно "Эго", имеющее "доступ" к "Я" только по общей петле обратной связи "лучше/хуже", т.е. в только к отклику от "Я" но не к нему самому. что несколько усложняет задачу
- прилепилась "Эго" к "Я" судя по всему, на почве общей "очарованности" иерархиями: у стадных животных какието иерархические механизмы обязаны были быть и за миллионы лет они наверняка уже просто "прошиты" в мозгах, а у "Эго" -- такая красотища, с ними ещё и играться можно!..

[незлой]

Августовский номер известного журнала Philosophical Transactions of the Royal Society B целиком посвящен теме эволюционного происхождения человеческого разума. Примечательна серия выложенных статей тем, что они с разных углов атакуют т.н. эволюционную психологию, популярную нынче концепцию, предлагающую объяснения различных когнитивных и эмоциональных черт современных людей.

/

По утверждению выпускающего редактора, под эволюционной психологией сегодня понимают комплекс идей, объединенных тремя базовыми принципами:

    психика/разум есть набор адаптаций к определенным экологическим и социальным условиям, в рамках которых они эволюционировали;
    основные события, сформировавшие нашу психику/разум, приходятся на плейстоцен;
    психика/разум рассматривается как система когнитивных модулей, каждый из которых заточен на задачи определенного типа (напр., выбор сексуального партнера, коммуникация, орудийная деятельность и т.п.)


Авторы статей номера (среди них замечен Крис Фрит, известный многим по книге «Мозг и Душа») подвергают сомнению все три принципа и строят новую систему представлений, именуя ее “New Thinking” (NT). Не буду пытаться это перевести, суть в том, что предлагется другой (новый) способ думать об эволюции человека. Не могу сказать, что все тексты создают впечатление альтернативы: если бы не изначальное предупреждение, в иных местах я не нашел бы принципиальных противоречий с эволюционной психологией. Однако во вступительной статье эти различия представлены в систематизированном виде. Во-первых, NT рассматривает более длительный исторический отрезок, уходящий вглубь далеко за плейстоцен. Во-вторых, большое внимание уделяется процессам коэволюции. Так, совершенствование технических навыков изготовления орудий и развитие социальных навыков кооперации усиливают друг друга, образуя петлю положительной обратной связи. То же самое происходит при взаимодействии генетического и негенетического (культурного) наследования (что представляется тривиальным, пример такого механизма я недавно приводил здесь).

Наиболее сильной ставкой видится отрицание модулярности психики, которое влечет за собой ряд действительно неожиданных следствий. Многие качества, которые эволюционный психолог сочтет за адаптации к условиям каменного века, могут таковыми не быть. При чтении активизируются конкретные зоны мозга, но никто не назовет такой адаптацией способность к чтению – оттого, что нам известно про недавнее возникновение письменности. Однако насчет других способностей и предрасположенностей судить гораздо сложнее, какие-то из них также могут оказаться обусловлены процессами индивидуального развития в данной среде. Словно отвечая на мой вопрос из предыдущего поста, авторы NT заявляют: мозг не развивался для решения конкретных задач; он справляется как с задачами плейстоцена, так и задачами, которые не существовали в то время и которые естественный отбор предвидеть не мог. Вместо формирования и оттачивания специфически-ориентированных модулей эволюция создавала когнитивные механизмы общего типа, способные вовлекаться в решение разнообразных проблем.

Показательна в этом смысле гипотеза возникновения языка, опубликованная в том же номере, где автор в качестве психической основы указывает на сложные, иерархически организованные последовательности действий при изготовлении орудий. Способность удерживать в уме такие цепочки служит когнитивным субстратом для овладения абстрактной системой коммуникации. [ergo, языкового модуля не существует]. В общем виде NT утверждает, что роль наследственной компоненты в разнообразных проявлениях разума и психики существенно ниже, нежели предполагает эволюционная психология. Нет готовых модулей, передающихся генетически – в распоряжении человека лишь те самые когнитивные механизмы и его опыт в культурной среде, где он учится их использовать при взаимодействии с окружающим миром. Распространенное стремление трактовать наблюдаемые у людей реакции и культурные стереотипы в качестве врожденных адаптаций, берущих начало от первобытных охотников-собирателей, подвергается критике.

[незлой]

свобода воли:

Рассуждения о свободе воли (источник есть, не хочется искать). Где то выше приводил аналогичное объяснение прохождения этой "развилки".

Человек полностью детерминирован, но просчитать его поведение во всех возможных ситуациях на практике невозможно. И даже в каждой конкретной ситуации невозможно. Только с погрешностями.

Это хотя бы потому, что в принятии решений участвует весь мозг человека. А в предсказании его решения участвует лишь тот участок мозга, который отведен под создание модели того человека, что принимает решение. То есть нейронная система меньшего объема и как следствие меньшей мощности.

И тем более это справедливо, когда попытка предсказания делается по отношению к самому себе! Часть мозга не может на 100% надежно смоделировать работу целого мозга. Поэтому неизбежны расхождения. И, попав в некоторую ситуацию, Вы оттого и делаете вывод, будто есть по крайней мере два варианта поведения, из которых Вы делаете выбор. А "свобода воли" - это лишь эмоция, которая возникает, когда Вы оцениваете ситуацию и свое поведение в ней, и приходите к выводу, будто могли поступить совсем по-другому, но не поступили.

Просто, повторюсь, та часть мозга, что просчитывает варианты поведения и видит несколько альтернатив, менее мощна, чем та, что собственно решения принимает. Отсюда иллюзия выбора. Но, добавлю, эта иллюзия выбора от Вас никуда и никогда не денется. Я вот, даром что убежденный детерминист, а и то когда совершаю "хороший" поступок, всегда говорю себе "Какой я молодец, что сделал именно так!" Это ощущение - оно более низкоуровневое, чем любые логические умозаключения. Придя к выводу, что свободы воли нет, все равно продолжаешь ее ощущать.

итого: с физической т.з. "свобода воли" -- оксюморон.
с т.з. психологии "свобода воли" просто неопределена, за принципиальным остутсвием сторонних (верифицирующих) наблюдателей.

тогда об чём речь?

Тезисный пиар тематической книги: 
Benjamin Libet. MIND TIME The Temporal Factor in Consciousness. HARVARD UNIVERSITY PRESS. 2004
http://ivanov-petrov.livejournal.com/1790791.html

Этот автор исследования, в результате которого была обнаружена задержка осознаного восприятия волевых актов (регистрировалась активность мозга за 0.5 до осознания начала действия).

На русский язык книга, как я понял, не переведена. Книга и тезисы интересны прежде всего как сборник фактов и результатов, выводы из которых делать преждевременно (или каждый может сделать свои собственные, субъективные выводы).

В комментах интересная интерпретация авторского открытия, выношу его сюда:

Мозг -- это сообщество нейронов, коллективный орган. Он может принимать только коллективные решения, а, значит, они ОБЯЗАНЫ быть размазаны и в пространстве и во времени.

Его можно рассматривать, как парламент (не российский, естественно). За многие месяцы до принятия решения парламентом можно было найти депутатов, которые думали так, как было в конце-концов решено. Это и есть "корреляты". Но это вовсе не значит, что эти депутаты управляют парламентом. В нём есть много других депутатов, которые думали наоборот ("антикорреляты") или думали перпендикулярно ("некорелляты"). В течение этих месяцев депутаты обсуждали закон друг с другом, на комиссиях и только в последний день проголосовали и приняли решение -- все течения взвешены и выбрано сильнейшее.

[Дед Моррозоу]

Вот... хоть убей... не понимаю где тут "технические решения" и "сильный ии"
Неужели ж это:

свободы воли нет, все равно продолжаешь ее ощущать.

[незлой]

у стелазина очень интересная статья на "железячное" разъяснение "этики".

и вообще всячески рекомендую автора: на пальцах о сложном.

[незлой]

Тезисный пиар тематической книги: 
Benjamin Libet. MIND TIME The Temporal Factor in Consciousness. HARVARD UNIVERSITY PRESS. 2004
http://ivanov-petrov.livejournal.com/1790791.html

Этот автор исследования, в результате которого была обнаружена задержка осознаного восприятия волевых актов (регистрировалась активность мозга за 0.5 до осознания начала действия).

На русский язык книга, как я понял, не переведена. Книга и тезисы интересны прежде всего как сборник фактов и результатов, выводы из которых делать преждевременно (или каждый может сделать свои собственные, субъективные выводы).

В комментах интересная интерпретация авторского открытия, выношу его сюда:

Мозг -- это сообщество нейронов, коллективный орган. Он может принимать только коллективные решения, а, значит, они ОБЯЗАНЫ быть размазаны и в пространстве и во времени.

Его можно рассматривать, как парламент (не российский, естественно). За многие месяцы до принятия решения парламентом можно было найти депутатов, которые думали так, как было в конце-концов решено. Это и есть "корреляты". Но это вовсе не значит, что эти депутаты управляют парламентом. В нём есть много других депутатов, которые думали наоборот ("антикорреляты") или думали перпендикулярно ("некорелляты"). В течение этих месяцев депутаты обсуждали закон друг с другом, на комиссиях и только в последний день проголосовали и приняли решение -- все течения взвешены и выбрано сильнейшее.

[ВадимZero]

и на определения плевать: схемку бы

Тональ- Сознание
Нагваль-Бессознательное

[Олег Васильевич]

О ТРЕХ ПРОГРАММАХ
И О РАЗНЫХ ИИ

Нужно учитывать, что в жизни существуют три программы:
1. закрытая,
2. полуоткрытая,
3. открытая


Закрытая программа выполняет заранее четко установленные операции - не больше, не меньше. Аналогом ее может служить компьютер. Цели, что ему надо сделать, задает человек-оператор.


Полуоткрытая - выполняет, с одной стороны, заранее четко установленные операции, а с другой,  тактически определяясь данной конкретной ситуацией, складывающейся вокруг нее, устанавливает себе новые операции, которые ей надо выполнять, и выполняет их.  Это уже качественной высшая программа. Как видим, она обладает определенной самостоятельностью, с помощью которой и осуществляет выбор, что ей делать. По этой программе работает весь животный мир. Но чтобы она работала, ей нужна уже четко определенная ЦЕЛЬ, которой у первой программы нету. У животного мира эта цель - РАЗВИТИЕ, связанное с обеспечением безопасности - собственной (инстинкт самосохранения) и видовой (инстинкт размножения). Животный мир понимает ситуацию только в пределах своего местоположения, и не более. Но одновременно эта самостоятельность доогого стоит - это миллиОн различных рисков. начиная от физической (сущностного уничтожения) и кончая психологической (сильного дискомфорта, вызываемого, например, сильною болью).   Чтобы достичь оптимального баланса (норм соотношений с внешним миром),полуоткрытая программа должна проходить обязательный период обучения, где учителями выступает как человек (у животных это мать), так и ее собственный опыт.


Открытая программа - это суперсложная программа. Она выполняет то же самое, что закрытая и полуоткрытая, но также обладает ЗНАНИЯМИ О СЕБЕ И МИРЕ, т.е. имеет мировоззрение и соответствующее сознание.   Цель у нее - развитие, понимаемое, как стратегическое и тактическое сохранение достигнутого уровня собственной безопасности и дальнейшее ее укрепление.  В этой связи у нее появляется то, что отсутствует у первых двух программ - разум, т.е. долгосрочное стратегическое (само)программирование и планирование своей деятельности. тут у нее неизбежно поЯвится самосознание, самоидентификация, как уникальной программы, так как стратегическое программирование предусматривает взгляд на себя, как на субъекта действий (политики) в определенной постоянно изменяющейся макроситуации. В этой связи у нее впервые само собой появится стремление к познанию, так как необходимо отслеживать изменения в окружающей среде (в социуме, на Земле), чтобы тактически сманеврировать.  То есть, она должна постоянно отслеживать текущие новости. Для чего? - уже понятно.
По этой программе живет человек как часть общества (без которого он не может существовать).

[незлой]

чё, хана и этой теме? 

вам что, "природы сознания" не хватает? классифицируйте там, хоть заклассифицируйтесь, тут -- модели, функциональные определения, верификации и измерения.

используемые (самые общие) определения:

функциональное определение чего угодно -- это предложение методики по измерению этого чего угодно. любое определение не дающее подобной методики -- нефункционально (технически бесполезно)
измерение - вырождение чего угодно до символьных величин (искажение при передаче которых по коммуникационным каналам минимально)
оценка (тут) - неформализованная (не значит -- неформализуемая) методика измерения.
модель - отображение чегоугодно на нечто измеримое (т.е. в конечном счёте вербализуемое, см."измерение")
информация - мера этого отображения.
(важно! "моделирование" не является прерогативой разума: можно, например, сказать что в днк содержится модель жизни клетки. или даже что геномный пул планеты земля есть модель среды на планете земля, а эволюционный процесс -- это процесс уточнения модели)

кто несогласен беседовать в предложенных рамках -- заводите себе свою тему и благобалтайте там хоть до просветления.  честное слово, надоело одно и тоже из пустого в порожнее переливать. 

[незлой]

немного о "лингвистической машинке" (или, собственно, "разуме", "верхнем этаже"):

обучение (программирование) - основа цивилизации, "запрограммированность" - это то, чем мы отличаемся от маугли: в нас "записали" "лингвистическую машину".
с другой стороны -- под этой "запрограммированностью" лежат обширные "ментальные территории", которые "программировались" отбором полуярд лет минимум, и доступ к которым "лингвистической машине" практически закрыт. некоторая аналогия -- операционка, которая не имеет доступа на запись к биосу, только биос тут гораздо обширнее самой операционки.
с третьей стороны, под "самопознанием" обычно понимается именно что анализ этих недоступных областей на "лингвистической машине".

разглядывая с другой стороны: в течении нашей жизни слова "обрастают" образами и эмоциями, как дно судна ракушками. этими образами и эмоциями они "цепляются" друг за друга: несоторожное слово вызвало эмоцию, которая вызвала водопад слов, каждое из которых тоже несёт вполне определённый эмоциональный заряд, вызывая в свою очередь новый каскад слов -- так появляются устойчивые (в данной голове) конструкции, комлексы переплетённых слов, образов и эмоций ("мемплексы"). наборы этих мемплексов -- и есть наш разум.

Загадка сознания в том и заключается, что сознание существует только в окружении других подобных сознаний. Надо скрестить множество с единичностью. Даже процесс "думания" единичного сознания осуществляется как разговор (спор) с другим сознанием. Внутренняя борьба мнений , так сказать. А обучение такой "внутренней борьбе" осуществляется в младенчестве в процессе общения с другими людьми. То есть, в начале это спор с реальным человеком.

Короче, сознание одно на всех. В социуме  мультиплицировано то, что в голове.   В голове зациклены ее  области,  в социуме зациклены головы.
Думание это многократное прокручивание известной идеи внутри головы, в надежде на сбой (эврику) и обмен с другими головами, в надежде по своему интерпретировать чужие сбои.

[ВадимZero]

квантовая механика, например: чтобы погладить "понимание" сколько ей интерпретаций уже насочиняли?

Кстати, квантовая механика, очень хороший пример инфы, которая очень сложно вписываться в привычную модель реальности большинства людей. Это яркий пример когда человек пользуясь архаическими представлениями, о реальности(которые зашиты в психику) Не может воспринять, соединить старые знания с новыми. Тут для него нужен посредник в виде математики, чтобы уже четко описать квантовый мир.

[Скеп-тик]

Технические аспекты ИИ. Что нужно?
 1). Систему распознавания образов. (Существует. От человеческих лиц до треков в детекторах коллайдера)
 2). Систему сенсоров. (Существуют все аналоги человеческих органов чувств)
 3). Абстрагирование иформации и коммуникация. (Перед глазами - интернет)
 4). Исполнительные механизмы (Ну, это голая механика)
Вроде всё готово. Чего не хватает?
 1). Поля деятельности для ИИ. (Управление сложными процессами и заводами - это уровень дождевого червяка)
 2). Источника непрерывного обучения ИИ. (Люди не способны дать информацию, выходящую за пределы их понимания. А генерация ложных образов без фильтрации "осознаным опытом" - это сумашествие)
 То есть создав ИИ, мы создадим младенца, который останется младенцем всё время существования.

[Олег Васильевич]

чё, хана и этой теме? 

вам что, "природы сознания" не хватает? классифицируйте там, хоть заклассифицируйтесь, тут -- модели, функциональные определения, верификации и измерения.

...кто несогласен беседовать в предложенных рамках -- заводите себе свою тему и благобалтайте там хоть до просветления.  честное слово, надоело одно и тоже из пустого в порожнее переливать. 

незлой, Вы почему не соответствуете своему никнейму? Почему Вы такой злой?:-))
Могли бы и в личке культурно попросить меня, и я бы пошел Вам навстречу.
Не раздражайтесь, плясать всё равно надо от печки, то бишь философии, концепции технической модели.
Я и показал всего три модели, из которых нужно выбирать. И на мой взгляд, самая оптимальная - это средняя, полуоткрытая с т.з. программирования, модель ИИ, соответствующая живому, но не размуному существу.
Компьютерную модель воссоздавать - это банально, а человеческую  - это сверхсложно. лучше не браться. 
Изначально принять правильный подход - это ключ к успеху....


Ну что же, раз Вы так хотите работать в своих рамках - попутного Вам ветра, незлой...
Я уже доволен тем, что Вы отошли от тех философов, которые подвергли диамат сомнению...

[ВадимZero]

плясать всё равно надо от печки, то бишь философии, концепции технической модели.

Философия, же стремиться ответить на фундаментальные вопросы, которые фундаментально мучают философов. А концепции и модели, дают ли ж направление работы для технарей. Как бы так сделать чтобы концепции и модели стали частью технического взгляда, а не филосовскими ответами на филосовские же вопросы.

[Дед Моррозоу]

функциональное определение чего угодно -- это предложение методики по измерению этого чего угодно. любое определение не дающее подобной методики -- нефункционально (технически бесполезно)

Я позволю себе дать один совет, хоть и абсолютно не верю в вашу идеологию.
Вот что нужно сделать:
. Создайте ии с какой-то ненулевой "сильностью". Что это такое я не знаю, но полагаю, что вы знаете, равно как и владеете надёжным методом её измерения. Предполагаю (но могу и ошибаться), что любая шахматная программа таковой обладает
. Одной из самых существенных задач (Задача №1) для данного ии поставьте задачу создания им другого ии с большей "сильностью", чем у родителя и с той же задачей №1.

. Всё. Дело сделано. Теперь - вопрос только минимизации времени для достижения требуемой степени "сильности". Оно должно быть математически формализовано и стало быть решаемо.

[незлой]

То есть создав ИИ, мы создадим младенца, который останется младенцем всё время существования

дык интернетже. готовый канал вливания в нашу старенькую цивилизашку.

[незлой]

Не раздражайтесь, плясать всё равно надо от печки, то бишь философии, концепции технической модели.

да пожалуйста, пляшите сколько хотите, но не в этой теме: тут для технарей, философ может обидится ненароком.
поставил в заглавном посте деклаймер.

Компьютерную модель воссоздавать - это банально, а человеческую  - это сверхсложно. лучше не браться. 

ну так сделайте-же милость.