ИИ: какого понимания нам не хватает?

[Муха_]

а програма откуда взялась? и взялась-ли бы вообще, кабы не потребность?

Программа была сформирована отбором. От объективизации субъективного понятия "потребность" как некого неотъемлемого атрибута ситуации получится только тавтологическая путаница.

Нет, потребность - первична. Даже у костра есть потребность в дровах.

Подобное умножение сущностей не делает картину яснее.
Костер просто горит, а вывод о наличии у него потребностей делаем мы. Существует вывод, но не потребность.

[alexej]

Потребность была сформирована отбором. От объективизации субъективного понятия "программа" как некого неотъемлемого атрибута ситуации получится только тавтологическая путаница.
****
Абслютно никакой разницы.. пичаль
Можно ли вообще отделить программу от потребности, и наоборот, у живого?

[Муха_]

Можно ли вообще отделить программу от потребности, и наоборот, у живого?

Программу можно изучать, она существует в мозге животного. А потребность - это понятие в нашем лексиконе. Ее нельзя изучать.

[Dem]

Подобное умножение сущностей не делает картину яснее.
Костер просто горит, а вывод о наличии у него потребностей делаем мы. Существует вывод, но не потребность.

Разумеется, костру выводы делать нечем. И вообще что-либо делать нечем.
Но даже если взять гораздо более развитое - растения - то потребность в свете у них есть, а методов удовлетворения всё так же нету. Если семечко закатилось в трещину - то не выживет.

[Муха_]

Еще раз уточняю.

Научный метод требует, чтобы мы оперировали максимально объективными сущностями.
"Программа в мозге" - это довольно объективная сущность. Она имеет определенные принципы работы, реальный носитель и подлежит исследованию.
"Потребность" - это абстракция, некий атрибут ситуации, которому вы не сможете дать формальное математическое или физическое определение.

[Аstrocity]

"Потребность" - это абстракция, некий атрибут ситуации, которому вы не сможете дать формальное математическое или физическое определение.

У Вас потребность в воздухе существует, или нет? Если ДА, то сформулируйте без этой "абстракции".
Тогда станет понятнее что имеете ввиду под некий атрибут ситуации и что это за атрибут, и что это за ситуация такая 
 

[Муха_]

Чтобы дышать нужно одно, а чтобы еще и понять - другое.

[незлой]

а потенциальная энергия -- это абстракция или где? чем отличается "мячик может упасть (и падает)" от "индивид может сожрать (и хавает)"?
для начала - у "потребности" есть вполне количественные границы: "меньше" потребность не удовлетворит, "больше" - не влезет.

[Муха_]

1. Потенциальная энергия - это абстракция, для которой есть четкий алгоритм ее определения и которая полезна в решении соответствующих задач.
2. "Мячик может упасть" - это не наука. Наука, это когда он движется согласно известным законам.
3. В фразах "Мячик может упасть" и "Индивид может сожрать" не идет речь о потребности, значит пример не в тему.
4. Потребность индивида в сожрании как атрибут ситуации может использоваться в рассмотрении множества задач, но ничего не дает для фундаментального понимания и для создания ИИ.

и так далее и тому подобное...

[Муха_]

Вообще, самое смешное, что вопрос, о котором мы вяло переговариваемся в данный момент - и есть ключевая проблема создания ИИ и всего естествознания: человек всегда испытывает трудности в различении абстракций, порожденных его мотивациями от абстракций, реально присутствующих в устройстве мира.
Эффективными в процессе научного познания являются только вторые.

Можно уточнить. На самом деле все (или почти все) абстракции относятся к первому классу (порождены мотивациями). Однако, степень их человеко-зависимости различна. Наиболее эффективны всегда те, которые наименее мотивационно-зависимы.

[незлой]

абстракций, реально присутствующих в устройстве мира.

реально жжоте.
можно пример объективной абстракции? (на мой взгляд -- явный оксюморон)

[Муха_]

Так для кого я уточнил во второй части сообщения?

Пример объективных абстракций:
Автомобиль передо мной объективно существует.
Демонтаж: никакого автомобиля нет. Мне нужно ездить (мотивация) поэтому я называю эту кучу атомов автомобиль. Есть только куча атомов.
Дальнейший демонтаж: мне удобно выделять в конгломерате вселенной объекты т.к. я могу их использовать и анализировать. Поэтому я говорю о куче атомов. На самом деле никакой кучи нет. Есть только атомы.
Продолжаем. Я говорю об атомах а не элементарных частицах т.к. представление об атомах позволяет мне строить теории, предназначенные для удовлетворения моих мотиваций. На самом деле передо мной не конгломерат из атомов, а конгломерат из элементарных частиц.
Дальше... Я говорю от элементарных частицах и рассматриваю частицы потому, что представление о частицах удобно для моего воображения, привычного к миру объектов. На самом деле передо мной нет частиц, а есть нечто, что ведет себя определенным образом (информация ?).
Дальше процесс демонтажа выполнять не получается т.к. мы приходим к моменту дихотомии на объект и субъект....

Этот процесс "десубъективизации" представлений - то, что я имел ввиду когда указывал на вредность абстракций типа "потребность".
Чем дальше мы заходим в этой десубъективизации, тем яснее становится картина.
Почему не знаю, но это факт.

[незлой]

чувство жажды - абстракция?

[Муха_]

Ваш вопрос слишком размыт.

[ВадимZero]

Демонтаж: никакого автомобиля нет.

Ложки не существует....

Мне нужно ездить (мотивация) поэтому я называю эту кучу атомов автомобиль.

Для того чтобы ездить необязательно кучу атомов както называть....Надо просто давить газ.

[Муха_]

Совершенно верно. Но для того, чтобы понять что здесь вообще происходит нужно видеть кучу атомов а не автомобиль. А после, это понимание поможет ехать быстрее (если не забудем куда ехали). Для того, чтобы удовлетворить мотивации и выжить нужно абстрагироваться от задач удовлетворения и выживания. Этому парадоксу тысячелетия. 

[Аstrocity]

" Мы наблюдаем не мир как таковой, а мир плюс воздействие наблюдателя" ©
Для решения проблемы нужен кореллятор, который в свою очередь, без сильного ИИ невозможен. А принципы на которых основан сильный ИИ не совсем ясны, как и алгоритмы на которых он будет функционировать. Это связано с принципом неопределенности. Получаем замкнутый круг, возможно, это принципиально неразрешимая проблема, отделяющая антропность от всего остального окружающего мира.
Отсюда и все трудности самой постановки вопроса о ИИ. 

[Ксей]

Устойчивая система мотиваций может оказаться невычислимой иным способом чем эволюцией.

При этом, мы можем передрать уже сущестующую схему мозга и таки создать ИИ,  но копия всегда будет чуть хуже оригинала.

Это означает, что матрица, война с машинами и прочее нам не грозит. Интеллект лучше нашего сможет породить только длительная эволюция нашего же интеллекта.

Жаль, что далее отошли  от мысли , приведенной в  первом предложении.  Как-то химик органик говорил, что предсказать (вычислить) свойства вещества из нескольких атомов практически невозможно, даже зная свойства молекулы содержащей на атом меньше. Может математические методы имеют предел, и дальше только метод проб (видимо даже господь не нашел другого пути).

Второе и третье вызывают сомнение. Тем же способом проб будут добавлять транзисторы и смотреть не стало ли лучше, и это можно будет делать очень быстро .

[LUKA]

Может математические методы имеют предел, и дальше только метод проб

Математические методы имеют предел даже в самой математике, даже если мы решим не совсем адекватно сузить математику только к дедуктике. В реальности математика - тоже экспериментальная наука, строящая свои гипотезы, которые можно предсказать или опровергнуть.
Даже сам логический вывод - это фактически разновидность физического эксперимента.
Нам кажется, что логический вывод незыблем. И это впечатление вполне адекватно, когда вывод по размеру небольшой и не требует больших затрат для проверки. Однако вывод ещё бывает ОЧЕНЬ большим. Таким, что уже никакой человек его не в состоянии проверить. Только компьютер. Но "журчание" компьютера - это просто физический процесс. Мы ставим с ним опыт и ждём, что на выходе.
Есть такая замечательная гипотеза Кеплера (да, да, тот самый, что движение планет изучал и жил ещё до Ньютона). Согласно этой гипетезе шары плотнее всего упакуются в так называемой кубической гранецентрированной решётке.
Однако этот факт был доказан совсем недавно. Кроме нескольких сот страниц текста, доказательство содержит гигабайта три компьютерных кодов. Чтобы проверить это доказательство, пришлось попросить экспертов (настоящих специалистов) познакомиться с ним, что заняло несколько лет. Распечатанный текст проверили, а компьютерные коды оставили "до лучших времён".
Самый известный и нашумевший факт - это компьютерное доказательство того, что географическую карту, разделённую на области, мы всегда можем раскрасить не более, чем 4 цветами, так, чтобы все соприкасающиеся области были разных цветов.
Хотя эту гипотезу сформулировали ещё лет 140 назад, она была "доказана" компьютером только в 1976 году, причём ознакомиться с тем объёмным текстом весьма проблематично человеку.
Остаётся - "Месье, я Вам верю". А проще - это и есть физический эксперимент.
Просто тот факт, что логический вывод - это разновидность физического эксперимента хорошо акцентируется лишь тогда, когда получаешь техническими средствами по настоящему ОЧЕНЬ большие массивы текстов, являющихся доказательствами каких-то теорем.
Есть популярная статья для школьников на эту тему - http://www.pereplet.ru/nauka/Soros/pdf/0007_091.pdf
Эта статья заканчивается словами по этому поводу- "Это конечно совсем непохоже на стандартный идеал дедуктивных наук, но именно так осуществляется проверка утвреждений во всех дедуктивных науках, из которых математика, стало быть, исключена напрасно"
Конечно дедуктивный вывод - ДАЛЕКО НЕ ЕДИНСТВЕННЫЙ способ проведения эксперимента в математике.

Но в случае дедуктики ситуация становится СЛИШКОМ УЖ УДИВИТЕЛЬНОЙ, если мы обратимся к другому физическому процессу - квантовым вычислениям. По сути квантовые вычисления - это просто унитарные преобразования n-ки комплексных чисел (простите за наукообразие). Короче чисел, которые характеризуют некие базовые состояния в квантовой системе.
Фишка в том, что квантовый компьютер, вычисляя доказательство, НЕ МОЖЕТ ДАТЬ ПРОТОКОЛА вывода этого доказательства.
Месье, я Вам верю. Получается, что в данном случае логический вывод даже непротоколируем. Но этот физический эксперимент позволяет доказывать теоремы.  И хотя, не смотря на то, что квантовые вычисляющие устройства существуют, но они из-за своей примитивности ПОКА не выдают доказательства сложнейших в плане вывода утверждений, можно предположить, что это - потенциально осуществимое мероприятие.

[Муха_]

Как-то химик органик говорил, что предсказать (вычислить) свойства вещества из нескольких атомов практически невозможно, даже зная свойства молекулы содержащей на атом меньше.

Это утверждение отражено в теории информации: невозможно создать алгоритм, решающий проблему остановки. Иными словами, для большинства алгоритмов, узнать некие признаки того, что породит алгоритм (символ остановки) можно только выполнив алгоритм и никаким другим способом.

Второе и третье вызывают сомнение. Тем же способом проб будут добавлять транзисторы и смотреть не стало ли лучше, и это можно будет делать очень быстро .

Специально настроенная локальная эволюция может не дать того же результата, что дает глобальная не подконтрольная ничему эволюция. Тогда, моделировать придется не отбор транзисторов а эволюцию целой планеты до каждого атома.