ИИ: какого понимания нам не хватает?

[Муха_]

ИМХО, существует два связанных и наиболее убедительных аргумента в пользу близкого конца света.

1. Глобализация. Развитие стабилизируется за счет выживания того что может выживать и исчезновения того, что выживать не может. Речь не идет только о биологическом выживании. Можно говорить о выживании идей, тенденций и др.
Подобная стабилизация за счет конкуренции подразумевает наличие альтернативы. Однако, глобализация, связанная с развитием технологий может полностью устранить все альтернативы. Т.е. очередная система зайдет в тупик, а из за глобализации, a альтернативы просто не найдется.

2. Потеря мотивации. Механизм стабилизации развития человечества сводится к формированию в голове каждого человека мотиваций, которые создают аттракторы, в направлении которых мы все стремимся продвинуться. Трансгуманизм, вечная жизнь, доступность информации может сделать сознание человека слишком сложной системой, чтобы аттракторы мотиваций действовали на него. Механизм мотиваций слишком древний и слишком простой. Мозг может обмануть его и впасть в полный релятивизм, когда природные мотивации больше не имеют для него ценности.
При этом, сознание человека начнет стремиться к неким иным аттракторам, которые не связаны с развитием человечества и его выживанием, что приведет цивилизацию к гибели. Т.е. тут предполагается, что имеется определенный предел сложности систем, после которого система выходит из под контроля того фактора, который заставил мертвую материю эволюционировать в человека. Как только мы перейдем этот предел, нам конец .

[Dem]

инбридинг широко используется в селекции, чё.

там ещё жёсткий отбор прилагается, до 90%. А родных детей в утиль спускать жалко становится...

Так что смысла нет даже пытаться ИИ создать.

Не надо путать ИИ и ИР

Глобализация.

Глобализация - это всего лишь окончание перехода от феодальной структуры (пережитком которой являются государства) к полностью капиталистической.
Исчезновение старой альтернативности не означает исчезновение её вообще.

Потеря мотивации.

Те, кто запутается и потеряет мотивацию - вымрет, прочие останутся. Нормальный процесс естественного отбора.

[Муха_]

Глобализация - это всего лишь окончание перехода от феодальной структуры (пережитком которой являются государства) к полностью капиталистической.

Я имею ввиду глобализацию вообще. Т.е. когда на всей земле исчезает многообразие как таковое в любом виде. В этом случае дальнейшее развитие может продолжаться только за счет конкуренции (создания альтернатив) цивилизаций, живущих на разных планетах. Пока не похоже, что таковые имеются.

Те, кто запутается и потеряет мотивацию - вымрет, прочие останутся. Нормальный процесс естественного отбора.

Но это означает, что определенный предел сложности так и не будет преодолен. Т.е. цивилизацию ждет бесконечная рецессия без развития.

[Dem]

Я имею ввиду глобализацию вообще. Т.е. когда на всей земле исчезает многообразие как таковое в любом виде.

Нет, просто рашьне разная культура была в разных государствах, а теперь оно параллельно. Вот есть эта компашка астрофилов, есть компашка ну например эмо - живут в одном и том же городе но практически не пересекаются.

Но это означает, что определенный предел сложности так и не будет преодолен.

У человека есть свои пределы, с этим ничего не поделаешь.

[незлой]

там ещё жёсткий отбор прилагается, до 90%. А родных детей в утиль спускать жалко становится...

у вас даже не хомо-, а европоцентризм. почитайте о престолонаследии в османской империи -- вырезали братьев десятками (буквально), и ничё.

[Муха_]

Еще мысль по теме.

Почему создание ИИ может оказаться неосуществимым

Похоже, что эволюция идей в голове по своей природе очень похожа на эволюцию идей по построению мозга, эволюционирующих в генах.
Т.е. гены думают о том, как улучшить эффективность поведения живого существа и дальше, этот же процесс по оптимизации поведения продолжается в нейронной сети сходным образом.

У нас может хватить вычислительных ресурсов, чтобы воспроизвести нейронную часть оптимизации поведения, но не генетическую. Тогда, создать ИИ не получится никогда.

Иными словами, если результаты верхней (нейронной) части мышления могут быть получены только с применением некого особого принципа, по которому работает нейронная сеть, то тогда и результаты базовой части мышления (эволюционно сформированная структура мозга) могут быть получены только эволюцией и больше никак.

Технически мы, скорее всего, упремся в невозможность формирования у мозга достаточно гибкой системы мотиваций, которая породила бы настоящий разум а не мощный но примитивный оптимизатор.

Устойчивая система мотиваций может оказаться невычислимой иным способом чем эволюцией.

При этом, мы можем передрать уже сущестующую схему мозга и таки создать ИИ,  но копия всегда будет чуть хуже оригинала.

Это означает, что матрица, война с машинами и прочее нам не грозит. Интеллект лучше нашего сможет породить только длительная эволюция нашего же интеллекта.

[vika vorobyeva]

При этом, мы можем передрать уже сущестующую схему мозга и таки создать ИИ,  но копия всегда будет чуть хуже оригинала.
 

Если копия будет чуть хуже оригинала, но при этом будет способна нормально жить в космосе - большего и не надо.

[Муха_]

Еще мысль про устройство интеллекта.

Два аттрактора для нейронной сети.

Кора мозга строит модель окружающего мира. При этом она преследует 2 несколько отличных аттрактора:
1. построение модели, которая наилучшим образом позволяет удовлетворять мотивации, запрограммированные в старой части мозга.
2. построение наиболее простых моделей все-равно чего и все-равно для чего.

В "сытом" состоянии, когда мотивации молчат мозг занят спонтанными исследованиями любых абстракций, какие только подвернуться под руку, лишь бы они давали простую, компактную картину, порождая свой собственный мир идей. Частичная изоморфность этого мира идей реальному миру обусловлена тем, что он так же как и реальный мир  настолько прост, насколько это возможно.
Когда мотивации активируются мозг начинает обрезать слишком сложные идеи в пользу более прагматичных.
На ум приходит пример Перельмана,  предположительно построившего сложнейшие выкладки совершено без всякой к тому мотивации.

Важный момент здесь заключается в том, что целенаправленный прагматичный поиск менее эффективен, чем чередование свободного построения идей и прагматичного поиска.

[Муха_]

И еще трансгуманистическая идея по выгрузки сознания, основанная на голографической природе мозга.

Полная выгрузка содержимого коры мозга на электронный носитель может быть очень сложной процедурой, а может быть вообще неосуществимой.
Однако, теоретически возможен другой вариант.

1. В детстве человеку импланитируется и подключается к старому мозгу 3-е полушарие - электронное, по свойствам аналогичное живым полушариям.
2. Тогда же имплантируется еще один компьютер, получающий сигналы от старого мозга, отвечающие за мотивацию и строящий аппроксимацию этих воздействий.

Задача первого компьютера - принять часть личности человека и воспоминаний, которые в течение жизни накапливает.
Задача второго - построить модель старого мозга с тем, чтобы заменить его.

Дальше, когда в дверь начинает стучаться т. Альцгеймер, не стареющее электронное полушарие понемногу перетягивает к себе фукнции коры, а второй компьютер работает параллельно старому мозгу, постепенно подменяя его воздействия.
После окончательной смерти мозга получаем электронный интеллект, естественным образом продолжающий личность человека.

[PathFinder]

И еще трансгуманистическая идея по выгрузки сознания, основанная на голографической природе мозга.

Я тут в другой теме предлагал свой вариант загрузки. Чем-то, возможно, похожий на ваш. Там и про квалиа есть, но употребляется всё-таки термин "чувство".
Взглянуть можно тут:

[ВадимZero]

Технически мы, скорее всего, упремся в невозможность формирования у мозга достаточно гибкой системы мотиваций, которая породила бы настоящий разум а не мощный но примитивный оптимизатор.

Плин, вот опять...Разум это нечто содержащее мотивации...Мотивации есть у животных...Мотивации это простые программы которые давно изучили этологи..А они четко разделяют разум и мотивации...Разум это оптимизатор! Мотивация это програма указывающая разуму что оптимизировать.

[Dem]

у вас даже не хомо-, а европоцентризм. почитайте о престолонаследии в османской империи -- вырезали братьев десятками (буквально), и ничё.

Но опять же - никакого отбора.
Вырезать/не вырезать надо не просто так, а по чёткому научному критерию.

В "сытом" состоянии, когда мотивации молчат мозг занят спонтанными исследованиями любых абстракций, какие только подвернуться под руку, лишь бы они давали простую, компактную картину, порождая свой собственный мир идей.

Когда компьютеру становится скучно - он запускает скринсейвер....

Дальше, когда в дверь начинает стучаться т. Альцгеймер, не стареющее электронное полушарие понемногу перетягивает к себе фукнции коры, а второй компьютер работает параллельно старому мозгу, постепенно подменяя его воздействия.

Сильно подозреваю, что избавится от данного товарища проще, чем подключить что-то к мозгу.

[Муха_]

Плин, вот опять...Разум это нечто содержащее мотивации...Мотивации есть у животных...Мотивации это простые программы которые давно изучили этологи..А они четко разделяют разум и мотивации...Разум это оптимизатор! Мотивация это програма указывающая разуму что оптимизировать.

Я тоже четко разделяю разум и мотивации.

[Аstrocity]

У вас здесь некоторая путаница в терминах приводящая к ложным выводам на протяжении всей темы.
 Определитесь на примере:
 Жажда — это потребность, желание утолить жажду — это мотив(-ация), а бутылка с водой, к которой человек тянется — это цель.

[незлой]

успел взять власть / не успел взять власть. куда чётче-то?
организовать своё выживание и вырезание братьёв по кончине папашки -- вполне замечательный критерий.  и - да, вырезание конкурентов было вполне "законным": де юре оно стало, кажется, после взятия константинополя.

[Nucleosome]

незлой - а откуда дровишки про вырезание да ещё и де-юре?..
и вообще причём тут ИИ...

[незлой]

незлой - а откуда дровишки про вырезание да ещё и де-юре?..
и вообще причём тут ИИ...

при чём тут ии -- невкурсе, речь зашла о случаях искуственного отбора среди хомосапсапов, я о них.
про де-юре - закон такой был в османской империи: братьев хана -- под нож. очень правильный закон, кстати, империя была -- загляденье.

[Муха_]

У вас здесь некоторая путаница в терминах приводящая к ложным выводам на протяжении всей темы.
 Определитесь на примере:
 Жажда — это потребность, желание утолить жажду — это мотив(-ация), а бутылка с водой, к которой человек тянется — это цель.

Есть только программа в мозгу. Ее можно называть мотивацией. Этого достаточно. Все другие сущности лишние. Бутылка с водой не была бы целью если бы не программа. Потребность не существовала бы если бы не эта программа и т.д.

[незлой]

Есть только программа в мозгу. Ее можно называть мотивацией. Этого достаточно. Все другие сущности лишние. Бутылка с водой не была бы целью если бы не программа. Потребность не существовала бы если бы не эта программа и т.д.

а програма откуда взялась? и взялась-ли бы вообще, кабы не потребность?

[Dem]

Есть только программа в мозгу. Ее можно называть мотивацией. Этого достаточно. Все другие сущности лишние. Бутылка с водой не была бы целью если бы не программа. Потребность не существовала бы если бы не эта программа и т.д.

Нет, потребность - первична. Даже у костра есть потребность в дровах.