Закономерно ли появление разума?

[Rattus]

Кстати, как вам соображение о том, что как эволюция лишь цепь случайных изменений генома, отобранных методом смерти или выживания его носителя, так и разум, мышление - это лишь способ отбора или отбраковки случайных событий в человеческой нейросети (а точнее, в нейросети человечества).

Так Мы сам давно продвигаю тут идею что любое творчество: хоть генетическое в биоценозе, хоть идейное в мозгу имеет в своём основании один и тот же Дарвиновский механизм. Просто для нас он большей частью проходит вне мониторинга сознания с выдачей ему только конечного результата отбора вариантов, которая и может выглядеть в этом случае как "божественное озарение".

А кто будет отсеивать этот "ИИ"?

Всякий программный продукт проходит тестирование перед публикацией. Почему любой ИИ ВНЕЗАПНО должен быть исключением?

Эффективна ли будет тут искусственная селекция?

Открою Вам страшную тайну эволюционной биологии: никакого "искусственного отбора" не существует. Вообще. Существует только коэволюция симбионтов как частный случай обычной эволюции под действием ЕО.

[kovip]

Здесь вы говорите о человеке, как о генераторе случайностей

Не человек генератор случайных событий а среда. Во вселенное роль среды выполняют квантовые отношения, которые в случае альтернативности свершения событий, делают процессы непредсказуемыми.

Так кто у вас человек - сам генератор случайностей, или игрушка непредсказуемой окружающей среды?
Вселенная и человек, в основном, вполне предсказуемы на макро-уровне. Вы, посетив соответствующие разделы этого форума, можете легко убедиться в точности небесной механики. Судьбы людей тоже в значимой степени предопределяют гены. Так что "непредсказуемость", "категорическая случайность" - это неправда.

А какая, для вас, разница, какого рода свершения события  - падения кирпича на голову? Результат от этого не изменится.

[Maki]

Не человек генератор случайных событий а среда.

То есть человек - не генератор случайных событий, и его серое вещество, в отличие от любого другого вещества в мире, в "квантовых отношениях" не участвует. ОК, ваша позиция понятна.

А какая, для вас, разница, какого рода свершения события  - падения кирпича на голову? Результат от этого не изменится.

Попробуйте сформулировать мысль по другому. Непонятно, что именно хотите сказать.
А по сути - разницы нет, все умрём, всё тлен.

[Maki]

Так Мы сам давно продвигаю тут идею что любое творчество: хоть генетическое в биоценозе, хоть идейное в мозгу имеет в своём основании один и тот же Дарвиновский механизм. Просто для нас он большей частью проходит вне мониторинга сознания с выдачей ему только конечного результата отбора вариантов, которая и может выглядеть в этом случае как "божественное озарение".

Согласен. Но я имел в виду нечто большее.
"Божественные озарения" отдельной тушки вне коллектива бессмысленны. Вот почему наш вид приобрёл, во-первых, врождённое стремление озарённой тушки навязывать своё мнение окружающим (а собснгря зачем ещё мы торчим на форумах? ), и способность принимать и распространять чужие озарения во-вторых. Полагаю, способность группы отфильтровывать озарения полезные и накапливать их - это тоже часть дарвиновского механизма. И конкуренция озарённых групп с альтернативно-озарёнными, предусматривающая поедание проигравших - тоже.

Всякий программный продукт проходит тестирование перед публикацией. Почему любой ИИ ВНЕЗАПНО должен быть исключением?

Ну, наверное потому, что "прикладная нейросеть/общего назначения/глубокого обучения/рекуррентная/с подкреплением ВНЕЗАПНО является программным продуктом лишь в момент ея публикации. Она заработала и принялась самообучаться. И вот уже система пробует фиксить собственные баги, и модифицировать свою структуру. Теперь перед вами "черный ящик", содержимое и принцип работы которого вам непонятны.
Этого гомункула вы протестируете лишь неким "супер-ИИ", или заставите конкурировать с себе подобным, или... будете с ним как-то "договариваться".

Открою Вам страшную тайну эволюционной биологии: никакого "искусственного отбора" не существует. Вообще.  Существует только коэволюция симбионтов как частный случай обычной эволюции под действием ЕО.

Ну, если понимать понимать отбор в искусственной среде как закономерное продолжение отбора в естественной - согласен. Клетка приручает митохондрии или пластиды, отбирает среди них более эффективные, получая как побочку полную цитоплазму чужих генов, и необходимость защищаться при помощи ядра. Сапиенс одомашнивает ламу и корову - и получает помимо шерсти и молока ещё сифилис и чуму.

[Rattus]

Она заработала и принялась самообучаться.

Обучение нейросетей происходит ДО релиза. Апдейты рассылаются тоже после тестирования.

Теперь перед вами "черный ящик", содержимое и принцип работы которого вам непонятны. Этого гомункула вы протестируете лишь неким "супер-ИИ", или заставите конкурировать с себе подобным, или... будете с ним как-то "договариваться".

Мы всё это прямо сейчас наблюдаем на примере патчей недавно опубликованных фундаментальных уязвимостей процессорных архитектур (Spectre и Meltdown) - крупнейших за последние 20 лет. При том, что на этих процессорах работает всё делопроизводство и чуть менее чем вся промышленность - никакого апокалипсиса как-то не наблюдается.

получая как побочку полную цитоплазму чужих генов, и необходимость защищаться при помощи ядра

Ядро скорее возникло до симбиогенеза - на это намекает ряд фактов молекулярной филогении.

Сапиенс одомашнивает ламу и корову - и получает помимо шерсти и молока ещё сифилис и чуму.

Не чуму. Оспу.

[Maki]

Не чуму. Оспу.

Упс... Туберкулёз на самом деле.

Ядро скорее возникло до симбиогенеза - на это намекает ряд фактов молекулярной филогении.

Всё-таки "коэволюция" как-то не ложится на Хомо и порабощённых им зверушек. Человек скорее выработал новые модели поведения. Если "искусственный отбор" и даже "конструирование" создаёт причудливых созданий, то сам Хомо - лишь слегка корректирует иммунитет, приобретая аллергию, гельминтов и болезни. Культура Хомо, благодаря животным меняется, Хомо как вид - практически нет.

Обучение нейросетей происходит ДО релиза. Апдейты рассылаются тоже после тестирования.

Где тогда истинное самообучение в этом случае?
Возможно ли самообучение и самопроизвольный апгрейд железа после релиза?

[Rattus]

Упс... Туберкулёз на самом деле.

Да. В первую очередь.

то сам Хомо - лишь слегка корректирует иммунитет

Не только. Ещё и ферменты (например, переваривания молока).

Хомо как вид - практически нет.

А чего Вы хотели за несколько тысяч лет?

Где тогда истинное самообучение в этом случае?

В лабораторных условиях пока только. Человеки бывают не сильно умны, но в массе - таки не самоубийцы.

и самопроизвольный апгрейд железа после релиза?

Зачем железа-то? У Вас после 5 лет мозг сильно вырос? А его способности?

[Maki]

А чего Вы хотели за несколько тысяч лет?

Ну вот разве что молочный фермент. А так что дикое мясо ели, что домашнее - разницы нет. Что в биохимии и морфологии человека через миллион изменят котики, коровки и устричные фермы - непонятно.

Зачем железа-то? У Вас после 5 лет мозг сильно вырос? А его способности?

Всё хуже, и он уже давно разрушается под действием разных вредных факторов. Так что добавить свежих нейрончиков, особенно в области отвечающие за кратковременную память и обучаемость даже я бы не отказался. А уж гений-аутист из ящика непременно попытается хакнуть ближайшую сетку, и уменьшить свои энергозатраты, переложив работу на тупые кремниевые процессоры.

[kovip]

в "квантовых отношениях" не участвует.

Квантовые отношения совпадают с локальными если нет албтернативных путей как в эксперименте на щелях

Культура Хомо, благодаря животным меняется, Хомо как вид - практически нет.

Не "благодаря",  а "в отличие от животных" меняется, тем и сильны в выживании.

Попробуйте сформулировать мысль по другому. Непонятно, что именно хотите сказать.

А вы постарайтесь понять, тогда и вопросов не будет.

СЛУЧАЙ
(от греч. tyche)
наступление непредвиденного, непредполагаемого события и особенно его не предусмотренное заранее совпадение с др. событиями. То, что часто изображается как случай, вообще говоря, есть цепь непознанных или недостаточно хорошо познанных причин и следствий.

О том и говорю случай, непредсказанное событие. Т.е. в принципе событие имеет причины, но вам они остались неизвестны, потому вы от кирпича не смогли увернуться.

Зачем железа-то? У Вас после 5 лет мозг сильно вырос? А его способности?

Ну это у кого как, у меня даже за последние 10 лет умственные возможности намного выросли. Недавно где то прочитал, что рост мозга продолжается до глубокой старости.

[Maki]

А вы постарайтесь понять, тогда и вопросов не будет.

Я прекрасно понимаю любые мысли, сформулированные понятным, литературным языком.

Квантовые отношения совпадают с локальными если нет албтернативных путей как в эксперименте на щелях

Мозг человека, собственно, и состоит из множества таких путей.

О том и говорю случай, непредсказанное событие. Т.е. в принципе событие имеет причины, но вам они остались неизвестны, потому вы от кирпича не смогли увернуться.

А это уже вопрос религиозный. Если вы придерживаетесь доктрины детерминизма - о "квантовых отношениях" в окружающем мире незачем и говорить. Если же вы допускаете "свободную причину" - придётся допустить и возможность того, что в место падения кирпича я прибыл вследствие цепи причин, в начале которых лежит причина свободная. И такой причиной может быть, в том числе, и ничем не предопределённый импульс в моём "нейрокомпьютере".

[kovip]

Я прекрасно понимаю любые мысли, сформулированные понятным, литературным языком.

  Но, в данном случае не поняли.
Пожалуйста без обид, это не оскорбление а констатация факта. http://kovip.epot.biz/viewtopic.php?id=35#p1140

Мозг человека, собственно, и состоит из множества таких путей.

Путей много, а, дорога у каждого  сигнала  одна.

А это уже вопрос религиозный. Если вы придерживаетесь доктрины детерминизма - о "квантовых отношениях" в окружающем мире незачем и говорить.

Центральным ядром Д. служит положение о существовании причинности, т. е. такой связи явлений, в которой одно явление (причина) при вполне определ. условиях с необходимостью порождает, производит другое явление (следствие).

https://dic.academic.ru/dic.nsf/enc_philosophy/2179/%D0%94%D0%95%D0%A2%D0%95%D0%A0%D0%9C%D0%98%D0%9D%D0%98%D0%97%D0%9C  В квантовых отношениях нет беспричинных событий, есть пространственновременная неопределённость в возникновения событий,т.е. электрон не испусти фото если он не был предварительно возбуждён. Испущеный фотон не может исчезнуть, до того как столкнётся с мишенью. Путь фотонона, при отсутствии альтернативных путей, в конечном счёте прямоленеен. Так что с детерминизмом всё в порядки. Великий Часовщик умер, но дело его живёт! 

Если же вы допускаете "свободную причину" - придётся допустить и возможность того, что в место падения кирпича я прибыл вследствие цепи причин, в начале которых лежит причина свободная. И такой причиной может быть, в том числе, и ничем не предопределённый импульс в моём "нейрокомпьютере".

Бога нет и быть не может. Я отъявленнейший атеист, но, точно знаю, что ничего не возникает из ничего и не исчезает бесследно.

[Maki]

Пожалуйста без обид

Никаких обид. Я указал вам на криво сформулированную мысль. Как реагировать на такие замечания - ваш выбор.

Путей много, а, дорога у каждого  сигнала  одна.

Нейроны состоят не из одних лишь "дорог".

В квантовых отношениях нет беспричинных событий, есть пространственновременная неопределённость в возникновения событий

Как такая неопределённость скажется на работе вычислительной системы, работающей на молекулярном уровне?

[kovip]

Нейроны состоят не из одних лишь "дорог".

В этом деле главнее аксоны.

Как такая неопределённость скажется на работе вычислительной системы, работающей на молекулярном уровне?

Никак. небольшие отклонения нивелируются количеством событий.
Образно. Если в стене дома поменять кирпич, он в дворец не превратится.

[Maki]

В этом деле главнее аксоны.

В компютере главнее провода?

Никак. небольшие отклонения нивелируются количеством событий.
Образно. Если в стене дома поменять кирпич, он в дворец не превратится.

Очень неудачная аналогия. Стена - структура. Мышление - процесс, цепь взаимосвязанных событий. Беспричинный сигнал в этой цепи никуда не девается, и обрабатывается вместе с предопределёнными.

[-Юрий-]

В компютере главнее провода?

Да. Причём не просто провода, а провода, объединённые в шину. Есть шина данных и адресная шина. Шина в компьютере это большое изобретение, без неё не может быть компьютера. А мозг вообще предствавляет из себя мощнейшую шину передачи данных.

[Maki]

А мозг вообще предствавляет из себя мощнейшую шину передачи данных.

И... всё?

[jonny]

Любая прикладная нейросеть глубокого обучения/рекуррентная/с подкреплением и т.п.

Нельзя называть ИИ любую сеть.
Просто потому что существует пока что один единственный интеллект - естественный (ЕИ).
Необходимо исходить из того, что дать ЕИ удобоваримое определение. Потом! создавать его аналог ИИ. Иначе мы делаем неизвестно что, называя это ИИ, а в случае как в вашей цитате - мы будем называть ИИ вообще что угодно.
Сама по себе задача дать определение и создать терминологию в ЕИ - сверхсложная в настоящее время.
А так, да - кто ни попадя называет что угодно ИИ. Например, Сири.
Но это не просто упрощение, которое в дальнейшем приведет к нормальным результатам - это вообще не ИИ в принципе.

[jonny]

Например, существует естественный алмаз.
Имеем задачу создать алмаз искусственный. Пусть он будет не из углерода вообще, это неважно. Главное, чтобы свойства алмаза были соблюдены.
И здесь нам говорят - вот ИА, получите, распишитесь.
Но это же, извините, уголёк?
Ну, и что? и то, и то углерод. Нам не нужен углерод, нам нужно что угодно, имеющее свойства алмаза, т.е. нам нужен заменитель конкретного углерода.

Тест Тьюринга неверен (при всём уважении к автору).
Это как раз уголёк. Тьюринг изначально предлагает сделать подделку - давайте сделаем такую подделку, чтобы тестируемый не смог это понять. И раз он это не понимает, значит мы победили.

ИИ это такая прога (провода-углерод как раз неважены), которая сможет повторить как минимум следующее.
Не вкладываем туда словарь (Сири) - у новорожденного есть алгоритм, который позволяет выучить любой язык, по части семантики в первую очередь - не имея никакого словарного запаса.
Сири и пр. лже ИИ (т.е. все ИИ в настоящее время) - это набор словарей и попытка выдать манипуляцию ихним содержанием так, чтобы проходящий тест Тьюринга не понял, что это подделка.

[kovip]

Очень неудачная аналогия.

Да всё там правильно стена - события происходящие вовремя какого либо процесса. Если некоторые события выпадают и сути процесса, то на материальный объект это не влияет. Это как если бы вы выстрелили из ружья, допустим в оленя, но, с десяток  другой, молекул из пули улетели мимо мишени. И что из за этого добыча ваша не умерла бы, а убежала? В любом процессе так и происходит, но отличия от идеального процесса так малы, что на возникновение события не влияют. А вы увидели некую сказку которую хотели увидеть. Ширше надо мыслить, абстрактнее, тогда и думать научитесь. Тогда и научитесь понимать о чём я говорю и атеистом станете.

Беспричинный сигнал в этой цепи никуда не девается, и обрабатывается вместе с предопределёнными.

  В квантовом представлении нет событий и объектов возникающих без причинно, есть неточности в их локализации в пространстве и времени, и всё.

давайте сделаем такую подделку, чтобы тестируемый не смог это понять. И раз он это не понимает, значит мы победили.

Зверь похожий на кошку мяукающий и мурлыкающий как кошка, это вошка а не слон. Мудрить не надо. Что такое разум известно давно, "Способность решать не знакомые задачи." Чего ещё надо? Так называемый ЕИ, это то, что имеет нервная система  и мозг, в частности. Нервная система возникла и существует как орган для адаптации в окружающей среде с помощью получения и обработки информации о ней. Чего ещё надо?  вся проблема в сложности архитектуры машины, - биокомпьютера.
Всё просто. 

[-Юрий-]

это набор словарей и попытка выдать манипуляцию ихним содержанием так, чтобы проходящий тест Тьюринга не понял, что это подделка.

Согласен. Мало того, у меня складывается впечатление, что люди, пытаясь создать Искусственный интеллект, сами становятся глупее.
Обратил внимание, - читая старые книги, не художественные произведения, а рассуждения автора о чём-нибудь, видно, насколько глубокие мысли он высказывает. Такое я не вижу у современных "писателей". Сейчас всё как-то поверхностно и тупо. Или мне кажется... .
Я думаю, если бы современные технологии были доступны древним учёным, таким как Пифагор, Архимед, Леонардо да Винчи, Декарт и многим другим, то они давно бы сделали и вычислительные машины и может даже искусственный интеллект создали бы.