ИИ: какого понимания нам не хватает?

[Макрофаг]

как именно работают сети пока не очень понятно. строить и тренировать их могём, а что и как там тренируется, что творится между входным и выходным слоями, каков будет конкретный стэйт конкретного элемента сети в конкретный момент времени, почему он таким будет и зачем - неясно. причина банальна: не можем пока нащупать адекватный язык, описывающий эту механику, нет нужной математики.
рано или поздно, думаю, найдут. но фишка в том, что работать можно и с тем что уже есть, потому что -- повторю -- строить и тренировать сети мы уже умеем.

зачем нужна субъектность, например, распределённой сети, пусть даже и с кучей сенсоров -- не очень понятно.

Субъектность ИИ это амбициозная задача философии сильного  ИИ .Без субъективизации желаемые качества не будут достигнуты.
По мне так не нужно пытаться даже мечтать о субъективизации ИИ. Достаточно природной реализации ЕИ  Но всё равно разговоры разработчиков ИИ упрямо ведутся вокруг субъективизации.Мне вот с Хабра столько вопросов приходит от создателей.
Конечно можно в упор отрицать субъективизацию. Но здравый смысл , очевидность должны сопутствовать разумному подходу к ИИ.

[loky1109]

Субъектность ИИ это амбициозная задача философии сильного  ИИ .

Философия нам тут не интересна. Она практические задачи не решает.

.Без субъективизации желаемые качества не будут достигнуты.

Что это за "желаемые" качества? Кем и для чего они желаемы?

Конечно можно в упор отрицать субъективизацию. Но здравый смысл , очевидность должны сопутствовать разумному подходу к ИИ.

Учёный не имеет права руководствоваться "здравым смыслом".

[MenFrame]

как именно работают сети пока не очень понятно.

Не нужно вводить людей в заблуждение. Как работают нейронные сети вполне понятно. Другое дело что сети обучаются, и особого желания разбираться как именно в конкретной ситуации сеть научилась чему то...нет. А если бы желание было, то это без проблем делается. Долго, муторно, но вполне возможно.

про субъектность -- она нужна

Субъективность есть просто потому что объективности в рамках одного мозга быть не может. Объективность это по факту то, с чем много мозгов соглашается.

[Макрофаг]

Что это за "желаемые" качества? Кем и для чего они желаемы?

Я смотрю вроде тексты мои просматриваете - но не читаете. Уже давал ссылку на сильный ИИ
Так же и ИИ - просматривает , но не вникает. Нет личного субъективного отношения.
Допустим мы смотрим на "зелёное"Можно внутренним взором представить "зелёное " само по себе. Но всё равно "зелёное" это будет не само по себе , а какой либо формой( фон прямоугольной стены, круг и т.п) , которая вырабатывалась в практическом опыте.
Например "зелёная листва" и "зелёная ядовитая  лягушка" один и тот же цвет , а будет восприниматься  с разным эмоциональным оттенком в зависимости от условий восприятия именно для этих условий в которых воспринимался цвет.
В следующий раз при осознании воспоминании "зелёная ядовитая лягушка" будет ассоциироваться с мультяшной добродушной и смешной лягушкой. Эмоциональное отношение будет совсем с другим оттенком и тоже для данных условий.
Поэтому субъективизация всегда временное мимолётное явление и не существует в мозге  в виде какой либо нейрокодировки. "Зелёное" всегда субъективно и с личным эмоциональным отношением.У субъекта с внутренним миром "зелёное" возникает каждый раз заново в связи с временной организацией памяти мозга ( кратковременная память).
Какими "глазами " на "зелёное" будет смотреть несубъективированный ИИ ?
Субъективированный человек может до бесконечности ( пока жив) плодить абстракции " зелёное" и каждый раз "зелёное" будет видоизменяться в зависимости от личного субъективного отношения с обязательным эмоциональным оттенком только для данных условий.
Несубъективированный ИИ будет пользоваться только тем набором ассоциаций "зелёное" которые есть в программе.
Не претендую на  то , что за один раз можно вникнуть в мои предложения.
Но главная задача ЕИ и ИИ понять как происходит субъективизация ощущений.

Если у человека вырезать часть мозга величиной с апельсин( кстати в ЖЖ по этому поводу говорил с нейрохирургом, который в общем согласен с этим)
то будет утеряна всего лишь какая то часть "зелёных" ассоциаций для данных условий в которых эти ассоциации закреплялись. Например условия для "вечерних  ассоциаций " связанных с "зелёным"(т.е при затемнении перестанут узнаваться  к.л. "объекты")
Но по мере наработки соприкосновений с реальностью недостающие элементы жизненного опыта встрече с "зелёным" будут восстановлены.
Итого : для того , чтобы понимать смысл воспринимаемого нужно субъективировать своё личное отношение с эмоциональным оттенком для данных условий.

Нужно ли это для ИИ ?

Сами судите :

Короче ИИ шагает семимильными шагами. Но пока все это слабый ИИ. Термин слабый не стоит воспринимать, как негативную оценку. Это просто уточнение используемых технологий. Насколько далеки мы от сильной ИИ легко судить по системам компьютерного перевода. Пока переводится технический или иной хорошо трактуемый текст, машинный переводчик на высоте. Но стоит дать пример, который требует понимания смысла фразы, как правильный перевод становится делом случая и никакие статистические методы положение не спасают.

https://habr.com/ru/post/393071/

[гравицап]

Вообще когда говорят о сильном ии обычно имеют в виду субьективный ии.
Все заморочки с распознаванием речи и образов это лишь ненужная надстройка и напрасная трата компьютерных мощностей. Окей гугл глянь там ченить насчет пожрать. Ну распознает он и выдаст и что? Сильный ии?
Есть два подхода к проблеме сильного ии
1.запрограмировать ему самоощущения
2.по мере роста мощности и обьемов обрабатываемой инфы, у ии самосознание появится само собой то бишь количество перейдет в качество.
1.в первом варианте мне кажется неизбежным что первые субьективные ии будут не самые мощные по памяти, скорости ифункциональности. Т.е. они будут в большой степени милыми идиотиками. И они не будут злыми.
2.а вот большие компы или сети, в которые субьективность программно не закладывалась но зародилась там сама могут быть весьма опасны.
Как она может там появиться? Во первых в сложных программах субьективность может оккзаться побочным эффектом не замеченым программистом. Во вторых она может оказаться побочным эффектом какого нибудь вируса. В таком случае факторами наслаждения или страдания ии может оказаться все что угодно что мы и представить себе не можем.

[loky1109]

Что это за "желаемые" качества? Кем и для чего они желаемы?

Я смотрю вроде тексты мои просматриваете - но не читаете. Уже давал ссылку на сильный ИИ
Так же и ИИ - просматривает , но не вникает. Нет личного субъективного отношения.
Допустим мы смотрим на "зелёное"... много бла-бла-бла

Вы на предельно конкретные вопросы ответить можете?
Повторю:
Что это за "желаемые" качества? Кем и для чего они желаемы?

[николай теллалов]

это прекрасная, универсальная петля обратной связи, тут тупо трудно придумать чтото лучше, чем сделала эволюция.

эволюция вряд ли "создала" нарочно "прекрасную петлю обратной связи" именно как самоосознавание (или около того)
петля обратной связи - да
но самоощущение - это скорее "побочный эффект"

не надо эволюции приписывать качества инженера-конструктора, ставящего себе определенные цели и просчитывающего все аспекты своего проекта

запрограмировать ему самоощущения

да они и так появятся, как следствие определенного уровня сложности

или не появятся - но тогда как появились у белковых компов?


бросьте вообще искать некий "рациональный смысл жизни"

[николай теллалов]

субьективность может оккзаться побочным эффектом

во! наконец-то прозрение

то же самое - у животных и человека

[Макрофаг]

2.а вот большие компы или сети, в которые субьективность программно не закладывалась но зародилась там сама могут быть весьма опасны.
Как она может там появиться? Во первых в сложных программах субьективность может оккзаться побочным эффектом не замеченым программистом. Во вторых она может оказаться побочным эффектом какого нибудь вируса. В таком случае факторами наслаждения или страдания ии может оказаться все что угодно что мы и представить себе не можем.

Хорошо. Давайте посмотрим с другой стороны на проблему - сравнивая сопоставляя факты.
Основной функциональной единицей ЦНС (из курса ФЦНС МГУ) является не нейрон , а синапс.
Чем больше синапсов , тем более интеллектуальнее особь.
Например вороны с другим строением мозга, с относительно малым количеством нейронов,  но большими ветвлениями синаптических окончаний  https://www.chem21.info/info/1281135/  - преобладающие конкурируют со свеми высшими животными.
Ребёнок рождается с большим запасом нейронов , которые в основной массе погибают в виду конкурирующего отбора.

На каждом этапе образование нервных связей между группами нейронов идет за счет конкуренции, то есть если сигналы не поступают, то нервные связи отмирают, и наоборот. Свою концепцию Эдельман назвал нейродарвинизмом, так как процесс конкурентного отбора нервных связей очень похож на естественный отбор, происходящий в процессе эволюции и образования видов.

https://biologo.ru/Лекция_23_Нейробиология_и_генетика_поведения/index.html

Назовём преобладающий запас нейронов " на всякий экстренный случай". Вдруг с какими то неизвестными условиями для организма  гибель будет неизбежной , но выживали те особи у которых случайно оказался лишний запас клеток.
В конкуренции между нейронами часть погибает , а оставшиеся задействуются для необходимых потребностей связанных с жизненными установками растущего организма.
Т.е. остаток ровно столько сколько необходимо для жизнедеятельности данного организма.
В случае с субъективированным ИИ понимающего  СМЫСЛ воспринимаемого - его опыт тоже должен быть рассчитан для данных условий в которых ИИ уже самостоятельно развивается при заданной программой "старте".
Сильный ИИ всегда будет ограничен потребностями окружающей среды, объективной реальности.Жизненный опыт ИИ будет затачиваться под текущие актуальные потребности.
Ограниченность понимания смысла ИИ всегда будет сопутствовать даже при сверхсветовых скоростях.
Человек так же соткан из социума и временно ограничивается рамками данного социума.

[Макрофаг]

Вы на предельно конкретные вопросы ответить можете?
Повторю:
Что это за "желаемые" качества? Кем и для чего они желаемы?

Всё закругляюсь. Здесь нужен ликбез

[MenFrame]

Например "зелёная листва" и "зелёная ядовитая  лягушка" один и тот же цвет , а будет восприниматься  с разным эмоциональным оттенком

Разные реакции тут не на "зеленое" а на "листву" и "ядовитое"

Поэтому субъективизация всегда временное мимолётное явление и не существует в мозге  в виде какой либо нейрокодировки.

Расскажите это людям с фобиями...особенно про временность и мимолетность.

У субъекта с внутренним миром "зелёное" возникает каждый раз заново в связи с временной организацией памяти мозга ( кратковременная память)

Реакция идет не на "зеленное", а на целую систему признаков где "зеленое" просто один из них.

Какими "глазами " на "зелёное" будет смотреть несубъективированный ИИ ?

Так же как и ЕИ, как на признак сам по себе лишенный смысла.

Не претендую на  то , что за один раз можно вникнуть в мои предложения.

Твои предложения обычная софистика.

[MenFrame]

Окей гугл глянь там ченить насчет пожрать. Ну распознает он и выдаст и что? Сильный ии?

Чем докажешь что ты сильный?

[otu K.]

Цитата: loky1109 от Сегодня в 11:27:39
Вы на предельно конкретные вопросы ответить можете?
Повторю:
Что это за "желаемые" качества? Кем и для чего они желаемы?
Всё закругляюсь. Здесь нужен ликбез

вы грубо ответили на корректный вопрос, просто ответьте за свои слова. быть гуру никто Вас не просил

[гравицап]

это прекрасная, универсальная петля обратной связи, тут тупо трудно придумать чтото лучше, чем сделала эволюция.

эволюция вряд ли "создала" нарочно "прекрасную петлю обратной связи" именно как самоосознавание (или около того)
петля обратной связи - да
но самоощущение - это скорее "побочный эффект"

не надо эволюции приписывать качества инженера-конструктора, ставящего себе определенные цели и просчитывающего все аспекты своего проекта

запрограмировать ему самоощущения

да они и так появятся, как следствие определенного уровня сложности

или не появятся - но тогда как появились у белковых компов?


бросьте вообще искать некий "рациональный смысл жизни"

Разница в том что самоощущения человека выработаны эволюцией и имеют практический смысл .они стимулируют нас к бережному отношению к своему телу и к размножению .
А какие самоощущения сами собой появятся у ии тем более что они побочный эффект, результат ошибки? К чему они будут его стимулировать?

[гравицап]

Окей гугл глянь там ченить насчет пожрать. Ну распознает он и выдаст и что? Сильный ии?

Чем докажешь что ты сильный?

Вопрос терминологии.
Калькулятор умножает быстрее меня

[MenFrame]

Вопрос терминологии.

Ну пока этот вопрос не решим, о сильности любого И говорить бессмысленно.

[гравицап]

2.а вот большие компы или сети, в которые субьективность программно не закладывалась но зародилась там сама могут быть весьма опасны.
Как она может там появиться? Во первых в сложных программах субьективность может оккзаться побочным эффектом не замеченым программистом. Во вторых она может оказаться побочным эффектом какого нибудь вируса. В таком случае факторами наслаждения или страдания ии может оказаться все что угодно что мы и представить себе не можем.

Хорошо. Давайте посмотрим с другой стороны на проблему - сравнивая сопоставляя факты.
Основной функциональной единицей ЦНС (из курса ФЦНС МГУ) является не нейрон , а синапс.
Чем больше синапсов , тем более интеллектуальнее особь.
Например вороны с другим строением мозга, с относительно малым количеством нейронов,  но большими ветвлениями синаптических окончаний  https://www.chem21.info/info/1281135/  - преобладающие конкурируют со свеми высшими животными.
Ребёнок рождается с большим запасом нейронов , которые в основной массе погибают в виду конкурирующего отбора.

На каждом этапе образование нервных связей между группами нейронов идет за счет конкуренции, то есть если сигналы не поступают, то нервные связи отмирают, и наоборот. Свою концепцию Эдельман назвал нейродарвинизмом, так как процесс конкурентного отбора нервных связей очень похож на естественный отбор, происходящий в процессе эволюции и образования видов.

https://biologo.ru/Лекция_23_Нейробиология_и_генетика_поведения/index.html

Назовём преобладающий запас нейронов " на всякий экстренный случай". Вдруг с какими то неизвестными условиями для организма  гибель будет неизбежной , но выживали те особи у которых случайно оказался лишний запас клеток.
В конкуренции между нейронами часть погибает , а оставшиеся задействуются для необходимых потребностей связанных с жизненными установками растущего организма.
Т.е. остаток ровно столько сколько необходимо для жизнедеятельности данного организма.
В случае с субъективированным ИИ понимающего  СМЫСЛ воспринимаемого - его опыт тоже должен быть рассчитан для данных условий в которых ИИ уже самостоятельно развивается при заданной программой "старте".
Сильный ИИ всегда будет ограничен потребностями окружающей среды, объективной реальности.Жизненный опыт ИИ будет затачиваться под текущие актуальные потребности.
Ограниченность понимания смысла ИИ всегда будет сопутствовать даже при сверхсветовых скоростях.
Человек так же соткан из социума и временно ограничивается рамками данного социума.

Вы ставите телегу впереди лошади. Потребности-  и есть основа субьективности
А какие потребности  у него появятся как побочный эффект как результат ошибки, неизвестно.
Точно так и понимание смыслов. Оно возможно только тогда, когда информация соотносится с потребностями.
Например возьмем сколько угодно мощный комп и станем на нем конструировать манипулятор с кувалдой, предназначенный для разнесения данного компа вдребезги. Никакого особого СМЫСЛА в такой работе комп не усмотрит и будет исправно все делать вплоть до исполнения приговора

[гравицап]

Вопрос терминологии.

Ну пока этот вопрос не решим, о сильности любого И говорить бессмысленно.

Ииеем в виду субьективный ии

[николай теллалов]

самоощущения человека выработаны эволюцией

именно самоощущения? осознание себя?

путаемся в словах

какие самоощущения сами собой появятся у ии

ох, елки-палки...

эволюция-волшебница

[MenFrame]

Ииеем в виду субьективный ии

Любой И субъективный....Объективность есть не более чем субъективная идея.