Пределы автоматизации и внедрения роботов

[BlackMokona]

Давайте не гадать "если бы да кабы".
Если вы не глупее текущих нейросетей - должны бы понять ,что я не просто говорю "от фонаря", чтобы выслушивать от вас наезды.
Как говорю - так и есть. Если не согласны открывайте другую тему и будем разбираться.На это уйдёт года два три минимум.
Понимать природную реализацию схемотехники мозга - нужно учиться

Попробуйте посчитать число нейронов необходимых для распознования дерева во всех условиях,и вы обнаружите что с вашим подходом потребуется черезчур много нейронов.

[Olweg]

Для распознавания образа достаточно в ассоциативных отделах всего одного нейрона.

Аналогично один выход в нейросетях. Отрежте это нейрон в мозгу от остальной огромной сети и он ничего и никогда не распознает.

Вот именно. Выходной нейрон свёрточных нейросеток тоже "запоминает" определённый образ. Это не значит, что работает только он, точно так же, как и в мозге человека нейроны в ассоциативных зонах связаны с огромным количеством нейронов в более низких зонах обработки информации.

[Макрофаг]

В сети на глубоких слоях тоже один нейрон реагирует сразу на целый образ. Это не аргумент. Другой момент что да, модель сильно упрощённая и конечно до нейронов живых по многим параметрам не дотягивает.

Тут ещё смотря о какой нейросети идёт речь, они все очень разные. Прикол в том, что живые нейроны, поскольку материальны - могут реагировать гораздо шире, чем математическая модель( на неё накладываются ограничения связанные с быстродействием компьютеров).

Необходимо понять, что природные нейросети только внешне напоминают искусственные.
Природные нейросети можно съэмитировать искусственными, но сеть не будет думать как человек.
Посмотрите простой пример - сокращение мышечного волокна  https://studbooks.net/1287813/meditsina/potentsial_pokoya_potentsial_deystviya_skeletnogo_myshechnogo_volokna
Для того , чтобы отдёрнуть руку от горячего стимул проходит несколько стадий  включая вегетативную "консультацию"( вегетативные нейроны) http://www.vitalscan.ru/dtr_ans_overview_ru.htm
Но в некоторых ситуациях необходимо превозмочь боль вопреки всем сигналам о пагубном воздействии на организм .
Волк попавший  в капкан  перегрызает себе лапу ( бывали случаи). Это называется произвольность.
Человек , ради к.л благородных или неблагородных целей может включить в себе самоуничтожение.
Такое поведение нельзя формализовать записывая коды.
В живой системе после многократных отражений возникает абстракция , которая не возникнет в искусственной системе.
Конечно можно виртуального волка запрограммировать , чтобы тот перегрыз себе лапу попав в капкан.
Но есть волки , не будут перегрызать себе лапу в зависимости от обстоятельств.

https://ok.ru/video/454191352529

Адаптивное поведение не алгоритмизируется.

Ещё пример :
 

Вот только исследователи… потерпели поражение! Нет, какие-то результаты, конечно, получены были. Анализируя чип, удалось выделить функциональные блоки, набросать схему их вероятных взаимосвязей, получить некоторые интересные подсказки насчёт того, как, вероятно, работает микропроцессор в целом. Однако понимания в том смысле, в каком его требует нейробиология (в данном случае: быть способным исправить любую поломку), достигнуто не было! Отсюда два неприятных вывода и один совет.

Во-первых, имеющиеся на вооружении нейробиологов методы очевидно бесполезны для изучения живого мозга. Разве вправе мы надеяться понять сложнейшую живую систему, если не в силах справиться даже с простейшей искусственной моделью?

Во-вторых, наращивание объёма информации, собираемой о мозге, вероятно, не поможет проникнуть в секреты его работы глубже — без смены методов анализа. Ведь 6502 измерялся с предельной точностью, от исследователей не укрылось ничто в нём происходящее, и тем не менее понять его не удалось!

С выводом : Так вот, несмотря на все успехи в выдумывании всё новых методов изучения мозга, от понимания его учёные всё ещё бесконечно далеки! Отчасти причиной тому чрезмерная сложность живого: чаще всего мы не знаем даже, действительно ли оно работает так, как мы предположили. Но тем больше причин проверить методы на простых и известных до последнего винтика неживых системах! https://scorcher.ru/journal/art/art2475.php

  чаще всего мы не знаем даже, действительно ли оно работает так, как мы предположили. это и есть то "замаскированное" в связи с пробелами наших знаний.

[Olweg]

Поведение нейросети вы тоже не сможете предсказать. Например, в матче с Ли Седолем никто не программировал и не ожидал от АльфаГо тех стратегий, которых она придерживалась. Некоторые ходы противоречили вообще всей теории и людьми раньше никогда не делались. Непонятно, к чему ваш пример с волками.

[Макрофаг]

Поведение нейросети вы тоже не сможете предсказать. Например, в матче с Ли Седолем никто не программировал и не ожидал от АльфаГо тех стратегий, которых она придерживалась. Некоторые ходы противоречили вообще всей теории и людьми раньше никогда не делались. Непонятно, к чему ваш пример с волками.

Это говорит о том , что в конце концов нейросети в связи с усложнением должны поумнеть и думать как человек?
Пример с волком это пример произвольности ( надстройка над рефлексами) , который никто ещё не может исследовать например аппаратным методом.
Сегодня наука остановилась на доступном наблюдении "звонок" - "прыжок" и один -два вставочных нейрона.( смотрите первые лекции Дубынина - физиология центральной НС животных и человека МГУ)
Нейросети притягивают к себе лёгкой доступностью многослойного персептрона.
Но поверьте . это иллюзия доступности.
Надежда на оптогенетику. Но и это призрачная надежда.

[Olweg]

Произвольность эта мнимая. Поведение зверя или другого человека, или даже своё собственное, кажется произвольным просто потому, что у нас нет всей информации о системе.

[Андрей Астрофизический]

Спросили где маскировка схемотехники?
Был советский проект 30 - 90 годы по изучению высшей нервной деятельности.
Проект ошеломляющий и не чета западным.
Вот в этом проекте и замаскированы ответы на вопросы схемотехники механизмов мозга.

Даже если бы и так, это не имеет никакого отношения к "преднамеренной маскировке алгоритмов" процессами эволюции. (Абсурд то какой...)
Живое - есть механизм. И разумное живое - тоже. Нет там ничего принципиально непознаваемого, ничего мистического.

Вы ничего так и не поняли в мною сказанном.
"Замаскирован" это значит , что нельзя увидеть невидимое - пока не будет промежуточных знаний.

Нет это вы почему-то считаете нужным разжевывать очевидное, полагая что кроме вас этого как-будто никто не понял.
Ежу понятно что для решения вопроса нужны смежные знания. Программист который ничего не смыслит в нейрофизиологии, имеет крайне мало шансов воспроизвести ИИ. Так же и нейрофизиолог или биолог, который дуб дубом в программировании - имеет такие же исчезающие шансы это сделать. Нужны или программист и нейрофизиолог в одном флаконе, или (что вернее, и вероятно, давно повсеместно применяется) плотное общение между собой, программистов нейрофизиологов и прочих, вовлеченных в проект. Почему вы полагаете такое совершенно невозможным, мне решительно непонятно.

[Serg53]

в мозге человека нейроны в ассоциативных зонах связаны с огромным количеством нейронов в более низких зонах обработки информации.

Привет, люди!

[вова111]

Это говорит о том , что в конце концов нейросети в связи с усложнением должны поумнеть и думать как человек?

При используемых сейчас архитектурах точно нет. Ну и тут не только сетка нужна, но и много чего ещё. Но базовый принцип, что во вселенной разум зарождается при соблюдении рада известных в случае с живым мозгом и сетями условий понять позволяет. То есть раз в сетях независимо от базы возникает нечто вроде мышления, то можно рассматривать и всю вселенную, как структуру подобного характера.

И не только. Сеть интернет тоже можно в принципе как большую нейросеть рассмотреть.

[Макрофаг]

Произвольность эта мнимая. Поведение зверя или другого человека, или даже своё собственное, кажется произвольным просто потому, что у нас нет всей информации о системе.

Понятно , вас моё мнение не заинтересовало и вы решили сослаться на стандартную ситуацию -незнания.
Другое дело общественно - значимый специалист , такой как С.Дробышевский , возможно завладеет вашим вниманием.
"Разум - способность решать нестандартные задачи - нестандартными методами. В этом смысле " разум противопоставляется рефлексам и инстинктам
У меня тоже самое  , только не противопоставляется , а является более качественным продолжением рефлексов и инстинктов- "произвольность - надстройка над рефлексами"
Но одно дело догадываться об этом:   другое дело - знать как реализуется произвольность в живых системах.
Судя по докладу Дробышевского , он даже не приближается к пониманию произвольности (техническое обеспечение - большой сложный мозг ; энергетическое обеспечение - возможность тратить много энергии).

Как развивался интеллект у предков современного человека? Что послужило толчком к возникновению разума? Почему у других животных не развиваются такие же интеллектуальные способности, как у людей? В этой лекции Станислав Дробышевский,

https://www.youtube.com/watch?v=niOk-tcN81I

Другие , более реалистичные исследователи скромно заявляют :

Грег Коррадо, старший научный сотрудник Google Brain Team:

Моя докторская диссертация была посвящена нейрологии – это изучение биологического мозга. И я вам вот что скажу: те нейросети, которые мы сейчас строим и используем, имеют мало общего с реальным мозгом. Ну, разве что, только в том смысле, что структура похожа: набор простых вычислительных модулей, нейронов, которые должны взаимодействовать для решения стоящих перед ними задач. Это правда и для человеческого мозга и для нейросети. В остальном же они думают не так, как люди, они учатся не так. Машины очень от нас отличаются: у них нет гибкости и такого большого вычислительного репертуара, как у нас. И различия эти – вопрос не только масштаба, не то что "вот у нейросети 5 слоев, а у человека тысячу, давайте построим большую и она будет как мы". Нет, я не согласен с такой гипотезой. Мы просто не знаем, как биологический мозг работает. То есть почти совсем: как обучается, как в нем представлены воспоминания, что лежит в основании механизмом сознания – все это нам неизвестно. Те нейросети, что строим мы, чтобы они приносили нам какую-то пользу – там вообще ничего подобного нет. И ты можешь делать их больше или мощнее, но на человека они больше похожими не станут.

https://hitech.vesti.ru/article/657669/

Самый правдоподобный ответ к теме "роботы - вместо людей "

[cybertron]

но на человека они больше похожими не станут.

А надо ли?  Колесо не похоже на ноги, но прекрасно решает задачу транспортировки на дальние расстояния.
Нейросети решают многие задачи лучше людей.

Ну и те мнения что вы привели выше - всего-лишь мнение. Существуют и другие. Что именно нейросети позволят создать полноценный ИИ.

[Olweg]

вот у нейросети 5 слоев, а у человека тысячу, давайте построим большую и она будет как мы

Естественно, если просто тупо наращивать количество слоёв, толку не будет. Нужна иерархичность и модульность, а также обратные связи между иерархически более высокими и более низкими зонами обработки информации.

[Проходящий Кот]

Именно этим конструкторы нейронных сетей и занимаются.
Нумента, например....

[вова111]

Естественно, если просто тупо наращивать количество слоёв, толку не будет. Нужна иерархичность и модульность, а также обратные связи между иерархически более высокими и более низкими зонами обработки информации.

В том числе другое устройство нейронов и вообще сети в целом. Живые нейроны реагируют и на контекст и где и когда сигнал пришёл и на электромагнитные поля и на много чего ещё наверняка.

А если электромагнитные поля помогают передавать сигнал, то ыы. Это быстродействие в реализации на компе ещё дальше отодвинет. Поскольку в такой ситуации они сразу группами могут ощущать происходящее.

https://www.nature.com/articles/nn.2727

Насчёт сотрудника гугла я хз - имхо месье бредит когда считает нейроны простыми вычислительными модулями - просто его всю жизнь так учили.

Просто логично предположить, что раз нейросети работают, то решения в целом верные, ну да - с архитектурой можно и нужно ещё разбираться. Но проблема больше не в архитектуре, а в самих нейронах с синапсами - их недооценивают и слишком просто воспринимают.

[EmperioAf]

Программист который ничего не смыслит в нейрофизиологии, имеет крайне мало шансов воспроизвести ИИ.

Воображение компенсирует незнание.
"Imagination is more important than knowledge" (с) (Альберт Эйнштейн)
Т.ч. шансы программиста вполне себе немаленькие, т.к. воображение он применяет регулярно. Другой вопрос, что почти всегда задача ставится в ТЗ конкретным образом, а не "найти то, не знаю что". Вот программисты и пишут калькулятор за калькулятором. Это экономически выгодно.

[вова111]

Кстати есть ещё штука в нейронных сетях, которая живому организму вообще ни к селу ни к городу, но в коммерческих и исследовательских целях существует. А именно - в случае со свёрточными нейронными сетями в сравнении с визуальной корой мозга живого существа - с какой такой стати вообще паттерн активации нейронов становится изображением. А в случае со свёрточными именно так и есть. То есть паттерном он должен быть - но изображением - нет нет и нет.

[Olweg]

Не понял вас, каким изображением?

[вова111]

Не понял вас, каким изображением?

Ну так как выглядит слой где признак задетектили? Как изображение, если весь массив чисел визуализировать. А почему как изображение? Так потому что нейроны в этой нейросети в том участке создают вот такой вот узор. А в головном мозге разве так? В смысле если посмотреть на активность нейронов там будет признак как изображение? Что то мне кажется, что нифига.

[Olweg]

Да вроде так же. В первичной зрительной коре вроде вообще перевёрнутая картинка отображается. Только не целиком, а по половинке в каждом полушарии.

[вова111]

Да вроде так же. В первичной зрительной коре вроде вообще перевёрнутая картинка отображается. Только не целиком, а по половинке в каждом полушарии.

В смысле там активность нейронов выглядит как картинка? Ну это бред же). Свёрточная сеть скорее фильтр не имеющий отношения к мышлению.