Пределы автоматизации и внедрения роботов

[Olweg]

Нейронные ансамбли там нейтронные, поэтому поиск и не находит ) Ясно, спасибо. Более развёрнуто не подскажите где можно почитать?

[MenFrame]

Вот это в книге по вашей ссылке верно подмечено:

«К сожалению, не все верят в то, что мы сможем познать работу мозга.

Вера людей в непознаваемость мозга их личное дело, но не дело науки.

Остальное чушь:

Конечно, чушь для вас все что связано с познанием мозга. Я бы даже сказал "Ересь"

Всё понятно.

Что именно? То что я не состояю в секте "Непознаваемости разума"

биологических (переход в режим ритмич. активности нейронных ансамблей; образование неоднородных структур при морфогенезе)

Опять пустая болтовня без доказательств.

[EmperioAf]

Вайт,
если я правильно вас понял, то вы полагаете, что между процессом и эмуляцией процесса есть какая то принципиальная разница.
Вопрос: разве существует операция, которая осуществляется физически и которую невозможно эмулировать?
Я знаю только одну такую операцию - случайный выбор. Как известно функция  Math.random()    даёт не случайное число, а псевдослучайное.
Но как то не верится, что операция случайности активно используется в мышлении человека, т.к.  человек работает почти только с предметами, ведущими себя закономерно.

[MenFrame]

Что из этого следует, читайте в книге.

Не устали еще свою [убрано цензурой] книгу рекламировать?

[BlackMokona]

Я знаю только одну такую операцию - случайный выбор. Как известно функция  Math.random()    даёт не случайное число, а псевдослучайное.

Есть армия генераторов истинно случайных чисел. Поэтому тут с этим тоже всё хорошо

[EmperioAf]

Есть армия генераторов истинно случайных чисел.

Приведите ссылку пожалуйста. Я слышал только про генераторы случайных чисел, которые выдают псевдослучайные числа, а не истинно случайные.

[Вайт]

Вайт, если я правильно вас понял, то вы полагаете, что между процессом и эмуляцией процесса есть какая то принципиальная разница. Вопрос: разве существует операция, которая осуществляется физически и которую невозможно эмулировать?

Она возникает из неполноты знаний о моделируемом процессе. В случае таких систем как клетка, организм, мозг (открытых термодинамически неравновесных, диссипативных, самоорганизующихся, с гомеостазом) она принципиально более высокая. Читайте ответ Проходящему коту, там есть цитаты об этом: Роботы вместо людей

Это означает, что в работе мозга всегда будет оставаться много непонятного. А значит, в создании искусственного интеллекта мы всегда будем исходить из неполноты знаний о естественном процессе мышления. Что из этого следует, написано в главах «Искусственный интеллект и эволюция» и «Количество против качества».

Я знаю только одну такую операцию - случайный выбор. Как известно функция  Math.random()    даёт не случайное число, а псевдослучайное. Но как то не верится, что операция случайности активно используется в мышлении человека, т.к.  человек работает почти только с предметами, ведущими себя закономерно.

Как понятно, специальное внесение «неполноты знаний» в виде некого случайного выбора моделированию мышления не поможет, в то же время, как следует из абзаца выше, мышление суть высокая непредсказуемость процесса, его «случайность», то есть работа мозга (клетки, организма) всегда содержит элементы хаоса. Подробнее в главе «Главный принцип».

Более развёрнуто не подскажите где можно почитать?

Вот, например, старая, но обобщающая статья «Синхронизация в нейронных ансамблях» или популярно «Синергетика мозга», первые две части. Или статья «Фракталы и хаос в биологическом морфогенезе». Плюс стоит поискать по ссылкам в статьях про синхронизацию и н. ф. п. или по терминам.

[MenFrame]

Она возникает из неполноты знаний о моделируемом процессе.

При этом неполнота знаний вполне позволяет реализовать те же самые функции распознавания в кремнии. Что говорит о том, что ценность этой неполноты преувеличена.

мышление суть высокая непредсказуемость процесса, его «случайность», то есть работа мозга (клетки, организма) всегда содержит элементы хаоса.

Конечно...человек рубящий дрова, так нуждается в непредсказуемости, аки как в отрубленных конечностях.

[BlackMokona]

Есть армия генераторов истинно случайных чисел.

Приведите ссылку пожалуйста. Я слышал только про генераторы случайных чисел, которые выдают псевдослучайные числа, а не истинно случайные.

https://ru.m.wikipedia.org/wiki/%D0%90%D0%BF%D0%BF%D0%B0%D1%80%D0%B0%D1%82%D0%BD%D1%8B%D0%B9_%D0%B3%D0%B5%D0%BD%D0%B5%D1%80%D0%B0%D1%82%D0%BE%D1%80_%D1%81%D0%BB%D1%83%D1%87%D0%B0%D0%B9%D0%BD%D1%8B%D1%85_%D1%87%D0%B8%D1%81%D0%B5%D0%BB

[a.ryabov]

А алгоритм вашей машинке кто написал?

Изначально люди. Ну и вы появились не без помощи своих родителей.   Но это не значит, что  за время своей жизни вы сами не изменились, а также ваши взгляды и возможности, включая интеллектуальные.

[незлой]

Есть армия генераторов истинно случайных чисел

нету. либо псевдослучайные, либо берут из окружающей физики.

[BlackMokona]

Есть армия генераторов истинно случайных чисел

нету. либо псевдослучайные, либо берут из окружающей физики.

Ну так берут и тем самым генерируют числа. Там же в статье всё разьяснено.

[незлой]

Ну так берут и тем самым генерируют числа

и это показывает, что алгоритмов генерации нет. можно только взять готовое, из истинного генератора сч -- среды.

[BlackMokona]

Ну так берут и тем самым генерируют числа

и это показывает, что алгоритмов генерации нет. можно только взять готовое, из истинного генератора сч -- среды.

Не может быть в принципе алгоритма такого , так как предпологается что у противника есть абсолютно все карты на руках. И алгоритм сам и нужная аппаратура.

[Rattus]

Она возникает из неполноты знаний о моделируемом процессе. В случае таких систем как клетка, организм, мозг (открытых термодинамически неравновесных, диссипативных, самоорганизующихся, с гомеостазом) она принципиально более высокая. Читайте ответ Проходящему коту, там есть цитаты об этом.
Это означает, что в работе мозга всегда будет оставаться много непонятного. А значит, в создании искусственного интеллекта мы всегда будем исходить из неполноты знаний о естественном процессе мышления.

Что закрытых ТД-систем в нашей вселенной нет вы сами признали несколькими постами ранее, неравновесной и диссипативной является вообще любой нагреватель - хоть горящее полено, а гомеостаз (точнее - метастабильность - активное поддержание состояния ТД-неравновесия в определённых пределах) строго говоря есть и у любого термостата и у парового котла с клапаном -  о чём вам уже внятно разъяснили. Поэтому совершенно ненужно (а точнее - совершенно вредно) тут применять эти вполне чётко определяемые физические термины в качестве околофилософских buzz words. Не та аудитория. Тем более не нужно ими пытаться подпирать свой аргумент о том, что уровень этого ТД-неравновесия обеспечивает целый ряд очень сложных для формализации фазовых переходов в живых системах - если действительно считаете его содержательным. Если Вы действительно считаете свой труд относящимся к сфере естественных наук, то Вам крайне желательно эти самые уровни хоть как-то определить количественно, с уравнениями - благо термодинамика - вполне завершенная область физики - и сразу приводить их сюда, иначе ссылки на всю книжку целиком и даже отдельные крупные главы очень сильно напоминают попытку использовать Форум как бесплатную рекламную площадку, что вообще-то запрещено Правилами вне соответствующего раздела (СПАМ).
Как модератор Вам это всё настоятельно рекомендую.

Что же касается самой книжки, то начало её с гёделевского аргумента сходу создаёт далеко не самое благоприятное впечатление у людей, хоть сколь-нибудь разобравшихся в проблематике теории алгоритмов: теорема Гёделя о неполноте, равно как и другая её сторона - проблема остановки машины Тьюринга - имеют область применения исключительно в рамках матлогики, изучающей различные арифметики, алгебры и прочие т.н. "формальные системы". И единственным практическим выходом из этой неполноты явлеяется разве что невозможность дать универсальную формализацию понятию репликатора и как следствие - невозможность создать универсальный вирус/антивирус. К реальному же физическому миру эти математические теоремы отношения никакого не имеют, ибо описывают исключительно особенности бесконечных последовательностей, тогда как физика принчипиально не работает с бесконечностями: вся доступная наблюдению вселенная принципиально конечна. И тем более конечны все живые организмы и все их адаптации.
Поэтому попытка постулировать непознаваемость чего-либо в физическом мире через "гёделевский аргумент" является признаком злокачественной гуманитарщины и в среде специалистов даже имеет нелицеприятное название "гёделит головного мозга".
В остальном же пока не увидел ничего такого, что не описано в других научпоп-материалах про основы неравновесной термодинамики, которые, однако, не постулируют никаких подобных тезисов о невозможности сильного ИИ человеческого уровня.

[Вайт]

Не заметил вчера, что вы написали в этой теме. Я вас здесь ждал Гуманоидный искусственный разум Вы там так роскошно высказались. Впрочем, здесь не хуже.

Что закрытых ТД-систем в нашей вселенной нет вы сами признали несколькими постами ранее, неравновесной и диссипативной является вообще любой нагреватель - хоть горящее полено, а гомеостаз (точнее - метастабильность - активное поддержание состояния ТД-неравновесия в определённых пределах) строго говоря есть и у любого термостата и у парового котла с клапаном -  о чём вам уже внятно разъяснили.

Я так понимаю, вы тоже впервые слышите об открытых системах, диссипативных системах, гомеостазе? Тогда читайте этот пост и не забудьте про ссылки в нём: Роботы вместо людей

Поэтому совершенно ненужно (а точнее - совершенно вредно) тут применять эти вполне чётко определяемые физические термины в качестве околофилософских buzz words. Не та аудитория. Тем более не нужно ими пытаться подпирать свой аргумент о том, что уровень этого ТД-неравновесия обеспечивает целый ряд очень сложных для формализации фазовых переходов в живых системах - если действительно считаете его содержательным.

Не ту аудиторию пока оставим. Давайте с вас начнём. Вот вы пишете, что «фазовые переходы сложные для формализации» (на самом деле они не «сложные», а непредсказуемые, в том смысле, что происходят вследствие бифуркаций — точка бифуркации имеет несколько веточек аттрактора, по одному из которых пойдёт система, и заранее невозможно предсказать, какой новый аттрактор система займёт). И я пишу о том же. Из того, что формализация ограничена, следует высокая непредсказуемость работы мозга. Согласны? Следовательно создание искусственного интеллекта будет исходить из неполных знаний о нём. И далее читайте, что из этого следует, начиная с главы «1.8. Искусственный интеллект и эволюция» или «1.9.5. Количество против качества».

Если Вы действительно считаете свой труд относящимся к сфере естественных наук, то Вам крайне желательно эти самые уровни хоть как-то определить количественно, с уравнениями - благо термодинамика - вполне завершенная область физики - и сразу приводить их сюда, иначе ссылки на всю книжку целиком и даже отдельные крупные главы очень сильно напоминают попытку использовать Форум как бесплатную рекламную площадку, что вообще-то запрещено Правилами вне соответствующего раздела (СПАМ).

Мой труд в первой части относится к философии (а также во второй части, и в других частях к научно-популярной тематике), так как речь идёт о качественных ограничениях сложности любых искусственных систем, создаваемых человеком. Количественно такие вопросы не решаются, так как они указывают границы сложности и всех «количественных» теорий в том числе. Это и ответ про отсутствие формул — в работе важны не количественные данные, а суть научных теорий. И если вы считаете, что она где-то изложена неверно, то укажите где, и я вам объясню, в чём вы ошибаетесь.

И по спаму. Во-первых, в книге нет ничего, противоречащего науке, во-вторых, не все аргументы можно изложить коротко, поэтому я даю ссылки для удобства.

вся доступная наблюдению вселенная принципиально конечна.

Да? И из чего это следует? Вот, например, квантовое поле — это система с бесконечным числом степеней свободы.

И тем более конечны все живые организмы и все их адаптации.

Так же как с полем? Взяли это утверждение просто с потолка? Тем не менее даже если что-то конечное — это ещё не обязательно вычислимое. Согласны? Читайте, например, про точки бифуркации выше или динамический хаос, что там про случайность написано.

Что же касается самой книжки, то начало её с гёделевского аргумента сходу создаёт далеко не самое благоприятное впечатление у людей, хоть сколь-нибудь разобравшихся в проблематике теории алгоритмов: теорема Гёделя о неполноте, равно как и другая её сторона - проблема остановки машины Тьюринга - имеют область применения исключительно в рамках матлогики, изучающей различные арифметики, алгебры и прочие т.н. "формальные системы".

Почему же тогда только «не самое благоприятное»? Почему «не резко отрицательное», если всё так плохо? В общем, по-видимому, вы опять не разобрались в вопросе.

Тем не менее в любом случае Гёдель является только одним из аргументов — и приведён первым как самый известный, а далее идут другие аргументы с Гёделем не связанные. Во-вторых, в главе про гёделевский аргумент, есть ещё и теорема Тарского. В-третьих, если вы всё же считаете, что к физической реальности написанное в главе отношения не имеет, то опровергните её и дело с концом. Заодно и всю математику перевернёте.

В остальном же пока не увидел ничего такого, что не описано в других научпоп-материалах про основы неравновесной термодинамики, которые, однако, не постулируют никаких подобных тезисов о невозможности сильного ИИ человеческого уровня.

Тезисы по теме книги постулирую я, а не какая-либо наука, — но делаю я это в том числе на основе неравновесной термодинамики и не только. А что вы «ничего такого» не увидели, то это мне жаль. Возможно, так происходит потому, что вы диссипативную систему с горящим поленом обобщаете.

Как модератор Вам это всё настоятельно рекомендую.

У вас же, наверное, ещё и администраторы есть?

[MenFrame]

а непредсказуемые, в том смысле, что происходят вследствие бифуркаций

Если они непредсказуемые, то они не несут основной интеллектуальной нагрузки. Поскольку основа интеллекта это обучение и его реализация, что требует предсказуемости. К тому же непредсказуемость лего моделируется генератором случайных чисел.
  К тому же наличие такого непредсказуемого функционала в нейронных сетях пока еще не доказано. Видимо это сугубо ваши фантазии.
 

Возможно, так происходит потому, что вы диссипативную систему с горящим поленом обобщаете.

Горящее полено полностью соответствует определению диссипативной системы, да к тому же находящейся в гомеостазе.

[Вайт]

Если они непредсказуемые,

Непредсказуемые не значит, что недетерминированные. Читайте ссылки про хаос, там написано выглядит случайным. 

[MenFrame]

Непредсказуемые не значит, что недетерминированные.

Детерминированные не значит предсказуемые. Для самой сети они не предсказуемые, то есть не связаны с опытом обучения и его реализацией. 
То есть сама по себе случайность, детерминированная или нет, не может нести в себе механизма интеллектуального выбора. Это просто случайность, не имеет значения каким образом она реализована, бифуркацией или сбоем в работе медиаторов или прочими причинами. В самой же сети склонной к отступлению от логики, должен работать механизм необходимой избыточности, который подавляет случайности позволяя реализоваться алгоритму обучения, либо алгоритму реализации обучения. Клеточные механизмы избыточности известны, например такой избыточностью обладает двойная спираль ДНК.

Потому повторюсь..Непредсказуемость(не важно какая) не имеет не какого интеллектуального смысла. Она может служить сугубо частью алгоритма, и может быть заменена любым другим генератором случайных чисел. 

[Aster]

Тем не менее в любом случае Гёдель является только одним из аргументов — и приведён первым как самый известный, а далее идут другие аргументы с Гёделем не связанные. Во-вторых, в главе про гёделевский аргумент, есть ещё и теорема Тарского. В-третьих, если вы всё же считаете, что к физической реальности написанное в главе отношения не имеет, то опровергните её и дело с концом. Заодно и всю математику перевернёте.

Гёделевский аргумент - это проблема для ИИ, каким его представляли в дремучих 60х. Затарахтела, защёлкала машина, начала считать модель всего. И заклинила)

В реальности это даже не аргумент, а некая сугубо философская болтология.
Для естественного разума он не проблема, как видим.
Для прикладных задач ИИ тоже. Не видел сообщений типа:
"наша экспертная система не работает, потому что Гёделевский аргумент"
"наш бот слился в СтарКрафте из-за Гёделевского аргумента"
"наш автопилот не едет из-за Гёделевского аргумента"