Пределы автоматизации и внедрения роботов

[Проходящий Кот]

Интересно ещё, что у нас в мозгах кипит и испаряется в процессе фазовых переходов по Вайту.....

[Инопланетянин]

Горящее полено полностью соответствует определению диссипативной системы, да к тому же находящейся в гомеостазе.

Гражданин агрессивно рекламирующий свою книгу уже продемонстрировал феерический уровень компетентности.

[Rattus]

Я так понимаю, вы тоже впервые слышите об открытых системах, диссипативных системах, гомеостазе?

Нет - Вы ошибаетесь ровно до противоположного. Я - врач, кандидат наук по специальности "Микробиология" и некоторое время назад - руководитель магистерского диплома по биофизике. Так что об этих терминах знаю никак не по наслышке - иначе бы просто не сдал на отлично курс биофизики на первом курсе медакадемии более 15 лет тому назад. А вот упорное применение ВАми их без должного на то физического основания вполне может попасть под нарушение п.3.1.д Правил Форума.

на самом деле они не «сложные», а непредсказуемые, в том смысле, что происходят вследствие бифуркаций — точка бифуркации имеет несколько веточек аттрактора, по одному из которых пойдёт система, и заранее невозможно предсказать, какой новый аттрактор система займёт

В данном случае непредсказуемость и есть прямое следствие вычислительной сложности. В этом и есть главная проблема с нелинейными системами.

Из того, что формализация ограничена, следует высокая непредсказуемость работы мозга. Согласны?

И что? Вся инженерия по определению - деятельность, направленная на решение конкретных задач. Все сколь-нибудь реальные проекты по созданию ИИ - не исключение. Значит в итоге этой работы подразумевается определённый конечный результат: система, способная успешно решать круг задач определённой широты и сложности. А самый непредсказуемый результат выдаёт хороший квантовый генератор случайных чисел, как ВАм выше уже сказали. Стоит ли его считать таким образом мощнейшим ИИ по вашему определению - вопрос риторический.

Мой труд в первой части относится к философии

Тогда активейшее использование в ней изобилия вполне конкретных физических понятий (вполне выразимых количественно) - это признак весьма скверной философии, которая пытается лезть не на своё поле: https://scepsis.net/library/id_1052.html

Количественно такие вопросы не решаются, так как они указывают границы сложности и всех «количественных» теорий в том числе. Это и ответ про отсутствие формул — в работе важны не количественные данные, а суть научных теорий.

Вот это и есть - типичный постмодернистский эпистемологический нигилизм. Таки советую поискать для этой лапши другие уши этого другую аудиторию.

Да? И из чего это следует? Вот, например, квантовое поле — это система с бесконечным числом степеней свободы.

Квантовое поле - это прежде всего лишь модель, удобная для описания тех или иных явлений. В реальности физических экспериментов нет и не может быть никаких бесконечностей. А физика - наука экспериментальная.

Почему «не резко отрицательное», если всё так плохо?

Как раз потому, что

Гёдель является только одним из аргументов — и приведён первым как самый известный, а далее идут другие аргументы с Гёделем не связанные.

- только это и вытягивает как-то работу.

У вас же, наверное, ещё и администраторы есть?

Можете жаловаться в СПОРТЛОТО. Но судя по всему предыдущему опыту - это только ускоряет и усиливает санкции в отношении жалующегося - уже непосредственно самой администрацией.

да к тому же находящейся в гомеостазе.

На счёт гомеостаза - это вопрос: какой параметр у него стабилен и какими обратными связями эта стабильность обеспечивается?

Интересно ещё, что у нас в мозгах кипит и испаряется в процессе фазовых переходов по Вайту

В принципе генерацию потенциала действия нейроном по достижении локальным потенциалом критического уровня деполяризации на мембране можно, наверное, считать примером такого перехода. Но это в общем банальные вещи.

[Вайт]

Гёделевский аргумент - это проблема для ИИ, каким его представляли в дремучих 60х. Затарахтела, защёлкала машина, начала считать модель всего. И заклинила)

В реальности это даже не аргумент, а некая сугубо философская болтология.
Для естественного разума он не проблема, как видим.
Для прикладных задач ИИ тоже. Не видел сообщений типа:
"наша экспертная система не работает, потому что Гёделевский аргумент"
"наш бот слился в СтарКрафте из-за Гёделевского аргумента"
"наш автопилот не едет из-за Гёделевского аргумента"

Гёделевский аргумент о другом, к тому, что вы пишете, он отношения не имеет. О чём он на самом деле, читайте в первой главе книги. Ну и попробуйте опровергнуть.

Нет - Вы ошибаетесь ровно до противоположного. Я - врач, кандидат наук по специальности "Микробиология" и некоторое время назад - руководитель магистерского диплома по биофизике. Так что об этих терминах знаю никак не по наслышке - иначе бы просто не сдал на отлично курс биофизики на первом курсе медакадемии более 15 лет тому назад. А вот упорное применение ВАми их без должного на то физического основания вполне может попасть под нарушение п.3.1.д Правил Форума.

Конкретно где у меня было применение терминов «без должного основания»? Если у вас всё так хорошо с дипломами, то почему выше вы обобщили открытые и диссипативные системы с нагревателями, проигнорировав ссылки, на которые мне пришлось специально обращать ваше внимание? Предположу, возможно, потому что в рамках биофизики вы эти системы и не изучали, так как это физика неживой природы, того её уровня, на котором жизнь только возникает. Иначе не знаю, что и думать.

В данном случае непредсказуемость и есть прямое следствие вычислительной сложности. В этом и есть главная проблема с нелинейными системами.

Вы имеете в виду, что нам всё известно о системе, в которой происходят неравновесные фазовые переходы, но просто очень много считать, не хватает мощности компьютеров? Нет, это неверно, есть ещё и неполнота знаний об исследуемой системе, из-за которой ещё и неизвестно, что считать. Именно поэтому поведение системы в точке бифуркации в любом случае непредсказуемо.

«Нерешаемые проблемы вследствие взаимодействий в сложных системах, приводящих к непредсказуемым «эмерджентным» свойствам:

1. Нельзя на основании свойств признака установить его причины (обратная задача).
2. Нельзя на основании известных причин, если они взаимодействуют между собой, установить однозначно свойства признака, вследствие возникающих свойств (прямая задача).
3. Нельзя с определенностью предсказать реакцию сложной системы на внешнее воздействие.»

Е. Д. Свердлов — профессор, академик РАН, советник РАН, научный руководитель Института молекулярной генетики РАН, заведующий лабораторией структуры и функций генов человека Института биоорганической химии им. акад. М.М. Шемякина и Ю.А. Овчинникова РАН. Статья Нерешаемые проблемы биологии: нельзя создать два одинаковых организма, нельзя победить рак, нельзя картировать организм на геном.

И что? Вся инженерия по определению - деятельность, направленная на решение конкретных задач. Все сколь-нибудь реальные проекты по созданию ИИ - не исключение. Значит в итоге этой работы подразумевается определённый конечный результат: система, способная успешно решать круг задач определённой широты и сложности. А самый непредсказуемый результат выдаёт хороший квантовый генератор случайных чисел, как ВАм выше уже сказали. Стоит ли его считать таким образом мощнейшим ИИ по вашему определению - вопрос риторический.

Я против конкретных задач ничего не имею, речь в книге идёт о принципиальных границах сложности искусственных систем, создаваемых человеком, а также, как следствие, о принципиальных границах познания вообще.

Что касается генератора случайных чисел, то, согласно науке, хаос детерминирован, хотя и выглядит случайным. Это же, таким образом, относится и к поведению системы в точке бифуркации. Таким образом, массовым образом проходящие при морфогенезе или синхронизации неравновесные фазовые переходы непредсказуемы, но при этом нет оснований считать их истинно случайными, никак не связанными с предыдущей динамикой системы. Следовательно, неким образом вставив такой генератор, мы как раз эту случайность внесём, так как такой генератор будет отдельным элементом, работающим по своему алгоритму, а не естественной частью системы. В итоге мы на всех уровнях наполним систему бессмысленными процессами, не имеющим с ней никакой логической связи. Проще говоря, мы заменим неполноту знаний случайным решением. Ничего работоспособного из этого, естественно, не выйдет.

И наоборот, когда будет понятно, что вот в этом конкретном процессе конкретный выбор не имеет решающего значения, то можно будет вставить и генератор. Но для этого придётся или исследовать систему досконально — а это невозможно, или применять недетерминированные алгоритмы решений — но это глава «Количество против качества» и конец.

Тогда активейшее использование в ней изобилия вполне конкретных физических понятий (вполне выразимых количественно) - это признак весьма скверной философии, которая пытается лезть не на своё поле: https://scepsis.net/library/id_1052.html

Философия — это развёрнутый вывод следствий из предпосылок на естественном языке. Если предпосылки верные и следствия выведены верно, то это хорошая философия. Что при этом взято за предпосылки значение не имеет. Если вы полагаете, что имеет, то это подмена содержания формой. Если вы считаете, что в моей книге есть некое неверное использование терминов, то конкретизируйте обвинения.

Вот это и есть - типичный постмодернистский эпистемологический нигилизм. Таки советую поискать для этой лапши другие уши этого другую аудиторию.

В данном случае вы уже явно подменяете содержание формой, то есть используете логические уловки. По некоторым внешним признакам вы объявляете книгу пропагандой некой ложной идеи, при этом ни ложность этой идеи, ни конкретные основания отнести книгу к ней вы никак не аргументируете, так как тогда станет видно, что ваше обобщение недопустимо.

В связи с чем. Твёрдой уверенности нет, но если вы пытаетесь обвинить меня в лженауке на основании того, что я пишу о границах науки, то наука не секта, сомневаться в её всемогуществе можно. Более того, и нужно, так как с точки зрения науки выводы первой части книги — это одна из гипотез, выдвижение и экспериментальное опровержение которых суть научного познания. Другими словами, принцип прежде сформулированный Менделеевым и поддержанный Поппером, «наука должна быть открыта для разрушения». И вам тоже не стоит делать из форума секту, запрещая мне излагать аргументированные, но всего лишь не нравящиеся вам лично идеи. Ссылаться на книгу я тоже имею право — все ссылки по делу, никакой выгоды мне не приносят, к цитируемости отношения не имеют и даются только для удобства читателей, так как не все аргументы можно изложить в рамках поста.

Квантовое поле - это прежде всего лишь модель, удобная для описания тех или иных явлений. В реальности физических экспериментов нет и не может быть никаких бесконечностей. А физика - наука экспериментальная.

Модель квантового поля тоже есть следствие эксперимента. При этом любая научная теория — это «прежде всего лишь модель, удобная для описания тех или иных явлений», так как истинная реальность неизвестна и не может быть известна. Таким образом, ваше утверждение ранее, что «вся доступная наблюдению вселенная принципиально конечна» неверно.

В биологии, кстати, тоже есть бесконечности: «У биологических систем есть несколько свойств, которые затрудняют работу с такими системами: многомерность (или бесконечное число измерений в пределах континуума); ...». С этим борются дискретизацией, то есть приближением, упрощением. Пространственно-временное моделирование в биологии.

Возможно, что рассуждая о «физических экспериментах, в которых не может быть бесконечностей», вы спутали физику в целом вот с этой конкретной проблемой физики: «Также стоит сказать о проблемах, которые возникают в объединении квантовой теории с теорией относительности Эйнштейна. Обобщённо, представление о пространстве и времени ТО является существенно макроскопическим, то есть пространство-время в ТО «гладкое», и не может быть описано с точки зрения квантовой теории. На практике это приводит к проблеме расходимости — появлению в расчётах бесконечных результатов для наблюдаемых в эксперименте «обыкновенных» конечных величин, и говорит о том, что теории несовместимы. Для решения проблемы используется идея перенормировки, которая позволяет построить хорошо работающие теории, но в данном случае возникают расходимости, которые убрать не удаётся.» Глава 5.4. Сознание в квантовой механике.

- только это и вытягивает как-то работу.

Значит, «вытягивает» всё-таки? Хорошо. Конкретные недоработки, которые, по-вашему, есть в книге, надеюсь, вы поясните.

В принципе генерацию потенциала действия нейроном по достижении локальным потенциалом критического уровня деполяризации на мембране можно, наверное, считать примером такого перехода. Но это в общем банальные вещи.

Конкретно на уровне нервной регуляции неравновесные фазовые переходы связаны с синхронизацией — переходом ансамблей нейронов в режим ритмической активности. Популярно изложенные подробности есть в книге — глава 4.2. Мышление как самоорганизация. Например, переключение внимания — это неравновесный фазовый переход, смена синхронизированных на γ-частоте ансамблей нейронов.

[MenFrame]

Таким образом, массовым образом проходящие при морфогенезе или синхронизации неравновесные фазовые переходы непредсказуемы,

Если они непредсказуемы для нас, то они непредсказуемы и для самого интеллекта, а значит интеллект не как не может использовать ваши неравновесные фазовые переходы кроме как в качестве генератора случайного выбора. Потому нет ни какого смысла их считать, ибо непредсказуемая система не может быть каким либо вычислительным элементом.
   То есть никакого смысла носиться с вашими фазовыми переходами нет! Так как с точки зрения кибернетики они не чем не отличаются от любого другого генератора случайного выбора.

[Aster]

Гёделевский аргумент о другом, к тому, что вы пишете, он отношения не имеет. О чём он на самом деле, читайте в первой главе книги. Ну и попробуйте опровергнуть.

Легко опровергну. Геделевская теорема о неполноте не мешает работать естественному интеллекту. Значит, не будет мешать и искусственному.
Норм?

Вопрос в другом, как эта теорема в принципе может мешать работе интеллекта... Конечно,  я понимаю, что сейчас вместо ответа меня отправят читать очередную главу из книги)))

[Вайт]

Если они непредсказуемы для нас, то они непредсказуемы и для самого интеллекта, а значит интеллект не как не может использовать ваши неравновесные фазовые переходы кроме как в качестве генератора случайного выбора. Потому нет ни какого смысла их считать, ибо непредсказуемая система не может быть каким либо вычислительным элементом.

Предположим, что вы правы. Только состояния, между которыми происходит случайный выбор, прежде надо знать. Иначе между чем будет выбирать ваш генератор? А чтобы их знать, вам придётся исследовать мозг досконально — но это невозможно. Более того, если вы знаете, между чем происходит выбор, то зачем он вообще нужен? Внесите в алгоритм сразу самый лучший вариант и всё. Таким образом, в любом случае выходит, что придётся создавать искусственный интеллект, не обладая необходимой полнотой знаний о естественном мышлении, — но это значит недетерминированные алгоритмы и глава «Количество против качества».

То есть никакого смысла носиться с вашими фазовыми переходами нет! Так как с точки зрения кибернетики они не чем не отличаются от любого другого генератора случайного выбора.

Если что, н. ф. п. — это одна из составляющих работы диссипативных систем, которые в комплексе дают такие свойства как чувствительность, упорядоченность, пластичность и способность к усложнению (эволюции), в недостижимом для искусственных систем объёме. Другими словами, н. ф. п. — это не просто прихоть природы, они необходимое условие работы по-настоящему сложных систем.

[Вайт]

Легко опровергну. Геделевская теорема о неполноте не мешает работать естественному интеллекту. Значит, не будет мешать и искусственному.

Норм?

Геделевская теорема о неполноте работать естественному интеллекту не мешает. Тут норм. Но искусственный интеллект, приближающейся к мышлению человека сложности, создать всё равно не позволяет. Тут не норм.

Вопрос в другом, как эта теорема в принципе может мешать работе интеллекта... Конечно,  я понимаю, что сейчас вместо ответа меня отправят читать очередную главу из книги)))

Из теорем следует вывод, что формальный язык, на котором можно написать алгоритм искусственной системы, равной по сложности мышлению человека, не имеет смысла. Проще говоря, такой язык невозможен. Но нет языка — нет и алгоритма, нет алгоритма — нет и системы. И как затем показано в первой части, этот вывод подтверждается со всех сторон. А дальше, вы правильно догадались, я отправлю вас читать «очередную главу книги», причём ту же — первую, которую вы ещё с прошлого раза не прочитали.

[Проходящий Кот]

Вывод о невозможности ИИ уровня человека вами ни на чём не основан.
Предлагаемые вами аргументы исключительно религиозны.
Нейронным сетям зачем нужен какой-то язык?

[MenFrame]

Только состояния, между которыми происходит случайный выбор, прежде надо знать.

Для начала нужно знать что они вообще имеют место быть. Пока вы только постулируете их существование, не приведя не каких доказательств непосредственно из нейробиологии. Во вторых как любой случайный элемент он скорее будет мешать системе, чем приносить пользу, потому он будет подавляться системами дублирования.
   Да и вообще нейросети это технология которая может работать с нечеткими данными, с проблемами в передаче сигнала и пр. проблемами выдавая результат не смотря на определенную долю хаоса в системе. Потому работу случайных элементов там вообще можно не рассматривать(вернее рассматривать стоит как шум который подавляется избыточностью)

Более того, если вы знаете, между чем происходит выбор, то зачем он вообще нужен?

Речь идет о элементарном выборе который происходит на уровне выполнения логики системы.

Если что, н. ф. п. — это одна из составляющих работы диссипативных систем, которые в комплексе дают такие свойства как чувствительность, упорядоченность, пластичность и способность к усложнению (эволюции), в недостижимом для искусственных систем объёме. Другими словами, н. ф. п. — это не просто прихоть природы, они необходимое условие работы по-настоящему сложных систем.

Если что пока это сугубо ваши безосновательные фантазии. Вы пока вообще не превели доказательств что, н. ф. п. хоть сколько то значимо участвует в работе нейронов, что уж говорить обо всем остальном.

Если что, н. ф. п. — это одна из составляющих работы диссипативных систем,

И упорно продолжаете применять не к месту термины термодинамики пытаясь навести туман и наукообразность. Что вообще первый признак лженауки.

[Вайт]

Нейронным сетям зачем нужен какой-то язык?

Потому что искусственная нейронная сеть — это алгоритм, просто недетерминированный. То есть вы пишете его не точно под задачу, а приблизительно (создавая описанную в этом посте избыточность), после чего оптимизируете сеть под задачу с помощью обучения, которое происходит посредством изменения веса участия разных связей/нейронов в конечном выводе сети. В книге всё везде написано, читайте.

[EmperioAf]

Нейронным сетям зачем нужен какой-то язык?

Эволюционировать может только дискретная система.
Язык - это дискретная система  соответствий/отражений  действительности, грубо говоря.

[Макрофаг]

Если что пока это сугубо ваши безосновательные фантазии. Вы пока вообще не превели доказательств что, н. ф. п. хоть сколько то значимо участвует в работе нейронов, что уж говорить обо всем остальном.

Любые постулаты , на самом деле и есть субъективные фантазии.

Отсюда и  :

И упорно продолжаете применять не к месту термины термодинамики пытаясь навести туман и наукообразность. Что вообще первый признак лженауки.

На самом деле Вайт, Гедель и Пенроуз( и не только) :  так и не смогли сказать " что такое сознание"( что же именно позволяет проявляться сознанию, каковы механизмы психики, порождающие сознание и что является механизмом субъективизации восприятия при осознании.)

Р. Пенроуз :

A. Всякое мышление есть вычисление; в частности, ощущение осмысленного осознания есть не что иное, как результат выполнения соответствующего вычисления.
B. Осознание представляет собой характерное проявление физической активности мозга; хотя любую физическую активность можно моделировать посредством той или иной совокупности вычислений, численное моделирование как таковое не способно вызвать осознание.
C. Осознание является результатом соответствующей физической активности мозга, однако эту физическую активность невозможно должным образом смоделировать вычислительными средствами.
D. Осознание невозможно объяснить в физических, математических и вообще научных терминах.

Отсюда и фантазии включая нейробиологов , которые  пытаются описывать сознание так же как и психологи " чёрный ящик". Т.е. постулируя прикрываясь эмпирическими фактами без проникновения в суть явления.

[Aster]

Геделевская теорема о неполноте работать естественному интеллекту не мешает. Тут норм. Но искусственный интеллект, приближающейся к мышлению человека сложности, создать всё равно не позволяет. Тут не норм.

Но ведь естественному интеллекту она не мешала возникнуть. И ИИ можно создавать эволюционным путём. Например:
вносятся небольшие изменения в топологию нейросети;
нейросети обучаются;
отбираются лучшие экземпляры

Из теорем следует вывод, что формальный язык, на котором можно написать алгоритм искусственной системы, равной по сложности мышлению человека, не имеет смысла. Проще говоря, такой язык невозможен. Но нет языка — нет и алгоритма, нет алгоритма — нет и системы.

Существует ли формальный язык для естественного интеллекта?

[Вайт]

Но ведь естественному интеллекту она не мешала возникнуть. И ИИ можно создавать эволюционным путём. Например:
вносятся небольшие изменения в топологию нейросети;
нейросети обучаются;
отбираются лучшие экземпляры

Не мешала, верно. В общем ваш путь рассмотрен в главе «Искусственный интеллект и эволюция» или «Количество против качества». Говоря точнее, в первой части последовательно (то есть каждая следующая глава может быть более или менее непонятна без предыдущих) рассмотрены все возможные пути создания ИИ, приближающейся к человеческому интеллекту сложности. Читать лучше всегда вариант книги из интернета, а не ранее скачанный, так как в книгу время от времени ещё вносятся изменения, направленные на улучшение изложения.

Существует ли формальный язык для естественного интеллекта?

Согласно выводам первой части, формализация естественного интеллекта (и подобных ему по принципу работы систем) значительно ограничена. 

[незлой]

гёделевский аргумент обходится элементарно: ии возможен, но никто не будет понимать, как он работает

[Вайт]

гёделевский аргумент обходится элементарно: ии возможен, но никто не будет понимать, как он работает

Не обходится. Те же главы, что и в моём посте выше.

[николай теллалов]

так как тема все же про роботов, а не только о книге, уверяющей нас, что ИИ невозможно построить, копирую сюда две реплики, коснувшиеся проблемы роботов в другой теме:

Но вы не можете отрицать, что в ходе дальнейших исследований в этой области что-то и получится.
Хотя конечно это тупиковый и бессмысленный вариант.

Скорее из этого проклюнется какой-то вариант биороботов, возможно уровня наших предков миллионолетней давности.
Но опять таки там достаточно получить лишь первое поколение ---- а дальше обычным порядком.

а почему они должны быть примитивными?

впрочем, для биороботов уместна упрощенная физиология и минимум ЦНС в качестве периферии-интерфейса, к которому подключены чипы - собственно "мозг" биоробота.
тело изнашивается за несколько лет, вынимаем машинный мозг, ставим на новоклонированное тело.

при появлении у такого сознания, тело ему надо сделать долговечнее, а пересадке подлежит биопериферия кибермозга, не только он один.


только это эвгеники касаетсь едва-едва, думаю

[Aster]

гёделевский аргумент обходится элементарно: ии возможен, но никто не будет понимать, как он работает

Вообще, для любого аргумента о невозможности создания ИИ нужно некое принципиальное отличие естественного интеллекта от всех возможных реализаций искусственного. А с этим увы сложно.

Поэтому, эти аргументы сводятся к беседе:
- Тела тяжелее воздуха летать не могут.
- Но птицы летают...
- Так они ж живые!

 

[николай теллалов]

- Тела тяжелее воздуха летать не могут.
- Но птицы летают...
- Так они ж живые!

+