Гуманоидный искусственный разум

[гравицап]

Я просто намекал вам на разницу между персоной и персонажем. Такая же разница между их личностями

[николай теллалов]

игры в семантику... скучны
(мягкий упрек обоим коллегам)

[гравицап]

Принято. Вернемся к роботам

[gas]

ну не получится смоделировать у роботов центр боли и наслаждений, роботы никогда не будут кайфовать и искать себе приключений, а так же страдать и мучиться.
а так же у них нет свободы воли и свободного поведения, и прочих личностных характеристик, если что-то и удастся смоделировать, то очень грубо и частично
дружба с роботом никак не получится, и многое другое

[николай теллалов]

ну не получится

чистое вангование
дабы не сказать попытка заклинать нежелаемое - "изыди, сатана!"

(кликните для показа/скрытия)

(у русских почему-то глагол "ванговать" ассоциируется с понятием "пророчество", даже когда употребляется иронично; а на самом деле должен значить "жульничество" (может и невольное, ибо явно сильно себе верила), ибо "сбывание" навангованного укладывается в статистику простого случайного совпадения; а уж "ясновидение" - не надо. Что за ясновидец, в дверь чьего дома стучат, спрашивает "кто там?"...)

[Вайт]

Насекомые конечно не имитируют человека.

Конечно, не имитируют. Насекомые ничем принципиально от человека не отличаются, если только по мелочи. Тоже обучаются, например. Ведь нейронная сеть обучается, а мозг насекомых та же нейронная сеть (биологическая, конечно, а это не совсем то, что искусственная). Просто у человека мозг больше, в нём больше нейронов и связей и он продолжает активно формироваться в том числе и после рождения, по каким причинам человек может и большему обучиться.

Например, есть даже такое исследование: Insects have the capacity for subjective experience (Насекомые могут иметь субъективный опыт, англ.). В ссылке две статьи, нужна первая.

Они избегают повреждений программно так же как вы хотите имитровать самоощущения у роботов.

Тогда и человек «программно». И тогда «смоделировать самоощущение» ничего принципиально не помешает. Может быть, это будет долго, но главное, что в принципе возможно. Только «программно» — это значит, описать на формальном языке. Можете вы выразить эмоцию словами? Радость, например, решимость? Цвет, звук, запах, боль? Не назвать, а именно полностью выразить?

как мы тогда найдем с ним общий язык?

Откуда этот вопрос? Вы же его не наугад создали. Или наугад?

[loky1109]

ну не получится смоделировать у роботов центр боли и наслаждений, роботы никогда не будут кайфовать и искать себе приключений, а так же страдать и мучиться.

Почему?

а так же у них нет свободы воли и свободного поведения

А у людей по вашему есть? Смешно и наивно.

если что-то и удастся смоделировать, то очень грубо и частично

Если наблюдателю не видно отличий, то их нет.

дружба с роботом никак не получится, и многое другое

С идеально изображающим человека? Почему нет?

[гравицап]

Насекомые конечно не имитируют человека.

Конечно, не имитируют. Насекомые ничем принципиально от человека не отличаются, если только по мелочи. Тоже обучаются, например. Ведь нейронная сеть обучается, а мозг насекомых та же нейронная сеть (биологическая, конечно, а это не совсем то, что искусственная). Просто у человека мозг больше, в нём больше нейронов и связей и он продолжает активно формироваться в том числе и после рождения, по каким причинам человек может и большему обучиться.

Например, есть даже такое исследование: Insects have the capacity for subjective experience (Насекомые могут иметь субъективный опыт, англ.). В ссылке две статьи, нужна первая.

Они избегают повреждений программно так же как вы хотите имитровать самоощущения у роботов.

Тогда и человек «программно». И тогда «смоделировать самоощущение» ничего принципиально не помешает. Может быть, это будет долго, но главное, что в принципе возможно. Только «программно» — это значит, описать на формальном языке. Можете вы выразить эмоцию словами? Радость, например, решимость? Цвет, звук, запах, боль? Не назвать, а именно полностью выразить?

как мы тогда найдем с ним общий язык?

Откуда этот вопрос? Вы же его не наугад создали. Или наугад?

Для успешного мыслительного процесса надо уметь видеть общее и отличное. Но вобще среди мыслителей распространена гипертрофированная склонность к обобщениям. В этом якобы некий шарм.
Смоделировать самоощущения допустим можно, но как заставить робота их ощущать?
И ведь вопрос не так прост как кажется. Мы то ощущаем. Чем мы принципиально отличаемся от искуственных нейросетей?


Невозможно найти общий язык с ии если самоощущения в нем появятся сами по себе, как результат ошибки

[Вайт]

Почему?

Потому что приближение сложности искусственных систем к сложности их создателя принципиально невозможно.

Проявляется это в целом в том, что физические принципы работы биологических и искусственных систем принципиально отличаются. Как следствие, чтобы приближение искусственных систем к сложности человека стало возможным, нужен переход к качественно новым принципам создания/работы искусственных систем — утрируя, от языков и алгоритмов к «не языкам» и «не алгоритмам». Вне этого перехода уровень сложности человека недостижим, в то же время такой переход невозможен (глава 1.9.5. «Количество против качества» в книге).

По-другому можно сказать, что столь богатый язык, на котором можно было бы выразить «не языки» и «не алгоритмы» человеку недоступен. Простой пример «из жизни» — это невозможность (и непредставимость этого) выражения цвета (и в целом любых ощущений и эмоций) какими-либо словами.

Если попроще и покороче, то физическое отличие живого и неживого описано в статье Проявление самоорганизации в организме и мозге в первой части.

Но вобще среди мыслителей...

Каких мыслителей? Вы о чём? Если вы что-то утверждаете, аргументируйте. Если что-то, по-вашему, возможно, то как, если невозможно, то почему. И изучайте аргументы оппонентов.

[MenFrame]

Простой пример «из жизни» — это невозможность (и непредставимость этого) выражения цвета

Цвет это просто индивидуальный опыт. Индивидуальный опыт невозможно точно передать просто потому что он индивидуальный, и не у кого кроме нас к нему нет доступа. Делать из этого какой то культ еще один вариант демагогии от Вайта.

какими-либо словами.

Потому что слова ссылаются на более обобщенный(более абстрагированный) опыт. Но из этого не как не следует какая то принципиальная невозможность создания.....

[Проходящий Кот]

.....

Опять написали свою мантру о душе.
СКУЧНО уже.
Разум людей естественное явление.
А значит может быть воспроизведен и искусственно.
120 миллионов человеческих разумов появляются ежегодно.
И они не воспроизводимы технически?

[MenFrame]

Чем мы принципиально отличаемся от искуственных нейросетей?

Тем что нейросети пока не имеют тела, а значит и не имеют кинестетических сигналов от него исходящих, а также не умеют кодировать внутренний опыт на основе кинестетических паттернов.

но как заставить робота их ощущать?

А откуда вы уверены что что то ощущаете? Говорите об этом, ну дак и робот может говорить об этом.

самоощущения в нем появятся сами по себе, как результат ошибки

В результате ошибки может появиться только другая ошибка. Вероятность появления чего то сложного случайно, исчезающе мала.

[Вайт]

Цвет это просто индивидуальный опыт. Индивидуальный опыт невозможно точно передать ...

Так передайте неточно. Пусть зелёный у вас салатовым станет, я не против. Да пусть даже синим. ) Вы главное принцип сообщите, как цвет, пусть и неточно, словами выразить.

Ну, и заодно, что такое «индивидуальный опыт» физически, конкретно почему его нельзя выразить словами, а также какой опыт не индивидуальный. Речь, например, — это индивидуальный опыт? Можно речь словами выразить? Слова словами можно? Сепульки не получатся? )

[гравицап]

Чем мы принципиально отличаемся от искуственных нейросетей?

Тем что нейросети пока не имеют тела, а значит и не имеют кинестетических сигналов от него исходящих, а также не умеют кодировать внутренний опыт на основе кинестетических паттернов.

но как заставить робота их ощущать?

А откуда вы уверены что что то ощущаете? Говорите об этом, ну дак и робот может говорить об этом.

самоощущения в нем появятся сами по себе, как результат ошибки

В результате ошибки может появиться только другая ошибка. Вероятность появления чего то сложного случайно, исчезающе мала.

1.заметьте, что самощущения уже есть раньше какого либо опыта. И именно самоощущения этот опыт субьективируют.
2.каждый уверен что он ощущает и говорит об этом.
Если робот будет только говорить что ощущает, но ощущать не будет, то чего мы добьемся запрограммировав его так говорить? Это можно и винду так запрограммировать.
3.вы уверены что самоозущения это что то сложное.
Допустим сложен комплекс самоощущений человека потому что самоощущения выработаны эволюцией для регулирования его поведения в сложной среде. Но в результате ошибки, случайно, самоощущения могут появиться случайным образом

[гравицап]

Почему?

Потому что приближение сложности искусственных систем к сложности их создателя принципиально невозможно.

Проявляется это в целом в том, что физические принципы работы биологических и искусственных систем принципиально отличаются. Как следствие, чтобы приближение искусственных систем к сложности человека стало возможным, нужен переход к качественно новым принципам создания/работы искусственных систем — утрируя, от языков и алгоритмов к «не языкам» и «не алгоритмам». Вне этого перехода уровень сложности человека недостижим, в то же время такой переход невозможен (глава 1.9.5. «Количество против качества» в книге).

По-другому можно сказать, что столь богатый язык, на котором можно было бы выразить «не языки» и «не алгоритмы» человеку недоступен. Простой пример «из жизни» — это невозможность (и непредставимость этого) выражения цвета (и в целом любых ощущений и эмоций) какими-либо словами.

Если попроще и покороче, то физическое отличие живого и неживого описано в статье Проявление самоорганизации в организме и мозге в первой части.

Но вобще среди мыслителей...

Каких мыслителей? Вы о чём? Если вы что-то утверждаете, аргументируйте. Если что-то, по-вашему, возможно, то как, если невозможно, то почему. И изучайте аргументы оппонентов.

Самоощущения есть например у собак. Если для нас сложно воспроизвести человека, давайте сделаем собаку. Но по вашему мы не можем воспроизвести и насекомых. Но поведение на уровне насекомых запрограммировать вполне можно.

[MenFrame]

Так передайте неточно.

Неточно передать что? Веса нейронов? Ребенку говорят вот это зеленый, и вот это зеленый, и вот это зеленый. Его нейронка обобщает кучу индивидуальных порожденным индивидуальным воспринимающим апаратом данных, под единый ярлык "Зеленый" Его опыт,  того что есть зеленый, есть его уникальный опыт...

Ну, и заодно, что такое «индивидуальный опыт» физически

Опыт, возникший у индивида, в следствии его индивидуальных особенностей, и различий в самом построении этого опыта.

почему его нельзя выразить словами

Потому что речевой апарат человека ограничен возможностями по самоисследованию структуры своего внутреннего опыта.

Речь, например, — это индивидуальный опыт?

Все что касается слов, есть опыт социальный. Индивидуальный опыт, это то как конкретно настроены твои веса нейронов, и какие порядки абстракций они создают.

[Вайт]

Но поведение на уровне насекомых запрограммировать вполне можно.

Нет, поведение насекомых будет богаче. И чем сложнее биологический образец, тем больше будут от него отставать искусственные системы.

«По мере упрощения нервной системы её функция распознавания условий и построения действий вырождается, в конечном итоге сводясь к неизбирательному сокращению сразу всего тела в ответ на раздражение любого рецептора — например, так реагируют медузы, нервная система которых является одной из самых простых. Воспроизвести такой уровень «мышления», как кажется, не представляет никакой сложности, однако на самом деле это только внешняя простота. Нейрон, как и любая клетка, — это тоже сложнейшая самоорганизующаяся система, при этом все нейроны связаны в сеть, поэтому в каждой реакции нервной системы медузы так или иначе учитывается активность всех её рецепторов и состояние внутренней среды организма. Поэтому несмотря на то, что в общем реакции медузы всегда будут одинаковые и простые, их нюансы будут столь же сложны и невычислимы, как и поведение человека.

И по мере увеличения количества нейронов, усложнения их связей, усложнения взаимодействия нейронов с окружающими тканями и роста возможностей трансформации мозга, объём невычислимого будет стремительно увеличиваться. Причём если исходить из того, что нюансы реакций медузы в любом случае не представляют интереса, то ловкость движений муравья или пилотаж полёта мухи уже не будут лишними, а сложность мышления человека и вообще требуется выразить именно полностью, ничего упростить нельзя, так как речь идёт о создании искусственной системы приближающейся к мышлению человека сложности или даже превосходящей его.»

Глава 1.10. Пределы отбора.

[MenFrame]

.заметьте, что самощущения уже есть раньше какого либо опыта.

Самоощущения это по вашему не опыт? По моему любая обработка входящих сигналов это опыт.

Если робот будет только говорить что ощущает, но ощущать не будет,

Как вы можете доказать что вы действительно ощущаете, а не только говорите об этом?

Это можно и винду так запрограммировать.

И вас эволюция запрограммировала на определенные реакции, которые помогают вам выживать.

вы уверены что самоозущения это что то сложное.

Конечно уверен, у человека куча рецепторов в теле, которыми он чувствует, и самоощущает. И при этом эту информацию он может хорошо обрабатывать, и на разные паттерны кинестетических сигналов имеет разные ответные реакции.

[loky1109]

Потому что приближение сложности искусственных систем к сложности их создателя принципиально невозможно.

А! Размножение невозможно, понимаю.

Если робот будет только говорить что ощущает, но ощущать не будет

А вы докажите.

3.вы уверены что самоозущения это что то сложное.

Это и есть что-то сложное.

[гравицап]

Но поведение на уровне насекомых запрограммировать вполне можно.

Нет, поведение насекомых будет богаче. И чем сложнее биологический образец, тем больше будут от него отставать искусственные системы.

«По мере упрощения нервной системы её функция распознавания условий и построения действий вырождается, в конечном итоге сводясь к неизбирательному сокращению сразу всего тела в ответ на раздражение любого рецептора — например, так реагируют медузы, нервная система которых является одной из самых простых. Воспроизвести такой уровень «мышления», как кажется, не представляет никакой сложности, однако на самом деле это только внешняя простота. Нейрон, как и любая клетка, — это тоже сложнейшая самоорганизующаяся система, при этом все нейроны связаны в сеть, поэтому в каждой реакции нервной системы медузы так или иначе учитывается активность всех её рецепторов и состояние внутренней среды организма. Поэтому несмотря на то, что в общем реакции медузы всегда будут одинаковые и простые, их нюансы будут столь же сложны и невычислимы, как и поведение человека.

И по мере увеличения количества нейронов, усложнения их связей, усложнения взаимодействия нейронов с окружающими тканями и роста возможностей трансформации мозга, объём невычислимого будет стремительно увеличиваться. Причём если исходить из того, что нюансы реакций медузы в любом случае не представляют интереса, то ловкость движений муравья или пилотаж полёта мухи уже не будут лишними, а сложность мышления человека и вообще требуется выразить именно полностью, ничего упростить нельзя, так как речь идёт о создании искусственной системы приближающейся к мышлению человека сложности или даже превосходящей его.»

Глава 1.10. Пределы отбора.

Мы же говорим об интеллекте.. Поэтому ловкость и пилотаж это технические вопросы, которы возможно и не решаемы искусственно в размерах мухи или муравья. Мы же не копируем живые существа, мы создаем интеллект. Т.е. реакции медузы совсем просто, поведение мухи и муравье тоже не проблема. Реализовать кстати не обязательно в натуре, можно в симуляции.