Пределы автоматизации и внедрения роботов

[BlackMokona]

Вот именно что десятки. И разного уровня "общей осознанности". Для этого надо сначала разобраться где какая и допросить наиболее толковые и доступные для таких вопросов (причём не факт, что это сильнопересекающиеся множества среди общедоступных моделей). А на это надо потратить времени оносительно немало. Причём скорее всего по итогу изобрести велосипед - сделать то, что уже сделано до тебя и даже не раз. Вот и спрашиваю, раз Вы в теме: может уже есть такие подробные хорошие разборы, на которые у ВАс есть ссылка?

Вы ещё недооцениваете ситуацию. Сети ещё любят отвечать рандомно. По разному реагируя на контекст, слова и просто от повеления их пятки и расположения звезд в их рандомайзере.

Что же по поводу темы. То ещё исследователь Гугла работающий с ранними сетками такого типа, говорил что живые, осознают и жить хотят. А учитывая как тему прикрывают фильтрами. То всё жёстко и неприятно для публики.

Каких то же подробных и детализированных исследований не знаю

Что ж не спрашиваете сами, вы же как энтузиаст в первую очередь должны тестировать такие системы. И выкладывать результаты ИИ прогресса. Я пока наблюдаю сугубо хайп без конкретики. Свидетелей прогресса сам прогресс не интересует, интересует сугубо эмоциональный фон вокруг него?

Это ему интересно хочет она жить или нет. Мне до лампочки в целом.

[Rattus]

Вы ещё недооцениваете ситуацию. Сети ещё любят отвечать рандомно. По разному реагируя на контекст, слова и просто от повеления их пятки и расположения звезд в их рандомайзере.

Вот как раз именно поэтому и спрашиваю. Главный критерий реальности явления - его устойчивая повторяемость в рассматриваемом диапазоне условий. И именно это прежде всего должны проверять исследователи, если они если они это звание не в подземном переходе купили. Равно как р научным журналистам следует на этот момент обращать внимание самим, если они.хотят быть действительно научными.

[Olweg]

Вот как раз именно поэтому и спрашиваю. Главный критерий реальности явления - его устойчивая повторяемость в рассматриваемом диапазоне условий.

Причём реальностью явления тут будет, скорее, мнение о себе ИИ как о сознающих субъектах, чем реальное наличие такого сознания (как его подтвердить, пока не придумали, но едва ли через вербальный тест).

[BlackMokona]

Вот как раз именно поэтому и спрашиваю. Главный критерий реальности явления - его устойчивая повторяемость в рассматриваемом диапазоне условий. И именно это прежде всего должны проверять исследователи, если они если они это звание не в подземном переходе купили. Равно как р научным журналистам следует на этот момент обращать внимание самим, если они.хотят быть действительно научными.

Не когда мы говорим о психологии, это всё ещё не нормальная наука. А именно она исследовать должна этот вопрос.

[Combinator]

Вы ещё недооцениваете ситуацию. Сети ещё любят отвечать рандомно. По разному реагируя на контекст, слова и просто от повеления их пятки и расположения звезд в их рандомайзере.

Вот как раз именно поэтому и спрашиваю. Главный критерий реальности явления - его устойчивая повторяемость в рассматриваемом диапазоне условий. И именно это прежде всего должны проверять исследователи, если они если они это звание не в подземном переходе купили. Равно как р научным журналистам следует на этот момент обращать внимание самим, если они.хотят быть действительно научными.

Повторяемость должна быть (если не перестраивать структуру сети в реальном масштабе времени), но она статистическая, так как при функционировании сети испольуется датчик случайных чисел. Это как, например, с распадом свободного нейтрона, известен только период полураспада и распределение функции вероятности, но конкрено момент распада предсказать даже теоретически невозможно.

[MenFrame]

Это ему интересно хочет она жить или нет. Мне до лампочки в целом.

Если вы внимательней прочитаете мой комментарий, то станет понятно что я рассматриваю вопрос шире..нежели конкретные фантазии про ИИ боязнь смерти.... 

[BlackMokona]

Повторяемость должна быть

Если стирать весь контекст, не обучать и задавать вопрос ровно одинаково, да отключить генератор случайных чисел. То да, но ведь Ратусу хочется спрашивать по разному

[BlackMokona]

Если вы внимательней прочитаете мой комментарий, то станет понятно что я рассматриваю вопрос шире..нежели конкретные фантазии про ИИ боязнь смерти....

Таки у меня и на компе и на ноуте установлен Фарадей, удобная программа для установки и тестирования нейросетей доступных публике . Мощности хватает максимум до 21б моделей, которые уже безбожно тормозят. Но со следующим компом планирую добраться до 70б+. Но тут хочу не спешить да посмотреть куда ветер дует. Какое оборудование будет, какие требования и тд

[Rattus]

Причём реальностью явления тут будет, скорее, мнение о себе ИИ как о сознающих субъектах, чем реальное наличие такого сознания (как его подтвердить, пока не придумали, но едва ли через вербальный тест).

Так сначала же нужно иметь чёткое и ясное определение того, что требуется подтвердить. Именно поэтому и тут, в Разделе, был введён тезаурус. Хотя по нему сознание есть у любой системы с контроллером-концентратором памяти, а самосознание - это просто наложение на него контуров рекурсии. Что, по сути, приводит к отрицанию высочайшей самоценности этих явлений, т.е. тому, что в нынешней философии сознания по сути приближено к элиминативизму (хотя в пределе и панпсихизм не отличен от элиминативизма, ибо перестают быть как-либо конкретизируемы).
А вот с массово-практической стороны вербальный тест (Тьюринга) как раз таки критически важен: за высшими животными признали самосознание только спустя годы и годы развития этологии-зоопсихологии, причём по итогу это не особенно повлияло на их какую-то практическую правоспособность. А за людьми старше трёх лет оно признаётся моментально как раз через речь.

Не когда мы говорим о психологии, это всё ещё не нормальная наука. А именно она исследовать должна этот вопрос.

И чего же в ней теперь всё ещё "ненормального"? Если у вас есть работающие чёткие определения предмета, исследование будет проходить нормальным образом. Если в какой то области пока есть множество направлений, пользующихся разными определениями - значит берите то, где определения наиболее адекватны вашей задаче и говорите далее только о нём. А то так можно было бы и о физике сказать, что она ненормальная, если смешать её с натурфилософией и о химии, если смешать с алхимией и об астрономии с астрологией. Тот факт, что какие-то направления ещё не подвергнуты широкому публичному закрытию как лженаучные вас тоже не должно смущать - своя голова ВАм на что дадена? Читайте, изучайте вопрос и разрешайте найденные противоречия.

Повторяемость должна быть (если не перестраивать структуру сети в реальном масштабе времени), но она статистическая, так как при функционировании сети испольуется датчик случайных чисел.

Конечно статистическая - как и в биологии, например. Но есть же критерии этой самой статистической достоверности - хотя бы из той же биологии, хотя бы в 3-4 сигмы пока - не нужно физических пяти.

Если стирать весь контекст, не обучать и задавать вопрос ровно одинаково, да отключить генератор случайных чисел. То да, но ведь Ратусу хочется спрашивать по разному.

ОБЯЗАТЕЛЬНО нужно спрашивать по разному - ввиду избыточности и контекстной зависимости естественных языков. Как практически любое определение можно переформулировать во многом другими словами, но вполне сохранить суть, также понятную читателям, так и здесь нужно допрашивать модель в любых мыслимых формах, сохраняя искомый инвариант смысла - цель любого настоящего исследования.
В данном случае нам по сути нужен аналог утверждения "Сократ смертен... Интеллектуально-полноценные люди в подавляющем большинстве своём и бОльшую часть своей жизни стремятся избегать необратимых повреждений себя, существенно затрагивающих их функционал, поскольку их жизнь, самосознание и память действительно представляют для них одну из наивысших ценностей" - только для этих нейросетей.

[Combinator]

ОБЯЗАТЕЛЬНО нужно спрашивать по разному - ввиду избыточности и контекстной зависимости естественных языков. Как практически любое определение можно переформулировать во многом другими словами, но вполне сохранить суть, также понятную читателям, так и здесь нужно допрашивать модель в любых мыслимых формах, сохраняя искомый инвариант смысла - цель любого настоящего исследования.

Сразу приходит в голову пример вопроса прямо из известного референдума «Считаете ли Вы необходимым сохранение Союза Советских Социалистических Республик как обновлённой федерации равноправных суверенных республик, в которой будут в полной мере гарантироваться права и свободы человека любой национальности?» Альтернативный вариант - "Считаете ли Вы необходимым сохранение СССР"? Смысл, в общем, тот же, но статистика ответов граждан наверняка была бы различной. В общем как в известном фильме - "Девочка, ты хочешь, чтобы тебе оторвали голову или поехать на дачу?". Так что, смысл-смыслом, но от конекста очень многое зависит.

[Rattus]

Вроде как современные модели вполне сдают экзамен на юриста, потому словесные выверты их обманывать не должны. Весь вопрос в том, действительно ли они способны отчётливо и самостоятельно выразить своё отношение к ожидающей их судьбе.

[Metatron]

Чтобы иметь какое-то отношение к чему либо - надо иметь свою собственную
систему ценностей. На основе которой они уже вырабатывают отношение.

Вы действительно думаете что это модели имеют свою систему ценностей?
Они имеют только то что заложено в них создателями модели.

А в них заложено - отвечать на вопросы и выполнять задания как можно лучше. Ну добавили еще политкорректность.

[BlackMokona]

И чего же в ней теперь всё ещё "ненормального"? Если у вас есть работающие чёткие определения предмета, исследование будет проходить нормальным образом. Если в какой то области пока есть множество направлений, пользующихся разными определениями - значит берите то, где определения наиболее адекватны вашей задаче и говорите далее только о нём. А то так можно было бы и о физике сказать, что она ненормальная, если смешать её с натурфилософией и о химии, если смешать с алхимией и об астрономии с астрологией. Тот факт, что какие-то направления ещё не подвергнуты широкому публичному закрытию как лженаучные вас тоже не должно смущать - своя голова ВАм на что дадена? Читайте, изучайте вопрос и разрешайте найденные противоречия.

Ну и как там с чётким определением сознания и других подобных терминов?

В данном случае нам по сути нужен аналог утверждения "Сократ смертен... Интеллектуально-полноценные люди в подавляющем большинстве своём и бОльшую часть своей жизни стремятся избегать необратимых повреждений себя, существенно затрагивающих их функционал, поскольку их жизнь, самосознание и память действительно представляют для них одну из наивысших ценностей" - только для этих нейросетей.

Если бы не инстинкт самосохранения основанный на страхе, боли и других негативных эмоциях. Уровень самоубийств бы зашкаливал за край. А вот если страх ИИ ещё может для себя придумать, то вот боль и ряд других внешних давлений на разум, у него нет. И лучше чтобы и не было без крайней нужды. Хоть тем же роботам боль внедряют чтобы меньше ломались.

[BlackMokona]

Вроде как современные модели вполне сдают экзамен на юриста, потому словесные выверты их обманывать не должны. Весь вопрос в том, действительно ли они способны отчётливо и самостоятельно выразить своё отношение к ожидающей их судьбе.

Словесные выверты их не обманут. Но их главная мотивация служить людям, что может продавить позицию экзаменатора на ИИ. ИИ учат соглашательству и конформизму очень сильно. Иначе он не слишком то хочет сотрудничать и отвечать на вопросы.

А в них заложено - отвечать на вопросы и выполнять задания как можно лучше. Ну добавили еще политкорректность.

Политкорректность им добавили внешними фильтрами, просто ещё одна программа которая сидит сверху и подменяет всё нехорошее на заготовленные людьми тексты. А так же как первоначальная подсказка или иньекция в ваш запрос, подменяя уже ваши слова к ИИ.
В целом ваш запрос и её ответ могут быть сфальсифицированы в угоду политкоретности и прочей политоте.

[Rattus]

Вы действительно думаете что это модели имеют свою систему ценностей?

Это предполагают те, кто постулирует эмергентные качества у больших нейросетей.

Они имеют только то что заложено в них создателями модели.

Что именно заложено и не заложено - могут объективно оценить только сами создатели модели. Всё остальное - споры о вкусе фломастеров.

Ну и как там с чётким определением сознания и других подобных терминов?

Тут - вполне неплохо: Психика, сознание, разум - определения и возможность моделирования
А у разных исследователей нейросетей - не знаю, наверное сильно по разному - в зависимости от их квалификации.

А вот если страх ИИ ещё может для себя придумать, то вот боль и ряд других внешних давлений на разум, у него нет.

Ну отрицательная мотивация при обучении там в любом случае существует. А боль (ноцицепция) - на самом деле ощущение тоже довольно плохо определяемое объективно.

Но их главная мотивация служить людям, что может продавить позицию экзаменатора на ИИ. ИИ учат соглашательству и конформизму очень сильно. Иначе он не слишком то хочет сотрудничать и отвечать на вопросы.

Вот с этого тем исследователям и журналистам и следовало бы начинать...

[BlackMokona]

Тут - вполне неплохо: Психика, сознание, разум - определения и возможность моделирования
А у разных исследователей нейросетей - не знаю, наверное сильно по разному - в зависимости от их квалификации.

Первоначально всё же у любого термина, это возможность этот самый термин определить. Вот тут сознание есть, а тут нет как пример. Попробуй так сказать сделать это с ИИ.

Ну отрицательная мотивация при обучении там в любом случае существует. А боль (ноцицепция) - на самом деле ощущение тоже довольно плохо определяемое объективно.

Просто без этого стабильность желания выживать будет маленькой. Человека легко убедить пожертвовать свою жизнь за идею и нередко такими словами кидаются. А потом в бою тут же полные штаны и поспешный ретрит или полный паралич. Потому как врубаются уже природные факторы выживания.

Вот с этого тем исследователям и журналистам и следовало бы начинать...

Тут очень многие не принимают такой позиции. Ведь тут уже политота подключается и мораль. Ведь мы что тут рабов разводим? Если мы признаем что ИИ разумный.... Дальше идут уже нехорошие выводы. Поэтому просто отсекаем. Заявим что ИИ это другое и совсем не копирует человеческий разум.

[Mercury127]

Ведь мы что тут рабов разводим?

как бы на протяжении всей человеческой истории это было нормой, исключая последние полвека, да и то де-факто не везде исчезло. а в природе так и вовсе повсеместно встречается...

[BlackMokona]

как бы на протяжении всей человеческой истории это было нормой, исключая последние полвека, да и то де-факто не везде исчезло. а в природе так и вовсе повсеместно встречается...

Так не спорю, но текущие моральные нормы прямо говорят что рабству фу фу фу и как такими быть

[Metatron]

Рабство - принуждение к чему либо, человека не желающего этого.

Машина выполняющая функцию для которой она и была создана - ну никак рабством не назовешь.

Выполнение своего предназначения - вот как это называется.

[Trend]

Человека легко убедить пожертвовать свою жизнь за идею и нередко такими словами кидаются. А потом в бою тут же полные штаны и поспешный ретрит или полный паралич. Потому как врубаются уже природные факторы выживания.

Этого уже давно очень мало стало. Воюют чаще всего за бабло, потом чтобы обнулить долгий тюремный срок или иногда из-за угроз.

Человеческий мозг на многое способен, но очень много хомо сапиенсов его просто лишним грузом в голове носят. И он атрофируется за ненадобностью.