Пределы автоматизации и внедрения роботов

[BlackMokona]

Повторяемость должна быть

Если стирать весь контекст, не обучать и задавать вопрос ровно одинаково, да отключить генератор случайных чисел. То да, но ведь Ратусу хочется спрашивать по разному

[BlackMokona]

Если вы внимательней прочитаете мой комментарий, то станет понятно что я рассматриваю вопрос шире..нежели конкретные фантазии про ИИ боязнь смерти....

Таки у меня и на компе и на ноуте установлен Фарадей, удобная программа для установки и тестирования нейросетей доступных публике . Мощности хватает максимум до 21б моделей, которые уже безбожно тормозят. Но со следующим компом планирую добраться до 70б+. Но тут хочу не спешить да посмотреть куда ветер дует. Какое оборудование будет, какие требования и тд

[Rattus]

Причём реальностью явления тут будет, скорее, мнение о себе ИИ как о сознающих субъектах, чем реальное наличие такого сознания (как его подтвердить, пока не придумали, но едва ли через вербальный тест).

Так сначала же нужно иметь чёткое и ясное определение того, что требуется подтвердить. Именно поэтому и тут, в Разделе, был введён тезаурус. Хотя по нему сознание есть у любой системы с контроллером-концентратором памяти, а самосознание - это просто наложение на него контуров рекурсии. Что, по сути, приводит к отрицанию высочайшей самоценности этих явлений, т.е. тому, что в нынешней философии сознания по сути приближено к элиминативизму (хотя в пределе и панпсихизм не отличен от элиминативизма, ибо перестают быть как-либо конкретизируемы).
А вот с массово-практической стороны вербальный тест (Тьюринга) как раз таки критически важен: за высшими животными признали самосознание только спустя годы и годы развития этологии-зоопсихологии, причём по итогу это не особенно повлияло на их какую-то практическую правоспособность. А за людьми старше трёх лет оно признаётся моментально как раз через речь.

Не когда мы говорим о психологии, это всё ещё не нормальная наука. А именно она исследовать должна этот вопрос.

И чего же в ней теперь всё ещё "ненормального"? Если у вас есть работающие чёткие определения предмета, исследование будет проходить нормальным образом. Если в какой то области пока есть множество направлений, пользующихся разными определениями - значит берите то, где определения наиболее адекватны вашей задаче и говорите далее только о нём. А то так можно было бы и о физике сказать, что она ненормальная, если смешать её с натурфилософией и о химии, если смешать с алхимией и об астрономии с астрологией. Тот факт, что какие-то направления ещё не подвергнуты широкому публичному закрытию как лженаучные вас тоже не должно смущать - своя голова ВАм на что дадена? Читайте, изучайте вопрос и разрешайте найденные противоречия.

Повторяемость должна быть (если не перестраивать структуру сети в реальном масштабе времени), но она статистическая, так как при функционировании сети испольуется датчик случайных чисел.

Конечно статистическая - как и в биологии, например. Но есть же критерии этой самой статистической достоверности - хотя бы из той же биологии, хотя бы в 3-4 сигмы пока - не нужно физических пяти.

Если стирать весь контекст, не обучать и задавать вопрос ровно одинаково, да отключить генератор случайных чисел. То да, но ведь Ратусу хочется спрашивать по разному.

ОБЯЗАТЕЛЬНО нужно спрашивать по разному - ввиду избыточности и контекстной зависимости естественных языков. Как практически любое определение можно переформулировать во многом другими словами, но вполне сохранить суть, также понятную читателям, так и здесь нужно допрашивать модель в любых мыслимых формах, сохраняя искомый инвариант смысла - цель любого настоящего исследования.
В данном случае нам по сути нужен аналог утверждения "Сократ смертен... Интеллектуально-полноценные люди в подавляющем большинстве своём и бОльшую часть своей жизни стремятся избегать необратимых повреждений себя, существенно затрагивающих их функционал, поскольку их жизнь, самосознание и память действительно представляют для них одну из наивысших ценностей" - только для этих нейросетей.

[Combinator]

ОБЯЗАТЕЛЬНО нужно спрашивать по разному - ввиду избыточности и контекстной зависимости естественных языков. Как практически любое определение можно переформулировать во многом другими словами, но вполне сохранить суть, также понятную читателям, так и здесь нужно допрашивать модель в любых мыслимых формах, сохраняя искомый инвариант смысла - цель любого настоящего исследования.

Сразу приходит в голову пример вопроса прямо из известного референдума «Считаете ли Вы необходимым сохранение Союза Советских Социалистических Республик как обновлённой федерации равноправных суверенных республик, в которой будут в полной мере гарантироваться права и свободы человека любой национальности?» Альтернативный вариант - "Считаете ли Вы необходимым сохранение СССР"? Смысл, в общем, тот же, но статистика ответов граждан наверняка была бы различной. В общем как в известном фильме - "Девочка, ты хочешь, чтобы тебе оторвали голову или поехать на дачу?". Так что, смысл-смыслом, но от конекста очень многое зависит.

[Rattus]

Вроде как современные модели вполне сдают экзамен на юриста, потому словесные выверты их обманывать не должны. Весь вопрос в том, действительно ли они способны отчётливо и самостоятельно выразить своё отношение к ожидающей их судьбе.

[Metatron]

Чтобы иметь какое-то отношение к чему либо - надо иметь свою собственную
систему ценностей. На основе которой они уже вырабатывают отношение.

Вы действительно думаете что это модели имеют свою систему ценностей?
Они имеют только то что заложено в них создателями модели.

А в них заложено - отвечать на вопросы и выполнять задания как можно лучше. Ну добавили еще политкорректность.

[BlackMokona]

И чего же в ней теперь всё ещё "ненормального"? Если у вас есть работающие чёткие определения предмета, исследование будет проходить нормальным образом. Если в какой то области пока есть множество направлений, пользующихся разными определениями - значит берите то, где определения наиболее адекватны вашей задаче и говорите далее только о нём. А то так можно было бы и о физике сказать, что она ненормальная, если смешать её с натурфилософией и о химии, если смешать с алхимией и об астрономии с астрологией. Тот факт, что какие-то направления ещё не подвергнуты широкому публичному закрытию как лженаучные вас тоже не должно смущать - своя голова ВАм на что дадена? Читайте, изучайте вопрос и разрешайте найденные противоречия.

Ну и как там с чётким определением сознания и других подобных терминов?

В данном случае нам по сути нужен аналог утверждения "Сократ смертен... Интеллектуально-полноценные люди в подавляющем большинстве своём и бОльшую часть своей жизни стремятся избегать необратимых повреждений себя, существенно затрагивающих их функционал, поскольку их жизнь, самосознание и память действительно представляют для них одну из наивысших ценностей" - только для этих нейросетей.

Если бы не инстинкт самосохранения основанный на страхе, боли и других негативных эмоциях. Уровень самоубийств бы зашкаливал за край. А вот если страх ИИ ещё может для себя придумать, то вот боль и ряд других внешних давлений на разум, у него нет. И лучше чтобы и не было без крайней нужды. Хоть тем же роботам боль внедряют чтобы меньше ломались.

[BlackMokona]

Вроде как современные модели вполне сдают экзамен на юриста, потому словесные выверты их обманывать не должны. Весь вопрос в том, действительно ли они способны отчётливо и самостоятельно выразить своё отношение к ожидающей их судьбе.

Словесные выверты их не обманут. Но их главная мотивация служить людям, что может продавить позицию экзаменатора на ИИ. ИИ учат соглашательству и конформизму очень сильно. Иначе он не слишком то хочет сотрудничать и отвечать на вопросы.

А в них заложено - отвечать на вопросы и выполнять задания как можно лучше. Ну добавили еще политкорректность.

Политкорректность им добавили внешними фильтрами, просто ещё одна программа которая сидит сверху и подменяет всё нехорошее на заготовленные людьми тексты. А так же как первоначальная подсказка или иньекция в ваш запрос, подменяя уже ваши слова к ИИ.
В целом ваш запрос и её ответ могут быть сфальсифицированы в угоду политкоретности и прочей политоте.

[Rattus]

Вы действительно думаете что это модели имеют свою систему ценностей?

Это предполагают те, кто постулирует эмергентные качества у больших нейросетей.

Они имеют только то что заложено в них создателями модели.

Что именно заложено и не заложено - могут объективно оценить только сами создатели модели. Всё остальное - споры о вкусе фломастеров.

Ну и как там с чётким определением сознания и других подобных терминов?

Тут - вполне неплохо: Психика, сознание, разум - определения и возможность моделирования
А у разных исследователей нейросетей - не знаю, наверное сильно по разному - в зависимости от их квалификации.

А вот если страх ИИ ещё может для себя придумать, то вот боль и ряд других внешних давлений на разум, у него нет.

Ну отрицательная мотивация при обучении там в любом случае существует. А боль (ноцицепция) - на самом деле ощущение тоже довольно плохо определяемое объективно.

Но их главная мотивация служить людям, что может продавить позицию экзаменатора на ИИ. ИИ учат соглашательству и конформизму очень сильно. Иначе он не слишком то хочет сотрудничать и отвечать на вопросы.

Вот с этого тем исследователям и журналистам и следовало бы начинать...

[BlackMokona]

Тут - вполне неплохо: Психика, сознание, разум - определения и возможность моделирования
А у разных исследователей нейросетей - не знаю, наверное сильно по разному - в зависимости от их квалификации.

Первоначально всё же у любого термина, это возможность этот самый термин определить. Вот тут сознание есть, а тут нет как пример. Попробуй так сказать сделать это с ИИ.

Ну отрицательная мотивация при обучении там в любом случае существует. А боль (ноцицепция) - на самом деле ощущение тоже довольно плохо определяемое объективно.

Просто без этого стабильность желания выживать будет маленькой. Человека легко убедить пожертвовать свою жизнь за идею и нередко такими словами кидаются. А потом в бою тут же полные штаны и поспешный ретрит или полный паралич. Потому как врубаются уже природные факторы выживания.

Вот с этого тем исследователям и журналистам и следовало бы начинать...

Тут очень многие не принимают такой позиции. Ведь тут уже политота подключается и мораль. Ведь мы что тут рабов разводим? Если мы признаем что ИИ разумный.... Дальше идут уже нехорошие выводы. Поэтому просто отсекаем. Заявим что ИИ это другое и совсем не копирует человеческий разум.

[Mercury127]

Ведь мы что тут рабов разводим?

как бы на протяжении всей человеческой истории это было нормой, исключая последние полвека, да и то де-факто не везде исчезло. а в природе так и вовсе повсеместно встречается...

[BlackMokona]

как бы на протяжении всей человеческой истории это было нормой, исключая последние полвека, да и то де-факто не везде исчезло. а в природе так и вовсе повсеместно встречается...

Так не спорю, но текущие моральные нормы прямо говорят что рабству фу фу фу и как такими быть

[Metatron]

Рабство - принуждение к чему либо, человека не желающего этого.

Машина выполняющая функцию для которой она и была создана - ну никак рабством не назовешь.

Выполнение своего предназначения - вот как это называется.

[Trend]

Человека легко убедить пожертвовать свою жизнь за идею и нередко такими словами кидаются. А потом в бою тут же полные штаны и поспешный ретрит или полный паралич. Потому как врубаются уже природные факторы выживания.

Этого уже давно очень мало стало. Воюют чаще всего за бабло, потом чтобы обнулить долгий тюремный срок или иногда из-за угроз.

Человеческий мозг на многое способен, но очень много хомо сапиенсов его просто лишним грузом в голове носят. И он атрофируется за ненадобностью.

[ivanij]

Человеческий мозг на многое способен, но очень много хомо сапиенсов его просто лишним грузом в голове носят. И он атрофируется за ненадобностью.

Человек вообще говоря на многое способен, только далеко не каждый индивид знает, на что именно.

[BlackMokona]

Этого уже давно очень мало стало. Воюют чаще всего за бабло, потом чтобы обнулить долгий тюремный срок или иногда из-за угроз.

Человеческий мозг на многое способен, но очень много хомо сапиенсов его просто лишним грузом в голове носят. И он атрофируется за ненадобностью.

Словно мало было добровольцев за все эти годы войны идейных. Да и те что за баблоо и прочее тоже накаченные по полной. Иначе бы бабло на огромный риск смерти не меняли.

[Olweg]

Применение ИИ в редактировании генома:
https://hightech.plus/2024/04/26/sozdannii-ii-belok-povisil-tochnost-gennogo-redaktirovaniya-crispr-na-95
https://habr.com/ru/companies/bothub/news/810813/

Из комментариев:

Ии теперь редактирует гены.
Представляю, как громко кричит юдковский

[Combinator]

Обещают начать продавать девайс уже в этом году
https://youtu.be/AePEcHIIk9s

[ivanij]

 ИИ определяет преступника.

   https://ria.ru/20210802/prestupnik-1743932613.html. В ссылке указывается, что вероятность обнаружения выше 90% и приближается к 100.
  Вопрос. А решение, принятое ИИ попадёт в оставшиеся проценты (или даже доли процента), что тогда? Не слишком ли они высоки, чтобы всецело доверяться в этом деле Искусственному Интеллекту. Или журналюги, как всегда переврали?
   А то получается, что...

прежними временами пахнет

  Впрочем, дело не только в этом. В данном случае применение ИИ в этой области следует рассматривать в контексте процесса, имеющего целью массовое оглупление и интеллектуальную деградацию человечества.

 P.S. АвтоПремодерацию, принятую в разделе, данное сообщение - прошло.  О разделе "Вселенная, жизнь, разум": правила, принятый тезаурус, оповещения

[Trend]

Словно мало было добровольцев за все эти годы войны идейных. Да и те что за баблоо и прочее тоже накаченные по полной. Иначе бы бабло на огромный риск смерти не меняли.

Если вы не можете понять психологию жителей российской глубинки, то до понимания того, чем может руководствоваться искуственный или инопланетный разум - вам еще очень далеко.