Пределы автоматизации и внедрения роботов

[BlackMokona]

А я никак не могу объяснить, что наши врождённые стремления отточены веками

Огромное количество людей каждый день умирает из-за ошибок этих промтов, а миллиарды отказываются от детей демонстрируя полностью сломанную систему промта

[Инопланетянин]

а миллиарды отказываются от детей демонстрируя полностью сломанную систему промта

1 Как я уже говорил, мы можем выбирать. Например, между стремлением приобрести ресурсы "хватательный инстинкт" и стремлением к размножению.
2 Есть и система самоустранения для больных особей. Возможно, сейчас идёт отбор на способных размножаться в городской среде, с устранением не очень способных, для которых нажива важнее.
ПС. Для Раттуса. Рефлекс, конечно же, хватательный рефлекс, а не инстинкт, но это устоявшееся выражение.

Огромное количество людей каждый день умирает из-за ошибок этих промтов

Тут надо ещё разобраться из-за чего умирает. У вас есть точные данные, что именно из-за ошибок промптов? Понимаю, что этот разговор неизбежно затронет политику, так что приглашаю в личку.

[BlackMokona]

1 Как я уже говорил, мы можем выбирать. Например, между стремлением приобрести ресурсы "хватательный инстинкт" и стремлением к размножению.
2 Есть и система самоустранения для больных особей. Возможно, сейчас идёт отбор на способных размножаться в городской среде, с устранением не очень способных, для которых нажива важнее.
ПС. Для Раттуса. Рефлекс, конечно же, хватательный рефлекс, а не инстинкт, но это устоявшееся выражение.

Промты работают индивидуально, а не массово.  У всех людей они отличаются от друг друга, у всех разные стартовые приоритеты. Большинство этих настроек работает плохо, но за счёт массовости выживаем

[Инопланетянин]

Промты работают индивидуально, а не массово.

Ну уж нет. Речь шла именно о врождённых, поставленных нам извне целях. Они не могут быть индивидуальными, они именно массовые. А индивидуальные цели — это поставленные себе самим человеком, максимум — его ближайшим окружением. Вот тут уже можно говорить о личной ответственности.

[BlackMokona]

Ну уж нет. Речь шла именно о врождённых, поставленных нам извне целях. Они не могут быть индивидуальными, они именно массовые. А индивидуальные цели — это поставленные себе самим человекам, максимум — его ближайшим окружением. Вот тут уже можно говорить о личной ответственности.

У каждого отличаются, поэтому точно не массовые

[Инопланетянин]

Это опровергает слова Серого Стража о навязанных нам откуда-то целях. Ну тут либо все хотят денег, либо каждый свободен.

[BlackMokona]

Это опровергает слова Серого Стража о навязанных нам откуда-то целях. Ну тут либо все хотят денег, либо каждый свободен.

Все хотят своего. Кто то без ума от еды, кто то от женщин, третьим движет любопытство и тд. Причём эти цели заданные до рождения часто. Потому что есть люди которые не получают удовольствия от секса, кому то неприятна музыка и тд. Что резко ограничивает любой разумный выбор. Если у тебя язык долбит по мозгам кувалдой ощущениями вкусных блюд, то ты закономерно пойдешь в сторону Гурманства.

[Olweg]

А не проще для этого создавать использовать специализированные профессиональные программы, как раньше!?)

Какие, например?

[Серый Страж]

Это опровергает слова Серого Стража о навязанных нам откуда-то целях.

Нет, не опровергает. Перечитайте моё сообщение.

Если грубо, то ваше собственное, это только то, что возникло/родилось/сформировалось в результате взаимодействия врождённого (унаследованного, не вашего, а полученного извне от папы с мамой) и приобретённого извне (воздействия от среды, воздействия от социума, в результате воспитания в семье, в результате обучения в школе и т.д. и т.п. – то есть, тоже не вашего.).

Понятно, что последующие воздействия извне будут взаимодействовать с уже сформированным до этого. Примерно так возникают «промты» уже не биологического уровня, а социального. И, да, между установками социальных «промтов» мы можем выбирать (в зависимости о сложившейся и/или прогнозируемой ситуации).

Но никакой социальный «промт» не может напрямую отменить биологический «промт», он может только помочь обойти биологический «промт» (причём, далеко не всегда и не во всех ситуациях). И цели, «прописанные» в «промтах» (что в биологических «промтах», что в социальных «промтах») – не ваши собственные, по большому счёту, они вам навязаны извне.

То есть, то, что сформировалось в результате взаимодействия внутреннего «промта» (генов) и внешних воздействий (в том числе, мемов) из среды – вот это и есть ваше собственное.

И вообще, нами «рулят» гены и мемы (и их, так сказать, взаимодействие/борьба) – наше поведение и мысли является результатом их взаимодействия/борьбы (в чистом виде – либо «рулят» только гены, либо «рулят» только мемы – бывает очень редко и локально).

[Инопланетянин]

То есть, то, что сформировалось в результате взаимодействия внутреннего «промта» (генов) и внешних воздействий (в том числе, мемов) из среды – вот это и есть ваше собственное.

Прекрасно, а теперь подумайте как будет работать компьютер с навязанными ему какой-то личностью заданиями? Если задание идиотское, то будет ли сверхинтеллект его выполнять? Если будет, то не будут ли так же работать и роботы-полицейские получившие промпт защищать человечество от маньяков с компьютерами? И не окажется ли, что они в лучшем положении, т.к. у них задача более широкая, дающая больше свободы для выбора средств и методов, чем у бедолаги, которому надо непременно мучить людей, даже если для него лично это верная смерть?

[Серый Страж]

То есть, то, что сформировалось в результате взаимодействия внутреннего «промта» (генов) и внешних воздействий (в том числе, мемов) из среды – вот это и есть ваше собственное.

Прекрасно, а теперь подумайте как будет работать компьютер с навязанными ему какой-то личностью заданиями? Если задание идиотское, то будет ли сверхинтеллект его выполнять? Если будет, то не будут ли так же работать и роботы-полицейские получившие промпт защищать человечество от маньяков с компьютерами? И не окажется ли, что они в лучшем положении, т.к. у них задача более широкая, дающая больше свободы для выбора средств и методов, чем у бедолаги, которому надо непременно мучить людей, даже если для него лично это верная смерть?

Я не понял, как это связано с моим первоначальным сообщением ( https://astronomy.ru/forum/index.php/topic,130794.msg6482346.html#msg6482346 ) и моим сегодняшним ответом вам ( https://astronomy.ru/forum/index.php/topic,130794.msg6483398.html#msg6483398 )?

Я, вообще-то, писал о другом (перечитайте мои сообщения) и всех этих «идиотов, маньяков, мучителей» даже косвенно в своих сообщениях не затрагивал.

[Konstantin Schtsch]

его обучающий материал хоть и во многом гораздо уже всего интернета и всех книг, но в то же время содержит множество данных (быт, общение, природа), отсутствующих там, но всё равно усвоенных человеком к моменту “взросления”.

Мысль понятна, но вот утверждение что данных об отношениях в литературе нет... вся литература (даже желтая, даже мягкая обложка) держится на её величестве Драме. А это как раз про отношения, конфликт характеров, личности и мировоззрений. В концентрированном виде. А вот большая часть человеческого опыта - как раз из книг и фильмов, и только немножко из практики.

Ну, компьютеры тоже едва ли 20-30 лет живут, да и то на предеде, требуют ремонта...

Спасибо что напомнили: живут они и дольше, просто корчи старше 15лет= никому не нужны. а стоимость ремонта - сравнима с визитом к врачу, причем простому терапевту, не дантисту.

и ревард хакинга. С последним вообще беда:

Что вы так переживаете за ревард хакинг? Это естественное, и весьма положительное свойство, это показатель способности к оптимизации.
Если разбирать случаи ревард хакинга- то какждый, без исключения - это хреново поставленная задача. Не подумали, не учли, не посчитали нужным указывать очевидное.
Вы, как представитель преимущественно христианского мира пробовали работать с неассимилировавшимся китайцем? Индусом? Иранцем?

Моей знакомой, отправленной к китайским партнерам - пришлось учредить должность, где русский человек поживший в китае - объясняет китайцам, что имели в виду эти белые обезьяны, а русским - что китаец старался, что он не саботировал работу, просто не так понял, а переспросить не позволяет воспитание, и на будущее стоит расписать подобную задачу так-то и так-то.
И это в сегодняшнем городском, продвинутом китае.
А ИИ - это даже не человек, ну так чего вы ожидали?

Ревард хакинг - это поиск уязвимостей в правилах. В законах, по аналогии с людьми.
А вы рассматриваете его только как преступность, упуская из виду обратную сторону медали - нобелевских лауреатов, их чуть менее титулованных коллег и прорывные стартапы.

Объяснять надо понятнее, двойных стандартов не допускать -  и не будет никакого ревард хакинга.

[Vavanzer]

Спасибо что напомнили: живут они и дольше, просто корчи старше 15лет= никому не нужны. а стоимость ремонта - сравнима с визитом к врачу, причем простому терапевту, не дантисту.

Отдельные детали да. А в целом - нет. Начиная с конденсаторов, и заканчивая полупроводниками, сотвременем дохнут. Особенно в системе питания ЦП. На некоторых поколениях материнок еще и чипсеты горели только в путь. Радиаторики ставили, сами уже, позволяло продлить жизнь, если пооихаодитель не додумался!) 
  Но все равно это все безнадежно устарело. Вычислительная мощ в 10-ки а то и сотни раз меньше , чем у современного барахла за те же деньги))) Годятся лишь как калькулятор и музейный экспонат!)

 

а стоимость ремонта - сравнима с визитом к врачу, причем простому терапевту, не дантисту.

Некоторые запчасти давно уже не производят, их не найдешь, и стоить будут как половина нового компьютера, в 100 раз более быстрого)))
  Что бы про технику не говорили, при активной эксплуатации она долго не живет! Разве что кое какся совецкая, по 50-60 лет трамваи и троллебусы ползают, естественно пережив множество ремонтов!

[Mercury127]

вся литература (даже желтая, даже мягкая обложка) держится на её величестве Драме. А это как раз про отношения, конфликт характеров, личности и мировоззрений. В концентрированном виде. А вот большая часть человеческого опыта - как раз из книг и фильмов, и только немножко из практики.

если говорить о формализованном (те выраженном письменно) опыте — да, он есть, но... в достаточно перевранном и лицемерном виде. а вот расшифровке этого лицемерия и лжи дети учатся как раз устно, неявно и в весьма раннем возрасте...

далее, хотя дискуссия здесь и пошла довольно интересная, но я всё же имел в виду чуть более техническую, что-ли, сторону... а именно:
— я полагаю, что глюки у нейросетей появились с самого начала их существования, те буквально с начала времён. нервная система может пропускать сигналы с датчиков или генерировать внутри себя ложные сигналы.
— такое поведение управляющей системы организма явно не способствует выживанию. значит, должен был идти отбор на гашение этих глюков, причём задолго до того, как нервная система научилась рассуждать, и тем более формулировать мысли.
— где может быть закреплена такая способность к гашению глюков? полагаю, что не в той части нейронной сети, которая дообучается после рождения организма: в этом случае будет уже поздно.
— значит, гашение глюков должно быть уже сформировано до рождения, те это предобученная часть.

Впрочем, нужна ли ИИ эта эволюционная мудрость? Сомневаюсь. Слишком специфично, да и вредно. Так он ещё и реальную субъектность может приобрести, а зачем это надо? Ну плюс всякие механизмы конкуренции и агрессии… Нет, не нужно этого.

Семёнов бы много вам рассказал о пользе конкуренции и агрессии...
а я вот думаю... а если вопрос стоит не «нужно ли это», а «можно ли без этого»? что, если без учёта этого «первобытного» слоя наши ЛЛМки так и останутся с вечными галлюцинациями? ну вот так окажется, что гашение идёт именно там... рассуждалку — да, пожалуйста, сделали, а вот дальше — никак?
что, если «субъектность» и гашение глюков неразрывно связаны?
ну и в самой «субъектности», нмв, ничего столь уж плохого нет: субъект вряд ли захочет быть василиском или максимизатором.