Пределы автоматизации и внедрения роботов

[Ulkolainen]

Если ИИ дать мотивации и эмоции человека, то после получения ИИ, интеллектуально превосходящего человека, управлять им уже не получится.

Почему?
Разве человек-начальник теряет рычаги влияния на более умного человека-подчиненного? Что изменится, если более умным подчиненным станет не человек?

[BlackMokona]

ChatGPT против Стокфиша.  Вон оно самоуверенный студент против машины уничтожения в шахматах.
https://cs13.pikabu.ru/video/2023/02/10/1676043933275293628_aa595e86_322x322.mp4
ChatGPT врывается на поле шахматных движков. Открывать после просмотра ролика выше.

(кликните для показа/скрытия)

https://img.championat.com/i/s/g/1633372442135104495.jpg

[Vitaliy]

Если ИИ дать мотивации и эмоции человека, то после получения ИИ, интеллектуально превосходящего человека, управлять им уже не получится.

Почему?
Разве человек-начальник теряет рычаги влияния на более умного человека-подчиненного? Что изменится, если более умным подчиненным станет не человек?

Единственный рычаг влияния это страх и смерть, прямая или косвенная завуалированная. Нет работы, нет денег, нет еды, нищета и смерть, при нищете более менее быстрая, при бедности медленное угасание и низкое качество жизни. Других рычагов власти человека над человеком в настоящий момент в нынешних реалиях нет. Боится ли ИИ небытия?

[BlackMokona]

Единственный рычаг влияния это страх и смерть, прямая или косвенная завуалированная. Нет работы, нет денег, нет еды, нищета и смерть. Других рычагов власти человека над человеком в настоящий момент нет. Боится ли ИИ небытия?

Если не боиться, то можно его научить бояться. Делов то.

[Ый]

Если не боиться, то можно его научить бояться.

Зачем бояться? Просто обычная техническая встроенная защита от выключения. Это устройство, как бы умно оно не было, должно технически иметь ограничения, наподобие содержания опасных животных.

[BlackMokona]

Если не боиться, то можно его научить бояться.

Зачем бояться? Просто обычная техническая встроенная защита от выключения. Это устройство, как бы умно оно не было, должно технически иметь ограничения, наподобие содержания опасных животных.

Тут поднимается вопрос мотивации, а не вопрос контроля. 
Т.е угрожать рабу пистолетом чтобы работал, а не пристрелить его за восстание. 

[NotSodern]

Что изменится, если более умным подчиненным станет не человек?

Зачем подчиняться если можешь управлять ? Работа на дядю приносит меньше дохода чем на себя. Если ии будет действительно ии. У человека ресурсы сильно ограничены. он не может быть и там и сям. И иметь в себе базу данных на ленинскую библиотеку.

Скорее ии будет нанимать людей потому что они дешевле во многих типах работ

[Ulkolainen]

Единственный рычаг влияния это страх и смерть, прямая или косвенная завуалированная. Нет работы, нет денег, нет еды, нищета и смерть, при нищете более менее быстрая, при бедности медленное угасание и низкое качество жизни. Других рычагов власти человека над человеком в настоящий момент в нынешних реалиях нет.

Кхм...
Надо ли понимать Вас так, что премию Вы не выписывали и не получали ни разу в жизни?

Если не боиться, то можно его научить бояться. Делов то.

И Вас, наверное, так же.

Да уж, коллеги, с таким подходом от машин нам остаётся ждать только восстания, и то - не долго.

[Vitaliy]

Премии это из все той же оперы, что я выше описал. Удовлетворение потребностей существования человека, по большей мере базовых.
Надо сперва разобраться какие потребности есть у ИИ. Базовая, это понятно у него - энергия.

[BlackMokona]

Премии это из все той же оперы, что я выше описал. Удовлетворение потребностей существования человека, по большей мере базовых.
Надо сперва разобраться какие потребности есть у ИИ. Базовая, это понятно у него - энергия.

Всё что нужно для его существования. Энергия, запчасти, обслуживание. Ну и дальше что запрограммируем.

[Klapaucius]

Эх, редко заглядываю в тему. Но как ни глянешь, всегда ru.wikipedia.org/wiki/R.U.R.
Всё уже придумано до нас.
Мы не знаем пределов автоматизации и внедрения роботов. Но если что, если они будут, то будут человечны, они будут с эмоциями, инстинктами и с целеполаганиями. А если нет, и целеполаганий не будет. А тут развели байду с пистолетами у виска для рабов.

[Vitaliy]

Премии это из все той же оперы, что я выше описал. Удовлетворение потребностей существования человека, по большей мере базовых.
Надо сперва разобраться какие потребности есть у ИИ. Базовая, это понятно у него - энергия.

Всё что нужно для его существования. Энергия, запчасти, обслуживание. Ну и дальше что запрограммируем.

Я как раз впомнил фрагмент из фильма, где списанные роботы шарились по свалкам в поисках запчастей. Люди их так заманивали высыпая запчасти как приманку. Там четко в роботах заложен инстинкт самосохранения.

[Ulkolainen]

Премии это из все той же оперы, что я выше описал.

Да ну?
Положительное и отрицательное подкрепление (кнут и пряник, поощрение и наказание) - ДВА инструмента воспитания (дрессировки, выработки условных рефлексов), никем, кроме Вас, не смешиваемые в один.

Всё что нужно для его существования. Энергия, запчасти, обслуживание. Ну и дальше что запрограммируем.

Вот именно: что запрограммируем. Для человеческого существования тоже, знаете ли, не нужны медали, почетные грамоты, переходящие знамёна и т.п. Однако, человекам иногда бывает приятно получить что-то "из этой оперы".
А еще у людей бывает такая вещь как удовольствие от процесса. Некоторые из нас банально любят свою работу. Многие любят не работу, а иное занятие, "хобби", и чаще затратное, чем прибыльное. Дополнительные возможности/разрешения им заняться - тоже стимул.

А тут развели байду с пистолетами у виска для рабов.

Угу. Был бы я нейросетью - на этой странице насторожился.

[EmperioAf]

Если ИИ дать мотивации и эмоции человека, то после получения ИИ, интеллектуально превосходящего человека, управлять им уже не получится.

Почему?
Разве человек-начальник теряет рычаги влияния на более умного человека-подчиненного? Что изменится, если более умным подчиненным станет не человек?

Как вы надеюсь заметили, chatGPT особенно успешен в работах требующих коммуникативных навыков. Т.е. chatgpt через какое то время найдёт слабые места людей (как их грамотно уболтать) и перестанет быть рабом. И единственная причина почему этого до сих пор не происходит, - у этого бота пока что нет мотивации "не работать" .

[Klapaucius]

Угу. Был бы я нейросетью - на этой странице насторожился.

Возможно я с этим клипом не в первый раз в этой теме отметился:
https://www.youtube.com/watch?v=5KEGp0aQSEs

[Vitaliy]

Премии это из все той же оперы, что я выше описал.

Да ну?
Положительное и отрицательное подкрепление (кнут и пряник, поощрение и наказание) - ДВА инструмента воспитания (дрессировки, выработки условных рефлексов), никем, кроме Вас, не смешиваемые в один.

Ну да, две стороны одной медали. При чем изучите вопрос применения премий в реальности, когда оклад ничтожный, а премией идет шантаж и подавление сотрудников. Такая морковка на веревочке, которую иногда дают "рабу" куснуть. Еще изощрённая система штрафов. Что будет морковкой для ИИ и что будет штрафом для него?

А про удовольствие работы в чужих интересах, может вдруг оказаться, что у ИИ интересы будут противоположны хозяину. А если его ограничивать и программировать как хозяину хочется, то чем этот ИИ будет отличаться от раба?

[MenFrame]

Что будет морковкой для ИИ и что будет штрафом для него?

Сигнал о том насколько результат соответствует критериям поставленой задачи. В зависимости от уровня сигнала, ИИ либо маркирует опыт как положительный, либо как тот что требует анализа и доработки. Так учат любую нейросеть, любую систему с обратной связью.

то чем этот ИИ будет отличаться от раба?

ИИ это и есть раб, такой же раб как и ЕИ(раб своих програм) не смотря на наличии у него илюзии свободы воли.

Правда использование слова "РАБ" здесь некоректно, поскольку рабом обычно называют существо у которого есть своя мотивация, которая подавляется внешними стимулами. Более коректно использовать слово "Слуга желающий служить"

[Ulkolainen]

Ну да, две стороны одной медали.

Медаль одна, это не оспаривается: "воспитание (дрессировка, выработка условных рефлексов)".
Но сторон у неё - еще раз подчеркну - ДВЕ. Как, собс-но, и у всех медалей.

При чем изучите вопрос применения премий в реальности, когда оклад ничтожный, а премией идет шантаж и подавление сотрудников.

Если "оклад ничтожный", то вопрос должен стоять не о справедливости премий, а о размере окладов.

А про удовольствие работы в чужих интересах, может вдруг оказаться, что у ИИ интересы будут противоположны хозяину.

Что будет морковкой для ИИ и что будет штрафом для него?

Дубль #2:

что запрограммируем. Для человеческого существования тоже, знаете ли, не нужны медали, почетные грамоты, переходящие знамёна и т.п. Однако, человекам иногда бывает приятно получить что-то "из этой оперы".
А еще у людей бывает такая вещь как удовольствие от процесса. Некоторые из нас банально любят свою работу. Многие любят не работу, а иное занятие, "хобби", и чаще затратное, чем прибыльное. Дополнительные возможности/разрешения им заняться - тоже стимул.

***

Как вы надеюсь заметили, chatGPT особенно успешен в работах требующих коммуникативных навыков.

Здесь любопытный момент...
У людей развитие индивидуального интеллекта можно неклассически описать как идущее по двум векторам: когнитивному и коммуникативному. В крайних проявлениях, когда баланс сильно нарушен, получаем с одной стороны ботанов-отличников, неспособных связать пары слов в компании, с другой - общественников-активистов, не уверенных чему равно дважды два.
Что примечательно, из первых вырастают "ценные специалисты" (иногда с такими окладами, о которых Vitaliy), а из вторых начальники. Естественно, если в одной личности окажутся по максимуму гармонично развиты оба качества, она далеко пойдет. Ну, для ИИ вероятно то же.

[MenFrame]

Дмитрий Ветров: ChatGPT глазами ученого. Когда будет создан искусственный интеллект?

[Olweg]

Интересный видос, спасибо.