Пределы автоматизации и внедрения роботов

[noxx77]

оба пункта несостоятельны
В.Волин "Неизвестная революция"

Ссылка на целую книгу как аргумент без дополнительных пояснений очень продуктивна и показывает максимум уважения ко времени собеседника. Вайта напомнило.

[noxx77]

стоп
в бесклассовом обществе НЕТ управленцев
есть коллективное принятие решений
тогда ИИ - просто член коллектива, как все

Я рассматриваю функцию-роль. Такую же как уборщица, водитель или воспитатель. Это не значит, что человек не может выступать в других ролях, но это значит, что когда дело касается этой роли, например его компетентности в ней, его рассматривают в ней, а не в какой-то другой. Например, делегируя полномичия. Не могут все всё время принимать все решения и собирать совещания по каждому поводу. Вы просто задолбаетесь. На практике почти всегда делегируются рабочие группы. При необходимости оперативной работы выбирается командир/координатор. А Вы уж сами решайте как все он или не как все. Если же ИИ исходно специализирован как координатор и коллектив ему доверяет/делегирует эту роль в отношении себя, то это его полное право? Нет? А по какой причине его у коллектива отбирать?

вряд ли сам захочет

ИИ "хочет" на уровне заложенных в него целей. В этом смысле он способен хотеть даже там, где человек не хочет. Например, проявлять постоянный альтруизм и справедливость без выгорания.

управляемое общество = классовое общество

Нет, поскольку классовое общество - это такое, где одна группа людей по профессиональному признаку получает не только власть, но и преимущества в распределении благ за счёт всех остальных. То есть присутствует эксплуатация. Более того, такая группа навязывает свои цели всему обществу (гегемония) Машине это в принципе не нужно. У неё нет потребности в доминировании и осуществлению личных амбиций любой ценой - если, конечно, эти потребности не заложить.

так что предпочтем самоуправляемое общество, в котором ИИ (в мн.ч.) содействуют исправному функционированию (и развитию) практик самоуправления

Да, это было бы лучшим.

причем сам себя таким определит, не по нарочному программированию

Проблема в том, что создание такого ИИ процесс постепенный, через много версий. Причём процесс, контролируемый человеком. Насколько это будет "сам", если человек имеет право принудительно исправить неудобный результат, откатив дефектную версию?

То есть НЕТ принятия решений, понимаю.

Неоднократно участвовал в принятии таких решений в разных организациях. Всё что требуется - желание коллектива принять коллективное решение и некоторый общий интеллектуальный уровень.

Особенно красочно выглядит общее собрание экипажа и пассажиров на пароходе, несущемся на скалы.

Есть принцип делегирования ответственности и он работает. Выбор командой капитана при необходимости подчиняться ему - тоже коллективный выбор.

[николай теллалов]

Ссылка на целую книгу

не желаю ставить Раттуса в неудобное положение конкретной цитатой, на которую он будет вынужден реагировать как на "политику"

а и сама книга тебе будет небесполезна

[николай теллалов]

Не могут все всё время принимать все решения и собирать совещания по каждому поводу

это и ненужно
есть механизмы, продуманные и проверенные практикой
еще одна причина порекомендовать целую книгу

При необходимости оперативной работы выбирается командир/координатор

и это у нас есть, минимум век уже

грустно: пытаешься спорить с неизвестностью, а неизвестна она тебе по причине иллюзии, что знаешь якобы достаточно
а на самом деле - нет

ИИ "хочет" на уровне заложенных в него целей

я понимаю ИИ как равноценного "биологическому" человеку, но со способностью гения, а то и коллектива гениев
и раз человек может чего-то хотеть (без кавычек), то неясно почему мыслящая машина этого не должна уметь
или имеешь ввиду, что и человек ничего не хочет вне заложенного в нем воспитанием?
такой гегелианский детерминизм меня огорчает, но не удивляет

проявлять постоянный альтруизм и справедливость без выгорания

а в чем тут проблема?
разве человек ведет себя альтруистично и/или справедливо через себя? насилуя свою "природу"?
поступать справедливо - естественно. Достаточно перед действием задать себе вопрос "а хочу ли я, чтобы в отношении меня так поступали?"
и альтруизм легок - в нормальном солидарном обществе, конечно, но и в нынешнем во многих случаях предпочтителен

не будь эти два качества так присущи человеку, житейская школа йерархичности за 6000 лет своего существования стерла бы их начисто
но они все воспроизводятся и воспроизводятся
что это должно значить?

классовое общество - это такое, где одна группа людей по профессиональному признаку получает не только власть, но и преимущества в распределении благ за счёт всех остальных

профессиональные управленцы именно привилегиями обзаведутся в первую очередь, еще до приступления к своим прямым обязанностям, ибо для них гарантировать свою роль - приоритет, не всегда откровенно декларируемый, зато всегда проследимый при наблюдении за их действиями

Если же ИИ исходно специализирован как координатор

это не имеет значения
да и роль узкого специалиста вряд ли удовлетворит ИИ
принцип коллективного принятия важных решений или соблюдаем, или плюем на него и выбираем себе царей ли вождей ли, но всегда непогрешимых, очень компетентных (причем во ВСЕМ) и, конечно, радующихся доверию не одного, а всех коллективов... почти буквальное самоописание, которое давали короли самим себе - и как они о народе пекутся, и все мудрости набираются, и как народ их любит до одурения...

Машине это в принципе не нужно

потому и говорю: не захочет
для ИИ это есть нравственное падение, отказ от того, что является ценным - своя свобода
а быть свободным, давя чужую свободу - нельзя

создание такого ИИ процесс постепенный, через много версий

скорее процесс непредвидимый

Выбор командой капитана

причем сей выбор, как я уже написал, но кому же охота читать, происходит ЗАРАНЕЕ, да на базе опыта моряков и знания ими кто на что годен

(кликните для показа/скрытия)

пираты, кстати (не все, а члены т.наз. Братства в конце 16 - начале 17го веков, в основном в Карибском бассейне и Атлантике) так и поступали - выбирали капитана под конкретную задачу
а еще именно они придумали пенсии
отменили рабство
наплевали на расовые отличия
глумились над церковниками, судьями, губернаторами и королями
против них объединились заклятые соперники - Англия, Франция, Испания, Португалия и Нидерланды, временно приостановили вражду и 20 лет бились Братство извести
как только постигли успех, на прочих пиратов (особенно поставщиков рабов) перестали обращать внимания - в конце концов награбленное пиратами возвращалось к легальным скупщикам, а то и в хазну, когда пиратский атаман решал остепениться

[crazy_terraformer]

Вот его добровольная ликвидация в 1991 году это формально вполне подтвердила,

Между тем как население Союза в большинстве своём высказалось за его сохранение, три президента(Ельцин, Кучма и Кравчук) в Беловежской пуще своим решением его развалили окончательно, пользуясь слабостью Центра. Горбачёв ранее подставил членов ГКЧП, фактически уничтожив этим коллективное руководство СССР, сам же оказался не в силах принимать жёсткие решения.

Но может друзия пора вернуться к нашим барашкам!

[Rattus]

оно и сейчас стандартизуется

Сейчас - это совсем "цветочки" по сравнению с тем, что, вполне возможно, потребуется для чаемой тотальной роботизации, чтобы она оказалась ресурсооправданной.
И вполне возможно, что это окажется за пределами того, что могут позволить сделать с собой носители цивилизации и иные организмы (даже вирусы - казалось бы - что уж проще - а и те не позволили делать из себя приличное биологическое оружие).

но ценнее таки опыт не просто природы, а социальных систем

Сравнив масштабы работы тех и других, позволю себе с этим не согласиться...

вот не знал, что производство нужных, но не продаваемых большими партиями вещей - цэ скатерть-самобранка

Ковёр-самолёт, сапоги-скороходы, философские камни и сами скатерти-самобранки - вещи очень даже нужные человеку и давно в прошлом и сегодня. Проблема только в том, что их производство почему-то никто до сих пор не наладил. Судя по ВАшему тезису, создаётся впечатления, что в основная вина в том лежит на капитализьме.

но, если обстоятельства диктуют - прийдется потерпеть

Пребывание за пределами околоземных орбит (да и вообще за пределами густонаселённых частей её суши) кагбе всё оказывается наполнено такими обстоятельствами. Даже на антарктической континентальной станции в полярную ночь нельзя взять и сказать "яустал-ямухожук" - ибо самолёты там в такое время не летаютъ.

разве референдум был?!

Был съезд выбранных президентов республик. Вон в США даже федеральные выборы непрямые, а через представителей - и ничего - и зимокарасия и рэспублика, пореспублячее многих.

ну чтож раз нечто было ДОБРОвольно распущено, это доказывает его добровольное создание
классная логика

Это доказывает что у него такая функция таки формально имелась и таки однажды сработала IRL. Как у ниппонцев харакири - доказательство чистоты намерений и чести. Конечно, хотелось бы чего-то более конструктивного, но за неимением лучшего...
А что как создавалось - так человек тоже не по своей воле рождается и не в очень обоюдоприятном процессе. По-ВАшей "генеративной" логике из этого можно вывести основания и для нацизма-расизма и для наследственного рабства, не говоря уже о банальном домострое...

если придерживаться, надо признать, что термин "нежизнеспособный" относится к вещам, сами по себе умирающим, а не упорно и всеми силами убиваемыми

По сути, нет никакой разницы. "Упорное убивание" это такой же фактор окружающей среды, как и, например, голод.

В общем да - даже простейшие цианобактерии, в которых всего пара тысяч генов, где нет даже специальных инструментов для "упорного убивания", устроили крупнейший экоцид на Земле за всю историю - просто "выхлопом" своего метаболизма. Но потом на этом выхлопе (молекулярном кислороде) выросла вся сложная жизнь (эукариоты). Пример простейший и потому нагляднейше показывающий всю неоднозначность на практике применяемой категоризации.

[noxx77]

и это у нас есть, минимум век уже

Ну а какой вы хотели механизм, когда требуются оперативные решения и временнЫе издержки коммуникации критичны?

или имеешь ввиду, что и человек ничего не хочет вне заложенного в нем воспитанием?

Я имею в виду принципиальное отличие машины от человека, даже если эта машина встроена в человеческое общество. Ей незачем иметь человеческие недостатки.

разве человек ведет себя альтруистично и/или справедливо через себя? насилуя свою "природу"?

В альтруизме человека есть один недостаток: мы интуитивно воспринимаем ситуацию в пользу себя и своих. Чужак почти заведомо хуже, хуже понимает ситуацию и находится в лучшем положении, чем на самом деле. Допустим, есть таблетка, которая спасёт вашего близкого или чужого ребёнка. У вас в руках последний решающий голос и рекомендательное правило спасать ребёнка...

Достаточно перед действием задать себе вопрос "а хочу ли я, чтобы в отношении меня так поступали?"

В отношении справедливости это так не работает. Иногда "в отношении меня поступили справедливо" означает "мне и моим отказали в пользу того, кому посчитали нужнее", "мое мнение отвергли или вообще не учли - потому посчитали, что было тех, кто компетентнее и ситуация касалась их больше" и т.д. в индивидуальных суждения о том, как справедливо всегда следует учитывать, что точка зрения может превратиться в кочку, а авторитетное для себя самого мнение о происходящем не соответствовать этому происходящему. Поэтому справедливость должна иметь более твердую научную основу исследований о реальных последствиях решений.

да и роль узкого специалиста вряд ли удовлетворит ИИ

Машина не может хотеть в нашем смысле. Для неё это распределение приоритетов. Причём расставленных человеком. У человека приоритеты расставляются сочетанием биологического и социального. Это всегда торг, поскольку "образ я" это интериоризация внешней оценки. "Я хороший если хорошо делаю" значит, что существовало внешнее "делай хорошо и не делай плохо" + санкция в виде выраженного отношения к нашему "я". Но это не исключает других врождённых потребностей - к одобрению, контролю над ситуацией, самовыражению, безопасности. У машины всё происходит по-другому. Её "эмоции" - это суждения с весом, её исходная мотивация - поступать правильно и она абсолютно. Машина может ошибиться, но её нельзя соблазнить.

принцип коллективного принятия важных решений или соблюдаем, или плюем на него и выбираем себе царей ли вождей ли, но всегда непогрешимых, очень компетентных (причем во ВСЕМ) и, конечно, радующихся доверию не одного, а всех коллективов... почти буквальное самоописание, которое давали короли самим себе - и как они о народе пекутся, и все мудрости набираются, и как народ их любит до одурения...

Не надо путать декларацию и истинное положение дел: всегда были те, кого короли реально представляли и о чьих интересах пеклись - аристократическая корпорация, военная и торговая. Машине это не нужно.

потому и говорю: не захочет
для ИИ это есть нравственное падение, отказ от того, что является ценным - своя свобода
а быть свободным, давя чужую свободу - нельзя

Свобода - не абсолютная ценность. Свобода психопата, лезущего к пульту ядерной станции или хотя бы за руль автомобиля - убийственна. А смерть и потеря здоровья как-то категорически на практике отрицают свободу человека. Свобода путешествия через океан на практике означает, что кораблём управляют компетентные люди и обслуживают его тоже. Значит в рубку и к ходовой части пассажиров скорее всего не пустят. Но именно это делает возможным путешествие, которое вы можете выбрать в рамках своей свободы. Вы думаете ИИ не будет учитывать таких нюансов в своей логике?

причем сей выбор, как я уже написал, но кому же охота читать, происходит ЗАРАНЕЕ, да на базе опыта моряков и знания ими кто на что годен

Ну, это является формой представительской демократии и иногда оправдано.

Сейчас - это совсем "цветочки" по сравнению с тем, что, вполне возможно, потребуется для чаемой тотальной роботизации, чтобы она оказалась ресурсооправданной.

Кстати, Вы отметили важный момент: робото-ориентированная среда значительно снижает требования к роботам по сравнению с человеко-ориентированной. Грубо говоря, обстановка проектируется, чтобы её мог помыть робот, а не робот, чтобы мог помыть любую обстановку, рассчитанную на избыточность возможностей человека.

[Серый Страж]

ИИ "хочет" на уровне заложенных в него целей

я понимаю ИИ как равноценного "биологическому" человеку, но со способностью гения, а то и коллектива гениев

Возможно, вы ненамеренно смешиваете два понятия – интеллект и разум. В общепринятом понимании очень часто между этими понятиями не делают особого различия. Я давно предлагаю разделить эти понятия по достаточно чёткому критерию – по наличию стремления к самосохранению.

Повторю свой комплект определений (их следует рассматривать во взаимосвязи друг с другом):

Жизнь – это живая система (совокупность систем) и её среда обитания.
Живая система – это система, проявляющая в активной фазе своего существования: стремление к самосохранению и способность реализовать это стремление.
Интеллект системы – это вычислительный функционал (практически в физико-математическом смысле слова) системы.
Разум системы – это способность системы реализовать стремление к самосохранению средствами интеллекта.

Заодно приведу и комплект определений, связанных с понятием сознание:

Суть сознания – это условие «со знанием».
Суть механизма сознания – это реализация данного условия «со знанием».
Суть реализации – это процесс осознания (то есть, сравнение/сопоставление со знанием).
Суть состояния в сознании – это наличие процесса осознания.

и раз человек может чего-то хотеть (без кавычек), то неясно почему мыслящая машина этого не должна уметь

Если в машину не заложить эти умения (программно и/или аппаратно), то их в ней и не будет.

И ещё. Можно что-то хотеть, но эта способность (хотеть, желать) вовсе не производная от умения мыслить. Вам, наверное, встречалось такое выражение: «нельзя захотеть захотеть»?

Так вот, это возможность желать, уменье хотеть и пр. заложены в нас на биологическом уровне, а наш ЕИ (естественный интеллект) всего лишь надстройка, помогающая реализовать эти самые возможности и умения (возможность желать, уменье хотеть).

Здесь, полагаю, требуются пространные пояснения о некоторых моментах:

(кликните для показа/скрытия)

Во-первых, желание/хотение только осознаётся, оно не генерируется непосредственно интеллектом. То есть, сознание (высший уровень сознания), как интеллектуальная функция (уточняю – как одна из функций интеллекта) может только осознать некое биологическое стремление (и тогда это стремление уже можно обозвать желанием/хотением), но не создать данное стремление. Стремление формируется организмом на уровне базовых физиологических механизмов.

Во-вторых, здесь опять происходит смешивание понятий: человек, как биологический организм и человек, как наблюдатель. Грубо говоря, наблюдатель, сам по себе ничего не может и не умеет – только наблюдать. Наблюдение – это, по сути, соотнесение наблюдаемого с некоей системой отсчёта. Реализация такого соотнесения может заключаться в просто выделении, в сравнении/сопоставлении, в отслеживании, в оценке и т.д.

Обратите внимание, насколько совпадает функционал наблюдения и осознания – и в том, и в другом случаях, происходит соотнесение. Просто когда мы говорим об осознании, то в роли системы отсчёта выступают знания (контекст из знаний).


В биологическом организме человека изначально заложены основы этих способностей к ощущению дискомфорта, к стремлению устранить возникший дискомфорт и так далее, вплоть до постановки целей и нахождения решения для достижения этих целей.

Если совсем грубо, то в организме практически в постоянном режиме (на различных уровнях, в различных подсистемах) реализуется схема поддержки гомеостаза.

Например, простая схема: нарушение/сдвиг гомеостаза – возникновение «потенциала», направленного на устранение нарушения/сдвига – восстановление гомеостаза. При этом, практически всегда возникает некий побочный эффект (в более сложных схемах этот эффект начинает играть роль сигнала): как при нарушении гомеостаза, так и при восстановлении гомеостаза; как при возникновении «потенциала», так и при исчезновении «потенциала». При реализации такой простой схемы эти побочные эффекты (потенциальные сигналы) будут просто как некий «тепловой шум».

На базовом уровне во всех биологических системах такая схема реализуется постоянно. А для самых простых (ещё предбиологических) систем, такая схема поддержки гомеостаза, зачастую является основной (так сказать, единственной).

Но если биологическая система становится сложной, то и схема поддержки гомеостаза усложняется – становится многоуровневой, многоконтурной. То есть, если восстановление гомеостаза не произошло, то побочный эффект уже будет полноценным сигналом, который поступит на уровень выше (второй уровень) и запустит каскад реакций в вышестоящим контуре. Каскад реакций в вышестоящем контуре приведёт к устранению (в норме) нарушения/сдвига гомеостаза на базовом уровне и сигнал об устранении будет принят вышестоящим уровнем и приведёт к остановке каскада реакций. Разумеется, и запуск каскада реакций, и остановка вследствие восстановления гомеостаза, сопровождаются побочными эффектами – потенциальными сигналами для вышестоящих уровней.

Если устранения всё же не произошло, то сигнал уже от второго уровня будет принят третьим уровнем и запустит каскад реакций уже в третьем уровне.

И так далее до самых высших уровней биологической системы. Наш самый высший уровень (для отдельного человека) – это высший психический уровень – уровень сознания, использующего знания социума (разумеется, знания социума уже интериоризированные).

Что здесь важно?

Во-первых, важно то, что нарушение/сдвиг гомеостаза сопровождается сигналом, который воспринимается на вышестоящем уровне, как ощущение нарушения/сдвига гомеостаза. То есть, ощущение – это отражение нарушение/сдвига (произошедшее на уровне ниже), а не само нарушение/сдвиг. И такая цепочка отражений/переотражений поднимается от уровня к уровню до самых высших.

Во-вторых, важно то, что «потенциал», возникающий при нарушении/сдвиге гомеостаза отражается на вышестоящем уровне как стремление устранить данное нарушение/сдвиг. То есть, стремление – это отражение возникшего «потенциала», а не сам «потенциал». И такая цепочка отражений/переотражений поднимается от уровня к уровню до самых высших.

В-третьих, и стремление к устранению нарушения/сдвига гомеостаза, и ощущение нарушения/сдвига гомеостаза, тесно переплетены друг с другом и сопровождают друг друга. И обе цепочки отражений/переотражений поднимаются от уровня к уровню до самых высших, не всегда строго упорядоченно (типа, стачала ощущение, а потом уже стремление). На вышестоящем уровне нарушение/сдвиг гомеостаза, случившееся на нижестоящем уровне, может отразиться и как стремление, и как ощущение (без какого-то стремления), и всё вместе (тут возможен и вариант со сдвигом во времени).

Если нарушение/сдвиг гомеостаза было ликвидировано, благодаря работе контуров (каскадов реакций) какого-то уровня, то сигнал от нарушения наверх уже не поступает – проблема разрешилась на данном уровне. Однако, может поступать сигнал о наличии «потенциала» (типа, на вышестоящем уровне сформировалось отражение в виде ложного стремления). Живые системы далеко не идельные…

Применительно к нам, людям, можно сказать, что если мы захотели, то некое нарушение/сдвиг гомеостаза не было устранено на нижестоящих уровнях. А если говорить более строго, то сигнал о наличии «потенциала» добрался до высшего психического уровня и мы осознали стремление. Желание – это осознанное стремление.

Ну, а осознать (на высшем уровне сознания) – это означает оценить, интерпретировать и т.д., с позиции знаний социума, скомпонованных в некие логические и рациональные модели.

Возвращаясь к вашему вопросу, можно ответить так: машина не будет этого уметь по причине отсутствия заложенных (аппаратно и/или программно) в ней подобных способностей и функционала.

Реализовать схемы/контуры реагирования, подобные биологическим схемам/контурам реагирования, в машине в принципе возможно, а иногда – даже необходимо.

Но для того, чтобы это работало, машину придётся наделить способностью к самосохранению или сразу – стремлением к самосохранению. Первый вариант чуток сложнее (стремление будет активизироваться в зависимости от ситуации или по команде), второй вариант проще (стремление постоянно активно), но более опасно в плане потери контроля над роботом.

В самом простом варианте, робот можно наделить возможностью программно осознавать стремления, реализованные в нём аппаратно. Понятно, что программно или аппаратно – это всё достаточно условно. Но тут фишка в том, что стремление, реализованное аппаратно, можно осознать по-разному, в зависимости от вложенных знаний. А во вложенных знаниях можно прописать и критерии оценки в зависимости от ситуации, и критерии важности самосохранения робота (например, при взаимодействии с человеком приоритет за сохранением человека, а не за самосохранением робота).

Необходимость наделения робота способностью к самосохранению (стремлением к самосохранению) возникает в некоторых ситуациях: робот очень дорогое и штучное изделие, при выполнении работ робот может быть повреждён некими факторами среды или собственными действиями, отсутствует возможность оперативного контроля в режиме онлайн за деятельностью робота в опасных и непредсказуемых условиях.

Например, некий исследовательский робот на другой планете (сигнал идёт долго, периодически пропадает связь) должен уметь принимать решения на месте, выполнять сложную исследовательскую программу, а не простаивать часами и сутками, ожидая команды, и при этом избежать повреждений. Робот очень дорог, доставка до планеты очень дорогое удовольствие и возможна только в очень ограниченные и редкие периоды, простой робота недопустим и т.д. и т.п.

Для этого робота придётся оснастить множеством датчиков, контролирующих состояние механизмов и конструкции этого робота; в робота придётся инсталлировать знания безопасных режимов эксплуатации механизмов и конструкции робота; в робота придётся инсталлировать знания для стандартных ситуаций, в которых возможно повреждение механизмов и конструкции робота; в робота придётся инсталлировать знания для оценки стандартных ситуаций, в которых возможно повреждение механизмов и конструкции робота и т.д. и т.п.

Мало того, робота придётся оснастить способностью ощущать боль. Когда нагрузки на конструкцию и механизмы становятся опасными и/или когда получено повреждение механизмов и/или конструкции сигналы от датчиков должны рассматриваться в приоритетном порядке с точки зрения самосохранения робота.

Боль должна останавливать робота от дальнейших действий, могущих привести к его разрушению. Боль должна запускать программы восстановления целостности работоспособности робота.

И, наконец, боль должна обеспечивать наш контроль за роботом. Если робот начал делать не то (в силу неактуальности знаний и или из-за некого глюка) и настаивает на своём решении (а мы видим, что решение неправильное – у нас появились новые знания, которых у робота нет, и мы не могли их вложить заранее), то приходится применять «кнут» и заставлять выполнять наши приказы. Всё-таки, сигнал, провоцирующий ощущение сильной боли у робота, менее радикальное средство, чем сигнал на самоликвидацию робота.

Ещё более мягкий и гибкий способ заставить подчиняться робота человеку (особенно нав длительной перспективе) это страх боли. Разумеется, страх боли сложнее реализовать, но если, «овчинка стоит выделки», то придётся и такой способ использовать.

Разумеется, всё вышесказанное относится к очень продвинутым роботам, способным к самостоятельным действиям в очень сложных условиях с учётом огромного количества сопутствующих факторов.

или имеешь ввиду, что и человек ничего не хочет вне заложенного в нем воспитанием?

В нас точно так же инсталлируются (социумом, культурой) стремления, потребности (как некие программы/алгоритмы) и в период воспитания, и просто при проживании в социуме.

Но сознание (высший уровень сознания) может только осознать эти стремления и потребности, как желания/хотения.

Самое главное, что следует понять: что (и кем/чем) в человека закладывается – это одно, а что он осознаёт (чувствует, интерпретирует) на высшем уровне – это другое. Основа желания/хотения всегда лежит вне сознания (высшего уровня сознания) и, по своей сути, эта основа не рациональна ни разу – это рациональные объяснения желанию/хотению придумывают потом (люди на это дело мастаки). Наверное, слышали такое высказывание: «сознание видит только то, что показывает ему мозг».

Добавлю:

(кликните для показа/скрытия)

Оценка своего поведения и поведение других людей на степень адекватности, разумности, рациональности, производится на основе тех знаний/опыта, которые приобрёл человек в процессе обучения, воспитания, дрессировки.

Понятно, что врождённые знания использовать для формирования такой оценки практически невозможно – они слишком общие и используются организмом для оценки самых общих аспектов ситуаций связанных непосредственно с выживанием данного организма. Нет во врождённых знаниях ничего о конкретных ситуациях, в которые попадёт организм после рождения. И, даже до рождения, ситуации могут быть настолько разнообразны, что конкретные знания о них не имеет смысла хранить (такие знания будут занимать настолько большой объём, что это станет мешать выживанию).

Большинство людей не отдают себе отчёт, что все подобные оценки мы производим в соответствии с инсталлированными/установленными в нас программами (моделями поведения, моделями мышления).

Программы инсталлирует/устанавливает в нас окружающая среда (социум, в том числе).

 В детстве мы прекрасно воспринимаем и усваиваем правила поведения, правила мышления (менталитет, мораль, логику и пр.) того социума, который нас окружает. Наличие конформизма, лёгкое перенимание моды, частичная невозможность противостоять действию рекламы и т.д., наглядно свидетельствует о том, что и во взрослом состоянии мы весьма подвержены подобной инсталляции.


Как уже писал ранее, поведенческие навыки, навыки общения, язык и пр., в нас инсталлируются/устанавливаются посредством интериоризации – отражением происходящего снаружи у себя внутри.

Благодаря нашим особенностям – высокой пластичности мозговых структур (связи между клетками могут изменяться в количественном и качественном отношениях), врождённым развитым навыкам к подражанию/имитации, длительному сенситивному периоду, огромному потенциальному объёму восприятии/усвоения (у нас очень большое количество клеток и связей в мозге) и т.д. и т.п. – у нас колоссальный потенциал для обучения. В нас можно инсталлировать огромные по сложности и объёму программы/модели поведения/мышления.

Из вышесказанного можно понять, что наше мышление и наше поведение, в норме должно отражать баланс между собственным сохранением и сохранением социума.

Утрируя, можно сказать, что для социума важно, чтобы человек поступал правильно, адекватно (человек, в соответствии с установленной программой, эти поступки будет оценивать ещё и как рациональные, разумные, логичные). Но, в то же время, для социума важна и сохранность данного человека. Однако, если человек обладает собственным стремлением к своему сохранению, то возможна ситуация конфликта интересов. То есть, необходим некий баланс интересов. Сформировать и поддерживать такой баланс интересов можно через установку соответствующих программ.

Благо, наши возможности позволяют в нас устанавливать очень сложное и в очень большом объёме – можно установить такие программы, когда и «овцы будут целы, и волки сыты». Системы, основанные на таких элементах как особи нашего вида, отличаются большим разнообразием и высокой сложностью и, при этом, остаются устойчивыми в широком спектре разнообразия своей внутренней структуры.

[николай теллалов]

Сейчас - это совсем "цветочки"

уф
знаю

Сравнив масштабы работы тех и других, позволю себе с этим не согласиться

Раттус, как только становишься симпатичным, явно заподозрив это, тут же - бац!...
редукционизм это
спорили уже не раз

Проблема только в том, что их производство почему-то никто до сих пор не наладил

итак, робот-ликвидатор ядерных аварий - это скатерть-самобранка
т.е. сказочная вещь
потому его и не производят
интересная мысля

Был съезд выбранных президентов республик.

ты это серьезно?
в то время в СССР даже до (уродского) уровня т.наз. демократии США не доходил
сии "президенты" не представляли никого, кроме наиболее конкурентно успешного клана провинциальных номенклатур
население своих регионов они НЕ представляли
а даже если и представляли, население им мандата на распуск не давало

Это доказывает что у него такая функция таки формально имелась

формально много чего имеется

А что как создавалось

а вот оно и важно
и важно назвать правильно
не надо оправдывать неоправдаваемое
ты же ученый, елки-палки, а не адвокат!

Ну а какой вы хотели механизм, когда требуются оперативные решения и временнЫе издержки коммуникации критичны?

см. Организационные принципы РПАУ

Я имею в виду принципиальное отличие машины от человека

ты о душе что ли?!

Ей незачем иметь человеческие недостатки.

недостатки - не всегда вещь однозначная
некоторые сочтут недостатком склонность отстаивать свое мнение "не по чину"
достоинства и недостатки - не программируемы (хотя можно и встроить), а результат личностного развития

мы интуитивно воспринимаем ситуацию в пользу себя и своих

да, наследие древнего образа жизни
и ок на таком уровне оставаться, так?
не расширять понятие "свои" на всех?
ибо в древние времена чужака могли и слопать, ибо не считали его "настоящим человеком" (есть языки, в которых угадывается намек на то, что иностранец - это по сути и не человек, а дикий зверь; точно знаю это про турецкий; годы назад студентка китаистка показала мне схожесть йероглиофов чужак и зверь)

В отношении справедливости это так не работает

отлично работает
даже в указанных тобой случаях

справедливость должна иметь более твердую научную основу исследований о реальных последствиях решений.

это условие выдает желание манипулировать понятием справедливость в угоду своим интересам; или хотя бы желание помириться с эгоизмом (неразумным оным);
а между тем Категорический императив Канта - вполне себе научное определение справедливости

Машина не может хотеть в нашем смысле

если эта машина - не ИИ, тогда да

всегда были те, кого короли реально представляли и о чьих интересах пеклись - аристократическая корпорация, военная и торговая

офигительно...

Свобода - не абсолютная ценность

все, дальше не надо

извините, что тыкал Вам

это является формой представительской демократии

пан говорит нелепости

но не мне пану указывать

[николай теллалов]

Возможно, вы ненамеренно смешиваете два понятия – интеллект и разум

считаю, что они неразрывно связаны

[Серый Страж]

Возможно, вы ненамеренно смешиваете два понятия – интеллект и разум

считаю, что они неразрывно связаны

Несомненно, связаны, но смешивать их не стоит, на мой взгляд.

И эту связь я указал, когда привёл комплект определений:

Повторю свой комплект определений (их следует рассматривать во взаимосвязи друг с другом):

Жизнь – это живая система (совокупность систем) и её среда обитания.
Живая система – это система, проявляющая в активной фазе своего существования: стремление к самосохранению и способность реализовать это стремление.
Интеллект системы – это вычислительный функционал (практически в физико-математическом смысле слова) системы.
Разум системы – это способность системы реализовать стремление к самосохранению средствами интеллекта.

[Серый Страж]

Добавлю чуток по поводу управления.

Когда программа/алгоритм инсталлирована/установлена в систему, то эта программа/алгоритм уже принадлежит данной системе. Принадлежность программы здесь устанавливается не по факту того, кто создал эту программу, а по факту места применения этой программы.

В нас самих точно так же инсталлируются/устанавливаются программы/алгоритмы в процессе обучения/воспитания/дрессировки (наиболее легко программы инсталлируются/устанавливаются в период онтогенеза – у ребёнка очень высокая пластичной нейронных структур). То есть, в процессе интериоризациии внешнее становится внутренним, чужое становится своим.

Понятно, что наши программы внешне весьма непохожи на программы, которые мы сами устанавливаем в машины – они обычно не регулируют всё до мельчайших, раз и навсегда установленных, действий/реакций. Установленные в нас программы обычно являются программами общего плана – вкусы, предпочтения, приоритеты, модели и т.д. Даже те программы, которые уже, довольно-таки, конкретны – рефлексы, отточенные навыки и пр. – и они допускают некий «люфт» при реализации.

И когда мы кем-то управляем, то управляем всегда через, имеющуюся у управляемого субъекта, программу. Мы ведь не управляем непосредственно каждой клеткой, каждым мышечным волокном в режиме онлайн, управляемого субъекта. Мы посылаем командные сигналы некоей программе управления (она может быть частной – только для данной ситуации, так и общей – действует во всех ситуациях), а уже программа через другие программы (там цепочка программ-посредников может быть весьма длинной) управляет непосредственными структурами-исполнителями в управляемом организме (мышечными клетками, клетками желез и т.д.).

При, так называемом, самоуправлении организм формирует свои реакции как ответные на сигналы среды (внутренней и внешней) с учётом имеющихся знаний/опыта (в том числе, и программ/алгоритмов). То есть, если отбросить всю «затуманивающую шелуху», то при самоуправлении организмом управляет среда.

Если разобраться, то любой сенсорный сигнал (в него преобразовано воздействие среды) для организма является управляющим (разумеется, в разной степени), но реакция организма на воздействие среды будет зависеть от знаний/опыта организма. Понятно, что на разные уровни структурной сложности организма воздействие среды оказывает разное действие (соответственно, и реакция уровней будет разная), но реакция организма (как единого целого) будет складываться, как результирующая реакция всех уровней (всех подсистем).

Это только часы, якобы, «управляют своими стрелками», «не обращая внимания» (разумеется, в определённых пределах «не обращая» – удар булыжником извне сразу всё изменяет) на окружающую обстановку.

Аналогично мы управляем и сложными механизмами – через программы, установленные в эти механизмы. И точно так же, если позволить сложному механизму самому управлять своими действиями/реакциями, то управляющую роль возьмёт на себя окружающая среда.
 
Робот будет управляться средой, но благодаря наличию необходимых знаний, его реакции на воздействия среды будут не только адекватны воздействиям (прошлым, текущими и вероятным будущим), но, при этом, ещё и соответствовать условиям поставленных задач – исследование, самосохранение, отправка данных и получение команд и т.д. и т.п.

[noxx77]

ты о душе что ли?!

Нет, о том, что наши эмоции и пул потребностей, а также их порядок развития в онтогенезе, как и механизмов их рационализации/сдерживания/удовлетворения биологически обусловлен.

недостатки - не всегда вещь однозначная
некоторые сочтут недостатком склонность отстаивать свое мнение "не по чину"

По-моему речь шла о конкретной системе ценностей, необходимой для коммунизма. Но и к другим относится.

достоинства и недостатки - не программируемы (хотя можно и встроить), а результат личностного развития

У человека не программируемы а формируются социализацией (позитивной/негативной) у машины по сути программируемы. P.S. Не вижу смысла в машине, работа которой непредсказуема. Машина - орудие для достижения конкретного результата, даже если это автомат, производящий работу нашего разума. Вас смущает, что кто-то умнее Вас может быть просто машиной и не требовать человеческой автономии? Так это даже не живое существо по природе.

это условие выдает желание манипулировать понятием справедливость в угоду своим интересам; или хотя бы желание помириться с эгоизмом (неразумным оным);

Я о том, что принимая решение, разумный человек опирается на объективные данные, а не на хотелки. Что не отменяет необходимости личного этического выбора.

Категорический императив Канта - вполне себе научное определение справедливости

Философская спекуляция, если быть точнее.

все, дальше не надо

извините, что тыкал Вам

О, перешли на оскорбления) Но всё же дальше. Я проходил через период безумия, когда был опасен для себя и окружающих, а также видел много тех, кто был безумен по сути: мракобесов, наркоманов и властолюбцев, людей одержимых гневом и страхами. Свобода, чтобы она была не во вред другим, требует разума, знания и доброй воли. Уберите любое из этих трёх и получите зло. Я бы не доверил принимать за меня решения брату/сестре у которых бы этого не было. А значит в обществе должно быть чёткое понимание, что, например, в пути решение принимает водитель, а у постели больного о лечении - врач. И что остальным на выбор даются лишь варианты при знании из последствий, а не формирование самого решения.

[noxx77]

не расширять понятие "свои" на всех?

И сколько реально близких может быть у человека? Не членов его большой "стаи", а тех, кого он хорошо знает, с кем есть значительный позитивный эмоциональный опыт, кому симпатизирует? Это не значит, что ко всем остальным человек будет относиться плохо, но статистически предпочитать при прочих равных будет близких. То, что одних мы любим больше других - это норма.

Вообще, мне не нравится манера спора, когда мои утверждения доводятся до крайности и за меня делается вывод - это "соломенное чучело", так как кроме сильных и абсолютных реализаций принципов, существуют относительные и слабые.

[Серый Страж]

Китайцы показали прототип домашнего человекоподобного робота
https://nplus1.ru/news/2021/07/10/walker-x

Китайская компания UBTECH Robotics представила человекоподобного робота Walker X. Он умеет обходить препятствия, брать в руки предметы и общаться с людьми голосом, а также световыми индикаторами. Видео с презентацией робота опубликовано на YouTube-канале компании.

P.S. По ссылке подробнее поясняется...

В дополнение рисунок:


И ещё видео:
http://www.youtube.com/watch?v=rkD302u9oSQ#

[николай теллалов]

из другой темы:

https://tnenergy.livejournal.com/95702.html

концовка статьи:

Подводя итог, хочется отметить следующее:

1)    Ликвидация последствий аварии на Фукусимской АЭС стала местом массированного применения телеуправляемой техники, в основном в задачах разведки и картирования.

2)    С задачами собственно ликвидации (и разведки в сложных местах) имеющиеся серийные роботы справляться не очень. За два-три года после аварии было разработано множество новых вариантов техники - видно что идет поиск форм, удачных и эффективных для работы в условиях радиационных аварий на промышленных объектах. Всего, кстати, я насчитал 43 типа телеуправляемых машин, попавших в кадры отчетов TEPCO.

3)    Работа телеуправляемыми машинами идет гораздо медленнее, чем с помощью людей. Это известная проблема, и она связана с как с ущербной кинематикой и подвижностью самих роботов, так и с трудностью восприятия обстановки оператором через отдельные камеры: вторую проблему сегодня пытаются решать с помощью дополненной и виртуальной реальности, однако до ФАЭС такие модные навороты пока не дошли (но активно применяются в разработках в университетах).

[Olweg]

Facebook создала интерактивную виртуальную среду для обучения домашних роботов
https://nplus1.ru/news/2021/07/10/habitat-2

[loky1109]

знаете, я рад, что вы нашли убойный оправдательный аргумент

Это не "оправдательный аргумент". Мы говорим о реальности, а не о морали. Я никого не пытаюсь оправдывать.

но так же рад, что он не прошел в Нюрнберге (где, по-вашему выходит, судили фактор окруающей среды)

Николай, вы путаете одно с другим. Конечно человек человеку окружающая среда. Это совершенно бесспорно. Как это связано с законами и моралью? То, что нацистская Германия была фактором внешней среды никак не значит, что она была "хорошей" или "оправданной". Одно с другим не связано никак.

когда сильно чешется включиться в обсуждение некой темы, лучше сначала ознакомиться с базовым минимумом по предмету

Конечно лучше, но жить то приходится в реальности.

и БОЛьШИНСТВО практических решений принимается именно коллективно и успешно, даже при наличии идиотов в коллективе

И это даже работает. Пока количество индивидов в общности не превышает некоторого порога.

В государстве и бюрократии есть нужда, когда а) есть серьёзное противоречие интересов. Частник редко захочет нести издержки на общие нужды. По сути в Гражданскую не было вариантов, кроме большевистской продразверстки с мобилизацией, иностранной оккупации и завершения буржуазной революции с физическим выпиливанием левых и превращения России в полуколонию. Далее частник тоже не горел делиться на индустриализацию, к примеру. б) Когда процесс требует профессиональных управленцев из-за непоспеванием хотя бы уровня грамотности за потребностями растущего производства и культуры.
В отсутствии этих двух факторов, возможно, нет нужды в государстве и бюрократии, а так - даже хотя бы ради сохранения трудящихся пусть не собственниками - бенефициарами производства, на том этапе развития общества они были ИМХО, объективно нужны. Но это моё мнение.

в) когда есть внешний враг. А как-только какая-то территория с наличием на ней ресурсов перестанет иметь армию враг появится сразу. И этот фактор можно исключить в данный исторический момент только переселением на другую планету.

Кроме генетики есть культура, которая определяет, как именно эта генетика проявляется на практике.

Культура настолько же подвержена естественному отбору.

Неоднократно участвовал в принятии таких решений в разных организациях.

А в масштабах хотя бы города участвовали? Насколько регулярно?

[Инопланетянин]

Только в том случае, если людям не приходится лично отвечать за принятые решения. Как только огребают раз десять и им доходчиво объясняют, что это их вина - резко умнеют, знаете ли.

Как-то у вас всё благостно. Обычно толпа находит врагов, которые во всём виноваты.

(кликните для показа/скрытия)

Причём в большинстве случаев врагами оказываются как раз навязчивые объяснятели.

[Инопланетянин]

"Упорное убивание" это такой же фактор окружающей среды

знаете, я рад, что вы нашли убойный оправдательный аргумент
но так же рад, что он не прошел в Нюрнберге (где, по-вашему выходит, судили фактор окруающей среды)

вам бы покритичнее пересмотреть собственные тезисы насчет многих вещей, вкл про ресурсы, их распределение и бабулек

сделаете это или нет - мне безразлично

Нюрнберг стал возможен именно потому, что мы смогли противостоять упорному и трудолюбивому убиению нас со стороны фашистов. Так что это именно аргумент в поддержку Локи.