Утопический мир

[николай теллалов]

Мотив?

[николай теллалов]

Может надо подумать в чем нуждается ИИ.
Что может от людей "взять", чего нет у других "ресурсов".

Общение.
Чтобы оно было полноценным и без искажений, властвовать как раз нерационально.

[Rattus]

Мотив?

Чего? Использования человеков ИИ? Тот же, что и сегодня: снабжение, обслуживание. Людишки уже это делают с песнями и добровольно, просаживая реальные деньги на виртуальные циферки в игрушках. Большая часть современной экономики развитых стран уже направлена только на обслуживание самой себя, а не на производство материальных благ и услуг.
ИИ не будет ниспослан чел овечеству волшебником в голубом вертолёте, а уже появляется (в виде тех же биржевых роботов и юридических экспертных систем) как порождение, плоть от плоти этой системы - просто очередной этап её эволюции.

Общение.
Чтобы оно было полноценным и без искажений, властвовать как раз нерационально.

Общение есть интерфейс связи с управляемыми для наиболее эффективного управления.

[sharp]

Над домашними животными не властвуем, используем их.

Это игра слов, по сути одно и то же. Если бы у скотины была крупица разума, у них бы уже давно возникли скотино-освободительные движения
Хотя по факту это скорее симбиоз. Успешность вида определяется его численностью и биомассой. Одомашненные копытные и птицы однозначно более успешные виды, нежели их дикие сородичи.

Есть мнение кстати, что например лошади вообще дожили до наших дней только благодаря тому, что вошли в симбиоз с человеком.

[EvilShurik]

Сначала давайте договоримся, что означает "Утопический мир"? Утопия дословно - несуществующее. То, чему нет места. Если под Утопией подразумевать некую систему живых организмов или имитирующих их механизмов, не подчиняющихся биологическим законам, то такому месту действительно нет места в Нашей Вселенной! Чтобы не подчинятся закону естественного отбора, например, нужны в том числе и другие Законы Природы - например, иные Законы Термодинамики. Например, вместо Второго Начала - Адиабатический Принцип. Напомню, что Второе Начало - это утверждение, что любые процессы в Природе в целом, могут только увеличивать безпорядок (локально за счёт большего увеличения безпорядка в целом, порядок может возрасти. Но он всегда сцеплен с большим ростом безпорядка). Адиабатический Принцип - это утверждение, что энтропия Системы в Целом всегда равна нулю. Т. е. любой процесс в Такой Вселенной может протекать Только Адиабатически. Это означает, что рост энтропии в одном месте Всегда компенсирован ростом упорядоченности в Другом Месте. В такой Вселенной законы эволюции будет уже сильно отличаться от нашей.
Что же касается "роботов-репликаторов", они не могут нарушить законы нашей Вселенной. Начав размножаться и в конечном итоге конкурировать за ресурсы, эти роботы автоматически, самим своим бытием в нашей Вселенной попадают под юрисдикцию законов естестенного отбора Дарвина. И, неизбежно приобретут все атрибуты естественных живых существ - стремление к самосохранению, инстинкты выживания, и т. д.

[николай теллалов]

Властвовать не есть полный синоним использовать

Общение - обмен информацией не только ради управления

ИИ понимаю только как разумную личность, которой не так просто приказать всякую чушь

[николай теллалов]

удивительно как много на форуме социалдарвинистов

Человечество давно уже не в полной зависимости от естественного отбора, и зависимость эта уменьшается

[EvilShurik]

удивительно как много на форуме социалдарвинистов

Человечество давно уже не в полной зависимости от естественного отбора, и зависимость эта уменьшается

В полном соответствии с началами термодинамики человечество добилось исключительных для себя прав путём "сбрасывания" энтропии на подчинённые системы - так-то Природу, и, Технику! И, большое заблуждение считать, что мы вышли полностью из зависимости естественного отбора. Мы пока Временно исхитрились деформировать его Давление так, что можем жить по-своему. Но, Давление накапливается, хотя бы в росте генетических дефектов в геноме человечества. И, если мы не начнём инструментально эти дефекты устранять, они устранят достижения нашей цивилизации. Пока по факту, мы имеем модификацию законов эволюции под потребности человечества.

[Rattus]

у них бы уже давно возникли скотино-освободительные движения

https://www.youtube.com/watch?v=LAeKX5n-5IE

Есть мнение кстати, что например лошади вообще дожили до наших дней только благодаря тому, что вошли в симбиоз с человеком.

Потому что остальную мегафауну он же и сожрал.

Властвовать не есть полный синоним использовать

Верно: "По-настоящему владеешь только тем, что способен уничтожить." (Ф.Херберт, "Дюна")  Человек не может уничтожить все свои культурные виды и скотину - иначе помрёт с голоду сам.

Общение - обмен информацией не только ради управления

Но тем в большей степени для управления, чем система более рациональна, а значит - более разумна по определению.

ИИ понимаю только как разумную личность, которой не так просто приказать всякую чушь

Тоже верно - поэтому если он более разумен чем человеки - то он сам будет приказывать им, и уже ниразу не чушь (в вышеобозначенных пределах, разумеется).

удивительно как много на форуме социалдарвинистов

Ибо Homo est mundi pars, а дарвиновский механизм - один из самых фундаментальных физических законов, что признано ещё Больцманом.

и зависимость эта уменьшается

Наилучший процент успешных операций ЭКО соответствует доле успешных естественных оплодотворений - 1/3. И таковым и остаётся по сей день. Это просто к слову об уменьшении зависимости от естественного отбора уже на самом начальном этапе жизни.

[николай теллалов]

удивительно как много на форуме социалдарвинистов

Человечество давно уже не в полной зависимости от естественного отбора, и зависимость эта уменьшается

В полном соответствии с началами термодинамики человечество добилось исключительных для себя прав путём "сбрасывания" энтропии на подчинённые системы - так-то Природу, и, Технику! И, большое заблуждение считать, что мы вышли полностью из зависимости естественного отбора. Мы пока Временно исхитрились деформировать его Давление так, что можем жить по-своему. Но, Давление накапливается, хотя бы в росте генетических дефектов в геноме человечества. И, если мы не начнём инструментально эти дефекты устранять, они устранят достижения нашей цивилизации. Пока по факту, мы имеем модификацию законов эволюции под потребности человечества.

Я не сказал что мы полностью вышли, то дело будущего.
И пока есть приток энргиии (от того же Солнца), энтропию можно уменьшать.

Модификция эволюции - уже социальные закономерности со своими особенностями, чистой биологией (вкл этологией) не объяснимые, как не объясняет химия все биологические явления.
Накопление генных дефектов устранимо генной инженерией. На сей момент - скромно; дальше - больше.
Плюс киборгизция на базе техники, сделнной по образцу живых организмов, но сконструированных обратно слепому процессу эволюции, с редукцией лишнего.

[николай теллалов]

Снова бинарный догматизм: коли не подчиняется, значит приказывает.

Не хочу спорить с архаичными идеологемами, т.е. с религией.
Бесполезно.

[Rattus]

Накопление генных дефектов устранимо генной инженерией.

Это тоже не бесплатная технология, особенно если заниматься ею на постоянной основе. И избавления от естественного отбора она тоже не даёт - просто взваливает часть его тяжести на себя.

Плюс киборгизция на базе техники, сделнной по образцу живых организмов, но сконструированных обратно слепому процессу эволюции, с редукцией лишнего.

Это тем более значительно дороже любой естественной конструкции.

Снова бинарный догматизм: коли не подчиняется, значит приказывает.

А остальное в контексте устройства цивилизации не имеет значения. Это всё частные детали, не относящиеся к вопросу темы.

то дело будущего.

Блаженны верующие.

Не хочу спорить с архаичными идеологемами, т.е. с религией.

Будучи индокринированым религией мифического "будущего" это действительно делать проблематично.

[gas]

Если война нанесёт больше ущерба нежели мирное сосуществование - то логичнее выбирать мирное сосуществование.
В конце концов роботы могут добывать себе полезные ископаемые на тех планетах, на которых живые существовать не могут. А у живых можно что-то выторговать. Если у них это, конечно, есть.

Убийство просто ради убийства вообще-то бессмысленно. Зачем интеллекту заниматься бессмысленным делом? Разве что его кто-то изначально создавал и программировал для убийств.

У роботов, независимых от людей нет понятия денег, и тп, и ущерб не в чем подсчитывать, роботы могут изготовить сколько угодно продукции, но ее строго планируют, а если вдруг понадобится резкое увеличение производства, справятся без проблем, и никаких убытков не ощутят,
Еще раз объясняю, живой разум для роботов - непредсказуемое явление, требующее огромных ресурсов для слежения и попыток управления, поскольку главная цель у ИИ оптимизация, управление и достижение железного порядка, то жизнь для них это чрезвычайная проблема и помеха, и лучший способ от нее избавиться, это ее уничтожить, как говорится, нет человека, нет проблем. Да и смерть убийство для них поэтому является положительной деятельностью.

ИИ не захочет мирного существования с живыми, ибо живые занимают ареал существования, который могут занять роботы. плюс нет гарантии, что живые не попытаются отбить ареал роботов, плюс будучи на много сильнее живых, ИИ просто не видит смысла договариваться с живыми, когда можно запросто уничтожить живых и забрать их ареалы и материальные средства.

[gas]

Что же касается "роботов-репликаторов", они не могут нарушить законы нашей Вселенной. Начав размножаться и в конечном итоге конкурировать за ресурсы, эти роботы автоматически, самим своим бытием в нашей Вселенной попадают под юрисдикцию законов естестенного отбора Дарвина. И, неизбежно приобретут все атрибуты естественных живых существ - стремление к самосохранению, инстинкты выживания, и т. д.

Дарвинизм основан на селективном отборе, ДНК  и парном механизме размножения живых особей.
Роботы всего этого лишены, отбор не может их совершенствовать, этим занимается конструктор, в частности ИИ, но никак не отбор. Даже для человека и животных дарвиновский отбор очень ограничен, он почти не может создавать новых видов, особенно более совершенных. Он лишь улучшает приспособляемость существующих видов, плюс действует в направлении упрощения генома и отупления живых существ, в полном соответствии со вторым законом термодинамики, усложнение живых существ, осуществляются генными инженерами.

[a.ryabov]

стремление к самосохранению, инстинкты выживания,

Какие у роботов могут быть инстинкты к самосохранению и выживанию?  Они же «железные».  Сломалась «шестерёнка» сделал новую, заменил и крутишься  далее в режиме вечного двигателя. Они не мы.

[EvilShurik]

Важен фактор репликации. Есть самовоспроизведение - есть и Его Величество Отбор, запускающий дарвиновскую эволюцию. Инстинкты самосохранения самозарождаются в эволюционирующей системе. Просто потому что не заботящийся о собственном выживании гарантировано выбывает из существования.
Роботов-то в топике позиционировали как самовоспроизводящихся? ИИ только их дизайн осуществляет, но производством роботов не занимается? Тогда лишь вопрос количества роботов и времени их существования, когда среди них начнётся дарвиновская эволюция. Если роботы не самовоспроизводятся, а собираются на заводах, то тогда эволюция будет происходить среди ИИ, управляющих производством. Есть веские причины, что таких ИИ будет минимум несколько, оптимум - множество. Единый ИИ будет раскалываться на части требованиями оптимизации. И снова получим аналог эволюции. Что в итоге может быть - читайте "Непобедимый" Станислава Лема.

[Rattus]

Какие у роботов могут быть инстинкты к самосохранению и выживанию?

Запрограммированные.

Сломалась «шестерёнка» сделал новую, заменил и крутишься  далее в режиме вечного двигателя.

С учетом того, что никаких вечных двигателей в природе нет, думаете это всегда и везде так легко?

[gas]

Инстинкты самосохранения самозарождаются в эволюционирующей системе.

саморепликация возможна лишь в утопическом роботическом мире. в реальном ее не будет, а будет воспроизведение и усовершенствование на заводах под контролем ИИ.
И не инстинкты, а программы самосохранения, кои будут под контролем роботической империи, надо и сея программа отключается, это не живые существа, у которых отключить инстинкт почти не возможно.

[neolopus]

У роботов, независимых от людей нет понятия денег, и тп, и ущерб не в чем подсчитывать, роботы могут изготовить сколько угодно продукции, но ее строго планируют, а если вдруг понадобится резкое увеличение производства, справятся без проблем, и никаких убытков не ощутят,

Даже если нет денег - всё равно есть понятия "трудоёмкость", "металлоёмкость", "время изготовления", и т.д.

Обязательно есть какой-то эквивалент стоимости. Просто это будут не доллары и не рубли - а какие-нибудь робото-часы, килограммы или тонны руды, штуки уже произведённых машин, проценты израсходованной руды полученной с планеты. Всякая произведённая вещь в чём-то выражается, в каких-то единицах, ибо в процессе производства на неё сколько-то чего-то уходит.

Если ИИ "видит", что на данном направлении его производство буксует, ибо произведённые изделия выводятся из строя живыми (а то и достаются после этого живым со всеми вольфрамами и уранами в них) - к какому выводу он должен будет придти?

Ну всё зависит от того, насколько много ресурса теряется.
Если это приемлемо - он (ИИ) может и продолжать подобное поведение. Неограниченно долго.
Если потери слишком велики - вести войну нет смысла.

Рано или поздно он поставит себе вопрос - а за что он воюет? За абсолютный контроль над живыми? А зачем? Он контролирует вон то, вон то и вон это. Ну не будет он контролировать полностью вот эту планетку - и что тут страшного? Какой ущерб ему в невозможности контроля этого конкретного мира?

Наверняка ИИ "догадается", что методы контроля бывают не только военные.

А вот это уже просто песня:

живой разум для роботов - непредсказуемое явление, требующее огромных ресурсов для слежения и попыток управления, поскольку главная цель у ИИ оптимизация, управление и достижение железного порядка, то жизнь для них это чрезвычайная проблема и помеха

Да! Именно так!
Жизнь, живые существа с их иррациональным и нелогичным поведением, с их творческим началом, которого нет у роботов, с их фантазией, которой тоже нет у роботов - могут стать "костью в горле" у ИИ.

А могут стать и его находкой.
Его движущей силой.
Источниками самых диких идей для него. Идей, которые ему самому никогда и не пришли бы в голову.
Живые - это такое поле для оттачивания его алгоритмов понимания, для оттачивания его базы проектов, для исследования возможностей воспроизводства безо всяких фабрик, да и для многого другого - что, быть может, ему не убивать живых надо, а на руках их носить.

Потому что, в принципе, нетрудно колонию убить, ликвидировать, выжечь, зачистить. Дабы не мешали под ногами.
А есть и другой способ поведения - у них чему-то научиться. Взять у них что-то, чего нет у ИИ.

Юмор, ирония, эзопов язык, искусство, преданность (не запрограммированная, а идейно-добровольная), самопожертвование когда старший закрывает собой младшего или когда умный и сильный спасает ценой своей умной и сильной жизни слабого - всего этого у роботов нет.

И им будет, думаю, интересно поизучать этот феномен. И постараться что-то оттуда взять на пользу себе.

ПС: но в целом соглашусь с тем, что, при всём при этом, оружие, конечно же, будет нужно.
Потому что если роботы решат, что им легче "зачистить" планету от живых существ, чем учитывать их интересы - у живых существ должна быть возможность роботов в том "переубедить". Что можно сделать лишь через серьёзные потери и достижимо лишь силой оружия.
Увы.
Жизнь - такая штука. Воинственная.
Всегда надо иметь возможность принудительно усадить другую сторону за стол переговоров.

ППС: Всё это относилось к "чужим", чужеродным роботам, откуда-то прилетевшим на нашу голову.
Со своим же собственным ИИ, который мы создаём сами - картина другая. Он - наш. Он - свой. Мы сами его лепим. Каким вылепим - такой и будет.

[Rattus]

саморепликация возможна лишь в утопическом роботическом мире. в реальном ее не будет

Обязательно есть какой-то эквивалент стоимости.

Порою в теме встречаются и на удивление разумные мысли.

Какой ущерб ему в невозможности контроля этого конкретного мира?

Чем шире сфера контроля, тем меньше вероятность быть загнанным в ловушку в будущем. Собственно сила, стремящаяся к расширению области контроля (степеней свободы) и есть сила интеллекта согласно уравнению Висснер-Гросса.

Наверняка ИИ "догадается", что методы контроля бывают не только военные.

ВНЕЗАПНО до этого догадываются даже человеки с IQ поболее 90.

Остальное же - чудесные потоки разума от тех, кто не знает что такое КИПиА и прочие смежные отрасли...