Печальный опыт прогрессорства

[vika vorobyeva]

Разумеется, мы можем создать машин-идиотов, которые нас сотрут с лика вселенной и забудут про нас. Но я не предлагаю создавать какие угодно лишь бы машин. Машины-наследники действительно должны быть умны. Не важно, какими они в итоге получатся. "Добрыми" к нам? "Злыми" к нам? Это вторично. Первично чтобы они не были идиотами. Это ГЛАВНЫЙ критерий. А это означает, что они должны иметь АДЕКВАТНУЮ картину окружающей их реальности. Это означает, что они просто обязаны помнить, знать, откуда они произошли.

Это необходимое и ДОСТАТОЧНОЕ условие.
Все. Больше ничего и не надо.
По-настоящему УМНЫЕ машины-наследники  ВЫНУЖДЕНЫ  будут не просто помнить, что произошли от людей. Это знание тянет за собой куда больший объем знаний чем простое запоминание факта "нас создали люди". ...
Если они умны, они должны иметь очень обширные представление о том кто эти люди были, как они мыслили… То есть знать, помнить, нашу историю, психологию. По сути, культуру. Просто знать ее.

Господи, Алекс! Да зачем им мы и наша культура? Зачем им ЗНАТЬ во всех подробностях, как они возникли? Это избыточность, совершенно не нужная искусственной расе, занятой освоением Галактики и войнами с с себе подобными.
Им нужно знать, что делает и что собирается делать ближайший конкурент. Высматривать новые цели для освоения. Зализывать раны после очередной атаки, перестраивать себя ради большей неуязвимости, обдумывать и проводить в жизнь планы нападения. Что делали миллиарды лет назад комочки белковой слизи, случайностью или чудом давшие им начало - в этом мире абсолютно не важно. Это не повысит ни обороноустойчивость, ни успешность атаки, ни военный потенциал в целом.

Вика!
Вы видите зачем "бульдозер" должен быть маркирован именно  "MADE IN ERTH" и  никак иначе?

Нет, не вижу. И рада бы увидеть, но не вижу.
Искусственный разум - такой, как Вы его описали - совершенно не нуждается ни в каких культурных надстройках. Он как черная дыра - "забывает", из чего он был сделан. Помните, Вы сами утверждали, что самолеты всех фирм очень похожи, поскольку их форма диктуется законами аэродинамики? Строение ИИ независимо от строения биологических создателей будет определяться законами межзвездной войны. Наш ИИ и не наш ИИ будут одинаковыми с точностью до n-ного знака после запятой, поскольку и те, и другие будут ЦЕЛЕСООБРАЗНЫ. Всякие финтифлюшки помимо этой целесообразности только отнимают ресурсы и оперативную память и понижают конкурентоспособность отдельной особи

[alex_semenov]

Алекс, Вы, как всегда, очень красноречивы и, как всегда, бьете на метр мимо

Ну и хорошо.

Откровенно говоря, я не считаю, что Вы спорите серьезно. Мне кажется, Вы просто забавляетесь, взбалтывая умы участников дискуссии своими парадоксальными идеями. Нарочито заостренными идеями, на гране шаржа. Так сказать, бросаете камешки в пруд и смотрите на расходящиеся круги

Я могу что-то думать, считать, к чему-то склоняться, но быть уверенной? Без фактов?

Вика, это понятно. Нет смысла уточнять. Мы ведь здесь как раз пытаемся понять что человек (вы, я) предполагает. А как реальность будет располагать, это уже другая тема.

Я думаю, что люди никогда не полетят к звездам.
Я думаю, что рано или поздно ИИ будет создан.
Но я не считаю, что моя жизнь, существование человечества или биосфера Земли могут быть оправданы созданием ИИ и ничем другим.

Если рассуждать строго, то нам не перед кем оправдываться. Ни вы, ни я в архангела Михаила на входе в рай не верим. Верно? Единственные перед кем мы можем оправдываться - перед собой. Собственным "Я". Ну может быть общественным "Я" вернее "МЫ". Перед потомками. Все.
Создать полноценный ИИ  - совершить метоэволюционный скачек. Совершить нечто на уровне зарождение жизни. Нечто сравнимое с галактическим процессом. Если вы достаточно самолюбивы и у вас появится возможность это сделать - неужели вы откажетесь, Вика?
Возможно вы женщина, а мой порыв оставить как можно более глубокий след в истории вселенной (побыть на месте бога) свойственен только самцам?
Гм…

Потенциально бессмертная механическая тварь, взявшая от нас только математику и физику, мне заранее глубоко безразлична.

Вы здесь неразумны. Это - душевный порыв. Не более. 
Я пошел у вас на поводу, поддакивая что они возьмут тольок физику и математику. Но я не верю что только это. Разумная машина не может быть тупым зверем. Я очень сильно уверен что три вещи она должна иметь таких, которые есть у нас.

1. Она должна иметь сложный набор эмоций.
2. Она должна иметь сознание. Пускай не такое как у нас но сознание.
3. Она должна сомневаться.

В противном случае эпифеномен разума не сложится. Думающая машина должна взять основные "пороки" присущие людям. Не потому что нам так хочется. Потому что достоинства (например, разумность) есть продолжение недостатков (неуверенности в себе, например).

Чем позже она будет создана - тем лучше. По крайней мере, та механическая тварь, которую Вы тут рисуете (реально ни Вы, ни я не можем заранее знать, каким именно будет этот ИИ).

Разумеется. Мы не можем заранее знать что в итоге получим. Мы должны быть очень осторожны. Но не пугливы. Здесь недеяние настолько же опасно как чрезмерная глупая, самоуверенная активность.
Здесь любая крайность - неразумна. И вами движет неразум. Вами движет животный страх. Неприязнь "к железкам".
Но я считаю, что как раз неразума и стоит бояться больше всего.

Мысль о тупой экспансии во все стороны, экспансии, которая выжигает все, до чего может дотянуться, и оставляет за собой ровный асфальт, вызывает во мне отвращение (даже если это наша экспансия).

Заасфальтированная вселенная - это яркий образ введенный мною для простоты рассуждений (как упрощение, крайность) но выхваченный Гансом и навешенный мне как ярлык.
Как вы можете испытывать отвращение к заасфальтированной вселенной? Это же метафора которую даже я (кто ее придумал) представить не могу.
Тупая экспансия во всех направлениях мною предусматривается. Но как чисто исследовательская "тупость". Проникнуть повсюду, посмотреть исследовать понять, поделиться с другими кто проник в другом месте. Повсеместный "асфальт" при этом не предполагается. Только "наше присутствие повсюду".
Но даже такая исследовательская  экспансия (волна фон-Нейманов) предполагает их присутствие здесь как не поверни именно как наблюдателей за нами.
Ну да ладно. Не об этом речь.

Я не утверждаю, что это невозможно - в конце концов, есть же племена, живущие подсечно-огневым земледелием. Но я не хочу в этом участвовать ни в качестве жертвы, ни в качестве победителя.

Ваше право. Участие всех в этом и не предполагается. Достаточно чтобы была критическая масса таких "самоуверенных идиотов" как я.

И если в будущем в результате "культурной эволюции" выживет только этот мем и только эта линия поведения - мне плевать на это будущее, пусть оно строится без меня. Это та вечность, в которой мне совершенно не хотелось бы быть даже в виде памяти.

Ваше право, Вика. Но другой ведь вряд ли выживет…

Мне не нужны ВЦ, чтобы увидеть чужой разум. Я открываю клетку, беру оттуда Геру, Алису и Ленор и вижу разум у них в глазах

Вика, это не разум.
Это эмпатический фантом. Иллюзия. Приятная но не более. Два бомжа в ж… пьяные тоже могут заглядывать друг другу в глаза и говорить "ты меня понимаешь?" и они друг друга "понимают". До глибины души. Пил, заглядывал, понимал.
Но разумом тут и не пахнет.
Это духовное единение или я там не знаю что. Но это не разум - точно!
Разум нельзя ощутить эмоционально. Понимаете?
Вы просто не понимаете что такое разум подменяете его и главное - вы его недооцениваете. Это свойственно обычным людям.

Совсем несложный, мимолетный (крысиный век недолог), любопытный, дружелюбный, смелый.

Во-во-во. Вы путаете мягкое с теплым…

Такого рода "разум" можно создать уже сейчас. Два пальца об асфальт!
Но это не разум.
Это - туфта.

Может, мы просто неудачная попытка? Может, мы благополучно поубиваем друг друга, а биосфера Земли позволит появиться еще одному разумному виду?

Может быть. Но не нам об этом судить. Наша задача - пробовать. Экспериментировать. А судить будут те кто будут после нас. Если будут.
Мы будем однозначно неудачной попыткой если будем целоваться с крысами а не заниматься чем-то по-настоящему новым, невиданным, опасным.

С учетом большого количества условно-разумных вокруг нас, я думаю, за этим дело не станет. Еще 10-20 миллионов лет, и...

Да фиг там!
Как говориться, не искушай господа бога своего! Если этой планете раз повезло породить разум, это не значит что она будет рожать его теперь как ваша крыса приплод!

А тут Ваш бульдозер, асфальтирующий Землю, а потом и всю Галактику.
Ну уж нет. Я лучше лягу гумусом чуть повыше костей тиранозавра рекса, чем поспособствую его созданию.

В самом худшем случае моему бульдозеру ваши крысы будут безразличны. Взорвать планету ради металлов? Как не верти, проще уж взорвать Марс или Меркурий.  Да и то я думаю до этого если и дойдет дело, то на планете уже вся живность поиздохнет. Биосфере Земли осталось ведь не более миллиарда лет. А то и меньше. Мы давно уже прошли середину эпохи жизни на Земли. Нельзя войти в одну реку дважды…

[alex_semenov]

Господи, Алекс! Да зачем им мы и наша культура? Зачем им ЗНАТЬ во всех подробностях, как они возникли? Это избыточность, совершенно не нужная искусственной расе, занятой освоением Галактики и войнами с себе подобными.

Вы так уверенно это произносите!

Им нужно знать, что делает и что собирается делать ближайший конкурент. Высматривать новые цели для освоения. Зализывать раны после очередной атаки, перестраивать себя ради большей неуязвимости, обдумывать и проводить в жизнь планы нападения. Что делали миллиарды лет назад комочки белковой слизи, случайностью или чудом давшие им начало - в этом мире абсолютно не важно. Это не повысит ни обороноустойчивость, ни успешность атаки, ни военный потенциал в целом.

То есть они должны быть ТУПЫМИ солдафонами.
Так?

Вика!
Вы видите зачем "бульдозер" должен быть маркирован именно  "MADE IN ERTH" и  никак иначе?

Нет, не вижу. И рада бы увидеть, но не вижу.
Искусственный разум - такой, как Вы его описали - совершенно не нуждается ни в каких культурных надстройках.

Я описываю? НЕТ. Это вы его описываете некой тупой машиной убийства, лишенной сомнений. При этом я не сильно с вами споря, пытаюсь показать, что ДАЖЕ ЕСЛИ ЭТО И ТАК, то и в этом случае им понадобятся знания об их создателях.
То есть, я пытаюсь с вами спорить в пределах ваших умозрительных (и явно глупых) допущений. И даже в  этих пределах я нашел за что зацепиться. Но вы и это не хотите признать!

Он как черная дыра - "забывает", из чего он был сделан.

Кто вам такое сказал? Где доказательства?
А я уверен что те кто забыл "из чего они сделаны" - это дураки. А дураки дольше умных не живут.

Помните, Вы сами утверждали, что самолеты всех фирм очень похожи, поскольку их форма диктуется законами аэродинамики?

Помню.

Строение ИИ независимо от строения биологических создателей будет определяться законами межзвездной войны.

Почему войны? Война - это крайность. Один из краев гаусианы. Война - удовольствие дорогое и это всегда было, есть и будет последним доводом королей. И только! Дураки которые все решают войной обречены как обречены любые СПЕЦИАЛИСТЫ.

Наш ИИ и не наш ИИ будут одинаковыми с точностью до n-ного знака после запятой, поскольку и те, и другие будут ЦЕЛЕСООБРАЗНЫ.

Вика, какой дряни об ИИ вы начитались?
Что значит целесообразность? Узкая заточенность. Тупая заточенность на что-то. Верно?
И это ИНТЕЛЛЕКТ по-вашему?
Интеллект это всегда универсальность. Гибкость. Пластичность. Приспособляемость.
Это способность найти решение там где его вроде как и нет.
Если у нашего ИИ эта гибкость будет в 10 или миллион раз выше чем у нас с вами, то простите, о чем это будет говорить?
О том что они  духовно БОГАЧЕ нас с вами. Да, да. Духовное богатство это не поцелуйчики с собачками и мышками. Не пение народных песен на пьянке. И не готовность сдохнуть за очередного короля. Это нечто гораздо более сложное. И ЭТО нуждается в очень сложном мирровозрении которое должно включать не только настоящее но и прошлое и возможное будущее.
И вот в этом прошлом мы навсегда и должны остаться.

Всякие финтифлюшки помимо этой целесообразности только отнимают ресурсы и оперативную память и понижают конкурентоспособность отдельной особи

Глупость вы несете. Да, только 20% наших знаний мы используем более-менее полноценно, 80% - это балласт, "культурное наследие",  но без этой избыточности, "мусорного ДНК",  разум не может эволюционировать, искать новое, не может называться разумом. Это не патетика. Это математика. Это закон функционирования любой разумной системы как эволюционного алгоритма. Чем разумней такая система, тем больше ей надо подобного "культурного наследия". Тем богаче должна быть матрица эмоций, тем  сложней механизм сознания. А вы опираетесь на заскорузлые мифы о думающих машинах как о неких узколобых бездушных, бессознательных числогрызвах.
Ну и о чем тут можно спорить?

Все, Вика! Мы с вами разругались навек!!!!
Я вас больше не люблю!!!

Почти что…

[Юрий_К]

Кстати я не думаю что мы - единственные в видимой части вселенной. Но я уверен что мы единственные в скоплении галактик.

Вы имеете ввиду Местную Группу Галактик, в которой около 50-ти галактик?

[Инопланетянин]

мы единственная во вселенной высшая (разумна) форма материи. Это налагает на нас своего рода ответственность. Мы не имеем право ОПУСТИТЬСЯ (от уже достигнутого уровня организации). Наше возможное одиночество, кроме того, предоставляет нам свободу действий (мы можем развиваться в любом направлении не считаясь ни с кем).

Видите ли, это мягко говоря, не совсем правильно. В полном одиночестве можно делать всё. В том числе и опускаться, забывать достигнутое и впадать в варварство. Никто ж не осудит и не воспользуется нашей слабостью. Как раз в присутствии конкурентов нельзя опуститься. Присутствие постороннего или хотя бы знание, что он где-то есть очень подтягивает. Вы и сами об этом писали. Нам же надо торопиться с развитием, пока другие лебеди не налетели да нас в зоопарк не посадили.
Собранность в присутствии конкурента это и бессознательное свойство нашей психики и логически обоснованная необходимость. Ну представьте, что завтра будут получены сигналы. Космонавтика начнёт развиваться не хуже, чем во время холодной войны. Тогда конкуренты были. Правда все здесь же, но этого хватило. А сейчас, когда мы одни... кому нужен сейчас дальний космос? Кому нужно хоть что-то кроме спутников? Кто выделит деньги на развитие межзвёздных способов перемещения?

[alex_semenov]

Кстати я не думаю что мы - единственные в видимой части вселенной. Но я уверен что мы единственные в скоплении галактик.

Вы имеете ввиду Местную Группу Галактик, в которой около 50-ти галактик?

Нет, я имею в виду область примерно в 150 миллионов световых лет. В центре этой области находится скопление галактик Вирдж в несколько тысяч галактик. А мы - на окраине этого скопления за 32 миллиона свл. лет от него.

Найдите эту карту от нэшенел географик и посмотрите:



я имею в виду большой цилиндр справа (а вы большой цилиндр слева). Я считаю, что наши ближайшие братьев надо искать где то в этом бОльшем объеме. Скорей всего в самом скоплении Вирдж.

[alex_semenov]

мы единственная во вселенной высшая (разумна) форма материи. Это налагает на нас своего рода ответственность. Мы не имеем право ОПУСТИТЬСЯ (от уже достигнутого уровня организации). Наше возможное одиночество, кроме того, предоставляет нам свободу действий (мы можем развиваться в любом направлении не считаясь ни с кем).

Видите ли, это мягко говоря, не совсем правильно. В полном одиночестве можно делать всё. В том числе и опускаться, забывать достигнутое и впадать в варварство.

Никто ж не осудит и не воспользуется нашей слабостью.

А я сам себя?

Как раз в присутствии конкурентов нельзя опуститься. Присутствие постороннего или хотя бы знание, что он где-то есть очень подтягивает.

Допустим. Но тогда знать есть они или нет как раз и не обязательно. Достаточно подозревать, что они где-то есть (а пока мы их не найдем такое подозрение у нас будет всегда). И пока мы не знаем точно кто они, где они - это нас будет путать, гнать вперед по пути прогресса еще больше.
Вы же знаете чем отличается триллер от ужастика? В триллере ничего страшного не происходит. Страх только нагнетается. А в ужастике страшное уже случается. Поэтому триллер всегда страшней.

Вы и сами об этом писали. Нам же надо торопиться с развитием, пока другие лебеди не налетели да нас в зоопарк не посадили.

Вообще говоря, я писал глупость. Другие лебеди либо уже здесь побывали (миллионы и миллиарды лет назад) либо прибудут сюда через миллионы если не миллиарды лет. И спешить нам надо в масштабах этого времени.

Собранность в присутствии конкурента это и бессознательное свойство нашей психики и логически обоснованная необходимость.

Разумеется. Только общий враг может нас сплотить. Это очевидно. Но не слишком ли мы моно просим от вселенной? По сути мы уповаем на еще одну подачку судьбы…
Но сколько можно?
Не пора ли повзрослеть и самим ножками, ножками?...
Сколько можно сидеть на шее?

Ну представьте, что завтра будут получены сигналы. Космонавтика начнёт развиваться не хуже, чем во время холодной войны.

Вы действительно в это верите? Вы наивны. Более чем наивны!
Допустим. Пришел сигнал. Измеряли расстояние. Прикинули что им до нас как нам до них. И все успокоятся. Зуб даю!
Люди способны приспособится к самым невероятным новостям. Если завтра над городами  Землю зависнут тарелки инопланетян и просто поставят нас перед фактом своего существования (не начнут от нас чего-то требовать радикально нового, например сдохнуть) поверьте, их прилет для нас будет новость на месяц. На пол года. Но не более. Через десять лет их корабли на небе станут обычным делом. Будничностью. Обыденностью.
Нихрена эта новость нам не даст. Читайте "Пикник на обочине" Стругацких. Это - абсолютно ДОСТОВЕРНЫЙ сценарий того, что произойдет если мы получим четкие подтверждения что они есть. В лучшем случае будем таскать "хабар" и паразитировать на нем. Но пользы то этого нам будет НОЛЬ. В длительной перспективе будет только вред.

Тогда конкуренты были. Правда все здесь же, но этого хватило. А сейчас, когда мы одни... кому нужен сейчас дальний космос? Кому нужно хоть что-то кроме спутников? Кто выделит деньги на развитие межзвёздных способов перемещения?

Я понимаю вашу тоску. Но поверьте - инопланетяне нас не спасут. Не вытянут за уши. Увы. Мы слишком тупы, ленивы и неподъемны.
Получив знание, что они есть, мы поменяем шило на мыло. "Мыло открытия" конечно же освежит момент бытия, развеет нашу скуку, но оно быстро смылиться в ничто. А шило нашего страха (или вожделения) что они где-то там, либо прячутся либо летят через миллиарды св. лет, тысячелетие за тысячелетием нас будет все время подстегивать. Пускай чуть-чуть. Но зато ВСЕГДА пока их еще не нашли. И на большом интервале времени это чуть-чуть будет стоить куда больше чем любой всплеск активности, радость или страх от находки "братьев"-конкурентов.
Нет.
Как не верти нам лучше как можно дольше оставаться в неведение! Это как с атомным оружием. Чем дольше голова Медузы Горгоны в мешке тем она страшней. И есть она там или нет - это уже и не важно. Процесс медленно но идет.

[vika vorobyeva]

Создать полноценный ИИ  - совершить метоэволюционный скачек. Совершить нечто на уровне зарождение жизни. Нечто сравнимое с галактическим процессом. Если вы достаточно самолюбивы и у вас появится возможность это сделать - неужели вы откажетесь, Вика?
...
Я пошел у вас на поводу, поддакивая что они возьмут тольок физику и математику. Но я не верю что только это. Разумная машина не может быть тупым зверем. Я очень сильно уверен что три вещи она должна иметь таких, которые есть у нас.

1. Она должна иметь сложный набор эмоций.
2. Она должна иметь сознание. Пускай не такое как у нас но сознание.
3. Она должна сомневаться.

В противном случае эпифеномен разума не сложится. Думающая машина должна взять основные "пороки" присущие людям. Не потому что нам так хочется. Потому что достоинства (например, разумность) есть продолжение недостатков (неуверенности в себе, например).

У меня создалось впечатление, что Вы меняете правила прямо в процессе игры (по крайней мере, сначала Вы декларируете одно, а потом выруливаете к совершенно другому).
Давайте еще раз, по пунктам.
Я повторю Ваши тезисы.
1. Жизнь - редкое явление, а разумная жизнь - ОЧЕНЬ редкое.
2. Ближайшие разумные существа находятся в скоплении галактик в Деве.
3. Наша сверхцель как человечества - создать ИИ и выпустить его в космос.
4. Созданный нами ИИ будет потенциально бессмертен (как я поняла, именно этот факт привлекает Вас в нем больше всего).
5. Следствие из п. 4 - собственное существование будет для этого ИИ высшей ценностью.
6. Ускоренное расширение вселенной на временах порядка миллиардов лет изолирует гравитационно связанные участки все увеличивающейся бездной пустого пространства. Нашим "гравитационно связанным участком" является Местная группа галактик, где в настоящий момент доминируют наша галактика Млечный путь и спираль в Андромеде. Через миллиарды лет вещество Местной группы большей частью сольется в гигантскую эллиптическую галактику, а частью рассеется. Соседние гравитационно связанные участки станут для нас недоступны даже в принципе.
Все верно, я нигде не напутала?
А теперь давайте рассмотрим следствия из этих постулатов.

Имея своей высшей ценностью собственное существование, наш ИИ будет сильно озабочен собственной безопасностью, причем как локальной (здесь и сейчас), так и глобальной (на масштабах в килопарсеки и миллиарды лет). Имея ограниченную в исторической перспективе "кормовую базу", он должен ревниво устранять конкурентов, как настоящих, так и будущих. Это значит - никакого полноценного размножения (полноценная копия с разумом и свободой воли - это конкурент, с которым придется делить Местную группу). Вы утверждали, что опасность пришлых конкурентов заставит его размножаться и учиться как-то ладить со своим копиями - но ближайшие пришлые конкуренты сейчас сидят в Деве, а через миллиарды лет о них и вовсе можно будет забыть. А вот человечество надо будет уничтожить, пока оно не создало второй (третий, четвертый) экземпляр ИИ, и это придется сделать немедленно.
Разобравшись с нами, он может начать спокойно и не торопясь (над ним не тикает) разбираться с другими очагами жизни в Галактике. Сначала с дикарями, потом с трилобитами, а после и до одноклеточных дело дойдет. По ходу он, конечно, должен тщательно следить за окружающим пространством. Перестраивать подходящие планетные системы под свою цитадель, рассылать полуразумных разведчиков (не обладающих, впрочем, свободой воли) и т.п. Изучить Галактику до последней звезды.
Пока все логично?
ЗАЧЕМ такому существу сложные эмоции и сомнения? Зачем ему о нас помнить? Помнить о том, что белковые существа когда-то породили его, а значит - когда-нибудь могут породить и его конкурента, он должен, чтобы вовремя зачищать планеты от этих белковых существ. Но помнить о нашей культуре? Быть нам благодарным? Зачем, это же не целесообразно и не поможет ему поддерживать свое существование вечно

Как ни крути, а замкнутость доступного пространства, отсутствие сильных внешних конкурентов и сверхценность собственного Я делает наш ИИ жирной Щукой с параноидальными замашками.

[vika vorobyeva]

Вика, какой дряни об ИИ вы начитались?
Что значит целесообразность? Узкая заточенность. Тупая заточенность на что-то. Верно?
И это ИНТЕЛЛЕКТ по-вашему?
Интеллект это всегда универсальность. Гибкость. Пластичность. Приспособляемость.
Это способность найти решение там где его вроде как и нет.

Интеллект - это способность решать задачи. Сложные задачи. Нестандартные задачи. И для того, чтобы их решать - да, нужны гибкость, пластичность и приспособляемость.
Но СТАВИТ задачи - не интеллект. Интеллект их только решает. Ставит задачи ПОТРЕБНОСТЬ. В данном конкретном случае - потребность жить вечно любой ценой. И если эта потребность диктует - "убей всех, чтобы выжить", "умри ты сегодня, а я завтра", то наш ИИ будет гибко, разнообразно и нестрандатными способами (сообразными обстановке) зачищать Галактику от конкурентов, сначала настоящих, а потом и будущих.

Всякие финтифлюшки помимо этой целесообразности только отнимают ресурсы и оперативную память и понижают конкурентоспособность отдельной особи

Глупость вы несете. Да, только 20% наших знаний мы используем более-менее полноценно, 80% - это балласт, "культурное наследие",  но без этой избыточности, "мусорного ДНК",  разум не может эволюционировать, искать новое, не может называться разумом. Это не патетика. Это математика. Это закон функционирования любой разумной системы как эволюционного алгоритма. Чем разумней такая система, тем больше ей надо подобного "культурного наследия". Тем богаче должна быть матрица эмоций, тем  сложней механизм сознания. А вы опираетесь на заскорузлые мифы о думающих машинах как о неких узколобых бездушных, бессознательных числогрызвах.

Нет, Алекс. Я просто додумываю Ваши мысли до конца. Чего и Вам желаю.

Все, Вика! Мы с вами разругались навек!!!!
Я вас больше не люблю!!!

Я, конечно, горько поплачу в подушку, но потом, думаю, с этим справлюсь

[Инопланетянин]

А я сам себя?

История показывает, что в периоды упадка это не помогает. Люди удерживают сами себя от падения пока они не падают, а когда люди падают, то они себя не удерживают.

Вообще говоря, я писал глупость. Другие лебеди либо уже здесь побывали (миллионы и миллиарды лет назад) либо прибудут сюда через миллионы если не миллиарды лет. И спешить нам надо в масштабах этого времени.

В масштабах этого времени мы успеем много раз развалить нашу цивилизацию в ноль и столько же раз подняться. Если не взорвём всю Землю нафиг. Или не удавимся отходами своих технологий. У нас может не быть миллионов лет на неторопливое развитие лениво подгоняемое гипотетическим страхом неизвестно чего. Я понимаю, пора взрослеть, но, ведь, не взрослеем. Может так и не пройдём Великий фильтр.

************************************

Вика, я пока не определился какой угол треугольника Семёнова мне занять. Буду мутировать из Лебедя в Рака, а потом в Щуку по мере развития беседы. Но есть вопрос, с которым я определился давно и прочно. Я категорически против ИИ. Любого. И этого берсерка (или правильнее будет сказать - терминатора?), существование которого Вы поначалу оспаривали. И Терминатора-2 и даже против своей собственной копии на электронной основе.
Причины:
-Такое существо не нужно своим создателям. Именно из тех же соображений из каких оно должно уничтожать конкурентов. Только зачем его ДЕЛАТЬ? Гораздо лучше запускать полуразумных автоматов неспособных взбунтоваться.
-Сделать самореплицирующуюся железку в принципе не возможно. Это не свойство машины. Если цивилизация разовьётся до уровня чего-либо самореплицирующегося, то она с удивлением обнаружит, что заново изобрела живых существ. Железные роботы могут путешествовать в космосе, но только потому, что они примитивные. Они не растут, не размножаются, не живут, не едят... И поэтому легко выдерживают самые разнообразные абсолютно невыносимые для жизни условия. У них нет сложнейшей структуры, которой требуются строго определённые температура, излучение, магнитное поле, гравитация и многое другое. У существа способного к саморепликации такой сложнейшей, а значит неизбежно уязвимой к малейшим отклонениям от благоприятной среды структуры не может не быть.
-В принципе невозможно замотивировать железку на желание жить. Мы не знаем как это сделать. А когда узнаем, то нам будет проще продлить свою личную жизнь до бесконечности.
    Когда-то мы взяли в руки палку. Это усилило силу и увеличило длину наших рук. Со временем палка становилась всё сложнее и мы учились делать с её помощью всё более разнообразные вещи, но по сути, она оставалась всё той же палкой. Продолжением наших конечностей. Способной делать то, что мы сами не можем, но неспособной иметь свои цели. И место этой палки, этого инструмента там же где и на заре истории.
Мы не сможем путешествовать в космосе? Нам таким хрупким и уязвимым перед бесконечной холодной и радиоактивной пустотой нечего там делать? Надо совершенствовать палку. Защиту кораблей, скафандры, двигатели. Через миллион лет будем летать сами, если не поджарим планету. Конечно, нас будут интересовать только землеподобные планеты, конечно, Лем прав - нам нужна Земля, растянутая до размеров Вселенной. И что в этом плохого? Будем изучать издали неземлеподобные планеты и колонизировать, а потом и создавать землеподобные. И бессмертие легче получить разобравшись со своим механизмом обновления клеток, чем запуская благодарных роботов со слепком нашего ДНК.

[Проходящий Кот]

А что мешает подобным сообществам людей начать борьбу между собой?
А ИИ гораздо проще гомофутуриса и поэтому появятся гораздо раньше....

[Dem]

А ИИ гораздо проще гомофутуриса и поэтому появятся гораздо раньше....

Практическая генинженерия, требуемая для создания футуриса - уже можно считать в наличии (кстати, вряд ли он будет "гомо")
А к проблеме создания ИИ - до сих пор никаких подходов.

[Проходящий Кот]

....
А к проблеме создания ИИ - до сих пор никаких подходов.

Шо, опять эта байка. Уже надоело....
 

[gans2]

Прохор, не нервничайте. Не будет ИИ - природа не разрешает без мотивации.
Тридцать лет бились - бросили.
http://newtimes.ru/articles/detail/4754/

[Проходящий Кот]

Прохор, не нервничайте. Не будет ИИ - природа не разрешает без мотивации.
Тридцать лет бились - бросили.
http://newtimes.ru/articles/detail/4754/

А кто сказал, что ИИ будет без мотивации?

[Инопланетянин]

А что мешает подобным сообществам людей начать борьбу между собой?
А ИИ гораздо проще гомофутуриса и поэтому появятся гораздо раньше....

В смысле? Мы и так боремся между собой.
А во втором пункте очень не уверен. Для homo futuris'а надо чуток улучшить уже существующую систему, а для ИИ разработать возможность разума с нуля на абсолютно не приспособленном для эмоций и собственных интересов носителе. И всё равно он в принципе будет лишён некоторых возможностей (саморепликации, универсальности), а, следовательно, полноценным интеллектом не будет. И для того, чтобы, хотя бы, приступить к его созданию надо знать что есть разум по своей сути от и до. Нам до этого ещё дальше, чем до звёзд.

[Проходящий Кот]

Как раз с моделированием эмоций у искуственных существ (как програмных, так и роботов) проблем нет. Это уже освоенная часть ИИ. 
Проблема с Интелектом....
 
А на пути к гомофутурису стоит этика.
Генетические опыты над человеческим зародышами запрещены.
 
 

[Инопланетянин]

А зачем он, вообще, этот гомофутурис? Мы обычные в космос не полетим? И что от этого гф требуется? Устойчивость к вакууму? К радиации? Интеллект >500?

И дайте, пожалуйста, ссылку на эмоциональную машину.

[Проходящий Кот]

А зачем он, вообще, этот гомофутурис? Мы обычные в космос не полетим? И что от этого гф требуется? Устойчивость к вакууму? К радиации? Интеллект >500?

И дайте, пожалуйста, ссылку на эмоциональную машину.

Школа Жданова хотя бы...
http://www.ispras.ru/ru/
Автономный искусственный интеллект
 
 

[Darth Sirius]

Пока вместо Гомо Футуриса получается только Усовершенствованный Гомункулюс (искать по ключевику УГ)