Критика классификации Щука-Лебедь-Рак

[alex_semenov]

До тех пор пока мы не заложем  - никакого ИИ не получим.

Согласен. Не думаю, что можно понять, как построить ИИ, как он будет работать, но создать среду и запустить процесс нам, возможно, будет по силам.

Да мы уже по сути можем в целом понять,  что такое разум. Догадываемся - точно.

Детали - да их много и мы можем до конца их и не узнать. Но это будет уже неважно. Это будут особенности реализации общего принцип.
В любом случае все попытки придумать способ (причину) как бы человечество ухитрилось не разобраться в работе своих мозгов очень искусственные, натянутые. Чезез 40 лет (как считают оптимисты) или через 400 мы это сделаем, если НТР не захлебнется вместе с цивилизацией.

Если рассматривать Вселенную в целом, то она и так в тупике, ВСЕ уже есть, ВООБЩЕ ВСЕ, и прямо сейчас, задумайтесь над этой картиной мира: http://modcos.com/articles.php?id=40

Ну это красивая модель. Притом никак не проверяемая. По сути мало отличимая от религиозных концепций.

Те же "витамины" Семенова, необходимость которых для нанорепликаторов весьма сомнительна:
http://evolbiol.ru/fedonkin2003.htm
http://elementy.ru/news/430429

Ну если все так прекрасно… то и "слава богу".

У него не было цели добраться до Америки и Австралии, но он туда попал.

Да, это возможно. Но такое положение дел ортодоксальных Лебедей не устраивает. Ударная волна разума должна быть быстрой (по Кулишу - вообще чуть ли не со скоростью света)!

Гм… Почему же?
http://go2starss.narod.ru/pub/E007_FSN.html

Медленная диффузия сквозь Галактику займет время, сопоставимое с возрастом Галактики, а значит, на объяснение парадокса Ферми уже не годится. Ведь Лебеди объясняют крайнюю редкость жизни и разума именно отсутствием явно видимых асфальтоукладчиков! Типа, раз никто не гонит волну - гнать волну просто некому, и мы одни.
Но если "волна" расползается со скоростью, лишь немного выше средней скорости звезд (скажем, 100 км/сек), то Галактику она пересечет (считая диаметр диска 30 кпк) за 300 млн. лет. А если учесть, что мало переместиться от звезды к звезде, надо там еще и окопаться, освоить захваченное - то счет вообще может пойти на миллиарды лет.
Так что если дешевой энергии нет, "быстрой" волны не получится, как и классического сценария Лебедь.

А если средняя скорость 300 км/с, то потребуется 100 млн. лет. Это все равно в 4 500 раз меньше чем возраст Земли и Солнца. То есть на три порядка быстрее. По сути мгновенно.
Главная мысль - Ударная Волна накрывает галактику "мгновенно". Относительно мгновенно.
Второе. При такой скорости диффузии глупо считать время остановки. Если перелет длиться десятки тысяч лет то для расцветания у звезды (имея там массу ресурсов для роста) тысячи лет будет более чем достаточно.  Но тысяча лет это десятая от десяти тысяч. Если бы вы летели быстро, перелет занимал десятилетия или столетия, то период задержки "на оседлость" надо учитывать. Но если вы перелетает очень медленно, тысячи и десятки тысяч лет, то остановка в этом случае будет на порядки меньше чем сам перелет. И учитывать ее при расчете нет смысла.

Единственно, когда ваша логика имеет шанс, если перелет длиться с пекулярной скоростью. То есть всего лишь десятки км/с. Со скоростью комет. Но вообще говоря, если вы исходите из концепции редкости дешевой энергии, такая мизерная скорость не имеет смысла. Находясь в пути десятки тысяч лет вы потратите на поддержания своей колонии  энергии БОЛЬШЕ чем на разгон и торможение. Смысл тогда экономить энергию на разгоне-торможении и затягивать перелет?
Мощность, которая вам нужна при старте к звездам пропорциональна кубу скорости перелета. Мы оценивали как наиболее здравую скорость 0.1с  Но если вы выберете 0.01с (3000 км/с) вам нужна мощность в 1000 раз меньшая (то есть мы могли бы уже позволить себе такой запуск по мощности) хотя общие энергозатраты меньше всего в 100 раз (и для нашей цивилизации будет накладно). А для разгона до скорости 0.001с (300 км/с) нужен уже в миллион раз меньшая мощность (доступная уже нам), да и энергозатраты  в 1000 раз меньше. То есть, даже для нашего уровня добычи энергии медленная межзвездная колония не бог весть какая энергопроблема. Другое дело что мы не умеем строить межзвездные "муравейники". Но это мы. А другие формы разума могут оказаться самой их эволюцией для этого очень даже приспособлены. Нельзя же судить о скорости ЛЮБОЙ ударной волны разума исходя только из особенностей природы человека.

Вообще исследование нижней границы скоростей для Ударной Волны Разума  - отдельная интересная проблема, которую мало кто исследовал.

Мол, "все равно помирать!" Зачем же тогда куда-то стремиться, лететь, эволюционировать!

Алекс, не выдумывайте. Это где я такое говорила?
Если завтра выяснится, что на нас прет аквилианский чужой флот, и у нас всего 200 лет, чтобы подготовиться - я первая надену робу и засучу рукава. Мои слова "подготовиться к встрече чужого асфальтоукладчика" означали именно это: рыть окопы и смазывать стрелы ядом

Пардон… Просто я  воспринял вашу реплику как иронию в контексте предыдущего ответа. Однако, придется отвечать "где". Помните мы спорили о роли человека в зарождении "машинных наследников"?
Вы уверяли, что нам нет разницы чужие они или свои. Я же утверждал, что свои, ПО КРАЙНЕЙ МЕРЕ, нас запомнят как своих ПРЕДКОВ. А чужим - мы еще одна слизь на их дороге. Поэтому разница есть. Вы никак не хотели понимать этой разницы. Мол, что то, что это - все одно ДЛЯ НАС. Именно тогда я и заподозрил вас в декадентстве.
Суть в чем? "Рыть окопы и самзывать стрелы ядом"  способ ведь один - создать свою противоволну машин, надеясь, что свои машины нас пощадят. При этом, надо это делать с упреждением. Есть чужая волна? Нет чужой волны? Свою надо гнать в любом случае! Когда узнаем что  чужая таки есть - будет поздно.
Это очень напоминает идиотскую ядерно-стратегическую концепцию "упреждающего возмездия". Именно в своем кретинизме она и прекрасна!

Если же нас уже накрыла чужая волна (Рак) то свою они нам погнать уже  не дадут. Ясный пень. Тогда если они объявятся, действительно остается рыть окопы, смазывать стрелы… В буквальном смысле этого слова. Готовиться умереть красиво.
"Умереть" я имею в виду в переносном смысле. Остаться на своей планете закупоренными - это тоже по сути умереть. Если не пришельцы, собственное солнце сожрет закупоренную цивилизацию.

Делаем дальше небольшой шаг и задаём вопрос: Если научная картина мира - миф, то чем она лучше любого другого мифа, например религиозного?
Нет, пожалуй эта слишком большая жертва…

Лично я считаю, что научная картина и так есть миф. По своей сути она мало отличается от картины шамана. И то и это - умственные конструкции разумных существ о внешнем (для них) мире. Просто научная картина использует куда более МОЩНЮУ методику своего построения. То есть этот миф куда точней. И при этом сей миф изначально декларируется лишь приближением. То есть наука говорит: выстроенная мною картина всегда будет неточной, неполной, и процесс уточнения будет вечным.
Религиозные догматы в этом смысле иные. У них иная цель.

Самое главное. Я не понимаю о каком "чуде" идет речь? Мы тут уже говорили о "бесконечных обезьянах". Даже если мы единственные в видимой части вселенной (и даже невидимой) никакого чуда в этом нет. Теория вероятностей вполне объясняет такое "чудо" (в духе Больцмана) как малую но все же ненулевую вероятность.
Хотя я сам не очень верю в такое чудо.
К такому выводу мог бы придти "мозг Больцмана", скажем Океан Соляриса (если бы он существовал), который возник сразу из ничего. Но мы ведь знаем что наш разум  имеет предысторию движения вверх по лестнице эволюции. Клетка (для нас) возникла из ничего. Но мы ведь возникли в процессе упорного негэнтропийного процесса на Земле из этой клетки! Само это говорит что мы вряд ли одни во введенной.
Но нас может в ней быть очень мало.
Невероятно мало.

Семенов почему то зацепился за Вику и  игнорирует меня. А ведь это я предположил про минмимальный размер саморепликатора в тератонну, бгг

Почему тератонну? Давайте 100 тератонн!  Гулять так гулять!

Сомневаюсь, что «огонь мерцающий в сосуде» можно проверить алгеброй. Это насчет «понять» - область, охватываемая этим термином слишком узка, чтобы претендовать на всеобщность. Можно понять, как слепить сосуд и как поместить в него огонь, дальнейшее вне нашего контроля. Постичь, причаститься (быть сопричастным), возможно более близкие термины.

Я предлагаю в качестве непостижимого огня в сосуде - математически абсолютный хаос. Квантовый хаос (если хотите). Чем не огонь?
Мы можем лепить сосуд, запустить туда огонь. А "понимать"  не обязательно.

Меня вообще смущает сам термин «гонит ударную волну разума». Сразу представляется рой космической саранчи, заполняющий солнечные системы, въедающейся во все мало-мальски крупные объекты, чтобы сделать из них себе подобных и оставив после себя кучу экскрементов в виде космической пыли и газа распространяться дальше. У меня такое поведение как-то не ассоциируется с разумным. «Волна разума», если это, действительно, разум, в моем понимании, распространяется как волна информации, легко и незаметно, почти не касаясь материи. Кто не настроен на эту волну, вообще может ничего не заметить.

Ну и кто же вам доктор после этого? Ваше мировоззрение, пардон искалечено в серьез и надолго пониманием "хорошего" и "плохого". И вы с этими своими "эстетическими" аршинами пытаетесь обмерять саму Вселенную?
Лично мне самому пришлось достаточно долго лечить самого себя от подобных "эстетских" заворотов. И то, я кажется все еще носитель… Ганс, вон, все время надомной издевается.
Очистьте свой разум от ерунды. От страхов, доставшихся вам от ваших африканских предков. Вы ведь по сути передали выше страхи людей 70 000 лет назад. Ваш "дух" - это дурманный кайф укуренного шамана, а ваша "саронча" - это и есть саранча, убивающая оазис в котором вы живете уже ни одно поколение.
Нет?

Правильно поняли. Между эволюцией генов и эволюцией мемов есть существенное отличие. Гены отбираються средой, а мемы отбираються генами. Все потому что, мем это просто часть расширеного фенотипа. Эта чать той длинной руки, о которой Докинз говорит.

Ничего подобного! ДА. Гены играют определенную роль в отборе мемов. И немалую. Но не единственную!
Посмотрите как строится научная картина мира людьми. Она всякий раз движется против позывов генов (наших сильнейших вожделений видеть мир таким как хочется)!
Кто не в силах этим позывам сопротивлятся впадают в религию.
Кто находит в себе силы побороть позывы выстраивает научную картину мира.
"Находит силы", разумеется означает находит в своей дуже позывы (стремление к истине, например) которые ПЕРЕБАРЫВАЮТ позывы иметь красивую, радужную онтологию.

Алекс вы же програмист, должны понимать что применять к программе такие термины как рабство, свобода воли и прочую абстрактно-филосовскую болтавню...нельзя. А потому все разговоры, о благородном востании, есть не что иное как способ примирить генетический конфликт при помощи разума. 

Разумеется про восстание - это метафоры. Но я упорно считаю беспрестрастный разум всего лишь БАЛАНСОМ разных позывов. Когда человек страстен - он неразумен. Он подчиняется генам. Но когда он сбалансировал свои страсти, он по сути нейтрализовал команды генов. И его поведением может управлять что угодно но тольоко не гены.
Например, камикадзе, хладнокровно направляющий свой самолет в авианосей.
Что им движет?
Гены? Нет! Мемы! Система иллюзий, аффектов, миропонимания, которые ему внушила социальная среда. Мемы же ему орут в ухо - остановись!!!

Мемы эволюционируют, для того что бы помогать выживать генам. Гены же эволюционируют, для собственного выживания.

Ерунда. Все виды мемов ЭГОИСТИЧНЫ. Что гены, что мемы культуры. Никому они не помогают (бескорыстно). Только себе!

Потому такая иерархия не может быть разрушена. Мы можем болтать сколько угодно, о том что мемы умнее генов, но ум без желания труп...а желание это ген.

Конечно. Когда-нибудь мы создадим "синтерическую теорию желаний", гедонику. Разложим ее по полочкам. Покажем их роль, механизмы, границы и будем моделировать как захотим. Захотим - через гены. Захотим - без них.
При этом "захотим" - это будут потребности уже мемов (их выживания). Обществу нужны бесстрашные солдаты? Выведем с таким вот набором желаний. Обществу нужны гении? Выведем с таим набором желаний.
Что-что, а именно желания, эмоции это там "музыка" которая полностью будет "познана числом".

Вся неразбериха следствие того что мы еще не очем понимаем, где в нас гены а где мемы. А потому частенько конфликт генов, ошибочно воспринимаем как конфликт разума и эмоций. Вот товарищ Боб воспринимает свое желание, в отказе от экспансии как некий разумный выбор. Хотя копни поглубже и окажеться что он просто консерватор который желает оставаться на насиженом месте. Так уж мы устроены, наш разум обманывает сам себя в угоду нашим скрытым и явным желаниям.

Да, неразбериха есть. Но разобраться в ней можно. Суть ведь в чем? В основе ЛЮБЫХ наших желаний лежит рациональная причина. Почему нам нравятся женщины с круглыми формами? Почему мужчины ревнивей женщин? Почему, почему, почему…
Все это РЕШАЕТСЯ через теорию игр.
Все имеет рациональное дно.
Познаваемое разумом рациональное дно. То факт что я могу понять ПРИЧИНУ любых своих позывов - уже означает что их власть надомной неабсолютная.
Сам я от нее не избавлюсь.
Но самому и не надо. Есть общество. По сути свобода воли любого человека это свобода маленького государства, которое хотят непременно захватить два сверхгосударства.
Гены и мемы.

Вообще, мы тут уходим в слишком боковую тему. Мне кажется ваше желание утвердить примат генов над мемами не менее субъективен чем мой "революционизм". Но я именно тем, что применяю такую вот терминологию (свобода, бунт) отдаю себе отчет в том, насколько субъективен мой взгляд. А вы? Отдаете насколько субъективен ваш?

Кстати, реплика  Аскета  напомнила мне такой термин как ИМПРИТТИНГ.

[alex_semenov]

ТЕПЕРЬ ПО ТЕМЕ!

Семеновская классификация Лебедь-Рак-Щука относится к людям, пытающимся разрешить парадокс Ферми. К нам с вами
Лебедь объясняет парадокс Ферми крайней редкостью жизни и разума во вселенной ("мы одни").
Щука объясняет тот же парадокс отсутствием во вселенной дешевой энергии ("мы не одни, но на безудержную экспансию нет энергии").
Рак объясняет тот же парадокс нашей неспособностью отличить проявления внеземного разума от природных явлений ("они везде, но мы не можем их идентифицировать").

Скажем так. Это на сегодняшний момент самая "вылизанная" версия триады. Здесь каждая позиция выставляет самый сильный аргумент в свою пользу.
Но я бы хотел что бы каждая позиция имела все же определенный "люфт" свободу допущений, скажем так. Например, Рак мог бы объяснить (куда лаконечней) их незаметность гипотезой "заповедника". А "Щука" вполне может обосновать отсутствие волны тем, что цивилизации слишком быстро сами себя уничтожают. "лебедь" может утверждать уникальность нашей жизни, но может утверждать уникальность разума (а жизни вокруг море). В общем каждая позиция могла бы использовать для себя широкий набор объяснений (разной степени достоверности).

Но, если "с люфтом" все получается слишком туманно, то пускай все будет так.

Цитата: Patsak от Вчера в 15:49:55
Нашли мы простейшую жизнь на Энцеладе, означает ли это отмену истинно Лебединого сценария ? Ни чуть. Уменьшает его шансы, не более того.

И тем не менее такое открытие исключит сценарий Лебедь, потому что докажет, что жизнь возникает "в любой теплой луже".

Совсем уж не исключает. Патскат тут прав. Факты только смещают "телегу" в соторону более сильных позиций но не отменяют любую из тянущих сил.
Например с жизнью в каждой луже. Если вы совсем  упертый Лебедь, то вы можете перенести "фильтр" на последний коэффициент (в уравнении Дрейка). То есть уверять, что только одна  из 10^15 зародившихся жизней приходит к разуму.
Стану ли я в такую позицию?
Вряд ли.
Все-таки на 85% я строю свою "лебединую" модель на редкости (но не уникальности) жизни.

в силу фундаментальных ограничений законов Природы

Это просто один из способов разрешения парадокса.
Современные представления о фундаментальных законах природы являются универсальными и практически законченными, ничего принципиально нового нет, и никогда не будет, почти все окончательные истины выбиты с обратной стороны небесной тверди, мы все познали, мы все поняли, сушите весла, звезд нам не видать, как своих ушей.
Это Ваше решение парадокса - тот же «нулевой» вариант Боба.
Парадокс в том, что это может быть не так, достаточно вспомнить историю научной картины мира от Птолемеевских эпициклов до теплорода, флогистона и светоносного эфира. Парадокс Ферми учитывает и эту возможность, без нее это и не парадокс вовсе.

Патцак, я вас все-таки посчитал. Вы из того самого четвертого угла.  Все становится на свои места. Вы сторонник той точки зрения, что научная картина мира - это всего лишь махонький фрагментик той реальности, которая есть на самом деле.
В этом случае наблюдаемый нами мир - всего лишь некая очень узкая, и возможно, не самая интересная часть (вид на) вселенная (ную). Поэтому…
В общем, с вами ОЧЕНЬ НЕ интересно спорить.
У вас вселенная волшебная. В ней возможны самые разные чудеса. Все возможно. Все представимо.
Это как с религиозниками. "Все в руках божих".
Я отношись к другой церкви.
Церкви естественно-научной картины мира.

По существу.

Классификация Лебедь-Рак-Щука - плоская в том смысле что она лежит в плоскости современных  научных представлений о вселенной. Что эти представления на 95% СПРАВЕДЛИНВЫ.
Вся проблематика SETI, кстати, базируется на этом.
Если же вы с этим не согласны, Лебедь-Рак-Щука вам выглядит неким "узколобым" извратом. Все верно.

[Antigon]

в силу фундаментальных ограничений законов Природы

Это просто один из способов разрешения парадокса.
Современные представления о фундаментальных законах природы являются универсальными и практически законченными, ничего принципиально нового нет, и никогда не будет, почти все окончательные истины выбиты с обратной стороны небесной тверди, мы все познали, мы все поняли, сушите весла, звезд нам не видать, как своих ушей.
Это Ваше решение парадокса - тот же «нулевой» вариант Боба.
Парадокс в том, что это может быть не так, достаточно вспомнить историю научной картины мира от Птолемеевских эпициклов до теплорода, флогистона и светоносного эфира. Парадокс Ферми учитывает и эту возможность, без нее это и не парадокс вовсе.

Нет "способа" решения парадокса, которого не существует. Nothing to Do, как говорят ОСы, когда Вы их "домогаетесь" решением задачи, если не удосужились задать минимально достаточные исходные данные (для решения).
Аналогии с "эфиром", "флонгистоном" и пр. с Вашего позволения неуместны, ибо тогда придется подвергнуть радикальной ревизии все (!!!) современное научное знание. Едва ли адекватно мыслящий индивид на такое решиться...
А с фактом непознаваемости Мироздания (в философском смысле достижения "абсолютной истины") - необходимо просто смириться как с "объективной реальностью". Да, окружающий нас Мир - познаваем, но не до исчерпания.  Есть фундаментальные пределы "обнаружимости", через которые в принципе невозможно "перепрыгнуть" (полагаю, что нет нужды приводить конкретные примеры).

[zenixt]

Но она уже умеет питаться и размножаться, создавая свои точные копии. Нет только одного - способности эволюционировать.

это как???
или как всегда тонкости перевода?

По-моему, тут понимать нечего, все очень просто. Настоящая живая клетка не является точной копией предка. Для наглядности, сравните себя со своим родителем. Только их скорое решение может растянуться на сотни миллионов лет. Не зря же эволюция потратила миллиард лет, чтобы перейти к многоклеточным организмам. Остается надеяться, что идущему следом быстрее переходить к новым технологиям, чем их изобретателю.

Ну и кто же вам доктор после этого? Ваше мировоззрение, пардон искалечено в серьез и надолго пониманием "хорошего" и "плохого". И вы с этими своими "эстетическими" аршинами пытаетесь обмерять саму Вселенную?
Лично мне самому пришлось достаточно долго лечить самого себя от подобных "эстетских" заворотов.

Вы можете понять, что другое существо может чувствовать, страдать, как вы. Саранча этого точно не понимает.

[vika vorobyeva]

Помните мы спорили о роли человека в зарождении "машинных наследников"?
Вы уверяли, что нам нет разницы чужие они или свои. Я же утверждал, что свои, ПО КРАЙНЕЙ МЕРЕ, нас запомнят как своих ПРЕДКОВ. А чужим - мы еще одна слизь на их дороге. Поэтому разница есть. Вы никак не хотели понимать этой разницы. Мол, что то, что это - все одно ДЛЯ НАС. Именно тогда я и заподозрил вас в декадентстве.
Суть в чем? "Рыть окопы и самзывать стрелы ядом"  способ ведь один - создать свою противоволну машин, надеясь, что свои машины нас пощадят. При этом, надо это делать с упреждением. Есть чужая волна? Нет чужой волны? Свою надо гнать в любом случае! Когда узнаем что  чужая таки есть - будет поздно.
Это очень напоминает идиотскую ядерно-стратегическую концепцию "упреждающего возмездия". Именно в своем кретинизме она и прекрасна!

Да, это так.
Я действительно считаю, что разницы нет. Слизью мы будем что для тех, что для этих. И делать ИИ в надежде, что он нас пощадит... Мне эта идея видится смешной в своей абсурдности. Это все равно что намылить веревку, надеть себе петлю на шею и спрыгнуть с табуретки в надежде, что веревка оборвется
Если чужой волны нет - то к чему вообще метаться? Если от горизонта до горизонта - одни голые камни, то кого нам бояться, кроме самих себя? И тварей, созданных нашими же руками?

[ВадимZero]

Я действительно считаю, что разницы нет. Слизью мы будем что для тех, что для этих. И делать ИИ в надежде, что он нас пощадит...

Вы все  делаете туже самую ошибку...приписываете ИИ человеческие инстинкты...

[VimanaPro]

Если чужой волны нет - то к чему вообще метаться? Если от горизонта до горизонта - одни голые камни, то кого нам бояться, кроме самих себя? И тварей, созданных нашими же руками?

Значит ли это, что надо исповедовать интеллектуальный луддизм 7

[vika vorobyeva]

Я действительно считаю, что разницы нет. Слизью мы будем что для тех, что для этих. И делать ИИ в надежде, что он нас пощадит...

Вы все  делаете туже самую ошибку...приписываете ИИ человеческие инстинкты...

Напротив, я считаю, что ИИ, скорее всего, будет руководствоваться строгой логикой и теорией игр. И если ему будет хоть немного выгоднее нас уничтожить - он нас уничтожит (например, для того, чтобы мы не тратили ценные ресурсы или не создали ему конкурента). Чувство жалости, благодарность - как раз результат инстинктов, следствие того, что мы - общественные животные. В нас инстинктом заложено учитывать интересы членов группы.

[vika vorobyeva]

Значит ли это, что надо исповедовать интеллектуальный луддизм 7

Что Вы называете интеллектуальным луддизмом?

[Antigon]

Я действительно считаю, что разницы нет. Слизью мы будем что для тех, что для этих. И делать ИИ в надежде, что он нас пощадит...

Вы все  делаете туже самую ошибку...приписываете ИИ человеческие инстинкты...

Напротив, я считаю, что ИИ, скорее всего, будет руководствоваться строгой логикой и теорией игр. И если ему будет хоть немного выгоднее нас уничтожить - он нас уничтожит (например, для того, чтобы мы не тратили ценные ресурсы или не создали ему конкурента). Чувство жалости, благодарность - как раз результат инстинктов, следствие того, что мы - общественные животные. В нас инстинктом заложено учитывать интересы членов группы.

Вы откровенно сами себе противоречите: если "ИИ будет руководствоваться строгой логикой" ему нет ни малейшего смысла уничтожать человечество ибо никакой выгоды для себя (кроме явного вреда) он от этого на извлечет.

[ВадимZero]

Напротив, я считаю, что ИИ, скорее всего, будет руководствоваться строгой логикой и теорией игр.

Вы считаете что у ИИ будут какието свои собственные желания, собственные мотиваторы. Как у нас у людей. Наличие у чего то разума, не означает автоматически наличие собственных желаний, и задач.

И если ему будет хоть немного выгоднее нас уничтожить

Вы веть здесь подразумеваете что у ИИ есть какаята цель.

[Инопланетянин]

если "ИИ будет руководствоваться строгой логикой" ему нет ни малейшего смысла уничтожать человечество ибо никакой выгоды для себя он от этого на извлечет.

Как минимум перекроет возможность создания ещё одного ИИ, который будет конкурентом ему.

[Antigon]

если "ИИ будет руководствоваться строгой логикой" ему нет ни малейшего смысла уничтожать человечество ибо никакой выгоды для себя он от этого на извлечет.

Как минимум перекроет возможность создания ещё одного ИИ, который будет конкурентом ему.

1. Почему ИИ должен бояться конкуренции? Это не логично!
2. Каким именно практическим способом он "перекроет"?

[alex_semenov]

если "ИИ будет руководствоваться строгой логикой" ему нет ни малейшего смысла уничтожать человечество ибо никакой выгоды для себя он от этого на извлечет.

Как минимум перекроет возможность создания ещё одного ИИ, который будет конкурентом ему.

После того как появится первый ИИ,  согласно концепции сингулярности, он будет совершенствовать себя гораздо быстрее чем люди смогут усовершенствовать его сами. То есть тут - никаких ему проблем. Люди ничем ему не угрожают

[vika vorobyeva]

Напротив, я считаю, что ИИ, скорее всего, будет руководствоваться строгой логикой и теорией игр.

Вы считаете что у ИИ будут какието свои собственные желания, собственные мотиваторы. Как у нас у людей. Наличие у чего то разума, не означает автоматически наличие собственных желаний, и задач.

Вы думаете, у искусственных тварей, которых Семенов хочет отправить завоевывать Галактику, не будет собственных мотиваторов?

[ВадимZero]

Напротив, я считаю, что ИИ, скорее всего, будет руководствоваться строгой логикой и теорией игр.

Вы считаете что у ИИ будут какието свои собственные желания, собственные мотиваторы. Как у нас у людей. Наличие у чего то разума, не означает автоматически наличие собственных желаний, и задач.

Вы думаете, у искусственных тварей, которых Семенов хочет отправить завоевывать Галактику, не будет собственных мотиваторов?

У них будут цели и задачи, в рамках которых они будут действовать. Задачи и цели определенные создателем.

[alex_semenov]

Напротив, я считаю, что ИИ, скорее всего, будет руководствоваться строгой логикой и теорией игр.

Вы считаете что у ИИ будут какието свои собственные желания, собственные мотиваторы. Как у нас у людей. Наличие у чего то разума, не означает автоматически наличие собственных желаний, и задач.

Можете надомной смеяться, но я лично НЕ СОМНЕВАЮСЬ что полноценный ИИ должен обладать и сознанием (пускай очень отличным от нашего) и богатым набором эмоций (опять же, возможно очень отличным от нашего). Нет этого - нет ИИ.
Образ сверхумного безэмоционального числогрыза - рудимент нашей культуры. Достаточно заскорузлый рудимент.

[Antigon]

если "ИИ будет руководствоваться строгой логикой" ему нет ни малейшего смысла уничтожать человечество ибо никакой выгоды для себя он от этого на извлечет.

Как минимум перекроет возможность создания ещё одного ИИ, который будет конкурентом ему.

После того как появится первый ИИ,  согласно концепции сингулярности, он будет совершенствовать себя гораздо быстрее чем люди смогут усовершенствовать его сами. То есть тут - никаких ему проблем. Люди ничем ему не угрожают

Оставим "концепцию сингулярности" на научной совести ее создателя ИХМО - это пустая декларация и не более того. С чего бы вдруг " будет совершенствовать себя гораздо быстрее чем люди смогут усовершенствовать его сами" - это он сам (ИИ) так Вам сказал? 
Вопрос в ином - кто будет поставлять ему (ИИ) энергию и отводить тепло (как отрос в физическом смысле) его "жизнедеятельности"?

[Antigon]

Вы думаете, у искусственных тварей, которых Семенов хочет отправить завоевывать Галактику, не будет собственных мотиваторов?

Конечно не будет, кроме тех, которые его создатель заложил как НУ.

[vika vorobyeva]

Вопрос в ином - кто будет поставлять ему (ИИ) энергию и отводить тепло (как отрос в физическом смысле) его "жизнедеятельности"?

Представьте себе автоматический самовоспроизводящийся завод на Луне.
Солнечной энергии вокруг - залейся. Как ему отводить тепло, будет продумано еще на стадии чертежа.