Технологическая сингулярность истории и "постсингулярная" цивилизация

[ivanij]

вот здесь все весьма грамотно и доходчиво изложено -- рекомендую:

Александр Панов (НИИЯФ МГУ). Универсальная эволюция и проблема поиска внеземного разума (SETI).

 

  Если попадётся, постараюсь не пропустить, спасибо. Ещё добавлю, что и у Пригожина (я упоминал это имя) тоже встречается часто понятие аттрактора. Но вот применительно к проблеме  SETI было бы, наверное, ещё интереснее.

[Olweg]

В среднем люди с высоким IQ чаще прорываются куда-то. И их чаще замечают!

[Klapaucius]

Если речь не о политике или экономике, а о науке - не исключено. Предварительно знакомы с вопросами подобных тестов эрудированные люди, и есть также взаимозависимость между эрудицией и способностью самостоятельно решать нестандартные задачи.
Но никто не сможет отрицать, что чем более многообразен конкретный человек, тем он более непредсказуем для общества в целом (не наоборот конечно). И очень редко такое многообразие конструктивно, непредсказуемость идёт на пользу (общую или даже для него самого).
Это можно целиком списывать на отсталость самого общества, инерционность по отношению к радикальным идеям. И на то, что не все гении им используются в должной мере.
Но всё же гений и безумие - очень похожие вещи, часто второе сопутствует первому и часто их сложно разделить в одном человеке. То есть "чем умнее, тем нестабильнее" проявляется уже по отношению к человеческому мозгу.
Это конечно как с разгоном компьютера - чем больше производительность, тем нестабильнее работа. И ведь всегда будут более мощные компьютеры. Но может не всегда?

[wandarer]

Есть разные тесты интеллекта. Например: Векслера, Амтхауэра, Гилфорда(социальный интеллект), Дж.Равена(прогрессивных матриц) и др. Вряд ли домохозяйка может показать одинаковое значение во всех тестах, ибо некоторые из них требуют не только способнеости к ассоциациям и логического мышления, но и некоторого уровня знаний. Да и сами знания иногда вызывают ассоциации не доступные составителям тестов, поэтому тесты не точны.

[Klapaucius]

Если человек интересуется тестами заранее, проходит их например "неофициально" несколько раз, чтобы получить макс. результат, или увлекается литературой на эту тематику... То конечно, его результаты будут выше, и я даже думаю что в "среднем по странам" показатель IQ характеризует не только уровень образования (и вообще не "природный интеллект" популяции в целом), но и в значительной степени популярность и распространённость самих таких тестов.
Однако сама заинтересованность подобными вопросами, хоть может быть и вызванная внешним фактором, "модой", влияет на кругозор и способности каждого конкретного человека. Я кстати подобными тестами совершенно не увлекаюсь, и ни разу (именно на уровень интеллекта) не проходил.

Безусловно есть люди умные и глупые, даже гении и идиоты. И разница между максимум и минимумом огромна и очевидна. Причём в разных сферах деятельности у каждого по своему - разный кругозор: бывает отличный математик, не умеющий сходить в магазин, или отличный сапожник-идиот, или Леонардо с Ломоносовым.

По сравнению с разницей между человеком и животными эта разница как правило выглядит ничтожной.
То есть компьютеры одного поколения могут обладать разной производительностью, разгоном и программным обеспечением. Но чудес не бывает. Как и бесконечного развития, бесконечного усложнения состояния известной, реальной физической системы с заданными (пусть и многочисленными) параметрами.
И количество возможных поколений (если их условно подвергнуть дискретизации, посчитать) по идее не должно быть бесконечным. Всегда найдётся закон, который запрещает дальнейшее развитие. Но не всегда новый закон, обобщающий или опровергающий старый, дающий новые пути.

[alex_semenov]

Если человек интересуется тестами заранее, проходит их например "неофициально" несколько раз, чтобы получить макс. результат, или увлекается литературой на эту тематику... То конечно, его результаты будут выше, и я даже думаю что в "среднем по странам" показатель IQ характеризует не только уровень образования (и вообще не "природный интеллект" популяции в целом), но и в значительной степени популярность и распространённость самих таких тестов.

Конечно это информация на уровне слухов... где-то мелькнула и запала в память.
Мол, в Нью-Йорке (да какая разница где?) час репетитора по прохождению тестов IQ стоит 400 долларов. Не знаю насколько это много (это больше моей месячной зарплаты). Но замечателен сам факт существования сервиса. Дураки всегда жаждут выглядеть умнее. А так как другие кретины-начальники частенько заставляют людей устраивающихся на работу проходить такие тесты, то как говориться, сам бог велел.
Я прошел типичный тест (30 минут  40 вопросов) на одном из сайтов лет 5-7 назад. Больше всего напрягает время. Я люблю не спеша подумать. С "перерывами на обед". А здесь тебе в спину дышат. Очень неприятно.
Но я как раз писал главу, которая сравнивает условия теста Айзенка с условиями "теста Черепахи" и нужно было попробовать на своей шкуре пройти стандартный тест на IQ. Я "вспотел" едва набрав 104 единицы. То есть очень средне. При этом из всех правильных ответов несколько  я попал случайно. Несколько я просто ЗНАЛ как решаются. Но вот 2-3 я разгадал сам. Именно тут на месте. С нуля. Ибо миг озарения (когда  бился об стену, бился и вдруг... проход!) - чувство которое не спутать ни с чем и оно незабываемо. Хочется повторить еще и еще.

Можно ли измерить как-нибудь настоящий интеллект? Интеллект это без сомнения эпифеномен. Некое свойство системы в целом, которое отсутствует у каждой его части. Не очень удачный но яркий пример эпифеномена. Сила давления газа на стенки сосуда есть совокупность ударов всех молекул газа об эту стенку (у каждой отдельной молекулы нет давления F/S, а есть импульс mv). В случае интеллекта мы имеем куда более сложный эпифеномен. И если подобная вещь измеряется, то не за 30 минут.
Я лично придерживаюсь той мысли что интеллект это прежде всего умение находить неожиданные, нетривиальные для себя (именно для себя!) решения. В этом смысле Пенроуз прав. Программа порождает только тривиальные, заложенные в нее заранее решения (аргумент леди Лавлейс) и никакой детерминированный код сколь угодно сложный, полноценным разумом не может обладать по определению. Вопрос о том какая цифровая система в состоянии обладать таким эпифеноменом - сложный и неместный. Поэтому чуть упрощу.
Человек (система) с живим интеллектом (у многих людей интеллект в предсмертном состоянии) должен иметь богатое (1) и обязательно незамкнутое (2) мировоззрение. Последнее означает что оно непременно должно быть противоречиво. Лучше всего это условие определил умница Бертран Рассел:

Здравомыслие можно было бы определить как синтез безумий... Тот, кто хочет сохранить здравомыслие... должен собрать в себе целый парламент всевозможных страхов, из которых каждый признавался бы безумным всеми остальными.

Ну и "резвость ума" здесь тоже имеет не последнюю роль.
Наблюдая за тем  как  другие люди решают нетривиальные задачи, я с серой завистью  вынужден  признать : у некоторых мозги шевелятся куда быстрей чем у меня.  При этом ни мировоззрение граничащее с кретинизмом ни его почти полная замкнутость, "целостность" им совсем не мешает быстро находить нетривиальный выход и решение красивых задач-головоломок. Думаю, именно такие люди и набирают в тестах на IQ высокие баллы. И хотя "резвость ума" имеет прямое отношение к интеллекту, я думаю это только часть феномена. Но не весь феномен.
Вообще феномен нашего интеллекта нельзя замкнуть на конкретном человеке. Мир людей (языковая среда) здесь является своеобразным сперусилителем интеллекта каждого. Этот суперусилитель скорей всего и отличает нас от обезьян.
В основном только он.
То есть каждый из нас по большому счету не имеет полноценного разума, а только его хиую и сырую бетта-версию которая вылетает при первом же неосторожном обращении с этим капризным софтом.

На мой взгляд наиболее ярко и просто эпифеномен интеллекта раскрыт в рассказе Дэниела Киза "Цветы для Элджернона" (роман не читал. Не хочется портить впечатление от рассказа...) http://lib.ru/INOFANT/KIZ/eldzheron.txt
Человек проходит все стадии от кретина до гения и обратно. При этом как в кривом зеркале в его восприятии выпукло вырисовывает и проплывает "мир нормальных люде".
Гениальнейшее произведени!
Так что же важней для интеллекта? Резвость ума (которую в рассказе добиваются таблетками), "многие знания" (приобретаемое без сомнения упорным трудом движдимым желании занять подобающее место в людском обезьяннике), или  все же  кретиническое (с точки зрения "здравых" людей) желание понимать, понимать, понимать мир в котором ты живешь и умение души радоваться каждому новому шажочку на этом безнадежно-бесконечном пути?
: ) (

[Vladimir2]

>Я лично придерживаюсь той мысли что интеллект это прежде всего умение находить неожиданные, нетривиальные для себя (именно для себя!) решения.

Совершенно неправильно. Это лишь одна из составляющих интеллекта, причем как ни странно не самая главная. Пример: сочтете ли вы высокоинтеллектуальным дауна, который нашел новое и неожиданное для себя решение снимать штаны перед тем как садиться на унитаз?
Вообще мой жизненный опыт показывает, что человек имеющий огромные знания и великолепную способность "находить новые решения" в одной области часто действует как полный идиот в другой. Хи, особенно это касается физиков-теоретиков. Чем гениальнее такой теоретик, тем больше он идиот во всем что не касается его специальности. Аналогично у математиков. И этому есть объяснение: для успешного решения этих задач требуется весьма специфический способ мышления, особый взгляд на мир (эта теория недостаточно безумна чтобы быть истинной), который совершенно не годится в другой области: быту, политике, порой и технике. Речь идет о людях, занимающих высокие позиции в научном мире - у меня много таких знакомых. Впрочем и среди гениальных ученых встречаются люди абсолютно полноценные в прочих областях.
Я думаю, что интеллект (слишком общее и неопределенное понятие) это вовсе не спосбность решать какие то "новые" задачи (такая способность тренируется и не является универсальной - легко решаются задачи одной области при полной неспособности решать задачи другой области и не по причине недостатка знаний). Скорее это способность воспринимать новую информацию из незнакомой области (учиться) и оперировать ею.
И я не думаю, что эта способность вообще может быть определена тестами - тесты слишком грубый и ненадженый инструмент. А знаменитый IQ характеризует не столько интеллект, сколько натасканность на тесты. Там, где тесты постоянно проходят все начиная с детского сада (США) и натасканность на тесты выше, а значит и показатели выше. Но это такой же "объективный" показатель интеллекта народа (о персональном тут и говорить не приходится) как количество опуликованных статей - показатель уровня научной работы. Совершенно не случайно лучшие университеты России категорически отказываются принимать результаты тестов в качестве вступительных экзаменов.

[alex_semenov]

>Я лично придерживаюсь той мысли что интеллект это прежде всего умение находить неожиданные, нетривиальные для себя (именно для себя!) решения.
Совершенно неправильно. Это лишь одна из составляющих интеллекта, причем как ни странно не самая главная. Пример:...

Гм...
Давайте уточним с чем вы не согласны.
Я сказал, что интеллект это эпифеномен. ("Луковица Тьюринга" ) То есть он возникает как сумма составляющих, которые сами по себе интеллектом не являются. Давайте представим себе некую конъюнкцию логических утверждений (высказываний):

X1 and   X2 and   X3 and   X4 and   X5 and . . .   and   Xn

Если хотя бы один член ряда Xi  равен 0 ( то есть некая составляющая эпифеномена отсутствует), значит  отсутствует и сам феномен (вся конъюнкция тоже равен 0)
Теперь я сказал:

Я лично придерживаюсь той мысли что интеллект это прежде всего умение находить неожиданные, нетривиальные для себя (именно для себя!) решения.
То есть я не говорил, что это единственное что определяет феномен разума. Но я просто передвинут в  коньюнктивном ряду (количество и состав членов которых мне как и вам не известен) эту составляющую на первое место, что чисто алгебраически ничего не меняет. Далее, я сказал, что по мнению некоторых (Ада Ловлейс, Лукас, Пенроуз)  этот признак у программ отсутствует поэтому я и поставив эту составляющую первой (то есть сказав "прежде всего"). В таком случае, если мы соглашаемся, что  для программ она действительно равна 0, мы в праве не проверять все остальные составляющие конъюнкции в отношении программ.  Поэтому мои манипуляции ("прежде всего") имеют некий смысл.
Если, допустим мы нашли систему, где этот признак присутствует, равен 1 (скажем ваш кретин случайно сам, без обучения, снявший штаны в нужный момент и нужном месте).  Это совсем не означает, что мы  не должны будем теперь   разбираться и со всем остальным рядом составляющих эпифеномена у наблюдаемой системы, а побежим объявлять нашего кретина здравомыслящим существом.
Улавливаете?
Вы же делаете хитрый финт. Вы говорите: "Это лишь одна из составляющих интеллекта причем как ни странно не самая главная" . Допустим не самая. Но причем здесь тогда пример с кретином?
Кретин может случайно снять штаны. Обезьяна Уоши может случайно зачерпнуть черпачком воду (за которым она до этого, дура, бегала на соседний плотик). Все мы можем случайно ляпнуть гениальную мысль и даже балуясь мелом записать нечто нетривиальное на доске что заставит знающего человека упасть под стол от восторга. Но конечно же этого мало что бы сделть вывод  из подобного прозрения! Я ведь это и не утверждал!
Будет ли закреплен результат? Готовы ли мировоззрение к такому скачку? Факт снимания штанов - это интересно. Но феномен в целом проявится, если проявится и вся остальная цепочка факторов нами не учтенная. Проше говоря, будет ли наш кретин теперь и дальше снимать штаны в соответствующей ситуации? Если да, то может все же стоит порадоваться за его просыпающийся разум?
То есть мне совершенно не понятна логика вашей аргументации!
Да бог сней!
Логические ошибки при построении рассуждений – это обычное явление нашего разума. И только мерзавец-демагог станет хватать  оппонента за руку обвиняя его в демагогии (умышленной нелогичности).
Я вижу что ваши возражения глубже:

Я думаю, что интеллект (слишком общее и неопределенное понятие) это вовсе не спосбность решать какие то "новые" задачи (такая способность тренируется и не является универсальной –...

Могу ли я сделать следующую подстановку?
"Тренируется" – программируется. И "не является универсальной" -не может быть запрограммирована однажды раз и на всегда.

... легко решаются задачи одной области при полной неспособности решать задачи другой области и не по причине недостатка знаний).

Опять же другая интерпретация этой вашей мысли:
Отсутствует универсальный алгоритм  для решения любых разрешимых задач. 

То есть, умение находить неожиданные решения, вести себя нелогично, (позволю себе термин СЛУЧАЙНО) интеллекту совсем не обязательно? Передвинутый мною на первое место член логического произведения ТЕПЕРЬ  вы попросту выкидываете вообще.
Допустим, Безделица! Выкинем...
Что в замен?

Скорее это способность воспринимать новую информацию из незнакомой области (учиться) и оперировать ею.

Могу ли я поиронизировать?
Количество информации в сообщении которое вы приняли – это упрощенно логарифм по основанию 2 от меры неожиданности ее получения для вас (1/P где P – вероятность ее получения). Чем хуже  область вам знакома, осмелюсь предположить, тем ниже вероятность получения информации и тем длинней сообщение должно быть для вас (вам нужен более толстый учебник по предмету).
Абсолютно новая для вас информация – совершенно неожиданная для вас информация. А значит вам нужно получить бесконечно длинное сообщение что бы ее воспринять.
Отправьте обезьяну на лекцию по мат анализу... Да зачем обезьяну?...
Давайте возьмет нашего кретина!
Сколько часов мы должны впархивать ему предмет?
Проще говоря, понятие "новая информация" –  как и утверждение "Я лгу!" логический абсурдно. Такой не существует. Мы воспринимаем только ту ИНФОРМАЦИЮ, что уже хоть в какой то мере готовы воспринять. И никак иначе. Это совершенно очевидно следует из формулы Шеннона.
А это возвращает  нас к первому вашему тезису. Вашего умника нужно будет сначала "научить" эту самую "новую" информацию воспринимать. То есть заранее запрограммировать.
Но вы же сами знаете, что запрограммировать универсальную машину Тьюринга для решения всех разрешимых задач – нельзя. А значит и умение воспринимать по настоящему "новую информацию" тоже нельзя.
Тупик...

[Vladimir2]

Тупым - тупик.
Если для вас все обстоит именно так:
>Абсолютно новая для вас информация – совершенно неожиданная для вас информация. А значит вам нужно получить бесконечно длинное сообщение что бы ее воспринять.

Если вы понимаете восприятие новой информации только как заучивание наизусть бесконечно длинных текстов, то вы действительно неспособны выйти из тупика.
А на деле то "все не так как в действительности". Новая информация характеризуется не столько "бесконечным объемом", сколько новой логикой. И проблемы ее восприятия состоят не в том, чтобы "получить бесконечно длинное сообщение", а в том чтобы начать пользоваться иной логикой. И психика многих людей этому жутко противится. А у кого то это происходит легко. Причем разных логик очень много. Логики какой то группы одними людьми принимаются легко, другими трудно. Может быть и наоборот.
Возьмем 100 человек одного возраста не знающих никаких других языков кроме русского и отправим в Китай. Из этих 100 10 начнут сносно говорить по китайски в течение 2 месяцев, 80 через полгода, а 10 и через год говорить не смогут. Неужели первые 10 успели получить "бесконечно длинное сообщение" за недели, а последние 10 и за год его не получили? Может эти первые 10 - гении? Ничего подобного. Изучить другую новую область последние 10 могут намного раньше первых.
Вот вы же не понимаете о чем я пишу. И не потому что там нужно "бесконечно длинное сообщение" прочитать, а потому что смысл моего сообщения противоречит вашей логике, а вам ее менять не хочется. Вам хочется остаться в привычном мире-мировоззрении настолько, что ваша психика противится пониманию простенькой концепции, но вам персонально эмоционально неприятной. Вот вы и отвечаете даже на другом языке - не том, что задействован в моей концепции. Потому что чтобы даже критиковать мою концепцию в ее рамках вам нужно принять хотя бы условно мою логику. А именно этого вам и не хочется. Как на вопрос по китайски отвечать по русски, потому что "ну такой это противный язык - не хочу его учить, пусть они на моем языке говорят". Пусть это у вас и не на сознательном, а на подсознательном уровне - несущественно. Обычная причина непонимания нового не в том, что нужно усвоить "бесконечно длинный текст", а именно в нежелании усваивать новую логику - новый язык мышления. К примеру именно по этой причине многие физики очень долго не могли приять квантовую теорию (о нефизиках не говорю - из нефизиков ее вообще никто не понимает и не потому что сложные формулы, а потому что логика завернутая). Именно в этом была проблема принятия физиками преобразований Лоренца, которую разрешил Энштейн (вот только сейчас с решением Энштейна возникли новые проблемы). Дети учатся гораздо легче взрослых (расхожее: все дети гениальны) именно потому, что у них психологическое отторжение новых логик мышления намного меньше - у детей намного меньше устоявшихся представлений, которые так трудно менять.
Ну как, перейдете на мой язык, или по прежнему "не хочу учить китайский"?

[alex_semenov]

Если вы понимаете восприятие новой информации только как заучивание наизусть бесконечно длинных текстов, то вы действительно неспособны выйти из тупика.

Нет, я хотел показать абсурдность идеи "новой информации". Я пытался вам сказать, что никакой человек не может воспринять по настоящему новую для него информацию, то есть информацию к восприятию которой он не готов. Но видимо вы не готовы к восприятию такого рода информации...
Хорошо. Вы наверное правы обвиняя меня в нежелании переходить на ваш язык. Действительно "оторваться от стереотипов!".
Давайте будем говорить НА ВАШЕМ языке.
Вы сказали что способность решать "новые" (в кавычках? то есть не что не ново для вас под луной?) задачи  достигается тренировкой и не является универсальной способность.
Что есть тренировка в вашем понимании? Обучение? Мне это как тупому программисту ничего не объясняет. Давайте представим, что у нас уже есть ИИ-машина. Что значит ее обучить?
Давайте составим словарик для перевода.
Обучение – это...
Программирование – это...
Я будум учить ваш "китайский" по словам.

[alex_semenov]

У, Сократы.Gansa2 на вас нету......

)) Да уж...
Действительно вцепились мы в детали. Какая разница как этот ИИ будет устроен?
Будет. С этим то мы согласны. Если по существу темы:

1. Для непрерывного развития необходимо непрерывное наращивание ресурсов а значит неизбежное распространение в Космосе; альтернатива – стагнация, деградация, гибель.
2. Встреча с другой цивилизацией может привести как к конкуренции за ресурсы, так и к симбиозу на основе объединения информационных ресурсов и разделения направлений исследований.
3. Создание разумных способных к развитию роботов как помощников в исследованиях было бы последней ошибкой человечества, которая неизбежно привела бы к замене человеческой расы расой этих роботов.

Первый пункт - в общем-то верно. Но  загвоздка. Экспансия людей  в космос экономически невыгодна. То есть как сказал Переслегин мы на дне глубочайшей гравитационной яме и выбраться цивилизации из нее - нереально.

Второй пункт. Ну их нафик. Наверняка такие же бездушные, расчетливые сволочи как и люди если не хуже. Все что они могут - поиметь нас, если уже не имеют как домашних хомячков втихаря. Лучше бы их не было в радиусе миллиарда световых лет вообще. Честное слово! Бактерии там в 20 или 200 световых годах - это можно. Но еще один источник разума...

Третий пункт. Сколько бы не сдерживался прогресс в этой области он рано или поздно произойдет. Самое главное – не космос. Гигантской концентрации ресурсов цивилизации для прогресса в этой области не надо. Единственное что нас сейчас отделяет о действительного прогресса к настояшему ИИ - у нас все еще нет хорошей, рабочей теории разума для того что бы с ней начать экспериментировать и выгребать по чуть-чуть результаты. Шаг за шагом. Но ведь появится однажды...
Значит докопаются.
Единственное что может остановить эту неизбежность (появление другого машинного разума) – люди опять опустят себя до скотского состояния раньше.

[gans2]

Если вы понимаете восприятие новой информации только как заучивание наизусть бесконечно длинных текстов, то вы действительно неспособны выйти из тупика.

Нет, я хотел показать абсурдность идеи "новой информации". Я пытался вам сказать, что никакой человек не может воспринять по настоящему новую для него информацию, то есть информацию к восприятию которой он не готов. Но видимо вы не готовы к восприятию такого рода информации...
Хорошо. Вы наверное правы обвиняя меня в нежелании переходить на ваш язык. Действительно "оторваться от стереотипов!".
Давайте будем говорить НА ВАШЕМ языке.
Вы сказали что способность решать "новые" (в кавычках? то есть не что не ново для вас под луной?) задачи  достигается тренировкой и не является универсальной способность.
Что есть тренировка в вашем понимании? Обучение? Мне это как тупому программисту ничего не объясняет. Давайте представим, что у нас уже есть ИИ-машина. Что значит ее обучить?
Давайте составим словарик для перевода.
Обучение – это...
Программирование – это...
Я будум учить ваш "китайский" по словам.

"Новое никогда не пробивало себе дорогу, просто сторонники старого умирали." (с)

[alex_semenov]

"Новое никогда не пробивало себе дорогу, просто сторонники старого умирали." (с)

При этом главное - терпение и осмотрительность... Настырно помогать... не стоит...
 

[Klapaucius]

Первый пункт - в общем-то верно. Но  загвоздка. Экспансия людей  в космос экономически невыгодна. То есть как сказал Переслегин мы на дне глубочайшей гравитационной яме и выбраться цивилизации из нее - нереально.

Второй пункт. Ну их нафик. Наверняка такие же бездушные, расчетливые сволочи как и люди если не хуже. Все что они могут - поиметь нас, если уже не имеют как домашних хомячков втихаря. Лучше бы их не было в радиусе миллиарда световых лет вообще. Честное слово! Бактерии там в 20 или 200 световых годах - это можно. Но еще один источник разума...

Третий пункт. Сколько бы не сдерживался прогресс в этой области он рано или поздно произойдет. Самое главное – не космос. Гигантской концентрации ресурсов цивилизации для прогресса в этой области не надо. Единственное что нас сейчас отделяет о действительного прогресса к настояшему ИИ - у нас все еще нет хорошей, рабочей теории разума для того что бы с ней начать экспериментировать и выгребать по чуть-чуть результаты. Шаг за шагом. Но ведь появится однажды...
Значит докопаются.
Единственное что может остановить эту неизбежность (появление другого машинного разума) – люди опять опустят себя до скотского состояния раньше.

Не нам выбирать.
1. Непрерывное развитие будет, так же как и остановка - "освоение" всего возможного для нашей (или подобных) цивилизации или того что из неё "родится".
2. Если кто-то ещё уже есть, лучше о них узнать так или иначе.
3. Сложно представить ситуацию, когда люди доведут себя до скотского состояния. Даже на мёртвой радиоактивной планете бытовые трудности не будут дольше нескольких столетий. "Внезапная смерть" от эпидемии или той же радиации конечно возможна, но с неизвестной вероятностью.
Можно ли создать таких "конкурентных" роботов, нет ли - науке неизвестно. И никакие запреты не помогут, наука это выяснит.

Общий итог: Мы полностью заложники законов Мироздания, нам в полной мере <пока> неизвестных, но уже существующих. Научиться их менять или выбирать - тоже достойная, можно сказать "конечная" мечта. Но опять: "а на каких условиях"? Узнав цену, может и не захочется...

[alex_semenov]

2. Если кто-то ещё уже есть, лучше о них узнать так или иначе.

Конечно лучше бы. Двумя руками за!  Но не надо вот этого наивного "братства Кольца" (я о Ефремове, а не о Толкиене). И кричать дракону в ... пещеру тоже не надо, мол "Выходи!" (это я о игрищах Каруши Сагана на Аресибской тарелке и всех его последователей).
Как сказал доктор Хьюши, открывший сотоварищами пульсары: "лучше горошины чем зеленые человечики. Бобы мне еще никогда не вредили."

Не думаю, что первым пришельцам к нам будет (был?) непременно Берсеркер,  но вероятность... мне не нравится. 
Тут рядом обсуждали борьбу с пришельцами.
Ну-ну! Детский сад! Если на орбиту Солнца выйдет снаряд скажем с 10 кг микро (не нано!) саморепликаторов на борту и разум иной в придачу,  с  ЧЕМ и главное С КЕМ вы намерены  бороться? "Жите мое! Псы смердящие!"
: )(
Единственная надежда борьбы с возможными пришельцами – самим стать такими вот "пришельцами". И чем раньше – тем лучше.

3. Сложно представить ситуацию, когда люди доведут себя до скотского состояния.

Если вы не можете себе представить как можно довести себя до скотского состояния  - вы скорей всего первый кто опустится до скота при резкой смене обстоятельств в соответствующую сторону. Вы Советской Армии служили? Срочную?

Да скотство у нас, людей, на лбу написано!
Теперешний "разгул разума" (с телесериалами и порноинтернетом) пока еще имеет место быть в силу наличия манны небесной у золотого миллиарда. Есть шаровая (очень дешевая) энергия. Поэтому  есть урбанистическое неестество бытия, есть и  демократия, и феминизм, и расовая,  религиозная терпимость. Хреновые но есть!!! Есть пока слава богу наука и образование. Есть реальный расцвет культуры в отдельно взятых местах.
Но шара заканчивается и полноценной (по цене дерьма!) замены "манне" не предвидится. Термояд, солнце – это все очень дорого. Это цена бога, а не дьявола. И молитесь что бы они (бог с дьяволом) все таки договорились на меньшую моржу...
Почти 70 лет глобального мира, то есть "торжество людей доброй воли" тоже связано не с "победой сил добра", а  развитием "силы зла". С тем, что мы с перепугу и глупости своей довели гонку своих вооружений до абсурда. И  теперь нарушение мирной коалиции никому  не выгодно. Компромисс мира  дешевле любой из альтернатив войны! И не потому что компромисс всем обходится дешево. А потому что альтернативы очень дороги.
Война  все равно идет (без нее – никак. Смерть сама суть жизни). Но на несколько ином уровне. Без убийства людей (экспансия европейского образа жизни), но с убийством культур. И не известно что еще хуже.

Людям с их ничтожной по длительности жизнью всегда кажется что мир был есть и будет таким, каким он есть сейчас. А временные сиюминутные тенденции они пытается выдать за глобальные мировые законы.
Я лично уже давно считаю вопреки общепринятой концепции бесконечного прогресса человечества, что  люди живут в уникальный и лучший момент земной истории, в неестественном для  людей состоянии всплеска культуры и разума. Всплеска очередного и самого высокого, начавшееся три столетия назад и обусловленное рядом стечений обстоятельств, влияние которых, увы, заканчивается.
Так что по мне – не до жиру, быть бы живым! Главное теперь  не счастье человечества и прочий общеизвестный бред. Главное - успеть допрыгнуть бы до иного, машинного разума. И отдельно взятым умникам не тормозить надо прогресс ИИ (в заботе о всем человечестве), а бежать как можно скорей вперед ни на кого не оглядываясь. С одной задней мыслью в сжавшейся от ужаса заднице: "успеть бы эстафету Прометея передать дальше!..."
А люди? Человечество?
Перестаньте их тянуть за уши к "светлому завтра". Не по Сеньке шапка. Посмотрите на них теперь. Тех, кто уже сейчас сыты и свободен.
По идее у нас  именно сейчас (в раю земном) больше половины "золотого миллиарда" действительно должны были бы быть учеными, исследователями, изобретателями. Как писал автор поста в начале.
Но это же смешно!
Смешно до коликов!
Это наивность уровня детского сада! "Все станут космонавтами и учеными!"
Смешно и жутко одновременно.
А над чем  я зрелый дурак смеюсь?
Действительно почему половина людей не могут? Все не могут? Десятая часть даже не может?!!!
Лем ведь в "Сумме технологий" точно так же думал! Все станут и все равно не хватит!
Но вместо общества ученых мы имеем общество кадавров-потребителей.
"Общество потребления" – вот это объективная реальность не снившаяся мне ни в детском садике не в пионерской юности 70-х... Не снившаяся ни Ефремову ни Стругацким (хотя им то как раз...) ни Лему ни Кларук. Никому из интеллигентов ни по ту ни по эту сторону забора.
Мир, где одна забота – жрать, жрать, жрать...  Мир "исполинов духа" профессора Выбегайлы... Это ж надо было до такого МАРАЗМА додуматься?! С серьезным лицом обосновывать его ценность и важность!
Но он, маразм, имеет место присутствовать здесь и сейчас. В "пресент континуум". В наступившем "прекрасном далеко"...
"Наверное боги сошли с ума!"
Или...
?

Общий итог: Мы полностью заложники законов Мироздания, нам в полной мере <пока> неизвестных, но уже существующих. Научиться их менять или выбирать - тоже достойная, можно сказать "конечная" мечта. Но опять: "а на каких условиях"? Узнав цену, может и не захочется...

Аминь!
))
Не хочу вас обидеть но как-то не клеится ваше восточное смирение с моим западным экспансионизмом. Возможно мой наивный напор, мое желание действовать любой ценой, украсть у богов огонь и есть замысел богов? Тогда в чем мудрость?
В моей пока  неопубликованной статье о нулевой точке (по теме "смысл жизни")  завязка ведется вокруг бердяевкого (как утверждают) ответа.
Ему задали классическую загадку-парадокс: "Если бог всесилен, может ли он создать камень, который сам не может сдвинуть?" Философ-боговер не задумываясь ответил: "Может! Это и есть человек!"
Я бы заменил "человек" на более широкое "разум".
Если у вас есть разум вы просто не в состоянии уподобляться камню. Вперед, вперед, вперед! В этом и только в этом спасение. Тогда возможно только вы и переживете все камни под Луной... и саму Луну...

[Балакин Андрей]

Ну хорошо Алекс, предположим что вы сделали всем "втык", и проработали "на ковре". И вот вы император земного шарика. Ваши действия? Ругаться ведь дело непродуктивное. Хотя не скрою - иногда приятно...
У вас есть план мистер Фикс?

[alex_semenov]

Ну хорошо Алекс, предположим что вы сделали всем "втык", и проработали "на ковре". И вот вы император земного шарика. Ваши действия? Ругаться ведь дело непродуктивное. Хотя не скрою - иногда приятно...
У вас есть план мистер Фикс?

Гм...
А почему вы думаете что "император земного шара" – это наиболее удобное место для того чтобы изменять мир? Если вы помните, согласно христианской легенде, господь бог дабы изменить наш мир вселился во вшивого плотника из самой захудалой провинции Римской Империи... Но он бог. Он знал где у него точки бифуркации...
Мы же можем только гадать....
Я могу только предполагать направления правильных действий...
Нужно готовится к коллапсу европейской цивилизации.
Кстати, если он произойдет быстро, это может оказаться лучше чем если это будет тянуться долго и менее болезненно.
Нужно быть готовым из этого коллапса выжать как можно больше полезного для... как бы это  назвать...  ?... Скажем так... сингулярного перехода.
Тут спорили об этом термине. Каждый себе это представляет по своему. Я это скромно представляю так. В космосе зарождается новая форма жизни. Небиологическая машинная (на первых порах макро, а лучше мини саморепликаторы) жизнь с полноценным искусственным интеллектом. Она должна унаследовать богатство знаний нашей цивилизации и никак не зависеть от нас.
После этого человечество можно отпускать на галактическую пенсию.  Хотят деградации? Назад к корням? Да ради бога! Заслужили! Но прежде мы должны оставить наследников. И так как для большинства людей сама идея таких наследников  неприемлема, процедура не может состоятся как радостный и "...большой шаг всего человечества".
Но для него  и не надо усилие всех людей. Достаточно небольшой  части фанатично преданных идее энтузиастов ну и попутного ветра, разумеется. Скажем так молчаливого согласия лучшей части общества... То есть нужно общественное движение типа масонского.
Чтобы меня не обвинили в желании попила денег скажу сразу: жаждущие вступить в члены сейчас - расслабитесь. Рано. При моей жизни вряд ли что реально сдвинется в этом смысле с мертвой точки. Любое движение появляется и набирает силу под действие некоторых обстоятельств. А обстоятельства ПОКА  такому движение не благоприятствуют.  Во-первых мир должен стать жестче и еще глупее. К этому идет. Вот и хай себе идет... медленно. Что бы движение набрало силу нужно что бы лучшая часть человечества (назовем ее так)  в большинстве своем отчетливо понять, что они в очередной рас пригревают бой молчаливому и туповатому большинству. Должно появиться массовое (сейчас оно тоже есть но не массовое, неосознанное) разочарование этих людей с совестью в своих идеалах всеобщего прогресса. Люди должны осознать "что не до жиру"... В частности они должны понять что обычный трансгуманизме был дурацкой соломинкой утопающего (там где люди из обыкновенных кадавров желудочно-неудовлетворенных постепенным пирсингом  должны были стать кадаврами наделенными магическими возможностями).
Во-вторых действительно должны появится реальные сдвиги в понимании того что же такое разум как цифровой объект. И я тоже до этого не доживу. То есть должны появится идеи и результаты, за который могли бы уцепиться обыкновенные исследователи. Сейчас этого в ИИ просто нет.  ИИ это такая же сказка как и нанотехнология. 
Ну и в-третьих...
Мир все еще должен оставаться технологически состоятельным. Например,  в нужный момент способным запускать ракету в космос. Хотя бы одну захудалую с какой-нибудь подводной лодки...

Шансов прорваться к такой сингулярности как видите очень мало... Но в сравнении с шансами на "счастье всем даром и пускай никто не уйдет обиженным!" они куда более реальные..
Все равно мало?
Ну так может поэтому космос и молчит?
Все цивилизации выжрали как и мы свои "консервы" (невозобновляемые ресурсы)  и опустились в пучину скотского счастья так ничего и не   забросив на новую стадию эволюции?
Ведь как бы они не эволюционировали, какие бы у них ни была природа, совершая последний шаг эволюции от скотов к разумным существам они как и мы этот шаг не могли сделать полноценно всей популяцией. А значить и у них есть своя кучка "интеллигентов" и вся остальная подавляющая масса, тянущая любую цивилизацию на дно.
Разве не так?
(

[Klapaucius]

Мы можем лично считать, быть в чём-то уверенными, верить. Но есть объективные обстоятельства, которые с этим не считаются. Просто совпадают или нет. Поэтому вера во всеобщее скотство (или братство) людей - всего лишь вера, толкающая к поступкам не всегда обусловленным реальной ситуацией. То есть толкающая к ошибкам.
Добро и зло - вообще не самостоятельные понятия. Нет абсолютных ценностей. Это не значит, что не должно быть вообще никаких ценностей. Просто они всегда обусловлены ситуацией и тем, какую ситуацию мы хотели бы получить через более-менее конкретное время.
Любая вера - это дон-кихотство, бросание в омут без анализа последствий. Тоже уважаю, но только когда становится СКУЧНО. Когда нет других видимых возможностей. Это от глупости, но и способ преодоления этой глупости - на ошибках учатся, если не умирают.

Вся наша история  - это история того, кто кого съест первым. Конкуренция, естественный отбор. Вот первая философия. Дальше: все многоклеточные - результат паразитирования, перетёкшего в сотрудничество (абсолютно не взаимовыгодное до сих пор - клетки мозга и клетки печени разные по функциям, питанию, своему устройству и положению в организме; они не борятся внутри него между собой за выживание, а знают своё место). Хотя одноклеточные в виде вредных вирусов и бактерий иногда до сих пор досаждают. Это другая философия, дополняющая первую (но не заменяющая).
Ещё дальше: появляется любопытство. Как средство выживания конечно, не само по себе. И вот мы можем съесть врага-волка на обед, или подождать из любопытства: а вдруг есть лучший способ его приготовить (корейцы подскажут)? Или приручить, извлечь бОльшую пользу. Не отменяющую первых двух применений, но уже в качестве нового понятия: развлечения. Родившегося тоже не просто так, а как способ обучения: перенимания и улучшения опыта безопасным образом.
Ну и разум, способность к абстрактному мышлению - моделированию ситуаций на основе непрямых факторов (не такого типа: типа увидел-съел->несъедобно->условный рефлекс, а более сложных) и применение их на практике.

Всегда есть усложнение, и оно пока, за миллиарды лет, не привело к гибели - к возвращению в первоначальное состояние. Что не отменяет такую возможность конечно. Но я такого пути не могу себе представить: любая катастрофа, включая глобальные социальные, не может не только быстро уничтожить человечество, но и изменить человеческую природу губительным образом. Не то чтобы совсем не может, но для этого нужно совпадение очень многих факторов - то есть закономерность.

Рассмотрим для примера ксенофобию. Это естетственное чувство каждого достаточно сложного организма. Есть что-то похожее, но отличающееся - это враг, конкурент. Ни в одной экологической цепочке одну нишу не занимают два похожих по функциям вида: всегда один из них вытесняет другой.
На примере человека это чувство даёт сбой: вид то один, а оно включается. Просто на всех непохожих. Не только в расовом или социальном смысле, но просто зависть к соседу имеет те же корни. Однако есть социальное поведение (рой, стадо, стая, племя, семья и т.д. и т.п.), которое является позывом к урегулированию этого уже на  "животном" уровне. Сбой этот от разума, от рассмотрения абстрактных возможностей. И разумом же борется (с кнутом в виде социального взаимодействия - если нельзя или не нужно убивать, надо научиться жить вместе).
Конечно, всем ясно: если бы появился внешний враг (да зачем собственно враг - просто что-то похожее), человечество почти полностью переключило бы этот инстинкт на него. Но на то мы и люди, чтобы преодолевать вредные инстинкты. И разумно оценивать конкретные, а не вымышленные опасности.
Маловато пока разума, и не всегда социальные инстинкты усиливают то что нужно. Но учатся на ошибках... Или чужом опыте.
Бисмарк сказал же что-то в этом роде: "Коммунизм - неплохая идея. Но лучше её сначала опробовать на каком-нибудь народе, который не жалко. Например на русских."
Александр, если "Мы" - это популяция на своей территории, то она важнее всего. Можно забыть про космические полёты, науку, всё что угодно. Забросать атомными бомбами всех остальных или ставить на них социальные эксперименты. Знакомо, да? "Германия превыше всего". Или любая другая идея, в том числе и "машинных наследников". Если "Мы" - нечто большее, то и идея должна быть шире. Но не "любой ценой", а всегда сомневаться: не ошибочна ли она? Не жертвовать ради неё своей популяцией или территорией, не позволять ставить над собой эксперименты.
А так конечно, также как каждый человек "должен посадить дерево" и т.д., так и у человечества две реальные конечные кажущиеся на сегодня осуществимыми задачи: перенести жизнь, разум за пределы Земли, на ближайшие звёзды; и оставить после себя (как целого) тех, кто будет лучше приспособленнее и разумнее.
 

[Балакин Андрей]

В космосе зарождается новая форма жизни. Небиологическая машинная (на первых порах макро, а лучше мини саморепликаторы) жизнь с полноценным искусственным интеллектом. Она должна унаследовать богатство знаний нашей цивилизации и никак не зависеть от нас.
После этого человечество можно отпускать на галактическую пенсию.

Какой-то вы мизантроп! Вам не терпится увидеть гибель человечества? С точки зрения экономики это дикость - строить мощную техносферу, для того чтобы не пользоваться её плодами! Где вы видели пастухов, которые разводили элитное стадо только для того, чтобы потом бросить его? На мой взгляд только тогда для человечества начнется настоящая жизнь. Где каждый человек сможет самореализоваться в своих амбициях. по крайней мере закончится это бесконечное нытье о нехватке средств. Или вы мыслите о людях как сноб-рабовладелец, считающий что зачем рабу свобода? Если человеку не нужно будет исполнять тупую повторяющуюся работу, то он и смысл жизни утратит?

  Достаточно небольшой  части фанатично преданных идее энтузиастов ну и попутного ветра, разумеется. Скажем так молчаливого согласия лучшей части общества... То есть нужно общественное движение типа масонского.

Думаю дело не в фанатичной преданности, а в уровне компетентности и таланта. Тайна для того чтобы сделать хорошее дело тоже не нужна. Пусть прячутся преступники. Или вы все-таки как классический злодей-ученый из американского фильма, хотите погубить человечество?

Во-первых мир должен стать жестче и еще глупее. К этому идет. Вот и хай себе идет...

Гм...? Нет слов!

Во-вторых действительно должны появится реальные сдвиги...
Ну и в-третьих...
Мир все еще должен...

Вы меня не поняли. Я спрашивал о ваших мечтах, а не о том кто вам и что должен. Я например уже давно решил, что мне никто ничего не должен. И сразу стало легче дышать.

Ведь как бы они не эволюционировали, какие бы у них ни была природа, совершая последний шаг эволюции от скотов к разумным существам они как и мы этот шаг не могли сделать полноценно всей популяцией. А значить и у них есть своя кучка "интеллигентов" и вся остальная подавляющая масса, тянущая любую цивилизацию на дно.
Разве не так?

Не так. Человек - это самоорганизующаяся система. И при благоприятных возможностях выходит на генеральную линию развития. Пока же его пользуют на положении раба, он будет включать "дурака", из протеста. Простая проверка - дайте бомжу неограниченный кредит и у увидите как быстро он оперится (если конечно он уже не безнадежный алкаголик). 

[Балакин Андрей]

А если серьезно задаться вопросом - Как нам обустроить Солнечную систему? Причем без нытья по поводу нехватки денег. Деньги доживают свой последний век как идея. На смену её идет индивидуальная электронная кредитная история. Но и она не надолго. Дальше люди будут зарабатывать репутацию измеряемую в конкретных делах.
Представьте, что уже создан первый самореплицирующийся робот.
С микро Т/Я установкой,
вес - 10 кг.
скорость самовоспроизводства - 6 часов,(в оптимальных условиях - 1 час)
Имеет мощную память и нейросеть, делающую его смышленным как курица.
Расчитан для работы на Луне, Марсе, астероидах.
В память его заложены сотни модификаций для специализированных работ(от гигантских роботов, до сантиметровых).
Все роботы соединяются в единую информационную сеть по специальному протоколу, строго контролируемому людьми.
Думаю хватит описаний.

А дальше, когда расплодившиеся армии робоколоний будут готовы исполнить любое наше желание, возникает вопрос - чего бы вы хотели? То есть я не спрашиваю нужна ли экспансия человечеству, не будем решать за человечество. Оно само определится. У кого-нибудь есть конкретные планы, чтобы он хотел сделать в космосе? Интересные проекты, без фантастики?
Только не вспоминайте о том, что такие ветки уже были. Я просмотрел почти все. Везде только ноют о нехватке денег на космонавтику( все как в TV).