Технологическая сингулярность истории и "постсингулярная" цивилизация

[gans2]

Потребуется как минимум сложная система чистки сознания от накопившихся неполадок.

Разум - побочный продукт эволюции, чего бы там не бредили крео.. . Но система очистки у него - огого. Собственно - жизнь  - это система очистки от неполадок. Искусственную жизнь ладить все равно придется, а вот искуственный разум - лишняя сущность.
А очень долгоживущие животные и растения есть, и немало, и сейчас, и довольно известные, и весьма высокоразвитые. Просто отбором это свойство не приветствуется и виды его практикующие проигрывают.

[КотКот_]

Потребуется как минимум сложная система чистки сознания от накопившихся неполадок.

Либо по Артуру Кларку -- самоосвобождение от лишнего, либо по Лазаревичу -- копирование на новый носителей воспоминаний с потерей того , что не воспоминается. Иначе информационная смерть....

[gans2]

Потребуется как минимум сложная система чистки сознания от накопившихся неполадок.

Либо по Артуру Кларку -- самоосвобождение от лишнего, либо по Лазаревичу -- копирование на новый носителей воспоминаний с потерей того , что не воспоминается. Иначе информационная смерть....

Первое ,все таки Пол Андерсон "Челн на миллион лет".

[КотКот_]

Потребуется как минимум сложная система чистки сознания от накопившихся неполадок.

Либо по Артуру Кларку -- самоосвобождение от лишнего, либо по Лазаревичу -- копирование на новый носителей воспоминаний с потерей того , что не воспоминается. Иначе информационная смерть....

Первое ,все таки Пол Андерсон "Челн на миллион лет".

Артур Кларк "Город и Звезды" (195?3)

[Astroingener]

При рассморении этого вопроса необходимо учитывать возможность социальной и биологической эволюции человечества т.е. возникновение сверхчеловека или СИГОМА (синтетический гомо) ,который сохраняя гуманизм человеческого мышления обладает сверхчеловеческими способностями (видеть во всей области спектра ,сверхсила ,сверхразум ,вечная жизнь и превосходит роботов-киборгов). Это открывает новые перспективы развития для ВЦ.

[Юрий_К]

обладает сверхчеловеческими способностями (видеть во всей области спектра ,сверхсила ,сверхразум ,вечная жизнь и превосходит роботов-киборгов

На мой взгляд люди будущего, если смогут развиться в транс-, а потом и в постхьюманов, должны обладать полиморфностью тела, то есть быть не самыми сильными, а такими какими нужно в текущий момент-хоть бронированным ежом для жизни на астеройде...

[gans2]

Как отец двух дочерей говорю - этому чуду природы главное не мешать и показывать примером. Они сами учатся лучше, чем под... . Только вырастает именно то, на что вырастающее смотрит. Самопрограммирующаяся аналоговая система.

Все это верно, но в космосе им делать нечего. Поэтому я за разумных существ с искусственным телом и разумом, способных жить в космосе.
Вполне возможно, что возиться с ними придется не меньше, чем с детьми (скорее, даже больше), но каков будет результат!

Вот нашел современное состояние взглядов на ограничения по ИИ. Человек в теме и пишет по-русски.


"Тем не менее история искусственного интеллекта не прошла впустую. Во-первых, люди поняли, что многие виды интеллектуальной активности (например, шахматы или распознавание простых образов) не требуют человеческого разума — его может заменить быстрый перебор вариантов. Во-вторых, стало очевидно, что чрезвычайно важной для разума является не логика, а интуиция, возможно, даже эмоции и осознание собственного «я»: к этой составляющей разума ученые даже не прикоснулись, считая, что сознание собственного «я» магическим образом возникнет у достаточно мощного компьютера. В-третьих, в проектах, связанных с искусственным интеллектом, родились многие современные методы программирования — их просто перестали называть «искусственным интеллектом» и начали называть «хорошим программированием».

Да в конце концов, совсем не факт, что искусственный интеллект невозможен. По крайней мере, одна разумная конструкция из молекул и атомов существует — это человек."

Полностью
http://panchul.livejournal.com/14670.html

[EvilShurik]

Сейчас появилось много сайтов где обсуждаются перспективы дальнейшего развития человеческой цивилизации. В частности обсуждается так называемая технологическая сингулярность. Это такое историческое время, когда происходит переход от человекозависимой техноэволюции к машинной автономной. Фактически есть несколько вех отмечающих границу сингулярности - появлении ИИ сравнимого с человеком, появление полностью автоматического исследовательско-производственного комплекса, появление технологий перестройки организма, когда переделанное оказывается лучше естественного. Утверждают, что сингулярность наступит в двадцать первом веке.

[EvilShurik]

Ну у трансгуманоидов не всё продумано.

[Cotus]

Эмоции и "я" вроде уже не загадка... Посмотрите ввс "тайны мозга"

[valentinamag]

Мне почему-то кажется, что у автора этой темы этот вопрос возник после просмотра первой серии сериала "Терминатор. Борьба за будущее."
Там как раз и мысли ужасные высказывают точь-в-точь, как у автора, и страшилки всякие о скайнет, и о победе ИИ над человеком.
Я полагаю, что у обычной жизни, неискусственной, в том числе и у разума, запас прочности довольно большой.

[Olweg]

Собственно статья, с которой все началось:
http://www.computerra.ru/think/35636/  (часть 1 и дальше)

[ALZ]

А почему все должно быть так мрачно с индивидами в этих прогнозах?

Все будет полюбовно -- да уже и стало, Интернет и есть Постсингулярность -- хочешь преуспеть, приобщайся к Сети, вливайся в нее, не хочешь -- гуляй сам по себе.

Повторяю -- все уже произошло, и произошло на абсолютно гуманной основе -- как говорится, вольному воля, спасенному - рай...

[turchin]

вот ещё:

вот ещё:

Элиезер Юдковски
Вглядываясь в Сингулярность.
http://www.proza.ru/texts/2007/07/08-42.html

Майкл Диринг. Рассвет Сингулярности.
http://transhumanism.org/languages/russian/dawnofsingularity/Deering.htm


Николай Аблязов. "Технологическая сингулярность. Исследование предпосылок возникновения и последствий для человечества"
http://philosophy.mipt.ru/publications/f_1vsgxk/a_1xes5v.html

Андрей Новоселов
Технологическая сингулярность как ближайшее будущее человечества
http://topos.ru/veer/41/singular.htm

[inokenti]

.... и еще на схожую тему - http://webplanet.ru/column/life/IN/2007/06/20/future_fiction.html (в  литературе)

[self-subject]

Я пытался углубиться в вашу историю. Заметил - в последние пару тысяч лет вас преследует  призрак апокалипсиса. Точнее, вы сами его себе придумали. Потому что, как только наступал ранее обозначенный час «Ч» - ничего особенно существенного не случалось.  Создаётся впечатление, что вас это угнетает.
Если диагностировать эту проблему,  то она свидетельствует о некой неуверенности вас в собственных взглядах на окружающий мир. С одной стороны,  вы доказываете себе, что возникновение   цивилизации  более закономерно, чем случайно. С другой, - ни кого вокруг себя не обнаруживаете.  С одной стороны, вы видите некую целесообразность в развитии окружающего мира. С другой, - ничем кроме  привлечения некого нематериального (божественного) начала  объяснить происходящее не можете.
Я не собираюсь излагать наши взгляды на происходящее. Путь познания у каждого свой.  Корректировка  ваших взглядов на окружающий мир становится достаточно очевидной. Всё на самом деле гораздо сложнее и запутаннее. И одни вы и не вы первые проходите через это.
По поводу роботов и прочее. Никогда не было такой проблемы. Робототехника у нас в конечном  случае переросла в проблему создания саморазвивающяхся  материальных систем (СМС) (Использую близкую вам терминологию). Основная сложность здесь - создать мощную систему при минимальном размере носителя генотипа. Конкретный пример, - та метагалактика, в которой вы существуете.  Принципиально, ничем не отличается от вашего автомобиля, и чего-то подобного, - также управляема. Только в нашу систему заложен механизм саморазвития.
По поводу встречи с другой цивилизацией. По-моему нет никаких проблем. Я живу нормально, не причиняю вам особых неудобств, по крайней мере стараюсь. Да и вы, в основном, своими проблемами заняты. По поводу конкуренции, - это очень различные масштабы. Вы же всерьёз не конкурируете с племенем на берегах Амазонки. А тут разница ещё большая.  А кого-то другого, вы не встретите. Так заложено в систему. Она должна быть управляемой. Руль у автомобиля должен быть один.
И по последнему третьему выводу. Создание человека (более точно self-subject) заложено в генотип СМС. Также заложен режим поддержания.
Так-что всё разрешимо. Надо не зацикливаясь идти вперёд.

Достаточно было просто сказать "Привет!".
Не надо ничего усложнять.
Спилберг на эту тему снял целый фильм.

[Балакин Андрей]

С середины 20го века человечество едва вступив в научную эру вошло в фазу торможения прогресса. Причина простая и понятная: каждый следующий шаг на пути познания дается с большим трудом. Приборы для каждого следующего шага становятся все дороже и сложнее, их конструирование требует участия все большего и большего числа людей, причем не только рабочих но и инженеров – конструкторов, а сейчас уже и ученых вынужденных для создания новых приборов вести научные исследования. Возьмите для примера исследование строения вещества от первого прибора Резефорда, умещавшегося на столе и до современных ускорителей с многокилометровыми кольцами.

Перепутана причина и следствие. Открытия Резерфорда позволили получить "жирную прибыль", и теперь мы можем себе позволить "многокилометровые кольца". Мы делаем что-либо, не потому что ДОЛЖНЫ, а потому что МОЖЕМ.
Много тратится на науку? Ничуть! Жалкий процент от бюджета. Остальное тупо проедается.
Я в играх-стратегиях всегда ставлю бюджет на 100% расходов на науку. И это себя оправдывает. Пока другие нации строят юниты с копьями, я начинаю делать танки - и победа в кармане! К сожалению политики плохие стратеги...

Наверное многие заметили, что скажем современные самолеты от самолетов 50х отличаются лишь количественно и то не слишком сильно, а вот если взять прогресс в авиации за предыдущие хотя бы 20 лет – разница огромная. И это при том, что только один современный суперлайнер на 700 пассажиров проектируют больше конструкторов чем работало во всем авиастроении мира в 30е годы прошлого века.

Как раз потому что на науку тратится мало. Спешат скорей прибыли нахапать.

Ведь нельзя же задействовать в науке большую часть людей – кто-то должен и хлеб растить и сталь варить и автомобили клепать. В результате развитие во второй половине 20 века резко затормозилось – сложность задач росла, а число людей их решающих росло уже намного медленнее.

А большую часть и не надо. Но ведь есть и люди, которые не делают ничего. Может они и есть самые подходящие для науки? Просто им не интересно хлеб растить. Создайте им рабочие места в науке, глядишь - что-нибудь откроют...

Что дальше? Мы стоим на пороге компьютерной революции в ходе которой все производственные функции будут полностью автоматизированы – все рутинные задачи по управлению станками или транспортом или землеройной или сельскохозяйственной техникой, чем сейчас занимаются люди – рабочие, будут к концу 21 века выполняться  компьютерами. Рискну предсказать, что к середине 21 века, к примеру, ручное управление автомобилями будет полностью запрещено хотя бы в крупных городах – шофера будут совершенно не нужны. Что интересно, бюрократические офисные функции автоматизируются еще легче чем, к примеру, прополка овощей или погрузочно-разгрузочные работы.

Забавно, что водителя мусоровоза заменить роботом гораздо труднее, чем иного высокопоставленного чиновника. Это, кстати, может быть мерилом ценности труда.

Куда денутся огромные массы более не нужных производителей и офисных работников? Один путь – уничтожить их с помощью «безопасного» секса и доступных наркотиков. Другой – перевести их туда, где люди будут нужны всегда и в неограниченном количестве – в научную и конструкторскую работу.

Уф! Слава богу! Второй путь есть. А я уж испугался, что меня сейчас начнут уничтожать "с помощью безопасного секса". Жуть какая...

Что конечно потребует совсем другой системы образования, другой экономической системы, да вообще другого типа общества.

А какой экономической системы?

... переход высшего класса на чистое паразитирование на машине – описанный во множестве фантастических романов.

Паразитирование придумано завистниками. Человек не способен существовать без творчества, если только его не лишить этой возможности искусственно.

Итак в течение 100-150 лет число людей занятых в науке и техническом конструировании может вырасти с нынешних нескольких процентов до 50-60% населения

Это есть карашо !!!

А Земля не резиновая – на ней можно разместить ну пусть 20 миллиардов человек в приличных условиях (в стесненных условиях научное творчество не пойдет), но уж 200 – невозможно. Выход лишь освоение других планет Солнечной системы и после других планетных систем.

По-моему - это очевидно всем.

... для человечества замкнуться в пределах одной планеты или одной планетной системы означает прекращение развития...

и это тоже...

А остановка, стагнация – это потеря способности к дальнейшему развитию и последующая неизбежная деградация. Т.е. практически конец человечества.

Остановка - это лишь остановка, а не апокалипсис. Многие формы жизни умеют впадать в спячку.

То есть, есть у человечества лишь два пути: или остановка развития с неизбежной последующей деградацией и гибелью, либо продолжение развития, которое потребует неограниченного наращивания ресурсов, что неизбежно поставит человечество перед необходимостью создания колоний на других планетах и в других звездных системах.

Вы неверно мотивируете. Нельзя представлять развитие в виде дубины. Это скорей пряник. Вашими апокалипсами только отвратите людей от науки. А наука - она так сладка...

Гуманизм касается лишь внутривидовых отношений, т.е. отношений между людьми. Ну, в какой то мере в отношении людей к тем животным, которые стали симбионтами человека, которых люди психологически очеловечивают (а они тоже считают себя людьми – членами человеческой стаи). Но никакой гуманизм не применим в отношении чуждого вида.

Гуманизм и вообще социальные идеи, они знаете-ли многоуровневые... На каком-то уровне мы деток любим, а на каком-то даже начинаем рассуждать о правах роботов и моральном долге преред ними. Способность к антропоморфизму неистребима.

Создавать разумных роботов с творческими способностями (они же способности к саморазвитию) меньшими чем у человека не имеет смысла – такие роботы безопасны, но и бесполезны для человека, мало чем превосходя неразумных роботов для выполнения рутинной нетворческой работы.

Спорно. Вы батенька - максималист! Чтоже мне и молоток нельзя сделать, если он не равен мне по интеллекту? Да он глуп! Но зато какой крепкий!

Выводы:
1. Для непрерывного развития необходимо непрерывное наращивание ресурсов а значит неизбежное распространение в Космосе; альтернатива – стагнация, деградация, гибель.
2. Встреча с другой цивилизацией может привести как к конкуренции за ресурсы, так и к симбиозу на основе объединения информационных ресурсов и разделения направлений исследований.
3. Создание разумных способных к развитию роботов как помощников в исследованиях было бы последней ошибкой человечества, которая неизбежно привела бы к замене человеческой расы расой этих роботов.

Гм! Понятно, пункт №3 - это призыв забивать гвозди кулаками, и летать в космос, хорошо поев реактивного гороха, а то не дай бог, молотки против нас восстанут!

[Балакин Андрей]

А ведь совремнные компьютеры по своим возможностям не достигли даже мозга стрекозы.

Летать и "петь все лето" они конечно не могут, но могут такое, что стрекозе и не снилось. Да, кстати, и вам тоже. Вы смешиваете разные принципы организации информации. Меня в детстве доставали глупые вопросы товарищей: Кто сильней - боксер или акробат? Смотря для чего... Каждый где родится, там и пригодится.

[Балакин Андрей]

Не фига не защищен. И Модель Милтона (Эриксоновский гипноз) тому доказательство. Наш мозг как компьютер. В него тоже можно на прямую загружать информацию. Главное кодировку подобрать правильно. Человек очень уязвимое существо. Зачастую мы реагируем на вещи не осознано, не понимая почему мы так или иначе поступили. А делаем мы так потому что на нас влияют различные факторы и раздражители. Главным из которых являются другие люди. Сознательно или бессознательно используя ключи доступа они влияют на наше поведение, заставляя любить, ненавидеть, принимать те или иные решения.

Гипноз ничего не доказывает. На 90% - это жульничество. Гипнотизер угадывает желания человека, а потом делает вид, что он ему именно это и внушил. Просто мы коммуникабельны, что заложено в нас эволюцией. Мы умеем подчиняться, что и является признаком интеллекта.

Насчет искуственного сознания. Для начало надо разобраться со своим. На эту тематику написано сотни книг, ученые знают как развивается сознание, его механизмы, дефекты, но на главный вопрос "Что такое "Я"? сказать ни может ни кто. Ведь только у человека есть есть самоосознание и только человек может тыкнуть в себя и сказать "Я!". Ради истины стоит упомянуть и о высших обезьянах (горилах, шимпанзе) у которых тоже имеется самоосознание, но в зачаточном состоянии. Искуственный интелект появится когда мы поймем почему собака смотря в зеркало видит другую собаку, а человек СЕБЯ.

Берусь без труда обучить робота этому гордому тыканью в грудь. Даже могу научить его делать нечто более осмысленное, например цитировать Канта. И что это докажет? Нужно мыслить членораздельно...

[Балакин Андрей]

А проблема простая--- сохроняться ли желания после соединения с компьютерами

Свидетельствую - сохранятся! Я уже второй день как соединился с компьютером на скорости 100мбит/с, а желания все растут ...