Технологическая сингулярность истории и "постсингулярная" цивилизация

[deymos34]

Даже самый мощный компьютер не в состоянии сам переписывать заложенные в него алгоритмы, подстраиваясь под меняющиеся условия.

Ну конечно в состоянии. Самообучающиеся алгоритмы вполне активно используются, в-частности именно таков яндексовский MatrixNet.

[Combinator]

Полагаю что если речь о памяти идет в двоичном представлении, то Вы сможете ответить примерно на вопрос, что из себя могла бы представлять шина-интерфейс для подключения к мозгу?

Что бы мы сейчас себе не фантазировали, реальность, скорее всего, будет от этого сильно отличаться.  Но некоторые намёки можно извлечь, например, из лекции Анохина "Коды мозга".
http://theoryandpractice.ru/videos/80-kody-mozga

Объем интересен только исходя из алгоритмов работы, и процесс мышления не раскрыт. Таким образом мы понимаем что мы мыслим, но не знаем как это происходит. Например, избыточность на основе 0 и 1 как реализуется?

Избыточность проявляется в том, что к одному и тому же конечному резульату ведут множество путей.

Все понимают что процессор не корректно сравнивать с мозгом, скорее это связка дендритов с аксоном, таким образом чтобы "построить мозг", 20 млрд. процессоров должно хватить? Не мало. Но и не сказать что число фантастическое. Например программируемых ядер CUDA или Stream на одном процессоре может достигать 1000(или даже поболее) и с такими темпами как сейчас, все дело идет к тому что смоделировать железом трудности представить не должно. Проблема скорее будет с ПО.

На каком уровне детальности нужно моделировать каждый нейрон, толком никто не знает, а необходимые вычислительные мощности от этого могут отличаться на многие порядки. Скажем, в проекте BlueBrain один самых мощных на сегодняшний дент суперкомпьютеров в мире задействован только на то, что бы моделировать одну колонку  в кортексе мозга крысы.
http://bluebrain.epfl.ch/
А в мозгу человека порядка 5×10^5 таких колонок, причём сами колонки содержат существенно больше нейронов,  так что, если для воспроизведения высших функций мозга действительно необходимо его моделирование с такой точностью, то необходимое железо может появиться в лучшем случае лишь ближе к середине текущего века. Впрочем, не исключён вариант, что всё же удастся построить упрощённоую модель нейрокортекса, которая будет лишь имитировать его поведение на уровне "сигнал на входе" - "сигнал на выходе", потребляя на несколько порядков меньшие вычислительные мощности.
В любом случае, ПО очень важно, тут двух мнений быть не может. На микроуровне мозг человека практически мало чем отличается от строения мозга других высших животных, значит, есть какие-то "фишки" в алгоритме коммуникации его межнейронных связей, то есть, де факто, его софте.

[Okub62]

Всё же я упёрто настаивал на мысли: Каждый человек, как и любое другое живое существо хочет жить (кушать, размножаться ...). До тех пор, пока у электронных систем не появятся желания, они не смогут существовать, самостоятельно развиваясь и приспосабливаясь к окружающему миру.
Им это не нужно, т.к. они сами себе не нужны, ибо не существуют, как организм, а являются лишь мёртвой материей.
Моё скромнейшее мнение.

[Dem]

Легко смогут. Уже сейчас обработка данных, начиная от маркетинговых исследований до дизайна и внедрения с конечным производством и реализацией- с минимальным участием человека и максимально автоматизирована на многих процессах. Как минимум для минимизации затрат. Нет никаких проблем в автоматизации связки инет-маркетинг>КиОПР>торговый автомат.
Вы были когда нибудь в МАКавто? Оттуда легко можно убрать людей заменив их автоматами. Вроде такие даже существуют. Производство по заказу отдела маркетинга через опросы в инете перенастраивают автоматизированные линии. И если люди захотели то им вместо двойного бигмака будет тройной .Это пример.

Это не новое. Автоматы - действительно могут сделать из двойного бигмака тройной или четверной, но вот куриный бульон они не придумают.
Я не говорю, что они не нужны - но есть занятия и вне их зоны деятельности.

В №21 картинку ты хорошую привёл - но кто сказал, что эта S-кривая не часть более глобальной цепочки?

Ну почему же? Лично я, наблюдая динамику ЭТОГО мира уверен, что если он сохранится таки надолго, сопли жевать с ИИ, генной инженерией, да и освоением космоса мы будем д_о_о_о_л_г_о_о_о_... Это мир свой потенциал уже выжал.

Генинженерия скорей выстрелит не менее мощно и быстро, чем компьютерная индустрия в прошлые десятилетия. Освоение космоса - будет долгим просто в силу масштабов, тут никаких вариантов. Если рейс длиться десяток лет - то оно быстро быть не может. ИИ - скорей не будет никогда. Хотя - модифицированный человеческий вполне можно назвать искусственным...

[Аstrocity]

Самый сложный тип мышления для человека и в то же время самый трудоемкий-комбинаторный, выборка и распараллеливание методами исключения/объединения объектов, в таких, казалось бы простейших задачах, может исчисляться огромными значениями операций с затратами ресурсов мыслительной деятельности. Объясняется это на удивление просто-крайне высокая степень различия свойств объектов, может исчисляться невероятными числами.
Вот вам пример такой простейшей детской задачки-теста:
Лиса, медведь, собака, волк, тигр. Необходимо убрать 1 лишнее слово.
Однако человек находит решение часто на интуитивном уровне.
Обучаемость, оценочная функция, методы отсечения, эвристики-все это на сег есть и в софте. Реальный сдвиг произойдет вовсе не после того как 10млрд ядер научат обучаться и не после того как процессор переступит какой либо порог скорости, и даже не после того как программистам повысят зарплату.
Вся проблема-в интеграции. Нет на сег быстрых интерфейсов человек-процессор. Качественный скачек произойдет именно при его появлении и не ранее.
Кстати. Почему бы ученым не начать опыты на крысах уже сегодня? 

[Геннадий_Зубков]

По-идее,раз работы на всех не хватает,пора переходить к коммунизму-платить каждому жителю продуктовые талоны,пособие,пенсию, ''карманные деньги'' и т.п.,чтоб он не прозябал в нищете,а развивался. Хотя нормальная власть или партия всегда бы нашла чем занять население.Дел невпроворот.   

[Хворостенко]

Однако человек находит решение часто на интуитивном уровне.
Обучаемость, оценочная функция, методы отсечения, эвристики-все это на сег есть и в софте. Реальный сдвиг произойдет вовсе не после того как 10млрд ядер научат обучаться и не после того как процессор переступит какой либо порог скорости, и даже не после того как программистам повысят зарплату.
Вся проблема-в интеграции. Нет на сег быстрых интерфейсов человек-процессор. Качественный скачек произойдет именно при его появлении и не ранее.
Кстати. Почему бы ученым не начать опыты на крысах уже сегодня? 

Математик А.Пуанкаре, много лет изучавший свою творческую  интуицию, пришёл к обоснованному выводу:"Чистая логика всегда приводила бы только к тавтологии... Для обозначения этого другого у нас нет другого слова, кроме интуиция". Интуиция, по-моему, находит необходимое решение не перебором вариантов и не компьютерным "эвристическим" алгоритмом, а нереализуемой на вещественных устройствах целостной обработкой всего поля данных, как в голографии.

[Olweg]

Попалась на глаза статья BBC с передового края мировой экономики:

Davos 2011: We're all hyper-connected, now what?

On financial markets, "pricing engines" and "bots" trade with each other, "with the pace of interaction so great, that a human can no longer pretend to be the consumer at the other end," says one executive whose company helps to make it happen.

На финансовых рынках "pricing engines" (не нашёл адекватного перевода) и "боты" торгуют друг с другом, "со скоростью взаимодействия настолько большой, что человек больше не может претендовать на роль потребителя на другом конце", по словам одного из руководителей, чья компания помогла этому стать реальностью.

[Combinator]

"pricing engines" (не нашёл адекватного перевода)

Я думаю, этот сленг можно перевести как что-то вроде "программы оптимизации цены сделок в торговых системах".

[Аstrocity]

Касаемо "Davos 2011: We're all hyper-connected, now what?" мне понравился факт о том что" количество телефонов и компьютеров входящих в сеть уже в 2 раза больше кол-ва зубных щеток"(вольный не дословный перевод).
Авторы уже подходят к мысли что процесс трудно поддается анализу и коррекции. Спасибо Olweg за статью. Факты  интересны и раскрывают хорошо тему. Затронутая проблема-именно один из очень важных аспектов темы.

[Аstrocity]

На форуме периодически в непрофильных темах возникают интересные идеи и мысли которые с позволения авторов я буду переносить сюда что бы не оффтопить там. Вот натолкнулся на одну из таких:

Теперь самое узкое месть – мозги. Интеллект. Надо очень много ума, таланта, интеллекта, чтобы создать такой зародыш. Это опять же уже не космические проблемы. Это робототехника, программирование, ИИ.
Сейчас всего этого нет. И даже не предвидится. Потому что роботы не нужны миру где есть миллиард индусов и миллиард китайцев. Потому что ИИ не нужен миру, где правящая элита не хочет прислушиваться к советам своей интеллектуальной элиты.
Этот мир не может породить то, о чем я говорил выше.
Но этот мир обречен переродится.
И в этом надежда.

То есть. Надо не просто думать как бы нам так вот все сделать.... Надо думать иначе.
Тогда все будет не так безнадежно.

Наталкивает на весьма интересные выводы. Экономический "поводок" становится тем самым бутылочным горлышком которое тормозит прогресс? Похоже на проблему поздних рабовладельцев 

[wandarer]

"... Если в обществе нет цветовой дифференциации штанов – то нет цели."
Какая цель может быть у суперкомпьютера? Человек, каждый раз вставая утром делает выбор между жизнью и смертью. Тестрование системы(организма) и решение задач по реализации потребностей, чтобы жить в следующий интервал времени как индивидуально, так и что-то для сохранения вида. Ряд желаний, заложенных в химические программы и описываемых в уравнениях в частных производных в виде откликов на воздействия описывают некоторую "душу".  Разве может компьютер бороться за выживание компьютерного вида? Что это за монстры, которые могут иметь бесконечную ненависть или бесконечную любовь? Да и за что бороться, если легко можно создать другой компьютер и наделить его той же информацией? Само понятие жизнь, как преобразование для компьютера бессмысленно.  Поэтому, компьютер может быть только инструментом и не за ним технологическая сингулярность. Скорее она в усилении биологических способностей человека.

[Хворостенко]

"... Если в обществе нет цветовой дифференциации штанов – то нет цели."
Какая цель может быть у суперкомпьютера? Человек, каждый раз вставая утром делает выбор между жизнью и смертью.

Это амёба, вставая утром "думает" только о выживании. Человека, если он человек, а не говорящая амёба, отличает от всех остальных живых организмов гиперлюбознательность в зрелом возрасте. В течение 50 000 лет жизни человечества миллиарды говорящих амёб "думали" только о своём выживании с удовольствием, но оставили после себя на Земле только черепки и пирамиды. А от любознательных людей остались теорема Пифагора, законы Ньютона, уравнения Максвелла...

[Аstrocity]

Само понятие жизнь, как преобразование для компьютера бессмысленно.  Поэтому, компьютер может быть только инструментом и не за ним технологическая сингулярность. Скорее она в усилении биологических способностей человека.

Кто сказал вообще что ИИ будет основан исключительно  на логике конвейерной архитектуры и что это будет какой то "суперкомпьютер" из железа ?
Я на вскидку дам варианты-несколько крыс(их мозг) подключены через шину-интерфейс к серверу приложений и сети для решения, например, задач связанных с распознаванием образов и лиц в аэропорту     или организации движения в городе, логистики, прогнозирования погоды, дачегохотите.
На первых порах ИИ будет выглядеть примерно так как я описал. Скучно, вполне обыденно и неинтересно-правда?
Вам все подавай сразу монстроподобный блэйд-сервер из мозгов клонированных эйнштейнов с дельфинами в перемешку, решающих задачки из абстрактных алгебр?  Рецепт один-меньше смотреть фильмов

[wandarer]

Это амёба, вставая утром "думает" только о выживании. Человека, если он человек, а не говорящая амёба, отличает от всех остальных живых организмов гиперлюбознательность в зрелом возрасте. В течение 50 000 лет жизни человечества миллиарды говорящих амёб "думали" только о своём выживании с удовольствием, но оставили после себя на Земле только черепки и пирамиды. А от любознательных людей остались теорема Пифагора, законы Ньютона, уравнения Максвелла...

Вы меня не поняли. Любая система прежде чем начать работать должна произвести самотестирование. Если у человека что-то не так, то он начинает думать о смысле жизни. А машина? Ну а в целом "любознательность" это приспособление новых сфер реальности к практическим потребностям и лишь иногда для удовольствия (порешать кроссорды, головоломки и другим образам "убить время").

[wandarer]

...Я на вскидку дам варианты - несколько крыс(их мозг) подключены через шину-интерфейс к серверу приложений и сети для решения, например, задач связанных с распознаванием образов и лиц в аэропорту     или организации движения в городе, логистики, прогнозирования погоды, да чего хотите. ...

А где общество? Задачи распознавания образов может решать и обычный компьютер. Крысы здесь не нужны. Для этого существуют, например, метод потенциалов или метод разделяющей гиперплоскости, да и другие эвристические алгоритмы. Только общество способно ставить задачи, которые суперкомпьютеру "до лампочки".

[Аstrocity]

А где общество? Задачи распознавания образов может решать и обычный компьютер.

Не понял что понимается под обществом и в контексте чего Распознавание образов если б было возможно сег хотя бы на уровне собачьего то от служебных собак бы давно отказались. Все попытки переложения обучаемости на основе неиросетей, в стандартную архитектуру-оказались провальны и давно признаны неперспективными.

Выход один:интеграция имеющихся программно-аппаратных возможностей с использованием быстрого нейро-компьютерного интерфейса или brain-computer interface. Это же очевидно.

[wandarer]

...Не понял что понимается под обществом и в контексте чего

Да всё таже проблема мотивации.

[Dem]

Распознавание образов если б было возможно сег хотя бы на уровне собачьего то от служебных собак бы давно отказались. Все попытки переложения обучаемости на основе неиросетей, в стандартную архитектуру-оказались провальны и давно признаны неперспективными.

так от собак потихоньку и отказываются. Где они сейчас используются? Как "нюхачи" на таможнях - но этих таможен по пальцам пересчитать, разработка робота пока просто не окупается. Ну и под пули вместо человека лезть - но и тут роботы поджимают...

[Аstrocity]

...Не понял что понимается под обществом и в контексте чего

Да всё таже проблема мотивации.

Мотивации?
Как показывает история, человечеству не удалось найти общее универсальное оправдание своего существования. Достижения отдельных людей, религий и философских систем не сходятся друг с другом и не способны убедить сомневающихся. 

Пожрать-карьеру сделать-размножиться... -это мотивация что ли, или оправдание своего существования ?
Расскажите мне в двух словах о т.н. "мотивации" без антропоцентризма-в вашем понимании    Очень интересно!