Семинары и международные симпозиумы НКЦ SETI

[alex_semenov]

Так и Техноекосм Лазаревича по вашему такая же приманка?

Это вы Турчина спрашиваете?

Я когда слушал "Технокосм" знаете к какой мысли пришел?
Из этой штуки можно было бы придумать вещь не хуже "Автостопом по галактики" Дугласа Адамса если бы... автор не был столь серьезен.
По сути, весь сюжет просится на гротесковую издевку. Тотальную издевку всех над всеми. Не воспевать инопланетян, а показать что они  "Такие же сволочи как и все". Тем более что у Лазаревича, как он не пыжился, так оно и получилось в итоге. Такие же сволочи как и все!
Сделай Лазоревич "Технокосм" стебом - он бы засиял бесконечной глубиной и самоироничной мудростью. Это была бы совсем другая книга!
Не думаете?

[Проходящий Кот]

.....
Такие же сволочи как и все!
.....

А там так и получается....
Чтобы не хотел сказать автор.

[Сергей Михайлович]

Алексей Турчин, спасибо, отправлю после семинара модератору ГАИШа.
Александр Семенов, то, что цивилизация это эволюция идей, бесспорно. Спорно другое - можно ли алгоритмизировать (перевести на машинный язык) смысловую деятельность цивилизации. Уверен, что нет. Поясню свою мысль еще раз - Голощапов демонстрирует на языке информатики развитие жизни и ее усложнение вплоть до появления разума (конечно не одномоментного процесса). Но далее становится не понятно, как деятельность разума, его устремления, можно описать языком информатики. Достаточно произвольные на мой взгляд "обобщения" здесь выглядят мало убедительными. Возможно, будет легче прийти к пониманию на конкретных примерах. Кстати Голощапов собирается посетить семинар 15 марта.

[alex_semenov]

Александр Семенов, то, что цивилизация это эволюция идей, бесспорно. Спорно другое - можно ли алгоритмизировать (перевести на машинный язык) смысловую деятельность цивилизации. Уверен, что нет. Поясню свою мысль еще раз - Голощапов демонстрирует на языке информатики развитие жизни и ее усложнение вплоть до появления разума (конечно не одномоментного процесса). Но далее становится не понятно, как деятельность разума, его устремления, можно описать языком информатики. Достаточно произвольные на мой взгляд "обобщения" здесь выглядят мало убедительными.

Гм…
Что значит "алгоритмизировать"?
Свести все "культурное наследие" цивилизации к набору четких, хорошо понятных  НОСИТЕЛЮ  наследия  алгоритмов?
Разумеется нельзя. Да и нет смысла. Транслятор смыслов не обязан понимать механизм трансляции до конца. Да и не может, наверное. Иначе он станет как та сороконожка, которая задумалась как ей переставлять ноги.

Для того что бы "ландшафтная логика" Голощапова была применима  и к цивилизации разумных существ, возможно ДОСТАТОЧНО того, что все "культурное население" можно свести к цепочкам букв некоторого алфавита. А значит, по сути, к цепочкам нулей и единиц.
Ну посудите сами.
Мемы не обязаны раскладываться в четко понятные нам с вами алгоритмы (для машины Тьюринга), чтобы быть мемами. Все что им  надо для этого - быть ЦЕПОЧКАМИ БУКВ, передаваемые от одного транслятора (человека) к другому без искажения (буква не стареет. Она либо передается без искажения, либо искажается полностью. Дискретный объект. Либо -либо. Либо вы беременны либо нет. Либо ноль либо единица. Нельзя быть чуть-чуть беременной. ).
Вы имеете цепочки букв транслируемых от одного носителя к другому с разной степенью успешности? Вы уже имеете некий адаптивный ландшафт. Даже не важно что вы не знаете как происходит данная трансляция внутри объекта "разум индивидуума".

Например, вам не обязательно четко осознавать, почему анекдот (типичный пример мема) про еврейскую маму (Чем отличается еврейская мама от бульдога? Бульдог когда-нибудь отпустит) вызывает "привыкание" к нему (мы смеемся и признаем это мудрым обобщением реальности),  и у нас, и в Америке (глядя сериал "Теория большого взрыва" понимаешь, что феномен "еврейской мамы" - явление ПОНЯТНОЕ даже индусам).
При этом под "цепочками букв" надо понимать не просто "внешние" буквы некого языка, а именно смысловые… эм… кванты. "Мама" и даже "еврейская" в разных языках  изначально будет звучать по-разному. Но есть в сознании людей некий уровень, где все это складывается в некую универсальную смысловую схему.
Я, например, не знаю как давно появились бульдоги. Но предположим что в древнем Риме их еще не было. Как и не было широко распространенного теперь феномена "еврейской мамы". Можно было бы распространить этот анекдот среди римских патрициев?
Поняли бы они его? Посмеялись?
Я думаю что да. В Риме наверняка были такие же тупые богатые, властные матроны, которых можно было бы назвать "еврейскими мамами" и наверняка можно было бы найти замену бульдогу среди тупых свирепых животных в изобилии привозимых в Рим на потеху плебеям в Колизее. То есть анекдот можно было бы транслировать на их язык не просто переведя его с русского (английского) на латынь, но выполнить более глубокую именно смысловую трансляцию.
Наверное, я тут затрагиваю  ту тонкость, которую пытался избежать Голощапов. Мем мало перевести в поток букв некого внешнего языка. Увы, надо учитывать внутренний язык. А этого нельзя сделать НЕ ПРИЗНАВ гипотезу Ньюэла-Саймона (что разум - это манипуляция с символами и ничего более).
Голощапов пытался улизнуть от необходимости признавать, что наш с вами мозг такой же ТРАНСЛЯТОР дискретных смыслов как и живая клетка (по сути машина Тьюринга).
Он сказал примерно следующее (это не дословно, это конспект, по сути уже мем. "Внутренне" то же самое но "внешне" другими словами):

Хотя работа мозга нам не ясна и вполне  может быть, что он устроена очень сложно, но передаваемая от особи к особи информация легко дискретезируется и к ней можно применить ту же логику отбора, что и к генам очень уверенно, так как сами мемы гарантировано не содержит никаких квантовых эффектов и прочего и прочего.

Я в отличии от Голощапова куда более КАТЕГОРИЧЕН.
МОЗГ НЕ ИСПОЛЬЗУЕТ НИКАКИХ КВАТНОВО-ГРАВИТАЦИОННЫХ ЭФФЕКТОВ!
"МАМОЙ КЛЯНУСЬ!" (с)
Наш мозг ни что иное, как дискретный преобразователь (вероятностная машина Тьюринга и ничего больше!). ТОЧКА!  На чем стоял и стоять буду!
А значит и "алгоритмический" подход применим к феномену "цивилизация" с точностью до изоморфизма.
Гипотеза Ньюэла-Саймона - бесспорная истина. Пенроуз с Пановым (и банда менее образованных дуралеев-эзотериков, пляшущих с бубном вокруг квантово-гравитационного мозга) идут лесом очень, очень далеко, курить траву и кушать мухоморы с товарищем Пелевиным в чуме у китайского императора.
Квантовые эффекты в сознании - бред сивой кобылы. Занимательный, развивающий и даже полезный бред (как антигипотеза, фальсификация в смысле Поппера, основной гипотезы). При всем уважении к названым господам и именно из него я столь суров. Квантовый мозг - ничто иное как малодушная попытка физикалистов хвататься за старую, отжившую парадигму мира. Искать в физических законах тайну разума - баранья упертость, привычка искать тайны мироздания (и ума в том числе) в "делении атома", а не в "синтезе элементарного". Попытка цепляться за старое, а  не создать новое.
Вся критика сильного ИИ - неконструктивна. Это попытка ЗАПИНАТЬ решение проблемы ИИ в далекое-далекое будущее.

В этом видимо простота понимания  парадигмы Голощапова мной и сложность понимания ее вами. Вопрос о природе нашего разума (по сути о возможности сильного ИИ) - вот "корень зла". Это точка раскола. Наверное, можно сказать так (сильно упрощая) Новые люди признали (или готовы признать) гипотезу Ньюэлла-Саймона старые - в упор отказываются.
Окончательно. Я думаю суть вот в чем. Если вы признаете что работа нашего мозга -  ТОЛЬКО манипуляция с символами и мемы перетекающие от человека к человеку (бесспорно цепочки символов как заметил Голощапов) это всего лишь переносчики столь же дискретных внутренних мемов-смыслов (тоже букв только внутренних, пока не столь очевидных), то вы легко принимаете (как я) перенос эволюционных механизмов  клетки (где алгоритмичность процессов вам очевидна) на культурное наследие цивилизации РАЗУМНЫХ существ (где сводимость всего к алгоритмам многим кажется ущербной. Но это так в итоге и есть).
Если же вы в упор отказываетесь представлять человеческий мозг как дискретный преобразователь (детерминированную или вероятностную машину Тьюринга), вы будете считать что перенос эволюционных методов на цивилизацию страдает фатальным "упрощением" и "недостаточностью".
Мол, буквы - буквами, а смыслы - смыслами.
Я не осуждаю вас за это. Я предлагаю понять в чем "корень зла". Точка расхождения во взглядах. Точка непонимания друг друга. Точку НЕПРИМИРИМОСТИ.
Одни ищут смысл в некой тайной глубине квантовой гравитации, другие ищут смысл в бессмысленных символах не смотря на всю их бессмысленность (в терминологии Хофштадтера).
И ясно, что две точки зрения никогда уже не договорятся. Не поймут друг друга. Это еще один великий раскол людей как вера и неверие в бога. Раскол навсегда.
И разделение "популяции" носителей человеческой культуры по этому признаку уже произошло. Отсюда, думаю, "непонимание языка".

Кстати, Голощапов достаточно рвано излагал. Он пытался очень много выложить и много пропустил как само собой разумеющееся. Поэтому его понял, возможно, только Панов (надо отдать должное этой "красивой обезьяне") и Я.
У Голщапова в докладе масса пробелов. Не удивительно, что почти все обсуждение ушло на уточнение неясностей. И все равно, неясности остались.
Многие так и не поняли "его язык".
Разумеется, задача, за которую он взялся слишком обширна. В одну лекцию ее не впихнуть. Поэтому такая рваность.
Но есть и более глубокая проблема, я думаю.
Голос (чей - не знаю) в "президиуме" буквально два раза "обижался" что докладчик непонятно излагает на своем "программистском" языке. Мол, нет междисциплинарного языка, понятного им, специалистам в астрономии (то есть физикам-физикалистам, людям легко понимающим Пенроуза но не понимающим Тьюринга и Хофштадтера).
Увы! Подозреваю что междисциплинарного языка и не будет!
Нельзя объяснить крестьянину куда в паровозе запрягается лошадь.
История древняя как мир… Как сама эволюция.
История мудрая, как голодающая дрозофила…

[доктор Протон]

Посмотрел доклад это Турчина. Мда-а, не думал что остались люди настолько не разбирающиеся в компьютерах.
Больше всего, меня насмешила, уверенность автора, что инопланетяне могут передать нам схему компьютера. Если кто рассматривал оригинальные схемы простейших устройств разных стран (не говоря уж разных планет), могут меня понять. Приведу только схемы обозначения резисторов. Не говоря уж об их номиналах, маркеровке и исполнении.

Нужно для начала предложить автору написать простой HelloWorld, который будет запускаться на win, unix и mac платформах одновременно. Куда уж тут искусственному интеллекту)))

А еще мне понравился фальшивый тест. Итак предлагаю разоблачить Юдовски. Суть его теста в следующем: Он якобы проводил экперимент, в котором ИИ (роль которого выполнял человек) через терминал различными способами мог уговорить человека выпустить его в Интернет. При этом человек был заранее осведомлен о возможных последствиях по захвату галактики . Может проведем игру с участием ТС-тролля, который прикинется ИИ и уговорит кого-нибудь (ну меня например) выпустить его в инет? Чисто поржать.

[Прохожий]

Вопрос лишь в объёме необходимой инструкции. А картинку можно передать любого размера....

[Сергей Михайлович]

Анекдот про еврейскую маму и бульдога может быть понят достаточно однозначно только в родной или близкой культуре - вспомните испорченный телефон. Весь вопрос в том, что даже буквенная запись информации для последующей передачи не гарантирует полного понимания - посмотрите, как активно используются костыли-смайлики. Мемы (образы) нельзя передать так, чтобы у адресата сложился тот же образ в голове, что и у отправителя. Наверное, это и не нужно, возможно достаточно иногда близкого смысла.
Честно говоря, я  тоже с трудом понимаю квантово-гравитационные эффекты в мозге как механизм мышления, мне пока достаточно электрохимических.
С другой стороны, признать, что искать тайну разума  в физических законах есть баранья упертость я тоже не могу. А где еще ее искать? Что, информация и методы оперирования ею разве не есть следствие действия физических законов?
Наверное я что-то не понял в докладе Голощапова, что поняли вы, Александр, послушаю еще раз. Точек непримеримости как-то не обнаруживаю, хотя интерпретации разные.
Создание ИИ в обозримом будущем мне представляется не возможным не только потому, что мы еще не знаем как устроена нервная система простейших до степени моделирования ее, но и потому, что мы еще очень смутно представляем возможность этого. Возможно, такое мое утверждение на руку эзотерикам и другим приверженцам "не традиционных" методов познания. Но я лишь хочу сказать, что эйфория от применения информационных технологий породила не оправданные на мой взгляд надежды на их всесильность во всех областях человеческой деятельности. Это легко объяснимо, но это не так.  Разум порождает культуру, которую на машине не смоделируешь. А культура - это не телеканал или произведения искусства, это все нас окружающее смысловое пространство. С этим, надеюсь вы спорить не будете. И еще. Что каждый из нас вкладывает в понятие  искусственный интеллект.
Если это сверхумный помошник со всеми вытекающими, это одно. Если это лучший и продвинутый заменитель, приниматель решений за  человека в нашем случае, возникает куча вопросов.
Искусственый интеллект будет следствием  самоэволюции через киборгизацию человека? Возможно.
ИИ должен быть умнее нас (всего совокупного человечества)? Как может часть быть больше целого? И главное, зачем человечеству заменитель, могущий сам искать смысл существования? Потому что оно само его не находит? В этом случае ИИ точно никогда не будет создан. Не кому будет создавать.
В прошлом году, в начале лета, был доклад о технологической сингулярности: человечество-де в ближайшие десятилетия создаст ИИ, который нас же и вытеснит за ненадобностью. Даю ссылку на сайт автора доклада: http://www.sql.ru/blogs/garya

[alex_semenov]

Анекдот про еврейскую маму и бульдога может быть понят достаточно однозначно только в родной или близкой культуре - вспомните испорченный телефон.

Который приводил Докинз в книге "Бог как иллюзия" вместе с примером оригами "Джонка"?

Весь вопрос в том, что даже буквенная запись информации для последующей передачи не гарантирует полного понимания - посмотрите, как активно используются костыли-смайлики. Мемы (образы) нельзя передать так, чтобы у адресата сложился тот же образ в голове, что и у отправителя. Наверное, это и не нужно, возможно достаточно иногда близкого смысла.

В целом- да. Ведь и каждый отдельный ГЕН как правило бессмысленен вне контекста других генов его же ГЕНОМА. То есть, так же как геном определяет популяцию, так и мемон (сумма идей-мемов) определяет КУЛЬТУРУ.
И мем  понятный (уместный) в одном мемоне-культуре может оказаться неуместным (непонятным) в другом мемоне-культуре.
Все логично!
Сами по себе идеи, мысли - бессмысленны. Они обретают смысл только в контексте таких же "бессмысленных" идей-мемов как он сам.
"Бессмысленные символы обретают смысл не смотря на вся свою бессмысленность" (с) Д. Хофштадтер.
Все абсолютно верно! Никакого духа тут не надо.

Если вам интересен такой вот чисто "информационный" образ мышления о мышлении, я рекомендую вам две "расово-чистые" книги на этот счет:
"Гедель,Эшер, Бах" и "Глаз разума"



Я в своем ЖЖ писал о них:
http://alex-semenov.livejournal.com/8422.html
http://alex-semenov.livejournal.com/8099.html

Честно говоря, я  тоже с трудом понимаю квантово-гравитационные эффекты в мозге как механизм мышления, мне пока достаточно электрохимических.

Да и электрохимия - НЕ НУЖНА. Сути она не несет. Суть в манипуляции символам. А каков физический носитель этого - это НЕ ИГРАЕТ НИКАКОЙ РОЛИ.
Как физически организован универсальный вычислитель? Это не важно.
Как физически реализованы логические элементы "и", "или", "не"? Не важно. Важно что из них составлено "логически".

С другой стороны, признать, что искать тайну разума  в физических законах есть баранья упертость я тоже не могу. А где еще ее искать? Что, информация и методы оперирования ею разве не есть следствие действия физических законов?

По сути дела - НЕТ. Физика тут не играет на самом деле никакой роли, ктоме "создать виртуальное пространство". Виртуальный мир, дискретной информации, события в нем - ПО ТУ СТОРОНУ от физической реальности и к физике - никаким боком.
Символы относительно физического носителя символов и правил манипуляции этими символами относительно физической реализации этих манипуляция - абсолютно  ИНВАРИАНТЫ.

Разумеется, цифровая виртуальность - это не дух святой. Без физического носителя он существовать не может. Но есть уровень описания всех сложных систем (мозга, клетки) где физика уже не играет роли. Остается чистая математика.
Для людей привыкших во всем видеть физический смысл это непостижимая крамола!
Но, скажем, в компьютерах (самом ярком примере) это неоспоримый факт (хотя люди не знакомые с компьюче сайнс до сих пор этого могут и не осознавать)!

Наверное я что-то не понял в докладе Голощапова, что поняли вы, Александр, послушаю еще раз. Точек непримеримости как-то не обнаруживаю, хотя интерпретации разные.

Голощапов на самом деле хитрец. Он сказал то, что можно было сказать четко и ясно. О чем нельзя было так говорить - умолчал…

Создание ИИ в обозримом будущем мне представляется не возможным не только потому, что мы еще не знаем как устроена нервная система простейших до степени моделирования ее, но и потому, что мы еще очень смутно представляем возможность этого.

По-моему вы тут сказали "мало масляное". Потому мы и представляем смутно, что не видим работу мозга в целом. Я приводил пример компьютера.
Что такое компьютер мы понимаем?
Да!
От начала до конца?
Да.
Почему?
Потому что мы имеем (в терминологии Голощапава) комплект сильных обобщений.
На самом абстрактному уровне компьютер это либо машина Тьюринга либо (в несколько ином ракурсе) конечный автомат. И ничего сверх того!
Это самое верхнее, общее обобщение.
Как реализован этот универсальный вычислитель в деталях? По схеме фон-Неймана (в том числе и не-неймоновские векторные вычислители). Память, процессов, устройства ввода-вывода и шины (данных, адресов, управления). Сейчас все это усложнилось. Но идеология, топология  в целом осталась та же. Ибо и не может быть иной.
Функции всех этих блоков очевидны.
Теперь как  свои функции выполняют процессор, память, контроллеры ввода-вывода? И тут начинаются свои тонкости. Регистры, стеки, сумматоры, счетчики, кодеры, декодеры…
Хорошо. А из чего составлены эти "звери". Из логических элементов (по сути). "И", "или", "не". Функция этих элементов четко описана булевой алгеброй и та же алгебра показывает как из них собираются все те счетчики, регистры, шифраторы-дешифраторы.

В итоге. Мы имеем иерархию теорий-обобшений, ПРОСТО объясняющих сложное устройство.
При этом, обратите внимание на тонкость.  Нам не надо знать как ФИЗИЧЕСКИ реализованы элементы "и", "или" "не" что бы во всех деталях понимать работу компьютера.
Их физическая реализация может быть очень разной. Лампы, транзисторы, фотоны или веревки (есть и такая красивая сказка про веревочный компьютер). Физическая основа, подложка инвариантна от логики компьютера.
И искать причину разума в физике или химии нейрона ТАК ЖЕ ГЛУПО как искать объяснение "феномена компьютера" в физике полевых транзисторов на которых собран этот конкретный экземпляр чуда что мы созерцаем.
Понимаете в чем ирония?

Возможно, такое мое утверждение на руку эзотерикам и другим приверженцам "не традиционных" методов познания. Но я лишь хочу сказать, что эйфория от применения информационных технологий породила не оправданные на мой взгляд надежды на их всесильность во всех областях человеческой деятельности. Это легко объяснимо, но это не так. 

Да не так все! Вы повторяете мем из далеких 80-х. Никакой эйфории давно уже нет. Компьютеры стали столь же привычны как и унитаз в ватер-клозете. Какая тут эйфория?
А вот разочарование в нашем, сильном направлении ИИ с середины 80-х нарастает и нарастает. И в результате появилась контрреволюция, которую возглавил Пенроуз.
Притом сам Пенроуз уже не рад тому что поднял эту бучу (есть интервью).
За ним увязались толпы дураков-изотериков. Я лично слежу за событиями уже лет 15! И ситуация с каждым годом становится все хуже и хуже. Сомнения Пенроуза выросли в движения мракобесов, которым ПОФИГ что говорит их "лидер".
Они подловили главное!

"Мы не каке-то там механические компьютеры! Мы много загадочней и тоньше!"
"Вот и сверхумный математик это ДОКАЗАЛ!"

Так большинство НЕДОУМКОВ рассуждающих о квантовой природе мозга даже не понимают что возражения, аргументы Пенроуза, поднятые им на знамена относятся не только к детерминированной но и недетерминированной машине Тьюринга. То есть к квантовому компьютеру в том числе! Но дурачкам - пофиг! Мели Емеля - твоя неделя.
И пошли фантазии, пошли "умные" ковыряния в носу.
Пошло болото беспросветной, бесконечной философии!
Благо, ортодоксальных ИИ-шников это мало затронуло. Они как работали по линии Тьюрина-Ньюэлла-Саймона так и работают.
Но когда кто-то приходит с "мыслью" что универсальный вычислитель недостаточен что бы передать все богатство духовно-квантового многообразия духа… хочется этой тупой твари дать под зад и попасть по копчику, что бы она завыла  и улетела как можно подальше и там надольше затихла.
Почему? Потому что ЗДРАВЫХ аргументов это животное не примет. Оно слишком тупое. "Чувственное". И на самом деле он не думает. Оно БЕЗДУМНО-ЧУВСТВЕННО реплицирует мем, неосторожно запущенны Пенроузом.
И чем больше таких дураков, тем наглее они становятся. Ибо тот факт, что об этом говорят все, для них и является ЕДИНСТВЕННЫМ достойным внимания аргументом.
Тварюки не думают. Они просто радостно реплицируют заразу.
Идея Пенроуза что человеческий разум не сводится только к вычислениям (на самом деле это не только его идея. Была масса людей до него. Но он самый авторитетный и услышанный) идея ЛЬСТЯЩАЯ массовому человеку-дураку. Скотине. Как идея вечной загробной жизни. И не зависимо от того насколько эта идея логически аргументирована, она легко западает в душу каждого мерзавца и расползается как вирус.
И я вижу как эта дрянь собирает все больше и больше приверженцев….
Тупых но многочисленных.
Почему я уверен что это дрянь?
Да потому что независимо от Пенроуза я сам работал над тем же сомнением. Я тоже усомнился что машина Тьюринга  может быть разумна. И я нашел свое решение этой проблемы.  Оно тоже очень спорно. Но оно не выходит за рамки парадигмы Тьюринга-Ньюэлла-Саймона. Почти не выходит.
Проще говоря, я нашел менее сканладьное и совсем не льстящее человеку решение проблемы невычислимости  разума (как я думаю) ясное, четкое, однозначное и конструктивное. И я четко знаю что Пенроуз зовет научную мысль в болото. Благо она туда не идет. Но на таких вот брехаловках как эта, подобная дрянь процветает пышным цветом.

Разум порождает культуру, которую на машине не смоделируешь. А культура - это не телеканал или произведения искусства, это все нас окружающее смысловое пространство.
С этим, надеюсь вы спорить не будете.

Буду! Еще как буду!
Это все слова. Это все метафоры ничем не подкрепленные, кроме "внутренней неуверенности". Покажите мне хотя бы один пример объекта "культуры" который бы не ОЦИФРОВЫВАЛСЯ!
Я таких не знаю. Я уверенно придерживаюсь той мысли что культура это поток мемов. И больше ничего! Абсолютно ничего больше! Внутренне ощущение что есть что-то большее может быть иллюзией как любая другая иллюзия, которой подвержен мозг человека. Например, что прямые на рисунке кривые:

И еще.
Что каждый из нас вкладывает в понятие  искусственный интеллект.
Если это сверхумный помошник со всеми вытекающими, это одно. Если это лучший и продвинутый заменитель, приниматель решений за  человека в нашем случае, возникает куча вопросов.

Совершенно верно! И это … ПРЕКРАСНО!
Так и должно быть!
Со всем уважением лично к вам, вы носитель всех  глупых  мемов-страхов прошлого.
Мы, обезьянены, не просто не понимаем природу своего разума. Мы БОИМСЯ ее понимать. Мы этого просто не хотим делать. Потому что опасаемся потерять трон царя природы. Самого умного в данной области вселенного существа.
Особо сильные носители этого маразма - мои лучшие друзья на этом форуме. И я бы их убил за это (с величайшим уважением к ним, разумеется.)!

Искусственый интеллект будет следствием  самоэволюции через киборгизацию человека? Возможно.

Нет. Я не верю в киборгизацию людей и какой-то такой вот непонятной само… эм… эволццию… то есть прогресса с широко ЗАКРЫТЫМИ глазами…
Это блажь ортодоксального трансгуманизма.
Веры народной, простой и извращенной.
Я постгуманист. Я считаю человека СТУПЕНЬКОЙ эволюции. То есть никакого плавного перехода не бедует. Либо мы ничего не сделаем, либо мы таки осознаем себя и создадим нечто лучшее чем мы. Во втором случае люди породят думающие машины  "скачком", собрав все сильные обобщения, поняв что такое разум и "выпустят" этот новый более сильный разум в космос, породив новую расу думающих, космических существ, а сами останутся здесь на Земле, оставаясь по-сути все теми же людьми…  Я считаю это не только наиболее реалистичным но наиболее и ГУМАННЫМ сценарием. Каждому - свое.
В любом случае. Мы не можем создать интеллект "в темноте под одеялом", так, чтобы самим не видеть что это такое (а именно таков настрой всех ожиданий в фантастике о ИИ. Подумайте! Мы боимся понять что есть наш разум, но хотим создать себе слугу-голема. Мы хотим создать ИИ-слугу не понимаю что это такое "интеллект". Блажь, надо сказать, несусветная!)
 

ИИ должен быть умнее нас (всего совокупного человечества)? Как может часть быть больше целого?

В случае трансфинитных объектов (бесконечностей) ничего невозможного.

И главное, зачем человечеству заменитель, могущий сам искать смысл существования?
Потому что оно само его не находит? В этом случае ИИ точно никогда не будет создан.
Не кому будет создавать.

Я бы сказал так. Именно потому что Человек (а не тварь дрожащая на троне) хочет и может понять сам себя, он и создаст ИИ. ИИ это и есть ЕДИНСТВЕННЫЙ способ понять кто ты такой в этой вселенной.
Вот когда мы создадим по-настоящему думающую машину, мы, зная как она работает, УДОСТОВЕРИМСЯ на практике что и наш разум работаем точно так же. С этого момента мы и сможем называть себя разумными. Разум это понимание что такое разум.
А пока мы недоразум. Предразум. Поэтому так много проблем с определением разума. Мы хотим твари приписать разумность. Тому, что разумным в полном смысле пока не является.

В прошлом году, в начале лета, был доклад о технологической сингулярности: человечество-де в ближайшие десятилетия создаст ИИ, который нас же и вытеснит за ненадобностью. Даю ссылку на сайт автора доклада: http://www.sql.ru/blogs/garya

Ага. Спасибо! Я уже начал смотреть. Интригующе (опять близко к тому что я сам надумал, хотя я думаю ИИ мы создадим в лучшем случае лет через 200-300 .)
Один недостаток.  Автор слишком затягивает доклад. Но это можно перетерпеть.
Есть еще что-нибудь в этом ключе?
Я с удовольствием послушаю!

[IGORЬ]

         Краткость изложения далеко не самое главное достоинство предыдущего оратора. Бесспорно, главным  достоинством его спича является доступная любому обывателю простота изложения идей компьютерного разума и принципов работы мозга, характерных в основном для середины прошлого века.

         В нынешнем 21 веке точка зрения на проблему несколько изменилась. Вот, к примеру, лекция известного нейробиолога, член-корреспондента  РАН Анохина К. В. «Сознание и мозг» в Нижегородском государственном техническом университете 6 марта 2012 г.

         Дискуссия по окончании лекции, на таймере 1час 14мин., слушатель из зала пытается задать вопрос:

       - … Мозг – это суперпроцессор, согласны?

       Константин Владимирович Анохин:

  - Нет,  не согласен! Я скажу, почему не согласен. Одна из вещей, которая очень остановила развитие науки о мозге, было то, что на протяжении последних 50 лет мозг воспринимался как пример цифрового компьютера  …  эта идея абсолютно не верна! Мозг ничего не оцифровывает и не вычисляет.

[Проходящий Кот]

Это мнение Анохина. дальше то что?

[-Asket-]

Это мнение специалиста, еще раз даю ссылку на сборники видеолекций:
https://astronomy.ru/forum/index.php/topic,33096.msg2274984.html#msg2274984

[IGORЬ]

Это мнение Анохина.

   Константин Владимирович Анохин, являясь, в частности, членом редколлегий журналов "Журнал высшей нервной деятельности им. И.П.Павлова" РАН, "Acta Neurobiologia Experimentalis", "Biological Theory", а также членом диссертационных советов при Институте высшей нервной деятельности и нейрофизиологии РАН и НИИ нормальной физиологии РАМН, изложил основные достижения и мнение современной науки  по проблеме мозга. 

… дальше то что?

      Тем, кто не согласен с мнением современной официальной науки по вопросам работы мозга и сознания могут последовать совету своего гуру -  встать в позу, цитирую: «тупой твари … получить под зад … и затихнуть.» 

[Проходящий Кот]

Разборки идут и конца им не видно
А мнение моего тезки ---- всё равно только мнение......

[Сергей Михайлович]

"Да и электрохимия - НЕ НУЖНА. Сути она не несет. Суть в манипуляции".
Александр, вы меня не поняли. Электрохимические процессы в мозгу  есть физический механизм мышления, именно и только это я хотел сказать. Ваши слова:
"Но есть уровень описания всех сложных систем (мозга, клетки) где физика уже не играет роли. Остается чистая математика. Для людей привыкших во всем видеть физический смысл это непостижимая крамола!" требуют разъяснения.
Компьютер мы понимаем потому, что мы его сами создали, и все. Не надо лишних слов про логические элементы, потому что все они имеют физическую реализацию.
Никто не предлагает искать причину разума только  в физике нейрона, важнее понять как все они вместе работают. Насчет разума, представляющего из себя не только вычислительный процесс никто и не спорит. Просто мы не определили еще однозначно, что же такое разум.
Про культуру. Я не говорил о том, что нельзя оцифровать объект культуры, я говорил о всей ней. Улавливаете разницу?
Знаете, когда я поверю что ИИ может быть создан хотя бы в ограниченном приближении?
Когда появится машинный перевод разноязычных текстов, такой, чтобы он был неотличим от перевода профессионалов.
Трон царя природы может бояться потерять только ограниченный разум, имеющий такую иллюзию, настоящий разум абсолютно адекватно воспринимает себя в мире - т.е. понимает относительность всего.
А с чего вы взяли, что создание ИИ есть некий индикатор разумности? Разве есть строгая грань разум- недоразум?   За ссылки на книжки спасибо.

[Сергей Михайлович]

Вчера прошел очередной семинар. Сначала позволю себе небольшое лирическое отступление. Стремясь обмануть погоду и пробки, возвращаясь с семинара решил изменить обычный маршрут. В результате попал на улицу длиной 300-400 метров, представляющую из себя реку глубиной по щиколотку, а по бокам обледенелые вертикальные сугробы. На одной стороне уже скопилась кучка несчастных, к которым  и присоединился я, у нас было 2 пути: или оставшиеся 200 метров идти в воде, или идти назад по обледенелым сугробам с риском свалиться в воду и гарантированно быть облитыми проезжающими автомобилями.
В роли бэтмэна выступил молодой лейтенантик-милиционер, сделавший несколько ходок на служебном авто, перевезя всех на материк. Вы знаете, я приобрел некоторую веру в человечество. Сейчас поясню, для чего этот оффтоп.
Должен честно признаться, доклад Турчина не открыл для меня ничего нового, я откровенно скучал. Но вот когда начались вопросы-прения, стало гораздо интересней.
У меня к докладчику был один вопрос, который был задан другим участником семинара: Зачем высокоразвитой цивилизации, предполагается опередившей нас на миллионы лет, осуществлять SETI-атаку на нас. Ответов было несколько, запомнилось три: - таким образом они распространяют свой генокод по вселенной, стремясь сделать свой вид бессмертным. При этом все финансовые ресурсы Земли будут потрачены на ретрансляцию этого дальше, что приведет к нашей гибели.
- нас просто не заметят без всякого злого умысла при решении своих задач, правда не уточняется каких. Таким образом мы убиваем комара, мешающего нам, без всякого угрызения совести.
- третий, самый тривиальный, про экспансию в пространство, борьбу за ресурсы, конкуренция видов и т.д.
Не знаю как вы, а мне представляется наивной эта игра в прятки. Даже сейчас, просто при желании, мы способны обнаружить если не жизнь, то хотя бы химический состав атмосфер землеподобных планет.  К несчастью, у нас пока другие приоритеты. Мысль о том, что мы пока не представляем ни для кого интереса, нам почему-то кажется оскорбительной. Всякие аналогии про конкистадоров и индейцев надо оставить пингвинам - один дикарь не сильно отличался от другого. Про ресурсы и говорить нечего.
Как верно заметила пожилая женщина из первого ряда, биолог по образованию - забыл ее фамилию, наше отношение к теме доклада зависит от мировоззрения того  или иного слушателя. Думаю, это мировоззрение очень трудно изменить теми аргументами, которые приводил Турчин. Потому что мы уже взрослые дяди и тети.
Мы постоянно приводим поведенческие аналогии из нашей практики или из мира животных для оправдания опасности SETI. Наивно предполагается, что те поведенческие стереотипы, которые навязываются нам обществом с рождения, есть некая константа, или еще хуже, максимально возможное достижение разума. Более того, чувствуется некоторый плохо скрываемый испуг от того, что доминирующая сейчас модель поведения может быть подвергнута сомнению.
Панов задал вопрос Турчину - а должна ли наша цивилизация, появись у нее такая возможность, осуществить такую SETI-атаку? Ответ был отрицательный. Правда иноцивилизация была названа "конкурентом" (послушайте запись). А что мы делаем с конкурентами?
В конце докладчик призвал подождать лет 20, до тех пор, когда у нас появится ИИ.
 Он-де просканирует на зловредность возможное послание и поможет нам извлечь из него пользу. Не буду комментировать, может сам Алексей Турчин выскажется? 

Ссылка на архив PCM:   http://yadi.sk/d/1vy--kzt3K2E8
              в MP3:   http://yadi.sk/d/KlrNt1-s3K2fQ
 

[доктор Протон]

У меня к докладчику был один вопрос, который был задан другим участником семинара: Зачем высокоразвитой цивилизации, предполагается опередившей нас на миллионы лет, осуществлять SETI-атаку на нас. Ответов было несколько, запомнилось три: - таким образом они распространяют свой генокод по вселенной, стремясь сделать свой вид бессмертным. При этом все финансовые ресурсы Земли будут потрачены на ретрансляцию этого дальше, что приведет к нашей гибели.- нас просто не заметят без всякого злого умысла при решении своих задач, правда не уточняется каких. Таким образом мы убиваем комара, мешающего нам, без всякого угрызения совести.- третий, самый тривиальный, про экспансию в пространство, борьбу за ресурсы, конкуренция видов и т.д.

Я так понимаю, вопрос, пробовал ли автор написать хотя бы "Hello World", способный исполняться одновременно на Windows, Linux и MacOS(дабы подтвердить свли измышления!), не задавался?

[Проходящий Кот]

У меня к докладчику был один вопрос, который был задан другим участником семинара: Зачем высокоразвитой цивилизации, предполагается опередившей нас на миллионы лет, осуществлять SETI-атаку на нас. Ответов было несколько, запомнилось три: - таким образом они распространяют свой генокод по вселенной, стремясь сделать свой вид бессмертным. При этом все финансовые ресурсы Земли будут потрачены на ретрансляцию этого дальше, что приведет к нашей гибели.- нас просто не заметят без всякого злого умысла при решении своих задач, правда не уточняется каких. Таким образом мы убиваем комара, мешающего нам, без всякого угрызения совести.- третий, самый тривиальный, про экспансию в пространство, борьбу за ресурсы, конкуренция видов и т.д.

Я так понимаю, вопрос, пробовал ли автор написать хотя бы "Hello World", способный исполняться одновременно на Windows, Linux и MacOS(дабы подтвердить свли измышления!), не задавался?

Каков вопрос, такой и ответ.
Английский язык на других планетах не известен....

[Сергей Михайлович]

Нет, такой вопрос не задавался, да и нет смысла его задавать.
Предполагается, что продвинутый разум умеет создавать такой код, который будет выполняться на любой архитектуре.
 

[turchin]

нет, инопланетный разум не пересылает такой код, который мог бы исполняться на любой архитектуре. хотя есть попытки разработать весьма универсальные коды, например COSMICOS  или хотя бы наименьший возможный код для машины Поста, всего 6 команд.
Более вероятной выглядит ситуация, когда он посылает чертеж логической схемы некоторого компьютера и затем программу для этого компьютера.

[turchin]

интересно, что я одновременно опубликовал текст доклада на одном английском сайте, и там тоже подврегся резкой критике, но совершенно с другой стороны.

все ,кто там были, говорили, что seti атака не нужна, поскольку будущий ИИ сможет распростаняться с помощью ударной волны из нанороботов зондов фон неймана , которая будет идти от точки еготзарождения почти со скоростью света.
http://lesswrong.com/r/discussion/lw/gzv/risks_of_downloading_alien_ai_via_seti_search/