Голощапов "НТП человечества, теоретич. ограничения и пути дальнейшего развития"

[Сергей Михайлович]

А я считаю, что Голощапов имел ввиду совсем другое.  Он пытался представить свою модель эволюции, свое видение развития разума. И  "стенки" он вовсе не считает фатальными тупиками.  Потому что осознание того, что впереди появилась "стенка" уже означает, что полпути ее преодоления уже пройдено.  В этом можно убедиться, прослушав запись семинара.  Как  человек, постоянно  имеющий дело с математическими моделями,  он выстроил свою модель развития.  Единственным слабым местом, как мне кажется, есть пункт №3 - "некое социальное образование, которое с нашей точки зрения будет выглядеть глубоко аморальным."
Этот пункт не представляется возможным алгоритмизировать, Голощапов это не отрицает.  Хотя этот пункт  исключить не получится, как   к примеру изменение генома человека или создание ИИ.
И именно этот пункт никто не обсуждает,  не задумываясь связывая это с идеологией или даже с политикой. Сообщество разумных существ для продолжения существования должно таким образом организовать взаимодействие друг с другом, чтобы проблемы "стенок" решались максимально эффективно. Это и есть главное обобщение. Кстати, это лейтмотив всех семинаров, если конечно их слушать.

[Deployer]

Читатель с 4х-летним стажем: По-моему, лучший Семенов.

[alex_semenov]

Читатель с 4х-летним стажем:
По-моему, лучший Семенов.

Ну тогда вот вам мой крик души (мое первое тут выступление на эту тему):
 

Лично для меня доклад имеет две цены.
Поэтому я его и разбил на две части.

Первая часть - условно названная "Эволюция кода". Для меня самая захватывающая (что можно понять по обилию там моих комментариев). Если бы не было второй (собственно о человечестве) первая часть уже БЕСЦЕННА.
Я давно уже повторяю: эволюционируют не только виды, эволюционирует сама эволюция. Не удивительно, что я сходу принял идею сильных обобщений. Я почти сам до этого додумался. И когда я услышал доклад, где мои мутные догадки четко прорисовались, где все расставлено на свои места, я не мог не прийти в восторг (без тени сомнения доклад Голощапова - сильнейшее впечатление этого года, даже не смотря на то что я впервые в жизни в этом году побывал в Питере и за неделю мы с женой облазили столько, что все знакомые удивлялись как много мы успели увидеть).
Вот почему я сразу же сел конспектировать доклад. И пол года я не мог вырехтовать текст именно потому что вторая часть (про судьбу человечества) была ОСТАТОЧНОЙ для меня. Второстепенной. Очевидной, мутной и не такой уж и интересной.

Именно из-за первой части я считаю данный доклад лучшим из всех выложенных Сергей Михайловичем (Огромное ему спасибо! Он делает очень хорошее дело! это тот самый случай, когда  БОЛЬШОЕ зло мракобесия  не может победить ибо добрые люди не смотря ни на что делают свои МАЛЕНЬКИЕ добрые дела. Вопреки всякой логике!).

Вот уже пол года я хожу с мыслью, что первая часть доклада Голощапова дала мне  НЕДОСТАЮЩУЮ подсказку для того, чтобы, таки, окончательно сформулировать, ЗАМКНУТЬ обобщение самого верхнего уровня для ИИ. 

Но и биологи, люди занятые, собственно, настоящей, биологической эволюцией, должны видеть, что концепция сильных обобщений вносит определенный порядок в тот бардак, который они накопали за последний ВЕК развития так называемой "синтетической теории эволюции" (в которой от Дарвина осталось только имя).
Реальная биологическая эволюция оказалась куда СЛОЖНЕЙ, чем первоначальная простецкий  АЛГОРИТМ наследование-мутация-отбор до которого додумался Дарвин. Как я шучу, если бы современным биологам Дарвин высказал свою первоначальную концепцию эволюции - его бы ПРОКАТИЛИ, накидав массу "нестыковок". Шутка, шуткой, но Дарвину повезло родиться в век великих обобщающих теорий. Люди той эпохи верили в божественную гармонию мира. Математика и бог были синонимами и поэтому Лаплас уже не нуждался в последнем...
Но квантовая теория... Синергетика, теория хаоса...
Сейчас подобные обобщающие теории (например теория полового диморфизма Геодакяна) десятилетиями встречаются в штыки биологами. Наследоване-мутация-отбор.
Такая схема реализуется в простейшем генетическом алгоритме уже программистами. Но сами же биологи уже давно мотают головой и говорят, что эти генетические алгоритмы - жалкая пародия на реальную биологическую эволюцию. При этом, если спросить в чем же отличие реальной эволюции от компьютерного эрзаца, то ничего ВНЯТНОГО и ОБОБЩАЮЩЕГО от них (биологов) добиться нельзя!
Эта братия обычно начинает наводить тень на плетень, ничего не обобщая, не объясняя конкретно, уходя в словесную мутотень. Это уже стало корпоративным стилем всех "настоящих" биологов. А такие "отщепенцы" от их БАНДЫ как Докинз для них   - "жалкий популяризатор".
Я не биолог, но у меня возникло сильнейшее ощущение, что в среде биологов сложились очень нехорошие, мафиозные принципы ПРОТИВОРЕЧАЩИЕ научным. Биология требует очень много труда. Они получают все меньше и меньше, прикладывая сил все больше и больше. Я понимаю. Поэтому там сложился культ "солдата науки". Гении, пытающимся обобщить накопленное, там просто не выживают. Если они появляются, то не благодаря, а вопреки. Везде так. Но в биологии это, видимо, проявляется особенно сильно. Это можно понять хотя бы по числу  скандалов с научными фальсификациями. Биология тут - на первом месте (если не ошибаюсь).
Любой биолог заткнет небиолога, рискнувшего сунуться в его область со своими обобщениями, наваляв ему массу контраргументов (угля мелкого но много).
Но если этих господ прижать к стене и попытаться из них выдавить, в чем же их несогласие, то простите, из них льется МРАКОБЕСИЕ. Например, такой БРЕД как то, что информация (наследственная) передается неким АНАЛОГОВЫМ образом из поколения в поколения в обход коду ДНК.
(вообще вера некоторых тут профессионалов, что не только биологическая информация, но и вообще любая информации может передаваться аналоговым образом - показатель уровня "понимания" проблемы! Биологи междисциплинарно как правило чудовищно невежественны! Но они ведь в своей стихие!)

Я не фрик от науки.  Упаси бог! Но я давно подозреваю, что сложность биологии позволяет там многим ученым-биологам прятать чудовищные  заблуждения. Притом массовые заблуждения. Механизм науки Бэкона и Поппера в биологии уже БУКСУЕТ. Именно потому, что тут одному умному тут сложно поставить для большинства дураков, выводящий  тех на чистую, воду парадигмистический эксперимент. Дураки всегда отмажутся. Отсюда "клановая общность" тут куда выше, чем в других науках.
То что спасало науку до сих пор в биологии уже не действует.
Неточность, размытость обобщающего языка биологии позволяет в этой науке прятать невежество и преуспевать (успешно выполняя докторский минимум, как говорил Райкин на "чем-то там в носу") целой армии пигмеев-мракобесов, которые не то что не могут даже не хотят ПРИВНОСТИТЬ в биологию сильно обобщающие концепции.
Бардак, "понятный" только им - их устраивает!

Не удивлюсь, если и концепция сильных обобщений Голощапова,  концепция эволюции самой эволюции  вызовет у профессиональных биологов сильное отторжение.
Именно потому, что эта концепция, под все многочисленные тонкости и нестыковки с классическим дарвинизмом (под эти горы мелких теорий эд хос нарытых пигмеями от биологии)  подводит простую ОБЩУЮ логическую базу. В духе непризнанных концепций Докинза и Геодакяна.
Эволюция тогда эволюция, когда эволюционирует и сам механизм эволюции.
Все! Великая идея проста!
И эту идею еще предстоит более тщательно прорисовать.
Самое главное. Ее еще предстоит отстоять!
Но она высказана.
И она - восхитительна! Обратите внимание на это!
На миг изумитесь и порадуйтесь, что вам приоткрылась щель к тайне мироздания!
Что вы как дурачки вцепились в МЕЛОЧИ?!
Судьба человечества?
Это мелочи на фоне того, что открывается в первой части доклада!
Неужели тут нет ни одного человека, который этого не понял как я?

Согласно легенде, Архимед попросил солдата, который пришел его убить, дать философу чуть  времени решить до конца задачу, над которой он только что думал. Какую-то не имеющею для древних греков (они - не мы) никакого практического смысла абстрактную задачу (говорят он решал задачу о квадратуре круга)! 
Конечно это легенда. Но мораль ее в чем?
Мыслящий человек ест чтобы мыслить, а не мыслит что бы есть.
(не об этом ли мой главный спор здесь?)
Мыслящий что бы есть - ЖИВОТНОЕ.
Тварь, не стоящая энтропии, ею произведенной.
Вы господа вцепились в насущное. Судьба человечества! Вы сразу же о брюхе!
Не это ли приговор нам всем?
Мы, гавнюки, вступив в этот гавняный, постиндустриальный постмодернизм ПОТЕРЯЛИ главное, что у нас БЫЛО все эти тысячи лет нашей цивилизации. Наивно-детское стремление понять тайну мироздания, даже стоя на краю своей гибели.
И как ТАКИЕ существа могут надеяться спастись, отрастить крылья и полететь, когда все опоры под их ногами рухнут?



http://alex-semenov.livejournal.com/2411.html

[alex_semenov]

Не хотел бы с самого начала уводить обсуждение в интересную МНЕ область, но раз так...

А когда начали вкладывать много бабла(та же IBM) начало что то получаться.

Да, кстати.
Когда я читаю про то, как Curiosity самостоятельно выбирает себе безопасный путь, анализируя данные с навигационных камер и строя в своих кремниевых мозгах модель окружающей местности, меня не покидает ощущение, что ИИ мы уже создали. Пусть и на уровне таракана (ну или дождевого червяка). Некое "протосознание" (модель реальности) в нем уже есть

Вы здесь Вика извлекли наш старый "камень преткновения" (мы общаемся тут давно и у нас с вами не так уж и много точек несогласия, что бы все их не запомнить)

Вы как-то уверяли, что четкой границы между разумом человека и неразумом животных нет. Просто есть разная степень разумности. Верно?

Я с этим не согласен. Но когда вы это впервые высказали, я почувствовал что у меня нет четкого контраргумента. Теперь (благодаря Голощапову) он у меня есть.

Действительно, когда появляется разум?
Насекомые, например, считаются почти гарантированно автоматами. Это пока что не разум (или почти неразум). (и ваш "лунный трактор" наверняка уже насекомое).
Хорошо. Земноводные или рептилии.
Что с ними? Они разумны?
Меня поразила одна ремарка Савельева в каком-то интервью. Он где-то рассказывает, что сейчас модно дома держать всяких рептилий. Ящериц. И их кое-чему можно научить. Они распознают хозяина, например (говорят кто-то пытался научить варана приносить хозяину тапочки). Но упаси бог вам заморозить (опустить до низких температур) квартиру где обитает ваш питомцем (что в Москве - проще простого)! Рептилия выживает но... ее память начисто стирается. Все чему вы ее учили - забывается. Это НОВАЯ тварь.
Круто, верно?
То есть. Рептилии уже имеют ярко выраженное научение но... видимо только для теплокровных постоянная от рождения до смерти ПАМЯТЬ становиться обязательным явным (хотя например мыши после спячки, они помнят то, чему их научили до того? кто-нибудь ставил такой эксперимент?). То есть можно сказать что примерно только у теплокровных появился устойчивый внегенетическим механизмом адаптации к среде. Но вряд ли это можно назвать разумом. Назовем его (по вашей логике) полу-разумом.
Может разум возникает тогда, когда возникает сознание?
Что с сознанием? Когда оно возникает? Где, у кого? Зачем? Проклятые вопросы о которых тут спорить не стоит (тут есть тема на 500 страниц... где котята бегают за своим хвостом...)
Не важно зачем возникает сознание и когда у кого.
Ясно что это очередное усложнение процессов в все более сложно ведущем себя мозге.
А тут еще появляется и самосознание (скорей всего у социальных млекопитающих). Мало сомнений, что сознание есть у собак и кошек. Но есть ли у них самосознание? У обезьян (Уоши говорила что-то о себе о своих переживаниях на языке глухонемых)?
Так где проходит граница между разумом и неразумом?
То есть. Глядя на то как ПОСТЕПЕННО усложняется мозг, мы видим то что видите вы, Вика. Все большую и большую "степень разумности". Но границы вроде как и нет.
У Никонова в  "Апгрейт обезьяны" есть целая глава, где он нарочито-театрально (за что этого верхогляда и не любят "серьезные ученые") рассматривает наши якобы отличия от животных и... не находит ни одного!
Значит? Вы правы?

Одно время мы (и я в том числе) проводили границу по "сумме технологий". Большой мозг, сознание+самосознание, социальная среда, свободные конечности+правильная среда обитания (неводная). "Диалектический" переход количества в качество...

Мол, каждый человек - неразумное животное. Но вместе мы  цивилизация разумных. Мол, феномен разума вне отдельного человека. Особенно на эту идею запал Ганс. На ней он и застрял...
То есть мы - среда эволюции мемом (мемонов культуры). Когда среда достигла состояния (как высыхающая взрывчатка) процесс пошел быстро и нам кажется что произошел скачек...

Идея верная... Я сам долго ее придерживался...  Но чего-то тут все же не хватало...
И вот после доклада Голощапова...
Еще.
Наш спор вокруг концепции Мазура. Помните? Вы все меня  там придавили к стене тем, что саморепликаторы могут быть очень короткими. По сути любой автокатализ это уже  саморепликатор. И я увлекся совсем  идиотской идеей, что замерзание льда (любая кристаллизация) - это тоже саморепликация по-сути.
Главный вывод тогда - для жизни саморепликации - МАЛО. Нужна не просто саморепликация. Нужна такая саморепликация, которая могла бы ВАРЬИРОВАТЬСЯ (передавать из поколения в поколения мутации). Вот тогда и появится триада:
наследование - мутация - отбор.
Так вот. И этого для такой жизни, какая есть на нашей планете - МАЛО.
Так мы получаем примитивный алгоритм оптимизации.
Эрзац, который биологи не хотят признавать за полноценную эволюцию.
Детали того как работате настоящая эволюция еще предстоит выяснить.
Но главная идея вот в чем. Что бы получить такой взрыв жизни как здесь у нас (а не бескрайние поля кристаллов) мало запустить эволюцию, нужно как-то запустить эволюцию самой эволюции.
То есть настоящую эволюцию по Голощапову.

Отсюда мы легко делаем и переход к загадке границы разум-неразум.
Мемы передаются высшими животными ДАВНО. Были сообщения (хотя вряд ли верные) что даже муравьи имеют свое подобие "культуры". Не говоря уже об высших животных типа слонов, обезьян, дельфинов. Те же шалашники (прички)...
 Но только у людей этот поток негенетических мемов начал полноценно эволюционировант. Как эволюционируют геномы нашей биосферы.
По Голощапову.
То есть и культура обезьян или дельфинов если и эволюционирует, то эволюционирует примитивно. Идиоадаптивно. Неполноценно. Она не способна на ароморфозы.
И только человеческие мемы эволюционируют так же как эволюционирует наша биология. Культуры способны делать СКАЧКИ. Сильные обобщения. Духовные революции. Мировоззренческие перевороты. Мы буквально умеем изобретать новые способы мышления.
Здесь ВТОРИЧНО (на нашей планете) замыкается "Хофштадтеровская петля" эволюции эволюции.
Понимаете идею?
Хотя этот процесс неустойчив. Мерцающий... Неполноценный. Полноценным он станет только с появление ИИ. Когда эволюция так до конца осознает саму себя.

[VimanaPro]

Мы буквально умеем изобретать новые способы мышления.

Не умеете

[alex_semenov]

Бред...Не кто грубой силой и не пытался решать эту задачу. Наоборот всем нужно было найти простое и гениальное решение, на те скудные средства которыми обладали. А когда начали вкладывать много бабла(та же IBM) начало что то получаться.

Вот это - дейсвтительно бред.
"Вкладывать много бабла"... Как говорится, нельзя собрав девять беременных женщин родить ребенка за один месяц.

Грубой силой - имеется в виду смоделировать мозг "как есть" со всеми ньюансами, не вдаваясь в детали того какие нюансы работы нейронов важны, а какие нет. Есть прикидки сколько на это надо вычислительной мощности.
Тут начинается торг что важно что нет. Торг чисто базарный. Потому что одни дураки, которые не хотят пустить других дураков что бы "мссачусетская машина начала себя вести" (ухас!) начинают орать, что если они огрубят модель нейрона слишком сильно, они потеряют саму суть человеческой души... ля-ля-ля...

Я все это называю "делать интеллект с широко заплющенными глазами".
У меня есть подозрение, что мы с одной стороны пытаемся построить думающую машину-придаток к нам, протез мозга, так сказать (этим и занят мягкий, то есть прикладной ИИ) а с другой, мы всеми силами не хотим понимать, как устроена наша душа.
Мы надеемся что мы сможем это как-то сделать так, что и сами не поймем как сделали.
Мы боимся, что поняв как там все устроено НА САМОМ ДЕЛЕ, мы как бы потеряем невинность....
Мы станем другими.
Ну как у Тарковского в "Сталкере".
Помните?



Ну приперлись люди за счастьем. Поняли что их сокровенное счастье - дерьмо...
И как им жить после этого?
Кстати, помните чем заканчивается эпизод в комнате?
Каким вопросом?
"И зачем все это надо?"
Тот самый ГЛАВНЫЙ вопрос...

Еще есть притча, о мальчике который умел летать.
Слыхали? Поучительная, душещипательная история...
В общем, все что делалось до сих пор в области ИИ было мягко говоря, топтанием на месте. Мы хотели и рыбку съесть и на пень сесть.
То на что действительно социум выделял средства было не ИИ.
Мы не пытались понять и построить разум (одно от другого неотделимо). Мы пытались пристроить себе протез разума.
Но протез именно разума - это оксюморон.
Вот и  получается вон марсианский трактор...
Но если не появиться реальных причин делать сильный ИИ, его не сделают и за 100 лет и за 1000 лет.

Понять разум на самом деле хотят и ГОТОВЫ (морально) единицы. Например я. Но эти единицы не сила. Когда они станут силой? Я до этого точно не доживу.

[alex_semenov]

Мы буквально умеем изобретать новые способы мышления.

Не умеете

Нужен пример?
Хорошо.
Когда я вам тут объясняю ПОЧЕМУ  быстрые звездолеты (на скорости выше 0.1с) не могут иметь бортовой источник энергии я вывожу вам формулу кубической зависимости удельной мощности любого привода от скорости перелета:



Я это делал уже раз 5 на этом форуме за несколько лет.
Но судя по тому, что народ упорно верит в дедал-подобные быстрые звездолеты, мои РАССУЖДЕНИЯ до людей НЕ ДОХОДЯТ (хотя казалось бы ну примитив полный! в чем тут сомневаться то?).
Что это значит?
Это значит, что я ВЛАДЕЮ способом мышления, который многие другие не освоили.
Да, их этому учили в школе и даже в институте. Но...
Они на них не полагаются. Они такому способу мышления НЕ ДОВЕРЯЮТ.
Помните школьный анекдот?
Ученику рассказали про давление. Что давление это F/S, сила на площадь...
-Понял?
-Понял.
-Так как ты будешь идти по тонкому льду?
- Осторожно, на цыпочках...

Так, я думаю, и большинство людей. Они умеют ими манипулировать (их научили!) но сами они не доверяют формулам. Особенно если им выводы этих формул не нравятся. Они так думать НЕ НАУЧИЛИСЬ. Скорей всего потому что по жизни им эти форумы никогда не приходилось применять. На них ОПИРАТЬСЯ... (ибо фундаментальное образование которое давалось в школе было для людей-винтиков индустриальной машыны явно ИЗБЫТОЧНЫМ).

Но два физика или математика могут общаться вообще только формулами!
Согласны?

При этом данный способ мышления ("формулами") как раз ИЗОБРЕТЕН.
Символическая алгебра - изобретение начала эпохи просвещения. Греки таким мышлением не владели.

Еще один яркий пример:



Перед вами способ мылшения, который я демонстрировал многим людям. "Мыслить графиками". Это две гаусианы с разной дисперсией и разным мат ожиданием. На картине сама суть того, что есть мужчина и женщина по Геодакяну. Не важно прав он или нет.
Важно что на картине МЫСЛЬ!
Важно, что без этих графиков понять чем отличается (по Геодакяну) мужчина от женщины НЕЛЬЗЯ.
Надо уметь "мыслить графиками".
Я - умею. Поэтому, когда я вижу людей, глядящих на эти графики стеклянными глазами (я понимаю что они ничего не понимают, хотя и силятся понять) я понимаю что разговариваю с кем-то подобным кошке или собаке.
При этом бесполезно пытаться человеку объяснить, что такое нормальное распределение, скажем на примерах про стрелка и мишень. Про мат. ожидане, про дисперсию...
Они все это "понимают". Они не понимают, как это все может относиться к вопросу о природе пола.
Они НЕ ВЕРЯТ что это имеет какое-то отношение к вопросу о мужчинах и женщинах (сокровенного вопроса!).
Они просто не верят и никогда не поверят (все, поздно!), что эти кривули действительно могут иметь отношение к таким вот вещам!

Еще. Если вы слушали аудиозапись доклада.
Панов почему-то понимал Голощапова с полуслова. Я тоже ухватил практически все, хотя доски и слайдов я НЕ ВИДЕЛ. Почему? Потому что все мы трое - программисты.

А в президиуме сидел человек, явно уважаемый астрофизик. Он не понял, кажется, и половины. Не потому что он дурак. Я слышал его реплики на других докладах. Конечно у него есть бзики, но дай бог нам всем так мыслить как он!
Но он не программист.
У него нет этого НОВОГО способа мышления. Как он сказал, он не понял их "языка"

Язык - вот, видимо, ключ к тому что такое новый способ мышления. Мы умеем изобретать новые языки и мыслить ими. То есть теми самыми сильными обобщениями. А мыслить - значит блуждать (буквально случайно) в поисках оптимума (то есть целостного мировоззрения, понимания мира)....

[VimanaPro]

Понять разум на самом деле хотят и ГОТОВЫ (морально) единицы.

VimanaPro с Вами абсолютно согласен.
Вы уверены, что действительно хотите понять, а не желаете узнать ? В своё время меня неприятно поразила фраза в "Дюне" о запрете на мыслящие машины. Зачем, почему, никакого же вреда, только благо ? Много позже понял, что понимание разума (использование мыслящих машин/ИИ) означает не симбиоз а полное слияние/поглощение и как побочный эффект - полную потерю биологической идентификации (может быть это и есть третий пункт в докладе ?). Что-то вроде ментального космополитизма. Да, будет доступно абсолютное контролирование реальности в пределах истинных физических законов и её коррекция. Но будет ли какой смысл от чтения романа "эволюция" если из чистого любопытства человечеством была прочитана последняя страница ? Поэтому VimanaPro против мыслящих машин и не желает понять разум вообще, хотя совсем не против понимания других мыслящих существ. Разум, достигший полного понимания как окружающей реальности так и самого себя - безупречно выполненная программа, заканчивающаяся словом END

P.S.Хотел отправить сообщение, но увидел Вашу обиду. Честное слово - и не думал ни обидеть ни поддеть.
Род моих занятий основан на мышлении (игрок в бисер). Поиск и нахождение неочевидных решений. Профессиональная и этническая ментальность (из опыта) отличаются достаточно незначительно, то есть в основном стереотипна. То что Вы называете способом мышления является инструментом (протезом), не более. Способ мышления это несколько другое, затрудняюсь объяснить словами, конструирование поясняющих образов заняло бы много времени и сил и не факт, что было бы понято. То, что язык (его связанность) определяет запах мышления это факт. Вы же ведь в курсе про аналитику, определяющую "портрет пользователя" по достаточно большому объёму размещённых им сообщений
Пожалуй наиболее близко, мыслить - ментально чувствовать правильное решение

Доклад не слушал, Ваших сообщений достаточно. Очень редко воспринимаю информацию на слух. Информационное (в отличие эмоционального) общение вживую/видео достаточно затратно - приходится отделять информационную составляющую от эмоциональной, передающуюсяся через голос, глаза, мимику, жесты, позы и т.д.

И ... не надо сравнением обижать собак и тем более кошек 

[ВадимZero]

Мемы передаются высшими животными ДАВНО. Были сообщения (хотя вряд ли верные) что даже муравьи имеют свое подобие "культуры". Не говоря уже об высших животных типа слонов, обезьян, дельфинов. Те же шалашники (прички)...
 Но только у людей этот поток негенетических мемов начал полноценно эволюционировант. Как эволюционируют геномы нашей биосферы.
По Голощапову.
То есть и культура обезьян или дельфинов если и эволюционирует, то эволюционирует примитивно. Идиоадаптивно. Неполноценно. Она не способна на ароморфозы.
И только человеческие мемы эволюционируют так же как эволюционирует наша биология. Культуры способны делать СКАЧКИ. Сильные обобщения. Духовные революции. Мировоззренческие перевороты. Мы буквально умеем изобретать новые способы мышления.

Основное отличие человека от других социальных животных, способность к дискретной передаче мемов. Конечно животные что то передают друг другу. Но язык их аналоговый. Он неудобен как в плане передачи инфы, так и в конструировании новой инфы.

Я давно уже повторяю: эволюционируют не только виды, эволюционирует сама эволюция.

А что в этом удивительного? Кто то думает иначе?

[ВадимZero]

"Вкладывать много бабла"... Как говорится, нельзя собрав девять беременных женщин родить ребенка за один месяц.

Любите вы не уместные аналогии. Создание самообучающихся машин, это именно сложная системная задача. Требующая много труда и много времени. Причем заранее не известно сколько.

Грубой силой - имеется в виду смоделировать мозг "как есть" со всеми ньюансами, не вдаваясь в детали того какие нюансы работы нейронов важны, а какие нет. Есть прикидки сколько на это надо вычислительной мощности.
Тут начинается торг что важно что нет. Торг чисто базарный. Потому что одни дураки, которые не хотят пустить других дураков что бы "мссачусетская машина начала себя вести" (ухас!) начинают орать, что если они огрубят модель нейрона слишком сильно, они потеряют саму суть человеческой души... ля-ля-ля...

Ну и дураку понятно, чем точнее модель тем меньше вероятность упустить что то важное. Но такие модели строят не для создания ИИ, а для изучение реальной нервной ситемы.

Мы не пытались понять и построить разум (одно от другого неотделимо). Мы пытались пристроить себе протез разума.
Но протез именно разума - это оксюморон.
Вот и  получается вон марсианский трактор...
Но если не появиться реальных причин делать сильный ИИ, его не сделают и за 100 лет и за 1000 лет.

Нету причин делать сильный ИИ. Нет не каких причин создавать глупое существо гордящееся собственным моразмом. Ну есть у человека, самосознание и что? Мы им гордимся, так же как павлин гордиться своим хвостом, или как дебил гордиться большим членом. В чем практическая польза самосознания непонятно.
Потому нам именно нужны протезы. Нужен робот который посмотрит как электрик делает свою работу и научиться быть электриком. Посмотрит как ученый делает свою работу, и станет ученым. То есть нам нужны практически полезные программы. То есть протезы. А сильный ИИ это просто бред философов, которые свои сомнительные достоинства в водят в высокий ранг.

[Кремальера]

Когда я читаю про то, как Curiosity самостоятельно выбирает себе безопасный путь, анализируя данные с навигационных камер и строя в своих кремниевых мозгах модель окружающей местности, меня не покидает ощущение, что ИИ мы уже создали

Именно.Касательно Curiosity я уже высказывал свое мнение-красивая машина не может быть не успешной.Если уж не марсианский хомяк,то какой-нибудь местный корешок неприменно будет найден(если это уже не произошло).Но это лишь адоптированная гражданская версия.И у нее наверняка есть старшие собратья,на что уже указывал ув.незлой в теме про успешную самостоятельную посадку дрона на палубу авианосца.А это уже скорее всего далеко не червяк.

[Сергей Михайлович]

VimanaPro, напротив было бы интересно, по крайней мере мне, что вы понимаете  под способом мышления. Не надо боятся нехватки времени. Еще хотелось бы понять ваши доводы в пользу того, что "Информационное (в отличие эмоционального) общение вживую/видео достаточно затратно - приходится отделять информационную составляющую от эмоциональной, передающуюсяся через голос, глаза, мимику, жесты, позы и т.д. " Зачем отделять эмоции от информации? Ведь они  несут часть, порой определяющую, этой информации.
Понимание разума - это не полное поглощение биологической составляющей через вытеснение ее машинным разумом. Почему вы, VimanaPro, делаете такой вывод? Понимание разума на мой взгляд есть непрерывный процесс, именно процесс, а не цель. Потому что познать разум до конца, как и все сущее, невозможно. Но это вовсе не означает бессмысленности данного процесса, и как следствие, нежелание его воспроизводить. Тем более говорить о каком-то вреде. Как только мы начинаем говорить о вреде процесса познания, мотивируя это так: "  Но будет ли какой смысл от чтения романа "эволюция" если из чистого любопытства человечеством была прочитана последняя страница ? Поэтому VimanaPro против мыслящих машин и не желает понять разум вообще, хотя совсем не против понимания других мыслящих существ. Разум, достигший полного понимания как окружающей реальности так и самого себя - безупречно выполненная программа, заканчивающаяся словом END", появляется  вопрос - а чего собственно мы боимся? Неужели того, что нечего будет познавать?  Это невозможно в принципе.   

Третий пункт доклада не про это, а про социальные конструкции. 

[alex_semenov]

Именно.Касательно Curiosity я уже высказывал свое мнение-красивая машина не может быть не успешной.Если уж не марсианский хомяк,то какой-нибудь местный корешок неприменно будет найден(если это уже не произошло).Но это лишь адоптированная гражданская версия.И у нее наверняка есть старшие собратья,на что уже указывал ув.незлой в теме про успешную самостоятельную посадку дрона на палубу авианосца.А это уже скорее всего далеко не червяк.

Я не интересовался этим марсианским чудом NASA, но у меня есть сильнейшее подозрение, что никакого ИИ, даже МЯГКОГО (а сильного и в природе пока не намечается) там нет.
Там есть масса жестких программ поведения, написанных и выкатанных группой программистов-фанатиков  NASA, которые ночами не спали, ПОШАГОВО придумывали и выверяли весь код поведения.
То есть "семнадцатой век, ручная работа" И все!

Если ... то...  иначе... если... то ... иначе...

Шаг за шагом просматривали ВСЕ варианты. Хотя их комбинаторно много, но фанатики из NASA ведь умные, они ОБОБЩАЛИ. И в итоге гарантировали (более-менее) что этот код надежен.

Но писан он наверняка тупо в рукопашную... Как все мы остальные быдлокодеры пишем заказчику. Только тщательней ибо страшно ошибиться.  Очень тщательно и с душой.

Почему я так думаю?
Да потому что ваша машинка - очень дорогая штучка.
Она - уникальная!
На нее выделено масса бабла и еще больше ВСЕПЛАНЕТНОЙ любви!
Как тут не вложить душу в код?
Тут можно тысячу душ вложить!

Ее создатели  просто ПОБОЯЛИСЬ использовать некие странные и плохо проверенные методы решения задач типа тех, которые пытаются нащупать в мягком ИИ.
Скажем, кода, сформированный методами генетического программирования там нет.
(хотя я не могу быть уверен. Все течет, все меняется)

То есть ваш Curiosity - это очень ТУПОЕ насекомое, которое запрограммировано "геномом" программистов NASA на их страх и риск. На их  ОТВЕТСТВЕННОСТЬ.

Если этот дорогой аппарат начнет себя ВЕСТИ как-то странно (и это приведет к непоправимому), всегда есть НАДЕЖДА, во всяком случае, возможность  ПОНЯТЬ почему он так ведет себя и СПРОСТИТЬ с того, кто этот кривой код написал.

Весь эффект тут в том что возможно и немного, но наверняка очень увлеченных и талантливых людей вложили очень много РАБСКОГО труда в этот код чтобы его вылизать! Возможно, они вылизывали этот код "голосованием". То есть перекрестной проверкой.
Вот и вся технология.

Какие-нибудь мягкие приемы (приемы мягкого ИИ) там используются, наверное, тоже. Но на некритичных участках. Где сбой можно пропустить. Или где-то параллельно со старой тупой, но проверенной системой "Если... то" где у этого "Если... то" существует конкретный автор-программист.

Еще в 80-х, в эпоху расцвета "Пролога" и японских амбиций на машину четвертого поколения (кто помнит начало этого фиаско?) у нас (Поспелов, например) много писали о проблеме контроля над ИИ.
Например, если экспертная система (тогда это было модно) будет настолько сложна, что мы не сможем понять (отследить), почему она пришла к такому выводу, мы можем доверять ее выводам?
Обратите внимание. Речь идет не об общем понимании как такая система работает вообще (идея той же экспертной системы достаточно примитивна, даже убога), а именно о понимании как она конкретно пришла к такому вот выводу. Мол, мы за ней просто не угонимся!
Так вот.
Я думаю, что на вашем Curiosity нет даже мягкого ИИ в критических точках (а экспертные системы это и есть мягкий ИИ родом из 70-х) именно потому, что хозяева вашего "марсианского трактора" боятся, что он начнет себя как-то непредсказуемо вести и они даже не смогут понять почему он так себя повел.
А вот когда у тебя есть пускай 10 000 страниц, но старого-доброго программного кода, то хотя разобраться в нем - "удовольствие" проклятое, однако если что-то случится, всегда можно ценой запредельных усилий...
А марсиансткий трактор - он ведь ОДИН на все 7 миллиардов людей планеты.
Так что, не надо выдавать желаемое за действительное.
И не надо тут сильно раскатывать губу.
Посадка на авианосец -  не бог весть какого ума задача. Ни один пилот УМОМ самолет не садит. Он садит его рефлексами. Стрекоза эту задачу решает куда лучше. А стрекоза - насекомое.

[alex_semenov]

"Вкладывать много бабла"... Как говорится, нельзя собрав девять беременных женщин родить ребенка за один месяц.

Любите вы не уместные аналогии. Создание самообучающихся машин, это именно сложная системная задача. Требующая много труда и много времени. Причем заранее не известно сколько.

Нет, это вы не понимаете мой "язык".
Баблом и многим трудом (сосредоточением умственных и финансовых ресурсов цивилизации) можно протолкнуть задачу ТОЛЬКО ТОГДА, когда у вас есть общее ПОНИМАНИЕ самой задачи.  Тогда бери больше - кидай дальше.
А если понимания нет - то глупо собирать "беременных гениев" в одном месте.
Атомную бомбу начали делать уже посте того, как у физиков была общая теория такой бомбы. Была масса неясностей и неожиданностей. Но это все были неясности низших порядков. Не получилось бы с плутонием - получилось бы с ураном из Ок-Риджа...
Но в случае с разумом у нас ситуация куда хуже.
Мы НЕ ПОНИМАЕМ пока что это такое.
Мы даже не выработали язык на котором могли бы понимать что такое разум.
В терминах сильных обобщений, бабло поможет только при идиоадоптации. А ароморфоза надо "ждать девять месяцев".

Ну и дураку понятно, чем точнее модель тем меньше вероятность упустить что то важное. Но такие модели строят не для создания ИИ, а для изучение реальной нервной ситемы.

Вот именно. Цели тут ставятся ИНЫЕ. И результата (нужного для ИИ) тут не будет.
Об этом говорю и я и Голощапов.
О чем тут спорить?

Нету причин делать сильный ИИ. Нет не каких причин создавать глупое существо гордящееся собственным моразмом.

Глупое  - нет. Зачем создавать себе конкурента?
Вопрос, надо ли создавать умное? Более умное чем мы.
Вот тут коллизия. Сами мы, видимо, уперлись в предел своего ума. И двигать прогресс дальше своим извилинами мы не можем уже. Мы можем (допустим!) создать более умную машину, которая, скажем создать сильные обобщения для биологов. В итоге мы получим чудо-биотехнологии. Но мы НЕ БУДЕМ ПОНИМАТЬ как эти технологии работают. Мы станем заложниками этого ИИ.
И этого мы боимся.

Ну есть у человека, самосознание и что? Мы им гордимся, так же как павлин гордиться своим хвостом, или как дебил гордиться большим членом. В чем практическая польза самосознания непонятно.

А раз непонятно, то зачем же вы все это говорите?
Я думаю, что у сознания есть  важная функция. Это очередное сильное обобщение эволюции в процессе совершенствования мозга. И именно через сознание люди получили статус "разумных". 
Сознание привело нас к символической алгебре или к письму. Да, мы пытались облегчить себе работу. Тут были позывы из глубины. Но одних позывов было мало.

Потому нам именно нужны протезы. Нужен робот который посмотрит как электрик делает свою работу и научиться быть электриком.

Вы доклад слушали, конспект читали?
Мы НЕ МОЖЕМ больше двигаться по пути прогресса без таких протезов.
Нам нужно или "протез", который будет в тысячу раз умнее нас и  за нас будет думать (первый путь)
Или биотехнологии, которые сделают людей на "пол порядка" больше (то есть 25-50 миллиардов человек) и тогда тут появится критическая масса гениев, чтобы двигать прогресс дальше (второй путь)
Или нам нужны социальные технологии (то что я оставляю на десерт), которые прикроют сложившийся бардак и увеличат социальную отдачу с одного мозга. Обратили внимание, там мелькнуло словечко... ЕВГЕНИКА... Заметили?

А скорей всего нам понадобится и первое и второе и трете чтобы продолжать вгрызаться в комбинаторную сложность мироздания вообще и в частности выйти из колыбели...

Разумеется, для того что бы жрать, драть, ржать, срат_ь  все это не надо!
Поэтому никто вас ни к чему не обязывает.
Не хотите? Не надо.
Но тогда вы теряете право называться разумными. Это мой вам приговор.

Посмотрит как ученый делает свою работу, и станет ученым. То есть нам нужны практически полезные программы. То есть протезы. А сильный ИИ это просто бред философов, которые свои сомнительные достоинства в водят в высокий ранг.

Да, да.  Я давно понял, что у нас с вами тут "классовая неприязнь".

Вы как большинство бабуинов пытаетесь устроится.
Опережаю вашу реакцию на это заявления. Я тоже бабуин, пытающийся устроится. Но я кривой бабуин и мои потуги устроится поудобней какие-то кривые получились. С противоположным эффектом...

Не важно как. Важно что.

[Кремальера]

Любой биолог заткнет небиолога, рискнувшего сунуться в его область со своими обобщениями, наваляв ему массу контраргументов (угля мелкого но много).
Но если этих господ прижать к стене и попытаться из них выдавить, в чем же их несогласие, то простите, из них льется МРАКОБЕСИЕ

Гм.Я настолько далёк от науки,насколько близок к зрелищам(отсюда тяга к визуальному ряду),и прочим радостям настоящего потомственного плебея. ^-^Однако по-моему,тут сквозит недюжинной несправедливостью.Предвижу, что сейчас придет испанский идальго ,и в традициях героев Сервантеса ,как стукнет чашкой Петри по столу! :DВы, да и ув.AlexAV кивая на современную физику, умыли руки,заявив что открытий больше не будет.Быть может в действительности ваша точка зрения верна.А насколько корректно тащить в грядущее такие настроения,рассудит только время.Посему простому обывателю просто удобно уповать именно на биологию,откуда пускай со всеми дрязгами,но всеже просыпаются на голову народа научные чудеса.Ведь именно в здесь на стыке дисциплин(вариативная химия и пр.)и возможно еще познание чего-то нового.
Вообщем, "Да здравствует сюрприз!"http://www.moskva.fm/artist/%D0%BA%D1%83%D0%BA%D1%80%D1%8B%D0%BD%D0%B8%D0%BA%D1%81%D1%8B/song_978237

[ВадимZero]

Баблом и многим трудом (сосредоточением умственных и финансовых ресурсов цивилизации) можно протолкнуть задачу ТОЛЬКО ТОГДА, когда у вас есть общее ПОНИМАНИЕ самой задачи.  Тогда бери больше - кидай дальше.

С чего вы взяли что его нет? Если бы не было понимания в какую сторону двигаться, то и деньги не вкладывали в того же ватсона и в другие машины способные к самообучению.

Вот именно. Цели тут ставятся ИНЫЕ. И результата (нужного для ИИ) тут не будет.

Не вижу чтобы что то запрещало использовать эти данные в том числе и для ИИ.

А скорей всего нам понадобится и первое и второе и трете чтобы продолжать вгрызаться в комбинаторную сложность мироздания вообще и в частности выйти из колыбели...

По мне так, все что нужно для прогресса у нас уже есть. Не вижу смысла придумывать воображаемые барьеры.

Вопрос, надо ли создавать умное? Более умное чем мы.
Вот тут коллизия. Сами мы, видимо, уперлись в предел своего ума. И двигать прогресс дальше своим извилинами мы не можем уже. Мы можем (допустим!) создать более умную машину, которая, скажем создать сильные обобщения для биологов. В итоге мы получим чудо-биотехнологии. Но мы НЕ БУДЕМ ПОНИМАТЬ как эти технологии работают. Мы станем заложниками этого ИИ.

Лучший способ проверки, практика. Да и думаю областей в которых нашего понимания не хватит думаю немного....какая ни буть сложная теорема или типа того.

Опережаю вашу реакцию на это заявления. Я тоже бабуин, пытающийся устроится. Но я кривой бабуин и мои потуги устроится поудобней какие-то кривые получились.

Реальность под какого то конкретного бабуина подстраиваться не будет. Особенно если сам бабуин не отдает отчет, какие барабинские хотелки он удовлетворяет.

[alex_semenov]

Основное отличие человека от других социальных животных, способность к дискретной передаче мемов. Конечно животные что то передают друг другу. Но язык их аналоговый.
Он неудобен как в плане передачи инфы, так и в конструировании новой инфы.

Первое. АНАЛОГОВЫЙ ЯЗЫК - бред сивой кобылы.
Вадим! НЕМЕДЛЕНО поднимите словарь и прочитайте что такое язык!
Определение. Тут не может быть иных толкований.
Ваш "аналоговый язык" - это оксюморон, ваша мнимость из которой, видимо у вас  растет целый букет чудовищных заблуждений поэтому у вас столь извращенное понимание реальности в самом фундаменте.

Второе. И главное.
МЕМЫ могут быть только из дискретных символов.
ИСКЛЮЧИТЕЛЬНО!
Тут не может быть сомнений.
Если вы этого не понимаете - вы не понимаете в эволюции АБСОЛЮТНО НИЧЕГО!
Поэтому и мемы, передаваемые другими животными, тоже дискретны.
Скажем, навыки орудийной деятельности. Умения пользоваться инструментами (у тех же бобров).
Не верите?
Откройте книгу Докинза "Бог как иллюзия" (вот вам это место)
Найдите абзац:

Возражения против использования концепции мемов возникают по разным причинам, но в основном потому, что мемы не во всем аналогичны генам. Например, в настоящее время нам известно, что представляют собой гены (это участки молекулы ДНК); по поводу же природы мемов ведутся дискуссии....

И читайте дальне.  Особенно внимательно читайте про китайскую джонку и игру в испорченный телефон, до места...

Теперь наконец мы готовы обратиться к меметической теории религии...

ВНИМАТЕЛЬНО ЧИАЙТЕ!
Возможно, вам откроется вся бедовость ваших представлений об аналоговых мемах.
Но однажды я пытался это тут протолкнуть.
Не получилось.
Люди удивительно уперты в своих заблуждениях.

Я давно уже повторяю: эволюционируют не только виды, эволюционирует сама эволюция.

А что в этом удивительного? Кто-то думает иначе?[/quote]

А вы можете мне дать ссылку на материал где эта мысль ВЫСКАЗАНА так же ярко как в приведенным тут докладе?
Лично я к ней очень долго шел сам и доклад Голощапова - первый материал "извне", где эту "мою" мысль кто-то другой высказал куда внятней чем я сам смог до нее дойти.

[alex_semenov]

С чего вы взяли что его нет? Если бы не было понимания в какую сторону двигаться, то и деньги не вкладывали в того же ватсона и в другие машины способные к самообучению.

Потому что я знаю эту предметную область.

Не вижу чтобы что то запрещало использовать эти данные в том числе и для ИИ.

Разумеется. Но пока они для ИИ почти бесполезны. В конце концов, главная задача ИИ понять мозг "сверху". Понять ЗАЧЕМ и ЧТО эта машинка делает в целом. В контексте обработки информации. В математическом контексте.
А нейрофизиология и моделирование нейронов пытается понять конкретный биологический и человеческий мозг. В лучшем случае пример единственног известного нам (но наверняка не единственного возможного) интеллекта. Нашего. Очень мутный, кстати, пример. При этом пытается понять этот интеллект "снизу". От нейрона.
И между этим "верхом" и "низом" - пропасть непонимания, которую ни "верх" (кстати) ни "низ" самостоятельно не пересечет.
Пропасть настолько глубокая, что, например, такой умница как Панов (ну нравятся мне его комментарии на семинарах! Молодец! Мыслит человек!) может честно верить в откровенный бред про квантовые  эффекты в нейронах от Пенроуза.
Откуда это мракобесие?
Из чего сам Пенроуз вывел эту свою бредятину?
Из самих оснований математики.
Вот где "корень зла"!
Потому что у нас нет  НАДЕЖНОГО самого верхнего сильного обобщения. Мы действительно не понимаем что такое разум вообще. Поэтому и получается кто в лес, кто по дрова... Я истово молюсь на Тьюринга-Ньюэлла-Саймона Панов - на Пенроуза.

По мне так, все что нужно для прогресса у нас уже есть. Не вижу смысла придумывать воображаемые барьеры.

Потому что вы ИММИТАЦИЮ прогресса принимаете за прогресс.

Лучший способ проверки, практика. Да и думаю областей в которых нашего понимания не хватит думаю немного....какая ни буть сложная теорема или типа того.

Вадим, вы дитя. Я вам завидую даже.

[ВадимZero]

Первое. АНАЛОГОВЫЙ ЯЗЫК - бред сивой кобылы.

Да вы что? А язык жестов, что по вашему? Где к примеру дискретность в том как рыбак показывает какую рыбу поймал? Или кулак с вытянутым средним пальцем? Все это примеры аналогий.

А вы можете мне дать ссылку на материал где эта мысль ВЫСКАЗАНА так же ярко как в приведенным тут докладе?

Собственно сама эволюционная теория это процес поиска новых эволюционных механизмов, которые в своей сути уже далеко ушли от первоначальных дарвинистских представлений об эволюции. И исходя из них уже видно что многое в эволюции не понятно и сложно.
http://batrachos.com/Парадокс_ускорения_эволюции

[ВадимZero]

Мы действительно не понимаем что такое разум вообще

Да потому что разума вообще не существует как такого. Есть процессы логические которыми пользуеться человек, не более. Есть процес обучения, его и пытаються создать в софте.

И между этим "верхом" и "низом" - пропасть непонимания, которую ни "верх" (кстати) ни "низ" самостоятельно не пересечет.

Просто потому что этого низа еще нет. Когда будет уже можно эксперементы проводить, изучать как прошлый опыт помогает принять текущее решение

Потому что вы ИММИТАЦИЮ прогресса принимаете за прогресс.

это все игра слов.