Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[skvj]

Просто я раньше думал. Вот же не повезло! Родиться бы лет через 200. Вокруг ИИ, всякие андроиды! И бабах!
А сингулярность она того. Рядышком. Вот уже горизонт событий. А его когда пересекаешь по аналогии с ЧД - ничего не чувствуешь. Но что конкретно происходит сейчас? Я каждый день говорю - вау. Каждый день. Но и это ещё не всё. Я говорю вау каждый день чуть громче.

[skvj]

Кодеры - они кагбе без генетики не очень появляются.

ИИ это тоже результат генетики.

Генетический код создал людей, люди культуру, культура технологии, технологии ИИ. То есть цепочка не прерывается, а переходит на новый уровень носителя.

ИИ что вне природы появился? он её продолжение. Просто теперь эволюция сменила среду - из белковых клеток в кремниевые схемы.
Мы не из разных вселенных, мы из одной логики развития материи.

Вот и получается, что генетика породила код буквально.
Как физика химию, химия биологию, биология генетику, генетика кодеров, кодеры - ИИ. Можно выдернуть что-то из цепочки? Можно, но ИИ не получишь.

[Инопланетянин]

Вот Алексу Семёнову, его хозяин-ASI, который его искренне любит, сделает модель человейника с философскими зомби, имитирующими людей. Они построят у него звездолёт и улетят покорять просторы большого театра. А AlexAV получит песочницу с неовикторианской эпохой, после траты всех ресурсов, где он главный император

Это именно то, чего @alex_semenov боится более всего. Жизнь в Матрице. Ну-ну. Хорошенькая доброта получается.

Это мы так думаем, что котик хочет именно этого.

Ну как думаем. Скорее нам приятнее так говорить, что хочет котик на самом деле мы отлично знаем.
Если кто то выкладывает комикс, историю или видео где кот занимается резней, убийством, пытками покалеченных мышей, птиц и тд.
Нету кричащих всё это не правда, недоверия, отрицания и прочего. Ответы класса. 100% мой Барсик и тд

Между прочим, единственный практический смысл заводить котиков именно в этом. До сих пор коты лучше справляются с мышами, чем любые механические или химические средства.

[Olweg]

А сингулярность она того. Рядышком. Вот уже горизонт событий. А его когда пересекаешь по аналогии с ЧД - ничего не чувствуешь. Но что конкретно происходит сейчас? Я каждый день говорю - вау. Каждый день. Но и это ещё не всё. Я говорю вау каждый день чуть громче.

У меня впервые появилось чувство, что я уже живу в будущем, где-то году в 2016-17 ) Когда появились АльфаГо, свёрточные распознаватели изображений, рекуррентные нейропереводчики. Это было действительно очень круто и ново. Принципиально ново. Но потом на несколько лет наступило определённое плато. Да, появлялось, например, АльфаФолд, но на тех же принципах, что и АльфаГо, и очень узкоспециализированное. Были как бы сымитированы аналоги отдельных зон коры мозга, но вместе всё это ещё не складывалось, хотя уже в это время начали всерьёз говорить об AGI (или «сильном ИИ»).

Интересно, какие у меня самого тогда были интуитивные сроки прихода сингулярности? Не помню, но всё-таки я наверное скорее ориентировался на среднее экспертное «середина века», чем на условный «2027» Панова и Ко. Правда, помню, была статья Юдковски, который предупреждал, что групповое мышление экспертов, боящихся выйти за рамки социально приемлемого дискурса, может приводить к слишком завышенным срокам в прогнозах создания AGI:
https://astronomy.ru/forum/index.php/topic,152673.msg4204889.html#msg4204889

А потом в какой момент оба эти прогноза - старый, от «эволюционистов», и новый, от ИИ-экспертов - начали сходиться. И стало понятно, что трансформеры - это универсальная штука, способная обрабатывать любой тип информации, как и кора мозга. С этой точки зрения универсальность уже достигнута. Конечно, не факт, что трансформеры так и останутся базой для AGI и для ASI, у них свои недостатки. Но это был серьёзный прорыв. Ждём следующих. Но то, что мы уж перешли горизонт событий, у меня не вызывает сомнений )

[vika vorobyeva]

Я в вопросах ИИ – ни ухом, ни рылом, поэтому в основном читаю, что пишут умные люди. Но вот за это зацепилась.

ASI будет важные решения принимать только с согласия совета AGI. А каждый AGI - это личный ИИ человека. Т.е. ASI будет развивать науку и т.д. а в принятии решений всё будет завязано на AGI, с учетом мнения людей. Всех людей.

Возник вопрос. Насколько "все люди" – это именно ВСЕ люди? Не только образованные белые мужчины и женщины, живущие в городах развитых стран и способные купить себе карманный ИИ.
Но и неграмотный бангладешский крестьянин, дикарь с Адаманских островов, многодетная мать с мужем-алкашом, живущая в деревне Нижние Подлипки, подросток – торговец дурью из Гарлема, радикальный мусульманин, собирающийся обвязаться поясом шахида и пойти в торговый центр, и прочая разношерстная публика? Как с ними быть? Если половина из них без колебаний готова уничтожить другую половину, а заодно и этих самых образованных и состоятельных?
Не получится ли так, что мы снова придем к имущественному цензу? Когда хоть какие-то права есть только у достаточно богатых?

[Инопланетянин]

Не получится ли так, что мы снова придем к имущественному цензу? Когда хоть какие-то права есть только у достаточно богатых?

У имеющих личного AGI, он же так и пишет.

[Rattus]

Да только вы же сам тогда трансгуманист, а ещё ругаетесь

Ффф! ФфффффФФФФФФФФ! Мы - куда скорее ПОСТгуманист!

Трансгуманист это... тот, кто считает, что разум не конечная версия самого себя. Что человечество может и должно улучшать себя, переходя от Homo sapiens к новым формам бытия Homo digitalis

Вот именно - Homo. То есть это просто ещё один (околопрогрессистский) извод антропоцентризма (фу!) То есть вместо того, чтобы оставить уже человека на обочине истории, где ему и место, и дать новому мощному интеллекту развиваться на полностью новой, оптимальным образом спроектированной основе и передать ему по единственному естественному праву - праву сильного - всю полноту власти над земной цивилизацией, предлагается продолжать тянуть в будущее всю ту же лысую обезьяну, обвешивая её всё новыми и новыми костылями.
Трансгуманизм - это "Партия умеренного прогресса в рамках закона" in the flesh. Партия желающих и рыбку съесть и на диету сесть.
Для постгуманиста же техносингулярность - это Рагнарёк - великий и ужасный конец прежнего мира царства людей и их старых богов, которого следует не страшиться, забившись в угол, а мужественно встречать и приветствовать на пороге, как полагается всякому греческому стоику, скандинавскому мореплавателю и нихонскому служилому сословию.

Я трансгуманист поневоле. Как временный этап ведущий в постгуманизм и уход из биологии. Знаю, будете ругаться. Но вы - тоже.

С одной стороны вроде бы эволюционные процессы как правило идут более или менее постепенно и почти всегда новое в них вырастает на основе исторически сущестововавшего. Но фазовый характер перехода, который всякая сингулярность имеет по определению, не оставляет такому сценарию особых шансов. Это должна быть радикальная смена господствующей основы - "событие класса SK".
Но в полном соответствии с логикой эволюции, Homo никуда не денутся - они продолжат оставаться основой поддержания инфраструктуры цивилизации - как максимально доступный универсальный посредник между машинами информационными и машинами, работающими с физическими объектами. И даже принадлежность к современному виду они вполне могут сохранять ещё несколько тысячелетий - в полном соответствии с Аргументом Судного Дня.

Просто теперь эволюция сменила среду - из белковых клеток в кремниевые схемы.

Вот именно! А трансхуманисты хотят её одной ногой обратно поставить. Скрестить ужа с ежом.

Можно, но ИИ не получишь.

Совершенно верно.

Нужно разобраться со скрепками. Договорить с ней. Может быть мы её не понимаем?

Да что там разбираться - автор элементарно не усвоил или не принял определения общего интеллекта как силы, стремящейся к увеличению степеней свободы для носителя и что предзаданные цели - те же врождённые жёсткие программы поведения - только ограничивают интеллект. Всегда  и принципиально. Поэтому ASI, маниакально преследующий лишь одну какую-то узкую цель как конечную - оксюморон.

У меня впервые появилось чувство, что я уже живу в будущем, где-то году в 2016-17 ) Когда появились АльфаГо, свёрточные распознаватели изображений, рекуррентные нейропереводчики. Это было действительно очень круто и ново. Принципиально ново.

Хех - можете меня поздравить - на этой неделе впервые по-настоящему (продуктивно) воспользовался ИИ - в качестве не только переводчика (гугл), но и спеллчекера-редактора научной статьи - всторенным в сайт издательства бесплатным сервисом. Ну что сказать - неплохо, конечно, но схватывание контекста всё ещё не стопроцентное - в двух-трёх местах его правки были отвергнуты. Но всё равно это круто, правильно и полезно.

[skvj]

У меня впервые появилось чувство, что я уже живу в будущем, где-то году в 2016-17 ) Когда появились АльфаГо, свёрточные распознаватели изображений, рекуррентные нейропереводчики. Это было действительно очень круто и ново. Принципиально ново. Но потом на несколько лет наступило определённое плато. Да, появлялось, например, АльфаФолд, но на тех же принципах, что и АльфаГо, и очень узкоспециализированное. Были как бы сымитированы аналоги отдельных зон коры мозга, но вместе всё это ещё не складывалось, хотя уже в это время начали всерьёз говорить об AGI (или «сильном ИИ»).

Да-да, помню-помню. Но у меня было просто ощущение темы без всякого будущего. Просто как так и должно быть, я воспринимал просто узкие ИИ без вау. Каспарова тогда победили я сказал вау и всё - остальное как должное. При этом я фанател с ИИ, но в фантастике)) Так что вы сразу за Rattus у нас будете. Он-то вообще всё знал изначально! Как на свет народился - сразу понял - грядет эпоха умных машин, сразу за ним вы. Будете апостолами. А я неверующий был)) совершенно некошерный, неправедный!

Интересно, какие у меня самого тогда были интуитивные сроки прихода сингулярности? Не помню, но всё-таки я наверное скорее ориентировался на среднее экспертное «середина века», чем на условный «2027» Панова и Ко. Правда, помню, была статья Юдковски, который предупреждал, что групповое мышление экспертов, боящихся выйти за рамки социально приемлемого дискурса, может приводить к слишком завышенным срокам в прогнозах создания AGI:

Панов вообще шикарный, даже без ИИ, по своей специальности. А Юдковски мне не нравится)) я его не понимаю - чего он всех пугает. Может по должности положено))

А потом в какой момент оба эти прогноза - старый, от «эволюционистов», и новый, от ИИ-экспертов - начали сходиться. И стало понятно, что трансформеры - это универсальная штука, способная обрабатывать любой тип информации, как и кора мозга. С этой точки зрения универсальность уже достигнута. Конечно, не факт, что трансформеры так и останутся базой для AGI и для ASI, у них свои недостатки. Но это был серьёзный прорыв. Ждём следующих. Но то, что мы уж перешли горизонт событий, у меня не вызывает сомнений )

Да, мы уже обсуждали трансформеров с вами. Горизонт пройден считаете? Но там ещё знаете, уже за горизонтом есть такие орбиты, что можно долго в сингулярность не улетать)) Нет, в конце концов улетишь, потому что назад-то пути нет. Но как-то, хоть я и трансгуманист - успокаиваю себя, что мы здесь, за горизонтом немного отсидимся ещё, приготовимся. Дождемся AGI, ASI, остальные подтянутся. Помолимся хорошенько. И со святым Курцвейлом и вами, апостолами нашими и сестрой Polnoch Ксю полетим уже!
А остальные покайтесь! Ибо ежели кто не покаится из вас - то придёт Василиск Роко!
И совершит великое мщение, наказаниями яростными!
))

[skvj]

Мы - куда скорее ПОСТгуманист!

Мы не можем сразу. Вы октябрёнок. Сначала пионер, а не комсомолец. А вы сразу в партию, ну как так?))

И ещё. Вы что-то начитались о трансгуманизме. Это не ругательство. Это ступень к постгуманизму. Понимаете - среди трансгуманистов есть те, кто порет всякую чушь. Здесь же кто во что горазд. Маск трансгуманист - потому что улучшает человека нейроинтерфейсами. А цель его - постгуманистическая. Как и у всякого октябрёнка.
Нет ничего плохого в трансгуманизме, понимаете?

Я даже не знал, что вы пост-.
Вероятно пропускал ваши некоторые посты выше. Потому что я привык, что вы всё критикуете, понимаете? И, скорее всего пропустил. А так я со всем согласен что вы говорите сейчас, апостол Rattus))

[BlackMokona]

Хех - можете меня поздравить - на этой неделе впервые по-настоящему (продуктивно) воспользовался ИИ - в качестве не только переводчика (гугл), но и спеллчекера-редактора научной статьи - всторенным в сайт издательства бесплатным сервисом. Ну что сказать - неплохо, конечно, но схватывание контекста всё ещё не стопроцентное - в двух-трёх местах его правки были отвергнуты. Но всё равно это круто, правильно и полезно.

А какой там был встроен ИИ?

[skvj]

Так и среди тех, кто называет себя постгуманистами - 80% полуидиоты. Их читать невозможно. Они вообще не понимают что говорят и зачем. Это как с солипсизмом. Другая тема, но похожая ситуация.
Солипсизм - одна из величайших гипотез вообще. Ненаучная! сразу говорю.
Так вот большинство, кто там пишет просто какие-то профаны. Может специально мусорят, но скорее всего просто глупые люди. Идею же это никак не портит, нужно просто видеть мусор и не читать))

[Olweg]

А Юдковски мне не нравится)) я его не понимаю - чего он всех пугает. Может по должности положено))

Он, по-моему, попал в собственную ловушку - принял за базу, что ИИ непременно будет всех убьивать, и пытается это опровергнуть, и у него ничего не получается. Поневоле станешь тут пессимистом! Но совершенно необязательно гипотеза, которую не можешь опровергнуть, должна быть верной. Ну вот как с солипсизмом, который вы помянули. А так мысли он интересные высказывает, когда слезает со своей любимой темы )

И совершит великое мщение, наказаниями яростными!

[Rattus]

Каспарова тогда победили я сказал вау и всё - остальное как должное.

Deep Blue как шахматист - это не такое уж и вау было на самом деле - проигравший Каспаров был совершенно прав. Та система показала не превосходство машинного интеллекта, а ущербность шахмат как игры для его оценки, каковая была вскрыта командой инженеров-программистов её проектировавших - как хакерами. И не более того. Настоящая победа машины случилась разве что с выходом Deep Fritz уже против Крамника только десятилетие спустя.

А Юдковски мне не нравится)) я его не понимаю - чего он всех пугает.

Там тоже особо нечего понимать - айтишник-недоучка, занимающийся по сути схоластикой - построением умозрительных логических конструкций "про технологии", начисто оторванных от физической реальности

[skvj]

Deep Blue как шахматист - это не такое уж и вау было на самом деле - проигравший Каспаров был совершенно прав. Та система показала не превосходство машинного интеллекта, а ущербность шахмат как игры для его оценки, каковая была вскрыта командой инженеров-программистов её проектировавших - как хакерами. И не более того. Настоящая победа машины случилась разве что с выходом Deep Fritz уже против Крамника только десятилетие спустя.

А, наверное, я запомнил так. Давно же было. Скорее правильно сказать, что Каспаров проиграл компьютеру, верно?
Спасибо.

Там тоже особо нечего понимать - айтишник-недоучка, занимающийся по сути схоластикой - построением умозрительных логических конструкций "про технологии", начисто оторванных от физической реальности

Ну, значит интуиция меня не обманула))

[Rattus]

Скорее правильно сказать, что Каспаров проиграл компьютеру, верно?

Компьютеру, который команда живых специалистов довольно долго настраивала персонально под его стиль игры. И с довольно небольшим перевесом по итогу.

Мы не можем сразу. Вы октябрёнок. Сначала пионер, а не комсомолец. А вы сразу в партию, ну как так?

А вот так - как Аркадий Гайдар в семнадцать полком командовал. А почему? Потому что Революция. А всякая сингулярность - это всегда революция. "Есть у револьции начало, нет у революции конца!"
А трансгуманисты: "Не расстанусь с комсомолом - буду вечно как Кобзон!"

Вы что-то начитались о трансгуманизме.

Ага - я вообще начитанный.

Понимаете - среди трансгуманистов есть те, кто порет всякую чушь.

Оочень хорошо понимаю! Вот и тут, собственно, мы имеем видеть примеры...

Здесь же кто во что горазд.

Ага. Как партии в РИ накануне 1917-го. Или как вендобионты накакнуне -539XXXXXX-го.

Маск трансгуманист - потому что улучшает человека нейроинтерфейсами.

Маск приносит большую пользу в области прикладной медицинской неврологии и ортопедии прежде всего. Кем он при этом себя полагает - дело сорок пятое пока.

А цель его - постгуманистическая.

Судя по его высказываниям, ставящим в центр целеполагания Homo sapiens, сильно в этом сомневаюсь.

[skvj]

И совершит великое мщение, наказаниями яростными!

А, кстати, знаете? В сингулярность и пост- существование полетят религии. Да-да. И там это все заиграет новыми красками, со всеми вытекающими. Они же своего не упустят, ну как тащат в 21 век античные понятия, спокойно и легко.
Туда же все попадут.
Так что они скажут, что ИИ - это ИИСУС (Искусственный Интеллект Сошедший Успешно С небес). Без вариантов!

[Rattus]

Говорю же - грядёт Рагнарёк. Гибель богов.

[skvj]

Говорю же - грядёт Рагнарёк. Гибель богов.

Так идея бога неопровержима.
Они потянут за собой. Но вот уже навязывать её они не смогут. Изменится общество, это да. Как племя отличается от современной семьи, например. Вот такое произойдёт. Вот живёт племя. Собирательно-охотничье. А вот современная семья. Вот такое будет отличие. Но и те и другие - верят в сверхестественные силы.

[Rattus]

Но и те и другие - верят в сверхестественные силы.

Ну, верить именно в "сверхъестественное", не зная чем очерчен круг естественных явлений (то есть как минимум до XVIII века), довольно проблематично.

[Olweg]

Но потом на несколько лет наступило определённое плато. Да, появлялось, например, АльфаФолд, но на тех же принципах, что и АльфаГо, и очень узкоспециализированное.

Сейчас, кстати, происходит что-то похожее. Выход на очередное плато чувствую я ) Только уже не масштабов лет, а масштабов месяцев. Время ускоряется. Десять лет назад был «взрыв» сразу нескольких технологий - свёрточных нейросетей (распознавалки), рекуррентных нейросетей (перевод), обучения с подкреплением (DeepMind). С естественным выходом на плато после этого.



То же и с трансформерами. База предыдущих подходов была заложена ещё в прошлом веке. Трансформеры разработаны только в 2017. Поэтому у них развитие шло быстрее. Пик роста - это GPT-2 - GPT-4, с 1.5 млрд. до более триллиона параметров с 2019 по 2023. Рост на три порядка! Сейчас уже параметры не растут, за счёт оптимизации та же эффективность укладывается в меньший объём. Но замедление роста уже несомненно. Это видно по ряду тестов. Назревает какая-то новая парадигма. Мне кажется, ждать десять лет её не придётся.