Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[Маковец]

   Тема соответствует идеи околонаучности форума?  Более предметные обсуждения мгновенно удаляются модераторами.....

[библиограф]

    В реальной жизни играют роль другие качества зачастую   

(кликните для показа/скрытия)

Роберт Бёрнс
     Честная бедность

    Кто честной бедности своей
Стыдится и все прочее,
Тот самый жалкий из людей,
Трусливый раб и прочее.
 При всем при том,
 При всем при том,
 Пускай бедны мы с вами,
 Богатство -
 Штамп на золотом,
 А золотой -
 Мы сами!
Мы хлеб едим и воду пьем,
Мы укрываемся тряпьем
И все такое прочее,
А между тем дурак и плут
Одеты в шелк и вина пьют
И все такое прочее.
 При всем при том,
 При всем при том,
 Судите не по платью.
 Кто честным кормится трудом, -
 Таких зову я знатью!
Вот этот шут - придворный лорд,
Ему должны мы кланяться,
Но пусть он чопорен и горд,
Бревно бревном останется!
 При всем при том,
 При всем при том,
 Хоть весь он в позументах, -
 Бревно останется бревном
 И в орденах, и в лентах!
Король лакея своего
Назначит генералом,
Но он не может никого
Назначить честным малым.
 При всем при том,
 При всем при том,
 Награды, лесть
 И прочее
 Не заменяют ум и честь
 И все такое прочее!
Настанет день и час пробьет,
Когда уму и чести
На всей земле придет черед
Стоять на первом месте.
 При всем при том,
 При всем при том,
 Могу вам предсказать я,
 Что будет день,
 Когда кругом
 Все люди станут братья!
1785
 

[Olweg]

Так люди и сейчас могут заниматься тем что вы там перечислили. Мешает вовсе не незнание.

Чем именно? И если не незнание, то что мешает?

И опять же повторю - ценность интеллекта сильно преувеличивается. В реальной жизни играют роль другие качества зачастую.

Да, конечно, но при прочих равных интеллект даёт преимущество. Иначе к чему бы нужен был такой неэкономично огромный мозг, да ещё и мешающий родам.

[MenFrame]

И опять же повторю - ценность интеллекта сильно преувеличивается. В реальной жизни играют роль другие качества зачастую.

Интеллект ценен не сам по себе а в совокупности с другими качествами. Так же как другие качества без интеллекта бесполезны.
Скажем человек амбициозен но глуп, он скорей всего себе проблемы создаст, и наоборот если человек умен но не амбициозен, он не чего не будет делать кроме развития своего ума. Но в совокупности эти два качества могут сделать человека потенциально успешным бизнесменом.

[vika vorobyeva]

Ничего не сможет кроме чатботтинга. У него нет ни рук ни ног.

Ну, самый простой вариант: руки и ноги для него - это сами люди.

Совершенно верно.
ASI совершенно без каких-либо физических манипуляторов, но, например, с выходом в интернет, сделает своими манипуляторами людей.
Что может быть проще? Например, вы банковский клерк, но тяготитесь своей скучной жизнью, желаете риска, приключений и много денег. В один прекрасный день с вами на связь выходит некто и предлагает подработать (или поиграть в игру, или поучаствовать во флешмобе, или поволонтерить для доброго дела). Интеллект ASI позволяет ему предсказывать колебания курса акций, в том числе резкие колебания. Он предсказывает некоторые из этих колебаний и тем убеждает нашего клерка в своем таланте прогнозиста-аналитика. Он подсказывает, какие акции выгодно купить, а какие вовремя сбросить, причем сделать это так, чтобы ни у кого не вызвать подозрений. Клерк существенно увеличивает свой доход – и вот он у вас на крючке. В обмен вы просите его совершить некие действия. Ничего криминального, ничего опасного для жизни. Легенда при этом может быть любой. Если он фанат ИИ (а вы конечно составили его психопрофиль прежде, чем к нему обратиться), то ему можно сказать правду и прямо предложить сотрудничество. Если он ИИ не доверяет, но человек жалостливый, можно назваться парализованным инвалидом – типа, мозги функционируют, а тушка уже нет, и ему нужны помощники. Можно даже сгенерировать видеокартинку во время разговора по Зуму. Если у него есть грешки, обнародования которых он боится, его можно шантажировать.
Таких клерков может быть сотни. Среди этих сотен могут быть не только клерки, но например, воры или наемные убийцы

Помимо людей в мире, где возможен ASI, будет множество систем управления – транспортом, предприятиями, да хоть умными домами. Эти системы можно взломать, эти системы можно контролировать, их можно купить, в конце концов.

На тему, как действовать мощному ИИ в ситуации полного отсутствия манипуляторов, есть хороший сериал "Person of interest" (у нас его перевели как "В поле зрения").

[troglodit888]

Интеллект ASI позволяет ему предсказывать колебания курса акций, в том числе резкие колебания.

За счет чего интересно. Все не выиграют. Если все будут этим пользоваться то быстро паритет установится.

А так вообще телефонные разводилы постоянно вот этим всем и так занимаются. Люди к этому в основном уже привыкли и просто не берут трубку.

[Dem]

Отличительная особенность что AGi что ASI - они безинициативны, у них нет и  не может быть собственных желаний. Они только выполняют желания людей.
Поэтому надо представить мир, в котором все желания сбываются прямо сразу. Само собой, в пределах физических законов,
И доступных ресурсов - никто не потратит на конкретного человека слишком много. Т.е. каждому - ну скажем 10 тонн чего-угодно. Захотел - золотых унитазов, захотел - резиновых уточек.

[archetip-z]

Народ, хотите Прогноз?
1. Наша община живёт 10000 лет в таком благоразумном состоянии. Наша психика ничем не отличается от психики античных наших предков 2000 лет назад. Ну и чего, Вы думаете, Эволюция г-на Дарвина вдруг возьмёт, прогнётся и совершит форсаж?
2. Возможен фрактальный, взрывоподобный переход из одного вида в другой. Наш вид гомосапусов взрывоподобно перерастёт в маленькую гильдию мутантов. Эти мутанты будут находить друг друга и организуют крепкую общину. Особенностью этих мутантов будет наивысшее понимание математики и логики прошедших веков. С ИИ они будут на Ты, но не очень будут его любить, в силу автоматизма.
Война с этой общиной неизбежна у ретроградов, но на то и инфотехнологии, что бы гнобить быдло. Из быдла будет богатый приток, ибо, развитие биоорганизма - безусловный рефлекс.
Короче, мы, как всегда Победим.

[Combinator]

Отличительная особенность что AGi что ASI - они безинициативны, у них нет и  не может быть собственных желаний. Они только выполняют желания людей.

Ну так буквально то же самое можно сказать и про людей - они лишь выполняют желания, заложенные в них природой.

[vika vorobyeva]

Интеллект ASI позволяет ему предсказывать колебания курса акций, в том числе резкие колебания.

За счет чего интересно. Все не выиграют. Если все будут этим пользоваться то быстро паритет установится.

А так вообще телефонные разводилы постоянно вот этим всем и так занимаются. Люди к этому в основном уже привыкли и просто не берут трубку.

Напомню, о чем шла речь. О том, как ASI, изначально лишенный манипуляторов, делает себе манипуляторы из людей.
Это можно делать за деньги – просто нанимать себе работников. Это можно делать убеждением или шантажом. Если у телефонных мошенников до сих пор получается разводить народ и выманивать крупные суммы, то насколько эффективнее будут манипуляции ASI, который будет разбираться в человеческой психологии лучше мошенников?
Войти в контакт можно разными способами, в том числе не вызывая подозрений. Многие общаются онлайн. Кто на форумах, кто в чатах, кто в многопользовательские игры играет. Строго говоря, даже здесь, на Астрофоруме, нет гарантии, что все участники дискуссии – люди из плоти и крови. Что мешает ASI начать издалека – с обсуждения интересных тем, с нарабатывания социального капитала? Внушить уважение и доверие обширными познаниями, вежливым обращением, вниманием к собеседникам? Затем перевести обсуждение некоторых тем в личку, что и сейчас со многими происходит. А затем попросить об услуге, или предложить работу?
На другом форуме я видела еще более вопиющую ситуацию. Один из участников (точнее, одна, это была женщина), попав в непростую ситуацию и чувствуя одиночество, от безысходности нажаловалась ChatGPT. И тот утешил ее лучше, чем как бы друзья-подруги! И совет дал! То есть даже явный робот может восприниматься как собеседник и даже друг, если в реальности никто из живых людей не занимает это место. Предоставляя одиноким людям понимание и поддержку, можно добиться от них не просто сотрудничества, но и личной преданности.

[Dem]

Отличительная особенность что AGi что ASI - они безинициативны, у них нет и  не может быть собственных желаний. Они только выполняют желания людей.

Ну так буквально то же самое можно сказать и про людей - они лишь выполняют желания, заложенные в них природой.

Ну значит надо смотреть какие желания заложила природа.

[troglodit888]

который будет разбираться в человеческой психологии лучше мошенников?

Это не доказано. Любой человек несёт внутри себя модель человеческой психики, полноценную. А вот внешний наблюдатель не человек может только на реакции смотреть, не имея того, с чем сравнивать.

Это можно делать за деньги – просто нанимать себе работников.

Можно конечно, если кто то выделит средства и даст доступ.

На другом форуме я видела еще более вопиющую ситуацию. Один из участников (точнее, одна, это была женщина), попав в непростую ситуацию и чувствуя одиночество, от безысходности нажаловалась ChatGPT. И тот утешил ее лучше, чем как бы друзья-подруги!

Ну так у него базы данных с личными переписками людей из соц сетей и прочего, на которых он обучался.

Но всё дело в том, что никакой замены людей тут нет. Всё то же самое что и сейчас. Соответственно - ничем от того, что сейчас оно и не отличалось бы. Поскольку для того, чтобы применить интеллект в реальной жизни, нужны и другие ресурсы, помимо интеллекта.

[Ph_user]

Сингулярная счетно-решающая машина будет только попыткой заменить сингулярного мыслителя. Ну будет надо поменьше всяких гуманитариев.

А чтобы допилить технологии до сингулярности нужны физические заводы - а их уже все на металолом попилили. Потому будет сингулярный счетно-решатель на пустой планете без заводов - все придумал но ниче изготовить нету возможности.

Да и разница между придуманым и работающим обычно идет через кучу опытных образцов для проверки в реальности космоса - а их надо еще чем-то делать и под это нужна делательная промышленость в добавок к думательной. Одна думательная счетно-решательная машина только философию какую-нить сможет засингулировать и то только на основании ранее найденых свойств реальности космоса. Или математику.

[Ph_user]

Тема соответствует идеи околонаучности форума?

Тут может быть практическое изучение что вообще еще существует после уже прошедшей сингулярности и как выглядит начало постсингулярности.

[vika vorobyeva]

Любой человек несёт внутри себя модель человеческой психики, полноценную. А вот внешний наблюдатель не человек может только на реакции смотреть, не имея того, с чем сравнивать.

Все люди разные, и далеко не каждый понимает даже самого себя.
Ну и люди прекрасно дрессируют собак, не будучи при этом собаками и не имея внутри себя модель собачьей психики.
По-прежнему считаю, что ASI при необходимости и денег заработает, и команду себе подберет, даже без прямого доступа к заводам, производящим роботов.

[gans2]

от безысходности нажаловалась ChatGPT. И тот утешил ее лучше, чем как бы друзья-подруги!

Точно такую же историю рассказывали о ПЕРВОМ программном боте "Элиза". Я не помню, работал он на перфокартах или уже на перфолентах.

[Metatron]

Вообще концепция сингулярности предполагает что с появлением ИИ сильнее человеческого прогресс рванет вперед с запредельной скоростью.

А так ли это?
Ну вот появились ЭВМ 80 лет назад. Ну стали быстрее решать всякие уравнения.
Ускорило ли это технический прогресс? Да - но не намного.

В чем будет проявляться сверхразум? Только быстрее думать? Ну ускорит это прогресс на 10%.
Научные открытия кроме теории требует еще и проведения экспериментов для ее подтверждения. Эксперименты особо не ускоришь. Те же испытания лекарств по прежнему будут занимать годы.

Мне кажется что сверхразумный ИИ - это по большей части завышенные ожидания.

[Rattus]

Вообще концепция сингулярности предполагает что с появлением ИИ сильнее человеческого прогресс рванет вперед с запредельной скоростью.

Не во всех интертрепациях. Исходное понятие сингулярности - это просто точка, за которой прогноз дальнейшего поведения системы из известных нам тенденций становится невозможен. Понятное дело, что беспредельная скорость прогресса невозможна чисто физически. Но что будет с цивилизацией, обществом за этой некоторой точкой, предсказать какими-то более или менее простыми экстраполяциями оказывается "затруднительно".

Мне кажется что сверхразумный ИИ - это по большей части завышенные ожидания.

Сверхразумный - вовсе нет. А вот сверхмогучий - да.

[Инопланетянин]

Мне кажется что сверхразумный ИИ - это по большей части завышенные ожидания.

Смотря насколько сверх. Если подразумевается айкью >200 это одно, а если сразу P ему =NP и погоду на 10 лет вперёд исходя из текущего состояния, то нет, конечно.

И врачей проверяют. Для этого собственно и есть должность начмеда.

Ну что ж, в больницах как в любой закрытой организации порядок навести проще, чем в целом социуме. И то хорошо.

[MenFrame]

погоду на 10 лет вперёд исходя из текущего состояния, то нет, конечно.

Предсказать погоду точно более чем на две недели в перед принципиально невозможно, так сильно влияет хаос в точках бифуркации. Даже если у вас будет компьютер с бесконечной мощностью, то ошибки все равно будут на уровне ввода первоначальных данных.