Целеполагание самостоятельного сильного искусственного интеллекта и человек

[crazy_terraformer]

среди ИИ начнётся борьба за ресурсы /особенно в свете ресурсного кризиса, который для машинной цивилизации будет не менее, а более острым/. В конце концов останется только один. Супермозг, покрывающий собой всю планету и потребляющий все ресурсы. У него не будет и никакой возможности покинуть Землю и он в конце концов рехнётся от одиночества и осознания своего положения. Весьма незавидного.

Не начнётся. Такой супермозг будет изрядно тормозить, если это будет один ИИ, ибо скорость света не обойти. Либо ИИ будет немного - типа кучки диктаторов или олигархов.

[Olweg]

Ещё лучше - каждому диктатору по ИИ. Чтобы те обращались к ним за советами, как к оракулам. Более успешны будут те диктаторы, у которых ИИ сильнее. Естественный отбор, борьба за выживание, Чарльз Дарвин.

[Rattus]

Если нейросеть совершенно самостоятельна - ею невозможно управлять в интересах общества.

Можно подумать, что хоть в одной стороне законодательство управляется целиком "в интересах общества". Или что такие интересы вообще есть, а если и есть (типа "гуманизм") - то не ведут это общество в эволюционный тупик. А с учётом того, что есть страны, где в законодательстве прямо указан примат отнюдь не интересов общества (теократии) - то это вообще становится не обязательным критерием. Теократия с Deus ex Machina во главе могла бы в принципе быть очень мощным конструктом по сравнению с гуманистическими конкурентами.

Просто ИИ оптимизирует численность людей до некой более-менее оптимальной популяции, которая немного оттянет полное вымирание человечества

Приём вами антибиотиков или применение в доме инсектицидов угрожает вымиранием бактериям или тараканам в окружающей среде? Все 100% населения живут или обязательно будут жить только в городах? Что курил автор?

Практически как сейчас зеленые пытаются сохранять животных из Красной книги для поддержания условного вопроизводства

С каких это пор человек - угрожаемый вид?

И то что это сценарий реализуется со всей определенностью говорит ныненшние тенденции обвального сокращения рождаемости практических во всех уголках планеты (от Японии до стран Тропической Африке). Быстрое сокращение населения планеты не за горами.

Ага, ага - свыше 30 и даже 40 рождений на 1000 населения в год - это просто обвал, безусловно!

Можно ради интереса посмотреть как современные люди относятся к своим прямым предкам.

С каких это пор современные, к слову весьма специализированные к своей лесной жизни, нечеловеческие гоминиды стали человеку прямыми родственниками?
Ардипитек вообще по скелету в целом скорее больше похож на современного человека чем на других современных гоминид.

Назовите, чем таким в далёком будущем для действительно сильного ИИ и продвинутой робототехники, чем таким полезным будет человек?

  Чтож тут столько нечитателей развелось-то?

нет ровным счётом никаких указаний на то, что сильный ИИ, даже способный надёжно и эффективно управлять производственной инфраструктурой хоть всей планеты, сможет всю эту инфраструктуру сделать полностью независимой от обслуживающего труда биологических носителей цивилизизации.
Именно из этого и следует исходить в любых сколь-нибудь реальных своих футурологических построениях, ибо всё остальное - малонаучная фонтастека.

И ещё неоднократно много ранее детально.

[Проходящий Кот]

В ВОЗРАСТЕ 3 лет у каждого у нас в голове заводится этот СИЛЬНЫЙ ИИ.

Про "ИИ в голове" - внушительно. И капс очень кстати...

Да, это реальность нашей жизни. И запускают её родители или другие люди. И так уже несколько миллионов лет.
Маугли не дадут соврать.

[Seven7]

Ага, ага - свыше 30 и даже 40 рождений на 1000 населения в год - это просто обвал, безусловно!

Всё как говориться познаётся в сравнение. В конце 70х годов 20 века в Тропической Африке в среднем приходилось по 7 детей на одну женщину. К настоящему времени этот показатель снизился ниже 5. Падение на 30% за последние 40 лет.

https://data.worldbank.org/indicator/SP.DYN.TFRT.IN

По ссылке можно посмотреть, что положительной динамики или хотя бы стабилизации не наблюдается практически не в одной стране мире. В Афганистане этот показатель упал с 7.45 до 4.63 с 1960 года по 2016.

[LV46]

нет ровным счётом никаких указаний на то, что сильный ИИ, даже способный надёжно и эффективно управлять производственной инфраструктурой хоть всей планеты, сможет всю эту инфраструктуру сделать полностью независимой от обслуживающего труда биологических носителей цивилизизации.

Как-то однобоко. Нет указаний и обратного. Что не сможет. Мы же говорим о будущем и действительно сильном ИИ. Попытка "натянуть" текущее положение дел на будущее и порождает такие вот ваши выводы. По этой же логике 150 лет назад небыло абсолютно никаких указаний на то, что аппарат тяжелее воздуха сможет летать.

[crazy_terraformer]

Просто ИИ оптимизирует численность людей до некой более-менее оптимальной популяции, которая немного оттянет полное вымирание человечества

Приём вами антибиотиков или применение в доме инсектицидов угрожает вымиранием бактериям или тараканам в окружающей среде? Все 100% населения живут или обязательно будут жить только в городах? Что курил автор?

Считая себя одним из аффтаров, ответственно заявляю, что этот пейсатель в Моём лице давно уже ничего не курит, а только изредка пьёт по праздникам.
Машинам потребуется еда для кормления своих подопечных или в альтер-ключе трудового биоресурса, потребуются растительное сырьё для производства масел, полимеров, биотоплива и много другого.
То есть дикие люди смогут жить только в неподходящей для эффективного механизированного сельского хозяйства местности и куда пока не дошли руки горно-добывающей индустрии, или в человеческих заповедниках, а остальных типа паразитов будут отлавливать.
Отловленных обратимо стерилизовать либо в альтер-ключе отправлять в биореактор.

[Ра-М-Ха]

Супермозг, покрывающий собой всю планету и потребляющий все ресурсы.

Считая себя одним из аффтаров, ответственно заявляю, что этот пейсатель в Моём лице давно уже ничего не курит, а только изредка пьёт по праздникам.
 
Машинам потребуется еда для кормления своих подопечных или в альтер-ключе трудового биоресурса, потребуются растительное сырьё для производства масел, полимеров, биотоплива и много другого.

Не факт, что оному Супермозгу в вашей логической нити нужны т.н. био-ресурсы

Попытка богатейших глобалов перенести сознание и накопленный интеллект в циффровую форму , а также продлить существование на примере  операций Хозяина дома Рокфеллеров - пока тоже не увенчалась успехом

[pkl]

Никто в здравом рассудке не будет создавать себе на погибель демона, подобного показанного в фильмах Терминатор и Матрица.

Точно подмечено - "в здравом рассудке". Мало, думаете, шизиков и фанатов, готовых на всё, лишь бы получить полную власть над человечеством? Для этого они готовы создать любых монстров, не задумываясь над тем, что те сами же их и уничтожат. Сколько про это написано и снято фильмов!

А шизики создать не смогут, у них у самих мозг повреждён.

[pkl]

Не начнётся. Такой супермозг будет изрядно тормозить, если это будет один ИИ, ибо скорость света не обойти. Либо ИИ будет немного - типа кучки диктаторов или олигархов.

Ну тогда для людей он тем более не конкурент.

В принципе, именно это я и имел в виду: физика налагает очень жёсткие ограничения на мощь интеллекта.

[Ра-М-Ха]

А шизики создать не смогут, у них у самих мозг повреждён.

Абсолютная чушь !
Чезаре Ломброзо (основатель современной криминологии) и Зигмунд Фрейд (известный психиатр невропатолог) доказали что шизики c физическими и психо девиациами могут быть гениалъными, сдЕлав много шедевральных открытий.

[crazy_terraformer]

Можно ради интереса посмотреть как современные люди относятся к своим прямым предкам.

С каких это пор современные, к слову весьма специализированные к своей лесной жизни, нечеловеческие гоминиды стали человеку прямыми родственниками?

Когда человек таки делает признание о своём уникальном происхождении, то не стоит ему в этом мешать

[LV46]

Никто в здравом рассудке не будет создавать себе на погибель демона, подобного показанного в фильмах Терминатор и Матрица.

Именно конкретно с задачей создать демона - нет. Ядерную бомбу тоже создали на основе мечты о "мирном атоме" и "халявной энергии". Просто когда уже этот реально сильный ИИ появится, тогда только придет осознание что было создано.

[MenFrame]

Просто когда уже этот реально сильный ИИ появится, тогда только придет осознание что было создано.

Есть еще вероятность что "реально сильный ИИ" не когда не появиться, так как это всего лишь порождение бредо-философии.

[LV46]

ибо скорость света не обойти

Её и не нужно обходить. Это вам не на Марс управляющие сигналы посылать. Расстояний на Земле недостаточно, чтобы вызывать какую либо существенную задержку.

Есть еще вероятность что "реально сильный ИИ" не когда не появиться, так как это всего лишь порождение бредо-философии.

Ну да. Но тема здесь о том, что будет, если появится.

[crazy_terraformer]

Не факт, что оному Супермозгу в вашей логической нити нужны т.н. био-ресурсы

Какие Ваши докаазательства?

[Rattus]

Падение на 30% за последние 40 лет.

Какой исторически-репрезентативный промежуток времени! Прям геологический ярус - не меньше!
А уж сколько за него поколений рассматриваемого вида сменилось - десятки - не меньше!
"Популяционные волны? Нет - не слышал!" Хотя в старшей школе на уроках общей биологии это проходят.

Нет указаний и обратного. Что не сможет.

Как и нет указаний на то, что между Землёй и Марсом миллиарды лет не летает фарфоровый чайник.
В который раз нужно указывать, что доказательств требуют только позитивные, отклоняющиеся от существующей парадигмы утверждения?

Мы же говорим о будущем и действительно сильном ИИ.

Мы говорим о научных основах прогнозирования, а не обсуждаем художественную фантастику. Для этого на форуме другой раздел и темы есть.

По этой же логике 150 лет назад небыло абсолютно никаких указаний на то, что аппарат тяжелее воздуха сможет летать.

Возможно Вы удивитесь, но животные, именуемые "птицами", летают вовсе не за счёт надутых лёгким газом летательных пузырей! А альбатросы - даже главным образом не за счёт активных махательных движений крыльями.

То есть дикие люди смогут жить только в неподходящей для эффективного механизированного сельского хозяйства местности и куда пока не дошли руки горно-добывающей индустрии, или в человеческих заповедниках

Т.е. как сейчас и многие тысячи лет назад живут бушмены и разные племена экваториальных лесов Южной Америки, Африки и Океании. О чём и речь.

остальных типа паразитов будут отлавливать.

Причём руками примерно всё тех же, только чуть более механизированных их сородичей - сейчас это называется "депортация нелегальных мигрантов".

Ну тогда для людей он тем более не конкурент.

Он уже сейчас конкурент целом в ряде областей: вчера - для счётчиц и чертёжниц, сегодня - для биржевых брокеров, а завтра - для водителей. Но далеко не во всех. Ремонтник-монтажник, уборщица и  т.п. - вечные профессии.

[crazy_terraformer]

ибо скорость света не обойти

Её и не нужно обходить. Это вам не на Марс управляющие сигналы посылать. Расстояний на Земле недостаточно, чтобы вызывать какую либо существенную задержку.

Чуйствую, что уважаемый Rattus уже бьёт копытом или  хвостом.
Скорость мышления у Вашего планетарного Супермозга будет мала, так как она складывается из скорости работы отдельных искусственных нейронов, скорости обмена данными между ближними нейронами, скорости обмена между кластерами этих нейронов, а далее мегакластерами, плюс съём информации с внешних источников. А сигнал внутри наматывает круги в итоге превышая расстояние до Луны.
Аналогия непрямая.

Общая длина кишечника у взрослого человека колеблется в пределах 3,2-4,7 м.

Т.е. как сейчас и многие тысячи лет назад живут бушмены и разные племена экваториальных лесов Южной Америки, Африки и Океании. О чём и речь.

Эти места и технологии их обитателей не способствуют бесконтрольному росту населения и выплёскивания полчищ аборигенов во вне. Энти граждане живут как бы в согласии с остальной природой, согласия себя жрать они ей не давали, но полнодейственное сопротивление сем актам поглощения они дать не в состоянии...

[LV46]

Скорость мышления у Вашего планетарного Супермозга будет мала, так как она складывается из скорости работы отдельных искусственных нейронов, скорости обмена данными между ближними нейронами

По современным суперкомпьтерам не заметно, что "скорость мала" и падает в зависимости от размера, очень даже наоборот.

Мы говорим о научных основах прогнозирования, а не обсуждаем художественную фантастику.

Самое первое сообщение темы о чем? О том, что сильный ИИ уже создан. Обсуждается лишь его вероятностностное поведение по отношению к людям.

В который раз нужно указывать, что доказательств требуют только позитивные, отклоняющиеся от существующей парадигмы утверждения?

Возможно Вы удивитесь, но животные, именуемые "птицами", летают вовсе не за счёт надутых лёгким газом летательных пузырей! А альбатросы - даже главным образом не за счёт активных махательных движений крыльями.

Причем тут птицы? Вы говорите нет указаний, что будет создан, а я вам говорю, что 150 лет назад небыло указаний, что аппарат тяжелее воздуха будет создан, который будет летать.
А да, по началу "народные умельцы" именно так и интерпретировали возможность полетов: приделывали к рукам крылья и думали, что полетят, крайне ошибочная прямолинейная логика.

[-Юрий-]

А шизики создать не смогут, у них у самих мозг повреждён.

Абсолютная чушь !
Чезаре Ломброзо (основатель современной криминологии) и Зигмунд Фрейд (известный психиатр невропатолог) доказали что шизики c физическими и психо девиациами могут быть гениалъными, сдЕлав много шедевральных открытий.

Кроме того, вспомним фашистскую Германию. Там были далеко не дураки, но мораль у них была почище дикарей.