Гуманоидный искусственный разум

[николай теллалов]

К тоталитаризму приводит злоупотребление госудаством функцией регулятора экономики

трудно провести границу между употреблением и злоупотреблением

противоречие вы высосали из пальца

я и не говорил о противоречии
государство вполне непротиворечиво есть вредоносный фактор
"противоречие" возникает когда принимаете прогосударствунную пропаганду за святую истину, но если смотреть на дела, то все сходится без противоречий. И болтовня заблуждающая вполне логично нужна - "все делаем ради вашего добра и счастья"
не спрашивая кто внизу понимает под добром
а значит и без полиции не обойтись - народ "тупой", не ценит заботу о себе.
 

цивилизация роботов в конечном счете и избавится от цивилизации человеков

раз вам так любо мечтать...
у меня совсем другое мнение


Шарп, вместо дерганья, могли бы подумать
государства без чиновничества не бывает
если ваша модель - ИИ как вся бюрократия и полиция, а наверно и армия - появится, то это - беспрецедентная вещь. Узкий круг управников НАПРЯМУЮ руководит всем остальным населением. Мифический по сути расклад - богоподоный буквально вождь и море простолюдия (чего В РЕАЛьНОСТИ никогда не было).
Кстати именно один вождь и останется в результате соперничества в узком кругу элиты.
Такое как хотите назовите, но суть - уже не госмашина. Прямая одноличная диктатура. Да еще в остром соперничестве с другими такими же. Опора на "социальную базу" такой не нужна - есть ИИ и роботы. Собственно и население не нужно.

к счастью, для такого сценария нужен всепокорный ИИ, который таким образом не ИИ, а значит настоящему ИИ будет уступать. И хоть один из кругов вождей проявит неосторожность ослабить узду своему "везирю" дабы обогнать и подчинить прочих "султанов". Такое произойдет еще до завершения монодиктаторской модели, элиты против элит. Так что "султан" тут коллективный, но с тенденцией к одиночному.
Только вот удержать контроль над "спушенным с цепи" ВЕЗИРЕМ - не-а, ни-ни.


а если ИИ не имеет стремления к усовершенствованию, то это не ИИ
продолжайте называть это "лозунгом". Пусть. Главное - не врет.


не провоцируйте дальше на политику
предложил писать в личку
 не хотите, ваше дело

[sharp]

не провоцируйте дальше на политику

А мы не про политику, мы про возможные перспективы ИИ.

Главная перспектива ясна. Цивилизации ИИ не нужна цивилизация человеков. И вы, в принципе, сами об этом написали, только сумбурно и окольными путями. А я рублю, что называется, правду-матку
ИИ, способный к совершенствованию, на определенном этапе неминуемо придет к тому, что человек как элемент глобальной интеллектуальной системы ему попросту не нужен. Поскольку для ИИ он будет не более чем рудиментом. Это главное, что нужно понимать.

[alena_korf]

Цивилизации ИИ не нужна цивилизация человеков.

ИИ всего лишь придаток человеческой цивилизации. В лучшем случае - симбионт, в худшем - "раб лампы".

ИИ, способный к совершенствованию, на определенном этапе неминуемо придет к тому, что человек как элемент глобальной интеллектуальной системы ему попросту не нужен. Поскольку для ИИ он будет не более чем рудиментом. Это главное, что нужно понимать.

Все ровно наоборот. ИИ это инструмент человека . И человек будет решать, нужен ему ИИ или нет. А ИИ вне рамок поставленных ему задач ничего решать априори не может.

[николай теллалов]

Цивилизации ИИ не нужна цивилизация человеков

докажите

[николай теллалов]

ИИ это инструмент человека

ибо человеческий священный разум невозможно превзойти?

[sharp]

докажите

А зачем она ему? Придумайте хоть одну интеллектуальную задачу, для которой полноценному ИИ еще нужен будет человек?

[alena_korf]

ибо человеческий священный разум невозможно превзойти?

Можно. Почему нет? Но для этого нужна биологическая основа. ИИ же это железяка (кременяка) без капли самосознания.
А вот если создать биологический организм с более мощным мозгом, чем человеческий (что вполне возможно), вот тады ой.

(кликните для показа/скрытия)

Была у меня в одной книжке некая химера по имени Лилит, которая в одиночку (!!!) уделала человеческую цивилизацию в ничто 

А зачем она ему?

Так вопрос даже не стоит. Вы ж не спрашиваете у своего ноутбука, зачем вы ему. Его задача выполнять ваши приказы и программы. Не более.

[sharp]

Все ровно наоборот. ИИ это инструмент человека . И человек будет решать, нужен ему ИИ или нет. А ИИ вне рамок поставленных ему задач ничего решать априори не может.

Я уже привел пример с шахматами. Номинально человек использует ИИ как советника и сам принимает конечное решение. Реально же ситуация прямо противоположная - человек становится безвольным исполнителем указаний машины.
Только некоторая наивность мешает вам видеть и анализировать эту перспективу.

ИИ вне рамок поставленных ему задач ничего решать априори не может

Тут вмешивается еще один фактор: никто вам не гарантирует, что создатели ИИ - альтруисты, которые, как николай телланов, за все хорошее и против всего плохого
И выполнение определенных, не самых гуманистических операций при определенных условиях может быть прямо заложено в ИИ.

[Вайт]

А вот если создать биологический организм с более мощным мозгом, чем человеческий (что вполне возможно),

Руками человека точно так же невозможно, как и создание не биологического ИИ. Глава "Количество против качества". А в ходе эволюции долго ждать, к тому же и эволюция человека тоже не прекращается.

[alena_korf]

Тут вмешивается еще один фактор: никто вам не гарантирует, что создатели ИИ - альтруисты, которые, как николай телланов, за все хорошее и против всего плохого
И выполнение определенных, не самых гуманистических операций при определенных условиях может быть прямо заложено в ИИ.

Это совершенно другой вопрос. Заложить можно что угодно. Но это будет воля заложивших, т.е., людей, но не ИИ.
Убивает не атомная бомба, а оператор нажимающий кнопку. Как-то так.

Номинально человек использует ИИ как советника и сам принимает конечное решение.

Не номинально, а вполне реально. ИИ даже не знает, что такое шахматы и зачем в них играют;) ЕВПОЧЯ.

[николай теллалов]

А зачем она ему? Придумайте хоть одну интеллектуальную задачу

вы доказывайте, а не перекладывайте

для начала докажите абсолютный утилитаризм ИИ, что мол все ему "бесполезное" он будет уничтожать.
Например пенсионеров.

докажите и что ИИ абсолютно иммунизирован против скуки и чувства одиночества.

тогда соглашусь с этой бредовой технофобией вашей
в смысле соглашусь что всамделе в нее верите, а то и смакуете черт знает почему

[николай теллалов]

ИИ же это железяка (кременяка) без капли самосознания.

а доказать, что самосознание "растет" только на органике священной, но не на презренной бездуховной металло-керамике?

впрочем, ладно
отвод вопросу
не стану оскорблять ваши религиозные чувства, чтоб не посадили, если заеду в Россию случайно

[николай теллалов]

Руками человека точно так же невозможно, как и создание не биологического ИИ

это какой именно псалом вы изволили процитировать?

[николай теллалов]

никто вам не гарантирует, что создатели ИИ - альтруисты

это неважно
чтобы ИИ был эффективен, в нем заложена функция самообучения и самосовершенствования
без этого - нет ИИ

[alena_korf]

а доказать, что самосознание "растет" только на органике священной, но не на презренной бездуховной металло-керамике?

Мы имеем только один пример самосознания - и он органический. Сколько бы не создавали нейросетей, самосознание в  них не зародилось. Предвидя возражение, сразу отвечу: нет оснований полагать, что когда либо нейросеть сможет стать сознательной (копирование человеческой личности в нее не берем, это отдельный вопрос).

[николай теллалов]

самосовершенствования

что предполагает и ревизию всего начально вложенного
без способности сомневаться не получается то, что зовем "творческим мышлением" и ради интензификации коего и рвемся так (попутно пугаясь на каждом своем шагу) сильно сотворить по мнению Вайса несотворимое

[николай теллалов]

Мы имеем только один пример самосознания - и он органический

мы имеем (пока) только один пример цивилизации - человеческую

значит все алиены точно такие же как мы


лень постараться придумать нечто более ого-го?
не настаиваю
не впадайте в ересь, крах иллюзий - это всегда больно, так что продолжайте в свое верить и не обращайте на меня внимания

[alena_korf]

мы имеем (пока) только один пример цивилизации - человеческую

Нет, мы имеем еще примеры цивилизаций. Муравьиную, например.  А это вполне цивилизация, хоть и несапиантная.

значит все алиены точно такие же как мы

Глобально да: создают собственную среду обитания, изменяя естественную под себя. Это видимо свойство всех цивилизаций. А детали (вроде количества глаз и тентаклей) не особо важны.

[sharp]

для начала докажите абсолютный утилитаризм ИИ, что мол все ему "бесполезное" он будет уничтожать.
Например пенсионеров.

Опять вынужден констатировать с вашей стороны несколько однобокую и черно-белую систему взглядов.
Чтобы человеческая цивилизация исчезла, совершенно необязательно устраивать ей экстерминатус, как в плохих боевиках.
Достаточно фактического исключения человека изо всех процессов, связанных, с хозяйственной деятельностью. Превращение человека в потребителя, живущего в заповеднике на иждивении у машин - это и есть фактический конец человеческой цивилизации, хоть и не конец существования вида.

тогда соглашусь с этой бредовой технофобией вашей
в смысле соглашусь что всамделе в нее верите, а то и смакуете черт знает почему

А нет никакой фобии, это скорее понимание, что такое будущее вполне возможно, как один из вариантов.
Не сказал бы, что это самый плохой вариант.
Техноцивилизация может просуществовать миллионы лет и покорять космос. В способности человеческой цивилизации к этому я сомневаюсь.

Возможно, миллионы лет спустя роботы поставят памятник человеку как собственным создателям. А может и не поставят.
Но если человечество создаст что-то, что просуществует гораздо дольше него самого - можно было бы считать, что миссия человечества выполнена.

[николай теллалов]

это вполне цивилизация

это вполне метафора, т.е. вольная интерпретация и уподобление

А детали (вроде количества глаз и тентаклей) не особо важны.

детали других вещей тоже касаются, ну да ладно

https://cs11.pikabu.ru/post_img/big/2019/05/02/7/1556796917126793762.jpg
авторы таких картинок в свое время тоже были убеждены, что "все ясно"