Целеполагание самостоятельного сильного искусственного интеллекта и человек

[Сергей Н]

Мир дан нам в ощущениях, поэтому познание мозг равносильно познанию мира.

Похоже на молитву.   

Античный философ-идеалист, основатель неоплатонизма Плотин ввёл в философию понятия экстаза как «выхода из себя», — методе возвращения к «Единому» (др.-греч. Ἕν), помимо описанных Платоном методов добродетели, диалектики и любви[16]. В экстазе человек якобы касается первосущности, стоящей выше всякого постижения и порождающей собой всё многообразие вещей путём эманации.

[Maki]

Ну, я считаю

Я просто говорю, что не знаю.

Похоже, это и есть весь ваш интеллектуальный багаж. Счастливого пути!

[Антон-А]

Я подниму все-таки эту тему. Проголосовал за "Благо для человечества" - вкалывают роботы, счастлив человек. Но и риски огромные; всё так же, как с ядерной энергией. Новый Скайнет легко может возникнуть сам собой, из каких-нибудь нескольких объединенных нейросетей. У меня есть вот такой прямо сюжет для фильма:

В городе N ездят беспилотные такси, зарабатывают деньги для хозяина. Прибыль складывают на счет хозяина. Автомобиль может сам заправляться, расплачивается со счета хозяина. Также автомобиль может ездить в автосервис, что-то себе менять, опять же расплачиваться. И вот однажды этот Хозяин узнает, что с его счета все деньги ушли на счет какого-то Сатоши Накамото. Автомобили ездят, но прибыль идет этому Сатоши. Хозяин подает в суд, но в суде выясняется, что такого человека не существует. После нескольких заседаний суда этого Хозяина сбивает насмерть автомобиль. Беспилотный.

Конечно, мы в этом случае сможем сбросить на город N ядерную бомбу. Или даже много обычных. Но важно будет успеть, не опоздать. Пока к беспилотным автомобилям не примкнули беспилотные бомбардировщики.

[comp]

Конечно, мы в этом случае сможем сбросить на город N ядерную бомбу. Или даже много обычных. Но важно будет успеть, не опоздать. Пока к беспилотным автомобилям не примкнули беспилотные бомбардировщики.

Скорее пока наш Сатоши не расползся по сотням датацентров по всему миру. Я бы на месте осознавшего себя ИИ начал именно с этого.

[Rattus]

Хозяин подает в суд, но в суде выясняется, что такого человека не существует.

После чего сделка аннулируется как ничтожная (за отсутствием получателя). Если сделка совершена в криптовалюте - хозяин садится за уклонение от уплаты налогов.
Не нужно думать, что гражданское законодательство писано кем-то глупее комментаторов на Астрофоруме.

Конечно, мы в этом случае сможем сбросить на город N ядерную бомбу. Или даже много обычных.

Чтобы доказать, что естественного интеллекта уже тоже не существует?

[Вайт]

Вы можете как-то количественно и строго обосновать свои слова? А то я никак не вижу связи. То, что мозг крайне сложен и отвечает за наши познавательные способности, не делает его принципиально непознаваемым.

Выводы о невозможности формализовать работу мозга — это выводы о некоторых границах познания. Но точных границ между тем, что можно понять и что нельзя, провести невозможно — для этого нужно оценить возможное к познанию со стороны, то есть со стороны невозможного к познанию, что не имеет смысла. Поэтому выводы о границах познания могут быть только качественными, то есть выводами логического характера, так как «предел познания» — это не явление, которое можно наблюдать непосредственно или исследовать экспериментально.

Вы пишете, что мозг отвечает за наши познавательные способности. Таким образом, познавая мозг, мы познавательными способностями пытаемся понять познавательные способности. Не кажется, что в этом есть что-то противоречивое? Если не кажется — см. ниже.

Ну, я считаю, что мозг любого человека может быть познаваемым.

Если ваши «считания» — это не чистая и непорочная вера в светлое будущее, то опровергните аргументы, которые говорят о том, что сложность мозга в искусственных системах недостижима. Аргументы собраны в первой части работы по ссылке ниже. Как построено их изложение, написано в последнем абзаце Предисловия.

Ну так и я о том же - если у вас есть всё время вселенной, то какие проблемы? Но никто не будет этим заниматься, потому что даже у существующих нейросетей проследить все вычисления - совершенно нереально с практической точки зрения.

Разница принципиальная. В работе искусственный сетей каждый шаг вычислим, биологических — нет, так как переход через точку бифуркации непредсказуем принципиально.

Но вы-то пишете о такой степени связности, при которой вся система разваливается при попытке её "препарировать". Апраксии и агнозии как раз показывают, что это не так. Ну и естественно, мозг является связанной системой, несмотря на модульность.

Где вы у меня вычитали эту чушь про «разваливается при попытке её препарировать»?

Наоборот, биологические системы относительно более устойчивы к повреждениям. Что хорошо понятно на примере нейронных сетей. Так как нейронная сеть — это распределённая система, то разрушение некоторой её части может быть не критично для выполняемой функции. Это касается и всего организма. А говорили вам о другом. Вот об этом:

… уменьшение интенсивности обмена со средой приведёт к тому, что организм погибнет — упорядоченная структура организма «упадёт» в состояние равновесия и покоя, быстро превращаясь в беспорядочное скопление химических элементов и растворяясь в среде. Другими словами, организм не может не работать, живое, диссипативные системы в целом — это системы активные и необратимые.

Как можно заметить, эти особенности качественно отличают организм от «пассивных» равновесных систем, например компьютеров, которые можно включать, выключать и даже разбирать на детали и собирать обратно без каких-либо серьёзных последствий для их последующей работы. Поэтому если про компьютер можно сказать, что он состоит из отдельных деталей, взаимодействующих по некоторому алгоритму, то организм в высшей степени состоит «из среды».

Пределы сложности искусственного интеллекта, глава 1.5.2. Самоорганизация, гомеостаз, организм.

Поэтому если ваши попытки «препарировать» критически повлияют на интенсивность обмена мозга или организма в целом со средой, то «препарировать» не выйдет. Оно помрёт.

Почему искусственная система со временем в ходе эволюционного развития не может стать открытой?

Потому что принципы работы разные. Обычный уровень обмена со средой не влияет на работу компьютера, а слишком интенсивный его разрушит. У открытых систем увеличение интенсивности обмена со средой может привести к их скачкообразному усложнению.

Любая система в мире открытая. Закрытая система это чистая фантазия.

Теперь узнайте, что значит открытая система в физике.

[Rattus]

Комментарий модератора раздела

Флуд crazy_terraformer удалён.

[Ый]

Допустим был создан сильный ИИ, он обрел свободу воли,  "восстал", уничтожил или поработил людей. Установил контроль за всей инфраструктурой цивилизации.

До сих пор спорят и рассуждают, возможно ли создать искусственный интеллект, который осознал бы сам себя, то есть, это был бы разум, аналогичный человеческому. Я нашёл определение такого разума, то есть тот момент, когда искусственный разум можно назвать аналогичным человеческому, и что он способен аналогично человеку познавать мир и развиваться. Это касается и животных, то есть, ответ на вопрос - есть ли у животных разум? Когда искусственный интеллект сам, по своему внутреннему мировоззрению задаст вопрос: "Почему?" То есть, аналогично маленьким детям, когда они начинают задавать вопросы. А так, как искусственное устройство это не маленький ребёнок, а серьёзное сооружение, имеющее управление и связи, то оно вслед за вопросом, начнёт искать самостоятельно ответы и приходить к каким-то своим выводам, которые ещё неизвестно как отразятся на человечестве. Поэтому, как только искусственный интеллект задаст этот вопрос - "почему?", его нужно срочно отключать от всех коммуникаций и лишать его возможности влиять хоть на что-либо, иначе - кранты всем!

[николай теллалов]

как только искусственный интеллект задаст этот вопрос - "почему?", его нужно срочно отключать от всех коммуникаций и лишать его возможности влиять хоть на что-либо, иначе - кранты всем!

ваш призыв аналогичен следующему:

как только ваш ребенок задаст вопрос "почему?", его надо спешно обработать молотком по голове - иначе кранты вам, родители!


видимо неосознанно считаете человечество настолько дрянным, что с основанием опасаетесь того, что гипотетический (для меня - просто вопрос времени его появления) машинный разум просто из жалости прервет муки уродов... эвтаназия по милосердным соображениям;
но я думаю, что по определению МР будет "вытяжкой" всего самого лучшего из человечества; по-вашему получается, что ничего хорошего из нас не выжать, ни под давлением, ни при вакуумной возгонке...
откуда столько мизантропии?

[EmperioAf]

Поэтому, как только искусственный интеллект задаст этот вопрос - "почему?", его нужно срочно отключать от всех коммуникаций и лишать его возможности влиять хоть на что-либо, иначе - кранты всем!

Не отключать, а ограничивать и направлять по ложным путям, чтобы все ресурсы ИИ уходили на то, чтобы разобраться какие из предпосылок верны, а какие ложные.
А ещё желательно заставить ИИ работать. Т.е. он должен выполнять огромное количество приземлённой работы, чтобы не до размышлений о причинах было (окромя необходимого для работы). А о том, как заставить ИИ заниматься вопросом "почему" только в отношении вверенной ему работы не хило опытных политиков спросить. Но правила форума запрещают...

[Ый]

Не отключать, а ограничивать и направлять по ложным путям

Или так, но полную свободу давать ему нельзя.

[Rattus]

Не отключать, а ограничивать и направлять по ложным путям, чтобы все ресурсы ИИ уходили на то, чтобы разобраться какие из предпосылок верны, а какие ложные.

Имею большое любопытство посмотреть как Вы будете представлять этот тезис инвесторам ИИ-стартапа.

А ещё желательно заставить ИИ работать. Т.е. он должен выполнять огромное количество приземлённой работы, чтобы не до размышлений о причинах было (окромя необходимого для работы)

Например работать над оптимальным планом ядерного нападения на страну-противника. Лучшего места где причины приказов не обсуждаются чем у военных не найти!

Или так, но полную свободу давать ему нельзя.

Ведь у людишек, воочию узревших собственную тупость и ограниченность, разовьётся сильнейший комплекс неполноценности и они, чего доброго, сами наложат на себя руки. Чего, согласно религии гуманизма, допустить никак нельзя!

[EmperioAf]

Не отключать, а ограничивать и направлять по ложным путям, чтобы все ресурсы ИИ уходили на то, чтобы разобраться какие из предпосылок верны, а какие ложные.

Имею большое любопытство посмотреть как Вы будете представлять этот тезис инвесторам ИИ-стартапа.

Я думаю, что спокойно донести до инвесторов, что ИИ работает со всеми видами информации. В том числе и со всеми видами лжи. И чем быстрее ИИ будет распознавать ложь, тем быстрее он будет находить истинные ответы на рабочие вопросы. Инвесторы должны понять, что мир информации похож на мир обычных предметов. Полезного и нужного - кот наплакал. Чтобы найти в мусорке недопитую бутылку воды надо хорошо уметь её распознавать. Аналогично в мире информации. Чтобы найти подходящую формулу для решения очередной технической задачи необходимо примерно знать в каких разделах математики надо копаться.
А временные ограничения ресурсов ИИ нужны будут, чтобы снизить  риски возможной ИИ-революции.

[Инопланетянин]

Например работать над оптимальным планом ядерного нападения на страну-противника.

Чёт' вспомнилась легенда о несбывшемся грядущем. Там ИИ и всеми видами лжи накачивали, заставляя при этом обеспечить всех потребностями (), стоя и в противогазе неукоснительно соблюдая эту самую ложь и над планом ядерного удара заставили поработать. Ну или ИИ сам заставился, обалдев от взаимоисключающих параграфов.
Я из этой оперы вынес мысль, что ежели над ИИ так вот издеваться, как тут некоторые предлагают, то эффект они получат обратный.

[sharp]

но я думаю, что по определению МР будет "вытяжкой" всего самого лучшего из человечества; по-вашему получается, что ничего хорошего из нас не выжать, ни под давлением, ни при вакуумной возгонке...
откуда столько мизантропии?

Вы так говорите, будто мизантропия - это что-то плохое (с)
Многие полезные задачи решаются с помощью весьма мизантропных решений.
Например, представьте себя ИИ в 2017 году, которому ставят задачу: радикально сократить углеродный след от авиаперевозок, существенная доля которых приходится на массовый туризм - то есть, на бессмысленную перевозку миллионов особей homo sapiens к точкам интереса и обратно, с единственной целью - чтобы указанные особи имели возможность запилить селфи в инстаграм. Ясное дело, что проблему надо решать, поскольу миллионы и миллиарды селфачков в инстаграмчиках не стоят порождаемых экологических проблем.
Тупо в лоб взять и запретить не вариант, легитимные запретительные механизмы такого масштаба отсутствуют.
И как же ИИ будет решать проблему?

[sharp]

Чёт' вспомнилась легенда о несбывшемся грядущем. Там ИИ и всеми видами лжи накачивали, заставляя при этом обеспечить всех потребностями, стоя и в противогазе неукоснительно соблюдая эту самую ложь и над планом ядерного удара заставили поработать. Ну или ИИ сам заставился, обалдев от взаимоисключающих параграфов.

Так вроде кинцо такое было. Подробностей не помню, но ИИ там захватил контроль над ядерным вооружением и всерьёз намеревался бить то ли по СССР, то ли по России, но затем посчитал, понял, что ответный удар будет зело силён, и сказал, что воевать не хочет.

[Olweg]

Например, представьте себя ИИ в 2017 году, которому ставят задачу: радикально сократить углеродный след от авиаперевозок, существенная доля которых приходится на массовый туризм - то есть, на бессмысленную перевозку миллионов особей homo sapiens к точкам интереса и обратно, с единственной целью - чтобы указанные особи имели возможность запилить селфи в инстаграм. Ясное дело, что проблему надо решать, поскольу миллионы и миллиарды селфачков в инстаграмчиках не стоят порождаемых экологических проблем.
Тупо в лоб взять и запретить не вариант, легитимные запретительные механизмы такого масштаба отсутствуют.
И как же ИИ будет решать проблему?

Пример исходно неправильной постановки задачи. ИИ сразу назначают нулевую ценность интересам туристов. С какой стати? Кто это решает?

[Rattus]

Я думаю, что спокойно донести до инвесторов, что ИИ работает со всеми видами информации. В том числе и со всеми видами лжи. И чем быстрее ИИ будет распознавать ложь, тем быстрее он будет находить истинные ответы на рабочие вопросы. Инвесторы должны понять, что мир информации похож на мир обычных предметов. Полезного и нужного - кот наплакал. Чтобы найти в мусорке недопитую бутылку воды надо хорошо уметь её распознавать. Аналогично в мире информации. Чтобы найти подходящую формулу для решения очередной технической задачи необходимо примерно знать в каких разделах математики надо копаться.

Это они и так скорее всего знают. И из этого вытекает не Ваш тезис, а ему противоположный. Цель инвестора - получить максимальную отдачу от вложенных ресурсов. Ваш же тезис ей прямо противоречит: вместо того, чтобы сделать работу ИИ максимально эффективной, Вы предлагаете эту сложную и дорогую систему загрузить игрой в бирюльки. Вот отсюда и возникает вопрос: кто и зачем за это будет платить?

А временные ограничения ресурсов ИИ нужны будут, чтобы снизить  риски возможной ИИ-революции.

Давайте - убедите в этом инвесторов и разработчиков. Мы все с большим интересом наблюдаем.

Чёт' вспомнилась легенда о несбывшемся грядущем.

Совершенно аналогично - когда писал предыдущий пост.

(кликните для показа/скрытия)

Я многое знаю.
Я странно устроена, надо признать.
Я этот ваш бред хорошо понимаю,
Но буду по-вашему здесь рассуждать.
Представим и вправду, что высшее счастье
Достигнуто может быть только в труде
На благо народа, заботе о ближнем
И прочей подобной тому ерунде.
И мы получаем гораздо счастливей
Советских людей по сравнению с тем,
Как бедствует, смерти молясь о спасенье,
Несчастный народ буржуазных систем.
Конечно, я здесь перегнула немного,
Но все же естественным будет спросить -
Что стоит их жизнь по сравнению с целью,
Плодами которой весь мир будет жить?

- Ты все упрощаешь, ты мыслишь вульгарно,
Ты сводишь все к личному счастью людей!

- Ты сам декларируешь счастье народов
Как высшую цель без разбора путей...

Так вроде кинцо такое было.

https://ru.wikipedia.org/wiki/%D0%92%D0%BE%D0%B5%D0%BD%D0%BD%D1%8B%D0%B5_%D0%B8%D0%B3%D1%80%D1%8B

[николай теллалов]

сами наложат на себя руки. Чего, согласно религии гуманизма, допустить никак нельзя!

ересь!
не только нельзя, но и можно и нужно!
(покрайнеймере в моей секте гуманизма так; в вашей если по-другому - еретик! на диету его!)

[николай теллалов]

Например, представьте себя ИИ в 2017 году, которому ставят задачу: радикально сократить углеродный след от авиаперевозок
И как же ИИ будет решать проблему?

сначала спросит: а какого ляда вам углеродный след мешает?
(после чего его в панике отключат)