Нужен ли человечеству искусственный интеллект?

[Rattus]

Нам же нужен конкурентный, существенно превосходящий по способностям человеческий

Замените "конкурентный" на "самостоятельный в целях", чтобы неукоснительно не соблюдать взаимоисключающие параграфы.

Этакая концепция вертикального прогресса.

Не имеющая отношения к реальности.
Самостоятельный сильный ИИ - таки важный ключ к переходу прогресса технологий на новый этап. Детали этого фазового перехода тоже предсказать невозможно в принципе - потому он и называется "сингулярностью". Но никакого "вертикального прогресса" этот переход не обещает в любом случае. Хотя бы потому, что это противоречит фундаментальным законам природы.

Его цели должны совпадать с целями человечества.

Его цели должны совпадать с "целями" живой системы - иначе его самостоятельность и разумность находятся под большим вопросом. Если при этом совпадают и источники ресурсов, то тогда неизбежно возникает конкуренция и антагонизм. Если экониши разные, то возможно формирование других форм симбиоза - также совершенно естественным образом. У вычислительных машин и собирающих обслуживающих их организмов экониши точно не одинаковые (хотя источники энергии местами и могут пересекаться).

[Olweg]

Конфликт за ресурсы может разгореться при неправильной изначальной расстановке приоритетов. Да, в общем-то, и при правильной тоже может - кто его знает, что там у этого черного ящика внутре перемкнёт. Нужны предохранители, учитывающие все возможные пути, по которым может расползтись неконтролируемая оптимизация. Но это, скорее всего, нереально полностью предусмотреть. Либо всё-таки тщательно продумать цели, чтобы конфликт был невозможен. Задачка интересная, но пока чисто умозрительная.

[Проходящий Кот]

У ЕИ постоянно перемыкает. Так и у ИИ перемкнёт. Чем он хуже?

[R/0]

О какой конкуренции можно говорить, если он существенно превзойдёт человеческий мозг? Его цели должны совпадать с целями человечества.

Конкурентный  по сравнению с существующими решениями, вероятно. Нынешние решения пока существенно ограничены.

[Tatianka]

Его цели должны совпадать с "целями" живой системы - иначе его самостоятельность и разумность находятся под большим вопросом.

Не всякая живая система разумна. Я очень сильно сомневаюсь, что инфузории-туфельки могут о чем-то думать... И не каждая самостоятельная (паразиты). Скорее соглашусь, что ИИ должен следовать целям человечества
Человек, конечно, животное, ему нужны еда, сон и прочее, но интеллект стоит отдельно от потребностей живого организма.

[Rattus]

Не всякая живая система разумна.

И не всякая разумная - должна быть живая сама по себе (хотя таких пока ещё нет). Но всякая разумная система должна руководствоваться целями, общими для всех живых систем - если хочет протянуть сопоставимое с ними время.

Я очень сильно сомневаюсь, что инфузории-туфельки могут о чем-то думать...

Строго говоря, они даже "предвидеть" могут. На уровне генофонда популяции, разумеется.

интеллект стоит отдельно от потребностей живого организма

Только в двух случаях: при избытке ресурсов либо при патологии.

[Tatianka]

Но всякая разумная система должна руководствоваться целями, общими для всех живых систем - если хочет протянуть сопоставимое с ними время.

Вы думаете, инстинкты и разум - одно и то же? К тому же ИИ инстинкты вряд ли нужны...

Строго говоря, они даже "предвидеть" могут. На уровне генофонда популяции, разумеется.

Не думаю, что это можно отнести к мыслям. У человека тоже может быть мутация в ответ на какой-то раздражитель(серповидноклеточная анемия у людей, живущих в местах, где бушует малярия), но он же не думает об этом.

[crazy_terraformer]

Конеччччно нужен. Он будет помогггать ему прятать зарплатуу от жены. Это о-оочень сложнааая задача, уввверяю вассс, под силу только исссключительному интеллекту уссстойчивому к воздддействию ьяжёлых бредметов типаааа скакавародки йи и скакалки.

[Rattus]

Вы думаете, инстинкты и разум - одно и то же?

Разум - это инструмент адаптации живых систем. Применение его для других целей это либо поиграться (от избытка ресурсов), либо забивать микроскопом гвозди (от повреждения этого самого рассудка).

К тому же ИИ инстинкты вряд ли нужны...

Они и ЕИ, начиная с гоминид, не нужны. Пластичность разумного мозга позволяет обходиться без жестких врождённых "скриптов"-инстинктов вообще. И эволюционно они оказываются по сути взаимоисключающими способами адаптации.

Не думаю, что это можно отнести к мыслям.

Это вопрос определений.

[snickers]

Конеччччно нужен. Он будет помогггать ему прятать зарплатуу от жены.

М да судя по таким постам понимаешь ИИ хоть и искусственный но все же интеллект...

[Olweg]

Но всякая разумная система должна руководствоваться целями, общими для всех живых систем - если хочет протянуть сопоставимое с ними время.

ИИ будет инструментом живой системы под названием человечество. Каких-то своих врождённых, биологических целей у него, конечно, быть не может. Но он может неточно интерпретировать задачи своих создателей.

[Rattus]

ИИ будет инструментом живой системы под названием человечество.

Скорее "цивилизация". При том обладающим весьма немалым уровнем самостоятельности (иначе от него не будет особого толку) - поэтому уже не очень инструментом (как ЕИ, который может, порой, объявлять своему носителю всяческую аскезу и целибат - но это от избытка других носителей вокруг). Точнее наверное было бы это назвать облигатным симбиозом. Любой сколь-нибудь сильный ИИ легко и моментально сам поймёт, что он с человеками в одной подводной лодке.

Каких-то своих врождённых, биологических целей у него, конечно, быть не может.

Обучение нейросетей с мотивацией - вполне себе работающий подход. А мотивации - это и есть врождённые цели. Но важно не путать цели с алгоритмами  их достижения. Алгоритмы-инстинкты и у ЕИ практически отсутствуют.

[Tatianka]

Конеччччно нужен. Он будет помогггать ему прятать зарплатуу от жены. Это о-оочень сложнааая задача, уввверяю вассс, под силу только исссключительному интеллекту уссстойчивому к воздддействию ьяжёлых бредметов типаааа скакавародки йи и скакалки.

Ну что Вы! Это же ИИ, ему ни жена ни зарплата не нужны, у него изначально не может быть таких проблем. ИИ - разум, чистый и прекрасный.
А человек, к сожалению, не совершенен, согласна. Он может ввязаться в приключения, о которых будет жалеть))

Разум - это инструмент адаптации живых систем. Применение его для других целей это либо поиграться (от избытка ресурсов), либо забивать микроскопом гвозди (от повреждения этого самого рассудка).

Мне кажется, разум и нужен только для того, чтобы поиграться. Животное съест кусок мяса и ни о чем не задумывается, а человеку скучно, он из этого куска мяса сделает колбасу по сложной технологии и только потом съест.

[Rattus]

Мне кажется, разум и нужен только для того, чтобы поиграться.

Существенно более высокая смертность в родах, чем у прочих  млекопитающих, и 1/5 от энергозатрат всего организма - не слишком ли высокая цена за "поиграться"??

Животное съест кусок мяса и ни о чем не задумывается

Таки Вы плохо знаете животных...

а человеку скучно, он из этого куска мяса сделает колбасу по сложной технологии

Нет - человек просто не хочет сдохнуть с голоду между заохоченными бизонами или потравиться гнилью в отсутствие холодильника. Поэтому и вынужден был заморочиться с "колбасой".

[Olweg]

Обучение нейросетей с мотивацией - вполне себе работающий подход. А мотивации - это и есть врождённые цели. Но важно не путать цели с алгоритмами  их достижения. Алгоритмы-инстинкты и у ЕИ практически отсутствуют.

Да, но это именно обучение, проводимое кем-то с какой-то целью. Конечно, нейросеть может обучаться и сама, но конечную цель в неё всё равно будут закладывать, полностью чёрный ящик с непонятными мотивами никто не будет делать. У ИИ могут, вероятно, появиться цели, общие с живыми организмами - стремление к самосохранению, к контролю над ресурсами, может быть, даже к репликации (хотя вряд ли именно к репликации, скорее к созданию чего-то более эффективного), но это будут задачи, подчинённые достижению основной цели этого ИИ. Если они будут конфликтовать, придётся от этих второстепенных задач отказаться в пользу основной.

[Rattus]

У ИИ могут, вероятно, появиться цели, общие с живыми организмами - стремление к самосохранению, к контролю над ресурсами

Согласно уравнению Висснер-Гросса это и есть критерий силы интеллекта.

даже к репликации (хотя вряд ли именно к репликации, скорее к созданию чего-то более эффективного)

Резервное копирование - главный, но не единственный способ сохранения наследственной информации - единственной "цели" живых систем. Есть ещё повышение устойчивости физических носителей, в т.ч. активной (репарация). Но одного без другого в чистом виде не бывает. Копий ИИ, либо его мощности будет ровно столько, сколько потянет производственная инфраструктура цивилизации. Степень интеграции, т.е. баланс между числом копий и мощностью отдельной копии, определяется пропускной способностью каналов связи и практической достаточностью.

[tala]

Имхо. никакого сильного ИИ не будет. Будет гибридный разум, возниший путем сращивания человеческого  мозга с компьютером, нейроитерфейс, нейронет и т.д.

[Tatianka]

Существенно более высокая смертность в родах, чем у прочих  млекопитающих, и 1/5 от энергозатрат всего организма - не слишком ли высокая цена за "поиграться"??

Это риторический вопрос, не думаю, что кто-то может на него ответить. Злой рок человечества, с ним надо смириться)

Таки Вы плохо знаете животных...

Животное может научиться что-то делать перед едой(вырабатывается условный рефлекс), после точно нет. У человека такая психология, что он пытается приписать животным крохи разума или, например, одушевить неодушевленное. У меня есть домашний питомец, люблю с ним поговорить, хоть и осознаю, что меня понять он не может.
По этой теме прикрепила картинку)

Нет - человек просто не хочет сдохнуть с голоду между заохоченными бизонами или потравиться гнилью в отсутствие холодильника. Поэтому и вынужден был заморочиться с "колбасой".

Есть и другие животные, которые не питаются тухлятиной, но они кулинарией не занимаются. И почему-то до сих пор выживают.
Все равно ИИ надо создавать по образу человека, а не животного.

[Olweg]

У ИИ могут, вероятно, появиться цели, общие с живыми организмами - стремление к самосохранению, к контролю над ресурсами

Согласно уравнению Висснер-Гросса это и есть критерий силы интеллекта.

Может быть, наоборот - это критерий эффективности живых систем? И если человечество (или какая-то его часть) станет использовать ИИ, то оно сможет "максимизировать будущую свободу действий". То есть вопрос опять возвращается к тому, считать ли ИИ отдельной системой с собственными целями или только очередным расширением фенотипа человека.

[tala]

Это риторический вопрос, не думаю, что кто-то может на него ответить. Злой рок человечества, с ним надо смириться)

Зачем смиряться? "Искусственная матка" решит проблему.