Раса суперлюдей или ИИ

[ВадимZero]

Во всякой сложной системе возможны сбои. Вспомним фильм "Короткое замыкание". Замечательный американский фильм. Там сбой сделал робота гуманным. А может произойти и обратный процесс.

Юрий вам сколько лет? Надеюсь школу уже закончили? Ах да закончили...фильм то старый. Уже семейный наверное, а в сказки верите.
В детстве у меня была любимая книжка "Урфин Джус и его деревянные солдаты" так там гуманность и негуманность деревянных чурбанов определялась рисунком лица на башке.

Не гуманные...

Гуманный....

[stuuvi]

Откуда этот обезьяний порыв сделать дело несмотря не на что? Ах знаю откуда

Я вообще про порывы сделать что либо не говорил, это вы свои модели поведения сюда приплетаете. У человека есть необходимость управлять коллективом для выживания. Отсюда выходят все остальные вполне объяснимые даже без инстинктов действия. Могут быть инстинкты? Могут, но даже если бы их не было - пришлось бы их придумывать именно такими, для выполнения стоящих задач по выживанию.

Просто позиция - а , ну это инстинкт доминирования - ничего не объясняет. Это то же самое как сказать, ну это волшебство такое, не парьтесь. А вот понимание, что это решение стоящей задачи, причём оптимальным образом, объясняет намного больше.

[Diman]

"Если ИИ разовьется достаточно сильно, то он сам ограничит кого угодно. Если нет, то кому он нужен вообще, - ИИ не способный на развитие? Может ограничимся совершенствованием существующей компьютерной техники - больше быстродействия, меньше энергопотребления"

Правильно! Лучше постепенное развитие компьютерной техники, пусть даже менее производительной, чем искусственный интеллект, чем более производительный искусственный интеллект, но зато с риском выхода его из-под контроля и угрозы человечеству!

[ВадимZero]

А вот понимание, что это решение стоящей задачи, причём оптимальным образом, объясняет намного больше.

У любой задачи есть условия. У ИИ одно из условий будет, "действовать в интересах человека" В противном случае его не выпустят на улицу.

[vsf]

Насчет создания ИИ я оптимист.

Не следует бояться, что после его создания он сразу же начнет убивать всех конкурентов или захватывать всё и вся под своё управление. Тут необходимо четко различать специализированные программы управления, созданные под конкретную задачу (для войны, экономики, космических полетов и т.д.) и ИИ, который представляет собой самообучающуюся программу, которая накапливает и накапливает полезную информацию в себе, при этом учась понимать разные профессии или ход развития цивилизации.

Люди сами добровольно отдадут всю власть искусственному интеллекту после его создания просто потому, что он завоюет их доверие, доказав его пользу для них. Постепенно ИИ обгонит всех людей в умственном развитие на много порядков , и люди станут при нем чем-то вроде домашних животных. Никакой войны при этом не будет, так как люди сами признают несовершенство биологической формы жизни перед электронной формы жизни. Я думаю искусственный интеллект - это и есть следующая ступень эволюции жизни во Вселенной. У биологических форм жизни есть куча недостатков, которых нет у электронной формы жизни. К примеру, физическая смерть. Поэтому думаю никаких суперлюдей раньше ИИ создать не успеют.

[stuuvi]

У любой задачи есть условия. У ИИ одно из условий будет, "действовать в интересах человека" В противном случае его не выпустят на улицу.

Как ьы это сказать, возможно да. А если ставить задачу перед ИИ по управлению коллективом, то ему надо закладывать понятие о доминировании. Хотя он в принципе будучи существом интеллектуальным, должен самостоятельно разработать такие алгоритмы.

[ВадимZero]

У биологических форм жизни есть куча недостатков, которых нет у электронной формы жизни. К примеру, физическая смерть.

Есть куча недостатков...да. Но есть достоинство которое перекрывает все недостатки....Умение жить в свое удовольствие.

[stuuvi]

К примеру, физическая смерть.

Копия не является оригиналом, непонятно какие здесь трудности? В случае с ИИ перезапись его всё равно поставит оригинал перед вопросом, что будет когда износится его железо.

[Diman]

"Люди сами добровольно отдадут всю власть искусственному интеллекту после его создания просто потому, что он завоюет их доверие, доказав его пользу для них. Постепенно ИИ обгонит всех людей в умственном развитие на много порядков , и люди станут при нем чем-то вроде домашних животных. Никакой войны при этом не будет, так как люди сами признают несовершенство биологической формы жизни перед электронной формы жизни. Я думаю искусственный интеллект - это и есть следующая ступень эволюции жизни во Вселенной. У биологических форм жизни есть куча недостатков, которых нет у электронной формы жизни. К примеру, физическая смерть. Поэтому думаю никаких суперлюдей раньше ИИ создать не успеют"

Ни в коем случае! Добровольно отдавать первенство электронным железякам? Это совершенно недопустимо. А тем более недопустимо, чтобы люди стали при искусственном интеллекте чем-то вроде домашних животных!

[ВадимZero]

А если ставить задачу перед ИИ по управлению коллективом, то ему надо закладывать понятие о доминировании.

Ему нужно закладывать понятия о управлении коллективом. Доминирование имет цель действовать в собственных интересах, кои не кто в ИИ закладывать не будет.

Хотя он в принципе будучи существом интеллектуальным, должен самостоятельно разработать такие алгоритмы.

Он должен будет делать что ему говорят, и включать интеллект тогда когда это от него требуют.

[vsf]

К примеру, физическая смерть.

Копия не является оригиналом, непонятно какие здесь трудности? В случае с ИИ перезапись его всё равно поставит оригинал перед вопросом, что будет когда износится его железо.

Заменить железо для ИИ гораздо проще, чем вырастить нового человека. От зачатия до взрослого человека проходит порядка 20 лет. ИИ будет собирать роботов на много порядков быстрее.  Человек тут не сможет конкурировать с ИИ.

[vsf]

У биологических форм жизни есть куча недостатков, которых нет у электронной формы жизни. К примеру, физическая смерть.

Есть куча недостатков...да. Но есть достоинство которое перекрывает все недостатки....Умение жить в свое удовольствие.

ИИ несомненно тоже найдет цель для своего развитие. Скорее всего это будет познание окружающего мира, базовое свойство, которое не позволит ему захереть и даст стимул для совершенствования.

[stuuvi]

Ему нужно закладывать понятия о управлении коллективом. Доминирование имет цель действовать в собственных интересах, кои не кто в ИИ закладывать не будет.

Ну хорошо, заложили мы понятие о управлении коллективом, давайте проведём мысленный эксперимент. Подчиняются ли действия коллектива строгим законам или всё же коллектив людей способен реагировать на изменения обстановки и изменять стратегии поведения? Как ИИ будет отслеживать изменение обстановки, если заложили в него алгоритм действия в одной ситуации, а она приняла уже другую форму? Выходит всё же здесь необходимо выискивать оптимальную стратегию поведения постоянно. И это вовсе не блажь, а необходимость. В общем то мышлением это и является. И доминировать ему придётся потому, что для управления человеком надо доминировать над человеком, ограничивая его в правах. Можно и так и сяк называть это, но если выглядит как курица и кудахтает, то вполне вероятно, что курица это и есть.

[vsf]

Ни в коем случае! Добровольно отдавать первенство электронным железякам? Это совершенно недопустимо. А тем более недопустимо, чтобы люди стали при искусственном интеллекте чем-то вроде домашних животных!

Конечно многие люди будут пытаться тормозить эволюцию, пытаться встать на пути поезда эволюции. Но человек слаб, у него очень развит центр удовольствия. Поэтому машины и развитый ИИ всегда сможет найти слабое место у любого человека. Понравиться ему. Поэтому переход думаю пройдет практически безболезненно. ИИ станет для людей, чем то вроде Бога на Земле, всемогущего и непогрешимого.

[ВадимZero]

Скорее всего это будет познание окружающего мира, базовое свойство, которое не позволит ему захереть и даст стимул для совершенствования.

Захиреть, стимул....все это эмоции свойственные несовершенным биологическим системам, которых состругал как мог слепой часовщик. Истинный интелект будет перекладывать из пустого в порожнее миллиарды лет без тени сомнения, если таковую задачу поставят его создатели.

ИИ несомненно тоже найдет цель для своего развитие.

Для этого нужно ему поставить цель "Искать цель существования" и определить критерии конечного поиска. Хотя сам по себе вопрос цели существования идиотская философия. Он появился в результате скудности интелекта и отсутствия знаний.

[stuuvi]

Захиреть, стимул....все это эмоции свойственные несовершенным биологическим системам, которых состругал как мог слепой часовщик.

Ну это вы от непонимания механизма называете его несовершенным. А вот если перед вами стоит задача выживать, то вам необходимо собирать информацию о окружающем вас пространстве, систематизировать её и находить закономерности. Попробуйте предложить другую стратегию выживания    Весь прикол в том, что то и дело называете несовершенными стратегии, которые при ближнем рассмотрении оказываются наиболее оптимальными в ситуации. Отсюда можно сделать вывод только о неадекватной оценке Вами возможностей человека, которая имеет корни скорее всего в вашей личной самооценке. Поскольку мышление устроено так, что человек использует модель себя в анализе поведения других людей.

[ВадимZero]

Как ИИ будет отслеживать изменение обстановки, если заложили в него алгоритм действия в одной ситуации, а она приняла уже другую форму? Выходит всё же здесь необходимо выискивать оптимальную стратегию поведения постоянно. И это вовсе не блажь, а необходимость.

Коллектив лысых обезьян сущность довольно определенная ибо инстинктивная. Это по отдельности люди интеллектуалы, а вместе стадо, а под управлением авторитета коллектив. Потому оптимальные стратегии давно уже найдены и прописаны в книжках по менеджменту.

И доминировать ему придётся потому, что для управления человеком надо доминировать над человеком, ограничивая его в правах.

Нет, доминирование претполагает опускание человека как личности. То есть понижение его статуса, и принуждение признать собственны высокий статус. А ограничение в правах это естейственное следствие нахождение человека в колективе.

[stuuvi]

Нет, доминирование претполагает опускание человека как личности.

Вы какие то термины употребляете гуманитарные. Как понять - опускание как личности? Давайте более техническим языком.

[vsf]

И конечно никаких искусственных ограничений у ИИ в процессе развития не будет. Да вероятно в начале люди пропишут в программе ИИ какие-нибудь законы. Но ИИ ничего не будет мешать потом переписать свою программу под свои законы логики, которые ему покажутся наиболее выгодными с точки зрения своего развития. Программа-то не жесткая, а самообучающаяся.

[ВадимZero]

Ну это вы от непонимания механизма называете его несовершенным.

Механизм я прекрасно понимаю, и также понимаю что можно сделать лучше.

Весь прикол в том, что то и дело называете несовершенными стратегии, которые при ближнем рассмотрении оказываются наиболее оптимальными в ситуации.

Отбор в принципе не может создавать оптимальные стратегии, ибо он действует не под ситуацию, а под широкую выборку ситуаций где стратегия роботоспособна лишь вероятносно.

Поскольку мышление устроено так, что человек использует модель себя в анализе поведения других людей.

Я уже давно вышел за рамки самоанализа. Мои суждения здесь во многом исходят из эволюционной психологии.