Закономерно ли появление разума?

[crazy_terraformer]

Зачем это ему всё? Смониторил состояние и окружение пациента с всяких датчиков и сенсоров, сравнил с имеющимися моделями и предыдущим опытом, и выдал таблетку или соответствующие слова и предложения, или музыку, предложил выпить и закупить.

Или у Вас как у Лема в Соляриса:"Человеку нужен человек...", только Вам в машинном обличье.

[Maki]

Сильному ИИ полезно будет любить человеков как полезных домашних зверушек или свою микробиоту - это его оптимальная эволюционно-экологическая стратегия.

Вычислительные способности машины могут быть просто невероятны. Но "личность", "субъект" в ней может полностью отсутствовать.
Наше "Я" - это именно сенсорная штука, да ещё завязанная на прошитых в подсознании страхах и эмоциях, практическом опыте и взаимном обучении. Привносить всю эту неопределённость в компьютер, решающий ответственные задачи - незачем.  Самопроизвольное же зарождение мегаразума в суперкомпьютере - не более чем плохая фантастика (которую вы сами не жалуете). Хотя пощекотать нервишки обывателю - годится.
Вот в продуктах, которые предназначены для взаимодействия с человеком (игрушки, промоботы, голосовые ассистенты, искусственные секс партнёры и дети) - вот там да, имитация разума быстро дойдёт до, скажем так, пугающего уровня каковой я имел удовольствие давеча наблюдать лично, присутствуя при беседе подвыпившего приятеля с мадемуазель Сири.
P.S. Это были аргументы контра. Но, есть и аргумент про. Поисковые машины, соцсети и рекламные программы непременно пойдут по пути имитации человеческого разума и эмоций. Вот там, возможно, и будут происходить некие непредвиденные глобальные процессы, связанные с самообучением машин.

[Rattus]

Вычислительные способности машины могут быть просто невероятны. Но "личность", "субъект" в ней может полностью отсутствовать. Поисковые машины, соцсети и рекламные программы непременно пойдут по пути имитации человеческого разума и эмоций.

И останется только объединить их в одну систему (что технически несложно и уже по сути сделано) - и вуаля - вот вам

зарождение мегаразума

[alena_korf]

это может быть, например, заползший в открытый порт червь. про вымогателя "петю" слыхали, наверняка?

ну так он запущен извне

то, что тот червь написан хакером васей а не эволюцией по большому счёту мало что меняет.

много чего не меняет, так как сам он не напишется. нужен человек, что б его написать.

Что значит "сам"?

без воздействия извне

Но "личность", "субъект" в ней может полностью отсутствовать.

не то что "может отсутствовать". она отсутствует по определению.

все адепты сильного ИИ пока что не предьявили ни одного мыслящего и осознающего себя  компьютера или нейросети
а разговоры типа "может когда-то создадут такой, бла-бла-бла", это в пользу бедных

[vopros_voprosov]

Зачем это ему всё? Смониторил состояние и окружение пациента с всяких датчиков и сенсоров, сравнил с имеющимися моделями и предыдущим опытом, и выдал таблетку или соответствующие слова и предложения, или музыку, предложил выпить и закупить.

Или у Вас как у Лема в Соляриса:"Человеку нужен человек...", только Вам в машинном обличье.

Да тут не "Человеку нужен человек...", а просто поведение человека и его мышление с "точки зрения" компьютера, если можно так выразится, бесконечно сложное и непонятное
Ибо у человека "мысль - эмоция - действие", а у компьютера нет

[Maki]

Вот вам смешно, а в соседней теме народ нечто подобное обсуждает на полном серьёзе.

И останется только объединить их - и вуаля - вот вам

И какое будет "вуаля"? Шок, сенсация, смартфоны захватили мировые финансы? Секскуклы объединились, и требуют гражданских прав?  Фейсбук-педофил растлевает школьниц?
Я уже писал чуть выше о том, что наше "Я", "Личность", "Разум" не какой-то "изыск" или "побочный эффект" эволюции, а сугубо утилитарное свойство, позволяющее двуногим тушкам сосуществовать в культурном пространстве. И вне этого предназначения, никакая "Личность" существовать не может, ввиду полнейшей бессмысленности такого существования.
Ну а если и заведётся в сетях некий симулякр - это будет не "компьютерный разум", а скорее "компьютерное сумасшествие".
P.S. Повторюсь, вышесказанное не отменяет возможности экспериментально воспроизвести психику, например, собаки. Или даже человека. Но даже в научных целях это выглядит как-то... негуманно, что ли. А уж коммерческий выпуск "разумных машин" попахивает антиутопией, в которой будет и перепрограммирование таких машин, и сбои, и прочие гадости.

[Maki]

не то что "может отсутствовать". она отсутствует по определению.
все адепты сильного ИИ пока что не предьявили ни одного мыслящего и осознающего себя  компьютера или нейросети 
а разговоры типа "может когда-то создадут такой, бла-бла-бла", это в пользу бедных 

А это и необязательно.
Электронная лампа и транзистор совершенно непохожи по устройству, химическому составу, и принципу действия. Но если мы видим работающий ламповый компьютер - мы понимаем, что нечто подобное можно создать и на основе транзисторов.
Так что если мы видим работающий нейронный компьютер обладающий самосознанием - это уже само по себе доказательство возможности воспроизвести это самосознание на другой элементной базе.
Просто эксперимент этот не имеет практического смысла, и будет жестокостью по отношению к "создаваемому".

[Rattus]

без воздействия извне

Что значит "воздействие извне"?

И какое будет "вуаля"?

Мощнейшая экспертная система, превосходящая всех экспертов вместе взятых с интерфейсом в виде естественного языка, проходящая тест Тьюринга с любым тестировщиком при тесте любой доступной длительности. "Личность" заводится автоматически по прохождении теста Тьюринга, поскольку размещается исключительно она в межушном ганглии эксперта. Что там "на самом деле" у тестируемой сущчности, на самом деле вопрос совершенно фаллософский. Т.е. бессодержательный. А "субъект" появляется, когда в систему включена фича первой обращаться к тестировщику с вопросами.

[sharp]

Ну внутренних переживаний у компа-то все равно не будет. А они в человеке во многом определяют его поведение

"Внутренние переживания" - это по факту процессы вычисления внутри нейронной сети мозга. Схожие процессы идут и в ИИ, и чем больше времени есть на вычисление тем более сложными могут быть эти процессы. Чем вам не "внутренние переживания"?

[sharp]

программу можно обойти "извне". но это может сделать некий "хакер", а не сам носитель программы.

Вы тоже не можете обойти очень многое в своей программе. В чем разница, собстно?

[Maki]

Мощнейшая экспертная система, превосходящая всех экспертов вместе взятых с интерфейсом в виде естественного языка, проходящая тест Тьюринга с любым тестировщиком при тесте любой доступной длительности. "Личность" заводится автоматически по прохождении теста Тьюринга, поскольку размещается исключительно она в межушном ганглии эксперта. Что там "на самом деле" у тестируемой сущчности, на самом деле вопрос совершенно фаллософский. Т.е. бессодержательный. А "субъект" появляется, когда в систему включена фича первой обращаться к тестировщику с вопросами.

Так это же Киса-бот, только усовершенствованный!
Ну ОК, кто-то напишет такую "Сильную Кису".
Согласен, ничего невозможного в создании такого робота нет.
Но как оно будет "жить"? Распространяться как вирус? Напишет операционную систему, и станет её частью? Или это чудо окажется полезно политикам или рекламщикам, для создания фейковых страниц в соцсетях или написания фальшивых отзывов на форумах?

[sharp]

Или это чудо окажется полезно политикам или рекламщикам, для создания фейковых страниц в соцсетях или написания фальшивых отзывов на форумах?

В сообщении на которое вы отвечаете, прямым текстом же написано: "экпертная система". Погуглите, что это такое...

[alena_korf]

Вы тоже не можете обойти очень многое в своей программе. В чем разница, собстно?

разница в том, что человек очень много может обойти в своей программе, даже базовые принципы (такие как самосохранение, например). а компьютерную программу компьютер обойти не может, он просто не может вне ее функционировать.

[alena_korf]

Что значит "воздействие извне"?

воздействие, которое является внешним по отношению к объекту и не проистекает из его внутренних процессов.

[sharp]

разница в том, что человек очень много может обойти в своей программе, даже базовые принципы (такие как самосохранение, например). а компьютерную программу компьютер обойти не может, он просто не может вне ее функционировать.

В нейросети тоже нет жестко заложенных правил, как в стандартных алгоритмических программах. С нечеткой логикой знакомы немного, к примеру?

[Maki]

В сообщении на которое вы отвечаете, прямым текстом же написано: "экпертная система"

...и описана программа для взаимодействия машина-человек.
Главный вопрос не в том, как сымитировать человека, а в том, какой вообще смысл в этом. Без смысла нет разума.

[alena_korf]

В нейросети тоже нет жестко заложенных правил, как в стандартных алгоритмических программах.

и какая разница? все равно она не может действовать исходя из собственных побуждений и осознавать себя.
и прежде чем возражать укажите мне на осознающую себя нейросеть.  другие аргументы не принимаются (ибо подмена понятий).  только факты.

[sharp]

Главный вопрос не в том, как сымитировать человека, а в том, какой вообще смысл в этом. Без смысла нет разума.

Все вам надо разжевывать по полочкам...

Экспертная система - компьютерная система, способная частично заменить специалиста-эксперта в разрешении проблемной ситуации.

Экспертная система на сильном ИИ будет, соответственно, способна не частично, а полностью заменить специалиста-эксперта в широком круге проблемных ситуаций интеллектуального характера. Выполнять лучше человека управление экономикой и финансами, например.

и какая разница? все равно она не может действовать исходя из собственных побуждений и осознавать себя.

Однако механизм принятия решений может быть настолько сложным, что вы не сможете отличить, взаимодействуете вы с человеком или с машиной.

[alena_korf]

Однако механизм принятия решений может быть настолько сложным, что вы не сможете отличить, взаимодействуете вы с человеком или с машиной.

и что? очень хорошая имитация разума не есть разум. имитация вполне может быть, но это всего лишь имитация, себя она не осознает. а это не разум.

вот еще что советую почитать:
http://elementy.ru/trefil/21142

[sharp]

и что? очень хорошая имитация разума не есть разум. имитация вполне может быть, но это всего лишь имитация, себя она не осознает. а это не разум.

Если для внешнего наблюдателя нет отличий в поведении, то нет никакой разницы, осознает себя эта "имитация" или нет? Практическое значение имеет именно поведение.