Закономерно ли появление разума?

[Пришлый]

да запрограммировать что угодно можно. но это будет именно что программа, то есть имитация.

Эмуляцию чувств прописать, в общем, не сложно, да так что сторонний наблюдатель "не в теме" и не разберет, иллюзорна она или естественна. Но на практике бессмысленно, чтобы комп, например, умел "не любить" некоторые программы, рассказывал пользователю об этом и "самовольно" начинал на них тормозить. Или "вдруг" извинился, сообщил о своей общей усталости от работы и на пару часов ушол в спящий режим, из которого досрочно  никакими перезагрузками не выводится, но попытки его разбудить подсчитывает, "обижается" и впредь начинает бастовать чаще и дольше.
По внешним проявлениям это будет уже Личность. Но кому она такая нужна?

зачем, например, автомобильному автопилоту манипуляторы?

Дык, для него сам автомобиль и есть манипулятор, которым он может "шарахнуть". Более того, ему придётся  иногда это делать, какие мимимишные законы робототехники в него не прописывай.

проще тупо запрограммировать на нужное поведение и не заморачиваться.

О! А программировать надо в том числе и на выбор из нескольких зол. Без мотивации, программно, но - выбор. Например (в продолжение об автопилотах) - кого спасать в аварийной ситуации, пассажира или пешехода? Если пешехода, то какого из нескольких, когда их несколько? Если пассажира, то своего или чужого? А если чужих несколько, а свой один?
Всё холодно и рационально, но вряд ли пешеходам (или пассажирам) от этого легче. Кого-то из них машине будет "тупо" предписано убить с приоритетом над остальными, а выбор траектории все равно будет делать она сама.

[Rattus]

вот я или вы (любой человек) можем совершать какие либо действия по своему усмотрению. можем поступать тем или другим образом по своему желанию.

"Сепульки - см. сепуление." Что значит "по своему усмотрению" и "по своему желанию"? Определение одних неопределимых слов через другие никакой информации не сообщает. Это просто словесный шум, которым так любят заниматься типичные гуманитарии.
Хуже того - это просто вредная иллюзия: достаточно хорошенько врезать вам по пальцу молотком, как вы резко на несколько минут потеряете возможность заниматься математикой даже при большом исходном желании. Хотя казалось бы: где палец, а где области мозга, занимающиеся математикой.

Эмуляцию чувств прописать, в общем, не сложно, да так что сторонний наблюдатель "не в теме" и не разберет, иллюзорна она или естественна. Но на практике бессмысленно

Как раз таки не бессмысленно: "обучение с подкреплением" - важный инструмент при создании нейросетей. А той же Энтропике Висснер-Гросса никто не указывал, что нужно загонять кружок в трубу на плоскости и балансировать шарнирную конструкцию - она именно что "сама" это начинала делать через некоторое время самообучения просто в силу внутреннего устройства - стремления оказаться в наименее энтропийной среде в будущем (т.е. не быть "загнанной в угол" в статистическом смысле). Самостоятельности в постановке задачи тут ничуть не меньше чем у любого животного, включая лысое-прямоходящее. Разница - как и в случае задачи многих тел - только в сложности среды: если мы не можем точно решить задачу трёх тел - это не значит, что их движение не подчиняется только законам Кеплера, а приобретает какую-то неуловимую "душу".

Например (в продолжение об автопилотах) - кого спасать в аварийной ситуации, пассажира или пешехода? Если пешехода, то какого из нескольких, когда их несколько? Если пассажира, то своего или чужого? А если чужих несколько, а свой один?

Вообще не понимаю этих страданий. Именно для этого написана одна "ненужная" книжка. Назвается Правила Дорожного Движения. Именно по этой причине более 2 тысяч лет назад было сказано - durus lex sed lex. Даже целая толпа бокланопитеков, перебегающих трассу в неположенном месте не ценнее одного автомобиля, едущего по правилам. Безусловно - всякий пилот - хоть авто, хоть мясная прокладка между рулём и креслом - должен минимизировать потери - но только когда есть такая возможность в рамках правил. В приоритете, разумеется, стоит содержимое автомобиля (иначе чрезмерно "жалостливый" автопилот не купит чуть менее чем никто - бабло на практике всегда побеждает зло - любую абстрактную этику, если она не закреплена законодательно).

[незлой]

Я бы сравнивал разум социума и ДНК популяции.

генетический пул тогда: каждый вид "описывает" свою нишу, в совокупности -- среду "вообщем" (с разных сторон). при этом, что важно, процесс описания вносит изменения в описываемое.
снова курица-яйцо, а также напрашивающиеся аналогии из км. значит "истина гдето рядом"

[незлой]

Разум социума улучшает популяцию?

"разум социума" улучшает описание среды, причём делает это на порядки лучше (точнее, быстрее), но (пока?) уже, чем жизнь "в целом"

[незлой]

Но на практике бессмысленно, чтобы комп, например, умел "не любить" некоторые программы, рассказывал пользователю об этом и "самовольно" начинал на них тормозить. Или "вдруг" извинился, сообщил о своей общей усталости от работы и на пару часов ушол в спящий режим

винда так умеет, сам видел

[Combinator]

генетический пул тогда: каждый вид "описывает" свою нишу, в совокупности -- среду "вообщем" (с разных сторон). при этом, что важно, процесс описания вносит изменения в описываемое.
снова курица-яйцо, а также напрашивающиеся аналогии из км. значит "истина гдето рядом"

Можно и так сказать. Или, например, как любил говорить один мой знакомый философ-любитель - "растения тоже думают, только очень медленно". И то правда, мозг вида ХомоСапиенс работает на частоте в несколько десятков герц, а "соображалка" какого-нибудь типичного вида растений со скоростью примерно один такт в год. Те не менее, и этого хватает, например, для того, что бы подсолнухам научиться поворачивать цветок вслед за перемещениями Солнца по небосклону, а росянке "придумать", как ловить насекомых.



 

[Combinator]

"разум социума" улучшает описание среды, причём делает это на порядки лучше (точнее, быстрее), но (пока?) уже, чем жизнь "в целом"

Как говорил у Горького Томилин в "Жизни Клима Самгина" - "Человек – это мыслящий орган природы, другого значения он не имеет. Посредством человека материя стремится познать саму себя. В этом – все."

[vopros_voprosov]

Смысловой разницы не вижу...

огромнейшая разница, так как мотивация по определению дает свободу выбора. программа - свободы выбора не дает.

Это точно. И главное чего нет у компьютера - это нелогичных поступков и немотивированного поведения. Чего у человека навалом.
Компьютер - раб программы в своем "поведении", а человек нет

[незлой]

- как всё сложно устроено, - говорят одни. - давайте разбираться
- а чё тут разбираться, если непонятно? давайте лучше объявим непонятность непостижимостью, и будем водит вокруг неё хороводы -- это приятно греет чувство собственной исключительности

это даже не беседа -- каждый на своей волне.

[Combinator]

Это точно. И главное чего нет у компьютера - это нелогичных поступков и немотивированного поведения. Чего у человека навалом.
Компьютер - раб программы в своем "поведении", а человек нет

Это точно, мы не рабы, рабы не мы. Напиться на последние деньги, а потом от нечего делать набить морду соседу, вот оно неоспоримое преимущество человека перед компьютером!

[vopros_voprosov]

Это точно. И главное чего нет у компьютера - это нелогичных поступков и немотивированного поведения. Чего у человека навалом.
Компьютер - раб программы в своем "поведении", а человек нет

Это точно, мы не рабы, рабы не мы. Напиться на последние деньги, а потом от нечего делать набить морду соседу, вот оно неоспоримое преимущество человека перед компьютером!

А есть и когда деньги жертвуются на помощь, без всякого умысла, не ожидая ничего взамен
Для компьютера это все не нужно и непонятно

[vopros_voprosov]

- как всё сложно устроено, - говорят одни. - давайте разбираться
- а чё тут разбираться, если непонятно? давайте лучше объявим непонятность непостижимостью, и будем водит вокруг неё хороводы -- это приятно греет чувство собственной исключительности

это даже не беседа -- каждый на своей волне.

А при чём здесь на волне - не на волне?
У человека есть чувства, мысли, эмоции и воля.
А у компьютера нет

[незлой]

У человека есть чувства, мысли, эмоции и воля.
А у компьютера нет

"..и быть не может"

кстати, нет никакой принципиальной разницы между этой позицией и утверждением "мы созданы по образу и подобию божьему". полностью подобные утверждения.

[Combinator]

А есть и когда деньги жертвуются на помощь, без всякого умысла, не ожидая ничего взамен

Вы слышали про понятие эмпатия? Она выработалось в результате эволюции нашим "генетическим компьютером", ибо повышает выживаемость вида в целом. Так что, всё очень даже рационально...

[Maki]

 

винда так умеет, сам видел 

Особенно если она приобретает "нечёткость" из-за поехавшего блока питания, "свободу воли" в виде непредсказуемо залипающего кулера и "внутреннее время" вследствие самопроизвольно размножающихся внутри ея вирусов.

[vopros_voprosov]

У человека есть чувства, мысли, эмоции и воля.
А у компьютера нет

"..и быть не может"

кстати, нет никакой принципиальной разницы между этой позицией и утверждением "мы созданы по образу и подобию божьему". полностью подобные утверждения.

я хочу сказать что у человека есть чувства, мысли, эмоции и воля. А у компьютера нет. Что я неправильно сказал?

[vopros_voprosov]

А есть и когда деньги жертвуются на помощь, без всякого умысла, не ожидая ничего взамен

Вы слышали про понятие эмпатия? Она выработалось в результате эволюции нашим "генетическим компьютером", ибо повышает выживаемость вида в целом. Так что, всё очень даже рационально...

Да, слышал. А что это меняет? У компьютера отсутствует эмпатия. У него и чувств-то нет

[Проходящий Кот]

Вам же уже сказали, что запрограммировать их в компьютере ---- давно решенная проблема.

[незлой]

я хочу сказать что у человека есть чувства, мысли, эмоции и воля. А у компьютера нет. Что я неправильно сказал?

у бабочки есть крылья, и у самолёта есть крылья.
мы можем это утверждать, потому что слово "крылья" определено не только для бабочек.
в данном же случае вы сначала отказываетесь давать общие определения "чувствам, мысли, эмоциям и воле", определяя их только через конкретные носители, после чего заявляете, что они присущи только этим конкретным носителям и никому более. масло бывает только масляным, и всё немасляное -- не масло. т.е. ваше рассуждение просто закольцовано.
обычное дело, впрочем, большинство людей так рассуждает.

[Combinator]

Да, слышал. А что это меняет? У компьютера отсутствует эмпатия. У него и чувств-то нет

Ну мы же здесь обсуждаем разум, а не чувства. В любом случае, если правильно задать критерии обучения нейросети, то некий аналог, инициирующий соответствующее поведение, у компьютера, скорее всего, тоже появится. Вы, похоже, никак не можете абстрагироваться от конкретного носителя разума, для Вас он раз и навсегда неразрывно связан с человеком, плюс, может быть, немножко и ещё с некоторыми ниболее "продвинутыми" биологическими видами.