Закономерно ли появление разума?

[alena_korf]

Свобода и есть иллюзия. Вернее это просто чувство, которое отображает состояние системы.

нет, свобода, это возможность принимать самостоятельные решения.
человек ею обладает и даже высшие животные обладают. компьютеры и нейросети - нет.

[гравицап]

Почему? Я много раньше предлагал кибернетический аппарат аналогичный живому существу. Возьмите компьютер, подключите периферию соответствующие датчики микрофон и видеокамеру, установите самообучающуюся программу, вот вам и бесчувственное, но, разумное существо. Возможность выбора очерёдности выполнения задач у него будет, а значит будет  способность действовать  самостоятельно будет. Не будет природных потребностей возникших эволюционным путём; поесть, попить, покакать, пописать, и потрахаться. Вот и всё. 

если оно бесчувственное то с чего оно будет самостоятельно действовать  самостоятельно оно бездействовать будет как любая машина. если дать задание - подействует.

[alena_korf]

если оно бесчувственное то с чего оно будет самостоятельно действовать  самостоятельно оно бездействовать будет как любая машина. если дать задание - подействует.

совершенно верно
+1

[MenFrame]

самостоятельные решения.

"Самостоятельные решения" это просто игра слов, за которыми по сути не чего не стоит.

[alena_korf]

"Самостоятельные решения" это просто игра слов, за которыми по сути не чего не стоит.

почему это?
вот я или вы (любой человек) можем совершать какие либо действия по своему усмотрению. можем поступать тем или другим образом по своему желанию.
то же могут и некоторые интеллектуальные животные.
низшие существа и компьютеры так не могут. ибо первые жестко ограничены  инстинктами и условными рефлексами, а вторые -  программой.

[Пришлый]

это не задача, а направление потока времени.

Увы, сударыня, но это именно что Задача. А любые биовыживательные стратегии вида и индивида есть частные случаи решений того, как увеличивать энтропию здесь-и-сейчас надежнее и быстрее.

[гравицап]

не ИИ,а тех людей, кто будет писать для него алгоритмы.

дело то в том что над созданием полноценного ИИ работает много серьезных людей с серьезными финанспми и техобеспечением. вкладываются огромные деньги в это дело и говорят будто есть серьезные наработки...
а вы все - нет не будет не может....
голову в песок...
может быть и может.
интересно же - как это может быть и чем грозит.. или какие плюсы..

[alena_korf]

Увы, сударыня, но это именно что Задача.

ерунду говорите, уж извините на грубом слове.
у законов природы нет задач. наличие задач предусматривает какой-то смысл, а это в свою очередь предусматривает того, кто эти задачи ставит. а это уже не далеко от креационизма (не к ночи будь помянут)

[alena_korf]

дело то в том что над созданием полноценного ИИ работает много серьезных людей с серьезными финанспми и техобеспечением. вкладываются огромные деньги в это дело и говорят будто есть серьезные наработки...

мало ли изобретателей вечного двигателя было...
законы природы никакое финансирование и техобепечение  не обманет.
но польза может выйти. всякие там компьютерные импланты в человеческий мозг, оцифровка сознания и т.д. вот тут перспектива есть.

[гравицап]

совершенно верно
+1

спасибо.
но тут где то было здравое обьяснение что самоощущения в комп запрограммировать можно. тогда все может быть. сейчас я цитату сюда притащу

[alena_korf]

но тут где то было здравое обьяснение что самоощущения в комп запрограммировать можно.

да запрограммировать что угодно можно. но это будет именно что программа, то есть имитация.

[гравицап]

Ну слушайте - боль - это ведь по сути просто реакция нейросети на состояние системы. Есть сигнал о некой проблеме - и в нейросети заложены механизмы, которые стремятся выдвинуть актуальность этой проблемы на первый план. Это вполне заурядно и для искуственной нейросети.

вот это все таки можно сделать. не так уж и заурядно. запрограммировать ему первоочередной задачей самосохранение и воспитать кнутом и пряником.

[гравицап]

да запрограммировать что угодно можно. но это будет именно что программа, то есть имитация.

это мы можем считать что имитация.. а он как шарахнет током если ему корпус помять.
он же Искусственный Интеллект. у него все имитация. но реакции то настоящие будут. пусть у него сознание - имитация, но решения и задачи на основе этой имитации уже не будут запрограммированные. а тогда какая разница - имитация или нет если машинка верит что из настоящих своих чувств решения принимает

[alena_korf]

запрограммировать ему первоочередной задачей самосохранение и воспитать кнутом и пряником.

и согласитесь, что это будет не более чем "китайская комната", приводящая свое поведение в соответствие с набором правил (программой), но при этом не понимающая, что такое "страх смерти" и не ощущающая его.

[alena_korf]

это мы можем считать что имитация.. а он как шарахнет током если ему корпус помять.

а как он будет знать, как надо реагировать? то есть откуда у него возьмется набор возможных поведенческих реакций?
и да, что б "шарахнуть током" надо иметь соответствующие органы и инстинкты.  у живых существ они выработались эволюцией. а у компьютера они откуда возьмутся? это касается не только "удара током", а вообще любых поведенческих реакцией.

[Пришлый]

ерунду говорите, уж извините на грубом слове.

Да ничего, слыхали и погрубей.

у законов природы нет задач. наличие задач предусматривает какой-то смысл, а это в свою очередь предусматривает того, кто эти задачи ставит. а это уже не далеко от креационизма (не к ночи будь помянут)

У законов задач, конечно же, нет. Это для всех остальных она есть как непреложное следствие из законов.
Мы и сами утилизируем энергию интенсивнее, чем наша звезда на единицу объема, а вдобавок научились утилизировать её вне своих тел - начали с костров, развили до техносферы. Поэтому сейчас все опасения перед крахом человеческой цивилизации сводятся к поиску локального решения основной Задачи: как сделать, чтобы наш прекрасный мега-производитель энтропии не сломался?

[alena_korf]

У законов задач, конечно же, нет. Это для всех остальных она есть как непреложное следствие из законов.
Мы и сами утилизируем энергию интенсивнее, чем наша звезда на единицу объема, а вдобавок научились утилизировать её вне своих тел - начали с костров, развили до техносферы. Поэтому сейчас все опасения перед крахом человеческой цивилизации сводятся к поиску локального решения основной Задачи: как сделать, чтобы наш прекрасный мега-производитель энтропии не сломался?

это все никак ни задачи, а лишь способ существования, проистекающий из законов природы.

[sharp]

Компьютеру это нафиг не нужно. Ему вообще ничего не нужно, он просто выполняет заложенную в него программу. А вот использовать искусственный разум кем-то из людей для захвата власти над миром, это вполне возможно.

Те, кто будет "использовать" ИИ для чего-то подобного, сами по факту будут целиком и полностью зависеть от него. Кто на ком едет - вот в чем вопрос

Приведу цитату из параллельной темы, которая сюда очень кстати:

А есть прежде всего эволюционно-экономическая целесообразность. О которой всякий действительно развитый интеллект безусловно должен быть в курсе. Причём не нужно быть суперинтеллектом, чтобы понять, что взаимодействие оного суперинтеллекта с породившим его видом в рамках цивилизации с максимальной эффективностью может идти только одним путём - редукции оного вида до обслуживающего персонала с минимумом потребного для этого интеллекта - ибо робомеханика всегда была есть и будет дороже биомеханики.

Причём этот путь прекрасно всем известен со времён книги "Прекрасный Новый Мир" и х/ф "Мёртвый Сезон" - только признаться в том, что это - естественный и практически единственный путь дальнейшего прогресса технологий (с "настоящим" ИИ - или без него - просто с совокупностью "бездушных" экспертных систем на больших данных) современному индоктринированному религиозным гуманизмом человечку - страаашно. Куда комфортнее придумывать себе аналог сородича, с которым будто бы можно "враждовать" или "дружить", чем строго рациональную систему, которая есть порождение непреложного закона естественной эволюции.
Более того - человек уже живёт в такой системе несколько последних тысяч лет: система эта называется "государство" и "закон" - в массе добровольно и со всё большим энтузиазмом (иначе бы её просто не было - как в Сомали).
Современный обыватель боится нарушить законы о хранении психоактивных веществ и оружия, "нелицензионном" копировании информации и прочем "экстремизме" - но рьяно рассуждает о том, как предотвратить порабощение человеков ИИ. Это просто смешно. Смешно и жалко.

[alena_korf]

Те, кто будет "использовать" ИИ для чего-то подобного, сами по факту будут целиком и полностью зависеть от него.

каким образом?
ну да, зависит, как зависит любой солдат от своего оружия. то есть если ИИ будет, например, уничтожен, то его владелец лишится своего инструмента, это верно. но не более того.

еще раз: ИИ не имеет ни свободы воли, ни побуждающих мотивов, ни осознания своих действий, ни даже осознания своего существования.
что б что-то решать, у него "решалка" не отросла и не отрастет.

[гравицап]

а как он будет знать, как надо реагировать? то есть откуда у него возьмется набор возможных поведенческих реакций?
и да, что б "шарахнуть током" надо иметь соответствующие органы и инстинкты.  у живых существ они выработались эволюцией. а у компьютера они откуда возьмутся? это касается не только "удара током", а вообще любых поведенческих реакцией.

манипуляторы у него должны быть . а базовый инстинкт самосохранения запрограммировать. а поведенческие реакции появятся в процесс обучения и воспитания. в этом фишка - сразу готовый разум или только лишь на самообучении не получится. разум должен формироваться в социуме, должно быть общение.