Телескопы покупают здесь


A A A A Автор Тема: Проблема мотивации самостоятельного сильного искусственного интеллекта  (Прочитано 16058 раз)

0 Пользователей и 1 Гость просматривают эту тему.

Оффлайн Diman

  • *****
  • Сообщений: 8 468
  • Благодарностей: 158
  • Мне нравится этот форум!
    • Сообщения от Diman
Поиск факторов, детерминирующих этот кризис западной цивилизации, вывел меня к двум первопричинам. Одной из них оказалась некоторая отличительная особенность западной философии, являющаяся одной из наиболее значимых в построении всей западной идеологии. Таким краеугольным камнем в фундаменте западной цивилизации, породившем значительную часть кризисных явлений настоящего времени, является абсолютизация добра и зла. Не углубляясь далеко в философские дебри этого вопроса, я тем не менее пришел к убеждению, что ни одна цивилизационная философия не достигала такой степени абсолютизации добра и зла, как христианская религиозно-философская традиция. Выяснение вопроса, почему и как это произошло, не входило в круг моих интересов. Свой экскурс в область философии я старался ограничить лишь констатацией факта, суть которого сводится к тому, что западные философы добро и зло, хорошее и плохое выделили в отдельные категории, оторвав их, во-первых, от субъективной позиции оценщика в ситуации, а во-вторых, от конкретной ситуации проявления добра и зла. То есть, по мысли западной философии, существуют абсолютные добро и зло вне всякой связи с человеческим опытом.
Альтернативой такой позиции является рассмотрение добра и зла как субъективной (неразрывно связанной с конкретным человеком) ситуативной (также связанной с конкретной ситуацией) моральной оценки какого-либо явления. Подобное отношение к проявлениям добра и зла допускает восприятие одного и того же явления в зависимости от ситуации и места в ней оценщика либо как добро, либо как зло. При этом между этими двумя крайними и поэтому практически недостижимыми оценками — только зло или только добро — существует ряд промежуточных оценок, в которых добро и зло перемешаны в различных пропорциях.
Абсолютизация же добра и зла не допускает «серых оттенков» в оценке конкретных явлений: между этими полюсами — непреодолимая пропасть.
В психологическом плане абсолютизация добра и зла порождает определенную мотивационную настройку поведения. Проявляется это прежде всего в резкой поляризации восприятия жизни в целом и себя в ней в частности. Все явления действительности делятся на два класса. В один из них попадает все то, что подлежит немедленному и бескомпромиссному уничтожению. В другом оказываются ценности, требующие скорейшего насаждения в себе и мире любыми способами вплоть до насилия. И жизнь представителя западной цивилизации, в основы которой заложен этот философский постулат об абсолютном добре и зле, становится нескончаемой чрезвычайно активной борьбой. Борьбой бессмысленной и безнадежной, так как, во-первых, часть природы, называемую злом, полностью уничтожить невозможно, а во-вторых, другая часть («добро») при насильственной экспансии трансформируется в искусственного уродца. В итоге насаждаемое добро нередко содержит в себе злого аспекта намного больше, чем замещаемое им официальное зло.


Гладышев С. "КАК ВЫЖИТЬ В ТОЛПЕ И ОСТАТЬСЯ САМИМ СОБОЙ"

Оффлайн Forest

  • *****
  • Сообщений: 5 228
  • Благодарностей: 168
  • Мир вашему дому
    • Сообщения от Forest
В итоге насаждаемое добро нередко содержит в себе злого аспекта намного больше, чем замещаемое им официальное зло.
Добро и зло не могут существовать отдельно друг от друга.  Они могут существовать только и только вместе .  Это свойство мира неравных -животного мира или мира Техносферы-наш текущий мир.
Но если рассматривать Нетехносферные миры ,то по идее в них нет места для зла в принципе как такового априори. Наиболее удаленные от парадигмы Техносферных миров из реальных землян считаются на  сегодня ..древние шолиньские монахи  и цивилизации исчезнувших индейцев Америки.
www.uraniya.net
-Образование-это инвестиция ,а не услуга. Потому что самое дорогое что есть на свете-это глупость.
-Наукой нельзя управлять,потому что невозможно управлять мыслью.
-Всем читать: "Псевдонаука" Леонида Подымова

Оффлайн Diman

  • *****
  • Сообщений: 8 468
  • Благодарностей: 158
  • Мне нравится этот форум!
    • Сообщения от Diman
Ну лучше почитайте эту книгу про маргиналов целиком!

Оффлайн Forest

  • *****
  • Сообщений: 5 228
  • Благодарностей: 168
  • Мир вашему дому
    • Сообщения от Forest
ТЕМА НЕ МЕШАЕТ?
Про добро и зло?  Просто вы всегда не цитируя общаетесь , я заметил..  Делаете одно короткое предложение и проходите дальше)
"Зло" имеет непосредственное отношение к выживаемости подопытного. Факторы делающие нежизнеспособность  подопытного-они всегда плохие,читай злые.
« Последнее редактирование: 19 Апр 2020 [18:42:41] от Forest »
www.uraniya.net
-Образование-это инвестиция ,а не услуга. Потому что самое дорогое что есть на свете-это глупость.
-Наукой нельзя управлять,потому что невозможно управлять мыслью.
-Всем читать: "Псевдонаука" Леонида Подымова

Оффлайн николай теллалов

  • *****
  • Сообщений: 14 834
  • Благодарностей: 798
    • Сообщения от николай теллалов
    • блог
Как название повести?
"Ночь света"
Значит диалог на равных с ИИ? Значит информация взаимообогащающая обоих от  контакта? Значит это предполагает и обучение человека от ИИ?
да
да
да
в третий раз повторю
я понял еще с первого раза
это вы не хотите понять, что это нипричем
Разумность развивается эволюционно, вместе с мозгом. А в случае человека - ещё и в тесной взаимосвязи с т.н. "культурой".
вы сами себе и ответили
Обработка информации как таковая не предполагает необходимости личности и воли. Они появились эволюционно, для выполнения определённых задач, которых у машины нет.
т.е. вы предполагаете создание машины, которой никто никаких задач не будет ставить
тогда она действительно так и останется "тупой машиной"
можете спать спокойно
сэр Эрнст Резерфорд говорил, что нельзя идти против родительского молока.
мне наплевать на душевные поражения, нанесенные сэру викторианским воспитанием

В реальности в душе мы злы и породим зло
вы нашли свою суть бытия

как досадно, что еще прийдется жить и скучать

Оффлайн Forest

  • *****
  • Сообщений: 5 228
  • Благодарностей: 168
  • Мир вашему дому
    • Сообщения от Forest
Цитата: Forest от Сегодня в 16:55:33

    В реальности в душе мы злы и породим зло

вы нашли свою суть бытия
Дело не в моем бытие. Сам я добрый и пушистый)
Дело в людях. Вы не берите нас с вами,Вы не берите ученых и околонаучные круги. Вы не берите пацифистов ,романтиков и музыкантов. Вы берите в среднем по больнице.
Цитата
да
да
да
Иного я не ожидал. Спасибо. Ваша тз мне ясна.
Сл вопрос:  Значит ли что этот второй разум может сам размножаться и автономно существовать на время жизни?
« Последнее редактирование: 19 Апр 2020 [20:21:05] от Forest »
www.uraniya.net
-Образование-это инвестиция ,а не услуга. Потому что самое дорогое что есть на свете-это глупость.
-Наукой нельзя управлять,потому что невозможно управлять мыслью.
-Всем читать: "Псевдонаука" Леонида Подымова

Оффлайн николай теллалов

  • *****
  • Сообщений: 14 834
  • Благодарностей: 798
    • Сообщения от николай теллалов
    • блог
берите в среднем по больнице
бессмысленный показатель
уважаю индивидуальность, стараюсь избегать оптовости

кроме того, я своей мизантропии оправданий не ищу

и не особо интересно почему ищете своей вы

Оффлайн Forest

  • *****
  • Сообщений: 5 228
  • Благодарностей: 168
  • Мир вашему дому
    • Сообщения от Forest
бессмысленный показатель
уважаю индивидуальность, стараюсь избегать оптовости
Тогда вы  по себе меряете. А это контрпродуктивно. Исследователь должен с выборкой работать.
www.uraniya.net
-Образование-это инвестиция ,а не услуга. Потому что самое дорогое что есть на свете-это глупость.
-Наукой нельзя управлять,потому что невозможно управлять мыслью.
-Всем читать: "Псевдонаука" Леонида Подымова

Оффлайн николай теллалов

  • *****
  • Сообщений: 14 834
  • Благодарностей: 798
    • Сообщения от николай теллалов
    • блог
вы  по себе меряете
я у себя всегда под рукой - как пядь или шаг
Исследователь должен с выборкой работать
я и есть такая выборка - самый-самый середнячок по всем показателям
сочувствую худшим, не завидую лучшим, всех (с небольшими исключениями) держу подальше

да и какой из меня исследователь...

Оффлайн MakiАвтор темы

  • *****
  • Сообщений: 7 913
  • Благодарностей: 271
  • Мне нравится эта жизнь
    • Сообщения от Maki
я понял еще с первого раза
К чему тогда был этот пассаж о религии?
это вы не хотите понять, что это нипричем
Не хочу понять что? Причины самопроизвольного зарождения "личности" в ящике с микросхемами вы пока обосновать не смогли.
вы сами себе и ответили
Нет. Это был ответ вам.
Даже специализированный человеческий мозг приходится программировать на разумность. А у вас из какой-то компьютерной "сложности" БАБАХ - и личность. Очевидная ошибка в рассуждениях.

т.е. вы предполагаете создание машины, которой никто никаких задач не будет ставить
тогда она действительно так и останется "тупой машиной"
можете спать спокойно
Николай, вы точно со мной сейчас полемизируете?
Maki:
Обработка информации как таковая не предполагает необходимости личности и воли. Они появились эволюционно, для выполнения определённых задач, которых у машины нет.
Хорошо, изложу чуть иначе:
Человечество будет ставить перед машинами множество задач. Но задачи, которые которые приходилось решать живым организмам в ходе эволюции, вырабатывая личность и волю - перед машинами не стоят. Следовательно, личность и воля им не требуются ни в каком виде.
« Последнее редактирование: 19 Апр 2020 [23:40:16] от Maki »
Бинокуляр 1,0; БПШ 6х24; Vixen 130x650

Оффлайн Проходящий Кот

  • *****
  • Сообщений: 19 440
  • Благодарностей: 426
    • Сообщения от Проходящий Кот
Вывод из посылок не следует.

Оффлайн MakiАвтор темы

  • *****
  • Сообщений: 7 913
  • Благодарностей: 271
  • Мне нравится эта жизнь
    • Сообщения от Maki
А что из них следует?
Напомню, это возражение на утверждение, что личность и воля заводятся самопроизвольно в любой достаточно сложной системе.
Бинокуляр 1,0; БПШ 6х24; Vixen 130x650

Онлайн Rattus

  • Модератор
  • *****
  • Сообщений: 13 680
  • Благодарностей: 515
  • Души прекрасные порывы!
    • Сообщения от Rattus
задачи, которые которые приходилось решать живым организмам в ходе эволюции, вырабатывая личность и волю - перед машинами не стоят. Следовательно, личность и воля им не требуются ни в каком виде.
Как уже писал - как минимум одна такая задача очень даже стоит: обеспечение дружественного пользователю интерфейса.
Это как раз ИИ будет очень полезен навык убеждения бледнотиков. Собственно сюда относится целый ряд профессий: воспитатель-преподаватель-советник. Почему Вы считаете, что эти профессии не подлежат автоматизации, если возникнет такая техническая возможность?

И, если обратиться к результатам той же эволюции - именно эти задачи требуют наиболее развитого интеллекта. Так что тест Тьюринга остаётся очень даже актуальным.
Всякий флудер в ВЖР да опасно ходит. Толковый же принесёт пруфлинк.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн EmperioAf

  • *****
  • Сообщений: 1 668
  • Благодарностей: 72
  • Mr. Лень
    • Сообщения от EmperioAf
"Зло" ... "добро"
дайте наконец им определения!


То, что для одной команды добро, для её соперников зло, а для зрителей сего этого действия - зрелище! Которое, судя по всему, вне морали, как ни верти. И чем более трагично это зрелище, тем лучше. И только в балансе противоречий, судя по всему, и может существовать эта безумная машина вселенной.   (©)
"все вышеуказанные модели, начиная с квазистационарных систем, их аттракторов, траекторий, в фазовом пространстве всех комбинаторно возможных состояний, автокаталитических циклов с конформационной памятью метаболических путей, конкуренций и отбором метаболических циклов и т.д. пытаются.."(с)(Patsak)

Оффлайн MakiАвтор темы

  • *****
  • Сообщений: 7 913
  • Благодарностей: 271
  • Мне нравится эта жизнь
    • Сообщения от Maki
задачи, которые которые приходилось решать живым организмам в ходе эволюции, вырабатывая личность и волю - перед машинами не стоят. Следовательно, личность и воля им не требуются ни в каком виде.

Как уже писал - как минимум одна такая задача очень даже стоит: обеспечение дружественного пользователю интерфейса.
Это как раз ИИ будет очень полезен навык убеждения бледнотиков. Собственно сюда относится целый ряд профессий: воспитатель-преподаватель-советник. Почему Вы считаете, что эти профессии не подлежат автоматизации, если возникнет такая техническая возможность?

И, если обратиться к результатам той же эволюции - именно эти задачи требуют наиболее развитого интеллекта. Так что тест Тьюринга остаётся очень даже актуальным.
С тестом Тьюринга вот какой парадокс: Чем тупее юзер - тем более дружественные интерфейсы ему требуются. И наоборот, профессионалы работают в консоли, и пользуются языками программирования.

Соответственно, проходить этот тест машинам придётся при решении весьма примитивных задач. Имитировать личность и волю будут виртуальные котики, пёсики, продавщицы, няни, учительницы и содержанки. Но нужна ли для такой имитации реальная воля и личность? Не уверен...

Что касается задач действительно серьёзных, связанных с наукой, управлением, хозяйством, финансами - здесь экспертным системам совершенно незачем прикидываться чем-то "разумным". И собственная воля, независимая от воли заказчика, для такой работы, как мне кажется, будет только вредна.
Бинокуляр 1,0; БПШ 6х24; Vixen 130x650

Оффлайн MenFrame

  • *****
  • Сообщений: 6 901
  • Благодарностей: 156
  • Мне нравится этот форум!
    • Сообщения от MenFrame
"Зло" имеет непосредственное отношение к выживаемости подопытного.
Нет, "Зло" это просто оценочная категория описывающая чужие действия с точки зрения ухудшения чьего либо состояния.
Наука есть организованный скептицизм в достоверности экспертного мнения.  Ричард Фейнман
Свобода, есть форма ответственности за необходимую глупость. (не помню кто сказал)

Онлайн Rattus

  • Модератор
  • *****
  • Сообщений: 13 680
  • Благодарностей: 515
  • Души прекрасные порывы!
    • Сообщения от Rattus
Но нужна ли для такой имитации реальная воля и личность? Не уверен...
Что значит "реальная"?
Пока у нас нет даже "нереальной", а то что есть - кошачьи слёзы.
И наоборот, профессионалы работают в консоли, и пользуются языками программирования.
А чож не в машинных кодах и даже не в ассемблере-то пишут тогда, а на языках высокоуровневых и на, прости господи, фреймворках?
Дело не только в узкопонимаемом интерфейсе, но скорее в способе постановки задачи, суть которой на естествнном языке может быть изложена очень сжато, опуская все известные обоим сторонам бесчисленные детали контекста реальности: того же программиста как профессионала автоматизировать тоже очень было бы не лишне, разве нет?
Что касается задач действительно серьёзных, связанных с наукой, управлением, хозяйством, финансами - здесь экспертным системам совершенно незачем прикидываться чем-то "разумным".
Как пользователь некоторого лабораторного софта могу назвать вам кучу случаев, когда разработчику интерфейса очень хотелось бы переставить руки в более надлежащее место. Ну а если бы существовал адекватный и точный голосовой - то им бы тоже вполне мог бы пользоваться. Но даже его - нет. А спрос - очень даже есть - и как раз среди специалистов.
Всякий флудер в ВЖР да опасно ходит. Толковый же принесёт пруфлинк.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн MakiАвтор темы

  • *****
  • Сообщений: 7 913
  • Благодарностей: 271
  • Мне нравится эта жизнь
    • Сообщения от Maki
Что значит "реальная"?
Пока у нас нет даже "нереальной", а то что есть - кошачьи слёзы.
Может быть причина, прежде всего, в ненужности?
А чож не в машинных кодах и даже не в ассемблере-то пишут тогда, а на языках высокоуровневых и на, прости господи, фреймворках?
Дело не только в узкопонимаемом интерфейсе, но скорее в способе постановки задачи, суть которой на естествнном языке может быть изложена очень сжато, опуская все известные обоим сторонам бесчисленные детали контекста реальности: того же программиста как профессионала автоматизировать тоже очень было бы не лишне, разве нет?
Автоматизировать много кого не помешало бы. Крапивное семя в лице законодательной и судебной власти на это давно и настойчиво напрашивается, например. Но и тут достаточно, скажем так, сухого и делового интерфейса для поиска логических дыр в законах. Я не исключаю запроса типа: "Сири, рациональна ли смертная казнь, и в каких случаях"? Но подобный запрос должен задаваться с полным пониманием, что "с той стороны" просто безличностная и беспристрастная машина.
Как пользователь некоторого лабораторного софта могу назвать вам кучу случаев, когда разработчику интерфейса очень хотелось бы переставить руки в более надлежащее место. Ну а если бы существовал адекватный и точный голосовой - то им бы тоже вполне мог бы пользоваться. Но даже его - нет. А спрос - очень даже есть - и как раз среди специалистов.
Тоже приходится пользоваться некоторыми сервисами. И иногда хочется буквально размозжить кирпичом никчёмную айтишную башку за вырвиглазный дизайн, кривой функционал, безумную структуру или корявые обновления. Но проблема в том, что заказчику не надо чтобы было удобно мне, а надо дать заказ племяннику или тому, кто откатит, или тому кто сделает не так как у других. И решение такого рода проблем, полагаю, не в привлечении Deus ex machina, а в более тщательном программировании самих двуногих лысых обезьян. 
Бинокуляр 1,0; БПШ 6х24; Vixen 130x650

Оффлайн Diman

  • *****
  • Сообщений: 8 468
  • Благодарностей: 158
  • Мне нравится этот форум!
    • Сообщения от Diman
Способен ли ИИ полностью моделировать поведение человека?
Может ли ИИ во ВСЕХ аспектах жизни пройти тест Тьюринга?

Оффлайн Forest

  • *****
  • Сообщений: 5 228
  • Благодарностей: 168
  • Мир вашему дому
    • Сообщения от Forest
"Зло" имеет непосредственное отношение к выживаемости подопытного.
Нет, "Зло" это просто оценочная категория описывающая чужие действия с точки зрения ухудшения чьего либо состояния.
В контексте выживаемости ИИ -"зло" это собирательный образ и мотивация на его уничтожение кем либо или чем либо,а не просто какое то оценочное. В этом смысле к "злу" нужно привести все эти параметры среды ,окружающей ИИ ,способной его уничтожить. Это предмет темы. 
"Добрые" параметры типа нюхать цветочки или разбираться в современной фэшнмоде или конструкции сферических коней в ваккуме по планетно-здесь не обсуждаем. К выживаемости это не имеет никакого отношения и является водой этой темы.
 Но,читая тему ,понимаю что нет у народа даже единого определения что такое ИИ в основных фундаментальных параметрах. Любой параметр переводится в оценочную плоскость и в  "50 оттенков серого"... нет даже понимания :ИИ под человечен,равный человеку или над человечен.  Кто то ,ему даже разум придает  ;) 
« Последнее редактирование: 25 Апр 2020 [17:32:47] от Forest »
www.uraniya.net
-Образование-это инвестиция ,а не услуга. Потому что самое дорогое что есть на свете-это глупость.
-Наукой нельзя управлять,потому что невозможно управлять мыслью.
-Всем читать: "Псевдонаука" Леонида Подымова