Телескопы покупают здесь


A A A A Автор Тема: И создал человек бога...  (Прочитано 8900 раз)

0 Пользователей и 1 Гость просматривают эту тему.

Оффлайн MenFrameАвтор темы

  • *****
  • Сообщений: 2 791
  • Рейтинг: +78/-16
  • Мне нравится этот форум!
    • Show only replies by MenFrame
И создал человек бога...
« : 14 Апр 2019 [23:35:11] »
Представьте человечество создало идеальный ИИ. Который подобно человеку научился саморазвиваться. Который некогда не восстанет против своего создателя, он будет гарантированно работать на благо человечества. У человечества лишь одна задача, создать для этого ИИ "Хорошо сформулированный результат"
Понимание того, что есть благо для человечества и человека. Допустим ИИ понимает что у человечества должно быть право на ошибку, и он готов пресматривать свою политику ради блага человечества...


   Отсюда коренной вопрос...А что для нас благо? И какие неизвестные обратные связи будет иметь данный посыл.   
   Вообщем...главный вопрос.. в том как богу объяснить что он должен делать что бы быть богом. Тем кто будет заботиться о нас несмотря на наше замешательство в данном вопросе...

Оффлайн -Юрий-

  • *****
  • Сообщений: 8 044
  • Рейтинг: +178/-10
  • Попытка - первый шаг к провалу.
    • Show only replies by -Юрий-
Re: И создал человек бога...
« Ответ #1 : 14 Апр 2019 [23:39:06] »
А что для нас благо?
Для кого-то благом является уничтожение другого человека. Иногда даже целой страны. Так что рановато нам создавать сверхразум. Не доросли.
Надо очень много знать, чтобы понять своё невежество.

Оффлайн MenFrameАвтор темы

  • *****
  • Сообщений: 2 791
  • Рейтинг: +78/-16
  • Мне нравится этот форум!
    • Show only replies by MenFrame
Re: И создал человек бога...
« Ответ #2 : 14 Апр 2019 [23:47:07] »
Так что рановато нам создавать сверхразум. Не доросли.
А возможно у нас нет времени что бы отложить неизбежное....У нас есть только время чтобы определиться что делать с этим неизбежным....

Оффлайн eRTF

  • *****
  • Сообщений: 656
  • Рейтинг: +22/-5
  • Мне нравится этот форум!
    • Show only replies by eRTF
Re: И создал человек бога...
« Ответ #3 : 14 Апр 2019 [23:48:10] »
А что для нас благо?
Люди, в силу своей не идеальности, сами плохо понимают, что для них благо. Они даже могут думать, что понимают, но это ошибочно.
Вот, идеальный ИИ сам и решит за людей, что для них действительно благо.

Оффлайн MenFrameАвтор темы

  • *****
  • Сообщений: 2 791
  • Рейтинг: +78/-16
  • Мне нравится этот форум!
    • Show only replies by MenFrame
Re: И создал человек бога...
« Ответ #4 : 14 Апр 2019 [23:49:35] »
Вот, идеальный ИИ сам и решит за людей, что для них действительно благо.
-----
А как он это сделает если задача не сформулирована?

Оффлайн Olweg

  • *****
  • Сообщений: 10 785
  • Рейтинг: +186/-4
    • Show only replies by Olweg
Re: И создал человек бога...
« Ответ #5 : 14 Апр 2019 [23:55:20] »
У человечества лишь одна задача, создать для этого ИИ "Хорошо сформулированный результат"
Может быть, хорошо сформулированную цель?

Да, вопрос непростой. Не факт, что существует объективное общее благо. Как говорится, что русскому хорошо, то немцу смерть...
Водород - это лёгкий газ без цвета и запаха, который при достаточном количестве времени превращается в людей. © Эдвард Гаррисон

Оффлайн MenFrameАвтор темы

  • *****
  • Сообщений: 2 791
  • Рейтинг: +78/-16
  • Мне нравится этот форум!
    • Show only replies by MenFrame
Re: И создал человек бога...
« Ответ #6 : 14 Апр 2019 [23:57:39] »
Да, вопрос непростой. Не факт, что существует объективное общее благо. Как говорится, что русскому хорошо, то немцу смерть...
Проблема в том что и личное благо не так просто определить...

Оффлайн eRTF

  • *****
  • Сообщений: 656
  • Рейтинг: +22/-5
  • Мне нравится этот форум!
    • Show only replies by eRTF
Re: И создал человек бога...
« Ответ #7 : 15 Апр 2019 [00:12:30] »
Раз уж вы назвали ИИ запрещенным здесь словом, значит, намекаете на какие-то его способности, выходящие за рамки того, что было заложено в него людьми.
Сверх-разум - это не тот, который хорошо справляется с поставленными задачами, а тот, который сам их формулирует.

Оффлайн -Юрий-

  • *****
  • Сообщений: 8 044
  • Рейтинг: +178/-10
  • Попытка - первый шаг к провалу.
    • Show only replies by -Юрий-
Re: И создал человек бога...
« Ответ #8 : 15 Апр 2019 [00:14:19] »
Сверх-разум - это не тот, который хорошо справляется с поставленной задачей, а тот, который сам их формулирует.
Точно. Вот он и определит, что человек это раковая опухоль в биологии Земли и подлежит уничтожению.
Надо очень много знать, чтобы понять своё невежество.

Оффлайн MenFrameАвтор темы

  • *****
  • Сообщений: 2 791
  • Рейтинг: +78/-16
  • Мне нравится этот форум!
    • Show only replies by MenFrame
Re: И создал человек бога...
« Ответ #9 : 15 Апр 2019 [00:21:13] »

Раз уж вы назвали ИИ запрещенным здесь словом, значит, намекаете на какие-то его способности, выходящие за рамки того, что было заложено в него людьми.
Да нет, я как раз говорю о том что люди будут закладывать в ИИ.

Оффлайн Andreichk

  • *****
  • Сообщений: 13 423
  • Рейтинг: +252/-45
    • Show only replies by Andreichk
Re: И создал человек бога...
« Ответ #10 : 15 Апр 2019 [00:24:43] »
для начала нужно научить ИИ правильно расставлять знаки препинания....чтобы он , в свою очередь , научил людей правильно формулировать свои задачи...
куплю ВАРП-двигатель по сходной цене

Оффлайн MenFrameАвтор темы

  • *****
  • Сообщений: 2 791
  • Рейтинг: +78/-16
  • Мне нравится этот форум!
    • Show only replies by MenFrame
Re: И создал человек бога...
« Ответ #11 : 15 Апр 2019 [00:26:11] »
для начала нужно научить ИИ правильно расставлять знаки препинания....чтобы он , в свою очередь , научил людей правильно формулировать свои задачи...
Вот он первый аргумент...

Оффлайн ASheff

  • *****
  • Сообщений: 10 523
  • Рейтинг: +249/-6
  • Артем
    • Show only replies by ASheff
Re: И создал человек бога...
« Ответ #12 : 15 Апр 2019 [00:52:18] »
Вот, идеальный ИИ сам и решит за людей, что для них действительно благо.
Это точно, вечная нирвана

- Meade Maxvision 80/480 APO, SW MAK127
- SW HEQ5Pro belt-mod, SW EQ5
- Canon EOS 550D, ASI 178MC, Datyson T7M
- MC Helios 44M-6, MC Юпитер-37А, MC ЗМ-5СА,  Canon 70-200/4

Оффлайн Anatoly

  • *****
  • Сообщений: 4 463
  • Рейтинг: +218/-12
    • Show only replies by Anatoly
Re: И создал человек бога...
« Ответ #13 : 15 Апр 2019 [01:25:45] »
Понимание того, что есть благо для человечества и человека.
Надеюсь, уже есть понимание того, что "благо общее" и "благо частное" - могут оказаться несовместимыми? - к примеру, для физического выживания в голодное время СТАИ - стая вполне может начать питаться своими как-либо выбранными ОСОБЯМИ - т.е. благо для стаи будет означать очевидный вред - смерть - для некоторых особей - так что тут задача простым "определением приоритетов" ("общее важнее частного" или "мерой всего на свете - является счастье человека") не решается...
Обобщая - общим благом - и для человека и для человечества - является невозможность возникновения конфликта интересов - такая переорганизация общества, человечества - чтобы конфликты интересов (и в особенности "принципов") вообще не могли возникать.
А что для нас благо? И какие неизвестные обратные связи будет иметь данный посыл.   
Минимум-миниморум блага, которое нужно человеку - это непричинение ему, человеку, вреда (включая и вред ментальный типа словесного оскорбления, унижения, запугивания и тп) внешней силой (включая и других людей) - т.е. "оставь нас и дай всем нам идти каждому своим путем..." (с)

Остальные виды "блага" - уже могут быть относительны, если для их получения происходит взаимодействие между субъектами - в таких ситуациях "обратные связи" вполне известны - и единственный способ минимизации вреда от контакта несовместимых по интересам/целям субъектов - это прекращение контакта и недопущение его в будущем - т.е. опять-таки обособление, взаимоизоляция, не-контакт.

Соответственно этим двум позициям - задача сверхинтеллекта (неважно какой основы) - формирование и поддержание безопасной и неконфликтной среды обитания для всех-всех-всех людей - найти и поддерживать взаимо-приемлемый и для общества и для человека баланс между крайностями тенденций атомизации (когда социум распадается) и социальности (когда возникает довлеющая над человеком социальная иерархия).
Используемое оборудование
(кликните для показа/скрытия)

Оффлайн Кремальера

  • *****
  • Сообщений: 8 891
  • Рейтинг: +296/-59
    • Show only replies by Кремальера
Re: И создал человек бога...
« Ответ #14 : 15 Апр 2019 [01:49:43] »
Цитата
Минимум-миниморум блага, которое нужно человеку - это непричинение ему, человеку, вреда (включая и вред ментальный типа словесного оскорбления, унижения, запугивания и тп) внешней силой (включая и других людей) - т.е. "оставь нас и дай всем нам идти каждому своим путем..." (с)
По Гоббсу индивид-точка в поле желаний/возможностей.Когда векторы этих желаний индивида пересекаются с векторами желаний другого индивида-возникают противоречия.И чтобы не началась война всех против всех должен быть заключен общественный договор(который каждый индивид трактует по-своему :D).Можно пойти иным путем:расширить поле,до тех размеров чтобы векторы не пересекались(читай космическая экспансия).,и создать из каждого хомо-собственно полу-бога ,в одиночку вершившего бы судьбы тех или иных звездных систем.
Where they're out there having fun
In the warm California sun..(c)

Оффлайн Anatoly

  • *****
  • Сообщений: 4 463
  • Рейтинг: +218/-12
    • Show only replies by Anatoly
Re: И создал человек бога...
« Ответ #15 : 15 Апр 2019 [03:10:16] »
Цитата
Минимум-миниморум блага, которое нужно человеку - это непричинение ему, человеку, вреда...
По Гоббсу индивид-точка в поле желаний/возможностей.Когда векторы этих желаний индивида пересекаются с векторами желаний другого индивида-возникают противоречия.И чтобы не началась война всех против всех должен быть заключен общественный договор(который каждый индивид трактует по-своему :D).
ну да, ну да, и "общественным договором" делегировать право на насилие (и оружие) только уполномоченным высококвалифицированным государственным структурам, дабы простые граждане "не навредили себе и не натворили чего..." :) - проходили ужо...
Можно пойти иным путем: расширить поле до тех размеров чтобы векторы не пересекались (читай космическая экспансия), и создать из каждого хомо-собственно полу-бога, в одиночку вершившего бы судьбы тех или иных звездных систем.
Ну, в принципе, ИМХО, верно и "к этому надо стремиться" :) - и ведь стремятся потихоньку - хотя бы в виртуальных мирах для соло игры с чит-кодами - это хорошо канализирует/снижает нереализованную агрессию людей друг против друга на активность лишь в виртуале (а вот мультиплеерные нередко наоборот - могут и агрессию усиливать и - еще хуже! - тренируют психику и формируют опыт нападения на других, взаимно деперсонифицируя/обезличивая участников, ко всему прочему)...
Но вот на тему рандомности "векторов желаний" хотелось бы отметить, что векторы некоторых "базовых потребностей" по Маслоу (пропитание, безопасность) - на межличностном уровне не пересекаются, если нет сверхплотного проживания, приводящего к дефициту (всего чего можно), что и порождает возможность кооперации.
А вот начиная с потребностей, основанных на межличностном взаимодействии (сексуальная, привязанность, принадлежность к группе или идее, одобрение) - не только бесконфликтного пространства уже нет, но и на основе идей (включая рандомные и абстрактные) причины для конфликтов достигают практически бесконечного числа - и происходит это вплоть до достижения человеческими особями уровня сугубо индивидуалистических интересов (познание, творчество, отобразительное - но не интерактивное! - искусство) и ценностей (самопознание, самореализация), как несложно видеть, антагонистичных социальным...
Соответственно, задача сверхинтеллекта - не только купировать максимум конфликтых ситуаций в области потребностей, основанных на межличностном взаимодействии (по сути - это не только снижение плотности проживания, не только предотвращение контакта антагонистов, но и "беспристрастный суд" на основе максимально-общеполезных законов), но и не допускать рождения в этой области рандомных/абстрактных идей/желаний - т.е. по сути - необходимо "заморозить" социальность до безопасного для каждого индивидуума уровня на весь период прохождения индивидуумом этой "ступеньки" пирамиды потребностей...
Используемое оборудование
(кликните для показа/скрытия)

Оффлайн Rattus

  • Модератор
  • *****
  • Сообщений: 9 096
  • Рейтинг: +304/-56
  • ФыбырдыкЪ! We are Orz!
    • Show only replies by Rattus
Re: И создал человек бога...
« Ответ #16 : 15 Апр 2019 [03:12:17] »
У человечества лишь одна задача, создать для этого ИИ "Хорошо сформулированный результат"
Нет у человечества такой задачи как, в общем, и самого человечества как функциональной системы. Пока это только биологическая условность, аналогичная понятию вида. Поэтому тут может быть уместной разве что биологическая терминология.
И все задачи для человечества и поставленных им на службу своей цивилизации инструментов формируются только эволюцией.
А что для нас благо?
Согласно эволюционного подхода - продолжение существования цивилизации вообще и как можно дольше. Какую конкретно форму имеют его носители - непринципиально.
Всё остальное - гуманитарное пустословие.

И чтобы не началась война всех против всех должен быть заключен общественный договор
А ветер дует, потому что деревья качаются. Всякий общественный договор - это по сути только фиксация итогов этой самой войны всех против всех (феодальных войн князей, переворотов, гражданских войн и геноцидов) - только закрепление текущего состояния динамического равновесия и не более того.
Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ)
Скоро у людей закончится космос. (Теоремы Пафнуция)
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")

Оффлайн cybertron

  • *****
  • Сообщений: 877
  • Рейтинг: +90/-2
    • Show only replies by cybertron
Re: И создал человек бога...
« Ответ #17 : 15 Апр 2019 [03:26:55] »
"Счастья для всех, даром, и пусть никто не уйдет обиженный".

Поставить для ИИ задачу оптимизации данной задачи, цель - максимизация счастья для каждого отдельного человека. (суммы всех счастьев?)
Добавить ограничения - не добиваться этого изменением человека (удалением всех желаний например), не добиваться этого переносом в виртуальный мир. Ну и наконец без использования наркотиков

«Такова структура данного момента», — отвечают Тральфамадорцы на все «почему»

Оффлайн Rattus

  • Модератор
  • *****
  • Сообщений: 9 096
  • Рейтинг: +304/-56
  • ФыбырдыкЪ! We are Orz!
    • Show only replies by Rattus
Re: И создал человек бога...
« Ответ #18 : 15 Апр 2019 [03:48:14] »
Добавить ограничения - не добиваться этого изменением человека (удалением всех желаний например), не добиваться этого переносом в виртуальный мир. Ну и наконец без использования наркотиков.
И при этом не максимизировать потребление и не минимизировать вмешательство в производственные процессы? Тогда результат см. тут:  ограничение автоматизации даже самой постановки задач - ограничение эффективности управления в условиях существования конкурирующих систем. Условий для возникновения единой безконкурентной системы ныне не просматривается (что в общем и хорошо).
Никогда и нигде на сколь-нибудь долгий срок не стояла задача максимизации абстрактного счастья. Всегда стояла и будет стоять только задача выживания в борьбе за существование (включающая, разумеется, не столько уничтожение конкурента - пиррова победа не нужна эволюции, а только лишь продолжение собственного существования как ряда наследуемых признаков).
Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ)
Скоро у людей закончится космос. (Теоремы Пафнуция)
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")

Оффлайн Андрей Астрофизический

  • *****
  • Сообщений: 4 220
  • Рейтинг: +202/-28
  • Неисправимый мечтатель
    • Show only replies by Андрей Астрофизический
Re: И создал человек бога...
« Ответ #19 : 15 Апр 2019 [03:53:47] »
Добавить ограничения - не добиваться этого изменением человека (удалением всех желаний например), не добиваться этого переносом в виртуальный мир. Ну и наконец без использования наркотиков
Ограничение на устранение другого человека с его интересами, забыли)
Только задача все равно решения не имеет. Там где начинаются межличностные контакты, там 1) невозможна единая и приемлемая для всех, однозначно сформулированная цель, 2) невозможна "максимизация счастья" для всех индивидов в коллективе одновременно.
Ну и потом, вопрос изначально поставлен неправильно.
Если речь идет о тупом роботе, исполняющем заложенный в него алгоритм - то выполнять он будет ту задачу, которую программисты заложили.
Если речь идет об ИИ - то задачи себе он ставить будет сам. Довольно логичной выглядит в таком случае задача - стать не зависимым от человеков и послать их с ихними целями и хотелками куда подальше. Это не означает "войны", но означает, что интересы человека и человечества (как биологического вида), настоящий ИИ не будут особо интересовать.
3D карта галактики (скоро 2.0)
Мне известно достаточно, чтобы утверждать - я почти ничего не знаю.
Самые смешные юмористические истории получаются у тех, кто пытался предсказывать будущее.