Раса суперлюдей или ИИ

[ВадимZero]

Сложная система потому что.

Несовершенная по тому что. Проблемы с памятью. Проблемы с конгруэнтностью(целостностью) Проблемы с эмоциями.

А человек потому и отличается гибкостью и универсальностью.

На дороге у мозга нет возмождности сделать что то гибкое и универсальное. Синапсы успевают лишь вытащить уже готовое решение, на ходу чуть подправив его под текущую ситуацию.

[stuuvi]

Несовершенная по тому что. Проблемы с памятью. Проблемы с конгруэнтностью(целостностью) Проблемы с эмоциями.

С эмоциями проблем нет - проблема есть с их подавлением, что приводит к агрессивному поведению. Эмоциональные люди же обычно проблем с эмоциями не испытывают.

[stuuvi]

Несовершенная по тому что. Проблемы с памятью.

Проблемы с памятью есть только у сознания, мозг же выдаёт результаты из обширной базы данных, накопленной за жизнь.

На дороге у мозга нет возмождности сделать что то гибкое и универсальное. Синапсы успевают лишь вытащить уже готовое решение, на ходу чуть подправив его под текущую ситуацию.

В целом человек универсален. В отдельной ситуации возможно нет.

[ВадимZero]

Эмоциональные люди же обычно проблем с эмоциями не испытывают.

Мы говорим не о проблемах людей, а о проблемах ЕИ как управляющего элемента. У обкуренного в дым таксиста тоже нет проблем.

Проблемы с памятью есть только у сознания,

Так человек сознательно управляет. Огромное количество ошибок ЕИ заканчивается словами "Как я мог забыть?"

[stuuvi]

Так человек сознательно управляет. Огромное количество ошибок ЕИ заканчивается словами "Как я мог забыть?"

Да, сознательно. Однако сознания у компьютеров не замечено, чтобы делать вывод насколько оно окажется совершеннее. А вот рефлекторные автоматы у которых сознания либо нет либо оно зачаточное в виде простейших организмов вполне действуют по четким отработанным схемам, ничего нужного не забывая. Рефлексы и инстинкты не забываются ведь? Зрение вполне рефлекторно ведь например и ничего, сложнейший алгоритм действует без ошибок.

Ну да, гугл в мозгу ответы по запросу иногда не выдаёт, однако есть люди и случаи зафиксированы, которые помнят всю свою жизнь в мельчайших подробностях. Видимо не у всех настроено таким образом.

[ВадимZero]

А вот рефлекторные автоматы у которых сознания либо нет либо оно зачаточное в виде простейших организмов вполне действуют по четким отработанным схемам, ничего нужного не забывая.

Кстати один из типов ошибок ЕИ, состоит в том что сознание начинает вмешиваться в работу уже отлаженных систем. Эффект сороконожки так сказать.

Рефлексы и инстинкты не забываются ведь?

Так рефлексы и инстинкты не работают до тех пор пока не окажутся в фокусе внимания сознания. Забудет сознание взглянуть на зеркала, соответствующие реакции останутся не активными.

которые помнят всю свою жизнь в мельчайших подробностях.

Но у них другие проблемы.

[алексей12345]

Могут, но эта проблема легко решаема в отличии от человека.

Это если есть взгляд со стороны, который может сказать что это ошибка. О какой именно ошибке идёт речь?

Человек получает некоторые данные, в итоге даёт на выходе решение. Если данные были неверными, то решение будет верным только исходя из тех данных, но в общем оно будет неверным, поскольку данные были не теми которые надо.

В смысле любое решение логично, но в рамках той логики которой наделён человек - я так понимаю. Дайте другую логику, будут другие , устраивающие(верные) решения.

Или например аппарат управляемый ИИ задавил человека. Почему он будет считать, что это ошибка? Ведь для него может быть и так, что задавленный человек - естественный ход событий, которые привели к этому результату. То есть в принципе решение верное. Если же дать ему команду что человека давить нельзя, решение будет уже восприниматься как неверное. Но в следствии дизайна устройства и ситуации, может оказаться что задавленный человек - единственный возможный вариант в таких условиях. Тут уже надо будет менять дизайн и предотвращать ситуацию какими то превентивными методами.

Однако если он будет способен задавать вопрос - почему? Что в принципе является одной из характеристик интеллекта. То он может поставить под сомнение указание, что человека давить нельзя.

Абсолютно согласен.
Любое понятие верно относительно иного базового понятия. Так, не существует тьмы без света, и нет добра без зла. Все это закладывается человеком при разработке алгоритмики мышления ИИ. При этом очевидно, что ошибки изначально заложенные человеком будут неизбежно приводить к ошибкам ИИ.
Не существует даже понятий абсолютного добра, абсолютной правды для всех. То, что русскому хорошо, немцу -... ну вы поняли.

[stuuvi]

Ну так способность задать вопрос почему это основа логического мышления. Непонятно как он будет делать выводы и тем самым приходить к каким то решениям без это возможности. А если сможет задаваться такими вопросами, то видимо сможет и указания ему данные поставить под сомнение.

[-Юрий-]

Чего-то мне кажется, что все спорящие немного не так понимают проблему ИИ. Априори предполагая, что этот самый ИИ должен рождаться уже  готовым индивидом со всеми характеристиками, присущими зрелой личности. Вот человек. Только родился. Он разумен? Да. Его мозг - мощный инструмент, но ещё не обученный и не приобретший жизненного опыта, необходимых знаний. Это он будет приобретать в течение жизни. Так же и ИИ. Создаётся мощный инструмент, аналог человеческого мозга, только с ещё большими возможностями. Именно "чистый интеллектуальный инструмент". А уж чему мы его научим, какие вложим в него моральные ценности, это зависит от нас, от человеков. Точно так же, как с ребёнком - можно вырастить  Александра Матросова, а можно - Гитлера. Можно сравнить и с каким-нибудь инструментом, например, с ножом. Им можно убить человека, а можно вырезать аппендицит. Так что нужно оценивать не сам интеллектуальный инструмент, а то, что мы вложим в него.

[алексей12345]

Так что нужно оценивать не сам интеллектуальный инструмент, а то, что мы вложим в него

В общем-то согласен. Только проблема в том, что непонятно кто и чему будет его учить.  И цена ошибки будет весьма значительна. То же касается злонамереных действий.
Готов ли человек на нынешнем этапе развития, имея ввиду моральную и этическую сторону вопроса, быть ответственным за такие действия и результаты?

[ВадимZero]

Точно так же, как с ребёнком - можно вырастить  Александра Матросова, а можно - Гитлера.

Нельзя. Характер во многом вещь врожденная.

[алексей12345]

Нельзя. Характер во многом вещь врожденная

А дело не в характере. А в воспитании и исторической ситуации. Кто знает, стал бы скромный художник средней степени таланта по фамилии Шикельгрубер тем Гитлером, если бы не исторический контекст? Наверняка нет.

[ВадимZero]

Кто знает, стал бы скромный художник средней степени таланта по фамилии Шикельгрубер тем Гитлером, если бы не исторический контекст? Наверняка нет.

Наверняка нет.....Но и другой характер окажись в том же контексте историческом и воспитательном Гитлером не стал бы.

[Nucleosome]

Но и другой характер окажись в том же контексте историческом и воспитательном Гитлером не стал бы.

не стал бы. но подходящий характер всегда отыщится. не палеолит, народу много.

[люк]

ИИ не имеет чувств, в том числе негативных, а детей воспитывают на негативной эмоциональной составляющей, у преступников эмоции ослаблены генетически, поэтому их бесполезно воспитывать, для них нет чувств, нет и сочувствия, тем более ИИ, он равносилен суперпреступнику, ибо начисто лишен ощущений, и поэтому его наказать невозможно, так же он лишен и сочувствия, посему с точки зрения обывательской, ему путь в преступники просто предрешен, тем более учитывая, что он бесконечно превосходит живые индивиды, и способен с ними делать все что угодно, и способен упралять массами как угодно. Любой гитлер жалкий ребенок на его фоне....

[незлой]

кстати - интересный вопрос: как запрограммировать эмпатию?
(то, что её можно запрограммировать - очевидно: всё, что получилось у эволюции имеет решение и для нас)

[DimVad]

Так же и ИИ. Создаётся мощный инструмент, аналог человеческого мозга, только с ещё большими возможностями. Именно "чистый интеллектуальный инструмент". А уж чему мы его научим, какие вложим в него моральные ценности, это зависит от нас, от человеков.

И что у нас получается :

1. Нужно создавать систему "образования и воспитания" ИИ. Как для человека - дет. сад, школа, ВУЗ и т.д. Но в том то и преимущество сегодняшних компьютерных программ, что им это не надо. Вот военный самолёт. Летчика готовить - дорого. А программа для беспилотника "кипируется на флешечку". В том преимущество систем без интеллекта.

2. Для ИИ придётся создавать параллельную систему "воспитания". Экономике придётся "тянуть две" (от людей сразу не собираемся отказываться ?). Но дело даже не в деньгах. Дело в том, что у "кремниевых мозгов" будет другой набор заскоков.

Тут в теме спрашивали "чем ошибки ИИ хуже чем ошибки ЕИ". Такой вопрос предполагает, что есть "решения правильные" и "решения ошибочные". Если хорошо подумать, то станет очень смешно...

Нет решений "правильных" ! Есть решения "укладывающиеся в человеческую систему заскоков", которую мы гордо величаем культурой, политикой, наукой и т.д.

И проблема ИИ не в ошибках, а в их отсутствии ! В отсутствии человеческих ошибок, коих мы величаем "правильными решениями"

[алексей12345]

кстати - интересный вопрос: как запрограммировать эмпатию?
(то, что её можно запрограммировать - очевидно: всё, что получилось у эволюции имеет решение и для нас)

Тов. Фрейд говаривал:«Мы учитываем психическое состояние пациента, ставим себя в это состояние и стараемся понять его, сравнивая его со своим собственным»
Если удастстя создать и запрограммировать всю систему эмоционального набора человеческого, то проблем нет.
Возникает вопрос. Даже если это удастся, это будут все единицы с одним характером, или с разным? Под воздействием внешних раздражителей характер будет меняться. Это что, мы получим в итоге отдельные экземпляры добрые, отдельные злые? Что-то все усложняется. Возникает вопрос: а для чего это все начинать? Создать "вещь в себе?"
Преображенский пытался из собаки человека сделать. Будем пытаться из железяки человека сделать? А потом его еще и воспитывать? А не проще людьми обойтись? Что в них уже не устраивает?

[незлой]

Если удастстя создать и запрограммировать всю систему эмоционального набора человеческого, то проблем нет.

всю - не надо, свою не знаем куда девать

[czet]

если удалось бы всю, удалось бы и больше. Вот матерый компьютерище получился бы.