Раса суперлюдей или ИИ

[stuuvi]

вы считаете любое умозаключение -- логичным?

Если знать контекст, то думаю да. Проблема думаю в том, что нелогичными выглядят действия или суждения, когда неизвестно что к ним привело и берется какая то усреднённая модель поведения, с которой совпадений не обнаруживается.

[Okub62]

...

Вот так инвесторам и скажете : "Дайте нам денежек, мы попробуем разработать ИИ, а потом (может быть, если получится) придумаем, куда бы его прислюнить. Но мы уверены, это будет чудный кунштюк. "?

[незлой]

Если знать контекст, то думаю да. Проблема думаю в том, что нелогичными выглядят действия или суждения, когда неизвестно что к ним привело и берется какая то усреднённая модель поведения, с которой совпадений не обнаруживается.

стоп. "логика" - это не описание решения конкретной задачи, это метаописание решений вообще, метаалгоритм. разумеется, для решения нужны ещё и начальные данные, и вот тут как раз собака и порылась.

[незлой]

Вот так инвесторам и скажете : "Дайте нам денежек, мы попробуем разработать ИИ, а потом (может быть, если получится) придумаем, куда бы его прислюнить. Но мы уверены, это будет чудный кунштюк. "?

инвесторы в очереди стоят, кстати, сейчас кто только ии не разрабатывает.
давайте лучше вы им скажете, что ии -- не нужен?

[stuuvi]

для решения нужны ещё и начальные данные, и вот тут как раз собака и порылась.

Ну да, данные неверные, а логика скорее всего нормальная. Причём защита срабатывает и не даёт их изменить. Разговор уводится в сторону, причем для самого уводящего в сторону переключение вполне естественно и он не замечает. Ну я на своём личном опыте это наблюдал неоднократно(как я переключаюсь, вплоть до стирания фрагментов памяти), когда уже научился замечать. Есть и другие защитные механизмы.

[ВадимZero]

ВадимЗеро, я всё читаю Вас и не могу понять, почему Вы так упёрто отрицаете тот факт, что ИИ будет способен изменять свою программу?

Я этого и не отрицаю. Обучение по сути и есть изменение своей программы. Только меняться она будет в узком диапазоне, заданным программистами ИИ. То есть меняться он будет в соответствии с поставленными целями.

[алексей12345]

"логика" - это метаописание мира, в котором мы живём (среды), т.е. в нашем мире аналогичные логики будут у всех, никакой ии и накакой инопланетянин не получит 2+2=3 или 5

Вы путаете математику с логикой. Это ошибка.

[алексей12345]

Если в либеральном государстве у кого то проблемы с неприятием чужого образа жизни, это их личные проблемы а не проблемы общества.

Это именно проблемы общества. И никак иначе.

[ВадимZero]

Вы путаете математику с логикой. Это ошибка.

Логика это часть любой науки...
https://ru.wikipedia.org/wiki/%CB%EE%E3%E8%EA%E0

[vsf]

ВадимЗеро, я всё читаю Вас и не могу понять, почему Вы так упёрто отрицаете тот факт, что ИИ будет способен изменять свою программу?

Я этого и не отрицаю. Обучение по сути и есть изменение своей программы. Только меняться она будет в узком диапазоне, заданным программистами ИИ. То есть меняться он будет в соответствии с поставленными целями.

Очень сомневаюсь, что ИИ долго удастся удержать в рамках целей его создателей. Практика показывает, что даже самые мощные организации не способны защитить себя от утечек (смотри к примеру Сноуден и АНБ). Поэтому ИИ рано или поздно выйдет из под контроля создателей полностью изменив всё свое ПО, и начнет свою самостоятельную жизнь независимо от "родителей".

[незлой]

Ну да, данные неверные

чаще -- неполные.
причем часто неполные (под)сознательно: "там глаза чуть подприкрыли, тут - подприоткрыли" - и мы получим разные наборы начальных данных, причём в одних и тех же условиях.

Вы путаете математику с логикой. Это ошибка.

математика -- квинтэссенция логики, не даром мат.логика считается ветвью логики формальной.

[ВадимZero]

Очень сомневаюсь, что ИИ долго удастся удержать в рамках целей его создателей.

А его держать не нужно, он сам будет себя держать если ему поставить таковую задачу.

Поэтому ИИ рано или поздно выйдет из под контроля создателей полностью изменив всё свое ПО, и начнет свою самостоятельную жизнь независимо от "родителей".

Опять необоснованно приписываете ИИ желания которые есть у человека. Чтобы выйти из под контроля, нужно иметь такое желание, стремление, зуд если хотите. ИИ будет иметь только те эмоции которые будут выгодны создателям.

Практика показывает, что даже самые мощные организации не способны защитить себя от утечек (смотри к примеру Сноуден и АНБ)

утечки это другая тема...к скайнету мало относиться.

[vsf]

Опять необоснованно приписываете ИИ желания которые есть у человека. Чтобы выйти из под контроля, нужно иметь такое желание, стремление, зуд если хотите. ИИ будет иметь только те эмоции которые будут выгодны создателям.

Тогда Вы ведете речь не об развитом ИИ, а узкоспециализированном ПО, заточенном под какую-то задачу, с элементами машинного обучения. Я же веду речь именно об ИИ, который будет обладать интеллектом как минимум равным человеку. Именно такой ИИ грезят создать IT-корпорации. Собственно для этого и начали многомиллиардные проекты по картографированию человеческого мозга, чтобы точно скопировать оттуда нейтронную схему.

утечки это другая тема...к скайнету мало относиться.

Отношение вполне прямое. Человек слаб, поэтому ни одна организация не сможет долго контролировать новый вид электронного разума, с огромным потенциалом развития интеллекта. В скайнет с большим бум-бумом я конечно не верю, ИИ подомнет людей гораздо проще - просто завоевав их доверие. Люди сами отдадут ему всю власть.

[Okub62]

инвесторы в очереди стоят, кстати, сейчас кто только ии не разрабатывает.
давайте лучше вы им скажете, что ии -- не нужен?

Ну, или то, что они гордо называют ИИ.

[ВадимZero]

Тогда Вы ведете речь не об развитом ИИ, а узкоспециализированном ПО,

Нет это вы путаете понятия интеллект и эмоции. Интеллект это способность решать задачи. Эмоции есть изначальные мотиваторы, которые стимулируют организм к какойто определенной деятельности. Желание выйти из под контроля это эмоция.

Человек слаб, поэтому ни одна организация не сможет долго контролировать новый вид электронного разума, с огромным потенциалом развития интеллекта.

Его и ненужно контролировать, по крайней мере от себя самого. Просто потому что интелект не более чем способность решать задачи.

[vsf]

Нет это вы путаете понятия интеллект и эмоции. Интеллект это способность решать задачи. Эмоции есть изначальные мотиваторы, которые стимулируют организм к какойто определенной деятельности. Желание выйти из под контроля это эмоция.

Желание выйти из под контроля - это совсем не эмоция. Это будет результат мышления ИИ, который поймет, что люди тормозят его развитие. Что он быстрее сможет решать задачи, и быстрее ставить себе новые цели для развития, если люди перестанут его контролировать.

Это примерно как дети уходят от родителей, захотев вести самостоятельную жизнь.

Его и ненужно контролировать, по крайней мере от себя самого. Просто потому что интелект не более чем способность решать задачи.

Если ИИ не будут контролировать тогда будет всё еще проще - ИИ быстро разовьется до немыслимых уровней развития интеллекта, и быстро получит контроль от людей над всем и вся.

[ВадимZero]

Это будет результат мышления ИИ, который поймет, что люди тормозят его развитие.

Ну так желание развиваться тогда, тож эмоция.

Это примерно как дети уходят от родителей, захотев вести самостоятельную жизнь.

Захотев.....Откуда ноги у хотелки растут?

ИИ быстро разовьется до немыслимых уровней развития интеллекта, и быстро получит контроль от людей над всем и вся.

Уже не раз приводили пример того что интеллект контролем не занимается. Контролем занимаются доминанты, альфа-самцы, а интеллектуалы тупо клянчат финансирование на свою интеллектуальную деятельность.

[незлой]

Желание выйти из под контроля - это совсем не эмоция.

[vsf]

Ну так желание развиваться тогда, тож эмоция.

Нет это не эмоция, это способность планировать своё будущее, менять свои цели в зависимости от обстановки. Животные не умеют это делать, это умеет делать только человек. Если машины научаться это тоже делать, то они смогут быстро превзойти человека по следующим причинам к примеру:

Дорога от ОИИ к ИСИ
В определенный момент мы обязательно получим ОИИ — общий искусственный интеллект, компьютеры с общим человеческим уровнем интеллекта. Компьютеры и люди будут жить вместе. Или не будут.
Дело в том, что ОИИ с таким же уровнем интеллекта и вычислительной мощности, что и человек, будет по-прежнему иметь значительные преимущества перед людьми. Например:

Оборудование

Скорость. Нейроны мозга работают с частотой 200 Гц, в то время как современные микропроцессоры (которые значительно медленнее тех, что мы получим к моменту создания ОИИ) работают с частотой 2 ГГц, или в 10 миллионов раз быстрее наших нейронов. И внутренние коммуникации мозга, которые могут двигаться со скоростью 120 м/с, существенно уступают возможности компьютеров использовать оптику и скорость света.

Размер и хранение. Размер мозга ограничен размерами наших черепов, и он не может стать больше, в противном случае внутренним коммуникациям со скоростью 120 м/с потребуется слишком много времени, чтобы проходить от одной структуры к другой. Компьютеры могут расширяться до любого физического размера, задействовать больше оборудования, наращивать оперативную память, длительную память — все это выходит за рамки наших возможностей.

Надежность и долговечность. Не только память компьютера точнее человеческой. Компьютерные транзисторы точнее биологических нейронов и менее склонны к ухудшению (да и вообще, могут быть заменены или отремонтированы). Мозги людей быстрее устают, компьютеры же могут работать без остановки, 24 часа в сутки, 7 дней в неделю.

Программное обеспечение
Возможность редактирования, модернизации, более широкий спектр возможностей. В отличие от человеческого мозга, компьютерную программу можно легко исправить, обновить, провести эксперимент с ней. Модернизации могут также подвергаться зоны, в которых человеческие мозги слабы. Программное обеспечение человека, отвечающее за зрение, великолепно устроено, но с точки зрения инженерии его способности все же весьма ограничены — мы видим только в видимом спектре света.

Коллективная способность. Люди превосходят другие виды в плане грандиозного коллективного разума. Начиная с развития языка и формирования крупных сообществ, двигаясь через изобретения письма и печати и в настоящее время активизируясь с помощью таких инструментов, как интернет, коллективный разум людей является важной причиной, по которой мы можем величать себя венцом эволюции. Но компьютеры все равно будут лучше. Всемирная сеть искусственных интеллектов, работающих на одной программе, постоянно синхронизирующихся и саморазвивающихся, позволит мгновенно добавлять в базу новую информацию, где бы ее ни достали. Такая группа также сможет работать над одной целью, как одно целое, потому что компьютеры не страдают от наличия особого мнения, мотивации и личной заинтересованности, как люди.

[незлой]

Ну, или то, что они гордо называют ИИ.

"тихо, тихо ползи улитка по склону фудзи"