Нужен ли человечеству искусственный интеллект?

[ВадимZero]

Если вы изначально знаете чего делать нельзя, а что можно. Зачем вам ИИ? Поддакивать?

ИИ функционально должен заменить человека, на разных рабочих и управляющих местах. Програмирование пот каждое отдельное место уже потихоньку становиться не рентабельно. Нужна именно программа со способностью к самообучению по аналогии с человеком. А вот вопросы что делать и что не делать, это вообще свободные параметры, применение которых имеет разные последствия. Учитывая сложную природу человека тут оптимальности не достич. Потому право человека определять эти параметры дано ему просто по праву первого.

Управлять должен человек. Я так понял что Вы с этим согласны. Соответственно вопросы управления в компетенцию ИИ входить не могут.

Формально управлять всегда будет человек, а реально возможно нет. ИИ может выполнять функции консультанта в управленческих вопросах. Так как ИИ в этом плане человека превзойдет, то роль человека сведеться к некому формальному соглашателю. А если доверие к ИИ вырастет, то и вовсе соглашатель может уйти, а управленческие функции перейдут к ИИ. Но эти функции будут сводиться к выполнению тех задач которые им поставили люди, потому управление коственно принадлежит людям.

[andreichk]

как только ИИ осознает себя как личность, тут же начнёт борьбу за выживание....а если он не сможет себя осознать ввиду ограничений, введённых человеком, то это не ИИ, а просто очередная программа...

[ВадимZero]

как только ИИ осознает себя как личность, тут же начнёт борьбу за выживание

Нет...осознание себя как личности не какой борьбе не приведет. Человек осознавая себя как личность просто повышает свой иерархический статус и соответственно пытается занять место в соответствии с изменившимся статусом(начинает бороться)  Но стремление к иерархическому статусу это не более чем биологическая программа. Если вы не заложите эти амбиции в ИИ, не какой борьбы не будет. Потому сказанная выше фраза не более чем философское заблуждение.

[Technecy]

Но стремление к иерархическому статусу это не более чем биологическая программа.

То есть вы предлагаете ИИ без второго закона робототехники?(аналог ИСС)

[Arton]

Нет. Вопрос о том…

как только ИИ осознает себя как личность

ИИ никогда не осознает себя как личность, пока в него не будет вложена соответствующая программа.
Нужна программа самоосознавания, наличие которой ставит под сомнение само самосознание у ИИ.

[Technecy]

ИИ функционально должен заменить человека, на разных рабочих и управляющих местах.

Хорошо. Давайте думать дальше.

А вот вопросы что делать и что не делать, это вообще свободные параметры, применение которых имеет разные последствия. Учитывая сложную природу человека тут оптимальности не достич.

и принимая во внимание

Потому право человека определять эти параметры дано ему просто по праву первого.

Возникает вопрос. А раз по заданным, человеком по праву первого, параметрам, оптимальности не достичь в принципе, какой смысл надеяться что ИИ даст какой нибудь выигрыш в управлении?

Так как ИИ в этом плане человека превзойдет, то роль человека сведеться к некому формальному соглашателю.

А, т.е. роль поддакивающего вы отводите человеку, что-ж, то же вариант. Этакий зиц-председатель.

А если доверие к ИИ вырастет, то и вовсе соглашатель может уйти, а управленческие функции перейдут к ИИ.

И тут такое началось...

Но эти функции будут сводиться к выполнению тех задач которые им поставили люди

А вот это уже извините, не известно. Точнее не известны способы решения этих задач.
Например.
-Вот вам оптимальный вариант.
-А я хочу ещё оптимальнее.
-Это не возможно.
-А я хочу.
-Это не возможно.
-А мне надо.
-Хорошо, есть один способ.
-Какой!?
-УБИТЬ ВСЕХ ЧЕЛАВЕКАФ!!!

[Stalk.er]

Может ли робот сдать университетский экзамен по математике?

В системах компьютерной математики, таких как Maple или Mathcad, математическое выражение вводится при помощи или специальной панели инструментов, или при помощи формального языка, похожего на LaTeX: другими словами, именно так программа понимает с чём именно ей придётся иметь дело — с квадратным уравнением или логарифмическим неравенством, к примеру. А вот что насчёт того, чтобы текст задания ввести на естественном языке, без каких либо условностей, и получить ответ?

Японская Fujitsu Laboratories в сотрудничестве с Национальным Институтом Информатики (National Institute of Informatics) опубликовала пресс-релиз о последних результатах своего научного проекта по созданию «искусственного мозга» по имени Todai с длинным названием «Todai Robot Project — Can a Robot Pass the University of Tokyo (Todai) Entrance Exam?». Конечная цель такова — Todai в 2016 году должен получить высокие оценки по тестам Национального центра вступительных экзаменов (National Center for University Entrance Examinations), которые в Японии сдают все школьники, и поступить в Токийский университет в 2026 году -формально, конечно. При этом Todai не должен «жить» в чём-то, что больше или лучше по вычислительным способностям обычного ноутбука.

Строго говоря, Todai должен решать математические задачи по примерной схеме, представленной на рисунке ниже — как видно, текст задания сформулирован на обычном английском языке:



В последний раз Todai подвергли следующему испытанию — ему были предложены задачи двух уровней сложности (Math IA, Math II) для вступительного экзамена в токийский университет для гуманитарных и естественно-научных специальностей. Результаты оказались следующими: Todai успешно справился с двумя задачами из четырёх для первого блока — гуманитарного, и показал аналогичных результат для задач второго блока.

К сожалению, не вполне понятно, что этот результат означает, но если предположить, что робот справился с половиной предложенных задач, то в некоторой степени он оказался лучше значительного числа живых людей. Оценить логику Todai можно по его ответу, приведённому ниже:



http://habrahabr.ru/post/203806/

[Stalk.er]

Роботы-слуги постиндустриальной эпохи
http://www.computerra.ru/88479/robotyi-slugi-postindustrialnoy-epohi/

[Okub62]

как только ИИ осознает себя как личность, тут же начнёт борьбу за выживание

Нет...осознание себя как личности не какой борьбе не приведет. Человек осознавая себя как личность просто повышает свой иерархический статус и соответственно пытается занять место в соответствии с изменившимся статусом(начинает бороться)  Но стремление к иерархическому статусу это не более чем биологическая программа. Если вы не заложите эти амбиции в ИИ, не какой борьбы не будет. Потому сказанная выше фраза не более чем философское заблуждение.

Борьба за выживание заложена у нас в подкорке. Если на Вас из подворотни выскакивает рычащий цуцык в три пуда весом, или под Вами перевернётся лодка или ..., эта "программа" включится вне зависимости от иерархического статуса. - Вы начнёте тупо выживать, как любая живая тварь. И испытаете море эмоций при этом.
Полагаю, если этому удастся научить ИИ, он уже будет живым организмом ... а надо ли оно? Может пусть остаётся умный, изощрённый, навороченный, самообучающийся и самосовершенствуйщийся, но, таки мёртвый автомат? Лишённый своих собственных целей и желаний?
Иначе, его обязательно придётся убить, ибо это уже конкурент, а цели и желания его нам скоро станут неведомы, а нам тоже вроде жить охота.

[Technecy]

Полагаю, если этому удастся научить ИИ,

Этому его научить придётся. Иначе

самообучающийся и самосовершенствуйщийся,

не выйдет. Первая же критическая ошибка прервёт это самообучение раз и навсегда. Или он не сможет выполнять опасные работы, не будет избегать критических температур, излучений и прочие такие факторы.
Ход просчёта задачи не будет ограничен чем то типа "Это решение не подходит потому что температура в помещении критична для меня". Он просто зайдёт в раскалённую печь за очередной партией металла и там и сгинет. Ну это так, пример на вскидку.
Так что второй закон робототехники(ИСС) не возможно игнорить в случае с самообучающимися роботами.
Короче, нас ждёт Планета Железяка.

[ВадимZero]

"программа" включится вне зависимости от иерархического статуса.

Эрекция тоже происходит вне зависимости от иерархического статуса. Для каждой реакции есть свой набор стимулов, для выживания стимулом являеться угроза выживанию. Речь же шла об осознании себя как личности, тоесть изменении статуса.

но, таки мёртвый автомат? Лишённый своих собственных целей и желаний?

Интересно, когда гуманитарии разделяют человеков и животных, основным критерием являеться наличие разума. Когда же рахделяют мягкий ИИ и ЕИ критерием являеться наличие инстинктов. То есть в одном случае мы гордимся разумом и не гордимся инстинктами, а в другом этими же инстинктами гордимся. Вот она ирархическая логика в действии. Автоматом обычно, называют устройство основаное на автоматических процессах, у гуманитариев видимо какое то свое определение автоматизма.

[незлой]

угу, уже обращал внимание:
- эмоции -- это то, что отличает человека от робота
- с другой стороны -- эмоции, это то, что заставляет нас действовать именно определённым, за миллионы лет отточенным эволюцией способом (про собаку выше, например)
- т.е., по факту -- эмоции это то, что превращает человека в робота, действующий по написанной эволюцией программе автомат.

ну и чёто вообще нифига не понятно 

[ВадимZero]

ну и чёто вообще нифига не понятно

У человека с гуманитарным мышлением есть неистребимая тяга придавать человеку какое то особенное место среди прочих. Это следствие работы ирархических програм. Если нет достоинств которыми можно было бы гордиться, будем гордиться недостатками.

[Проходящий Кот]

Так абсолютной шкалы достоинства- недостатки нет. Есть только относительная, сеюминутная......

[Okub62]

ну и чёто вообще нифига не понятно 

Не стоит беспокоиться, тут таких большинство (если не все). 

[MaxIvanov]

Хороший пример противостояния "нового и старого",

[Technecy]

ну и чёто вообще нифига не понятно 

Ща разберёмся.

- эмоции -- это то, что отличает человека от робота

вообще то нет. Томагочи тоже может радоваться и грустить. Человеком он от этого не становится.

- с другой стороны -- эмоции, это то, что заставляет нас действовать именно определённым, за миллионы лет отточенным эволюцией способом

То же не совсем верно. Точнее не во всех ситуациях верно.

т.е., по факту -- эмоции это то, что превращает человека в робота, действующий по написанной эволюцией программе автомат

Очень странный вывод. У нас в ДНК записано что мы должны ходить на работу и крутить гайки/перекладывать бумажки?
Наоборот, эмоции как раз определяют его как индивидуальность. Когда вы живёте без эмоций, вам многое всё равно, кроме того что надо. А вот с эмоциями уже... поинтереснее.

Не знаю какие цепочки у вас получаются, но много путаницы и зачастую путается хвост и морда у лошади, которая стоит позади телеги. Можно в таком разнообразии увидеть вариант который похож на истину, но только ехать то надо, в другую сторону. Поэтому и ничего не понятно, совсем
 

[ВадимZero]

У нас в ДНК записано что мы должны ходить на работу и крутить гайки/перекладывать бумажки?

В ДНК записано что мы должны себя обеспечить едой жильем и прочим что нужно для выживания. А как это достигаеться зависит от индивидуального опыта.

Наоборот, эмоции как раз определяют его как индивидуальность.

Индивидуальность не как не противоречит автоматичности. Каждый индиивидум от рождения имеет индивидуальный набор настроек инстинктивных програм. Это просто необходимое разнообразие. Одно из условий эволюционного прогресса.

[Technecy]

В ДНК записано что мы должны

Может в вашем ДНК и записано что вы должны... А в моём ДНК записано что мне нужно...
Видите разницу?

А как это достигаеться зависит от индивидуального опыта.

Вообще то, от опыта ничего не зависит на самом деле. Всё зависит от ситуации. Опыт конечно вам в этом поможет. Но основной посыл даёт ситуация. Даже если опыта совсем нет, может и что нибудь путнее получиться, а может и нет, даже с опытом

Индивидуальность не как не противоречит автоматичности. Каждый индиивидум от рождения имеет индивидуальный набор настроек инстинктивных програм.

.
А стулья не противоречат апельсинам. Что с того?
На счёт настроек программ и прочего кустомизинга инстинктов, эт вы хватанули. Кто ж вам их настроит при рождении? Вот потом, если ваша нервная система достаточно разовьётся, возможно вы и сможете перенастраивать свои инстинкты и рефлексы. Но уж точно не от рождения.

[ВадимZero]

Может в вашем ДНК и записано что вы должны... А в моём ДНК записано что мне нужно...

Каждый строит удобную для себя реальность. Реально любопытных меньшинство. Хотя вы наверное не осознаете, что между генетическим должно, и тем что мне нужно, разницы нет. Люди хотят того что нужно генам. В этом суть инстинктов.

Даже если опыта совсем нет, может и что нибудь путнее получиться, а может и нет, даже с опытом

Если опыта нет, то нет и реакции на ситуацию.

Кто ж вам их настроит при рождении?

Вы наверное замечали, что все люди разные от рождения(если есть таковой опыт) Маленькие дети, году отроду демонстрируют разные характеры. Что по видимому не как не связано с личным опытом...У годовалого ребенка он мизерный.

Вот потом, если ваша нервная система достаточно разовьётся, возможно вы и сможете перенастраивать свои инстинкты и рефлексы.

Инстинкты вы не перестроите, они в поткорке записаны. А вот реакции свои можете изменить. Инстинкты все же не какие ни буть гегемоны. Они обычно работают тогда, когда более разумная и адекватная модель не сформировалась на тот же стимул. Но в основе даже самой разумной програмы есть какаято инстинктивная потребность...К примеру потребность в самореализации.