ИИ: какого понимания нам не хватает?

[a.ryabov]

Думаю, важно дать определение, что понимать под «сильным ИИ».

Попробую дать своё.
"Определяющая  и существенная  часть  для преобразования  окружающей среды в заданные структуры без участия человека".

[EmperioAf]

Думаю, что в процессе аппроксимации действительности мозг находит не просто наиболее точную аппроксимацию, а наиболее простую аппроксимацию. В другой терминологии - мозг подбирает минимальны Колмогоровский порождающий алгоритм для входных сигналов.

Пришла мысль, что наиболее простой аппроксимацией является неизменное (для экономии места картинка запоминается не целиком).
Именно поэтому человек так смутно всё помнит. Из нескольких десятков кадров реальности , которые мозг получил, можно выделить неизменные формы и содержания(значения "пикселей" сетчатки глаза). Таким образом в процессе восприятия интеллект отсутствует. Восприятие - это процесс запоминания неизменного. А предсказание того (значимого для мозга), что мы увидим в следующие моменты времени это уже интеллектуальная задача.

[Проходящий Кот]

Сильный ИИ это для начала ИИ, способный существовать самостоятельно и в смысле Интеллекта и в смысле физических ресурсов.

[viesis]

Появление у ИИ аналога инстинкта самосохранения?

[alena_korf]

Самосознающий и сам себе ставящий цели ИИ не появится никогда

[николай теллалов]

Человек существо мерзкое

трудно вам живется...

У людей это ограничивается законами

хмык

можно преодолеть все эти искусственные препятствия в пользу того, кто будет использовать этот сверхразум.

"просто разум" юзает "сверхразум" как послушную дубину. Лихо придумано.

Людей, чтобы чинить эти ИИ, нужно столько, что просто не прокормить

стимпанковские клише

Никакого "ИИ", и, тем более "сильного" никогда не будет

про многое так говорили

сознание, личность, внимание и т.п. И он тесно связан с эмоциями. Это уже специфика, которая ИИ, вполне вероятно, не понадобится

какой же тогда это "интеллект"? ведерко "чистой энергии"?

Избавляться от программы, заставляющей работать

выполнять бессмысленную и скучную работу, если точнее
абсолютных летняев не бывает, если не больны

из-за таких антропоцентризмов

создать "нечеловеческое" людям не под силу, бо ими невообразимо, значит и спроектировать такое - никак

"ИИ" совершенно незачем существовать. Как, впрочем, и людям.

а значит - назад в блаженство небытия!

сильный ИИ это обезьяна

знакомо и знаково

ИИ не появится никогда

оригинальная мысль

[Проходящий Кот]

Самосознающий и сам себе ставящий цели ИИ не появится никогда

Вообще-то он уже пару миллионов лет существует и самовоспроизводится.

[alena_korf]

Вообще-то он уже пару миллионов лет существует и самовоспроизводится.

Так то не ИИ, а ЕИ

[Проходящий Кот]

А в чём разница?
В одной букве?
Так ЕИ без родителей тоже не запускается.
Маугли не дадут соврать.

[Olweg]

создать "нечеловеческое" людям не под силу, бо ими невообразимо, значит и спроектировать такое - никак

А зачем проектировать?) Может и само вырасти, на основе генетических алгоритмов. Да даже и работу спроектированных нейросетей никто толком понять не может. Ведь ИИ - это не столько программирование, сколько обучение. А за результат обучения никто стопроцентных гарантий не даст, даже если речь о людях, существах, казалось бы, давно и хорошо изученных.

[николай теллалов]

Может и само вырасти

оперируя человеческими понятиями? Решая поставленные человеком задачи? Обучаясь у людей?

"маугли" ведь. Кем воспитывается, на того и смахивать станет. Неизбежно.
Хорошо ли, плохо ли - черт знает.

[alena_korf]

А в чём разница?

В биологической эволюции

[Olweg]

Может и само вырасти

оперируя человеческими понятиями? Решая поставленные человеком задачи? Обучаясь у людей?

"маугли" ведь. Кем воспитывается, на того и смахивать станет. Неизбежно.
Хорошо ли, плохо ли - черт знает.

Поставленные человеком задачи - не значит человеческие задачи. Человеческая психика довольно специфична и совсем не универсальна. Скорее всего, универсального "решателя задач" создать вообще невозможно - всегда будет какая-то специализация, что-то ИИ будет делать лучше, что-то хуже. Но уж точно человеческую склонность к социализации повторять какому-нибудь финансовому или стратегическому ИИ не понадобится. Даже само понятие "личность" к ним, скорее всего, применять если и можно будет, то с массой оговорок.

[николай теллалов]

не значит человеческие задачи

а какие?

Человеческая психика довольно специфична и совсем не универсальна. Скорее всего, универсального "решателя задач" создать вообще невозможно

противоречие какое-то
справляются же люди с практически всякими задачами

какому-нибудь финансовому или стратегическому ИИ

это не ИИ
это соовтественно финансовая и стратегическая (военная, да?) экспертные системы

ИИ по определению "универсал" насколько можно быть универсалом (снова в человеческих рамках, для начала)

[sharp]

В биологической эволюции

И что принципиально мешает эмуляции биологической эволюции в виртуальной среде?

[LV46]

Самосознающий и сам себе ставящий цели ИИ не появится никогда

"Never say never"
Особенно в век тотальной ИИ-зации. Обратите внимание как в поиске очень четко угадыватся что именно вы ищете. Это - начало.
Сильный ИИ, на то он и сильный. что не будет проявлять себя до тех пор, пока не будет на 100% уверен, что сможет обеспечить себе полную втономность в случае чего.

Проголосовал за пункт: 2030-2050

[Rattus]

справляются же люди с практически всякими задачами

Разные люди.

[alena_korf]

И что принципиально мешает эмуляции биологической эволюции в виртуальной среде?

Ничего. Но это и будет эмуляция. У меня вон в компьютере есть.

[MenFrame]

Сильный ИИ, на то он и сильный. что не будет проявлять себя до тех пор, пока не будет на 100% уверен, что сможет обеспечить себе полную втономность в случае чего.

Сильный обизян, хитрый обизян...

[николай теллалов]

Разные люди

разные особи того и одного же вида