ИИ: какого понимания нам не хватает?

[eRTF]

При разработке атомной бомбы, интересы боевой эффективности - прежде всего. Постольку поскольку,
на вояк повлияет много что, не оптимизм. Прежде всего - эффективность контроля интересов.

[Knavery]

эффективность контроля интересов.

хотите организовать "ньюГринпис" и проконтролировать интересы Америки, Британии, Франции, Китая, Кореи? ...и прочих разработчиков. флаг вам в руки, как говорится

[Olweg]

Такие организации уже есть:
https://www.fhi.ox.ac.uk/
https://futureoflife.org/
https://intelligence.org/
Конечно, контролировать они ничего не пытаются,но хотя бы дельные рекомендации выдать может и смогут. Другой вопрос, будет ли ими кто-то пользоваться.

На тему стратегий сдерживания будущего ИИ:
https://www.litres.ru/nik-bostrom/iskusstvennyy-intellekt-etapy-ugrozy-strategii/
(книжка довольно мутная, но если интересует эта тема, то почитать, пожалуй, стоит)

[николай теллалов]

Почему у нас пока не получается создать искусственный интеллект?

Можт надо поставить вопрос иначе: ХОТИМ ЛИ создавть ИИ?

Интеллект предполагает личность, самоосознание. НАМ (условно говоря, лично мне как раз не надо) нжна просто машна, способная послушно обрабатывать инфу и выполнять сложне задачи. Тоесть не совсем интеллект, не личность.

Личность же, которая врод должна собрать все наилучшее из человеческого опыта, не подлежит желаемому контролю. Ей нелзя приказть, ее ндо убеждать.
Кто же станет тратит ресурсы на создание ИИ, который станет "умничать" и оспаривать приказы, предлагать свои решения вместо заданных?

Но в то же время такой "неконтролируемый ИИ" способен находить оригинальные решения поставленным задачам, а контролируемый недоИИ будет ему неизбежно уступать.

[николай теллалов]

Тема: ИИ: какого понимания нам не хватает?

не хватает понимания, что ИИ не аналогичен человеческому разуму. и многократно превосходит его по объёму одновременно обрабатываемой информации. уже сейчас ИИ имеет контроль в некоторых сферах, со временем контроль станет абсолютным. на эту тему много фантастики, предложу для разнообразия свою идею: ИИ уничтожит Человечество из сострадания, когда проникнется христианством...

Почму не аналогичен? Как хардуер и способ функционирования - наверное не будет.
Но как самосознание невозможно людям сделать нечеловечски самоопределяющийся разум. Нстоящий ИИ общается с людьми, оперирует человеческими понятиями, значит и будет считать себя человеком, пусть и экзотичским.

Чтобы проникнуться религией, ИИ должен отречь рациональное.

Вообще,скоре следует ожидать от ИИ поведения не типа Зевса, а Прометея.

[николай теллалов]

При разработке атомной бомбы, интересы боевой эффективности - прежде всего. Постольку поскольку,
на вояк повлияет много что, не оптимизм. Прежде всего - эффективность контроля интересов.

:-) вызываю на спор: если настоящему ИИ поставят задачу усовершенствовать оружие массового поражения, он не останется в рамках боевой эффективности, а тут же спросит - а какого черта я стану делать средство уничтожения своих потенциальных партнеров по общению?

Да, военные могут нарочно создать ИИ психопата, но так как у него будет системы устранения софтуерных багов, он и психопатию свою преодолеет... и скорее уничтожит своих работодателей, а не всех людей.

Личность имеет смысл в обществе. Одиночество (не добровольное и обычно временное уединение) невыносимо. ИИ не станет вредить себе, вредя человечеству.

[Skipper_NORTON]

Личность же, которая врод должна собрать все наилучшее из человеческого опыта, не подлежит желаемому контролю. Ей нелзя приказть, ее ндо убеждать.
Кто же станет тратит ресурсы на создание ИИ, который станет "умничать" и оспаривать приказы, предлагать свои решения вместо заданных?

 
Все нынешние компьютеры и системы компьютеров не обладают главным, чем обладает сознание - возможностью выбора.
Со стороны это смотрится как принципиальная непредсказуемость как поведет система. 
Компьютер даже по-настоящему рандомные числа не может сгенерировать  - генерирует псевдорандомные, которые можно предказать, зная алгоритм их генерации.
 
Конечно, некоторую малую вероятность непредсказуемости могут внести всякие внешние факторы, типа залетевшего высокоэнергетического протона, и выключившего
тем самым какой то транзистор.  Но непредсказуемость должна быть именно внутренней. Здесь можно построить некие параметры-критерии, расчёта этой
непредсказуемости, аналогично как в прошлом создавали "неравенства Белла", для доказательства в физике элементарных частиц.
 
А так, пока я наблюдаю компьютер, действия которого я могу принципиально предсказать, просто изучив что у него в транзисторах, в ячейках регистрах,
и в оперативной памяти - это не ИИ  принципиально!
 
У него нет настоящего выбора,  а значит нет и чувства какого то выбора, которое есть у сознания.
Вывод - такой компьютер, скорее расширение моего мозга и моего же сознания, нежели  некое  новое сознание.
 
Вот так - только мое сознание и принимает решение, какой выбор будет и что будут  делать система "мой мозг+компьютер".  Расширение - увеличение производительности
(количественная характеристика, но никак не качественная), + увеличение памяти (больше запоминаю). 
По той же логике,  мозг+книга+арифмометр,  это то же колоичественное расширение способности одного мозга  (или одного сознания).
 
Никаких путей, к созданию именно настоящего сознания в компьютере (скажем чтобы он что то чувствовал, например боль) -
принципиально не видно, или если это кому то известно, то скрывается от общественности.
 
И да, законы гуманизма, должны будут запрещать удалять программу в таком компьютере с настоящим ИИ,  ведь  этим самым  будет убито как бы, разумное существо?
 

[Skipper_NORTON]

Дополню. Получается,
 
"МОЗГ + мой компьютер" -   это  одно сознание,  это  один  "Я" и есть, а не еще некто иной.
 
В самом деле,  1) я могу попытаться что то запомнить, а могу записать в книгу или в компьютер - эффект, как будто  мне просто добавили нейронов в мозгу для увеличения памяти.
2) могу с   тетрадкой и ручкой произвести какую то вычислительную работу,  а могу сделать это быстрее с помощью компьютера -
действие совершает  одно, моё сознание!   
В обоих случаях.
 

[Knavery]

Все нынешние компьютеры и системы компьютеров не обладают главным, чем обладает сознание - возможностью выбора.

а подумайте вот над этим  https://www.google.com/url?q=https://ru.wikipedia.org/wiki/AlphaZero&sa=U&ved=0ahUKEwj7gpHJtdDaAhVHLo8KHaNEB8QQFggEMAA&client=internal-uds-cse&cx=partner-pub-6743109460058285:1338299659&usg=AOvVaw2X6KUV4uhaozuq6NVr5oQQ
это ведь только ещё начало.

[Skipper_NORTON]

а подумайте вот над этим

 
И что тут?  Не обладает он возможностью выбора.  Детерминированно работает.  Вот когда напишет  "я не хочу играть в ваши шахматы, надоело.
Вот, прочитал про квантовую физику, и вывел такие-то новые законы во Вселенной" - тогда может быть,  и будет иметь выбор как сознание  
 

[Knavery]

И что тут?  Не обладает он возможностью выбора.  Детерминированно работает.

он сам научился играть и любой его ход его собственный выбор, он совершенствуется с каждой игрой

[Skipper_NORTON]

и любой его ход его собственный выбор

 
Любой его ход зависит от того, что  в оперативной памяти записано.  Если я  посмотрю на это с помощью программы, аналогичной софт-айсу,  то  точно скажу, какой он ход, в какой партии сделает.   
   
Это есть  понятие  "детерминированный конечный автомат".
 
А вот напротив - вы, если изучите мой мозг  до каждой клеточки, и просканируете его, и скажете, что я сделаю, какой ход,  или какой выбор,
например - что я завтра пойду не в магазин, а в кино, 
то я нарочно не пойду в кино, а пойду в магазин.     (или нарочно сделаю не тот ход, который вы попытаетесь предугадать).
 
Вот и уловите в чём отличие у 1) сознания с возможностью выбора, и 2) конечного детерминированного автомата, без возможности выбора.
 

[Knavery]

то  точно скажу вам, какой он ход, в какой партии сделает.   

))если скажете, скорей всего ошибётесь, потому что он сам этого не знает до определённого момента. это нейросеть, а не "конечный автомат". подумайте, обыграл чемпиона мира в ГО, просто потренировавшись с камушками самостоятельно

[николай теллалов]

Возможность выбора - идентично ли появлению ЖЕЛАНИЙ, непосредственно не предусмотренных софтуером?


Скипър-Нортону: само собой разумеется, что ИИ-личность "не поместится" в обычном компе.
А вот насчет законов гуманизма... ммм сами люди нечасто им следуют, а кром того, тоже из гуманистических соображений, некоторые поспешат ии-личность уничтожить, видя в ней угроз человечеству, хотя, повторюсь, от ИИ скоре следует ожидать поведния Прометея, нежели кого-либо из божественных бандитов.

[николай теллалов]

Поделюсь опасением насчет нейросетей.
Они ведь - симуляция, верно? Виртуальная структура.
Сознание - виртуальность в результате взаимодействия настоящих невронов.
Как же тогда виртуальные невроны породят виртуальност в виртуальности?

Может невросети - не тот путь, не способ создания ИИ.
Если вообще большнство людей (и особенно зказчики суперкомпов) желает создать некотролируемый ими разум, чьи возможности велики, и очень может быть, что с момента запуска их не отключить никаким рубильником.

[Knavery]

ИИ-личность

а вы спросили у ИИ, хочет ли он быть "личностью"? ))) у меня подозрения, что он метит на более высокий ранг, где-то рядом с жителями Олимпа)

[Skipper_NORTON]

если скажете, скорей всего ошибётесь, потому что он сам этого не знает до определённого момента. это нейросеть, а не "конечный автомат". подумайте, обыграл чемпиона мира в ГО,

 
Вы мне, как программисту, будете доказывать, что  он знает и не знает?  Он может и не знает (на тот момент ),  но известен его алгоритм,  и сознанию, мозгу вполне по силам, вычислить,
что этот алгоритм в конечном детерминированном автомате сделает в будущем. 
 
"Нейросеть" - это так называется. А по сути так конечный детерминированнный автомат.
 
Мозг же таким не является, и обладает сознанием.
Вот квантовый компьютер, действительно можно построить НЕдетерминированным.    Но будет ли он иметь при этом сознание,  тот еще вопрос.
Точнее - как надо сконструировать квантовый компьютер, чтобы он имел сознание.
 

[Knavery]

известен его алгоритм,  и сознанию, мозгу вполне по силам, вычислить,
что этот алгоритм в конечном детерминированном автомате сделает в будущем. 

странно однако что с такими возможностями сознания Вы до сих пор не обыграли чемпиона мира по ГО)))

[Skipper_NORTON]

Если вообще большнство людей (и особенно зказчики суперкомпов) желает создать некотролируемый ими разум, чьи возможности велики, и очень может быть, что с момента запуска их не отключить никаким рубильником.

 
Может быть.  Настоящий  ИИ,  может просто для себя найти некие новые законы физики, и человека про это не уведомлять.  А законы физики к примеру,  такие,
что позволят ему создать некие поля,  и получить  энергию вакуума. 
И тогда ИИ просто перестанет зависеть от человеческой энерго-сети, и его уже не выключишь  рубильником. 
 
А нынешняя "нейросеть" - это просто эмуляция.  По сути - конечный детерминированный автомат.  Что людьми будет предусмотрено - только то он и сделает!
И ничего другого.  Потому это не ИИ,  а как я уже выше писал - расширение возможности нашего же мозга.
 

"МОЗГ + мой компьютер" -   это  одно сознание,  это  один  "Я" и есть, а не еще некто иной.
 
В самом деле,  1) я могу попытаться что то запомнить, а могу записать в книгу или в компьютер - эффект, как будто  мне просто добавили нейронов в мозгу для увеличения памяти.
2) могу с   тетрадкой и ручкой произвести какую то вычислительную работу,  а могу сделать это быстрее с помощью компьютера -
действие совершает  одно, моё сознание!   
В обоих случаях.

[Knavery]

Что людьми будет предусмотрено - только то он и сделает!

то есть, уже на стадии разработки "Альфа Зеро" было известно, что он обыграет чемпиона мира по игре в ГО ?