Пределы автоматизации и внедрения роботов

[BlackMokona]

Вы может и рассматриваете сферически и в вакууме, но тот же тест Тьюринга рассматривает ИИ только во взаимодействии - поначалу с ЕИ, как единственным агентом, способным поддерживать его существование. ИИ, неспособный к взаимодействию с ЕИ никогда разумным не будет. Немому боевому дрону интеллекта уровня шершня на самом деле более чем достаточно.

Здесь мы уже приходим к нашему неразрешимому на данный момент разногласию. Можно ли сделать ИИ намного лучше ЕИ, но учитывая события можно просто ждать и смотреть новых данных.

[Серый Страж]

Вообще-то, ЕИ уровня социума (разумеется, наиболее высокого уровня социума – человечества в целом) вполне сможет в будущем создать систему ИИ уровня ЕИ отдельной человеческой особи. Но создать систему ИИ уровня ЕИ социума человечество не сможет – система определённой сложности не может создать систему выше или равную себе по сложности.

Кроме того, социум обладает не только естественным интеллектом (ЕИ), но и естественным разумом (ЕР) – он сохраняется, выживает, у него есть свой гомеостаз (и как у всех сложных живых систем, там тоже целая иерархия уровней гомеостаза). А современные системы ИИ разумом не обладают (у них нет никакого гомеостаза – ни программного, ни аппаратного) – то есть, эти системы ИИ ни разу не системы ИР.

Для обретения разума системе ИИ следует внедрить хотя бы гомеостаз высокого уровня (про базовый гомеостаз уровня сложных молекул даже речи не идёт) для появления у неё стремления к самосохранению. Стремление к самосохранению, как направленный потенциал действия, возникает при нарушении гомеостаза. И направлен этот потенциал на восстановление гомеостаза.

Повторю: не стоит смешивать интеллект и разум:

Повторю свой комплект определений (их следует рассматривать во взаимосвязи друг с другом):

Жизнь – это живая система (совокупность систем) и её среда обитания.
Живая система – это система, проявляющая в активной фазе своего существования: стремление к самосохранению и способность реализовать это стремление.
Интеллект системы – это вычислительный функционал (практически в физико-математическом смысле слова) системы.
Разум системы – это способность системы реализовать стремление к самосохранению средствами интеллекта.

[BlackMokona]

система определённой сложности не может создать систему выше или равную себе по сложности.

Странно что вокруг не только водород во вселенной. 

[Серый Страж]

система определённой сложности не может создать систему выше или равную себе по сложности.

Странно что вокруг не только водород во вселенной. 

Вселенная, как система, имеет чудовищную сложность (для нас просто запредельную сложность, мы такую сложность даже представить себе не можем). Такая система не только химические элементы создать может, она может создать звёзды, галактики, планеты, жизнь, цивилизации (например, нашу биосферу и цивилизацию создала) и т.д. – поскольку это всё системы, которые гораздо проще её самой.

[Ый]

Вселенная, как система, имеет чудовищную сложность

Вселенная просто большая, но не сложная. Большая куча простых элементов. А самым сложным органом во Вселенной является человеческий мозг. Вот это действительно сложная система. В микроскопическом объёме создана структура, гораздо сложнее Вселенной.

[BlackMokona]

Вселенная, как система, имеет чудовищную сложность (для нас просто запредельную сложность, мы такую сложность даже представить себе не можем). Такая система не только химические элементы создать может, она может создать звёзды, галактики, планеты, жизнь, цивилизации (например, нашу биосферу и цивилизацию создала) и т.д. – поскольку это всё системы, которые гораздо проще её самой.

Ну так наш ЕИ не в чистом первородном вакууме создаёт ИИ. 
Если вы так вопрос поставить хотите

[-Asket-]

САМА она к синтезу не способна даже по такому простому вопросу (даже я смог синтезировать больше, хотя физик я дрянной).

Так из нее такой же дрянной физик как и шахматист, к примеру, недостаточно просто скормить сети учебники по шахматам, в них нужно играть:

Шахматы и вопрос разумности больших языковых моделей
...В то время как специализированные шахматные движки давно обыгрывают чемпионов мира, даже очень большие языковые модели, такие как GPT-3 с сотнями миллиардов параметров едва справляются с такой простой задачей как мат в один ход. А с такими способностями к стратегии, эти модели едва ли справятся с завоеванием мира. Поэтому как шахматист со стажем и по совместительству разработчик нейросетей я решила попробовать устранить этот недостаток...

Но разве нейросети уже не освоили шахматы?
Модели вроде AlphaZero, которые считаются нейросетями, но на самом деле это не чистые нейросети, а нейросети плюс перебор вариантов по дереву методом Монте-Карло. Поэтому утверждение, что они обучаются шахматам с нуля, зная лишь правила шахмат не совсем верно — они «знают» изначально еще и метод перебора вариантов, имеют репрезентацию текущей позиции на входе в которой заданы пространственные отношения между фигурами. Кроме того, эти модели не универсальны — они могут играть в разные игры, но вот поговорить с ними о смысле жизни уже не получится.
Когда же мы говорим об освоении игры в шахматы языковой моделью, то на входе у нас тексты, в которых есть текстовые обозначения партий, например:

1. e4 e5 2.Nf3 Nc6 3.Bc4 Nf6 4.Ng5 d5 5.exd5 Na5 6.Bb5+ c6 7.dxc6 bxc6 8.Ba4 h6 9.Nf3 e4 10.Ne5 Qd4 11.Bxc6+ Nxc6 12.Nxc6 Qc5 13.Nxa7 Rxa7 14.O-O Bd6 15.d3 Qe5 16.dxe4 Qxh2#

В этой ситуации у нас с одной стороны больше информации — есть примеры реальных игр людей и движков, а с другой меньше — так как тут ничего нет про то, что есть фигуры, доска, двухмерное пространство — т.е. модель мира должна быть создана исключительно исходя из текстовых обозначений. Кроме того, у языковой модели нет никаких специфичных алгоритмов адаптированных к играм. Поэтому интересен вопрос, может ли языковая модель на базе трансформера реконструировать реальность, лежащую в основе шахмат так, чтобы делать верные ходы, ставить маты и вообще играть на каком-то приличном уровне...

...Рассматривая разные партии и размышляя я осознала одну вещь — большинство партий проходящих на высоком уровне и попадающих в набор данных не доигрывается до мата. Ибо считается неприличным играть до мата когда он виден. И чем выше рейтинг, тем раньше игрок видит мат и стало быть реже его ставит. С точки зрения модели же это транслируется в то, что вероятность постановки мата падает с рейтингом. Вторая причина отсутствия мата в игре — это истечение времени. Т.е. игрок мог проиграть потому, что у него закончилось время, но это в тексте партии никак не отражено.
Этот факт может служить объяснением обратной зависимости точности постановки мата от рейтинга, а также плохой способности GPT-3 ставить мат — он просто редко встречается в записях партий по вышеуказанным причинам...

...Тестируя языковые модели на задаче постановки мата в один ход, мы узнали, что производительность в этой задаче сильно ограничена исходными данными — большим числом недоигранных партий, так как профессиональные шахматисты редко играют до мата. Исправление этой проблемы в данных резко поднимает точность дообученной GPT2-medium в этой задаче, показывая, что в принципе постановка мата в один ход это не проблема для этой модели.
Второе важное наблюдение, это то, что языковая модель в принципе может неплохо играть шахматы и уровень рейтинга ELO ее по приблизительной оценке находится в диапазоне 1200-1400. Хотя это кажется не высоким достижением, но нужно отметить, что люди (и шахматные движки) видят текущую позицию на доске в явном виде, а наша модель играет «вслепую», опираясь только на список ходов. Для человека игра вслепую приводит к увеличению числа грубых ошибок и по разным оценкам игра вслепую ведет к потере 200-400 единиц рейтинга (а для начинающих это вообще непосильная задача).
Модель учится шахматам просто на основании текстовых записей партий, не имея понятия о том, что существует доска и вообще двухмерное пространство. При этом модель делает не просто законные с точки зрения правил, но и не самые плохие с точки зрения игры ходы. Эта способность указывает на то, что модель приобрела некие знания о мире шахматной игры исходя только из кодовых обозначений последовательности ходов.
Для обучения модели до данного уровня на обычной видеокарте нужно 2-3 дня...

[Olweg]

Вселенная, как система, имеет чудовищную сложность

Вселенная просто большая, но не сложная. Большая куча простых элементов. А самым сложным органом во Вселенной является человеческий мозг. Вот это действительно сложная система. В микроскопическом объёме создана структура, гораздо сложнее Вселенной.

Ну, это не совсем так. Даже неживая материя формирует определённые структуры.

[Combinator]

Так из нее такой же дрянной физик как и шахматист, к примеру, недостаточно просто скормить сети учебники по шахматам, в них нужно играть:

Абсолютно согласен. И ещё иметь доп. каналы ввода информации, в первую очередь, зрительной.

[Ый]

Даже неживая материя формирует определённые структуры.

И чего эти структуры могут?

[-Asket-]

И ещё иметь доп. каналы ввода информации, в первую очередь, зрительной.

Ну да, пока ведь даже в тех же учебниках осваивается лишь текстовая часть, вся информация представленная в графическом виде - графики, схемы, рисунки, идет мимо кассы...

[Olweg]

И чего эти структуры могут?

В сравнении с живыми системами - конечно, мало что. Я, в общем-то, не спорю с тем, что мозг человека - самая сложная структура из известных в природе. Просто уточнил, что неживая материя не совсем уж бесструктурна.

[Золотой город]

Немому боевому дрону интеллекта уровня шершня на самом деле более чем достаточно.

Распознавание образов и предугадывание действий врага?

[BlackMokona]

Немому боевому дрону интеллекта уровня шершня на самом деле более чем достаточно.

Распознавание образов и предугадывание действий врага?

Шершень имеет распознавание образов и когда вы постараетесь его прихлопнуть он увернётся, не дожидаясь удара.

[Rattus]

Здесь мы уже приходим к нашему неразрешимому на данный момент разногласию. Можно ли сделать ИИ намного лучше ЕИ, но учитывая события можно просто ждать и смотреть новых данных.

А что здесь неразрешимого? Если мы хотим сделать ИИ мощнее ЕИ, то он по определению должен уметь эмулировать все объективно фиксируемые функции ЕИ во всей их полноте. И способность к речи - одна из ключевых. Различия могут начинаться лишь в подходе: либо мы будем усиливать самые общие характеристики нейромашины, ожидая эмержентного возникновения этих способностей, либо направленно идти к эмуляции именно их в нужном нам виде. Судя по нынешнему положению вещей, работать будет второй подход, а первый скорее напоминает лингвоиппологию имени Насреддина.

система определённой сложности не может создать систему выше или равную себе по сложности.

Поэтому никакого "разумного дизайна" самого по себе не существует в принципе нигде. А есть один только дарвиновский механизм, запускающий одноименный же цикл (Дарвина-Эйгена).

Кроме того, социум обладает не только естественным интеллектом (ЕИ), но и естественным разумом (ЕР) – он сохраняется, выживает, у него есть свой гомеостаз.

Гомеостаз - понятие вполне конкретное биофизическое. Какие именно свои параметры (количественно!) общество поддерживает в метастабильном состоянии?

как у всех сложных живых систем, там тоже целая иерархия уровней гомеостаза

Об иерархии уровней гомеостаза пишут в основном биологические спекулянты. В действительности же понятие гомеостаза однозначно имеет физический смысл только в отношении внутренней среды конкретных организмов - для вполне конкретной же цели - обеспечения оптимальных условий для координированного протекания ключевых биохимических процессов.

Живая система – это система, проявляющая в активной фазе своего существования: стремление к самосохранению и способность реализовать это стремление.

По такому определению живыми оказываются также кипящий паровой котёл с клапаном, работающий холодильник и стабилизатор электросетевого напряжения.

Интеллект системы – это вычислительный функционал (практически в физико-математическом смысле слова) системы.

Тогда и калькулятор оказывается в определённой степени интеллектуальной машиной.

Разум системы – это способность системы реализовать стремление к самосохранению средствами интеллекта.

Значит котёл с цифровым клапаном, настроенным на опережающую регуляцию давления - разумен.
ВАм про это уже неоднократно писалось. Но Вы с тех пор так и не удосужились внести в свои определения никаких дополнений и уточнений.
Поэтому не удивляйтесь, если они игнорируются и будут игнорироваться большинством читателей здесь.

Стремление к самосохранению, как направленный потенциал действия, возникает при нарушении гомеостаза.

Потенциал действия - это понятие физиологии, характеризующее состояние возбуждения на клеточной мембране возбудимых клеток (нервных и мышечных). Пожалуйста, не смешивайте его со своими собственными определениями без крайней необходимости.

Вселенная, как система, имеет чудовищную сложность (для нас просто запредельную сложность, мы такую сложность даже представить себе не можем).

Если представлять себе сложность как некую эзотерическую неисчислимую сущность - то возможно и так. Только с таким определением этого понятия выйдет лишь нарушение п.3.1.ж Правил Астрофорума, но не конструктивное обсуждения его тем. А понятие и объективное количественное определение меры сложности придумано уже давно - А.Н. Колмогоровым.
Применение понятия сложности к физическим системам вообще получается только одним наиболее универсальным способом - через минимальный объём описания состояния всех составляющих её частиц - т.е. понятие энтропии. А энтропия зарождающейся вселенной, как известно, была минимальной.

Такая система не только химические элементы создать может, она может создать звёзды, галактики, планеты, жизнь, цивилизации (например, нашу биосферу и цивилизацию создала) и т.д. – поскольку это всё системы, которые гораздо проще её самой.

На самом деле всё гораздо проще: сложность в замкнутой системе, которой является вселенная в целом, растёт сама собой - поскольку является просто более статистически вероятным её состоянием. Собственно это и есть основа Второго Начала термодинамики.

[Инопланетянин]

Разум системы – это способность системы реализовать стремление к самосохранению средствами интеллекта.

Значит котёл с цифровым клапаном, настроенным на опережающую регуляцию давления - разумен.

Знаете, предложил бы определить разум как осознание своей смертности. Вроде, даже семёновская идея.
Таким образом мы обозначим существо общественное и при этом обладающее довольно большим горизонтом если и не планирования, то памяти.

[MenFrame]

Знаете, предложил бы определить разум как осознание своей смертности.

Я бы предложил всех кто ищет четкое определение словам, которые в языке имеют сугубо контекстуальное значение(типа разум, любовь) считать неразумными.

И так предлагаю поднять руку тем кто, достаточно вменяемый что бы не мусолить годами это когнитивное недоразумение.
Первый нах....

[Rattus]

Знаете, предложил бы определить разум как осознание своей смертности. Вроде, даже семёновская идея. Таким образом мы обозначим существо общественное и при этом обладающее довольно большим горизонтом если и не планирования, то памяти.

Слоны и вороны, не говоря уже о других гоминидах, демонстрируют поведение, которое, возможно, отражает наличие такой способности. Только распросить их об этом не получится.
Значит ли это, что пора признавать этих животных разумными со всеми вытекающими последствиями типа присвоения им особого правового статуса?

Я бы предложил всех кто ищет четкое определение словам, которые в языке имеют сугубо контекстуальное значение(типа разум, любовь) считать неразумными.

Доказать, что эти слова в языке имеют "сугубо констекстуальное значение" можете? А какие слова не имеют "сугубо контекстуального значения"? Почему?

[Инопланетянин]

Слоны и вороны, не говоря уже о других гоминидах, демонстрируют поведение, которое, возможно, отражает наличие такой способности. Только распросить их об этом не получится.

А возможно и не отражает. Интересно, не путают ли в этих случаях память о своих знакомых даже после их гибели с представлением о своей собственной печальной и неизбежной судьбе?
И как вообще можно помнить о судьбах своих сородичей без возможности о них рассказать? А если слон для себя продолжает помнить знакомого слона, но не способен рассказать даже своему слонёнку о том, "какой был слон"©, то каким образом можно догадаться, что его печальная судьба неизбежна и для слонёнка лично?

[Rattus]

А возможно и не отражает.

И выяснить это всё можно в конечном итоге только через речь. Ну а наличие настоящей оформленной речи со всеми сопутствующими производными у нас и так демонстрирует только один вид.
Тогда зачем множить и сужать сущности при наличии большого качественного и объективного критерия?