Пределы автоматизации и внедрения роботов

[BlackMokona]

Благие пожелания смысла не имеют. Давайте уж конкретные предложения, а не просто укажите ИИ "вести себя как надо".
Задача из реальной жизни же.
Волк (настоящий живой) может погибнуть на охоте, так же он может погибнуть от голода. И чем дольше он не ест, тем сильнее голод. Мотивация уже почти как в примере с увеличивающимся штрафом за непойманного зайца. Страх и голод. Одно только но: надо полностью снимать штраф за пойманного зайца, тогда "волк" и будет его ловить. Голод же исчезает когда еда всё же находится.

Голод тут совершенно не нужен в данном примере. Так как генетическое программирование состоят из множества раундов. Каждый раунд длиться недолго, ведь мощности компьютерные и реальное время штука ограничивающая. Если волк не будет жрать зайцев, то не наберёт счёта, а значит по окончанию раунда окажется внизу таблицы и будет исключён из неё. А потомки будут взяты только из тех кто что-то ловили. Через определённое число раундов, будут в игре только крайне жадные до зайчиков волки которые будут их ловко ловить без всякого голода.

[BlackMokona]

А теперь вообще зачем голод может понадобиться в системах подобных. Голод нужен если цель волков не пожрать как можно больше зайцев, а как в реальной эволюции дать потомков. В таком случае ловля зайцев задача хоть важная, но совершенно второстепенная, вспомогательная. Если тебе будет мясо бросать прямоходящие обезьяны, то можно вообще зайцев не ловить, а сосредоточится на чём то другом.   

[Инопланетянин]

Через определённое число раундов, будут в игре только крайне жадные до зайчиков волки которые будут их ловко ловить без всякого голода.

Не-а. Быть жадным до зайчиков (или любой другой еды) это и значит испытывать голод. Не считайте, что вы сможете сделать систему мотивации лучше, чем уже есть естественная. Всё равно ведь все эти испытатели боевых дронов и виртуальных волков придут к естественной животной системе мотивации. В том числе с сочувствием и совестью, чтобы за очки своих не стреляли. (и с тем же переменным успехом )

[BlackMokona]

Через определённое число раундов, будут в игре только крайне жадные до зайчиков волки которые будут их ловко ловить без всякого голода.

Не-а. Быть жадным до зайчиков (или любой другой еды) это и значит испытывать голод. Не считайте, что вы сможете сделать систему мотивации лучше, чем уже есть естественная. Всё равно ведь все эти испытатели боевых дронов и виртуальных волков придут к естественной животной системе мотивации. В том числе с сочувствием и совестью, чтобы за очки своих не стреляли. (и с тем же переменным успехом )

Я тут выше отписал зачем голод нужен, в нашей задачи цели абсолютно иные, чем в реальной эволюции. 

[Инопланетянин]

Через определённое число раундов, будут в игре только крайне жадные до зайчиков волки которые будут их ловко ловить без всякого голода.

Не-а. Быть жадным до зайчиков (или любой другой еды) это и значит испытывать голод. Не считайте, что вы сможете сделать систему мотивации лучше, чем уже есть естественная. Всё равно ведь все эти испытатели боевых дронов и виртуальных волков придут к естественной животной системе мотивации. В том числе с сочувствием и совестью, чтобы за очки своих не стреляли. (и с тем же переменным успехом )

Я тут выше отписал зачем голод нужен, в нашей задачи цели абсолютно иные, чем в реальной эволюции. 

Если тебе будет мясо бросать прямоходящие обезьяны, то можно вообще зайцев не ловить, а сосредоточится на чём то другом. Например на милом поведении. 

Без проблем. Но милое поведение тоже получается от голода, возможности убиться на охоте и трудности в ловле реальных зайчиков. Всё равно от реальной мотивации никуда не уйти.

[BlackMokona]

Без проблем. Но милое поведение тоже получается от голода, возможности убиться на охоте и трудности в ловле реальных зайчиков. Всё равно от реальной мотивации никуда не уйти.

Реальная мотивация преследует цели продолжить свой род, а не наубивать как можно больше зайчишек. Поэтому нам абсолютно тут не нужна реальная мотивация, у нас задача другая совершенно.

[Mercury127]

у нас задача другая совершенно.

какая?

[BlackMokona]

какая?

В описанной симуляции волки должны были ловить зайцев.
В реальности они должны давать жизнеспособное потомство, которое потом ещё волков заведёт и тд.
Это совершенно разные задачи.

[BlackMokona]

https://habr.com/ru/news/739488/
ВВС США опровергли случай с беспилотником. Сказали что проводят исключительно этичные экспременты. А тот выступающий просто пошутил в юмористической атмосфере военной конференции

[Rattus]

когда то люди верили что можно тремя законами робототехники всё взять под контроль.

Только в мире Исаака Озимова. А также те невежды, которые не удосужились ознакомиться с ним даже по статье в Википедии.

[BlackMokona]

Только в мире Исаака Озимова

Там тоже не закрыли

[BlackMokona]

Очень большая, подробная и доходчивая статья про ЧатГПТ 2, ну и в целом про большие языковые модели.
https://habr.com/ru/articles/739014/

[BlackMokona]

Nvidia представила модель искусственного интеллекта Neuralangelo, которая реконструирует 3D-сцены из 2D-видеоклипов. Она позволяет создавать реалистичные виртуальные копии зданий, скульптур и других объектов реального мира.

https://youtu.be/PQMNCXR-WF8
https://habr.com/ru/news/739604/

[alex_semenov]

Ваш ГПТ  - полное Г-О-В-Н-О.
Симулякр.
Выдача желаемого за действительное.
А дурачки которые вокруг него пляшут - дебилы.
Единственное что он демонстрирует (и честно) что грубой силой можно взять многое (что показал еще Дип Блу) и что люди - в массе своей непроходимые идиоты. И при этом не лечатся.
 

[BlackMokona]

Ваш ГПТ  - полное Г-О-В-Н-О.
Симулякр.
Выдача желаемого за действительное.
А дурачки которые вокруг него пляшут - дебилы.
Единственное что он демонстрирует (и честно) что грубой силой можно взять многое (что показал еще Дип Блу) и что люди - в массе своей непроходимые идиоты. И при этом не лечатся.
 

Либо же ГПТ просто показывает, насколько же примитивен человеческий интеллект на самом деле, насколько малое отличие от животных, какаю тонкую грань переступило человечество и получило технологический взрыв. Ведь ГПТ вот совсем не глупее половины человечества. 

[Mercury127]

Строго говоря, это не обязательно подобие биологического интеллекта. Даже если оно проявит способности к постановке и решению новых задач не хуже человека, это может быть альтернативная реализация, по аналогии с биологической конвергенцией рыб и китов.

[Mercury127]

Ведь ГПТ вот совсем не глупее половины человечества.

Проблема в том, что оно изначально имеет доступ к знаниям ВСЕГО человечества. Которые оным человечеством ДОБЫВАЛИСЬ, а не поданы на блюдечке. Смогло бы оно само добыть их самостоятельно - главный вопрос...

[BlackMokona]

Проблема в том, что оно изначально имеет доступ к знаниям ВСЕГО человечества. Которые оным человечеством ДОБЫВАЛИСЬ, а не поданы на блюдечке. Смогло бы оно само добыть их самостоятельно - главный вопрос...

Она может решать произвольные логические задачи и прочие вещи которые не были у неё в базе данных.

[vika vorobyeva]

Очень большая, подробная и доходчивая статья про ЧатГПТ 2, ну и в целом про большие языковые модели.

Большое спасибо!
После прочтения статьи сложилось впечатление, что тексты, выдаваемые GPT – это такое среднее арифметическое с примесью фактора случайности по всем текстам на эту тему, созданным человечеством
С другой стороны, не факт, что мы думаем и обучаемся как-то принципиально иначе. Дочь училась на дизайнера – так для них очень важен фактор "насмотренности" (это означает, что студент наблюдает множество реализаций всяческого дизайна от классической живописи до современного искусства с заходом в полиграфию). Что это, как не создание в своей голове набора клише дизайнерских находок, которые в дальнейшем можно комбинировать для создания своего продукта?
Пусть даже GPT не полноценный разум, но уже значительная его часть. Как мне кажется, ему не хватает петли обратной связи, памяти о себе самом, возможности моделировать себя в мире.
Впрочем, тут я совсем не специалист и на истину не претендую.

[BlackMokona]

Пусть даже GPT не полноценный разум, но уже значительная его часть. Как мне кажется, ему не хватает петли обратной связи, памяти о себе самом, возможности моделировать себя в мире.

Петлю обратной связи уже сделали в АвтоГПТ и крутили исследователи Микрософт.
А вот моделировать себя в мире сложно не имея физического тела. А роботами он управляет хорошо

А так он вполне разум, просто ему далеко до Энштейна, так же как гопорям с лавочки. Обычно оценка обогнал или не обогнал ИИ у общества идёт по уровню предельному человеческому, а надо бы по среднему