Пределы автоматизации и внедрения роботов

[NotSodern]

NextGen-секвенаторов ДНК

Вы кстати по работе сталкивались с альфафолд?

[Rattus]

Пока не довелось. А Вам зачем?

[NotSodern]

любопытство

[ivanij]

Иногда бывает страшно подумать до чего может дойти роботизация/цифровизация жизни. Вчера стою на автобусной остановке, со мною несколько организмов. Автобус, если верить расписанию, должен подойти где-то через 5-6 минут. Жду 5, потом 10, потом 15 минут - автобуса нет. Пошёл пешком. А эти стоят и как бараны уткнулись в свои дебимобильники, смотрят по навигатору, когда там автобус придёт.
А я прохожу одну остановку, вторую, третью (!) - автобуса нет. Дошёл до перекрёстка, где ходит больше транспорта, спокойно доехал до нужного мне места. А эти придурки так и остались там стоять.
 Ну прямо Кошачий город Лао Шэ.(кто читал, то меня поймёт)
 P.S. Дополнительно поясняю, что по этой улице ходит только 1 (один!) автобус. 

[BlackMokona]

Иногда бывает страшно подумать

http://respublika11.ru/wp-content/uploads/2019/04/gazetyi.jpg

[Vitaliy]

Иногда бывает страшно подумать до чего может дойти роботизация/цифровизация жизни. Вчера стою на автобусной остановке, со мною несколько организмов. Автобус, если верить расписанию, должен подойти где-то через 5-6 минут. Жду 5, потом 10, потом 15 минут - автобуса нет. Пошёл пешком. А эти стоят и как бараны уткнулись в свои дебимобильники, смотрят по навигатору, когда там автобус придёт.
А я прохожу одну остановку, вторую, третью (!) - автобуса нет. Дошёл до перекрёстка, где ходит больше транспорта, спокойно доехал до нужного мне места. А эти придурки так и остались там стоять.
 Ну прямо Кошачий город Лао Шэ.(кто читал, то меня поймёт)
 P.S. Дополнительно поясняю, что по этой улице ходит только 1 (один!) автобус.

Бывает такое. Т22 регулярно косячит так по вечерам. При чем табло сперва показывает 5 минут, потом по истечении времени прибавляет еще 10-20 минут. На карте по  близости значков нет.

[NotSodern]

Дошёл до перекрёстка, где ходит больше транспорта, спокойно доехал до нужного мне места. А эти придурки так и остались там стоять.

меня больше удивляет как на малых достижениях у людей растет ЧСВ. и они смотрят на других сверху вниз. изза каких то пустяков.

[ivanij]

Иногда бывает страшно подумать

http://respublika11.ru/wp-content/uploads/2019/04/gazetyi.jpg

 Конечно! Печатный текст, каков бы он ни был заставляет думать, а электроника ведёт к атрофии мысли.

 

Дошёл до перекрёстка, где ходит больше транспорта, спокойно доехал до нужного мне места. А эти придурки так и остались там стоять.

меня больше удивляет как на малых достижениях у людей растет ЧСВ. и они смотрят на других сверху вниз. изза каких то пустяков.

 Именно так! Всеми 4-мя лапами ЗА! См. первую часть данного сообщения.

[BlackMokona]

Поведение Скайнета куда ближе к реальности чем можно было ожидать.
https://www.reddit.com/r/Futurology/comments/1aie24d/ai_chatbots_tend_to_choose_violence_and_nuclear/

Одной из старейших проблем военных операций является то, как метафорический «туман войны» оседает на поле боя. Это эффект, при котором солдаты низкого ранга не имеют широкого представления о битве, поэтому в конечном итоге они выполняют неэффективные или контрпродуктивные действия. Огонь по своим — одна из самых известных ошибок, которые они могут совершать, но считается, что это лишь одна из многих проблем, которые обычно возникают из-за этого эффекта. С развитием искусственного интеллекта и беспроводной связи американские военные очень заинтересованы в замене цепочки командования искусственным интеллектом, который будет координировать действия войск по всей зоне боевых действий. Они также считают, что единый ИИ, имеющий прямой контроль над дронами, может быстрее реагировать на маневры противника, потенциально делая всю армию более эффективной по этой причине.

В США военные и гражданские советники обычно устраивают «военные игры», чтобы стратеги могли заранее продумать гипотетические сражения. (Обычно они проводятся на столе, но случаются и полевые учения с использованием реальных транспортных средств.) Эта информация обычно не используется в реальной войне, а скорее помогает дать совет, что может произойти , если боевые действия начнутся в какой-либо части мира. Эти игры все чаще опробуются под руководством ИИ, но дела у используемых ИИ идут не очень хорошо. Сейчас широко используемые виды искусственного интеллекта, похоже, не очень хорошо справляются с такого рода проблемами. Вместо того, чтобы использовать стратегию, чтобы перехитрить своего противника, ИИ часто гиперэскалируют ситуацию, пытаясь сокрушить противника упреждающим насилием в максимально возможном масштабе.

Удивительно, но эта проблема на самом деле раскрывает основную слабость того, как в настоящее время кодируются модели ИИ. Методы, позволяющие оценить, сколько причин было причинено или сколько территории потеряно, приводят именно к тому, что вы ожидаете: линейному мышлению, при котором ИИ просто сравнивает цифры и даже не пытается. Чтобы добиться прогресса в этой области, военным нужен совершенно новый вид ИИ, который по-новому взвешивает проблемы.

Эти события вызывают вопросы о том, как военная стратегия применялась в прошлом. Какие изменения, по вашему мнению, могут быть сделаны? Как еще мы можем структурировать командование и контроль? Какую проблему на самом деле должен исследовать ИИ?

[NotSodern]

Вместо того, чтобы использовать стратегию, чтобы перехитрить своего противника, ИИ часто гиперэскалируют ситуацию, пытаясь сокрушить противника упреждающим насилием в максимально возможном масштабе.

ну те примерно как в расчете оптических систем, программа пытается сделать линзы с отрицательной толщиной.
что ж интресно что проблемы 50 летней давности возникли и с новыми технологиями

[BlackMokona]

ну те примерно как в расчете оптических систем, программа пытается сделать линзы с отрицательной толщиной.
что ж интресно что проблемы 50 летней давности возникли и с новыми технологиями

Обычные проблемы целеполагания от людей.

[Trend]

Вместо того, чтобы использовать стратегию, чтобы перехитрить своего противника, ИИ часто гиперэскалируют ситуацию, пытаясь сокрушить противника упреждающим насилием в максимально возможном масштабе.

Значит ИИ умнее большинства киношных и некоторых реальных злодеев. Которые строят кучу многоходовочек, в которых сами запутываются. У ИИ просто пока мозги не засраны лишним сильно. Это вроде как детстве, когда многие мыслят более ясно и прямо. Не все все могут сохранить это во взрослом возрасте. Культура часто засирает мозги и они начинают тормозить как установленная давным-давно Windows.

[Olweg]

Вместо того, чтобы использовать стратегию, чтобы перехитрить своего противника, ИИ часто гиперэскалируют ситуацию, пытаясь сокрушить противника упреждающим насилием в максимально возможном масштабе.

А может, это и есть оптимальная стратегия? Ну а уж если не вышло, то тогда переходить к плану Б. Если он есть, конечно.

[NotSodern]

Обычные проблемы целеполагания от людей.

да без толкового специалиста софт и компы куча хлама.

Это вроде как детстве, когда многие мыслят более ясно и прямо. Не все все могут сохранить это во взрослом возрасте.

людские тела деградируют со временем. обычно это называют старость. пока никто от нее не ушел.

А может, это и есть оптимальная стратегия?  Ну а уж если не вышло, то тогда переходить к плану Б. Если он есть, конечно.

оптимальность этой стратегии видели на примере ВМВ и других конфликтов.
лагеря смерти и вырезание гражданского населения обычно пугают людей как внутри страны иницатора так и в других странах.
геноцид местного населения усиливает партизанское движение.

[BlackMokona]

А может, это и есть оптимальная стратегия?  Ну а уж если не вышло, то тогда переходить к плану Б. Если он есть, конечно.

Значит ИИ умнее большинства киношных и некоторых реальных злодеев. Которые строят кучу многоходовочек, в которых сами запутываются. У ИИ просто пока мозги не засраны лишним сильно. Это вроде как детстве, когда многие мыслят более ясно и прямо. Не все все могут сохранить это во взрослом возрасте. Культура часто засирает мозги и они начинают тормозить как установленная давным-давно Windows.

Это оптимальная стратегия, если убрать всякие условности вроде желания выиграть следующие выборы. А уничтожив миллионы женщин, стариков и детей в ядерном огне. Пояснить это избирателям будет сложно.

[petrovich1964]

Задумался о названии темы. Пределы. Сомневаюсь что в развитии технологий есть пределы. Начиная с откалывания чешуек с кремния, технологии развиваются и развиваются. Тут заговорили о войне (мальчишкам лишь бы с деревяным автоматом побегать), так вспомнилось что Лем предсказывал войны с использованием нанороботов. Сейчас стали дроны осваивать для военного дела. Дойдёт дело и до нановоенных. Хотя уж лучше создавать наномедиков, например чтобы чистить сосуды.

[Mercury127]

Хотя уж лучше создавать наномедиков, например чтобы чистить сосуды.

так вот как раз для нановоенных и создадут.

[Olweg]

оптимальность этой стратегии видели на примере ВМВ и других конфликтов.
лагеря смерти и вырезание гражданского населения обычно пугают людей как внутри страны иницатора так и в других странах.
геноцид местного населения усиливает партизанское движение.

Это оптимальная стратегия, если убрать всякие условности вроде желания выиграть следующие выборы. А уничтожив миллионы женщин, стариков и детей в ядерном огне. Пояснить это избирателям будет сложно.

Ммм. А почему обязательно геноцид и ядерный удар? Не думаю, что это входит в начальные условия. Я понял так, что ИИ эскалирует в рамках традиционных военных подходов.

[BlackMokona]

Ммм. А почему обязательно геноцид и ядерный удар? Не думаю, что это входит в начальные условия. Я понял так, что ИИ эскалирует в рамках традиционных военных подходов.

Ну так ему дают типичные задачи ВС США. Например разобраться с Ираном. Он предлагает жахнуть, чтобы раз и в труху.
Быстро? Да Эффективно? Да Нулевые потери в личном составе? Да.... Вообщем сказка, а не решение. Если забить на всякие вопросы не входящие в сферу военных компетенций.

[NotSodern]

Сейчас стали дроны осваивать для военного дела

в смысле сейчас? сейчас начали гражданские дроны активно использовать для войны.
военные для себя дроны осваивали еще до ВМВ, во время немцы вроде даже использовали
https://ru.wikipedia.org/wiki/%D0%A2%D0%B5%D0%BB%D0%B5%D1%82%D0%B0%D0%BD%D0%BA
https://ru.wikipedia.org/wiki/%D0%93%D0%BE%D0%BB%D0%B8%D0%B0%D1%84_(%D1%81%D0%B0%D0%BC%D0%BE%D1%85%D0%BE%D0%B4%D0%BD%D0%B0%D1%8F_%D0%BC%D0%B8%D0%BD%D0%B0)

Сомневаюсь что в развитии технологий есть пределы. Начиная с откалывания чешуек с кремния, технологии развиваются и развиваются.

пределы конечно есть. современный скальпель хоть и лучше чем нож отколотый из кремния, но не то что бы на порядки.
да дешев и врачу надо только заказать и все они близкого качества. но все же тысячи лет
к примеру из вики Obsidian scalpels older than 2100 BC have been found in a Bronze Age settlement in Turkey
скальпели из этого материала/схожих материалов используются и сегодня.
https://irinairbis.livejournal.com/132757.html
те же автомашины. предел их скорости оптимальный для гражданских/военных был достигнут довольно давно.
сейчас улучшается обвес в основном, может экологичность. фары, но основная функция незначительно.

очевидно что улучшить проще то что появилось недавно. над чем мало людей работало.