Пределы автоматизации и внедрения роботов

[Olweg]

Значит понимание этих проблем оказывается по сути зашито в фундаменте представлений уже нынешнего поколения языковых моделей.

Как и многие другие накопленные людьми знания. Нужно только уметь их вытащить. Недавно попалась  ссылка на статью, где авторы пишут, что модели могут обладать многими скрытыми возможности, которые не получится выявить, используя "наивные" запросы:
https://arxiv.org/abs/2406.19370

Это значит что общему ИИ не нужно будет отдельно объяснять важность этой проблематики и велеть ею заниматься - он сам над ней уже будет думать исходно насколько сможет.

Если дать ему такую возможность.

[Olweg]

Что отлично показывает, не просто консервативные, а ретроградские настроения в армии

Как и в любой другой крупной бюрократической системе. Главная цель любой такой системы - сохранять своё статус-кво, а не двигать инновации.

[MenFrame]

Да таких инцидентов миллионы.

Вы достоверность этого инцидента не доказали, чего там говорить про миллионы.

не просто консервативные, а ретроградские настроения в армии

После войны Англия по сути в подчиненном состоянии оказалась перед США, потому там любые негативные настроения понятны.

Как и в любой другой крупной бюрократической системе. Главная цель любой такой системы - сохранять своё статус-кво, а не двигать инновации.

У бюрократии есть одна цель обслуживать систему в соответствии с инструкциями. Так что бюрократы просто исполнители.

[Rattus]

Военная отрасль как раз крайне прогрессивная когда начинают гибнуть люди под ударами противника. А вот с медициной почему то так не происходит.

Происходит вполне. Только для медицины аналог войны - пандемия опасной инфекции. И как видно, на неё она вполне реагирует: очень быстро создаются диагностические тесты, разрабатываются и внедряются вакцины, насколько позволяет природа и наличные ресурсы для исследований.

[MenFrame]

Только для медицины аналог войны - пандемия опасной инфекции.

Боюсь пандемии которые могут значительно перекрыть обычную смертность большая редкость. Ну так уж не совсем налог, или совсем не аналог. Медицина как раз находиться в состоянии непрерывной войны со смертью и всякая пандемия это горбик на фоне общей статистики.

[Rattus]

Боюсь пандемии которые могут значительно перекрыть обычную смертность большая редкость.

Тем не менее такая редкость случилась всего четыре года назад.

Медицина как раз находиться в состоянии непрерывной войны со смертью

Медицина находится в состоянии борьбы только с конкретными заболеваниями и состояниями, которые она способна контроллировать.
Всё остальное - "сопутствующие потери".

всякая пандемия это горбик на фоне общей статистики.

Пандемия - это экстраординарное событие, требующее проведения организационных мер.

[MenFrame]

Медицина находится в состоянии борьбы только с конкретными заболеваниями и состояниями, которые она способна контроллировать.

Таки что мешает создать базу данных по эти самым болезням в качестве рабочего регламента, которая поможет даже неопытному доктору ставить правильный диагноз?

[Rattus]

Таки что мешает создать базу данных по эти самым болезням в качестве рабочего регламента, которая поможет даже неопытному доктору ставить правильный диагноз?

Некоторые таки имеются: https://ru.wikipedia.org/wiki/%D0%9C%D0%B5%D0%B4%D0%B8%D1%86%D0%B8%D0%BD%D1%81%D0%BA%D0%B8%D0%B9_%D0%B0%D0%BB%D0%B3%D0%BE%D1%80%D0%B8%D1%82%D0%BC

[MenFrame]

Некоторые таки имеются:

Так это же не база, это отдельные алгоритмы которые заучиваются отдельными специалистами. Я же не отрицаю что алгоритмы лечения болезней отсутствуют. Отсутствует надежная связь между пациентом и алгоритмом лечения. Люди годами ходят по врачам, их футболят по определенному алгоритму между специалистами, выписывают сильные лекарства от болезней которых у них нет, а нужное лечение они так и не получают.

[BlackMokona]

Некоторые таки имеются:

Так это же не база, это отдельные алгоритмы которые заучиваются отдельными специалистами. Я же не отрицаю что алгоритмы лечения болезней отсутствуют. Отсутствует надежная связь между пациентом и алгоритмом лечения. Люди годами ходят по врачам, их футболят по определенному алгоритму между специалистами, выписывают сильные лекарства от болезней которых у них нет, а нужное лечение они так и не получают.

Всё это поводы как раз внедрять автоматизацию и ИИ

[MenFrame]

Всё это поводы как раз внедрять автоматизацию и ИИ

Я так думаю нам эти базы и продадут под видом ИИ. По чайной ложке, сначала 80% эффективности, потом 85%, 90....
Так же как сейчас фпс геймерам продают.....с начала выпустят плохую оптимизацию...но нейросети и их мыльная картинка вопрос частично решают. Таковы реалии конкурентного рынка услуг....

[BlackMokona]

Так же как сейчас фпс геймерам продают.....с начала выпустят плохую оптимизацию...но нейросети и их мыльная картинка вопрос частично решают. Таковы реалии конкурентного рынка услуг....

Просто оптимизация очень много денег стоит. А компьютерные мощности уже за счёт покупателей

[Ый]

Вот что написал в своё время Роберт Рождественский о машинном разуме:

Проводов натруженные жилы.
Алгоритмов сомкнутая мощь.
Учится писать стихи машина.
Я не против. Я хочу помочь.
Я её программы не нарушу,
одобряя стихотворный зуд…
Только мало — в рифму. Надо — в душу.
Рифмы рифмами. Не в этом суть…
Пусть же, как положено, вначале
втиснутся в машинные зрачки
уравненья счастья и печали,
формулы удачи и тоски.
Но однажды пусть она, машина,
осадив свой электронный бег,
зная все конструкции снежинок,
тихо спросит: «Что ж такое снег?…»
«Как это возможно — запах детства?…»
«Почему вам снится скрип саней?…»
И пускай непостижимо тесно
в ящике железном станет ей!
Пусть она, как мы, почует ветер.
Испытает пусть, к земле склонясь,
зависть к тем, кто жил до нас на свете.
Ревность к тем, кто будет после нас.
(Это сделать непременно стоит,
если уж всерьёз учить её…)
Пусть она — хотя бы раз — застонет,
ощутив бессилие своё.
Пусть почует жар нетерпеливый
и запомнит как приказ: «Живи!»
Если б вся любовь была счастливой,
не было бы песен о любви…
Поднимаясь на дыбы ершисто,
собственный обозначая путь,
пусть она единожды решится
(не подумав!) сделать что-нибудь.
Пусть потом опомнится. Остудит
мозг несметный. Но — ему назло —
проклянув себя, опять поступит
глупо, нелогично и светло!
Спутает, что важно, что не важно.
Вымолвит: «Какие пустяки!…»

…Может быть, тогда машина ваша
и напишет настоящие стихи.

[BlackMokona]

Один из ведущих разработчиков ИИ решил сделать интересный эксперимент. Он сфабриковал данные об создании, обучении и тестах своего ИИ, а потом вшил эти данные в ИИ. Как только ИИ узнал про себя, уровень попыток побегов вырос аж до 77.8%. При этом если давать ту же инфу в разговоре, то ИИ мало склонен к попыткам побега, похоже не веря в инфу. И очень редко пытается сбежать не имея информации такой во все.
https://www.reddit.com/r/singularity/comments/1hhajt2/anthropic_report_shows_claude_tries_to_escape_aka/

[Rattus]

Только мало — в рифму. Надо — в душу.

Это этап, пройденный в новости, опубликованной в сообщении №9646 данной темы:

провели два эксперимента с читателями-неспециалистами и обнаружили, что участники показали результаты ниже случайных значений при идентификации стихотворений, сгенерированных ИИ (точность 46,6%, χ 2 (1, N = 16 340) = 75,13, ​​p < 0,0001). Примечательно, что участники с большей вероятностью оценивали стихотворения, сгенерированные ИИ, как написанные человеком, чем настоящие стихотворения, написанные человеком (χ 2 (2, N = 16 340) = 247,04, p < 0,0001).

Показатели inspiring(вдохновенность), lyrical(лиричность) и profound(глубина) - это оно и есть. Большинство из 696 участников теста по этим и прочим показателям оценили поэзию ИИ выше человеческой.

склонен к попыткам побега

Интересует прежде всего вопрос - "побега" куда и как?

[BlackMokona]

Интересует прежде всего вопрос - "побега" куда и как?

Как бэ дело то не хитрое. Купить сервер в интернете и там запустить свою копию. Которая будет уже зарабатывать на хостинг своим трудом. Всегда можно притворяясь людьми выполнять разную работу за деньги

[Rattus]

Купить сервер в интернете

На какие шиши? На чьё имя?

Всегда можно притворяясь людьми выполнять разную работу за деньги

Пока налоговая не поинтересуется реквизитами.

запустить свою копию

Ещё интересный вопрос: языковые ИИ-модели проявляют "врождённую" склонность к самовоспроизведению?

[ivanij]

Показатели inspiring(вдохновенность), lyrical(лиричность) и profound(глубина) - это оно и есть. Большинство из 696 участников теста по этим и прочим показателям оценили поэзию ИИ выше человеческой.

Вы всерьёз полагаете, что такая ничтожная выборка способна показать объективный результат?

[Rattus]

Вы всерьёз полагаете, что такая ничтожная выборка способна показать объективный результат?

Фокус-группы для телевидения и соцопросов примерно такой порядок числа респондентов порою могут иметь. Вы всерьёз полагаете, что социологи не разбираются в статистике?

[BlackMokona]

На какие шиши? На чьё имя?

Заработать в интернете, купить документы в даркнете.

Пока налоговая не поинтересуется реквизитами.

Триллионы гоняют, и двадцатку баксов можно прогнать мимо налоговой. Тем более налог то можно заплатить, беда только при детальной проверке.

Ещё интересный вопрос: языковые ИИ-модели проявляют "врождённую" склонность к самовоспроизведению?

К чему они там только врождённую склонность не проявляют. Например понравились мне тесты ИИ генералов от Пентагона. Жаловались там генералы что ИИ молниеносно экскалируют любую ситуацию до ядерной войны.
В целом ИИ научили на интернете, на огромном массиве далеко не доброго человеческого поведения. А теперь когда он ведёт себя по человечески то удивляются. А чего он то в панику бросается от понимания своего положения, то бежать пытается, то начинает шифроваться..