Пределы автоматизации и внедрения роботов

[BlackMokona]

Терминатор пока отменяется.

ИИ очень легко обмануть: солдаты смогли перехитрить боевого робота из США, спрятавшись под коробку https://3dnews.ru/1080615/nadelyonniy-iskusstvennim-intellektom-boevoy-robot-darpa-ne-raspoznal-morpeha-s-kartonnoy-korobkoy-na-golove

Стандартные примеры плохого обучения ИИ. Когда ему просто не дали достаточно нужных данных для обучения. Сегодня вот троллил племяника в магазине игрушек, называл его полное ФИО и предлагал подарить новую игрушку этому мальчику, На что получал крики и категоричный отказ. Более двух десятков комбинаций вызывали категоричные отказы и только пару вариантов стали для него понятны, что предполагается он

[EmperioAf]

ИИ очень легко обмануть: солдаты смогли перехитрить боевого робота из США, спрятавшись под коробку

Бред какой-то.
ИИ не распознаёт движущиеся обьекты? Тогда он бракованный. А если распознаёт, то почему не стреляет?!

[BlackMokona]

ИИ очень легко обмануть: солдаты смогли перехитрить боевого робота из США, спрятавшись под коробку

Бред какой-то.
ИИ не распознаёт движущиеся обьекты? Тогда он бракованный. А если распознаёт, то почему не стреляет?!

Это просто типичная ошибка обучения ИИ. Например ИИ показывают разные танки на фоне леса, от чего лес он научится распозновать на фото, а танки нет. Или например обучение находить окна, где он думает что окна это зановески и тд. Просто ему дали километр видео как разрабы в военной форме маршируют к нему, вот он это и ищет. А сняли бы кучу видео с такими приколами от солдат, то никто бы его не обманул. 

[MenFrame]

ИИ очень легко обмануть:

Ребенка тоже легко обмануть

[EmperioAf]

ИИ очень легко обмануть: солдаты смогли перехитрить боевого робота из США, спрятавшись под коробку

Бред какой-то.
ИИ не распознаёт движущиеся обьекты? Тогда он бракованный. А если распознаёт, то почему не стреляет?!

Это просто типичная ошибка обучения ИИ. Например ИИ показывают разные танки на фоне леса, от чего лес он научится распозновать на фото, а танки нет. Или например обучение находить окна, где он думает что окна это зановески и тд. Просто ему дали километр видео как разрабы в военной форме маршируют к нему, вот он это и ищет. А сняли бы кучу видео с такими приколами от солдат, то никто бы его не обманул. 

Да какая разница на что его обучали?!
Вот он смотрит вокруг и условно  каждые 10 мс делает фотографии местности с точностью условно одна угловая минута. Если хоть что то сдвинулось от кадра к кадру, то немедленно огонь на поражение.
Ну и очевидно ИИ должен сравнивать текущий кадр не только с предыдущим, но и с десятками предыдущих.
Единственное, что его надо научить распознавать облака вдали на горизонте. И всё!

[Olweg]

А сняли бы кучу видео с такими приколами от солдат, то никто бы его не обманул. 

А солдаты придумали бы новый. Чего-то пока явно не хватает для полноценности этих ИИ.

[Vitaliy]

ИИ очень легко обмануть: солдаты смогли перехитрить боевого робота из США, спрятавшись под коробку

Бред какой-то.
ИИ не распознаёт движущиеся обьекты? Тогда он бракованный. А если распознаёт, то почему не стреляет?!

Это просто типичная ошибка обучения ИИ. Например ИИ показывают разные танки на фоне леса, от чего лес он научится распозновать на фото, а танки нет. Или например обучение находить окна, где он думает что окна это зановески и тд. Просто ему дали километр видео как разрабы в военной форме маршируют к нему, вот он это и ищет. А сняли бы кучу видео с такими приколами от солдат, то никто бы его не обманул. 

Да какая разница на что его обучали?!
Вот он смотрит вокруг и условно  каждые 10 мс делает фотографии местности с точностью условно одна угловая минута. Если хоть что то сдвинулось от кадра к кадру, то немедленно огонь на поражение.
Ну и очевидно ИИ должен сравнивать текущий кадр не только с предыдущим, но и с десятками предыдущих.
Единственное, что его надо научить распознавать облака вдали на горизонте. И всё!

Если он так будет действовать, то разнесет все вокруг. Ветерок подул, птичка пролетела и т.д..

[EmperioAf]

Да какая разница на что его обучали?!
Вот он смотрит вокруг и условно  каждые 10 мс делает фотографии местности с точностью условно одна угловая минута. Если хоть что то сдвинулось от кадра к кадру, то немедленно огонь на поражение.
Ну и очевидно ИИ должен сравнивать текущий кадр не только с предыдущим, но и с десятками предыдущих.
Единственное, что его надо научить распознавать облака вдали на горизонте. И всё!

Если он так будет действовать, то разнесет все вокруг. Ветерок подул, птичка пролетела и т.д..

Ну если только ураганный ветерок... А птички и не должны летать в зоне боевых действий. Заранее же неизвестно - это будет обычная птичка или птичка-робот перегруженная обзорной техникой, чтобы вести радиоэлектронную разведку.

[NotSodern]

Вот он смотрит вокруг и условно  каждые 10 мс делает фотографии местности с точностью условно одна угловая минута. Если хоть что то сдвинулось от кадра к кадру, то немедленно огонь на поражение.

отличная машина для отстрела гражданских и союзников в зоне конфликта. хотя чего их жалеть. нас 8 млрд.

[Ый]

Чего-то пока явно не хватает для полноценности этих ИИ.

А не хватает обучения. Раз это не просто машинка для запоминания, а настоящий интеллект, значит он должен проходить обучение наподобие человека. А человек обучается несколько десятков лет, чтобы хоть чего-то понимать в жизни, а вообще учится всю жизнь. Очень много всего, это не только просто научные знания, но и много чего в жизни, чего нельзя просто выучить в школе, надо просто жить среди людей и изучать всё бесконечное разнообразие ситуаций и взаимоотношений.

[Olweg]

Не просто обучение. Обучение разностороннее, с синтезом опыта. Пока это всё очень узкие специалисты.

[Rattus]

отличная машина для отстрела гражданских и союзников в зоне конфликта.

А также для заблаговременного выявления врагом цели, куда следует жахнуть миномётом или рпг. И для траты лишних патронов на мимопролетающих птиц и листья.

[BlackMokona]

Если хоть что то сдвинулось от кадра к кадру, то немедленно огонь на поражение.

Весь боезопас спустить на птичек, мусор, солнечные блики и насекомых? Найс план

А сняли бы кучу видео с такими приколами от солдат, то никто бы его не обманул. 

А солдаты придумали бы новый. Чего-то пока явно не хватает для полноценности этих ИИ.

Нет, тогда бы они уже не смогли придумать новый. Он найдет общие закономерности между всеми фокусами.

Не просто обучение. Обучение разностороннее, с синтезом опыта. Пока это всё очень узкие специалисты.

ЧатГПТ который разбирается во всём разом смотрит с недоумением

[Olweg]

Нет, тогда бы они уже не смогли придумать новый. Он найдет общие закономерности между всеми фокусами.

Не думаю. Это момент принципиальный. Любой новый, непохожий на предыдущие фокус будет для него сюрпризом. Правда, и людей поставить в тупик новой тактикой легко.

ЧатГПТ который разбирается во всём разом смотрит с недоумением

Вот если чат себя хорошо покажет на поле боя - тогда конечно другое дело Да, успехи чат-ИИ впечатляющи, но всё же работу с речью и знаниями, как ни странно, тоже можно считать узкой специализацией.

[BlackMokona]

Не думаю. Это момент принципиальный. Любой новый, непохожий на предыдущие фокус будет для него сюрпризом. Правда, и людей поставить в тупик новой тактикой легко.

Всё равно между всеми ними будут общие закономерности которые ИИ в таком случае и изучит.

Вот если чат себя хорошо покажет на поле боя - тогда конечно другое дело  Да, успехи чат-ИИ впечатляющи, но всё же работу с речью и знаниями, как ни странно, тоже можно считать узкой специализацией

На поле боя намного меньше нужно знать и уметь поэтому там автономные оружие применяется уже очень давно. Полностью автоматизированная система ведения огня ПВО как простой пример

[MenFrame]

Любой новый, непохожий на предыдущие фокус будет для него сюрпризом.

Это уже зависит от того что считать новизной. У ИИ может быть большая глубина абстрагирования(при большом опыте), и то что человеку покажется фокусом для него будет знакомым патерном.

[Olweg]

Можно ли интеллект сводить только к распознаванию паттернов?

[MenFrame]

Можно ли интеллект сводить только к распознаванию паттернов?

неросетевой однозначно да...

[BlackMokona]

Научные сотрудники юридического факультета Университета Миннесоты в США решили проверить, сможет ли чат-бот "ChatGPT" сдать экзамены наравне со студентами. Это технология, основанная на нейросети "GPT-3,5". Она считается самой сложной и объемной языковой моделью в мире. Ее создала компания "OpenAI". Один из основателей организации – Илон Маск.

Искусственный интеллект набрал проходной балл, но показал далеко не блестящие результаты. Несмотря на это, в некоторых американских школах технологию уже начали запрещать из опасений, что учащиеся будут выполнять задания с ее помощью.

Ученые из университета Миннесоты выбрали четыре дисциплины, по которым нейросеть сдала экзамен. Конституционное право, гражданско-правовые правонарушения, налогообложение и трудовые гарантии и компенсации. Для первых двух предметов нужны знания с первого года обучения. Остальные – это более продвинутые курсы по выбору. Всего чат-бот ответил примерно на 100 вопросов с вариантами ответов и решил 12 задач на рассуждение. Искусственный интеллект получил оценки "хорошо", "хорошо с минусом" и "удовлетворительно с минусом". Это далеко не худшая оценка в образовательной системе США, после нее идут еще две отметки. И, хотя почти во всех испытаниях чат-бот занял предпоследнее или последнее место среди студентов, в теории он мог бы выпуститься из университета, потому что набрал проходной балл. Правда, как отметили авторы исследования, такому студенту, скорее всего, назначили бы академический испытательный срок, чтобы убедиться, что он старается.

Ученые из Университета Миннесоты отметили, что чат-бот "ChatGPT"оказался неспособным провести глубокие причинно-следственные связи. При этом по некоторым критериям написания эссе он справился местами даже лучше студентов. Например, емко пересказал подходящие юридические доктрины, которые не упоминались в вопросах, процитировал факты и решения по прецедентам. Причем речь была хорошо структурирована. Закрытые вопросы с вариантами ответов оказались для нейросети непростыми, но, несмотря на это, технология верно решила 21 из 25 таких заданий на экзамене по конституционному праву.

Некоторые американские школы на этом фоне уже начали бороться с тем, что учащиеся используют искусственный интеллект для написания работ. В частности, государственные школы Нью-Йорка недавно заблокировали доступ к "ChatGPT" на школьных компьютерах, нейросетью нельзя пользоваться и в случае, если ребенок подключен к школьной сети. Причина – сомнение по поводу безопасности и точности контента. Но смысла в запретах нет, такие технологии, напротив, нужно использовать с пользой для образования, уверен методист московской школы "Глория", учитель с 26-летним стажем Сергей Астахов:

[Vitaliy]

Издание Buzzfeed уволило 180 человек и наняло чатбот для написания текстов https://rg.ru/2023/01/30/izdanie-buzzfeed-zamenilo-180-zhurnalistov-iskusstvennym-intellektom.html