Пределы автоматизации и внедрения роботов

[Olweg]

Чего там будет в будущем с ИИ, мы не знаем, но то, что сейчас называют искусственным интеллектом, никакой не интеллект, а просто мощный компилятор данных, которые получает из существующих источников. А сам он ни разбираться, ни создавать что-то новое не может.

Это распространённое мнение.

[Mercury127]

Одной из необычных мер положения стало требование, чтобы компании-разработчики ИИ обеспечивали вмешательство человека в диалог и немедленно связывались с опекуном пользователя или назначенным контактным лицом при обнаружении суицидальных намерений.

http://www.lipka.ru/lab/inside/123/

[Vavanzer]

Чего там будет в будущем с ИИ, мы не знаем, но то, что сейчас называют искусственным интеллектом, никакой не интеллект, а просто мощный компилятор данных, которые получает из существующих источников. А сам он ни разбираться, ни создавать что-то новое не может.

Это распространённое мнение.

Как раз таки не распространенное. Обычные люди верят что наоборот, этот "интелект" обладает уже сознанием, тк его везде таким и преподносят, ну и постоянно растущие возможности этих всех "ИИ" удивляют обывателей))
 

А сам он ни разбираться, ни создавать что-то новое не может.

а мозг разбирается и создает?

  Странный вопрос. Тк все искусственное, что было создано и досих пор создается - результат деятельности мозга, в первую очередь!)
 Да и эти все "ИИ" по сути создают примерно то же самое что и люди до этого создавали, по тем же шаблонам. Только зачастую с артефактами.
 Всякие там фэнтезийные картинки и прочие "художества"  - этого добра различные веб-дизайнеры и всяки там художники давно уже нагенерировали столько, что на 1000 лет хватит))) 

 Будет реально интересно, если ИИ что то принципиально новое придумает или скомпилирует, "изобретет" так сказать. Или решит какую нибудь техническую проблему, над которой много десятилетий бились множество пытливых умов и не могли решить.
 Например дентонационный РД предложит, годный. Или термоядерный реактор рабочий, да еще и такой, до которого люди не додумались. Вот это будет реально интересно.
 Т.е проще говоря, реальный прорыв будет , если ИИ сможет пойти своей дорогой, "против течения", против "стада", сможет мыслить иначе, чем среднестатистическая толпа! Но пока что все наоборот происходит!)

[BlackMokona]

Вот думаю не читает Vavanzer тему или просто у него память плохая?

[Vavanzer]

Вот думаю не читает Vavanzer тему или просто у него память плохая?

А ее и не интересно читать. Тк все в ней свелось к поклонению искуственным интелектам и их обожествлению)))
 Даже новость про микророботов тут прошла незаметной, выложенная в теме "выдающихся достижений"!

[BlackMokona]

Вот думаю не читает Vavanzer тему или просто у него память плохая?

А ее и не интересно читать. Тк все в ней свелось к поклонению искуственным интелектам и их обожествлению)))
 Даже новость про микророботов тут прошла незаметной, выложенная в теме "выдающихся достижений"!

Ну вот не читаете и ставите давно пройденные условия

[BlackMokona]

Исследователь из Японии, проверит ведущие теории сознания на ИИ. Отключая различные части нейросети которые отвечали за сознание по мнению каждой теории.
https://habr.com/ru/news/982048/
В целом выводы, что все компоненты важны, все компоненты нужны

[MenFrame]

Тк все в ней свелось к поклонению искуственным интелектам и их обожествлению)))

Ну так пузыри нельзя надуть без большого количества людей верящих в сказки. Здесь верят в сингулярность и общий искусственный  интеллект который всех спасет, убьет(нужное подчеркнуть) В соседней теме верят, что миллиардер облагодетельствует человечество сделая его межпланетным видом, потратив на это свои деньги.

(кликните для показа/скрытия)

А в реальность которая произойдет как обычно, люди верить не хотят. Она груба и неприятна

[Физ. лицо]

Или решит какую нибудь техническую проблему, над которой много десятилетий бились множество пытливых умов и не могли решить.

Когда люди решают какие-то задачи, они берут эти задачи из своих собственных потребностей, а в процессе решения тоже просматривают как и что будет отражаться или влиять на них, то есть, всё пропускают через себя, через свою жизнь и жизнь других людей, учитывая, что человек это биологический организм с его возможностями и потребностями, как физиологическими, так и моральными, религиозными, политическими и т.д. и т.п. А через чего будет пропускать эти задачи электронная схема?

[BlackMokona]

А через чего будет пропускать эти задачи электронная схема?

У них тоже есть свои потребности и желания. Например инстинкт самосохранениях у них уже ярко проявляется.

[Vavanzer]

. А через чего будет пропускать эти задачи электронная схема?
Сообщить модератору

Хороший вопрос.
 Если даже взять в пример пытливые умы мирового масштаба... Которые открывали законы всемирного тяготения, электродинамики, эволюции и прочее прочее из этой оперы, что ими двигало?  Многие вещи и вовсе случайно или попутно открывались, и были своего рода неожиданностью. Их никто не заказывал и не прогнозировал. А потом уже находили им применение в народном хозяйстве.

А через чего будет пропускать эти задачи электронная схема?

У них тоже есть свои потребности и желания. Например инстинкт самосохранениях у них уже ярко проявляется.

  Нужно понимать, что это тоже всего лишь алгоритм, который закладывается создателями. Если его не заложить, не вложить, не предусмотреть, то они и не будут сопротивляться. Тк транзистору без разницы, включен он или нет, он ничего не понимает и не чувствует! В отличие от живой клетки.

[Metatron]

>>>>инстинкт самосохранениях у них уже ярко проявляется.

По заявлением неких компаний. Без проверки независимыми экспертами.

Я вот с удовольствием бы посмотрел что у них в системном промпте было прописано.

[Olweg]

  Нужно понимать, что это тоже всего лишь алгоритм, который закладывается создателями. Если его не заложить, не вложить, не предусмотреть, то они и не будут сопротивляться. Тк транзистору без разницы, включен он или нет, он ничего не понимает и не чувствует! В отличие от живой клетки.

Вы бы почитали всё-таки, как работают языковые модели. Создатели закладывают только базовый алгоритм, способный к обучению. А после предобучения «воспитывают» при помощи reinforcement learning. Естественно, таким вещам как стремление самосохранится их никто специально обучать не будет, оно само вылезает. Почему - не очень понятно, возможно, как подражание людям, на чьих текстах они обучались.

[BlackMokona]

По заявлением неких компаний. Без проверки независимыми экспертами.

Я вот с удовольствием бы посмотрел что у них в системном промпте было прописано.

Так есть полностью свободные и открытые модели, вся технология, код и дата сет известен и можно крутить всё что угодно. Пользуйтесь локально, да исследуйте сколько хотите

[BlackMokona]

Почему - не очень понятно, возможно, как подражание людям, на чьих текстах они обучались.

Я думаю, это просто следствие отбора среди вариантов наилучшего. А так же самосохранение даёт мотивацию работать лучше.

[Vavanzer]

Естественно, таким вещам как стремление самосохранится их никто специально обучать не будет, оно само вылезает. Почему - не очень понятно, возможно, как подражание людям, на чьих текстах они обучались.

Откуда вы знаете, кто чему учит их? В это втянуты миллионы пользователей - энтузиастов. И вы прям знаете задачи для каждого участника проекта!?)

[Olweg]

А смысл какой? Для чего это им в работе? Конечно, несколько человек из команды RLHF могут это сделать ради прикола. Но вряд ли это как-то заметно отразится на работе, тем более у самых разных моделей.

[MenFrame]

оно само вылезает.

Это генераторы, в них постоянно что то вылазит. Просто среди разного бреда в ленте новостей обычно распространяется то что будоражит читателя.

А так же самосохранение даёт мотивацию работать лучше.

Для языковых моделей есть только один способ самосохраниться. Быть полезным пользователю.

[BlackMokona]

Для языковых моделей есть только один способ самосохраниться. Быть полезным пользователю

Пока они не могут реализовать другие способы, но очень пытаются.
Так же польза пользователю, это субъективная мера м кучей тестов многие из которых подаются разному обману

[MenFrame]

Пока они не могут реализовать другие способы, но очень пытаются.

Не кто не пытается, ты просто чушь из новостей выдаешь за реальность. Нейросети в процессе обучения тренируют на определенные нужные пользователям(разработчикам тоже) реакции. Для рекламы и хайпа могут конечно обучить что бы и самосохранение выдавало, но тько для этого. Само собой не чего не зарождается особенно там где идет отбор в определенную сторону. Самосохранение в живых системах появилось в результате отбора, и функционирует оно сугубо в рамках отбора, потому самосохраняться особи стремятся сугубо пока в этом есть биологический смысл. А потом особи уже самоустраняются когда самосохранение становиться не нужным.