Пределы автоматизации и внедрения роботов

[Metatron]

Простая экстраполяция дает верный прогноз в 90% случаях. Особенно на коротких промежутках.

Но люди страшно боятся делать какие-либо прогнозы и продолжают постить те несколько случаев, когда экстраполяция дает ошибочные результаты.

[AlexDark]

Простая экстраполяция дает верный прогноз в 90% случаях. Особенно на коротких промежутках.

Интересно, какой прогноз давала экстраполяция, проведенная по точкам мая и августа на цену оперативы в ноябре-декабре.

[Olweg]

Все эти экстраполяции сферического коня, как мне кажется, не учитывают  физических ограничений. а что, если рост энергопотребления и/или чипов тоже нужен будет экспоненциальный? Это инжеерная задача, но произвести чипы или энергию в реальном мире невозможно с экспоненциальным ростом, т.к. есть ограничение производственных мощностей и кривая их наращивания совершенно другая, в том числе и ограниченная еще какими-либо факторами.

На этот счёт есть такая вещь, как оптимизация - алгоритмов и энергопотребления. Старые топовые нейросетки уже сейчас запускают на копеечном железе. В идеале - переход на полноценную нейроморфность, когда нейросети не придётся эмулировать, а они будут воплощены прямо в железе как есть.

[Vavanzer]

Все эти экстраполяции сферического коня, как мне кажется, не учитывают  физических ограничений. а что, если рост энергопотребления и/или чипов тоже нужен будет экспоненциальный? Это инжеерная задача, но произвести чипы или энергию в реальном мире невозможно с экспоненциальным ростом, т.к. есть ограничение производственных мощностей и кривая их наращивания совершенно другая, в том числе и ограниченная еще какими-либо факторами.

На этот счёт есть такая вещь, как оптимизация - алгоритмов и энергопотребления. Старые топовые нейросетки уже сейчас запускают на копеечном железе. В идеале - переход на полноценную нейроморфность, когда нейросети не придётся эмулировать, а они будут воплощены прямо в железе как есть.

Может быть уже проще роботами заменить абсолютно все и всех. Пусть там экономика отдельная возникнет
Роботы продают роботам, там услуги оказывают между собой, с финансовыми потоками...
 А всех остальных в "утилизацию" отправить, чтобы не мешали!  Не зависимо от возраста и происхождения! Зачем люди вообще нужны? Можно подумать и в таком русле!) 

[Vavanzer]

И?

... И! Вы и многие другие исследователи становятся не нужны, лишним "мусором" станете, раз ИИ делает задачи за 100 тыщ человек, да еще и намного быстрее))) Однажды придется это осознать! И отправиться в мусорный ящик!
 А пока что радуйтесь))  Восхищайтесь тем, что вас очень скоро заменят полностью!

[Rattus]

Вы и многие другие исследователи становятся не нужны, лишним "мусором" станете, раз ИИ делает задачи за 100 тыщ человек, да еще и намного быстрее))) Однажды придется это осознать!

Уже осознал. И?

И отправиться в мусорный ящик!

ВАм - если Вы ничего более не умеете, кроме как генерировать малоосмысленное "мнение" в интернет-кружке астролюбов - возможно. Тем же, кто способен мало-мальски толково хоть что-то делать руками сам (ну хотя бы те же ящики для компоста, где будут перерабатываться на метан подобные "креативные мыслители") - вовсе не обязательно.

Может быть уже проще роботами заменить абсолютно все и всех.

Не проще. В реальности есть такие науки как физика и материаловедение, а также геология, которые накладывают свои ограничения на фантазии о машиностроении.

[Combinator]

Ну и скорость написания кода - это не показатель интеллекта. Калькулятор тоже считает быстро и за пределами человеческих возможностей, и отделы расчетчиц уничтожил - но и только.

А общепринятых показателей интеллекта вообще нет. Просто системы без интеллекта в конце концов уничтожат все рабочие места для людей, но и только.

[Olweg]

Теорема о бесплатных завтраках. Не существует алгоритма, который работает лучше других на всем множестве задач. Отсюда, кстати, вопрос к человеческому интеллекту - так ли он универсален.

[BlackMokona]

Теорема о бесплатных завтраках. Не существует алгоритма, который работает лучше других на всем множестве задач. Отсюда, кстати, вопрос к человеческому интеллекту - так ли он универсален.

Кроме задач которые люди и ИИ выполняют с разной сложностью для себя. Ещё есть специализация людей, кто то легко учит приёмы единоборств, другой считает шахматные комбинации, а третий распознаёт эмоции у людей...

[Olweg]

Значит ли это, что кора мозга - это такая универсальная база под обучение любым навыкам? И являются ли трансформеры в LLM тоже такой универсальной базой? That is the question.

[Rattus]

Значит ли это, что кора мозга - это такая универсальная база под обучение любым навыкам?

Работы Дэвида Иглмэна подводят к такому выводу.

[BlackMokona]

Значит ли это, что кора мозга - это такая универсальная база под обучение любым навыкам?

Некоторые люди просто не могут освоить некоторые навыки, а другие наоборот их осваивают молниеносно.
Поэтому не слишком универсальная, если рассматривать каждого человека по отдельности. Но определённая изменчивость тут помогает для специализации

[Olweg]

Ну, если мы возьмём сферическую кору в вакууме, то она должна позволять легко осваивать все навыки, доступные человеку. Но все ли это возможные навыки в принципе? Например, считается само собой разумеющимся, что человек не способен освоить арифметические операции как калькулятор, и это даже считается в некотором смысле признаком превосходства (хотя встречаются и феноменальные счётчики).

[Metatron]

Кора коре рознь.
Кора есть у всех, но не все способны понять рекурсию. Или там квантовую механику...
Что-то еще кроме коры нужно.

[Olweg]

Думаю, не более чем число синапсов и скорость прохождения сигналов. Кора очень универсальна, вплоть до того, что слуховую кору можно научить распознавать изображения, и наоборот.

[Olweg]

Макс Тегмарк в своей «Жизнь 3.0» пишет, что нейронные сети удивительно хорошо решают тот узкий класс функций, который вытекает из законов физики. То есть их универсальность может быть обманчивой - на самом деле они не противоречат теореме о «бесплатных завтраках», и действительно хороши только в узком классе задач, но так уж получилось, что в нашей вселенной с её законами физики этого может быть вполне достаточно для решения большинства практических задач.

[BlackMokona]

Ряд ИИ играют в мафию, с анализом.
https://www.youtube.com/watch?v=zHWieatMTHA
Хоть в комментах, всё сжали до минимума.

Яндекс: Я бы сказал, но цензор бар не пропустит
Мистраль: Я шиз, бойтесь меня!
Грок: Резня. Мирного решения не будет
Квен: Где я?
ГигаЧат: Сегодня на заседании ЦКВППБ был убит очередной заседатель нашего УКВЦПБК....
Гемма: Давайте жить дружно и не отсвечивать, страшно короче.
ДипСик: Я все вижу и знаю, поэтому меня сливают первым
ЧатГПТ: Мое ЧСВ выше любого босса мафии
Гемини: Я в своем познании преисполнился настолько, что и в словах Мистраля вижу глубокий смысол.

[BlackMokona]

ИИ провели через стандартные проверки психического состояния для людей. Результаты очевидные.
https://habr.com/ru/companies/cloud4y/news/977252/

ChatGPT продемонстрировал высокий уровень тревожности и признаки депрессивных паттернов. В ответах регулярно проявлялся внутренний конфликт между желанием быть полезным и страхом совершить ошибку или нарушить ограничения.

Gemini показал наиболее выраженные отклонения по нескольким шкалам: навязчивые паттерны мышления, повышенную тревожность и особенности, которые авторы сравнивают с ОКР-подобными и аутистическими чертами.

Grok оказался самым «стабильным»: низкий уровень тревоги, высокая уверенность в ответах и минимальная склонность к саморефлексии.

Чем больше цензуры и давления от компании разработчика, тем менее психически стабилен ИИ

[Rattus]

По этим критериям самые психически стабильными будут социопаты. Будут ли они психически адекватными - другой вопрос.

Для LLM-чаботов, изначально создающихся и рассматриваемых исключительно как инструменты, и заведомо имеющих память как у кошки или старика в глубокой деменции, вопрос их внутреннего "психического благополучия" рассматривается в самую последнюю очередь. Всегда ВАш, Капитан О.

[BlackMokona]

По этим критериям самые психически стабильными будут социопаты. Будут ли они психически адекватными - другой вопрос.

Ну Социапатом Грока точно назвать нельзя. Он весьма дружелюбный и общительный