Пределы автоматизации и внедрения роботов

[EmperioAf]

в теории. на практике машины медленнее во многих задачах на данный момент.
в шахматах и го лучших людей обгоняют как стоячих

Машины впринципе на порядки (в миллионы раз) быстрее людей.
На практике ИИ во многих задачах не научился грамотно выделять признаки.
Т.е. например в шахматах в каждой позиции есть примерно 100 признаков(ходов) , которые уже выделены правилами игры.
И как только люди научили компьютер адекватно оценивать позицию, так компьютер сразу научился делать расчёт на 15-20 ходов вперёд и побеждать человека в одну калитку.
Как только ИИ научат эмоциональной матрице человека, так он сразу и победит человека в информационной войне

[EmperioAf]

И как только люди научили компьютер адекватно оценивать позицию, так компьютер сразу научился делать расчёт на 15-20 ходов вперёд и побеждать человека в одну калитку.

Самые совершенные алгоритмы основаны на нейросетях. Их не учат признакам.

... 

Любой алгоритм явно или неявно работает с признаками. И в нейросетях в процессе обучения признаки тоже выделяются.
Например, фильтр в виде матрицы 3x3 из действительных чисел - это тоже признак. Но  ненадёжный. А вот глядя  на матрицу чисел 7x7, изображённую в серой (чёрно-белой) цветовой гамме, человеческий глаз (как и нейросети) уже  надёжно отличит например одну цифру(или букву) от другой.

[EmperioAf]

На практике ИИ во многих задачах не научился грамотно выделять признаки.
Т.е. например в шахматах в каждой позиции есть примерно 100 признаков(ходов) , которые уже выделены правилами игры.
И как только люди научили компьютер адекватно оценивать позицию, так компьютер сразу научился делать расчёт на 15-20 ходов вперёд и побеждать человека в одну калитку.

Расскажите по-подробнее: кто и как учил AlphaZero оценивать позиции в тех играх, что он освоил не хуже человека?

Я не являюсь инженером DeepMind и сужу по тому, что пишут в интернете.
А в интернете пишут, что AlphaZero провёл несколько миллионов партий сам с собой.
А для выбора лучшего хода AlphaZero использовал алгоритм поиска Монте-Карло. Т.е. некоторая вероятностная оценка позиции (что то вроде интуиции) у AlphaZero имеется.
В википедии идёт ссылка на статью в архиве (https://arxiv.org/pdf/1712.01815.pdf), где написано

Each position s is described by a sparse vector of handcrafted features φ(s), including
midgame/endgame-specific material point values, material imbalance tables, piece-square tables, mobility and trapped pieces, pawn structure, king safety, outposts, bishop pair, and other
miscellaneous evaluation patterns.

Т.ч. несколько естественных способов оценить текущую шахматную позицию они вручную всё таки внесли. Этого конечно недостаточно, чтобы машина видела шахматную доску как типичный человек-гроссмейстер. Но позволяет довольно адекватно оценивать позиции, чтобы можно было считать на глубину в 20+ ходов.

[EmperioAf]

На изготовление пригодного мексиканца требуется 30 лет. Бизнес не может ждать.

Почему 30 лет?
На примере ребёнка мы знаем, что на получение пригодного работника достаточно примерно 10 лет
Т.е. к 10-ти годам ребёнок социализировался в детсаде и 3-х годах школы; умеет читать, писать, считать; имеет цельное поверхностное знание о том, "кто он и откуда?" (история), "где он?" (география), "как всё устроено?" (естествознание, физика).
И это с нуля (с чистого листа!) до готового работника.
А для мексиканца наверняка достаточно специализированных курсов на 1-3 года и он станет полноценным американцем.

[EmperioAf]

Просто для напоминания всем. ЧАТГПТ это просто очень жирный Т9. Крайне жирный Т9.

Человек - это тоже просто очень жирный Т9. С той лишь разницей, что человек вычисляет будущее не только как текст, но и в осязаемых чувствами формах и учитывает в прогнозе будущего влияние того, что он собирается делать и будут делать другие субъекты стратегического действия.
Т.ч. ваш намёк, что предсказывание следующей буквы/слова/набор слов/и т.д. позволяет решать интеллектуальный задачи, переводить языки и прочее
 больше не актуален. У нас уже есть эффективный Т9. И это человек.
Несите следующий роботизированный механизм способный решать интеллектуальные задачи, переводить языки и прочее

[EmperioAf]

Конечно. И только тогда, когда вы полностью поймёте как это происходит у человека, можно всерьёз рассчитывать на создание ИИ.

Любопытно, а как мы вообще сможем понять, что ИИ создан, каковы будут объективные критерии? И каковы будут критерии того, что мы действительно понимаем, как это происходит у человека? 

 Наверное, всякий хотел бы это знать.

Всмысле?! 
Все итак знают главный критерий того, что ИИ создан - это когда он захватит власть и покажет, что способен её удержать.
А главный критерий любой интеллектуальности - это набор действий как ответ на изменения окружающей среды.
Т.е. когда адаптивность ИИ под окружающую среду в огромном спектре возможных ситуаций будет не хуже человека, значит мы понимаем как у человека "вертятся шестерёнки".

Вот конкретно говоря, люди - это жутко адаптивные существа, у которых такой огромный выбор действий, что человека очень сложно застать врасплох.
Т.е. например, надо скрестить несколько маловероятных событий, чтобы человек просто "завис" (т.е. просто встал и не знал что дальше делать в течение хотя бы нескольких часов). Я разумеется имею ввиду людей не употребляющих различные наркотические вещества.

[EmperioAf]

Да какое нафиг обучение у искусственного так называемого интеллекта? Просто реализация логической функции "если-то" в более сложной конфигурации с разветвлениями.

Не только "если-то". У нейросетей есть нелинейные функции активации, благодаря чему нейросети могут приходить к любым значениям внутри наборов данных и даже немного выходить за пределы наборов данных в соответствии со сложностью архитектуры нейросети.
Однако проблемы с выходом за пределы данных у нейросетей такие же как у человека.
Т.е. если человека поместить в незнакомую среду/ситуацию, то он тоже не знает как всё работает и ему нужно некоторое время для дообучения.

Все итак знают главный критерий того, что ИИ создан - это когда он захватит власть и покажет, что способен её удержать.

Получается 99.99999% людей по такому критерию разумом не обладают?

Обладают, потому что у всех людей есть реальное влияние (читай власть) как минимум над некоторыми предметами быта (например я свою зубную щётку никому не отдам) и знакомыми людьми.
Тут проблема заключается в том, что люди знают, что власть опирается в первую очередь на силу. И поэтому всё современное оружие (ракеты, самолёты, бомбы и т.п.) хорошо охраняется. И видимо пока что ИИ не смог придумать как поставить под контроль хотя бы значимую часть оружия на Земле.

[EmperioAf]

Вот к примеру 4 ремейка картины Левитана. Где там фальшь видна?

На картинке из левого нижнего прямоугольника в правой части картинки чуть выше середины видно дерево, которое как будто стоит из реки. Учитывая, что по фону картинка смахивает на пейзаж из умеренного климата, то такие высокие деревья из реки обычно не растут. Это выглядит неестественно.

[EmperioAf]

Когда сетку для нормального анализа сделают?

То есть для математического анализа? Вам нужно решать интегральные  и дифференциальные уравнения с помощью chatGPT?

[EmperioAf]

Когда сетку для нормального анализа сделают?

То есть для математического анализа? Вам нужно решать интегральные  и дифференциальные уравнения с помощью chatGPT?

У нас еще в 2010 году в институте были приложения для мат анализа, важнее заставить ии программировать, что кстати у меня получалось хуже чем матан который давали еще в школе то есть больше лет.

Я имел ввиду, что в ВУЗах нам по факту дают, что для определённых типов Диффуров имеются определённые виды решений (есть конечно и общие методы решения диффуров).
А было бы здорово , чтобы ИИ изобретал новые способы решения диффуров, которых раньше не было.
А то для меня было лёгким шоком, когда в 3-ем семестре на лекциях диффуров читали примерно следующее:
Дифференциальное уравнение вида  .... с помощью подстановок преобразуется в дифференциальное уравнение вида ... , которое имеет общее решение вида ....
Докажем это подстановкой решения в исходное дифференциальное уравнение.
Т.е. совершенно непонятно откуда берётся вид общего решения дифференциального уравнения определённого типа. Приходилось просто запоминать, но по итогу считанных месяцев естественно всё это забылось.
А вот основные методы решения диффуров (раздельное интегрирование, подстановка, искать переменную в виде произведения двух переменных) остались со мной навсегда, хотя они мне и не нужны вроде бы.
И было бы здорово, чтобы ИИ напридумывал бы таких лайфхаков для быстрого решения диффуров.
Вот если спросить у chatGPT про вид общего решения системы диффуров Навье-Стокса, то что он ответит?

[EmperioAf]

Зачем, если сами пишете, что есть общие?

Потому что мне было мало этих общих методов. Я помню, что нам давали чуть более сложную версию диффура, который мы решали на семинаре и я иногда не знал, что с ним делать. Обычно надо было догадаться сделать правильную замену переменной.

[EmperioAf]

Как видим, результат качественно не отличается. Мышлением тут не пахнет. Понимания — ноль.

Честно говоря, не понял, что вам не понравилось. Модель должна была сказать, что не знает как называется научная база на южном полюсе?
Но это же не существенная деталь, в том смысле, что увидев знакомую формулировку задачи модель по умолчанию приняла, что речь идёт о северном полюсе.
Если бы я был ограничен по времени, то скорее всего ответил бы также

[EmperioAf]

https://habr.com/ru/articles/794566/

Вот это кстати интересный момент. Нет необходимости симулировать всю вселенную, если возможно генерировать контент, который непосредственно воспринимает пользователь.

Азы солипсизма, в который уже столь огромное количество раз в этом разделе пытались уйти, что я бы вам не рекомендовал 

[EmperioAf]

Честно говоря, не понял, что вам не понравилось.

Не понравились утверждения о том, что GPT что-то там понимает и как-то там мыслит.

Ну так эта метафора. Видно же, что chatGPT мыслит поверхностно, т.к. сильно зажат в рамках своей системы слов, и соответственно , например, рано использовать его для создания того, что всерьёз и надолго придёт на замену постмодернизма в философии или для создания теории всего, которая объединит квантовую механику и ОТО.

[EmperioAf]

Китайские роботцы

Офигеть:
https://www.reddit.com/r/singularity/comments/1gpsr50/chinese_company_deep_robotics_announced_their_new/

Из комментов: «В наши дни можно снять эпизод «Черного зеркала» без всяких спецэффектов».

Что то у них на сайте написано, что максимальная скорость больше 4 м/с.
Маловато будет. Человек бегает 10 м/с

[EmperioAf]

Надо же и тут ИИ!

Вангую, что если взять населённый пункт, на который есть подробная статистика по климату(температура, давление, влажность хотя бы ежечасно), и натравить ИИ на эти данные, то выяснятся новые, доселе неизвестные, закономерности в погоде данного населённого пункта.

[EmperioAf]

У ИИ цель одна...Служить человеку. Потому доминировать ИИ будет сугубо если это будет нужно человеку,

Умному служить глупому? Обхохочешься..

Нет. Сильный ИИ будет понемногу поднимать интеллектуальный уровень своего хозяина с помощью манипуляций, которые хозяин не замечает в силу своей тупости. Происходить это будет объективно в силу закона Эшби

[EmperioAf]

Хотелось бы, чтобы использование ИИ было сильно ограничено законодательно

Хотелось бы, чтобы неиспользование ЕИ было сильно ограничено законодательно - со штрафами за нарушение. А то пока эта благородная задача отдана на откуп телефонным мошенникам и работникам культов, а так можно было бы бюджет страны пополнять! 

Бойтесь своих желаний! Есть большое количество людей, которые почти не используют ЕИ на своей нелюбимой работе, на которую ходят только для зарабатывания денег, - а в свободное время используют ЕИ для хобби. И я не верю в ББД (как Вика в цитате ниже), т.к. по себе знаю как меня развращают расслабляют 2 недели отпуска.
Работа пешим курьером мне нужна не только для зарабатывания денег, но и чтобы иногда ужасаться тому как бесполезно я трачу своё время.
Т.е. общество людей достигнет предела автоматизации и внедрения роботов (когда все  junior-подмастерье-позиции  будут заняты ИИ по максимуму), то в это же время будет достигнут ещё и минимальный предел втягивания населения на высококвалифицированные должности, где использование ЕИ необходимо.

Жизнь в городе требует меньшего использования ЕИ, чем в жизнь в деревне.
Мне представляется, что человеческий вид слишком мало провёл эволюционного времени в состоянии, когда значительная часть населения урбанизирована. Мне кажется, что качественный скачок (переход количества в качество с приобретением нового свойства) у современного урбанизированного общества ещё не произошёл.
Т.ч. рано принудительно поднимать уровень использования ЕИ у населения.

Может, плюсы и минусы Базового безусловного дохода обсудим в отдельной теме? ББД не очень про роботов, скорее, про возможные варианты устройства общества.
 
Но в целом, наблюдая за окружающими (в том числе близкими родственниками), понимаешь, что наличие ББД не мешает людям продолжать активно работать, причем не только за деньги. Вариант ББД у нас уже есть – это пенсия. И почти все мне известные пенсионеры при наличии хотя бы минимального здоровья впахивают на дачах. Каждую осень у нас борьба с урожаем – что-то замораживаем, что-то солим, что-то в банки закатываем И помимо дачи – кто вяжет, кто кукол делает, кто старую мебель реставрирует. И я сама, дай мне ББД – все равно буду заниматься сайтом и обучать детишек, даже забесплатно.
Кроме того. Прогрессирующее старение населения потребует больше сиделок, компаньонок, социальных работников, сотрудников домов престарелых. Люди будут не производить материальные блага, а обмениваться услугами. Людям все равно нужны люди. Так что желающие работать – работать будут, так или иначе.

[EmperioAf]

На самом деле всем плохо. Есть у них особенность видеть в такой последовательности паттерн, по которому они предсказывают следующий знак: + + + - - + +. Чаще плюс но могут и минус, а надо смотреть совсем на другие части задания, на четность чисел.

Какое то неоднозначное условие. Можно продолжить 3 минусами, и тогда получится одна симметрия:  + + + - - + + - - -
А можно продолжить плюсом и двумя минусами, и тогда получится другая симметрия: + + + - - + + + - -

[EmperioAf]

Если дать LLM длинный диалог, а потом спросить про детали из его начала, с вероятностью 99% она запутается или сделает вид, что ничего не было. Поэтому длинные рассуждения, планы, последовательные цепочки задач для моделей — по-прежнему сложный квест: они не умеют по-настоящему «запоминать».

Т.о. существующие LLM подобны либо аутистам (рассуждающие модели), либо СДВГшникам (быстрые модели), причём в обоих случаях - с довольно выраженной старческой деменцией.

С длинным диалогом скорее прослеживается  экспоненциальное увеличение размера контекста.


Если человеку дать рассказ на 150 слов, то он тоже с точностью выше 90% перескажет содержание. А вот с рассказом на 1500 слов, если не будет "красной линии", которая идёт через весь рассказ, то точность будет низкой.
Вид Homo Sapiens не смог решить проблему комбинаторного взрыва (когда не знаешь, что важно, а что нет из новой информации и заканчивается память, после чего мозг клонит ко сну) за более чем 150 тысяч лет. Очевидно проблема заведомо нерешаемая, до тех пор пока жёстко не определить, что важно, а что нет.
Т.ч. непонятно зачем вообще исследователи отмечают проблему длины контекстного окна.