Пределы автоматизации и внедрения роботов

[Olweg]

Две возможно связанные между собой новости.

https://4pda.to/2024/07/12/430150/openai_raskryla_plany_po_razvitiyu_obschego_iskusstvennogo_intellekta/
https://hightech.plus/2024/07/12/openai-nazvala-5-urovnei-dostizheniya-obshego-ii-ot-chat-botov-do-ii-izobretatelei

По информации издания Bloomberg, совсем недавно в рамках внутреннего собрания сотрудники компании OpenAI обсудили новую дорожную карту по развитию общего искусственного интеллекта (AGI).

Прогресс в создании AGI компания разделила на пять уровней:

Уровень 1: чат-боты (ИИ с возможностями разговорного языка)
Уровень 2: рассудительный ИИ (способность решать проблемы человеческого уровня)
Уровень 3: агенты (системы, способные выполнять действия от имени пользователя)
Уровень 4: новаторы (ИИ для помощи в изобретениях и открытиях)
Уровень 5: организации (ИИ для выполнения работы целой компании).

Руководство OpenAI считает, что их разработки пока находятся на первом уровне. Однако, по словам представителя компании, они близки к достижению второй ступени, которая называется «Reasoners» (Системы рассуждения). Такие ИИ способны решать задачи на уровне человека с докторской степенью, но без доступа к специализированным инструментам.

https://www.rbc.ru/technology_and_media/13/07/2024/669202da9a79471bc5c2e290

Создатель ChatGPT, компания OpenAI, работает над новым проектом в сфере искусственного интеллекта (ИИ) под кодовым названием Strawberry, пишет Reuters со ссылкой на источники и внутренние документы.

Strawberry — тщательно охраняемый секрет даже внутри OpenAI. Проект сосредоточен на том, чтобы ИИ-модели не только генерировали ответы на вопросы пользователя, но и заранее планировали разные сценарии взаимодействия, а также автономно изучали интернет для «глубокого исследования».
…
Как выяснил Bloomberg, на внутреннем собрании в OpenAI на днях продемонстрировали демоверсию исследовательского проекта, в который были заложены навыки рассуждения, схожие с человеческими.
…
Прежде проект Strawberry носил название Q* (произносится как Q-Star).

Вкратце про Q* тут:
https://habr.com/ru/news/775808/

[BlackMokona]

Прогресс генерации видео нейросетями за год на примере рекламы
https://packaged-media.redd.it/9vw0fxyooucd1/pb/m2-res_606p.mp4?m=DASHPlaylist.mpd&v=1&e=1721138400&s=b071cf3fcfef4d38ad9828f6f9509b84d8e6e4a7#t=0

[BlackMokona]

Новая технологий от Гугла. Заместо единой нейросети или группы нейросетей экспертов, бесчисленный коллективный разум ИИ.
https://arxiv.org/abs/2407.04153

The feedforward (FFW) layers in standard transformer architectures incur a linear increase in computational costs and activation memory as the hidden layer width grows. Sparse mixture-of-experts (MoE) architectures have emerged as a viable approach to address this issue by decoupling model size from computational cost. The recent discovery of the fine-grained MoE scaling law shows that higher granularity leads to better performance. However, existing MoE models are limited to a small number of experts due to computational and optimization challenges. This paper introduces PEER (parameter efficient expert retrieval), a novel layer design that utilizes the product key technique for sparse retrieval from a vast pool of tiny experts (over a million). Experiments on language modeling tasks demonstrate that PEER layers outperform dense FFWs and coarse-grained MoEs in terms of performance-compute trade-off. By enabling efficient utilization of a massive number of experts, PEER unlocks the potential for further scaling of transformer models while maintaining computational efficiency.

[Olweg]

Создатель ChatGPT, компания OpenAI, работает над новым проектом в сфере искусственного интеллекта (ИИ) под кодовым названием Strawberry, пишет Reuters со ссылкой на источники и внутренние документы.

Появились новые подробности:
https://www.reuters.com/technology/artificial-intelligence/openai-working-new-reasoning-technology-under-code-name-strawberry-2024-07-12/
https://hightech.plus/2024/07/15/novii-ii-ot-openai-poluchit-naviki-mishleniya-i-planirovaniya-svoih-deistvii

В мае Reuters получила копию внутреннего документа OpenAI, указывающего на работу над проектом Strawberry. Точная дата документа неизвестна, но он описывает план использования Strawberry для проведения исследований. План пока находится в стадии разработки. Согласно документу, модели Strawberry смогут вывести ИИ OpenAI за рамки простого ответа на запросы. Цель — научить модели заранее планировать действия и автономно перемещаться по интернету для проведения так называемых «глубоких исследований».

Strawberry использует специализированный метод пост-тренировки генеративных моделей ИИ. Метод предполагает, что модели дорабатываются для улучшения их работы в определенных областях после того, как их уже обучили на огромных массивах общих данных. Фаза пост-тренировки при разработке модели включает такие методы, как «тонкая настройка» — процесс, используемый практически для всех современных языковых моделей в разных вариантах. Например, можно давать модели обратную связь на основе ее ответов, а также предоставлять ей примеры хороших и плохих ответов.

У Strawberry есть сходства с методом, разработанным в Стэнфорде в 2022 году, под названием Self-Taught Reasoner или STaR. STaR позволяет моделям искусственного интеллекта самостоятельно «подтягиваться» к более высоким уровням интеллекта за счет итеративного создания собственных тренировочных данных. Теоретически его можно использовать для того, чтобы языковые модели превзошли человеческий интеллект.

В OpenAI нацелены на то, чтобы Strawberry выполняла сложные задачи, требующие планирования наперед и последовательного выполнения действий в течение длительного периода времени. Для этого компания обучает и оценивает модели на наборе данных «deep-research» («глубокое исследование»). Reuters не удалось определить, что находится в этом наборе данных. После обучения модель сможет автономно пользоваться интернетом и проводить исследования. В этом ей поможет специальный агент CUA, способный предпринимать действия на основе найденной информации. OpenAI также планирует поручить Strawberry задачи программистов и специалистов по машинному обучению.

Про метод STaR:
https://arxiv.org/abs/2203.14465

Насколько я понял, модель дообучают на тренировочных данных, содержащих вопросы и правильные ответы, самой подбирать логические рассуждения (rationales), приводящие к верному ответу.

[Vitaliy]

https://cs15.pikabu.ru/video/2024/07/17/172121591526665384_738dc99b_720x1280.mp4

https://pikabu.ru/story/taksi_v_kitae_vyikhodit_na_novyiy_uroven_11611855?utm_source=andlinkshare&utm_medium=sharing

[ivanij]

 

Куда опаснее не роботизация производства, а роботизация человека,

   Вот ещё один пример. Найдено на просторах Интернета.

[Rattus]

Кажется Зоркий Глаз начал что-то подозревать, после Букваря и Буратино Чапека, Азимова и Кэмерона, наконец открывая для себя социофутурологический потенциал жанра киберпанка.
Но, кроме совершенно верного:

Во-первых, как бы ни развивалась научная мысль, очень многие задачи с точки зрения той же экономики целесообразней выполнять человеку... человек — ресурс возобновляемый, да еще и воспроизводимый самостоятельно. Так что в одних случаях человеческое участие будет обусловлено дороговизной технологий, как происходит сейчас с компьютерным зрением, в других — созданием новых рабочих мест вокруг автоматизированных функций.

не обошлось и без забавного:

даже самый развитый ИИ никогда не станет потребителем экономических благ. Потреблять может только человек, а чтобы ему было на что покупать товары и услуги, он должен как-то зарабатывать.

Тогда получается, что кроме бытовых товаров в мире ничего не прозводится и не покупается? Любопытно было бы узнать - каким образом человек "потребляет" крупнокалиберное оружие, всевозможные расходники и комплектующие к спецтехнике и средствам производства, матобеспечение госструтур от полиции до сената и верховного суда (всю тамошнюю канцелярию, транспорт и спецобеспечение), удобрения и корм для животных...
Если ИИ когда-либо получит субъектность (т.е. станет более-менее автономным агентом, уполномоченным на принятие решений в реальном мире) де факто, то он автоматически становится и потребителем. А если ему будут доверены функции госуправления - то и сможет контроллировать потребление других потребителей: "На сегодня в мясе потребности нет."

Наконец, мы пока не видим предпосылок к тому, чтобы даже сильный ИИ смог подчинить себе творческий акт. И речь не о создании картинок, видео или музыки, с которыми ИИ уже прекрасно справляется, а о созидании. То есть о зарождении идеи, выборе оптимального пути для ее воплощения в непредсказуемых условиях, об убеждении других в верности такого выбора и об управлении ресурсами для ее реализации.

Потому что не читаем новости про уже появившиеся успехи ИИ в инженерии, естественных науках и математике.

Даже программирование самого ИИ происходит только благодаря творческому акту разработчиков.

и вообще не очень следим за новостями по теме.

Высший контроль над машинами останется за человеком

Главное - в это верить. Как в надёжную истинную демократичность и всецелую соцориентированность законодательства тех или иных республик, декларируемое в их конституциях.

[Combinator]

Конспективно про наше будущее. https://youtu.be/65BVk12lqEU

[Ый]

Про наше будущее показано в фильме "Кин-дза-дза". Это уж точно, даже не сомневайтесь. Я уже вижу признаки, и они прибавляются.

[ivanij]

Про наше будущее показано в фильме "Кин-дза-дза". Это уж точно, даже не сомневайтесь. Я уже вижу признаки, и они прибавляются.

 Но это не роботизация, а, скорее, маргинализация. Что в общем-то не менее мрачно.

[Olweg]

Конспективно про наше будущее.

Спасибо, интересно послушать мнение экспертов.

[Vitaliy]

-Тут одному не справиться, тут помощник нужен, Homo Sapiens)))

https://cs13.pikabu.ru/video/2024/07/22/1721632326214690642_f114faf2_720x1280.mp4

[BlackMokona]

https://habr.com/ru/news/830688/
В сеть слили ламму 3.1 постепенно тесты двигаются к своему максимуму.

[Vitaliy]

Японская сеть супермаркетов AEON начала использовать систему на базе искусственного интеллекта (ИИ), чтобы следить и оценивать улыбки своих сотрудников, пишет SCMP. Компания пошла на такой шаг, чтобы улучшить качество обслуживания.

https://itspeaker.ru/news/v-yaponskikh-magazinakh-ii-sledit-za-ulybkami-personala/

[Maki]

Японская сеть супермаркетов AEON начала использовать систему на базе искусственного интеллекта (ИИ), чтобы следить и оценивать улыбки своих сотрудников

Коронавирус и маски в Джапонии уже отменили приказом Микадо? Похоже на "утку"...

[ivanij]

Микадо

в Японии такой титул неизвестен. Есть "божественный тенно" - ворота Неба.
 А Искуственный интеллект по большому счёту "мыльный пузырь". Правильно мне говорил ещё 19 лет назад начальник лаборатории ВНИИМ им. Менделеева, что вся цифровая электроника не стоит ломаного гроша, если элементарно выдернуть... вилку из розетки.
  И я только что имел неприятную возможность в этом убедиться лично.
  В любом случае всякая искусственная субстанция полностью зависит от человека, и абсолютно независимой, да такой чтобы полностью выйти из под контроля, быть не может по определению.
   

[Ый]

В любом случае всякая искусственная субстанция полностью зависит от человека, и абсолютно независимой, да такой чтобы полностью выйти из под контроля, быть не может по определению.

Тут опасность в другом. Эта мощная вычислительная и аналитическая система может быть использована кем-то из людей для нанесения вреда.
Кстати, давно, когда у нас ещё не было термина "процессор", этот узел в вычислительных машинах назывался АЛУ - арифметически-логическое устройство. Так оно до сих пор и осталось, только усложнилось, и назвали его Искусственным интеллектом. А интеллекта там меньше, чем у курицы.

[ivanij]

Эта мощная вычислительная и аналитическая система может быть использована кем-то из людей для нанесения вреда.

Может.
Кстати, я добавлю про ИИ. ПО ассоциации возникает байка о том, будто бы парижские ростовщики хохотали в лицо тем господам, которые в их присутствии называли Бонапарта непобедимым.

[BlackMokona]

Первые успехи в запуске технологической сингулярности, пока слишком вычислительно дорогие и ещё недостаточно полные. Но всё же.
https://x.com/omarsar0/status/1816671382585114855

Recursive Introspection: Teaching Language Model Agents How to Self-Improve

https://arxiv.org/abs/2407.18219

[Combinator]

Первые успехи в запуске технологической сингулярности, пока слишком вычислительно дорогие и ещё недостаточно полные. Но всё же.
https://x.com/omarsar0/status/1816671382585114855

Recursive Introspection: Teaching Language Model Agents How to Self-Improve

https://arxiv.org/abs/2407.18219

Здорово! Я так понимаю, что это что-то типа дальнейшего развития идеи, заложенной в Q*?