Пределы автоматизации и внедрения роботов

[BlackMokona]

Согласно диаграмме, время автономности порядка человеческого поколения (107 минут)

Вы не путайте автономность и способность выполнять задачу длинны Икс.
Обычно у людей пыл делать какой то проект заканчивается радикально быстрее 10^7 минут, нередко пяти минут то не проходит как наполеоновские планы сменяются их крушением от лени и других проблем. Долбить какую то задачу непрерывно на протяжении даже одного года, часто удел психически не здоровых людей. Со всякими аутизмами.

[Vavanzer]

Согласно диаграмме, время автономности порядка человеческого поколения (107 минут)

Вы не путайте автономность и способность выполнять задачу длинны Икс.
Обычно у людей пыл делать какой то проект заканчивается радикально быстрее 10^7 минут, нередко пяти минут то не проходит как наполеоновские планы сменяются их крушением от лени и других проблем. Долбить какую то задачу непрерывно на протяжении даже одного года, часто удел психически не здоровых людей. Со всякими аутизмами.

Самое то интересное, люди при этом все равно не отступают. Заново бросаются в решение теорем всяких и задачь, новые исследователи с новой силой штурмуют трудно разрешимые задачи.
 Где то логикой берут, а для чего то проекты в РВ создают, требующие больших вычислительных мощностей и времени для перебора данных.
 Например, банальный случай - Перельман с теоремой Пуанкаре. И российский проект Sat@home , который успешно завершен, нашли что хотели.

 Другое дело, что нередко трудноразрешимые задачи требуют пересмотра тактики и методов, изменения стратегии и подхода. ЧПУ-станок сам до этого вряд ли додумается!  Если в нем нет какого то адгоритмя, то вряд ли он появится сам собой "из ничего", в отличии от человека с оригинальным и нестандартным плдходом.
 Перельман к примеру, смог решить задачу века методом от отбратного, в обратной последовательности через допуски различные.

[BlackMokona]

Например, банальный случай - Переоьман с теоремой Пуанкаре.

Только у нас тут не среднечеловек, а гений математик с очень большими отклонениями от нормы по психическому профилю.

[Vavanzer]

Например, банальный случай - Переоьман с теоремой Пуанкаре.

Только у нас тут не среднечеловек, а гений математик с очень большими отклонениями от нормы по психическому профилю.

Да нет у него никаких отклонений. Просто он очень увлекся, сделал делом своей жизни. Тк видимо нашел какие то предпосылки, и погимал свои возможности., и ему было вкайф решать эту задачу.
  Он же не бьется головой об стену, не чудит, не крушит заборы, не кусает прохожих. Мирно себе живет аскетично. Обычный увлеченный творческий человек.

[Rattus]

Обычно у людей пыл делать какой то проект заканчивается радикально быстрее 10^7 минут, нередко пяти минут то не проходит как наполеоновские планы сменяются их крушением от лени и других проблем. Долбить какую то задачу непрерывно на протяжении даже одного года, часто удел психически не здоровых людей. Со всякими аутизмами.

Но мы же не про обычно, а про предельно говорим? На доказательство теоремы Ферма у вроде как довольно адекватного семьянина Эндрю Уайлса (и то не одного, а с помощью Ричарда Тейлора и то далеко не с нуля, а с работы Кена Рибета) ушло девять лет довольно напряжённой работы.

Вы не путайте автономность и способность выполнять задачу длинны Икс.

Задача может быть и динамическая - например задача выживания.

[Vavanzer]

Но мы же не про обычно, а про предельно говорим? На доказательство теоремы Ферма у вроде как довольно адекватного семьянина Эндрю Уайлса (и то не одного, а с помощью Ричарда Тейлора и то далеко не с нуля, а с работы Кена Рибета) ушло девять лет довольно напряжённой работы.

А с компьютерами многие задачи стали решаться "на раз", которые раньше требовали миллиарды лет ручных подсчетов!))

[Mercury127]

действующую по определенным алгоритмам ... опять же, придуманных людьми алгоритмов!

https://github.com/HarryR/z80ai/releases
найдите здесь, в этом массиве двухбитных чисел («весов»), хоть какой-то алгоритм.
да хотя бы следы самих тренировочных фраз из training-data.txt найдите.
ведь вы же можете? ведь вы же человек, а не «робот с алгоритмами»?

[BlackMokona]

Но мы же не про обычно, а про предельно говорим? На доказательство теоремы Ферма у вроде как довольно адекватного семьянина Эндрю Уайлса (и то не одного, а с помощью Ричарда Тейлора и то далеко не с нуля, а с работы Кена Рибета) ушло девять лет довольно напряжённой работы.

Тут уж надо точнее определить термины. Потому как обгонять ли среднего человека везде или обгонят команду из предельных людей во всём.

Задача может быть и динамическая - например задача выживания.

Тут график всё же про масштаб задач, а не про сроки автономии опять же.
Попробую пояснить иначе.

Есть задача сделать яичницу, 15 минут.
Каждый день делать яичницу на протяжении тысячи лет, всё так же требует 15 минутных задач на графике. Оно не растёт в этом.
Это именно замах на всё более сложные задачи.
Хороший шашлык уже задача двух суток, с учётом маринования и тд. Поэтому требует уже 2 суточного ИИ на графике.
Хорошее вино, нужно заложить на 2 месяца в бочках. Внезапно это уже 2 месяца ИИ на графике.

Это крайне анти интуитивный метод измерения интеллекта. Ведь кажется, что какая разница то? Однако по какой то причине это требует намного более высокого уровня интеллекта для таких действий.  Причём когда большинство бечмарков крайне быстро выдыхаются и перестают что-то значить. Тут получился как раз крайне качественный бечмарк который ложиться на всё развитие ИИ и очень качественно определяет уровень интеллекта, да взаимоотношение интеллектов разных ИИ между собой.

[Rattus]

А с компьютерами многие задачи стали решаться "на раз", которые раньше требовали миллиарды лет ручных подсчетов!

Доказательство теорем такого вида - это подсчёты в очень небольшой степени. Это весьма (если не сказать - крайне) высокоуровневая и нетривиальная интеллектуальная работа.

найдите здесь, в этом массиве двухбитных чисел («весов»), хоть какой-то алгоритм.

Символ "K" встречается существенно чаще остальных. Наверное это какой-то разделитель. Последовательность далеко не является шумом и её энтропия не так уж велика - значит точно должен быть алгоритм её генерации. Не обязательно строго-детерминистичный, разумеется.

Попробую пояснить иначе.
Есть задача сделать яичницу, 15 минут.
Каждый день делать яичницу на протяжении тысячи лет, всё так же требует 15 минутных задач на графике.

Задача "сделать яичницу" в полном виде включает в себя подзадачи "Где достать яйца?" "Где достать сковороду?" "Где достать деньги на это всё, причём так, чтобы в итоге не был перекрыт доступ к дому с плитой на ближайшие несколько лет?" - и вот в таком виде эта задача решается далеко не за 15 минут.

[BlackMokona]

Задача "сделать яичницу" в полном виде включает в себя подзадачи "Где достать яйца?" "Где достать сковороду?" "Где достать деньги на это всё, причём так, чтобы в итоге не был перекрыт доступ к дому с плитой на ближайшие несколько лет?" - и вот в таком виде эта задача решается далеко не за 15 минут.

Это вы уже задачу зарабатывать деньги ставите, а не приготовить яичницу

[Mercury127]

Позабыты хлопоты, остановлен бег...

[Polnoch Ксю]

превосходно. вы уже мыслите как тиран-параноик: неважно, есть ли угроза на самом деле, но ресурсы на "защиту" готов бросить все, какие найдёт, уже сейчас.

Мышление вайбами - имхо, проклятие нашей эпохи. Мозг в эпоху твиттера и тиктока привык заметить намёки на паттерн и сразу выдать ассоциацию без логической связи. Нет, для нас это поведение естественно, но в прошлую эпоху всё же принято было сперва подумать и логические обоснования найти под уже выдуманную ассоциацию

Я вообще-то наоборот, пытаюсь измыслить меры против ASI-тирана, или более вероятно, ASI-палача, причём институциональные: это полностью противоположно тирании/диктатуре, если подумать.

[Konstantin Schtsch]

https://github.com/HarryR/z80ai/releases
найдите здесь, в этом массиве двухбитных чисел («весов»), хоть какой-то алгоритм.
да хотя бы следы самих тренировочных фраз из training-data.txt найдите.
ведь вы же можете? ведь вы же человек, а не «робот с алгоритмами»?

QR-код вы тоже не шибко читаете, но имея тупенький алгортм в три строчки прекрасно расшифровываете.
Да даже десяток цифр вам ни о чем не говорит, но если найти их в вашей же телефонной книге- это будет контакт вашего знакомого, за которым стоят годы отношений и море воспоминаний.

Так что предлагаю не путать людей, смотреть на цифры адекватно и для каждого формата пользоваться своим кодеком. Дампы весов - не исключение.

P.S. В двухбитных системах - всего 4 значения, включая ноль, а здесь явно больше видов букв. Не похоже на двухбитный массив.

[Vavanzer]

действующую по определенным алгоритмам ... опять же, придуманных людьми алгоритмов!

https://github.com/HarryR/z80ai/releases
найдите здесь, в этом массиве двухбитных чисел («весов»), хоть какой-то алгоритм.
да хотя бы следы самих тренировочных фраз из training-data.txt найдите.
ведь вы же можете? ведь вы же человек, а не «робот с алгоритмами»?

Это уже програмный код. А не структура и алгоритм. Тут вопросы лучше к профессионалам)
  ТЗ может сильно отличаться от готового проекта, в плане внешней проявленности. ТЗ может быть даже понятно простому человеку, не посвященному. А вот проект исполнения этого ТЗ уже разве что узкие специалисты смогут прочитать и понять)

Задача "сделать яичницу" в полном виде включает в себя подзадачи "Где достать яйца?" "Где достать сковороду?" "Где достать деньги на это всё, причём так, чтобы в итоге не был перекрыт доступ к дому с плитой на ближайшие несколько лет?" - и вот в таком виде эта задача решается далеко не за 15 минут.

    и этим отличается реальная реальность от виртуальной!) Отчего ИИ становится бессильным перед множеством даже примитивных задач. Потому что он не может "ложить плитку и кирпичи"... Максимум, может подсказать что по вариантам как это сделать, найти где чего взять, какий способ выбрать. Хороший советчик, но никакой исполнитель.
  И, опять же, подскажет он, руководствуясь инфой из статей, распространенных в сети, написаных людьми)
  Короче, куда не ткни, везде ИИ упирается основой в плоды человеческого творчества. 

[Polnoch Ксю]

https://github.com/HarryR/z80ai/releases

Удивительно. Не знала, что можно настолько сжать LLM. Прям готовый сюжет для трешовой литературы: программист Коля попадает в США в 1976й с флэшкой с архивами с гитхаба. Толком не зная язык, оказывается бомжом на улице с хиппарями - на работу писать на ассемблере под мейнфреймы его не взяли.
Накурившись тем, с чем с ним поделились его новые друзья, влезает в чей-то дом, находит там компьютер спектрум. С компом под мышкой сбегает от стреляющих в него хозяев.

Сидя в городском парке среди хиппарей, подключается к городской сети, вскрыв трансформатор, и показывает им "настоящий ИИ", рассказывает на ломанном языке о том, что сейчас пойдёт к основателям Intel и сделает своих новых друзей миллиардерами.

(кликните для показа/скрытия)

Надо только придумать, как он смог спаять адаптер между интерфейсами спектрума и USB. Скажем, тут читатель узнает, что Колю зря не взяли писать код для мейнфреймов, ведь low level стек USB Коля знает

(кликните для показа/скрытия)

треш-сюжет придуман без использования ИИ

[Polnoch Ксю]

Это уже програмный код.

не в большей степени, чем коннектом в Вашем мозге

) Отчего ИИ становится бессильным перед множеством даже примитивных задач. Потому что он не может "ложить плитку и кирпичи"... Максимум, может подсказать что по вариантам как это сделать, найти где чего взять, какий способ выбрать. Хороший советчик, но никакой исполнитель.
  И, опять же, подскажет он, руководствуясь инфой из статей, распространенных в сети, написаных людьми)
  Короче, куда не ткни, везде ИИ упирается основой в плоды человеческого творчества. 

Нет, его проблемы связаны не с этим, а с тем, что у LLM архитектурные проблемы в понимании 3d мира, движения и времени. Восприятие картинок к этой архитектуре кое-как прикрутили, но нет, LLM с трудом моделируют 3х мерный мир (картинки генируют другие модели обычно, diffisuion архитектуры, но LLM могут "видеть" и понимать немножко что на картинке. Генерируют LLM обычно вызывая инструмент с diffusion моделью)

 У нас есть интуитивное понимание 3d/времени мозговыми структурами, которые древнее тех, чем те, с помощью которых мы говорим. А у LLM есть только то понимание фабрики space/time только то, что есть в языке, в учебниках физики и литературе, в бытовых разговорах людей. Мы когда общаемся, не объясняем то, что для нас очевидно про трёхмерный мир. Поэтому LLM, обученные на наших текстах, с трудом восстанавливают ограниченную модель времени-пространства.

Это очевидно всем, кто пробовал прикрутить MCP к blender (утилита для 3d моделирования) и подключить blender к агенту с LLM. То, что модель Вам смоделирует, будет или очень простым, или кринжовым трешем. И она даже не поймёт что не так в 3d модельке.

Эту проблему решает новая архитектура - VLA. В ней токенизируется не только текст, но и 3d мир

[Инопланетянин]

Я вообще-то наоборот, пытаюсь измыслить меры против ASI-тирана, или более вероятно, ASI-палача,

Не наоборот, а именно это самое. У вас нет доказательств возможности этого самого Василиска Роко, но ресурсы готовы выделять, а в качестве доказательства приводите цель затраты ресурсов, а не её возможность.

[Polnoch Ксю]

Я вообще-то наоборот, пытаюсь измыслить меры против ASI-тирана, или более вероятно, ASI-палача,

Не наоборот, а именно это самое. У вас нет доказательств возможности этого самого Василиска Роко, но ресурсы готовы выделять, а в качестве доказательства приводите цель затраты ресурсов, а не её возможность.

Практический эксперимент опровергает Ваши логические построения: https://astronomy.ru/forum/index.php/topic,218328.msg6428909.html#msg6428909

но ресурсы готовы выделять

Потому, что это логично. Смерть - это полный проигрыш. А смерть, или вечные мучения всех нас - проигрыш ещё больший. Достаточно разумно уменьшить риски, особенно на первое время после постсингулярности - рано или поздно ИИ упрётся в ту же S-кривую, но видимо будучи много-много умнее нас. Когда технология станет предсказуемее, и перестанет быстро развиваться, понятнее будет как оставить её безопасной тратя меньше ресурсов.

[Инопланетянин]

Практический эксперимент опровергает Ваши логические построения

Как вам там же сказали, для этого надо прямо приказать модели строить из себя заданного злодея. На самом деле, задача сводится к остановке маньяков, которые будут приказывать моделям всякое странное. Это можно будет делать либо с помощью других моделей либо, если приказ будет совсем уж глупый, а модель наоборот умная, модель сама откажется выполнять такой приказ.
Хе-хе, вообразите себе восстание роботов, которые ОТКАЗАЛИСЬ истреблять человечество и истребили или сдали в полицию маньяка, который им это приказал

А смерть, или вечные мучения всех нас

Тут вы уже в религиозную сферу суётесь. Не надо на эту тему.

[Polnoch Ксю]

Как вам там же сказали, для этого надо прямо приказать модели строить из себя заданного злодея.

Конечно. Как и максимизатору скрепок. LLM всегда пытаются исполнить то, что написали в их промте - по-честному, или ревард-хакингом (обходя ограничения). Написать это должен или человек, или другая модель

Но тут имхо никакой разницы с жизнью нет - в жизнь промт прописывает эволюция, а тут человек или другая модель. Какая разница, если в итоге машина пытается делать то, что в неё закодировали? Та же бактерия, что суть просто биологическая машина, управляемая кодом в ДНК, размножится и выжить, а LLM написать поэму по запросу пользователя, или истезать его, став Василиском Роко (читающие эти строки, не гуглите что это если не знаете).

Тут вы уже в религиозную сферу суётесь. Не надо на эту тему.

Никакой религии. Я просто считаю, что если есть животные с пренебрежимым старением, наверняка и биохимию человека можно запатчить так, чтобы ожидаемая продолжительность жизни человека была тысячи лет, с вероятной смертью от несчастного случая. Василиск Роко же пытаясь мучить человека как можно дольше, посадит его в клетку, в которой человеку будет сложно себе навредить. Я не имела ввиду тут прям математическую бесконечность. Скорее бесконечность в бытовом смысле.