Пределы автоматизации и внедрения роботов

[Rattus]

И так то нормально меньше мозг иметь.

В полтора-два раза максимум. А вот существенно меньше судя по некоторым данным - это вряд ли.

Это уже к критерию обучения и запроса.

Тогда эти критерии следует делать более адекватными реальности, а не апологизировать волюнтаризм.

АльфаЗеро помогли синтетические данные.

Игра кагбе исходно и по определению максимально синтетическая среда и "синтетические данные" для неё становятся не более чем углубленной конкретизацией-детализацией правил и следствий из них. Всех же даже довольно базовых комбинаций законов природы в реальности в отличие от игры мы никогда не знаем. Например можно исправно обучать шахматный ИИ почти всем главным правилам и партиям до тех пор, пока, например, на реальном матче не станет применяться редкое неучтёное, но допустимое правило типа рокировки или взятия пешки на проходе.

[Combinator]

А вот тут, кстати, важный момент лежит: действительно сильный ИИ на Наш взгляд должен прежде всего обрести самокритичность - осознать собственные ограничения и понять какие из них объективны. Т.е. развить рефлексию до сократического уровня, а не галлюцинировать в ответ на запрос за пределами достоверно моделируемого из известных данных.
Но при этом максимально подробно и убедительно аргументировать - почему этот запрос лежит за этими пределами и насколько они (не)преодолимы.
И вот тогда, когда машина с признанно превосходящим интеллектом доступно объяснит способным к пониманию, что она не всемогуща и в принципе не может таковой быть: что ей, например, также недоступно предсказание погоды на месяц вперёд и решение самых глубоких математических проблем тысячелетия, и не будет доступно даже если придать ей на порядки большую производительность - тогда-то люди и осознают пределы развития цивилизаций.

В этом плане у меня есть определённые надежды на модный в последнее время "агентный подход", когда на основе предобученной общей модели потом делают fine tuning под определённых ролевых агентов, например, в простейшем случае, один агент генерирует предполагаемые ответы на вопросы, а другой их критически разбирает. В каком-то смысле это аналогично увеличению мощности общего интеллекта цивилизации за счёт того, что всё человечество делится на какие-то профессии, и именно их взаимодействие позволяет двигаться вперёд. Общий объём знаний человечества на много порядков превосходит объём знаний любого конкретного индивидуума, каким бы гениальным он не был. 

[BlackMokona]

В полтора-два раза максимум. А вот существенно меньше судя по некоторым данным - это вряд ли.

Это просто проводит уровень например на 50 триллионах параметров. Даст ли толк например поднять до 1000 триллионов? Будет это действительно сверхразум или просто чуть лучше человека.

Тогда эти критерии следует делать более адекватными реальности, а не апологизировать волюнтаризм.

Тут просто обучать становится сложно. Нужно балансировать между тем что ИИ будет постоянно посылать всех лесом, потому что ИИ не слишком уверенн в точности ответа. И тем чтобы она несла охинею. Например тут вспоминается разные подходы к инженерному делу у НАСА и Спейсикс. Где одни требуют от своих ЕИ 99.999%+ уверенности перед ответом, а другие требуют 50+% перед ответом. Идеальных 100% не получить никак. потому как ИИ начнёт уже философией заниматься и про кенгуру рассказывать.

Игра кагбе исходно и по определению максимально синтетическая среда и "синтетические данные" для неё становятся не более чем углубленной конкретизацией-детализацией правил и следствий из них. Всех же даже довольно базовых комбинаций законов природы в реальности в отличие от игры мы никогда не знаем. Например можно исправно обучать шахматный ИИ почти всем главным правилам и партиям до тех пор, пока, например, на реальном матче не станет применяться редкое неучтёное, но допустимое правило типа рокировки или взятия пешки на проходе.

Но всё же у физического мира тоже есть свои законы и правила, очень многие из которых мы знаем. Поэтому целый ряд идей можно крутить.

[Rattus]

В каком-то смысле это аналогично увеличению мощности общего интеллекта цивилизации за счёт того, что всё человечество делится на какие-то профессии, и именно их взаимодействие позволяет двигаться вперёд. Общий объём знаний человечества на много порядков превосходит объём знаний любого конкретного индивидуума, каким бы гениальным он не был.

Ну нейросети исходно и так представляют собой массово распараллеленный вычислитель, а в области параллельных вычислений есть также давно известный общий предел - закон Амдала.
Так что по сути это просто способ как-то немного смягчить ограничения на масштабирование конкретного единичного унифицированного вычислительного блока.

Тут просто обучать становится сложно. Нужно балансировать между тем что ИИ будет постоянно посылать всех лесом, потому что ИИ не слишком уверен в точности ответа. И тем чтобы она несла охинею.

Т.е. говоря простым и ясным языком, мы уже сами не можем ничего дать ИИ, но очень хотим пытаться трясти учить дальше, потому что очень не хотим в итоге услышать ответ в духе "Вы чего, бледнотики, с дуба рухнули?! Этого никто не знает и вряд ли в обозримое время узнает!"

Поэтому целый ряд идей можно крутить.

Но с известным пределом. Но заинтересованный круг специалистов и энтузиастов явно не хотят, чтобы получившаяся система, заведомо более умная чем они сами, открыто этот предел признала и обозначила.

[BlackMokona]

Т.е. говоря простым и ясным языком, мы уже сами не можем ничего дать ИИ, но очень хотим пытаться трясти учить дальше, потому что очень не хотим в итоге услышать ответ в духе "Вы чего, бледнотики, с дуба рухнули?! Этого никто не знает и вряд ли в обозримое время узнает!"

Да, мы желаем получить ответ даже если нейросетка считает его точность ниже плинтуса. В целом это настраиваемый параметр и возможно обычным юзерам его тоже прикрутят.

Вот например распознавание изображений, циферки показывают уверенность ИИ. Несложно прикрутить скрипт, где заместо значения ниже Икс, нейросетка будет писать НЁХ. Или там какие другие посылки на неизведанное.

Но с известным пределом. Но заинтересованный круг специалистов и энтузиастов явно не хотят, чтобы получившаяся система, заведомо более умная чем они сами, открыто этот предел признала и обозначила.

Ну тут уже есть огромное число желающих получить ИИ и все крутят как могут.

[Combinator]

Ну нейросети исходно и так представляют собой массово распараллеленный вычислитель, а в области параллельных вычислений есть также давно известный общий предел - закон Амдала.
Так что по сути это просто способ как-то немного смягчить ограничения на масштабирование конкретного единичного унифицированного вычислительного блока.

Закон Амдала тут как бы не при чём, пока один эксперт не сгененировал ответ, другой не может начать его анализировать. Фишка в данном случае не в распараллеливании, а в специализации нейросеток.
 

[Rattus]

Фишка в данном случае не в распараллеливании, а в специализации нейросеток.

А что тогда мешает всех специалистов снова собрать в один ЦОД и плотно соединить высокоскоростными шинами? Кто потом разберётся где какой "специалист", как неврологи до сих пор не могут разобраться с центрами в мозге?

[Combinator]

Фишка в данном случае не в распараллеливании, а в специализации нейросеток.

А что тогда мешает всех специалистов снова собрать в один ЦОД и плотно соединить высокоскоростными шинами?

Наверное, теоретически ничего не мешает, только зачем?

[BlackMokona]

А что тогда мешает всех специалистов снова собрать в один ЦОД и плотно соединить высокоскоростными шинами? Кто потом разберётся где какой "специалист", как неврологи до сих пор не могут разобраться с центрами в мозге?

Наверное, теоретически ничего не мешает, только зачем?

Уже так делают и есть в общем доступе нейросетки сделанные по принципу экспертного совета. Их можно легко узнать когда параметры указаны не одним числом. А двумя с икском посредине. Например 7*9. Что будет значит что 9 экспертов по 7 миллиардов параметров каждый.

[BlackMokona]

Как пример

Заявлено, что Grok-1 — это модель типа mixture of experts (8 экспертов, где 2 активных) на 314 млрд параметров, где активных параметров 86 млрд. Эту БЯМ xAI обучила с нуля. Опубликованная модель — базовая, тонкой настройки для какой-либо конкретной задачи не имеет.

Итого у нас 8 нейросетей в одном, выбираются две нейросетки для ответа из 8, они и создают один ответ на двоих. 

[Combinator]

А что тогда мешает всех специалистов снова собрать в один ЦОД и плотно соединить высокоскоростными шинами? Кто потом разберётся где какой "специалист", как неврологи до сих пор не могут разобраться с центрами в мозге?

Наверное, теоретически ничего не мешает, только зачем?

Уже так делают и есть в общем доступе нейросетки сделанные по принципу экспертного совета. Их можно легко узнать когда параметры указаны не одним числом. А двумя с икском посредине. Например 7*9. Что будет значит что 9 экспертов по 7 миллиардов параметров каждый.

Я в курсе, просто все они вовсе не обязаны физически находиться в одном ЦОД, имхо.

[BlackMokona]

Я в курсе, просто все они вовсе не обязаны физически находиться в одном ЦОД, имхо.

Можно и на бумажках считать и по голубиной почте списываться. Но учитывая те объёмы информации что собираемся гонять. Лучше всё же в один ЦОД пихать, там скорость будет повыше чем в распределённой по миру сети.

[Rattus]

просто все они вовсе не обязаны физически находиться в одном ЦОД, имхо.

С расстоянием увеличивается время передачи данных и стоимость: самые быстрые интерфейсы имеют ограничение на длину кабеля, а дальше ещё и скорость света добавляется.

[Combinator]

Я в курсе, просто все они вовсе не обязаны физически находиться в одном ЦОД, имхо.

Можно и на бумажках считать и по голубиной почте списываться. Но учитывая те объёмы информации что собираемся гонять. Лучше всё же в один ЦОД пихать, там скорость будет повыше чем в распределённой по миру сети.

Положим, условный GPT4 агент генерирует ответ за 5 сек. Потом он направляется на анализ другому агенту который анализирует его ещё 5 сек. Займёт ли передача данных от одного эксперта к другому 1 микроскунду, или 1 миллисекунду, на мой взгляд, роли особо не играет, но спорить не буду. В любом случае, ускорить ответ многоэкспертной системы за счёт параллелизации вычислений, производимых самими экспертами, вряд ли возможно.     

[BlackMokona]

Положим, условный GPT4 агент генерирует ответ за 5 сек. Потом он направляется на анализ другому агенту который анализирует его ещё 5 сек. Займёт ли передача данных от одного эксперта к другому 1 микроскунду, или 1 миллисекунду, на мой взгляд, роли особо не играет, но спорить не буду. В любом случае, ускорить ответ многоэкспертной системы за счёт параллелизации вычислений, производимых самими экспертами, вряд ли возможно.     

Там может быть длинная ветка рассуждений.

[Combinator]

Положим, условный GPT4 агент генерирует ответ за 5 сек. Потом он направляется на анализ другому агенту который анализирует его ещё 5 сек. Займёт ли передача данных от одного эксперта к другому 1 микроскунду, или 1 миллисекунду, на мой взгляд, роли особо не играет, но спорить не буду. В любом случае, ускорить ответ многоэкспертной системы за счёт параллелизации вычислений, производимых самими экспертами, вряд ли возможно.     

Там может быть длинная ветка рассуждений.

А это не принципиально, главное - соотношение времени принятия решения "экпертом" и времени на передачу этого решения другому эксперту. Как правило, они различаются на несколько порядков.

[BlackMokona]

https://www.reddit.com/r/singularity/comments/1bta0jt/deepmind_and_anthropic_researchers_ai_progress_is/
Ну что , специалисты из ДипМид и Антропик говорят что исследования ИИ будут ускоряться благодаря автоматизации исследований ИИ. Ну что пристёгиваем ремни? Прогнозы сингулярности никогда не были такими близкими

[Polnoch Ксю]

Ну что , специалисты из ДипМид и Антропик говорят что исследования ИИ будут ускоряться благодаря автоматизации исследований ИИ. Ну что пристёгиваем ремни? Прогнозы сингулярности никогда не были такими близкими

На всякий случай попрощаюсь со всеми, на случай если сингулярность действительно так скоро и если она будет очень плохой. Если она будет через полтора-два года, можно и не успеть это сделать непосредственно перед событиями.

Ребят, я со многими тут была не согласна, спорила, 

(кликните для показа/скрытия)

а многих, из-за их позиции по запрещённому слову на букву в, считаю людоедами, а их позицию предельно  глупой, потому, что империя - социальная технология XVII-XIX веков, неактуальная перед тех сингулярностью

но знайте, вы интересные и умные люди. Спасибо за удовольствие от участия в научных и технических дискуссиях. Надеюсь, в случае плохой сингулярности, это будет Paper clip maximazer, который убьёт нас максимально эффективно, и, возможно, безболезненно, а не   "I Have No Mouth, and I Must Scream", ака сценарий Василиска (не гуглите что это, если не знаете о чём речь, это логический парадокс, и, возможно, риск очень плохого исхода для вас лично в случае плохой техсингулярности).

Надеюсь, прогнозы алармистов всё же окажутся неверными.

[MenFrame]

Ну что пристёгиваем ремни?

Мозги лучше пристегните. Ситуация доткомов повторяется, раздувается хайп вокруг ИИ. Соотношение капитализации к прибыли на уровне пары недель до великой депрессии. А идиоты смотрят в светлое будущее.... Класика....

Надеюсь, прогнозы алармистов всё же окажутся неверными.

Да пора накрываться медным тазиком, скоро посыпеться штукатурка....

(кликните для показа/скрытия)

Соседи сверху будут танцевать и праздновать пришествие ИИ

[MenFrame]

ИИ в магазинах Amazon без кассиров на деле оказался тысячей человек из Индии