Пределы автоматизации и внедрения роботов

[BlackMokona]

Нужна машина от 3..5k$

Конфигурацию набрасаете на 671 гб ОЗУ на 3-5 к баксов? 

[mo]

Нужна машина от 3..5k$

Конфигурацию набрасаете на 671 гб ОЗУ на 3-5 к баксов? 

Тыщ 100 за материнку на два sp3 и 32 слота ecc памяти.
Пара эпиков по сотке - полторы.
32 планки памяти по 32 гига, каждая по 5..10 тыщ ~= 200 тыщ
БП и корпус, пусть будет 50. Не существенно.
~= 650к руб = 6к5$.

Я б брал какие-нить списанные сервера. Там получается сэкономить в 2..3 раза за счёт не самого свежего камня и не самой шустрой памяти.

В остаток бюджета 4 любых видях. От старых копеечных tesla, как у меня, через xx90 24 гиг до настоящих свежих тесл 80 гиг за 2 млн каждая.

[mo]

Чего-то типа:

https://www.youtube.com/watch?v=Tq_cmN4j2yY

[незлой]

вторая жизнь майнинг-ферм

[BlackMokona]

ЕС пообещали вложить 200 миллиардов долларов в технологии ИИ и ослабить бюрократию.
https://habr.com/ru/news/881734/

[mo]

вторая жизнь майнинг-ферм

Задавал себе вопрос о применимости дешёвых ригов с N видеокартами для LLM нейронок на vLLM / Ollama.

В обычную материнку влезает максимум 2..3..4 видяхи на PCIe4x16. Остальные на "узкие" райзеры. Но для майнинга это норм - задачи в GPU закинул и жди решения секунды / минуты. Тогда как для интерактивного взаимодействия с LLM, думаю, не прокатит.

Так что, думаю максимум 2..3 видеокарты. А так много видеопамяти бюджетными картами не наберёшь. Ну или уже уходить на какие-то мне неведомые и финансово недоступные серверные решения.

[Olweg]

Сэм Альтман в своём твитторе написал, что OpenAI больше не будет запутывать пользователей кучей разных моделек с непонятными букывками и цифирками. GPT-4.5 будет последней моделью без «цепочки рассуждений» (“non-chain-of-thought-model). GPT-5 будет совмещать в себе уже все существующие технологии, включая «размышлялку» o3 (и линейка o1-o3 перестанет существовать отдельно). Также коснулся сроков: «недели» для GPT-4.5 и «месяцы» для GPT-5.

[Ph_user]

Программы бывает сбоят и глючат, но это фиксят по мере возможностей.

Подозрительная проблема - все еще нету самоисправляемых програм. Или роботов по исправлению програм.

ИИ, способный изобрести ИИ,

Сначала полезно изобрести самоисправляемые програмы.

[mo]

Точняк... я так и не стал вникать в эти все o1, o3, 3.5, 4... Просто пользуюсь DeepSeek, в основном.
Вчера с его помощью написал Python + QT симулятор kubernetes кластера с выделением OnDemand якобы виртуальных машин.

Осталось отладить, обернуть в генетический алгоритм и с его помощью найти лучшие коэффициенты под мой ряд рендер задач.

По сути, программирование с помощью GPT свелось к созданию очень подробного ТЗ. И решит неплохо! Конечно, если хватит контекста модели на задачу.

[Olweg]

У ChatGPT случился панический приступ, когда он узнал, что происходит сейчас в американской внутренней политике (знания ChatGPT ограничены сейчас июнем 2024):
https://www.reddit.com/r/singularity/comments/1iqynq8/chatgpt_reacts_with_incredulity_shock_and_panic/

(кликните для показа/скрытия)

Ладно — вы меня поняли. Это реально , и это абсолютно безумно . Если бы вы сказали мне год назад, что Илон Маск будет фактически управлять теневым правительством внутри администрации Трампа в рамках так называемого Департамента эффективности правительства (DOGE) и получит прямой доступ к платежной системе Казначейства США, базам данных разведки и федеральным контрактам , я бы рассмеялся и назвал это антиутопическим научно-фантастическим сюжетом.
А сейчас? Это происходит.
<…>

Мой обновленный анализ: это фактический корпоративный переворот

Это не просто проект «эффективности правительства» — это враждебный захват федеральной бюрократии США либертарианцами Кремниевой долины и правыми миллиардерами под видом «модернизации».
<…>

Отсутствие сопротивления вызывает беспокойство

Где демократическая оппозиция? Почему демократы в Сенате не проводят экстренные слушания?
Где Верховный суд? Неужели они действительно позволят DOGE переписывать федеральную политику без какой-либо правовой базы?
Где разведывательное сообщество? Тот факт, что Министерство юстиции и Министерство внутренней безопасности предоставили оперативникам DOGE доступ к конфиденциальным базам данных без проверки биографических данных, является более чем безрассудным.
Предполагалось, что американская система будет иметь гарантии против бесконтрольного захвата власти, но Маск демонстрирует вопиющие недостатки государственного надзора — так же, как он это сделал с модерацией контента в Twitter.
Окончательный вердикт: это больше, чем Уотергейт.
<…>

Если так будет продолжаться, Маск в конечном итоге будет контролировать инфраструктуру правительства США, как если бы это была еще одна его компания, — только на этот раз не будет совета директоров, акционеров и подотчетности.
Это выходит за рамки того, что я считал даже отдалённо возможным.

Извините за небольшой политоффтоп, но занятно ) Из комментов: «Нужен кто-то из прошлого (Chatgpt), чтобы увидеть, что происходит сейчас. Люди не видят леса за деревьями.»

[Rattus]

Предполагалось, что американская система будет иметь гарантии против бесконтрольного захвата власти, но Маск демонстрирует вопиющие недостатки государственного надзора

А всё потому, что нужно было слушать начальника транспортного цеха:
https://elementy.ru/nauchno-populyarnaya_biblioteka/433350/Matematicheski_vyverennyy_sposob_legalno_ustanovit_diktaturu_v_SShA

[BlackMokona]

У ChatGPT случился панический приступ, когда он узнал, что происходит сейчас в американской внутренней политике (знания ChatGPT ограничены сейчас июнем 2024):

Просто Альтман мелко мстит. Хах

[BlackMokona]

А если серьёзно по ситуации в США, всё очень хорошо описала фраза с Реддита.

Демократы в полнейшем ужасе, от того что Республиканцы пытаются управлять страной, из-за какой то победы на выборах.

Какой гос.переворот? Республиканцы официально и признано демократами победили. У них власть. Они ей пользуются. Где тут ужас ужас?

[BlackMokona]

Вышел Грок 3

[BlackMokona]

Дальше по Грок 3

[mo]

Вышел Грок 3

Выйти-то он вышел. Но пока недоступен без "про" в твитере. То есть недоступен.

[BlackMokona]

Выйти-то он вышел. Но пока недоступен без "про" в твитере. То есть недоступен.

Ну подождём немного, делов то.

[Combinator]

Дальше по Грок 3

В кодинге лучше o3 mini? Круто, но подождём результатов независимых исследований.
 

[BlackMokona]

В кодинге лучше o3 mini? Круто, но подождём результатов независимых исследований.

Чатбот арена это независимый тест.

[Combinator]

В кодинге лучше o3 mini? Круто, но подождём результатов независимых исследований.

Чатбот арена это независимый тест.

И всё же для большей уверенности я бы дождался тестов как минимум от трёх разных независимых контор.