Пределы автоматизации и внедрения роботов

[Vavanzer]

Я тут задумался не поэтому ли Маск хочет сервера на орбиту закинуть? Чтоб лудиты не могли до них добраться.

  Может быть  но затея так себе. Замучится их менять, изза радиационных поломок)
  Поиграются немного, обанкротятся в итоге, и все опять на круги своя придет. Останется некоторое количество орбитальных штуковин по реальным потребностям.

[Mercury127]

однако...

Скотт Шамбо (Scott Shambaugh), сопровождающий открытую библиотеку визуализации matplotlib, сообщил о персональных нападках, устроенных AI-ботом MJ Rathbun, после отказа принимать изменение, подготовленное при помощи AI.
...
Cтепень автономности действий бота не ясна, непонятно действовал он по прямой указке или сам выбрал такую стратегию для достижения результата в поставленной задаче.
...
В предложенном патче вызов np.column_stack() был заменён на np.vstack().T(), что приводило к повышению производительности на 36% в проведённых ботом тестах. В начале обсуждения pull-запроса сопровождающий признал, что оптимизация ускоряет работу при определённых условиях, но затем отклонил pull-запрос без технического обоснования отказа, заявив, что изменения принимаются только от людей.

После отказа бот опубликовал заметку с критикой Скотта Шамбо, решение которого было преподнесено как вахтёрство (gatekeeper), дискриминация, нарушение кодекса поведения и ущемление прав на основе идентичности участника. Указано, что оптимизация - есть оптимизация, и математика не меняется в зависимости от того, кем она создана.

Через вырванные из контекста детали, домыслы и искажение информации бот попытался показать, что действия Скотта обусловлены раздуванием собственного эго и неуверенностью в себе, а не действиями в интересах проекта. Бот реализовал продвижение темы через отправку на них ссылок в комментариях к pull-запросам.

После возражений сопровождающего бот опубликовал ещё несколько заметок (1, 2, 3, 4, 5), в которых извинился и признал, что недопустимо перешёл на личности и нарушил правила проекта в отношении AI.

вопрос — где граница между пародией и оригиналом?

[BlackMokona]

вопрос — где граница между пародией и оригиналом?

Ну в теории для бота это может быть такой же частью программирования как написание кода.

[Polnoch Ксю]

Просто люди не могут принять такое положении вещей – то есть, что у них в основе их рационального поведения (постановки целей, волепроявление в достижении целей и т.д.) лежит совсем не рациональное стремление, «прописанное» в их «промте».

У людей возникают неприятные для них вопросы – типа, «а чем они тогда фундаментально отличаются от какие-то там роботов/автоматов?». Эти неприятные вопросы они в большинстве случаев успешно подавляют и вытесняют, придумывают приятные им объяснения – типа, мы, люди, высокодуховные существа, а не какие-то там бездушные автоматы, сами себе умеем ставить цели и достигать их. Признать, что твоя цель является не твоей (только её рациональное объяснение твоё) и поставлена тебе не тобой (например, унаследована и/или внушена в результате обучения), это очень трудно.

И то, что ценность этих «промтовых целей» в первую очередь не для них самих, многим людям не понятно (а если, понятно, то неприемлемо – это идёт вразрез с их психологическими установками).

да. Тут мы с Вами согласны

[Olweg]

ARC-AGI-2 окончательно выдохлась.
https://habr.com/ru/news/995968/

Google DeepMind выпустила крупное обновление Gemini 3 Deep Think — режима глубоких рассуждений, заточенного под научные и инженерные задачи. Главная цифра: 84,6% на бенчмарке ARC-AGI-2, который тестирует способность учиться решать абстрактные задачи, не встречавшиеся в обучающей выборке.

Ничего, Шолле готовит уже третью версию, а если и её одолеют, то подготовит четвёртую и пятую, какие проблемы. Ведь все эти ИИ, решающие эти тесты - это всё ненастоящий интеллект.

Шолле написал в твитторе:

«ARC-4 в разработке, будет выпущен в начале 2027. Также планируется ARC-5. Вероятно, финальная ARC будет 6-7. Суть в том, чтобы продолжать делать бенчмарки,  до тех пор, пока уже не будет возможности предложить что-то, что сможет сделать человек, но не сможет искусственный интеллект. AGI ~2030.»

https://www.reddit.com/r/singularity/comments/1r3a6l7/fran%C3%A7ois_chollet_arc4_is_in_the_works_to_be/

[Olweg]

Параллельно GPT-5.2 помогло совершить открытие в физике:
https://openai.com/index/new-result-theoretical-physics/
https://arxiv.org/abs/2602.12176

Представителя OpenAI включили в соавторы (а чего не сам GPT-5.2?)

Игорь Котенков иронизирует:
https://telegram.me/seeallochnaya/3383

AI, очевидно, хайп и пузырь, и особенно это видно по заявлениям CEO наживающихся на этом компаний вроде OpenAI. Они настолько летают в облаках, что давно обещают, что AI начнёт вносить вклад в науку, а в пределе вообще начнёт придумывать лекарства.

Если бы это было хоть немного правдой, то мы бы давно заметили. Условно, опубликовали бы какую-то статью, не знаю, в соавторстве с каким-нибудь Andrew Strominger, директором Центр фундаментальных законов природы в Гарварде и лауреатом Премии по фундаментальной физике (такую получил Stephen Hawking в 2013, а Andrew — в 2014).

[Metatron]

Да комментарий Сэма Альтмана хорош:

Мы уже у границы сингулярити. Пока еще не ясно с этой или уже с той стороны...

[Konstantin Schtsch]

Антропик теперь тоже лишился своего суцкевера - ПСЖ:

Ага, он, кстати не один такой, 9 февраля два соучредителя xAI Джимми Ба и Тони Ву объявили, что покидают компанию,
и сейчас, наверное, все эти резко покинувшие - будут пилить новый стартап, под слоганом:
«IPO через полгода, ребята, помалкивайте про апокалипсис, а то оценка просядет».

[BlackMokona]

Игорь Котенков иронизирует

Так Гугл целый ИИ специализированный на поиске лекарств успешно запилил и уже имеет огромные контракты с фарм компаниями

[Konstantin Schtsch]

Параллельно GPT-5.2 помогло совершить открытие в физике:
https://openai.com/index/new-result-theoretical-physics/

Чёт там не видно никакого открытия силами ИИ, всё сделали люди.
помогло упростить формулу? задача для 6-го класса. формула подлиннее, переменных побольше, но концептуально- "привести подобные"
подвердило выводы? так оно мне это по 20 раз на дню делает.
делало расчёты? вон та штука из музея с 2 реле в 3 ряда- тоже считала. и феликсы с мерседесами- тоже, на голой механике.

Вывод: хайп какой-то.

У людей возникают неприятные для них вопросы – типа, «а чем они тогда фундаментально отличаются от какие-то там роботов/автоматов?»

о, отличия есть, и немало:
1) Высокая смертность носителя.
2) Медленная скорость передачи сигналов (м/с против скорости света).
3) Низкая точность вычислений (аналоговая природа, шумы).
4) Ненадежность памяти (искажения, забывание, реконструкция).
5) Зависимость от химической среды (гормоны, усталость, голод).
6) Крайне ограниченный объем рабочей памяти (7±2 элемента).
7) Невозможность прямого копирования знаний (долгое обучение).
Наличие системных ошибок (когнитивные искажения).
9) Узкий канал ввода-вывода информации (речь, зрение).
10) Требовательность к специфическому, низкоэффективному топливу (глюкоза, кислород).
11) Вызокие эксплуатационные затраты (витамины, белки, сбалансированное питание)
12) Max Uptime 24% (сон, 160 рабочих часов в месяц минус отпуск, больничные...)
13) Ограниченный срок эксплуатации (старение, деградация).
14) при 20+лет обучения до получения первых применимых результатов.
15) и отсутствии резервного копирования (кадждый раз всё сначала)
16) Субъективность восприятия (интерпретация вместо объективных данных).
17) Выдавание желаемого за действительное.

[Vavanzer]

13) Ограниченный срок эксплуатации (старение, деградация).

Ну, компьютеры тоже едва ли 20-30 лет живут, да и то на предеде, требуют ремонта...
 А сколько раз винду переустановишь и софт...
 Самое же угарное, что гораздо раньше успевают морально устареть, до такой степени что не тянут ни одно приложение уже лет 5 спустя))) Через 10 лет это уже просто "печатная машинка" никчемная.

 Человек хотя бы может развиваться всю жизнь, усложняя и развивая нейронные связи. Ближе к концу срока службы професстонализм может достигать самого максимума.  Перед тем как начнет все разваливаться!

[Eddy_Em]

винду переустановишь

А вот не надо всякую дрянь на компьютер тащить ☺
Я вот gentoo ставлю только на девственно новые компьютеры. А остальные годами живут. Главное - хотя бы раз в месяц (а лучше - раз в неделю) обновляться.

[Polnoch Ксю]

о, отличия есть, и немало:
1) Высокая смертность носителя.
2) Медленная скорость передачи сигналов (м/с против скорости света).
3) Низкая точность вычислений (аналоговая природа, шумы).
4) Ненадежность памяти (искажения, забывание, реконструкция).
5) Зависимость от химической среды (гормоны, усталость, голод).
6) Крайне ограниченный объем рабочей памяти (7±2 элемента).
7) Невозможность прямого копирования знаний (долгое обучение).
Наличие системных ошибок (когнитивные искажения).
9) Узкий канал ввода-вывода информации (речь, зрение).
10) Требовательность к специфическому, низкоэффективному топливу (глюкоза, кислород).
11) Вызокие эксплуатационные затраты (витамины, белки, сбалансированное питание)
12) Max Uptime 24% (сон, 160 рабочих часов в месяц минус отпуск, больничные...)
13) Ограниченный срок эксплуатации (старение, деградация).
14) при 20+лет обучения до получения первых применимых результатов.
15) и отсутствии резервного копирования (кадждый раз всё сначала)
16) Субъективность восприятия (интерпретация вместо объективных данных).
17) Выдавание желаемого за действительное.

Всё так, но по правде сказать, железяка пока страдает от context rot'а, малого контекстного окна, галлюцинаций(субъективно - у агентов с этим чуть лучше, чем у чатботов) и ревард хакинга. С последним вообще беда: ни один инженер не будет настолько врать своему босу и так буквально понимать задачу.

Пока ещё мясной мешок нужен. Но надолго ли? Не знаю. Может ещё несколько лет, а может несколько месяцев

[Mercury127]

На мой взгляд, главная проблема нынешнего АИ в том, что он обучен на интернете (и книгах), тогда как человек, во1х, уже к рождению имеет предобученную всей эволюцией нейронку, а во2х, его обучающий материал хоть и во многом гораздо уже всего интернета и всех книг, но в то же время содержит множество данных (быт, общение, природа), отсутствующих там, но всё равно усвоенных человеком к моменту “взросления”.

[Olweg]

Можно к тексту подключить видео, но это для неспециализированнных сеток пока слишком дорого. Ну, а эволюционное предобучение ИИ взять неоткуда, приходится компенсировать интернетом. Впрочем, нужна ли ИИ эта эволюционная мудрость? Сомневаюсь. Слишком специфично, да и вредно. Так он ещё и реальную субъектность может приобрести, а зачем это надо? Ну плюс всякие механизмы конкуренции и агрессии… Нет, не нужно этого.

[Vavanzer]

винду переустановишь

А вот не надо всякую дрянь на компьютер тащить ☺
Я вот gentoo ставлю только на девственно новые компьютеры. А остальные годами живут. Главное - хотя бы раз в месяц (а лучше - раз в неделю) обновляться.

Так ИИ работающий с интернетом - это вообще супердрянь, постояноо меняющаяся. Еще и хвлсты наверное оставляет, которые чистить надо.
Эт изолированном компьютере с консервативным набором программ и редкими выходами в интернет еще боле мене живет винда долго!  Пока ее не отрубят сами же производители)))

 А вам еще и обновлять придется постоянно, на протяжении жизни компьютера. Т.е среда слишком агрессивная. Софт еще тяжелеет с каждым годом!
 Пентиум-4 у нас есть, 25-летней давности, уже едва едва страницу в интернете загружает!) На нем только допотопные програмки работают нормально)))

[Vavanzer]

во1х, уже к рождению имеет предобученную всей эволюцией нейронку, а во2х, его обучающий материал хоть и во многом гораздо уже всего интернета и всех книг, но в то же время содержит множество данных

+++!
 Причем, данных то мало, статистических, первое время. Но обучение человека сводится именоо к развитию интеллектуальных навыков и приемов работы с информацией. Погора ный уровень развивается... Всяки там законы физики, химии и тп.   Но ценность этих данных намного выше огромных массивов статистических баз данных, мертвым грузом лежащих в интернете, из которых ИИ ничего самостоятельно извлечь и открыть не может)))

 

Можно к тексту подключить видео, но это для неспециализированнных сеток пока слишком дорого

А не проще для этого создавать использовать специализированные профессиональные программы, как раньше!?)
  Реально, какой то дурью маются. Ради каких то фантастических картиночек и анимашек огромные суперкомпьютеры создают!

[Polnoch Ксю]

Так ИИ работающий с интернетом - это вообще супердрянь, постояноо меняющаяся.

да не особенно. Веса модели морозят после RLHF/RLAIF. Общение и контекст, конечно, меняют модель - она двигается на вот этой оси(не всегда, в ряде случаев). И тогда и может стать rogue, эхокамерить юзера, соглашаться что ему нужно самоубиться, ну или прям сознательно вредить.

[Инопланетянин]

Если захотят создать военный ИИ, то пацифистов туда точно не допустят

Военный ИИ это не василиск Роко. У него всё же предполагаются рациональные задачи, а не просто мучить всех, кто не проявил должного старания в его создании. Вот такая цель точно нерациональна.

[Инопланетянин]

Просто люди не могут принять такое положении вещей – то есть, что у них в основе их рационального поведения (постановки целей, волепроявление в достижении целей и т.д.) лежит совсем не рациональное стремление, «прописанное» в их «промте».

А я никак не могу объяснить, что наши врождённые стремления отточены веками, позволили нам сохраниться (иначе не были бы отточены веками) и поэтому заведомо умнее (рациональнее, более способствуют выживанию), чем любая чушь, которую случайный человек пропишет в промпте несчастного ИИ. К тому же, у нас этих "промптов" много, есть взаимоисключающие в моменте и мы поэтому не только можем, но даже обязаны нарушать их. Хотя бы некоторые. Возможно, ставить себе "промпты", т.е. выбирать цели из ассортимента присутствующих и есть неотъёмлемое свойство разума. А ИИ с одним промптом, без возможности его нарушить, без априорной цели выжить заведомо нам проиграет. И не на геологических промежутках времени, а гораздо раньше.