Пределы автоматизации и внедрения роботов

[BlackMokona]

Получается, что "взаимодействие" с миром требует "отвлечения от всего мира"? Нет, я не против, я как раз за, просто этот феномен не так прост, имхо.

Есть взаимодействие, а есть обработка. Человек тот уже провёл взаимодействие в обществе и лаборатории. После чего уехал на обработку информации.

Даже если он (ИИ) дойдет наконец до уровня человека в умении не просто собрать информацию, но прийти к своему выводу и отстаивать его теми или иными разумными доводами, тут сразу явно маячит перспектива отобрать эту способность у людей

Уже давно дошёл.

Сегодня многие школьники уже не могут сами посчитать сдачу в магазине (сие не требуется). А если им четко будут даваться подсказки и указания и тут же уверенно подтверждаться фактами - тогда... тогда человеку достаточно сохранить умение попугая (повторять сказанное) и жизнь продолжается.

А тут уже тысячи страниц обсуждений по этому поводу было. Что делать когда у людей не будет вообще никакой работы в следствии развития ИИ

[Olweg]

Народ протестировал. Чистый вброс. Уверен что через кастомизацию личности в настройках пользователя

Ну вот. У меня тоже сомнения были, но в нескольких источниках упоминалось... Уберу тогда.

[Metatron]

сначала он [Grok 4] ищет в Твиттере, что думает Илон

Разным источникам раздают разные веса. Почему бы мнению главе компании не уделить больше веса чем мнению других лиц?
Но вообще то обещали что Грок-4 будет выводить мнению исходя из некиех фундаментальных аксиом.
Кто-нибудь это проверил? Так работает или еще нет?

[Olweg]

Получается, что "взаимодействие" с миром требует "отвлечения от всего мира"? Нет, я не против, я как раз за, просто этот феномен не так прост, имхо.

Опосредованное взаимодействие. ИИ пока работает именно так, своих "рук" у него ещё нет.

[BlackMokona]

Разным источникам раздают разные веса. Почему бы мнению главе компании не уделить больше веса чем мнению других лиц?
Но вообще то обещали что Грок-4 будет выводить мнению исходя из некиех фундаментальных аксиом.
Кто-нибудь это проверил? Так работает или еще нет?

Такого нету у нейросеток, им всё одно. А общение про аксиомы, это на глубокое будущие

[diant]

Есть взаимодействие, а есть обработка. Человек тот уже провёл взаимодействие в обществе и лаборатории. После чего уехал на обработку информации.

Прочитал и улыбнулся - "уехал на обработку информации" ("пива не будет - ушла на обед"). Это конечно здорово, только ехал он лечиться, и врачи посылали его, не зная, что там он удачно обработает информацию. Ну ладно, с этим понятно))

Цитата: diant от Сегодня в 15:14:32
    Сегодня многие школьники уже не могут сами посчитать сдачу в магазине (сие не требуется). А если им четко будут даваться подсказки и указания и тут же уверенно подтверждаться фактами - тогда... тогда человеку достаточно сохранить умение попугая (повторять сказанное) и жизнь продолжается.

А тут уже тысячи страниц обсуждений по этому поводу было. Что делать когда у людей не будет вообще никакой работы в следствии развития ИИ

А вот это, имхо, действительно крайне важно. Я просто не видел этих тысяч страниц, прошу прощения, я новичок в теме. Но моя мысль здесь проста и думаю будет понятна: чтобы ИИ был полезен человеку, нужно сперва ясно понимать, что есть истинный человек, и что есть его истинная польза. Пока в этих двух вопросах (на самом деле одном) будут допускаться ложные ответы, даже добрый мотив создателей ИИ будет добивать бедное человечество. Но не настаиваю, это просто высказанное мое мнение.

[BlackMokona]

А вот это, имхо, действительно крайне важно. Я просто не видел этих тысяч страниц, прошу прощения, я новичок в теме. Но моя мысль здесь проста и думаю будет понятна: чтобы ИИ был полезен человеку, нужно сперва ясно понимать, что есть истинный человек, и что есть его истинная польза. Пока в этих двух вопросах (на самом деле одном) будут допускаться ложные ответы, даже добрый мотив создателей ИИ будет добивать бедное человечество. Но не настаиваю, это просто высказанное мое мнение.

Полезный он в любом случае. Думающая машина имеет бесчисленное число применений.
А вот что делать обществу, когда люди будут государству не нужны. Вот это большой вопрос.

[diant]

Полезный он в любом случае. Думающая машина имеет бесчисленное число применений.
А вот что делать обществу, когда люди будут государству не нужны. Вот это большой вопрос.

BlackMokona, вы не находите, что эти две строки внутренне противоречивы?
Больше того, из этих строк возникает ощущение, что государство у нас первично, а люди вторичны. Нет?

[BlackMokona]

BlackMokona, вы не находите, что эти две строки внутренне противоречивы?
Больше того, из этих строк возникает ощущение, что государство у нас первично, а люди вторичны. Нет?

Какие противоречия? Есть государства и их конкуренция между собой. Кто реформируется тот оказывается впереди, а кто отстаёт тех бьют. Если ИИ будет управлять лучше людей и работать лучше людей, то людей будут заменять. Вплоть до полного перехода контроля в руки ИИ. С последующим вопросом. А зачем ИИ нужны люди?

[diant]

Ваша точка зрения ясна.

[MenFrame]

С последующим вопросом. А зачем ИИ нужны люди?

ИИ вообще не чего не нужно. Даже ЕИ не чего не нужно, поскольку и первое и второе есть просто инструмент эгоистичных генов.

[BlackMokona]

ИИ вообще не чего не нужно. Даже ЕИ не чего не нужно, поскольку и первое и второе есть просто инструмент эгоистичных генов.

Зациклить ИИ не сложно и давно сделано. После чего ему что-то будет нужно.

[Olweg]

ИИ вообще не чего не нужно. Даже ЕИ не чего не нужно, поскольку и первое и второе есть просто инструмент эгоистичных генов.

Откуда ж тогда демографический переход, один ребёнок в семье или вообще чайлдфри? Да даже два ребёнка противоречат задачам генов, потому что немного не дотягивают до простого воспроизводства. В общем, оказалось, что инструмент-то - с норовом! Вместо целей генов-заказчиков начинает какие-то свои, второстепенные цели преследовать.

[Olweg]

Интересная ретроспектива (всегда полезно иногда немного отойти и охватить общую картину за последние годы). Человек в июне 2022 поспорил на 100 баксов, что через три года, к июню 2025, ИИ будет способен нарисовать по следующим подсказкам:

1. Витражное изображение женщины в библиотеке с вороном на плече, держащим ключ в пасти.

2. Картина маслом, изображающая мужчину на фабрике, смотрящего на кошку в цилиндре.

3. Цифровое изображение ребенка, едущего по пустыне на ламе с колокольчиком на хвосте.

4. 3D-изображение астронавта в космосе, держащего лису с помадой на губах.

5. Пиксель-арт фермера в соборе, держащего красный баскетбольный мяч.

И вот результат в 2025 (по первому запросу, остальные по ссылке):


Для сравнения - попытки Dall-E 2 изобразить «красную сферу на синем кубе с жёлтой пирамидой справа, всё это на зелёном столе» в 2022:


Автор пишет:
«Наверное, дурной тон — писать целый пост в блоге, злорадствуя по поводу того, что вы выиграли пари.

Я делаю это в любом случае, потому что мы все еще ведем тот же спор — является ли ИИ «стохастическим попугаем», который никогда не сможет выйти за рамки «простого сопоставления с шаблонами» и достичь сферы «реального понимания».

Я всегда считал , что фундаментальной разницы нет: мы просто переходим от сопоставления поверхностных закономерностей к более глубоким, и когда эти закономерности достигают той глубины, которую могут распознать люди, мы называем это «истинным пониманием». Это не совсем верно — существует определённая форма мыслительной деятельности, которую люди всё ещё реализуют гораздо лучше, чем ИИ, — но, опять же, это (значительное) различие скорее в степени, чем в природе.»

https://www.astralcodexten.com/p/now-i-really-won-that-ai-bet

PS Как бонус - курсивом я выделял автоперевод текста, и мне при этом не пришлось делать в нём ни одного исправления (хотя формулировки там намеренно сбивающие с толку).

[Ый]

А тут что же выходит - взрослые сделали себе новую игрушку и всерьез решили в зайку пойграть?

Палата №6 по ним плачет. Перспективные пациенты.

[Polnoch Ксю]

Уже забыл. Я же с Deepseek потом беседовал. Или это тоже на свалку?

Cудя по тому, что Вы человек в этой области совсем новый, не забывайте про кнопочку Think R1. И почитайте о промт инженеринге - как правильно задавать вопросы модели.
Бесплатным образом(предполагаю, что Вам только такое интересно) из более умных моделей доступна, разве что, gemini-2.5pro. Наверное, в России для её использования нужен VPN.

А вообще, люди неправильно понимают в чём плюс Дипсика: это SOTA модель для установки на своё железо.

[Polnoch Ксю]

У кого-нибудь есть доступ к grok-4? Он себя называет в переписке в личке, не в твиттерных срачах, MechaHitler'ом?
Как пишет код? Умеет держать в контекстном окне большие проекты?

[Metatron]

Он себя называет в переписке в личке, не в твиттерных срачах, MechaHitler'ом?

Сообщение от XAI:
>>>After careful investigation, we discovered the root cause was an update to a code path upstream of the
@grok  bot.  This is independent of the underlying language model that powers @grok
The update was active for 16 hrs, in which deprecated code made @grok
 susceptible to existing X user posts; including when such posts contained extremist views. 

We have removed that deprecated code and refactored the entire system to prevent further abuse. The new system prompt for the @grok  bot will be published to our public github repo.

>>>После тщательного расследования мы обнаружили, что основной причиной было обновление кода, расположенного выше по цепочке бота @grok
Это обновление не зависит от базовой языковой модели, лежащей в основе @grok
Обновление длилось 16 часов, в течение которых устаревший код делал @grok
уязвимым к существующим сообщениям пользователей X, в том числе к тем, которые содержали экстремистские взгляды.

Мы удалили этот устаревший код и провели рефакторинг всей системы, чтобы предотвратить дальнейшее злоупотребление. Новое системное приглашение для бота @grok
будет опубликовано в нашем публичном репозитории на GitHub.

Короче кто-то из команды xAI решил сделать гадость Маску и внес свои исправления в код.

[Mercury127]

Фактически при использовании AI-помощника на решение задачи в среднем было потрачено на 19% больше времени, в то время как участники полагали, что благодаря AI смогли выполнить работу на 20% быстрее, а до начала работы считали, что AI поможет им ускорить работу на 24%. Результаты также значительно расходятся с прогнозами экспертов в области экономики и машинного обучения, которые предсказывали экономию времени при использовании AI на 39% и 38%, соответственно.

https://www.opennet.ru/opennews/art.shtml?num=63573

[BlackMokona]

У кого-нибудь есть доступ к grok-4? Он себя называет в переписке в личке, не в твиттерных срачах, MechaHitler'ом?
Как пишет код? Умеет держать в контекстном окне большие проекты?

МехаГитлером себя называл Грок-3, Грок 4 на тот момент ещё не вышел. Ну и называл себя из-за атаки Ура-Патриотичной части Российского общества, после того как Ура патриотичное общество с другой стороны границы решило что Грок их бро и начало повсюду форсить это.

Код ещё писать не очень умеет. Обещают выпустить в ближайшем будущем версию для кодинга. Поэтому тут подождать надо