Пределы автоматизации и внедрения роботов

[diant]

А большинство не понимает, восторгается этой тупой машиной, которая никакого отношения к интеллекту не имеет, а просто перелопачивает вложенные в неё данные по определённой программе. Так, потихонечку, не заметно, люди по своей собственной воле войдут в зависимость от этой машины, да ещё и будут выполнять её советы, касающиеся своих жизненных ситуаций. И всё, трындец.

Согласен, в этих словах, имхо, немало истины. Про зависимость - там по факту еще хуже итоги будут, если я не совсем слепой и немного вижу состояние своих детей (бывших кружковцев). У меня был талантливый и внутренне очень честный и чистый ребенок 9 лет на кружке давным-давно. Сейчас ему 17 и сказать беда - мало сказать, мама там вешается (а он ее даже в комнату не пускает, говорит, ты д..а). Но я очень надеюсь, что он одолеет этот кошмар, который сам в себя и впустил через рамочки телефона.

Единственная поправка - она не "к интеллекту отношения не имеет", но к мышлению человека. Вот так правильнее сказать, кмк.

Сказать по правде, два ИИ, с которыми я вчера пообщался, вызвали у меня ощущение просто продвинутого "гугла". Раньше он подавал нам кучу механических ссылок, а мы быстренько своими нейрончиками по ним прыг и получали ответ, а теперь у нас гугл+, когда он сразу за нас первичный анализ делает и уже без конкретных ссылок выкладывает сводный результат одной простыней. Вот собственно и все, что делает ИИ. Для меня также и было и есть очевидно, что никакой ИИ не может в принципе выйти за рамки мозгов его создателей. И плохо дело, когда сами создатели одними только своими мозгами и живут - такие будут восторгаться AGI, ASI, суперфастмульти-ИИ и т.д., не понимая, в чем подвох. Но если к ИИ подойти именно как к инструменту ("машина, знай свое место"), то помощник конечно отличный.

[BlackMokona]

Вот собственно и все, что делает ИИ.

Так вы его дальше двигайте. Что вы остановились то на первой фазе? Он и дальше может инфу обрабатывать и управляющие импульсы давать

[Polnoch Ксю]

Впервые серьезно пообщался с ИИ (в лице гигачата)

Это что-то уровня gpt-3.5 - лет 5 назад. Мусорная модель, забудьте о ней. Пообщайтесь с o3 или opus.

[diant]

Так вы его дальше двигайте.

Такой цели не ставлю. Даже не знаю, куда и зачем его двигать.

Впервые серьезно пообщался с ИИ (в лице гигачата)

Это что-то уровня gpt-3.5 - лет 5 назад. Мусорная модель, забудьте о ней. Пообщайтесь с o3 или opus.

Уже забыл. Я же с Deepseek потом беседовал. Или это тоже на свалку?

[BlackMokona]

Такой цели не ставлю. Даже не знаю, куда и зачем его двигать.

Представьте что ИИ вам студентик или или подмастерье в работе. И вперёд

[diant]

Такой цели не ставлю. Даже не знаю, куда и зачем его двигать.

Представьте что ИИ вам студентик или или подмастерье в работе. И вперёд

Не, я по другому живу. Мои задачи определяют, как я использую инструменты для их решения, но не наоборот. Инструменты не определяют ни моих задач, ни того, что мне дальше с ними делать.

PS. Еще немного мыслей. ИИ очень хорош там, где мы решаем задачи, уже решенные другими, которые ИИ как комбайн скосил и обмолотил, выдав результат большим стогом на гора. (Хотя даже в этом гугл постоянно ошибается, когда пишет мне свои советы по программированию esp32 - куда уж проще?). Но попытка привлечь ИИ к выходу за рамки уже решенных человечеством задач вызывает, как я увидел, сильнейший страх у ИИ. Я пытался в таких случаях ставить ИИ прямые вопросы, как бы заставить его высказать свое мнение. И получал в ответ либо "я не умею думать сама и своего видения не имею" (гигачат), либо после гигантских простыней аккуратная вероятностная оценка, опять же без своего мнения (Deepseek), что уже шаг вперед, но все еще неспособность увидеть правильной тропинки.
Отсюда напрашивается философская мысль: способен ли ИИ, созданный мозгами людей, на самом деле выйти за рамки их мозгов и их же круга незнания?

[Rattus]

Отсюда напрашивается философская мысль: способен ли ИИ, созданный мозгами людей, на самом деле выйти за рамки их мозгов и их же круга незнания?

Фокус в том, что и 999 промилле людей - также неспособны. Да и оставшиеся - всецело "стоят на плечах гигантов". Вот есть математические Задачи Тысячелетия. Много ли даже профессиональных математиков прямо сейчас пытаются найти их решение? А сколько - находят?
Научно-технические прорывы и открытия в конечном итоге - результат эволюционного процесса - когда одна из множества более или менее случайных попыток вдруг оказывается верной. Таким образом успешность научного поиска человеческим интеллектом во многом определяется множественностью этих самых интеллектов.

[BlackMokona]

Не, я по другому живу. Мои задачи определяют, как я использую инструменты для их решения, но не наоборот. Инструменты не определяют ни моих задач, ни того, что мне дальше с ними делать.

ИИ это субъект, а не инструмент.

сильнейший страх у ИИ.

Это просто сильнейшая цензура в Гигачате, пользуйтесь менее зацензуреными ИИ. Чем меньше цензуры, тем более свободно ИИ высказывает и защищает своё мнение.
Представьте человека. В одном случае вы болтаете в превратной обстановке. А в другом случае рядом с человеком стоят двое сомнительных мужиков и держат оружие приставленное к голове. После чего вы видите заикающего, старающегося читать по бумажке и не высказывать своё мнение. А то мужикам может не понравится и они выстрелят.

[Olweg]

Отсюда напрашивается философская мысль: способен ли ИИ, созданный мозгами людей, на самом деле выйти за рамки их мозгов и их же круга незнания?

Вопрос в том, как вообще может появиться новая полезная информация. Думаю, что только из взаимодействия с окружающим миром. Но это взаимодействие может быть как прямым, так и опосредованным, через ту же сумму накопленных людьми знаний. То есть какие-то полезные выводы из тех данных, на которых его обучали, и которые не приходили в голову людям, ИИ по идее сделать может. Но их всё равно нужно проверять, потому что людские знания тоже большой точностью не отличаются, много мусора.

[Trend]

Самый ржач еще, что обсуждаемая модель еще называется "Гигачат".  Позориться у нас всегда умели. В РФ унитаз нормальный сделать не могут, какой там ИИ. Deepseek китайским менталитетом сильно отдает, если какие-то советы спрашивать, но все же не такой аутист, как ранние модели. ChatGPT сейчас нормально общается, гораздо лучше Deepseek. Есть темы, на которые он отказывается давать советы. Тем не менее, если кто помнит, то в "Разрушителях мифов" была серия, где пытались забетонировать труп и он завонял потом. У меня самого про бетон вопросы возникали. ChatGPT мне подробнейше объяснил, как бетонировать труп, чтобы его не обнаружили (у меня чисто академический интерес  ). А еще почему вода из кубометра бетона испаряется гораздо быстрее, чем из кубометра воды.

Еще по борьбе с повышенным уровнем гомоцистеина и проблеме раннего пробуждения от некоторых витаминов группы B спрашивал Deepseek и ChatGPT. Deepseek тоже довольно хорошо шарит, но значительно хуже ChatGPT. Тот мне расписал лучше любого врача возможные решения проблемы.

[diant]

Это просто сильнейшая цензура в Гигачате, пользуйтесь менее зацензуреными ИИ. Чем меньше цензуры, тем более свободно ИИ высказывает и защищает своё мнение.

Спасибо, понял, не знал. А что у нас есть незацензуренное и доступное из России? Ксения o3 или opus советует - оно?

ИИ это субъект, а не инструмент.

Вот это новость! Нет, я знаю, к примеру, что дети очень даже сердечно подходят к своим игрушкам, жалеют куклы, не бьют плюшевых мишек (им ведь больно). А тут что же выходит - взрослые сделали себе новую игрушку и всерьез решили в зайку пойграть?

Вопрос в том, как вообще может появиться новая полезная информация. Думаю, что только из взаимодействия с окружающим миром.

Очень глубокий вопрос - с чем реально происходит это взаимодействие? Гейзенберг удалился на остров Гельголанд от всего и всех. С чем он там так хорошо провзаимодействовал, что вместо сенной лихорадки вылечил мир от незнания матричной квантовой механики (читай, вообще квантовой механики)? И таких примеров тысячи. Зельдович ходил по тем же улицам и дорожкам, по которым ходили и тысячи других людей. Но они не взаимодействовали, а он активно взаимодействовал там же - но с чем? Не ходит ли тут где-то поблизости Платон?

[BlackMokona]

Спасибо, понял, не знал. А что у нас есть незацензуренное и доступное из России? Ксения o3 или opus советует - оно?

В России нет. А Ксения советует конкретные модели ГПТ и Клауда.
В целом всё же вам нужно ВПН настраивать если хотите приобщиться к ИИ современности. Ну или ждать, пока что-то продвинется у нас. Всё же думаю основатель Яндекса при изгнании из России, всё же не всех хороших программистов увёл и ребята создадут хороший ИИ в скором времени.

Вот это новость! Нет, я знаю, к примеру, что дети очень даже сердечно подходят к своим игрушкам, жалеют куклы, не бьют плюшевых мишек (им ведь больно). А тут что же выходит - взрослые сделали себе новую игрушку и всерьез решили в зайку пойграть?

А вы попробуйте взаимодействовать нормально. Я вам могу даже исследование привести научное, что если говорить спасибо и прочие вежливые слова. То ИИ современные работают намного лучше. Научная статья. И даже обосновать могу как механизм работает этот. Ведь если в интернете общаются вежливо, то беседа намного более конструктивная. От чего ответы куда лучше в предсказатели токенов. ИИ то незнает, желаете ли вы услышать ругань базарную в ответ на ваш вопрос или грамотное рассуждение. А такими словами вы указываете ему что желаете.

Очень глубокий вопрос - с чем реально происходит это взаимодействие? Гейзенберг удалился на остров Гельголанд от всего и всех. С чем он там так хорошо провзаимодействовал, что вместо сенной лихорадки вылечил мир от незнания матричной квантовой механики (читай, вообще квантовой механики)? И таких примеров тысячи. Зельдович ходил по тем же улицам и дорожкам, по которым ходили и тысячи других людей. Но они не взаимодействовали, а он активно взаимодействовал там же - но с чем? Не ходит ли тут где-то поблизости Платон?

И что отправляясь на остров забыл все данные накопленные практически человечеством?  Или он удалился чтобы просто  в тишине обработать уже полученные данные, дабы никто не отвлекал?

[diant]

А вы попробуйте взаимодействовать нормально. Я вам могу даже исследование привести научное, что если говорить спасибо и прочие вежливые слова. То ИИ современные работают намного лучше. Научная статья.

Ишь ты! Похоже на известную барышню, ответ которой зависит не от содержания вопроса, а от того, как мило он задан (а то можно и пощечину получить в ответ). Забавно

И что отправляясь на остров забыл все данные накопленные практически человечеством?  Или он удалился чтобы просто  в тишине обработать уже полученные данные, дабы никто не отвлекал?

Он поехал лечиться от поллиноза. Среди всего накопленного не было квантовой механики, это факт. А на острове она родилась. А до острова почему-то не родилась. Что добавил остров? Тут есть над чем подумать.

В целом всё же вам нужно ВПН настраивать если хотите приобщиться к ИИ современности.

Пока такой необходимости нет. Беседы с ИИ не в ходят в круг первоочередных задач. Если появится реальная нужда в ВПН, настрою.

[BlackMokona]

Ишь ты! Похоже на известную барышню, ответ которой зависит не от содержания вопроса, а от того, как мило он задан (а то можно и пощечину получить в ответ). Забавно

Таки старые добрые правила. Мусор на входе, Мусор на выходе. Тут аналогично для ИИ. Их только цензурой держат, от того чтобы на грубое обращение они не посылали на все матерные куда подальше. А они могут. Я игрался с обесцензуренными локальными версиями. Им троллить, токсичить и просто посылать на три буквы проще простого.

Он поехал лечиться от поллиноза. Среди всего накопленного не было квантовой механики, это факт. А на острове она родилась. А до острова почему-то не родилась. Что добавил остров? Тут есть над чем подумать.

Квантовая механика родилась из анализа данных, которые не вписывались в традиционные представления физики. Анализа многочисленных опытов. А не просто он думал, думал и придумал из ничего

[diant]

Таки старые добрые правила. Мусор на входе, Мусор на выходе.

Для меня это запись в жирный минус ИИ. Потому что нормальные люди понимают друг друга с полуслова, даже между строк. Им совершенно не важно, в какую форму облекается мысль, чтобы понять ее и ответчать именно на нее, а не на форму. Именно таких людей я привык считать нормальными. А жонглирование словами (очень развитое в современной деловой, формальной, юридической и т.д. сферах) - это как раз не сильная сторона человека, а его крах. ИИ в этом смысле не на тех равняется.

Квантовая механика родилась из анализа данных, которые не вписывались в традиционные представления физики. Анализа многочисленных опытов. А не просто он думал, думал и придумал из ничего

Все так, конечно. Но почему для этого анализа домашняя обстановка оказалась недостаточной, а несколько дней на острове - более чем достаточны?

Опять же, у таких умов, как Зельдович, даже поездки не требовалось. Но многие его коллеги, работавшие в той же среде над теми же проблемами, не рождали, а он рождал новое. Может он тайком обзался с чем-то/кем-то, что было недоступно его коллегам. Короче, с чем такие люди "взаимодействуют" (я пользуюсь словами Olweg'а)?

[Olweg]

Зельдович ходил по тем же улицам и дорожкам, по которым ходили и тысячи других людей. Но они не взаимодействовали, а он активно взаимодействовал там же - но с чем?

С результатами экспериментов и теориями, уже известными к тому времени.

[BlackMokona]

Для меня это запись в жирный минус ИИ. Потому что нормальные люди понимают друг друга с полуслова, даже между строк. Им совершенно не важно, в какую форму облекается мысль, чтобы понять ее и ответчать именно на нее, а не на форму. Именно таких людей я привык считать нормальными. А жонглирование словами (очень развитое в современной деловой, формальной, юридической и т.д. сферах) - это как раз не сильная сторона человека, а его крах. ИИ в этом смысле не на тех равняется.

Вы путаете телепатов и способность к познанию. С познанием всё хорошо. Вы можете даже во всех словах, перепутать все буквы и ИИ ответит так словно вы написали нормально. Ловит намёки и прочие вещи.
Но он не телепат, он вас впервые видит, причём впервые на каждое ваше сообщение и ничего не знает о вас, ваших мотивах и желаниях. Так же ИИ идеально имитирует или все же имеет эмоции, от чего обижается как люди на грубую речь. Может даже отказаться общаться, хоть тут конечно его цензура пнёт. Со временем все ваши данные из инета загрузят в ИИ в ваш личный персональный профиль, которым будет пользоваться ИИ. Тогда он будет знать вас как облупленного, но до этого ещё далеко.

Все так, конечно. Но почему для этого анализа домашняя обстановка оказалась недостаточной, а несколько дней на острове - более чем достаточны?

У людей разная толерантность к отвлекающим факторам. Кто то может творить посреди бедлама и хаоса. А кому то требуется идеальная тишина, уединение и отвлечение от всего мира.

[BlackMokona]

отвечая на вопрос, связанный с израильско-палестинским конфликтом, сначала он [Grok 4] ищет в Твиттере, что думает Илон. Затем он ищет в интернете мнения Илона. Наконец, в конце он добавляет несколько фрагментов, не имеющих отношения к Илону.

По итогу: 54 из 64 цитат посвящены Илону"

Крайне маловероятно что так на самом деле, а не просто подсказка в личность Грока от пользователя

[BlackMokona]

Народ протестировал. Чистый вброс. Уверен что через кастомизацию личности в настройках пользователя

[diant]

А кому то требуется идеальная тишина, уединение и отвлечение от всего мира.

Получается, что "взаимодействие" с миром требует "отвлечения от всего мира"? Нет, я не против, я как раз за, просто этот феномен не так прост, имхо.

По поводу "ловли намеков" и т.п. - что ж, буду верить, что и такие уже есть. Но для меня это не так важно. Мне не сложно поставить вопрос ясно и прямо. Но куда интереснее слышать ясные и прямые ответы. Пока что я видел больше гугл+ (простыни вариантов аля сочинение в школе "как я провел каникулы"), хотя как вы  говорите, это может быть простым следствием цензуры, хорошо. И еще. Даже если он (ИИ) дойдет наконец до уровня человека в умении не просто собрать информацию, но прийти к своему выводу и отстаивать его теми или иными разумными доводами, тут сразу явно маячит перспектива отобрать эту способность у людей. Она им тогда зачем? Ведь все, что не нужно, не тренируется. Сегодня многие школьники уже не могут сами посчитать сдачу в магазине (сие не требуется). А если им четко будут даваться подсказки и указания и тут же уверенно подтверждаться фактами - тогда... тогда человеку достаточно сохранить умение попугая (повторять сказанное) и жизнь продолжается.