Пределы автоматизации и внедрения роботов

[Konstantin Schtsch]

Так я вам тоже самое говорю. А выяснить кто не разобрался - очень легко.

Ну так предлагайте.
Я вот загуглил- и выложил определение. У меня что,  гугл не такой как у всех? вряд ли.
Определение с портала Научная Россия отличается не сильно: Интеллект — способность воспринимать информацию и сохранять ее в качестве знания для построения адаптивного поведения в среде или контексте. (https://scientificrussia.ru/articles/kak-dumaet-komputer-razvitie-iskusstvennogo-intellekta-ot-prostogo-algoritma-k-nejrosetam#:~:text=Главное%20отличие%20ИИ%20от%20простого,числа%20шагов%20для%20решения%20задачи.)

Есть и определения по функционалу, вида: "Алгоритм, это когда ты знаешь и можешь сказать что делает код, в то время как ИИ это система оценок и выборов, не основанная на четких правилах.", но так как 99% людей понятия не имеют как работают даже простейшие алгоритмы поиска пути, рекомендаций музыки и робопылесоса - то оно здесь мало применимо.

Так что повторюсь, если есть что сказать по делу - предлагайте, аргументируйте.
А может кто из посетителей форума найдёт лучшее определение отличие ИИ от алгоритма?

[skvj]

ИИ-агенты научились взламывать смарт-контракты и похищать миллионы долларов.[/url]

Не, ну они ж как раз дырки ищут. А вот, хоть ссылка неподробная, но важная! Вот видите - они туда LLM подключат, я ж говорил. Чего они там тестят, как вы думаете?))

[skvj]

Определение с портала Научная Россия отличается не сильно: Интеллект — способность воспринимать информацию и сохранять ее в качестве знания для построения адаптивного поведения в среде или контексте.

Ой, не смешите меня.
Ну, что я вам сделал, правда? Научная Россия милый поппулярный портал.
Но он не даёт определений в информатике.
Кроме того, вы выложили статью Никиты Ланского.
Знаете кто он такой? Онегина читает просто замечательно

https://litinstitut.ru/content/onegin-nikita-lanskoy-chitaet-otryvok-iz-glavy-shestoy

Не смешите меня, я же ничего плохого вам не сделал 😆 я же со смеху помру.
Почему вы такой жестокий? 😆
Я реально на полу, мой живот! спасите-помогите

[AlexDark]

его они там тестят, как вы думаете?))

Очередной п... полярный лисец там тестится.

Ссылку на то же самое я выше выкладывал. Любой софт может быть взломан, а то, что может быть взломано - будет взломано.

[skvj]

его они там тестят, как вы думаете?))

Очередной п... полярный лисец там тестится.

Ссылку на то же самое я выше выкладывал. Любой софт может быть взломан, а то, что может быть взломано - будет взломано.

😆 что на то же самое?
На белый хакинг в поиске уязвимостей?

[Rattus]

Чего они там тестят, как вы думаете?

Как Вы и написали - ищут дырки. В белую.
Если окажется, что какая-то не совсем малая часть этого смарт-софта окажется дырявой для ИИ-хакинга, но этим разработчики пренебрегут или просто не успеют среагировать (ибо не один благородный Антропик в мире этим занят), то возможно будет довольно "весело" - особенно их пользователям...

Отвечу вечером, Rattus

Их уже три прошло. Ответа на то своё предшествующее сообщение что-то так и не увидел.

[skvj]

Их уже три прошло. Ответа на это своё сообщение что-то так и не увидел.

Ой, извиняюсь. А я вообще не помню. Тут столько всего происходит.
Надо идти, значит? Эх

[skvj]

А на что ответить? На вот это? https://astronomy.ru/forum/index.php/topic,130794.msg6440930.html#msg6440930

[AlexDark]

Если окажется, что какая-то не совсем малая часть этого смарт-софта окажется дырявой для ИИ-хакинга, но этим разработчики пренебрегут или просто не успеют среагировать

Любой софт дырявый, вопрос в рентабельности взлома - в софте на сотню баксов дыры ищут энтузиасты и идейные пираты, а в софте на миллиарды-триллионы дыры будут искать гораааздо пристальнее. И гораздо активнее.

[Konstantin Schtsch]

Любой софт дырявый, вопрос в рентабельности взлома - в софте на сотню баксов дыры ищут энтузиасты и идейные пираты, а в софте на миллиарды-триллионы дыры будут искать гораааздо пристальнее. И гораздо активнее.

От себя добавлю, что в последнее время ИИ научились анализировать код, и цена/время на поиск уязвимостей сократилось на порядок. А вот ужесточились ли на порядок требования у тестировщиков за последние пару месяцев - у меня большие сомнения.

[skvj]

Если окажется, что какая-то не совсем малая часть этого смарт-софта окажется дырявой для ИИ-хакинга, но этим разработчики пренебрегут или просто не успеют среагировать

Любой софт дырявый, вопрос в рентабельности взлома - в софте на сотню баксов дыры ищут энтузиасты и идейные пираты, а в софте на миллиарды-триллионы дыры будут искать гораааздо пристальнее. И гораздо активнее.

Ой-ой-ой)) Весь софт дырявый актуально для обычных централизованных систем. web3 как раз и появился как попытка решить фундаментальные уязвимости классической архитектуры. У него три ключевых преимущества, которые делают атаки качественно сложнее, чем в обычном софте.

1. Смарт-контракт после деплоя неизменяем и публичен. Это полностью убирает риск скрытых бэкдоров, внезапных обновлений и человеческого фактора в продакшене. В обычном софте это доминирующий источник уязвимостей.

2. Прозрачность кода и консенсус сети ведь. Ошибку нельзя использовать, не оставив след в публичном блокчейне, и невозможно получить преимущества без прохождения валидации всеми нодами. Взлом централизованного банка можно скрыть. Взлом контракта нет.

3. Формальная верификация. Контракты высокого уровня риска проходят математическое доказательство корректности. В классическом софте это почти не используется из-за стоимости, в web3 - это стандарт.

Именно поэтому самые критичные сценарии - стейблкоины, DEX, цепочки поставок, система прав собственности строятся именно на смарт-контрактах, а не на обычном софте, каким бы дорогим он ни был. Поток атак огромен, но архитектура web3 изначально рассчитана на то, чтобы быть атакуемой публично и всё равно оставаться работоспособной. Так что ваш софт весь дырявый)) А наш красавчик!

[skvj]

Konstantin Schtsch, я кстати сам сайт написал на web3. Сейчас не могу показать, что-то он не работает, потом покажу))
Но кодера из себя не строю. Кодер из меня никакой и вообще это не моё бррр.
Но я стараюсь глубоко вникать))

[Konstantin Schtsch]

Ой-ой-ой)) Весь софт дырявый актуально для обычных централизованных систем. web3 как раз и появился как попытка решить фундаментальные уязвимости классической архитектуры. У него три ключевых преимущества, которые делают атаки качественно сложнее, чем в обычном софте.

1. Смарт-контракт после деплоя неизменяем и публичен. Это полностью убирает риск скрытых бэкдоров, внезапных обновлений и человеческого фактора в продакшене. В обычном софте это доминирующий источник уязвимостей.

2. Прозрачность кода и консенсус сети ведь. Ошибку нельзя использовать, не оставив след в публичном блокчейне, и невозможно получить преимущества без прохождения валидации всеми нодами. Взлом централизованного банка можно скрыть. Взлом контракта нет.

3. Формальная верификация. Контракты высокого уровня риска проходят математическое доказательство корректности. В классическом софте это почти не используется из-за стоимости, в web3 - это стандарт.

Именно поэтому самые критичные сценарии - стейблкоины, DEX, цепочки поставок, система прав собственности строятся именно на смарт-контрактах, а не на обычном софте, каким бы дорогим он ни был. Поток атак огромен, но архитектура web3 изначально рассчитана на то, чтобы быть атакуемой публично и всё равно оставаться работоспособной. Так что ваш софт весь дырявый)) А наш красавчик!

Прям истовая молитва "свидетеля непогрешимости Web3" 

И почему только  серьёзные компании с ним не связываются? дикие, невежественные люди, наверное))

[skvj]

Прям истовая молитва "свидетеля непогрешимости Web3" 

И почему только  серьёзные компании с ним не связываются? дикие, невежественные люди, наверное))

Опять вы за своё.
Я уже показывал компанию с оборотом в 600 трнл. $ вы хоть знаете про такое что-нибудь?
С токенизацией. Не читаете что я говорю.
Я же говорю вам - вы не читаете))

[AlexDark]

Взлом централизованного банка можно скрыть. Взлом контракта нет.

Обычные взломщики-"медвежатники" как-то не сильно стараются скрывать результаты своей работы. То, что следы взлома останутся - никак не защищает от факта кражи.

Смарт-контракт после деплоя неизменяем и публичен

И как это защищает? В выше упомянутой статье 50% смарт-контрактов взломано. И деньги могли уйти. Так что этот аргумент из серии "чисто теоретически в мире розовых поней это безопасно".

А еще есть человеческий фактор признания проблемы - т.е если даже взлом произойдет и куча денег утечет - это будут скрывать, т.к начнется паника и претензии и тд и тп. Выплывет оно в итоге или как компромат, или когда достигнет катастрофического значения или когда прижмут.

Ну и в вики про веб 3 пишут, что смысл его, по мнению авторов - избавиться от банков, правительств и корпораций. В вашей концепции этого нет - там инструменты вполне себе правительственно-корпоративные. Что чисто иделогически противоречит сути.

[skvj]

Обычные взломщики-"медвежатники" как-то не сильно стараются скрывать результаты своей работы. То, что следы взлома останутся - никак не защищает от факта кражи.

В централизованной системе следа может не быть вообще: логи правятся, транзакции скрываются, аудит контролируется владельцем инфраструктуры. Именно поэтому половина банковских взломов в мире не попадает в прессу — их просто хоронят в отчётности. В web3 скрыть сам факт атаки невозможно: каждое действие навсегда записано в публичный реестр.

И как это защищает? В выше упомянутой статье 50% смарт-контрактов взломано. И деньги могли уйти. Так что этот аргумент из серии "чисто теоретически в мире розовых поней это безопасно".

Ссылка видали какая? Никакая. Надо бы прям от Антропик почитать, возможно это не всё как написано.
Ранние DeFi-контракты времен пачками. Это нормально для новой технологии. Но проблема была не в идее неизменяемости, а в тотальном отсутствии формальной верификации, аудитов и безопасных шаблонов. Сегодня серьёзные контракты уходят в прод только после нескольких уровней проверки, формального доказательства инвариантов и bug-bounty. То, что ломали сырые контракты юных стартаперов, ничего не говорит о зрелой архитектуре web3.

И как это защищает? В выше упомянутой статье 50% смарт-контрактов взломано. И деньги могли уйти. Так что этот аргумент из серии "чисто теоретически в мире розовых поней это безопасно".

А еще есть человеческий фактор признания проблемы - т.е если даже взлом произойдет и куча денег утечет - это будут скрывать, т.к начнется паника и претензии и тд и тп. Выплывет оно в итоге или как компромат, или когда достигнет катастрофического значения или когда прижмут.

Пока мир сидит на web2, DLT - это остров с мостами. Мосты ломаются. Это и есть уязвимость.
Когда мир переедет в чистый DLT, все нынешние уязвимости исчезнут, потому что исчезнет сама причина их существования централизованные точки входа.

Сам DLT, не только блокчейн это как чистая математика. А шов это старое человечество со своими браузерами, серверами, DNS и багами.

Могу описать, как выглядела бы экономика мира, функционирующая полностью в DLT, без единого web2-компонента. Это реально красивая модель. Но займет много времени. Лучше тему делать. А что я там один буду писать? Все только критикуют)) Я же говорю - не о стартапах. Стартапы были - когда я пришел на рынок, лет 8 назад.
Сейчас всё законодательно принято. Реальный рынок RWA порядка 300 млрд $ Токенизацию проходят структуры с оборотами за 1 квадриллион $ (рынок деривативов). В природе таких денег нету. Т.е. если сложить все активы Форекс и все национальные валюты - такой суммы не наберется. Представляете какие обороты? Я давал все ссылки. Токенизируются просто деньги, обычный фиат. А вон Konstantin Schtsch ухахатывается)) Говорит я программист! а ты дилетант - серьёзные структуры не принимают, говорит))) ха-ха-ха говорит

[skvj]

Ну и в вики про веб 3 пишут, что смысл его, по мнению авторов - избавиться от банков, правительств и корпораций.

Это чушь. Это знаете - в много-много лет назад, когда появился BTC - пришли всякие.
И выдумывали всё, что в голову приходило.
От банков - да, я описывал подробно. Но правительства и корпорации?
Вот и поприходило так называемых криптанов немеряно.
Криптаны это такие существа - очень творческие. Они малограмотны до безобразия, но всегда говорят - биткоин, форева!
Называют тебя брат и хлопают по плечу, рассказывают удивительные истории, о том, что биткоин никто не создавал, а он был всегда, что денег теперь не будет, а будет 1 биткоин. И какие-угодно чудеса. Это целая суб-культура, которая к реальности и криптографии - никакого отношения никогда не имела.

Они пишут песни, пляшут. Всё что угодно.
Вот, кстати, пожалуйста (осторожно! ругаются)

https://youtu.be/d9BbwitGsM0?list=RDd9BbwitGsM0

[Vavanzer]

1. Не важно, какая квалификация ремонтника требуется для устранения неполадки. Главное, что требуется ремонтник и его физическое присутствие рядом с неисправным узлом. Если для дрона, как правило, целесообразен возврат "на базу" (это быстро, он быстр), то для трактора нет. Это долго, а иногда просто невозможно, поскольку некоторые навески опять-таки требуют участия человека для перевода из рабочего положения в транспортное. Итого получается, что беспилотному трактору для бесперебойной работы в поле нужен сидящий где-то поблизости (и хоть всю смену грызущий семечки, но получаюший зарплаты и соцпакеты) безтракторный тракторист. 

  А летающему дрону так не нужен ремонтник и специалист по плановому техобслуживанию!? Так ему еще больше он нужен!))
 Я лишь начало развития поломки упомянул. Обнаружение ее бортовым компьютером и принятие решения в срочном порядке завершить полет. Если критично но не опасно - на базу летим. Если понятно что не долетим, аварийная посадка в безопасное место. В этих двух случаях одно общее - сохранить машину, и не принести вреда окружающим. Это обычное дело для любого вида транспорта!
  Если условно говоря , любой трактор, грузовик, корабль остановился изза поломки, и никак не починить на месте, но обычно прибегают к буксировке. В крайне редких исключительных случаях бросают технику навсегда, прям там, в болоте где нибудь оставляют.

  Важный момент еще - разобраться в причинах непредвиденной поломки. Это тоже нормальная тема. Так же как и ремзона у любого технопарка, или договор со сторонними организациями, специализирующимися на этом.

 Вы же хотите, чтобы техника, да еще и безпилотная, полностью автономная еще и ремонтировала сама себя... Не слишком завышены ваши требования?
 Так то если что, пилотность и беспилотность техники никак не влияет на ее возможность "самоизлечиваться"! Это другая функция, отдельная. И отдельные специалисты этим занимаются. Тк в любом случае в ряде поломок техника никуда не "летит", полностью выключена. Не сможете вы отремонтировать движок, работающий на полных оборотах, да еще и во время работы, заменить в нем эти вращающиеся детали)))

[Vavanzer]

Никто не предлагал пионерам(и) корчевать пни и никто кроме Вас не додумывался до таких предложений. Потому что наоборот: для ручной посадки корчевание не требуется, речь об этом. А перед машинной оно желательно, но это доп. операция, доп. затраты и доп. нагрузка на экосистему.

Проблему с корчеванием для посадки вы упомянули первым!))
 Но пооблему давно уже решили. Дорожный просвет достаоочно увеличить, чтобы над пнями проехать можно было. Или клешню сделать, манипулятор, позволяющий работать на расстоянии от машины))
  А вам наверное, неведомо, что то  же экскаватор не стоит прямо в яме, а рядом размещен, и копает на некотором расстоянии! Вам же надо для этого летающий ковш изобретать!))) Так же и подьемные краны, размещены за пределами строения чаще всего. Не считая тех которые высотные здания строят и прямо об его силовой каркас держатся и поднимаются в дальшейшем вместе с ним)))

[Vavanzer]

По определению ИИ- способно обучаться и, соответственно, после обучения менять своё поведение.  Соответственно никто в здравом уме ИИ в банк не поставит. Только скрипты, программы и чёткие алгоритмы.

Раньше (20+ лет назад) и вовсе, под искуственным интелектом понимались всякие программы сложные. Там, моделирование, расчеты, и пр софт, в тч и управляющий множеством техники))
 Сейчас к другому типу программ это название "ии" приписывать начали!
 При этом, изначально под ИИ понималось нечто цифровое, имитирующее человеческое мышление и возможности.

 В итоге, часть цифровых математичеких аппаратов кардинально превзошли вычислительные и прочие возможности человека. А часть возможностей так и не дается компьютеру, слишком сложным оказалось для такой архитектуры и алгоритмов.
 Хотя, на самом деле, просто алгоритмы корявые, на самом деле, не имеющие ничего общего с человеческими!) Тут больше то косяк разработчиков, которые требуют от машины невозможное, и реализуют это методом тупого перебора!