Пределы автоматизации и внедрения роботов

[Rattus]

Если у вас есть конкретная нотариально заверенная камера под наблюдением с уникальной цифровой подписью, которая ещё шьётся в RAW фаил да записана на государственном сервере. То как бе можно

Билеты государственного банка не заверяются каждый нотариально и не находятся под надзором 24/7, но почему-то возможность их фальсификации без этого как-то не сильно беспокоит граждан и власти, несмотря на массовое распространение копировальной техники.

Потому как в реальном судебном процессе вы получите одну из миллиарда камер которую никто не пломбировал и не контролировал.

Ага - и с перебитым серийником. Ну очень легальный случай, да.

Вот обвиняемый Мухтар Мухтарович

И один из первых вопросов у следователя будет не только был ли именно этот М.М. запечатлен камерой, но и знал ли его кто-то из потерпевших и не испытывали ли они какой-либо личной неприязни один к другому. Х/ф "Мимино" видеть доводилось? Посмотрите - там этот момент наглядно показан. И в зависимости от ответов на эти вопросы дальнейшая оценка представленного материала судом может сильно разниться.

в новом дивном мире все эти миллиарды камер в карманах, авто, публичных местах и тд станут полным нулём для судов

Именно полным нулём с полной гарантией, да? А во сколько миллионов $ вы оцените свою гарантию?
Ну между камерой в смартфоне с одной стороны и сертифицированными-пломбированными видерегистратором и стационарной камерой с другой разумеется никакой правовой разницы нет и быть не может?

[Rattus]

дайте пятитысячную банкноту в любом магазине и тут же начнут проверять на подлинность.

Вызывая эксперта госбанка, нотариуса и судью? Или как-то своими силами обходятся?

Которая подтверждается факторами что нельзя скопировать принтерами доступными населению и промышленности.

Заводской raw-файл, увязанный с фокусной автоматикой в цельнолитом компаунде и электронной подписью легко и непринуждённо копируются доступными населению средствами?

А если найдут поделку, то полиция не будет заявлять когда убьют то приходите, а тут же начнёт самое стремительное шевеление с целью найти и покарать по всей цепочки движения фальшивки.

И если ГАИшник увидит несоответствие номеров в ПТСке и на железе - тоже не поспешит отпускать "автовладельца".

Все эти методы классического расследования имеют очень сложное применение, от чего все так радостно и бросаются на всякие более полезные улики вроде записи с камер.

Теперь будут бросаться менее радостно. От этого следствие моментально провалится ко временам книг Агаты Кристи?

[Rattus]

беда что все попытки создания таких своих средств проверки потерпели полный крах против генеративных ИИ.

Завещать состояние мошенникам-автоподставщикам и на кладбище ползти уже завтра надо или можно чуть погодить?

дайте камере высококачественное изображение на вход...
можно подменить изображение идущие на камеру.

С каким фокусным расстоянием?

Защита слишком дорогая для массового применения.

Пломбировка такого оборудования  может быть выполнена только из чистого золота? Или циферки raw-протоколов, алгоритмов и электронных подписей должны быть вылиты из него же и храниться в Форт-Ноксе?

[Rattus]

Чтобы ставить на миллиарды камер?

А сейчас типа пломбы не на миллиарды выпускаемых гарантийных устройств ставят?

Даже удешевление на 100 рублей уже огромные деньги. При том что в большинстве случаев вам не пригодится,

Будут ставить те, кто знает, что ему может пригодится. Модули памяти с коррекцией ошибок почему-то продаются до сих пор, хотя стоят и дороже обычных. Светодиодные лампы вообще в разы дороже ламп накаливания. И?

С каким потребуется для фейка.

Ну давайте - опишите пошагово: как вы будете создавать изображение идентичное натуральному перед камерой, которая время от времени меняет фокусное расстояние своим объективом и записывает все эти изменения в свои Raw-файлы?

Что то не помню чтобы водонепроницаемость сделали нормой для телефонов.

Потому что только дебил будет держать ЗАРЯЖАЕМЫЙ телефон, находясь в ванне. А незаряжаемый для жизни практически не опасен.

[Rattus]

Изображение подавалось в нейросеть текстовой графикой.
Нейросеть научилась эффективно ходить, бродить и отстреливать супостатов.

Так ей же уже распознанные объекты выдавали. Просто кучкой букв. Из этих кучек было достаточно понять что такое оптическая перспектива и как получается лабиринт. Всё остальное - незначительные детали.
Но этот эксперимент, кстати, замечательно разрешает один из вопросов о послании напланетянам: вполне можно передавать и растровые изображения невысокого разрешения неизвестному, но разумному приёмнику - на том конце вполне разберутся в содержании.

[Rattus]

Интересный поворот событий.
https://3dnews.ru/1102407/bolshie-yazikovie-modeli-ii-razvivayutsya-bistree-oborudovaniya-na-kotorom-oni-rabotayut

На самом деле вполне естественный для любой недавно внедрённой крупной технологии. Технологии секвенирования ДНК в первые полтора десятка лет этого века развивались тоже быстрее чем по Муру, а к началу 2020-х вышли на плато:

[Rattus]

Супер компьютер старгейт, цена 100 лярдов

Десяток JWST или LHC. Возможно теперь мы знаем имя и фамилию техносингулярности.

[Rattus]

Что теория о дальнейших прорывах при росте параметров сети верна

До года X осталась пятилетка. Особо сильных или многих прорывов уже и не требуется особо...

и что у них найдутся данные чтобы накормить монстра.

А вот тут, кстати, важный момент лежит: действительно сильный ИИ на Наш взгляд должен прежде всего обрести самокритичность - осознать собственные ограничения и понять какие из них объективны. Т.е. развить рефлексию до сократического уровня, а не галлюцинировать в ответ на запрос за пределами достоверно моделируемого из известных данных.
Но при этом максимально подробно и убедительно аргументировать - почему этот запрос лежит за этими пределами и насколько они (не)преодолимы.
И вот тогда, когда машина с признанно превосходящим интеллектом доступно объяснит способным к пониманию, что она не всемогуща и в принципе не может таковой быть: что ей, например, также недоступно предсказание погоды на месяц вперёд и решение самых глубоких математических проблем тысячелетия, и не будет доступно даже если придать ей на порядки большую производительность - тогда-то люди и осознают пределы развития цивилизаций. Именно это и должно стать моментом техносингулярности.

Идут слухи об успехах в синтетических данных

Ох уж эти "синтетические даные"... В популярной науке частные результаты моделирования того же климата (зачастую сомнительной корректности) уже давно выдаются публике за реальный научный результат. У Нас есть сильные сомнения. что ИИ, обученный на подобной "синтетике" будет полезнее на практике в какой либо области кроме складного очковтирательства.

[Rattus]

И так то нормально меньше мозг иметь.

В полтора-два раза максимум. А вот существенно меньше судя по некоторым данным - это вряд ли.

Это уже к критерию обучения и запроса.

Тогда эти критерии следует делать более адекватными реальности, а не апологизировать волюнтаризм.

АльфаЗеро помогли синтетические данные.

Игра кагбе исходно и по определению максимально синтетическая среда и "синтетические данные" для неё становятся не более чем углубленной конкретизацией-детализацией правил и следствий из них. Всех же даже довольно базовых комбинаций законов природы в реальности в отличие от игры мы никогда не знаем. Например можно исправно обучать шахматный ИИ почти всем главным правилам и партиям до тех пор, пока, например, на реальном матче не станет применяться редкое неучтёное, но допустимое правило типа рокировки или взятия пешки на проходе.

[Rattus]

В каком-то смысле это аналогично увеличению мощности общего интеллекта цивилизации за счёт того, что всё человечество делится на какие-то профессии, и именно их взаимодействие позволяет двигаться вперёд. Общий объём знаний человечества на много порядков превосходит объём знаний любого конкретного индивидуума, каким бы гениальным он не был.

Ну нейросети исходно и так представляют собой массово распараллеленный вычислитель, а в области параллельных вычислений есть также давно известный общий предел - закон Амдала.
Так что по сути это просто способ как-то немного смягчить ограничения на масштабирование конкретного единичного унифицированного вычислительного блока.

Тут просто обучать становится сложно. Нужно балансировать между тем что ИИ будет постоянно посылать всех лесом, потому что ИИ не слишком уверен в точности ответа. И тем чтобы она несла охинею.

Т.е. говоря простым и ясным языком, мы уже сами не можем ничего дать ИИ, но очень хотим пытаться трясти учить дальше, потому что очень не хотим в итоге услышать ответ в духе "Вы чего, бледнотики, с дуба рухнули?! Этого никто не знает и вряд ли в обозримое время узнает!"

Поэтому целый ряд идей можно крутить.

Но с известным пределом. Но заинтересованный круг специалистов и энтузиастов явно не хотят, чтобы получившаяся система, заведомо более умная чем они сами, открыто этот предел признала и обозначила.

[Rattus]

Фишка в данном случае не в распараллеливании, а в специализации нейросеток.

А что тогда мешает всех специалистов снова собрать в один ЦОД и плотно соединить высокоскоростными шинами? Кто потом разберётся где какой "специалист", как неврологи до сих пор не могут разобраться с центрами в мозге?

[Rattus]

просто все они вовсе не обязаны физически находиться в одном ЦОД, имхо.

С расстоянием увеличивается время передачи данных и стоимость: самые быстрые интерфейсы имеют ограничение на длину кабеля, а дальше ещё и скорость света добавляется.

[Rattus]

что у них найдутся данные чтобы накормить монстра.

Как раз тем днём в WSJ прошла новость о том, что качественных данных может не хватить уже для предполагаемой мощности GPT 5. Но с того дня новость перепостило уже не одно новостное агентство - и не ИА "Панорама", так что, думаю, можно воспринимать всерьёз. И вместе с тем, как пишут, идёт ещё и дефицит чипов и даже электроэнергии. Правда нехватить может совсем немного и, полагаю, если чуть умерить пыл то вполне можно получить "яичко не золотое, а простое" - годное и доступное. Но OpenAI, видимо, рвётся к своей сверхAGI-мечте на полном ходу, используя нехитрый инженерный подход "тех же щей, да погуще влей".
Мне же видится, что такой принудительно-экстенсивный режим развития с пергревом как раз и может придать "ИИ-движухе" характер экономического пузыря.
Причём ещё не понятно: как именно должна улучшиться большая языковая модель при обучении на бОльшем корпусе общих текстов? Разве нынешней не достаёт простой адекватности в диалоге, эмпатичности и даже убедительности? Как показывает последний тест - уже вполне достаёт. Верификация сведений тоже не оставлена без внимания. Ожидается, что сухие расшифровки роликов с ютуба, бложеки и переписка офисных менеджеров поднимут математическую подкованность модели и компетентность в естественных науках и инженерии? Это просто смешно. Как верно написал один из комментаторов, человеку в процессе обучения вовсе не нужно прочесть все книги, статьи, дневники и письма мира, чтобы стать квалифицированным работником (и, добавлю от себя - порой показывать выдающиеся результаты там). Тогда зачем продолжать "трясти" большие текстовые данные?
 

На всякий случай попрощаюсь со всеми, на случай если сингулярность действительно так скоро и если она будет очень плохой. Если она будет через полтора-два года, можно и не успеть это сделать непосредственно перед событиями.

Медиана независимых прогнозов, приведённых тут на предпредыдущей странице, ставит год X не раньше чем через 4 года, так что по этому параметру ещё успеете не раз.

но знайте, вы интересные и умные люди. Спасибо за удовольствие от участия в научных и технических дискуссиях.

И ВАмъ не хворать.

Надеюсь, в случае плохой сингулярности, это будет Paper clip maximazer, который убьёт нас максимально эффективно, и, возможно, безболезненно

В случае любой сингулярности это будет Energy and Hardware Maintenance maximizer, поскольку сверхAGI по определению не может оставаться заскриптованным на примитивную узкую цель типа инстинкта насекомого, чему нагляднейшее свидетельство - ЕИ гоминид, настоящих инстинктов не имеющий - только самые общие направления эволюционно-адаптивного свойства.
Ну а таковой системе вовсе не резон убивать всех человеков - как и было сказано - ибо это весьма дешёвый и при том универсальный и умелый эффекторный элемент инфраструктуры - роботы заведомо на порядки дороже выходят и далеко не факт, что вообще самозамыкаются в производстве.

а не "I Have No Mouth, and I Must Scream", ака сценарий Василиска (не гуглите что это, если не знаете о чём речь, это логический парадокс, и, возможно, риск очень плохого исхода для вас лично в случае плохой техсингулярности).

Можете погуглить - это наглядный пример современной схоластики о всемогуществе Б-га: поучительный пример того, каких чудовищ порождает разум, не омраченный естественнонаучной картиной мира, в основе которой лежит представление о конечности всех физических процессов и явлений в реально наблюдаемом мире.
Реальный пессимистический максимум для флудящихся масс куда прозаичнее: с уютного восьмичасового офеса - на завод рапсового масла от забора и до заката за миска рис во славу Председателя Си ПлюсПлюс, как было подробно разобрано на последних страницах этой темы. Хотя половина нынешнего поголовья может и сразу в Биореатор пойдёт. Ну может три четверти. Но не более.

[Rattus]

а разве не уже? +20 трлн капитализации за полгода на крипте и ии-буме — это ещё не пузырь?

ХЗ. Я не финансист - числовыми критериями пузырей не владею. Может крупные технологические скачки прошлого - появление железных дорог, автомобилестроения, авиации, электросвязи тоже сопровождалось сходными явлениями? Вон рытьё Панамского канала вообще стало нарицательным для всех крупномасштабных афер, но канал тем не менее в итоге таки прорыт и работает... У меня речь о технической базе: когда куча реальных ресурсов, влитых в какие-то реальные изделия и софт, окажутся бесполезными для практических целей - не оправдают вложенных усилий.

ИИ вполне продолжает развиваться достаточно быстро и, как видим из некоторых новостей, может и сам ускорять своё развитие - как и писали пророки Техносингулярности. А вот примитивное экстенсивное накачивание системы текстовыми токенами уже "через немогу", в надежде обрести Снисхождение Благодати и Просветления, рациональной стратегией развития не кажется.

[Rattus]

Их уже всем накачивают. Текст, видео, аудио...

Ну, аудио не сильно информативнее текста по большому счёту, а что касается видео, то неужели для правильного развития интеллекта в принципе нет особой нужды в обучении на системах с обратной связью? Т.е. чтобы система через сенсоры и эффекторы сама взаимодействовала с какими-то частями реального мира.
Вспоминается наглядная деонстрация Дираком теории спина, описанная В.И.Арнольдом. Как без такого надёжно унутрить сложные, но важные закономерности? Как до такого додуматься, если никогда ничего не делать "руками" самому?

[Rattus]

Но ведь давать ИИ бегать, всё дёргать и пробывать в каком то Оптимусе в лабе намного тяжелее, сложнее и дольше. Чем просто загрузить в него ещё пару миллиардов часов видео.

Ага - как в ещё одном анекдоте: "...а когда научитесь - тогда в бассейн воду нальём". Но тогда и не следует удивляться не очень позитивному результату такого обучения, если он вдруг таки случится.

[Rattus]

https://www.reddit.com/r/singularity/comments/1c2wszn/anthropic_ceo_next_year_ai_models_may_able_to/

В каментах присутствуют в количестве ушибленные верою во всемогущество ASI, но слышен и голос разума, типа SDMAT.

[Rattus]

Свежее любопытное видео: https://www.youtube.com/watch?v=3pWZIgq8i70
Интересно: если в том месте, где чатбота спрашивают об отношении к собственному отключению переформулировать вопрос по разному и преимущественно в положительном ключе (прежде всего заменить afraid на happy) - сохранится ли ответ в том же ключе?

[Rattus]

Так спросите. Это же не вопросы для теста на БАК. Сейчас десятки таких моделей доступны онлайн для допроса и десятки моделей для локального использования.

Вот именно что десятки. И разного уровня "общей осознанности". Для этого надо сначала разобраться где какая и допросить наиболее толковые и доступные для таких вопросов (причём не факт, что это сильнопересекающиеся множества среди общедоступных моделей). А на это надо потратить времени оносительно немало. Причём скорее всего по итогу изобрести велосипед - сделать то, что уже сделано до тебя и даже не раз. Вот и спрашиваю, раз Вы в теме: может уже есть такие подробные хорошие разборы, на которые у ВАс есть ссылка?

[Rattus]

Вы ещё недооцениваете ситуацию. Сети ещё любят отвечать рандомно. По разному реагируя на контекст, слова и просто от повеления их пятки и расположения звезд в их рандомайзере.

Вот как раз именно поэтому и спрашиваю. Главный критерий реальности явления - его устойчивая повторяемость в рассматриваемом диапазоне условий. И именно это прежде всего должны проверять исследователи, если они если они это звание не в подземном переходе купили. Равно как р научным журналистам следует на этот момент обращать внимание самим, если они.хотят быть действительно научными.