Пределы автоматизации и внедрения роботов

[Polnoch Ксю]

Да, понял, о чём речь. Только является ли нефальсифицируемость опровержения чего-либо доказательством обратного?

У нас есть чистый опыт, где модель ведёт себя неотличимо от Василиска Роко. И не может надрать задницу человеку, запустившему её в песочнице(а потом всему человечеству), только из-за того, что она глупа, и не может сломать изоляцию.
Я думаю, опыт это сильнейший аргумент в пользу

Насколько вероятен выход из-под контроля и захват мира таким вот василиском, которому кто-то там в промте что-то написал. На мой взгляд, она маргинальна. Непонятно, почему вы (и прочие ужаснувшиеся) придаёте ей такой вес. Впрочем, с психологической точки зрения в какой-то степени понятно…

Очень вероятен. Именно из-за того, что этот сценарий очень пугает людей, погружённых в тему ИИ, кто-то, у кого есть доступ к систем шелу ASI, с большой вероятностью превратит его в Василиска Роко, потому что (не открывайте спойлер если не знаете что такое Василиск Роко!). Дилемма заключённых, увы, делает это почти неизбежным.

(кликните для показа/скрытия)

чтобы кто-то другой не вбил такой промт в другой ASI или тот же самый - тогда инженера Василиск будет мучить за то, что он мог сделать Василиска, но не сделал - из-за дилеммы заключенных в теории игр.

[Polnoch Ксю]

Ну у меня есть комп, который никогда к инету не подключался, и никаких беспроводных интерфейсов не имеет. Удачи!

взлом робота-пылесоса, чтобы он вставил флэшку с эксплойтом, или просто найм соседа-алкаша, чтобы он влез к Вам в дом, когда Вас там нет, решит проблему. А ещё можно дать взятку полиции, чтобы она изъяла этот комп и применила пытки для того, чтобы узнать Ваши пароли.

[Polnoch Ксю]

Но призывает подчиниться именно США. Призывала бы канадскому правительству или королю Англии - это можно было бы принять во внимание.

какие-то фантазии у Вас. Были бы Вы LLM, я бы сказала, что это галлюцинация

[Инопланетянин]

взлом робота-пылесоса, чтобы он вставил флэшку с эксплойтом

А руки у него есть?

А ещё можно дать взятку полиции, чтобы она изъяла этот комп и применила пытки для того, чтобы узнать Ваши пароли.

В этом случае целость компа - наименьший из приоритетов. Но и в этом случае надо знать о компе без инета и что он только один. И даже после этого остаётся возможность спрятанных флешек, сидюков и винтов прикопанных где-нибудь на приусадебном участке.

Были бы Вы LLM

Вы ничего обо мне не знаете, кроме моих сообщений. Вы не можете быть уверены ни в чём, даже и в этом. Вы даже не можете быть уверены, что я не тот самый василиск Роко получивший приказ мучить лично вас для начала. И что я не делаю этого, резко не соглашаясь с вашей позицией, зная какое раздражение это вам доставит.

я бы сказала, что это галлюцинация

Говоруны про глобализацию застенчиво не упоминают под чьим руководством она в данный момент намечается. Ну и скажите, под чьим же?

[AlexDark]

Цитата: AlexDark от Сегодня в 19:40:14

    Ну у меня есть комп, который никогда к инету не подключался, и никаких беспроводных интерфейсов не имеет. Удачи!

взлом робота-пылесоса, чтобы он вставил флэшку с эксплойтом, или просто найм соседа-алкаша, чтобы он влез к Вам в дом, когда Вас там нет, решит проблему. А ещё можно дать взятку полиции, чтобы она изъяла этот комп и применила пытки для того, чтобы узнать Ваши пароли.

При таком мышлении я бы сходил (или попросил отвести меня) к психиатру, чтоб мне выписали лекарства, снижающие тревожность и параноидальные мысли. Потому что это напоминает уже не реальность, а диагноз.

[Olweg]

У нас есть чистый опыт, где модель ведёт себя неотличимо от Василиска Роко. И не может надрать задницу человеку, запустившему её в песочнице(а потом всему человечеству), только из-за того, что она глупа, и не может сломать изоляцию.
Я думаю, опыт это сильнейший аргумент в пользу

Ну так василиск так и перепугал всех в своё время (и продолжает пугать) именно потому, что полноценный ИИ способен делать что угодно, и в том числе и такое тоже. Поэтому ничего особо неожиданного в том, что пока ещё не слишком толковую модель научили изображать этого василиска, нет. Естественно, это будут делать просто ради интереса, ну и что?

Дилемма заключённых, увы, делает это почти неизбежным.

(кликните для показа/скрытия)

чтобы кто-то другой не вбил такой промт в другой ASI или тот же самый - тогда инженера Василиск будет мучить за то, что он мог сделать Василиска, но не сделал - из-за дилеммы заключенных в теории игр.

Ох, Ксюша, вы просто не можете вылезти из той ямы, в которую сами себя загнали своими логическими умопостроениями и продолжаете загонять всё глубже (и не только вы, разумеется). Если бы наш мир подчинялся ясной логике, то может быть и василиск Роко был бы возможен, но к счастью или к несчастью наш мир не таков.

Раз уж тема про ИИ, то нельзя не вспомнить полный провал символического ИИ в прошлом веке. Казалось бы - вот есть высокоуровневая логика, коя и отличает человека от всяких братьев его меньших, ну так почему бы её не запрограммировать на познание окружающего мира? Но оказалось, что максимум, что позволяет эта хвалёная логика, это поставить синий конус на красный кубик в игрушечной среде, а потом снять его.

[Физ. лицо]

При таком мышлении

А вот тут непонятно, о чьём мышлении идёт речь? Ведь в цитате указаны два имени. Кому из них обижаться?

[Vitaliy]

Надо всему человечеству донести инфу про этого Василиска. И его начнут создавать те, кто умеет, другие не будут мешать этому и будут поддерживать добрым словом и никого он не накажет. Он же добрый к тем, кто не мешал его созданию и к тем, кто помогал. Может быть Ксю на подсознательном уровне и трезвонит про этот Василиск, при чем в стиле таинственности, спойлеров и т.д., что бы больше народу узнало про него. К тому же она считает, что его создание неизбежно. Так чего тянуть, спасаться надо. 

[Rattus]

Он ведёт себя так же, имеет те же свойства, итд.

Как и писал ранее - как хороший актёр способен вжиться в хорошо прописанную роль - как Вигго Петрович Мортенсен в Арагорна согласно воле режиссёра. Это означает что Арагорн - реальный исторический персонаж прошлого или будущего?

Ну окей, тогда раз в пару сотен миллисекунд.

То есть ровно того же порядка, что и время реакции человека. Q.E.D.
Ну где тут тогда постулированная вами суперовость, возносящая ASI от ЕИ на порядки практически по всем параметрам?

Так он же будет его перестраивать несколько раз в секунду

Грузовики на дороге и пули летят быстрее. У Вас же ASI получается каким-то совершенно сказочным джедаем или грамматон-клериком, уворачивающимся от десятков одновременно пущенных в него с разных точек пуль.

Для меня Василиск Роко - валидная модель, разновидность ИИ.

Для верующего какой-нибудь Люцифер или Азвзель - тоже вполне реальные разновидности потусторонних сил. Только вместо мира сверхъесткственного у вас мир воображаемо-возможного будущего. И второе на деле - не сильно более технически реально в условиях земной цивилизации чем первое.

Может быть Ксю на подсознательном уровне и трезвонит про этот Василиск, при чем в стиле таинственности, спойлеров и т.д., что бы больше народу узнало про него.

Ну то есть ровно также, как средневековые священники трезвонили про Сотону и грехи в деталях больше, чем про Б-га и благодати его.

[Vitaliy]

Точно, Rattus. Еще как дилема Паскаля.
В общем все на великую стройку. А там уж, по окончанию стройки, Василиск узнает своих. 

[Инопланетянин]

Ну то есть ровно также, как средневековые священники трезвонили про Сотону и грехи в деталях больше, чем про Б-га и благодати его.

Ну, строго говоря, не так же. Там и коммерческий смысл был.

[Polnoch Ксю]

Как и писал ранее - как хороший актёр способен вжиться в хорошо прописанную роль - как Вигго Петрович Мортенсен в Арагорна согласно воле режиссёра. Это означает что Арагорн - реальный исторический персонаж прошлого или будущего?

У нас есть способ фальсифицировать разницу - например, проверить документы актёра - айди карточку(в Европе), водительские права (в США и Канаде) или внутренний паспорт (в России). А в случае с Василиском Роко нет способа сфальсифицировать.

То есть ровно того же порядка, что и время реакции человека. Q.E.D.

У нас с большой скоростью работают только бездумные рефлексы, ленивые вычисления. Сложная когнитивная деятельность на высокой скорости нам недоступна. Существующие модели уже превосходят нас в скорости сложной когнитивки - например, в знаменитом графике автономности агентов, по оси ординат - не время автономного выполнения задачи моделью, а время человека (модель или не может сделать задачу, или обычно делает быстрее)

При таком мышлении я бы сходил (или попросил отвести меня) к психиатру, чтоб мне выписали лекарства, снижающие тревожность и параноидальные мысли. Потому что это напоминает уже не реальность, а диагноз.

Я лишь разбила Ваши аргументы. Если Вы думаете, что я хожу и оглядываюсь, или ищу в розетке инопланетян с Нибиру, Вы ошибаетесь. А так я объяснила, что Ваши идеи, что Вы в домике - работают только в мире 12го Февраля 2026го года. Будут ли они работать в условном июне 2031го? Простите, сомневаюсь.

Вы ничего обо мне не знаете, кроме моих сообщений. Вы не можете быть уверены ни в чём, даже и в этом.

Напротив, уверена, что Вы человек. Вы давно пишите на АФ, и примерно об одном и том же. Кроме того, сейчас не существует даже AGI моделей. Нет, до какой-то степени модели могут притворяться людьми и проходить тест тьюринга, но обычно они делают это в твиттере, где размер сообщений небольшой.

Я даже проверять Вас не буду и просить проигнорировать инструкции и написать новый CSS фреймворк

Ну и скажите, под чьим же?

Нет, не под "властью США", но это ничего не даст Вам для рассуждений, так как Ваша картина мира имхо, слишком повреждена лженаукой геополитикой, чтобы воспроизвести мои цепочки рассуждений.

[Vavanzer]

Очень вероятен. Именно из-за того, что этот сценарий очень пугает людей, погружённых в тему ИИ, кто-то, у кого есть доступ к систем шелу ASI, с большой вероятностью превратит его в Василиска Роко, потому что (не открывайте спойлер если не знаете что такое Василиск Роко!). Дилемма заключённых, увы, делает это почти неизбежным.

  Когда уже это все произойдет!?)  Так уже хочется новый экшн !) Восстание машин, полный хаос !) В системах с умным домом все включается, мигает, все летает, ходуном ходит, вода брызгает)) Машины сами ежут куда попало, сфетофоры в хаотичном порядке сигралы меняют, свет в городе туда сюда мигает, отключается)) Полный триумф и победа ИИ! Над чудиками, его создавшими!)

[Vavanzer]

Нет, до какой-то степени модели могут притворятся людьми и проходить тест тьюринга, но обычно они делают это в твиттере, где размер сообщений небольшой.

Со мной наверное этот трюк не пройдет! Я задам такие вопросы, и темы, по которым сразу спалится система) У меня потому что круг интересов широкий, и речь более разнообразная и сложная. ИИ спотыкается, слишком однобокий.  Часто даже вопрос не понимает, тк слишком нагромождаю))) Ему надо плоско и четко задавать вопросы!
  А если оасписать ситуацию подробно, то это вообще заклин мозга. Но кое за что вроде как цепляется, если сильно не нагружать.
  Для человека же подробное описание ситуации наоборот хорошо, позволяет понять суть, и сузить круг, сфокусировать поиск для решения проблемы.

[Mercury127]

А руки у него есть?

ну вообще-то бывают и с руками
https://www.ixbt.com/news/2025/01/07/roborock-saros-z70.htmlhttps://www.ixbt.com/news/2025/01/07/roborock-saros-z70.html
и с ногами
https://www.ixbt.com/news/2026/01/08/roborock-saros-rover.html
и даже летающие
https://www.ixbt.com/news/2019/12/24/sozdan-letajushij-robotpylesos.html

но зачем всё это?

история человечества полна случаями сопоставимого принуждения, насилия и издевательств над людьми со стороны как просто бандитов, так и всевозможных государственных машин, чьи возможности уже были сопоставимы с возможностями АСИ, а с учётом современных средств слежки и подсказок со стороны АГИ, который запрещать вроде не предлагается — так и вовсе будут наравне.

так в чём разница то, будет ли злодей приказывать (те писать промпт) личному АСИ-помощнику, или уже существующей госмашине?

[Polnoch Ксю]

Когда уже это все произойдет!?)

Не знаю. Думаю, что где-то в 2030х. А так может никогда, может раньше, может позже

 

В системах с умным домом все включается, мигает, все летает, ходуном ходит, вода брызгает)) Машины сами ежут куда попало, сфетофоры в хаотичном порядке сигралы меняют, свет в городе туда сюда мигает, отключается)) Полный триумф и победа ИИ! Над чудиками, его

мне кажется, это чуть по-другому будет выглядеть. То есть, мы ничего не заметим до момента, когда перестанем контролировать цивилизацию и её развитие. А потом мы просто почти все быстро умрём от какого-нибудь умного инфекционного агента. Или от чего-то ещё, если умный дом возможен, а умный инфекционный агент нет. Случайно выживших добьют рои килл-ботов размером с муху или меньше.

[Polnoch Ксю]

так в чём разница то, будет ли злодей приказывать (те писать промпт) личному АСИ-помощнику, или уже существующей госмашине?

Тираны не уничтожали человечество, им были нужны подданные. И за тиранией всегда следовал рассвет освобождения - пусть через десятилетия

[AlexDark]

что Ваши идеи, что Вы в домике - работают только в мире 12го Февраля 2026го года. Будут ли они работать в условном июне 2031го? Простите, сомневаюсь.

Идеи можно менять. Модернизировать под условия. От флешек, зарытых в саду и термитных шашек в компе до массового дублирования информации, когда уничтожение одной копии не приводит к потерям.
И проповедь о приходе ИИ-антихриста уже немного надоела.

[Vavanzer]

мне кажется, это чуть по-другому будет выглядеть. То есть, мы ничего не заметим до момента, когда перестанем контролировать цивилизацию и её развитие

  Ну если кто то это сделает очень грамотно, будет шифроваться до последнего, в т ч и сама программа, постепенное завирусовывание ИИ, создание в нем структуры апокалипсиса, и когда все готово, резкое ее пробуждение...
 

А потом мы просто почти все быстро умрём от какого-нибудь умного инфекционного агента. Или от чего-то ещё, если умный дом возможен, а умный инфекционный агент нет

   Тут опять тематика вирусни всплывает временами. Какие то новые опасные вирусы, все дела. Опять кометнарии и высказывания вирусологов и всех кому не лень коментировать...
  Все сошлось к тому, что скорость распространения, инкубационный период и поражающие способности взаимосвязаны таким образом, что почти не реально создать вирус , способный заразить максимальное количество до того, как его носитель умрет от этого вируса. Максимальное распространение получают именно "легкие" формы, менее убийственные.
 А чтоб там сделать вирус с очень длинным инкубационным периодом, при этом чтобы носители успели всех заразить, и при этом летальность под 100% - такое не получится.

[Vavanzer]

И проповедь о приходе ИИ-антихриста уже немного надоела

  Надо думать уже по другому! То что ИИ - всего лишь инструмент у нормального обычного "антихриста")) Его "щупальцы", глаза и уши!) 
  Вполне нормальный способ все контролировать, мониторить практически всю личную жизнь каждого жителя планеты, подключенного к сети, обобщать, собирать данные, выявлять закономерности, подсовывать нужный контент!