Пределы автоматизации и внедрения роботов

[Vitaliy]

КАК я пойму, что «эта ваша сингулярность» таки наконец случилась?
ну пусть ещё сюда зашёл, на форум. читаю: «ааа, свершилось! ОН пришёл!». выглянул в окно — ничего.
что я должен увидеть, заметить и понять? чего испугаться?

Технологии начнут устаревать быстрее, чем вы успеваете о них узнать.
Т.е буквально пока вы читаете свежую статью про новую технологию, она уже успевает устареть.

Не реализованные технологии, т.е. условно на бумаге.

[BlackMokona]

Не реализованные технологии, т.е. условно на бумаге.

Ну многие технологии не требуют сложной железной реализации. Представим что вот ГПТ-3 вышел в 12 часов, ГПТ-4 в 13 часов, ГПТ-5 в 14 часов, ГПТ-6 в 14.30

[Mercury127]

А новое, более мощное железо для них тоже будет выходить каждые полчаса? Или под “технологиями” подразумеваются всё более изощрённые способы показа рекламы в сети? Эти да, эти можно обновлять каждые полчаса (и то, сетевая инфраструктура не сможет так быстро по миру сработать).

[BlackMokona]

А новое, более мощное железо для них тоже будет выходить каждые полчаса? Или под “технологиями” подразумеваются всё более изощрённые способы показа рекламы в сети? Эти да, эти можно обновлять каждые полчаса (и то, сетевая инфраструктура не сможет так быстро по миру сработать).

Так ГПТ-5 мини, жрёт намного меньше ресурсов железа чем ГПТ-3. При намного более высоком интеллекте.

[Konstantin Schtsch]

короткая кошачья морда наиболее похожа на детское человеческое лиц

Более того, если верить Дробышевскому это вообще инстинкт, который определяет кошку как хищника, который эволюционно кошмарил наш вид - леопарда, пуму.
И теперь, когда хищник есть, а вреда от него нет- ловит бессознательный же ревард за то, что хорошо/высоко спрятался.
Примерно такой: "Не достанешь, не достанешь! Кто молодец? Я молодец!". Можно ещё подразнить - тогда ваще кайф. И, повторюсь, всё это на бессознательном уровне.

[Mercury127]

ГПТ-5 мини, жрёт намного меньше ресурсов железа чем ГПТ-3. При намного более высоком интеллекте.

так это уже ПОСЛЕ обучения, те запечённая модель.
а речь то о создании новой. или "самосовершествование" = "дистилляция"?

[BlackMokona]

так это уже ПОСЛЕ обучения, те запечённая модель.
а речь то о создании новой. или "самосовершествование" = "дистилляция"?

Ну так улучшение модели так же может быть очень дешёвым по ресурсам. Например очищая обучающую выборку можно добиться крайне многого. При современном размере выборки во весь инет очистить людьми невозможно в разумные сроки, а ИИ пока глуповаты. Но начавший сингулярность ии может очищать от мусора выборку на каждой итерации, повторяя обучение как пример

[Mercury127]

очищать от мусора выборку на каждой итерации

может, я тупой, но это звучит как анекдот про компрессор, сжимающий любые данные в один байт: "а декомпрессор ещё не готов!"

[BlackMokona]

очищать от мусора выборку на каждой итерации

может, я тупой, но это звучит как анекдот про компрессор, сжимающий любые данные в один байт: "а декомпрессор ещё не готов!"

Обучающая выборка буквально включает в себя весь Интернет.
Включая троллинг, враньё, мошенничество, дилетанство, конспирологию, устаревшие данные, и тд и тд и тд.
И вот на всём этом ИИ должен познать мир, узнать все его правила, закономерности и прочие вещи.

Вот представим есть данные.
1+1=2
1+9=2
3+4=2
.......
Что из этого поймёт ИИ? Ну когда есть знак плюс, считаем число знаков и выводим их число например.
В то время как 1+9=2 было троллингом, а 3+4=2 коспирологической теорией, и тд
Отделив мусорный материал, ИИ может наконец понять математику, а не пытаться придумать как впихнуть в один набор правил весь этот мусор.
Тем самым станет умнее и сможет ещё лучше вычистить мусор из обучающей выборки и тд

[Mercury127]

да понял я идею, понял. но... нмв, "конец немного предсказуем".

но это сугубо моё личное мнение.

[Polnoch Ксю]

Более того, если верить Дробышевскому это вообще инстинкт, который определяет кошку как хищника, который эволюционно кошмарил наш вид - леопарда, пуму.
И теперь, когда хищник есть, а вреда от него нет- ловит бессознательный же ревард за то, что хорошо/высоко спрятался.
Примерно такой: "Не достанешь, не достанешь! Кто молодец? Я молодец!". И, повторюсь, всё это на бессознательном уровне.

во1х, это просто баг прошивки: короткая кошачья морда наиболее похожа на детское человеческое лицо. Особенно у котят. Причём далеко не все люди любят детей...
Во2х, тут ещё и микроб замёшан:
https://nplus1.ru/blog/2018/03/26/toxoplasma

Конечно у такого поведения есть причины. Не важно, перечисленные вами или нет - но суть в том, что это воплощено в железе(например, версия токсоплазмы, которая меняет нейробиологию) и в "софте" человека. Соотвественно, фундаментально это доказывает, что можно повторить и в других случаях

Ну а в3х, там, где людям обычно некогда скучать (деревни), отношение к кошкам гораздо проще.

Ну значит, делает ситуацию для ресёча ещё проще: можно засунуть в МРТ(и сделать любые другие тесты) жителей деревни и жителей города, и сравнить

Важно тут то, что любители кошаков совсем не хотят избавляться от питомцев и своей тяги к ним. Соотвественно, ASI с элайментом, как можно надеяться, тоже не захочет лезть в свой рантайм и лечить себя от нерациональной тяги улучшать нашу жизнь. Более того, она будет придавать смысл его существованию - ну как LLM существуют благодаря входным токенам (а без них мертвы во всех смыслах...), или как человеку придают смысл эмоции - для нас это стартовые импульсы

[Polnoch Ксю]

Это ж очевидно не так. Если считать применительно к конкретному человеку. Если же считать применительно к большинству - то это само по себе зло.

Почему Вы считаете что это не так? Теория игр - фундаментальная часть нашего мира. Набор стратегий поведения ограничен. Так же сильно ограничена вариативность нейробиологии, нейропсихологии людей. Более того, сама эта нейропсихология ложится в стандартные варианты теории игр. Например, психопаты - очевидные ястребы (не голуби и не голуби, дающие сдачу).

Моральный релятивизм - это легаси тех времён, когда мы знали куда меньше, чем сейчас о математике стратегий и нейропсихологии

[Инопланетянин]

Вообще на самом деле добро и зло фундаментально существуют в нашем мире. Добро это группа кооперативных стратегий теории игр на нейробиологическом ландшафте хомо сапиенса.

Мда…

Ну значит, делает ситуацию для ресёча

По русски, по русски изъясняйтесь. Не надо тут этой смеси французского с нижегородским.

[AlexDark]

Почему Вы считаете что это не так?

Я уточнил - "применительно к конкретному человеку". Потому что конкретный человек может считать добром и злом совершенно иррациональные вещи. Стратегии поведения применимы к неким группам, не к отдельным людям. Поэтому если выводить "добро" и "зло" исходя из выигрышных стратегий поведения для группы, то это коллективизм и навязывание, которые сами по себе зло, при этом для группы, находящейся в разных условиях, стратегии могут отличаться. Стратегия поведения так же может быть оптимальна, но для психики человека невыносима, и он в итоге в окно выйдет. Или еще что-то.

Например, психопаты

Тут надо разделять, из какой психологической школы "психопат" - если из американской, где психопат - это человек, не принимающий общественные нормы но при этом обязательно их нарушающий и склонный к криминалу - это одно, если из европейской - где психопат - человек, не ориентирующийся на окружающих и внешние нормы, но при этом совершенно не обязательно склонный к их нарушению, и вполне способный иметь  какие-либо личные моральные кодексы, которые могут быть даже жестче внешних - это уже совсем другое.

[Konstantin Schtsch]

"демократия это когда 51% решит что 49% населения будут рабами у 51%

Американская демократия:
цитата их отца-основателя Бенжамина Франклина:
"Демократия — это когда два волка и ягненок голосуют насчёт того, что будет на обед. Свобода — это когда хорошо вооружённый ягненок оспаривает результаты голосования"

Ну такоэ себе ценности...

Это к тому, что вопрос алаймента ИИ - не технический и не про программы. Не ИИ а  Человека надо менять, перевоспитывать. Причем глобально и начиная с самых вот таких демократичных.
И только когда появятся в инфополе реальные кейсы решения общечеловеческих проблем, тогда они, попав в систему весов, сформируют и у ИИ нужную систему ценностей.
А пока в общечеловеческом масштабе наш потолок 10 заповедей, и те постоянно нарушаются...
(кроме, может быть, 7-й. каждую пятницу- это святое))

[AlexDark]

Человека надо менять, перевоспитывать

Оставьте уже человека в покое. Попытки менять человеческую природу путем залезания в мозги ничем хорошим не заканчиваются. Менять можно условия и взаимодействия, так сказать , подключая естественный отбор стратегий, подходящих для данных условий и параллельно - снижающих уровень насилия и другие проблемы.

[Konstantin Schtsch]

Оставьте уже человека в покое. Попытки менять человеческую природу путем залезания в мозги ничем хорошим не заканчиваются. Менять можно условия и взаимодействия, так сказать , подключая естественный отбор стратегий, подходящих для данных условий и параллельно - снижающих уровень насилия и другие проблемы.

Ну почему сразу в мозги? Воспитание, образование, институты.
Менять условия-
а) стоит денег, и если к лучшему, то как правило гораздо больше чем есть в кармане.
б) меняя только условия без сознания - получаем кормушку для хитропродуманных шустриков, например проблему беженцев в европе

[Albireo7]

Не ИИ а  Человека надо менять, перевоспитывать. Причем глобально и начиная с самых вот таких демократичных.
И только когда появятся в инфополе реальные кейсы решения общечеловеческих проблем, тогда они, попав в систему весов, сформируют и у ИИ нужную систему ценностей.
А пока в общечеловеческом масштабе наш потолок 10 заповедей, и те постоянно нарушаются...
(кроме, может быть, 7-й. каждую пятницу- это святое))

На самом деле все обычно вспоминают 10 заповедей. Но мало кто знает что две самые главные заповеди, которые сказал Иисус - это о любви к Богу и любви к ближнему. Именно на них основано христианство. А 10 заповедей - это не идеология, а образно выражаясь, техника безопасности на пути христианина.

Так вот, идеологическое воспитание людей, создание нового мировоззрения в обществе должно базироваться именно на этих 2 заповеях Иисуса Христа. Потому что они ведут к подлинному счастью человека. Люди должны со временем понять, что это не красивые сказки, а реально осуществимые вещи. При правильном воспитании с детства и создании в обществе соответствующих условий. Которые опять же сделать вполне реально (при коммунистическом обществе). Просто акценты должны быть смещены с материального мира на внутренний мир человека, на состояние его души. При этом заставлять людей не надо будет. Когда они поймут, что они смогут обрести состояние подлинного счастья, они сами начнут выполнять условия на пути его достижения.

[AlexDark]

Ох уж этот "богатый внутренний мир" и всякие души и боги. Хотел бы я, чтобы все сторонники этого питались исключительно душами и богами, а мы уж как-нибудь материальную еду поедим, без этого "духовного".
Не говоря уже о том, что ссылаться в 21 веке на книжку, написанную невесть когда как на какой-то стоящий внимания источник...

[Olweg]

На самом деле все обычно вспоминают 10 заповедей. Но мало кто знает что две самые главные заповеди, которые сказал Иисус - это о любви к Богу и любви к ближнему. Именно на них основано христианство. А 10 заповедей - это не идеология, а образно выражаясь, техника безопасности на пути христианина.

А если ещё вспомнить, что в Новом Завете - основе христианства - никаких десяти заповедей нет… Но, впрочем, не буду влезать в дебри библеистики. Просто хочу напомнить, что в мире существуют и другие религии, основатели которых ни про десять заповедей, ни про нагорную проповедь ничего не слышали. И ничего, общества, исповедающие эти религии, тоже вполне неплохо существуют до сих пор. Так что, может быть, найти общие универсальные ценности будет не так уж сложно.