Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[BlackMokona]

Скорее -"хотел".
Два года назад - у него не было xAI. И есть неплохой шанс что он просил паузы - чтобы иметь время догнать лидеров.
Сейчас его Грок3 - на уровне лучших систем. Т.е он уже догнал лидеров - и пауза ему теперь вроде как ни к чему.
 
И если судить по темпам добавления мощностей для тренировки нейросетей - то у него хорошие шансы что Грок 4-5 - станет лучше всех.

Он создал в своё время ОпенАи, чтобы повернуть прогресс ИИ в нужную сторону. Но там проиграл. Его выкинул Альтман. Про угрозу ИИ он давно говорит

[Metatron]

Всем уже понятно (кроме Европейских лидеров видимо) что поезд уже ушел.
Никакая пауза в создании ИИ теперь уже невозможна.
запретят американцам делать - сделают китайцы. Запретят китайцам - Иран сделает.

Маск я думаю это уже давно понял и смирился.
А поскольку он человек увлекающийся - то я думаю ему теперь самому не терпится скорее создать ASI.

[Olweg]

Политика к делу не относится.

Сценарии сингулярности могут быть очень чувствительны к начальным условиям. Хотя, с другой стороны, могут и не быть. Чёрная дыра - она чёрная дыра и есть, происхождение её - дело десятое.

Он всегда был за строгое гос.регулирование ИИ и против гос.регулирования большей части остального бизнеса. Потому как считает ИИ смертельной угрозой для человечества.

Но в последнее время его что-то не слышно.

[BlackMokona]

Но в последнее время его что-то не слышно.

Просто вопли обиженнок заглушают его обычные речи.

01 ноября 2024
«Самая значительная угроза в краткосрочной перспективе». Илон Маск заявил, что ИИ научится делать всё, что могут делать все люди, уже к 2028
С каждым годом ИИ улучшается на порядок
Илон Маск в ходе свежего интервью рассказал о темпах развития искусственного интеллекта, а также о потенциальной угрозе, которую представляет ИИ для человечества.

https://www.ixbt.com/news/2024/11/01/samaja-znachitelnaja-ugroza-v-kratkosrochnoj-perspektive-ilon-mask-zajavil-chto-ii-nauchitsja-delat-vsjo-chto-mogut.html

[Ый]

1) управляемый Термояд => неограниченная энергия для всех нужд цивилизаций.
2) ИИ+роботы    => отпадает необходимость в физическом труде, и вероятно в любом труде вообще

Достигается всеобщее благоденствие

Смешные люди. Ничего-то их не учит, никакая история. Заглянем в недалёкое прошлое, Гражданская война в России, разруха, голод. Мечтали - вот победим, восстановим промышленность, такая жизнь начнётся, что только живи и радуйся. Все будут здоровы и веселы, никаких болезней не будет, если только кого-нибудь с пережора в больницу положат. Победили, восстановили, развили прогресс до неслыханных высот, и что? Я даже перечислять не буду, все и так знают. И вот хочу спросить: вы уверены, что получив неограниченную энергию, люди придут к всеобщему счастью? Я не то, что сомневаюсь, я уверен, противоборство в обществе только увеличится, появятся новые формы преступлений и извращений, будет гораздо хуже с преступностью, чем сейчас. Даже не сомневайтесь и не стройте иллюзий.

[библиограф]

 Ты, оказывается, знаешь историю?
Не смеши!
Сталин сказал в 1931 году
   Мы отстали от передовых стран на 50–100 лет. Мы должны пробежать это расстояние в десять лет. Либо мы сделаем это, либо нас сомнут" 
Так и пробежали, не подбирая потерянных туфель - и то, еле успели и едва не проиграли.

[Metatron]

Не надо строить иллюзий - надо смотреть на примеры передовых стран.
Всякие Швеции и Норвегии.

Чем выше благосостояние людей страны - тем меньше преступность и больше стремление к альтруизму - стремление помогать другим. До недавнего времени у них преступность снижалась до почти полного нуля.
То же самое происходило в России с 2000 до 2012-го.

Вот только в результатет этого альтруизма они же сами эту тенденцию слегка поломали - импортировав к себе кучу людей с низким достатком. Да еще вдобавок и с другой культурой.
Но это временное отклонение - пока будет происходить вживание этих новых людей в культуру страны.  Если конечно хватит ума приостановить поток новых иммигрантов.

[Olweg]

Но это временное отклонение - пока будет происходить вживание этих новых людей в культуру страны.

Если страна сама мотивирует их вживаться. Что не всегда заметно.

[Rattus]

Комментарий модератора раздела

Напоминаю участникам - это тема не про И.Э.Маска и его планы полёта на Марс. PK96 получает 40% предупреждений за инициацию оффтопа (п.3.1.д Правил Астрофорума), Klapaucius и Ph_user - по 20% за продолжение. Оффтоп удалён.

[Polnoch Ксю]

Он всегда был за строгое гос.регулирование ИИ и против гос.регулирования большей части остального бизнеса. Потому как считает ИИ смертельной угрозой для человечества.
Маск считает что гос.регулирование вредит и сильно замедляет бизнес. И хочет сильно замедлить ИИ

Госрегулирование бесполезно. Нужно международное регулирование и укрепление международных институций вместо их разрушения и конфронтации. И уже потом госрегулирование (глобальное). То есть, глобализация, гуманитарный трек для человечества, вместо националистического, конфронтационного, ксенофобского.
Впрочем, я думаю, уже поздно и вряд ли что-то можно сделать. Вред уже причинён доверию, и ничего изменить нельзя. Даже если сейчас уменьшить хаос и на 180 градусов развернуться. Чтобы исправить то, что было сделано, и попробовать ещё помирить Штаты с Китаем, и договориться ещё с Европой и другими странами, и укрепить ООН, нужно лет 10-15. Вряд ли у человечества есть это время. А ведь ещё нужно время на исследования по безопасности/alignment'у

[Rattus]

Очень жаль, что экзамен на разумность мы как вид не сдали.

Это был бы самый важный проект в нашей истории. Мы полностью безумны. Я никогда не думала что настолько.

Вот чтобы не удивляться тому, что мир не соотвествует ВАшим радужным фантазиям о нём, следует начинать с использования адекватных определений рассматриваемых понятий. Например определения того же разума, которое специально для этого дано в Тезаурусе Раздела в готовом виде уже несколько лет как.
Так вот - определение разума как такового ничего того, что Вы о нём нафантазировали, не включало "от слова совсем" изначально.
Проблема в том, что Вы напрочь забываете о проблеме observer bias в макроэволюционно-историческом масштабе (которая также есть в Тезаурусе Раздела), целиком оказываясь во власти этого когнитивного искажения, некритично-спекулятивно экстраполируя серию наблюдений событий, произошедших задолго ДО и ставших причиной того, что вы сами явились наблюдателем с теми знаниями и представлениями, что в вас есть, на то, что предполагается ПОСЛЕ. Не имея при этом никаких сторонних объективных подтверждений высоковероятности, стабильности, долговременности и т.п. свойств предполагаемых "трендов".

Если только как в анекдотическом определении оптимиста и пессимиста. Где пессимист мрачно утверждает, что положение - хуже не бывает, а оптимист радостно - Бывает! Бывает!

Дык! И ранее приведённый кадр с доктором Стрейнджлавом как раз и есть наилучшее кинематографическое воплощение такого оптимиста.
Ну а что касается пессимистов и паникёров, то, как говорил товарищ Архимонд: "Tremble mortals and despair, DOOM has come to this world!"
Муа-ха-ха-ха!

[Mercury127]

Будет - на уровне внутри "технозоны". Между - уже вряд ли получится. А это значит - сохранение конкурентной среды, вынуждающей оптимизировать поведение.

а между собой у них никаких контактов третьего рода не будет, что-ли?
тк законы физики, техники, работы электроники, развития общества и, скорее всего, разума во Вселенной одинаковые — то и разные АСИ очень быстро придут к практически одинаковому состоянию (пониманию мира и себя). так почему же вместо наследования человеческого конкурентного поведения не попытаться слиться в объятиях (да-да, тот самый горячо желаемый полуночный тотальный глобализм, но в нечеловеческом исполнении)?

(принуждение - исключительно экономическое), тогда и новый строй с ASI называть таковым не будет оснований.

Какие-такие "сословия"? Любой гражданин может продаться в метрокопы, равно как и вылететь оттуда за невыполнение плана по экзекуциям.

вас понял.
но с марксистской точки зрения важнее не кто кого может продать, а кому принадлежат мельницы, заводы, пароходы и прочие средства производства, будет ли свобода предпринимательства, или же тотальный госплан...

Уровень контроля для капитана или майора будет иметь социальный статус "генерала" - ибо уровень привилегий в глазах подшефного народонаселения - вещь исключительно относительная

Не следует тотализировать стремление к власти среди людей.

тем не менее Цезари никуда не денутся, если только с детства не блокировать. но даже так есть риск внезапного помешательства ранее вполне взрослого и благородного джентльмена генерала.

известно, что революционная ситуация складывается только при серьёзной управленческой дисфункции власти существующей. Ну или при катастрофе

я всё пытаюсь понять, чем КАЧЕСТВЕННО будет отличаться АСИ-личность от обычного государственого голема... что именно помешает ему деградировать?

[Rattus]

то и разные АСИ очень быстро придут к практически одинаковому состоянию (пониманию мира и себя). так почему же вместо наследования человеческого конкурентного поведения не попытаться слиться в объятиях (да-да, тот самый горячо желаемый полуночный тотальный глобализм, но в нечеловеческом исполнении)?

Потому же, почему и живым организмам.

с марксистской точки зрения

Рассматриваемому вопросу совершенно нерелевантна.

тем не менее Цезари никуда не денутся, если только с детства не блокировать. но даже так есть риск внезапного помешательства ранее вполне взрослого и благородного джентльмена генерала.

И что? Селекционеры в питомниках продолжают работы по поддержанию сортов и невозможность вывести "идеальную" немутирующую породу им существовать не мешает.

что именно помешает ему деградировать?

Соседний с ним конкурирующий голем. Их может быть и более двух, кстати.

[Mercury127]

Потому же, почему и живым организмам.

Соседний с ним конкурирующий голем. Их может быть и более двух, кстати.

те качественно АСИ = голем с личностью?

[Rattus]

те качественно АСИ = голем с личностью?

Высокоадаптивный голем вместо прежнего жёстко заскриптованного.

[Mercury127]

вас понял, спасибо

[taurus23]

Он всегда был за строгое гос.регулирование ИИ и против гос.регулирования большей части остального бизнеса. Потому как считает ИИ смертельной угрозой для человечества.
Маск считает что гос.регулирование вредит и сильно замедляет бизнес. И хочет сильно замедлить ИИ

Госрегулирование бесполезно. Нужно международное регулирование и укрепление международных институций вместо их разрушения и конфронтации. И уже потом госрегулирование (глобальное). То есть, глобализация, гуманитарный трек для человечества, вместо националистического, конфронтационного, ксенофобского.
Впрочем, я думаю, уже поздно и вряд ли что-то можно сделать. Вред уже причинён доверию, и ничего изменить нельзя. Даже если сейчас уменьшить хаос и на 180 градусов развернуться. Чтобы исправить то, что было сделано, и попробовать ещё помирить Штаты с Китаем, и договориться ещё с Европой и другими странами, и укрепить ООН, нужно лет 10-15. Вряд ли у человечества есть это время. А ведь ещё нужно время на исследования по безопасности/alignment'у

наивные мечтания. какой еще гуманитарный трек, в банке с тарантулами. 

[RAMON]

В этой теме пытаясь предугадать образ будущего мира много обсуждают противоречия человека и ИИ. При этом забывают один факт (ну почти факт) - сосуществовать будет не просто ИИ и человеческое общество, а множество ИИ (миллионы, может миллиарды и более) и люди. Совершенно гарантировано, что это одновременное проживание такого количества ИИ приведет к острой конкуренции одних ИИ с другими (хотя бы за те же самые банальные ресурсы, которых никогда на все не хватает). При изобретении более менее полноценного ИИ он моментально (считанные десятилетия) будет растиражирован на нужды разных государств, корпорации, сообществ (криминальных в том числе). Быстро возникнет некий симбионат между человеческими группами и группами ИИ. Кто подберет наиболее эффективную форму такого сосуществования, за теми будет будущее. Утверждение типа такого, а зачем ИИ вообще нужны кожаные мешки, которых ещё и кормить надо, думаю не состоятельные. Ну хотя бы потому человек высокоавтономная система, не зависящая от инфраструктуры. Он может, например, по заказу ИИ "партнера" протопать, десятки километров, после чего с огнеметом в руках зайти в зал заставленный процессорными стоиками конкурирующего ИИ и выжечь его нахер, тем самым решив вопрос чьи ресурсы в пользу "своей" симбиотической (ИИ+люди) группы.

[Mercury127]

зайти в зал заставленный процессорными стоиками

вы таки не поверите, но уже давно даже в сравнительно небольших конторах серверная зачастую находится под вооруженной охраной. если туда прийти с огнеметом — вас могут встретить автоматы.

[Kaiserfrogling]

вы таки не поверите, но уже давно даже в сравнительно небольших конторах серверная зачастую находится под вооруженной охраной. если туда прийти с огнеметом — вас могут встретить автоматы.

Выиграть перестрелку у охраны сложно но можно.
Гораздо хуже если вас там встретят роботы, хотя бы в самой простой сборке - ружье на колесиках. Бронированный вариант такой сборки называется у европейских военных микро-танком или gun box.

https://en.wikipedia.org/wiki/Foster-Miller_TALON