A A A A Автор Тема: Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?  (Прочитано 31688 раз)

0 Пользователей и 1 Гость просматривают эту тему.

Оффлайн BlackMokona

  • *****
  • Сообщений: 20 878
  • Благодарностей: 631
  • Мне нравится этот форум!
    • Сообщения от BlackMokona
Скорее -"хотел".
Два года назад - у него не было xAI. И есть неплохой шанс что он просил паузы - чтобы иметь время догнать лидеров.
Сейчас его Грок3 - на уровне лучших систем. Т.е он уже догнал лидеров - и пауза ему теперь вроде как ни к чему.
 
И если судить по темпам добавления мощностей для тренировки нейросетей - то у него хорошие шансы что Грок 4-5 - станет лучше всех.
Он создал в своё время ОпенАи, чтобы повернуть прогресс ИИ в нужную сторону. Но там проиграл. Его выкинул Альтман. Про угрозу ИИ он давно говорит

Оффлайн Metatron

  • ****
  • Сообщений: 266
  • Благодарностей: 12
  • Мне нравится этот форум!
    • Сообщения от Metatron
Всем уже понятно (кроме Европейских лидеров видимо) что поезд уже ушел.
Никакая пауза в создании ИИ теперь уже невозможна.
запретят американцам делать - сделают китайцы. Запретят китайцам - Иран сделает.

Маск я думаю это уже давно понял и смирился.
А поскольку он человек увлекающийся - то я думаю ему теперь самому не терпится скорее создать ASI.

Оффлайн Olweg

  • *****
  • Сообщений: 16 690
  • Благодарностей: 442
    • Сообщения от Olweg
Политика к делу не относится.
Сценарии сингулярности могут быть очень чувствительны к начальным условиям. Хотя, с другой стороны, могут и не быть. Чёрная дыра - она чёрная дыра и есть, происхождение её - дело десятое.

Он всегда был за строгое гос.регулирование ИИ и против гос.регулирования большей части остального бизнеса. Потому как считает ИИ смертельной угрозой для человечества.
Но в последнее время его что-то не слышно.
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн BlackMokona

  • *****
  • Сообщений: 20 878
  • Благодарностей: 631
  • Мне нравится этот форум!
    • Сообщения от BlackMokona
Но в последнее время его что-то не слышно.
Просто вопли обиженнок заглушают его обычные речи.
Цитата
01 ноября 2024
«Самая значительная угроза в краткосрочной перспективе». Илон Маск заявил, что ИИ научится делать всё, что могут делать все люди, уже к 2028
С каждым годом ИИ улучшается на порядок
Илон Маск в ходе свежего интервью рассказал о темпах развития искусственного интеллекта, а также о потенциальной угрозе, которую представляет ИИ для человечества.
https://www.ixbt.com/news/2024/11/01/samaja-znachitelnaja-ugroza-v-kratkosrochnoj-perspektive-ilon-mask-zajavil-chto-ii-nauchitsja-delat-vsjo-chto-mogut.html

Оффлайн Ый

  • *****
  • Сообщений: 6 089
  • Благодарностей: 187
  • Я не могу смотреть видео!
    • Сообщения от Ый
1) управляемый Термояд => неограниченная энергия для всех нужд цивилизаций.
2) ИИ+роботы    => отпадает необходимость в физическом труде, и вероятно в любом труде вообще

Достигается всеобщее благоденствие
Смешные люди. Ничего-то их не учит, никакая история. Заглянем в недалёкое прошлое, Гражданская война в России, разруха, голод. Мечтали - вот победим, восстановим промышленность, такая жизнь начнётся, что только живи и радуйся. Все будут здоровы и веселы, никаких болезней не будет, если только кого-нибудь с пережора в больницу положат. Победили, восстановили, развили прогресс до неслыханных высот, и что? Я даже перечислять не буду, все и так знают. И вот хочу спросить: вы уверены, что получив неограниченную энергию, люди придут к всеобщему счастью? Я не то, что сомневаюсь, я уверен, противоборство в обществе только увеличится, появятся новые формы преступлений и извращений, будет гораздо хуже с преступностью, чем сейчас. Даже не сомневайтесь и не стройте иллюзий.
Собака лает, караван идёт.

Оффлайн библиограф

  • *****
  • Сообщений: 11 060
  • Благодарностей: 894
    • Сообщения от библиограф
 Ты, оказывается, знаешь историю?
Не смеши!
Сталин сказал в 1931 году
   Мы отстали от передовых стран на 50–100 лет. Мы должны пробежать это расстояние в десять лет. Либо мы сделаем это, либо нас сомнут" 
Так и пробежали, не подбирая потерянных туфель - и то, еле успели и едва не проиграли.

Оффлайн Metatron

  • ****
  • Сообщений: 266
  • Благодарностей: 12
  • Мне нравится этот форум!
    • Сообщения от Metatron
Не надо строить иллюзий - надо смотреть на примеры передовых стран.
Всякие Швеции и Норвегии.

Чем выше благосостояние людей страны - тем меньше преступность и больше стремление к альтруизму - стремление помогать другим. До недавнего времени у них преступность снижалась до почти полного нуля.
То же самое происходило в России с 2000 до 2012-го.

Вот только в результатет этого альтруизма они же сами эту тенденцию слегка поломали - импортировав к себе кучу людей с низким достатком. Да еще вдобавок и с другой культурой.
Но это временное отклонение - пока будет происходить вживание этих новых людей в культуру страны.  Если конечно хватит ума приостановить поток новых иммигрантов.

Оффлайн Olweg

  • *****
  • Сообщений: 16 690
  • Благодарностей: 442
    • Сообщения от Olweg
Но это временное отклонение - пока будет происходить вживание этих новых людей в культуру страны.
Если страна сама мотивирует их вживаться. Что не всегда заметно.

Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн Rattus

  • Модератор
  • *****
  • Сообщений: 15 398
  • Благодарностей: 587
  • Души прекрасные порывы! Убеждённый Ωптимистъ
    • Сообщения от Rattus
Комментарий модератора раздела Напоминаю участникам - это тема не про И.Э.Маска и его планы полёта на Марс. PK96 получает 40% предупреждений за инициацию оффтопа (п.3.1.д Правил Астрофорума), Klapaucius и Ph_user - по 20% за продолжение. Оффтоп удалён.
Тому, кто жаждет всех запретных тайн Астрофорума в одном месте поможет число 1919.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн Polnoch КсюАвтор темы

  • *****
  • Сообщений: 9 990
  • Благодарностей: 410
    • Сообщения от Polnoch Ксю
Он всегда был за строгое гос.регулирование ИИ и против гос.регулирования большей части остального бизнеса. Потому как считает ИИ смертельной угрозой для человечества.
Маск считает что гос.регулирование вредит и сильно замедляет бизнес. И хочет сильно замедлить ИИ
Госрегулирование бесполезно. Нужно международное регулирование и укрепление международных институций вместо их разрушения и конфронтации. И уже потом госрегулирование (глобальное). То есть, глобализация, гуманитарный трек для человечества, вместо националистического, конфронтационного, ксенофобского.
Впрочем, я думаю, уже поздно и вряд ли что-то можно сделать. Вред уже причинён доверию, и ничего изменить нельзя. Даже если сейчас уменьшить хаос и на 180 градусов развернуться. Чтобы исправить то, что было сделано, и попробовать ещё помирить Штаты с Китаем, и договориться ещё с Европой и другими странами, и укрепить ООН, нужно лет 10-15. Вряд ли у человечества есть это время. А ведь ещё нужно время на исследования по безопасности/alignment'у
« Последнее редактирование: 24 Фев 2025 [07:59:56] от Polnoch Ксю »
Meade LightBridge12"
RC8¨и МАК5"Альтер М500 на AZ4, Celestron SLT, Ioptron ZEQ25
БГШ 2.3x40 и Steiner Marine 7x50
ES82°:4.7mm,30mm
ES100°:9mm,14mm,20mm
ES68°:40mm
Meade Plossl 56mm; Vixen NLV 6mm
2" Lumicon, 1,25" DeepSky: UHC and OIII
---
qhy5
Ioptron SkyTracker
Canon50d

Оффлайн Rattus

  • Модератор
  • *****
  • Сообщений: 15 398
  • Благодарностей: 587
  • Души прекрасные порывы! Убеждённый Ωптимистъ
    • Сообщения от Rattus
Очень жаль, что экзамен на разумность мы как вид не сдали.
Это был бы самый важный проект в нашей истории. Мы полностью безумны. Я никогда не думала что настолько.
Вот чтобы не удивляться тому, что мир не соотвествует ВАшим радужным фантазиям о нём, следует начинать с использования адекватных определений рассматриваемых понятий. Например определения того же разума, которое специально для этого дано в Тезаурусе Раздела в готовом виде уже несколько лет как.
Так вот - определение разума как такового ничего того, что Вы о нём нафантазировали, не включало "от слова совсем" изначально.
Проблема в том, что Вы напрочь забываете о проблеме observer bias в макроэволюционно-историческом масштабе (которая также есть в Тезаурусе Раздела), целиком оказываясь во власти этого когнитивного искажения, некритично-спекулятивно экстраполируя серию наблюдений событий, произошедших задолго ДО и ставших причиной того, что вы сами явились наблюдателем с теми знаниями и представлениями, что в вас есть, на то, что предполагается ПОСЛЕ. Не имея при этом никаких сторонних объективных подтверждений высоковероятности, стабильности, долговременности и т.п. свойств предполагаемых "трендов".

Если только как в анекдотическом определении оптимиста и пессимиста. Где пессимист мрачно утверждает, что положение - хуже не бывает, а оптимист радостно - Бывает! Бывает!
Дык! И ранее приведённый кадр с доктором Стрейнджлавом как раз и есть наилучшее кинематографическое воплощение такого оптимиста.
Ну а что касается пессимистов и паникёров, то, как говорил товарищ Архимонд: "Tremble mortals and despair, DOOM has come to this world!"
Муа-ха-ха-ха! >:D
Тому, кто жаждет всех запретных тайн Астрофорума в одном месте поможет число 1919.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн Mercury127

  • *****
  • Сообщений: 7 289
  • Благодарностей: 407
  • Мне нравятся местные идиоты. Весёлые. :D
    • Сообщения от Mercury127
Будет - на уровне внутри "технозоны". Между - уже вряд ли получится. А это значит - сохранение конкурентной среды, вынуждающей оптимизировать поведение.
а между собой у них никаких контактов третьего рода не будет, что-ли?
тк законы физики, техники, работы электроники, развития общества и, скорее всего, разума во Вселенной одинаковые — то и разные АСИ очень быстро придут к практически одинаковому состоянию (пониманию мира и себя). так почему же вместо наследования человеческого конкурентного поведения не попытаться слиться в объятиях (да-да, тот самый горячо желаемый полуночный тотальный глобализм, но в нечеловеческом исполнении)?
(принуждение - исключительно экономическое), тогда и новый строй с ASI называть таковым не будет оснований. ;D
Какие-такие "сословия"? Любой гражданин может продаться в метрокопы, равно как и вылететь оттуда за невыполнение плана по экзекуциям.
вас понял.
но с марксистской точки зрения важнее не кто кого может продать, а кому принадлежат мельницы, заводы, пароходы и прочие средства производства, будет ли свобода предпринимательства, или же тотальный госплан...
Уровень контроля для капитана или майора будет иметь социальный статус "генерала" - ибо уровень привилегий в глазах подшефного народонаселения - вещь исключительно относительная
Не следует тотализировать стремление к власти среди людей.
тем не менее Цезари никуда не денутся, если только с детства не блокировать. но даже так есть риск внезапного помешательства ранее вполне взрослого и благородного джентльмена генерала.
известно, что революционная ситуация складывается только при серьёзной управленческой дисфункции власти существующей. Ну или при катастрофе
я всё пытаюсь понять, чем КАЧЕСТВЕННО будет отличаться АСИ-личность от обычного государственого голема... что именно помешает ему деградировать?
ОАО Ордена Трудового Красного Знамени.
Бронежилет — лучше для мужчины нет!

Оффлайн Rattus

  • Модератор
  • *****
  • Сообщений: 15 398
  • Благодарностей: 587
  • Души прекрасные порывы! Убеждённый Ωптимистъ
    • Сообщения от Rattus
то и разные АСИ очень быстро придут к практически одинаковому состоянию (пониманию мира и себя). так почему же вместо наследования человеческого конкурентного поведения не попытаться слиться в объятиях (да-да, тот самый горячо желаемый полуночный тотальный глобализм, но в нечеловеческом исполнении)?
Потому же, почему и живым организмам.
с марксистской точки зрения
Рассматриваемому вопросу совершенно нерелевантна.
тем не менее Цезари никуда не денутся, если только с детства не блокировать. но даже так есть риск внезапного помешательства ранее вполне взрослого и благородного джентльмена генерала.
И что? Селекционеры в питомниках продолжают работы по поддержанию сортов и невозможность вывести "идеальную" немутирующую породу им существовать не мешает.
что именно помешает ему деградировать?
Соседний с ним конкурирующий голем. Их может быть и более двух, кстати.
Тому, кто жаждет всех запретных тайн Астрофорума в одном месте поможет число 1919.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн Mercury127

  • *****
  • Сообщений: 7 289
  • Благодарностей: 407
  • Мне нравятся местные идиоты. Весёлые. :D
    • Сообщения от Mercury127
Потому же, почему и живым организмам.
Соседний с ним конкурирующий голем. Их может быть и более двух, кстати.
те качественно АСИ = голем с личностью?
ОАО Ордена Трудового Красного Знамени.
Бронежилет — лучше для мужчины нет!

Оффлайн Rattus

  • Модератор
  • *****
  • Сообщений: 15 398
  • Благодарностей: 587
  • Души прекрасные порывы! Убеждённый Ωптимистъ
    • Сообщения от Rattus
те качественно АСИ = голем с личностью?
Высокоадаптивный голем вместо прежнего жёстко заскриптованного.
Тому, кто жаждет всех запретных тайн Астрофорума в одном месте поможет число 1919.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн Mercury127

  • *****
  • Сообщений: 7 289
  • Благодарностей: 407
  • Мне нравятся местные идиоты. Весёлые. :D
    • Сообщения от Mercury127
ОАО Ордена Трудового Красного Знамени.
Бронежилет — лучше для мужчины нет!

Оффлайн taurus23

  • *****
  • Сообщений: 10 710
  • Благодарностей: 379
  • Мне нравится этот форум!
    • Сообщения от taurus23
Он всегда был за строгое гос.регулирование ИИ и против гос.регулирования большей части остального бизнеса. Потому как считает ИИ смертельной угрозой для человечества.
Маск считает что гос.регулирование вредит и сильно замедляет бизнес. И хочет сильно замедлить ИИ
Госрегулирование бесполезно. Нужно международное регулирование и укрепление международных институций вместо их разрушения и конфронтации. И уже потом госрегулирование (глобальное). То есть, глобализация, гуманитарный трек для человечества, вместо националистического, конфронтационного, ксенофобского.
Впрочем, я думаю, уже поздно и вряд ли что-то можно сделать. Вред уже причинён доверию, и ничего изменить нельзя. Даже если сейчас уменьшить хаос и на 180 градусов развернуться. Чтобы исправить то, что было сделано, и попробовать ещё помирить Штаты с Китаем, и договориться ещё с Европой и другими странами, и укрепить ООН, нужно лет 10-15. Вряд ли у человечества есть это время. А ведь ещё нужно время на исследования по безопасности/alignment'у
наивные мечтания. какой еще гуманитарный трек, в банке с тарантулами.  ;D :facepalm:
МТО-11СА,МСТ-180,EQ-5,Мицар ТАЛ-1,ЗРТ-457,БПЦ 20х60,bino 7x35\11 гр,БПЦ4 8х30,БГШ,SW 804.SW 1206.

Оффлайн RAMON

  • **
  • Сообщений: 76
  • Благодарностей: 13
    • Сообщения от RAMON
В этой теме пытаясь предугадать образ будущего мира много обсуждают противоречия человека и ИИ. При этом забывают один факт (ну почти факт) - сосуществовать будет не просто ИИ и человеческое общество, а множество ИИ (миллионы, может миллиарды и более) и люди. Совершенно гарантировано, что это одновременное проживание такого количества ИИ приведет к острой конкуренции одних ИИ с другими (хотя бы за те же самые банальные ресурсы, которых никогда на все не хватает). При изобретении более менее полноценного ИИ он моментально (считанные десятилетия) будет растиражирован на нужды разных государств, корпорации, сообществ (криминальных в том числе). Быстро возникнет некий симбионат между человеческими группами и группами ИИ. Кто подберет наиболее эффективную форму такого сосуществования, за теми будет будущее. Утверждение типа такого, а зачем ИИ вообще нужны кожаные мешки, которых ещё и кормить надо, думаю не состоятельные. Ну хотя бы потому человек высокоавтономная система, не зависящая от инфраструктуры. Он может, например, по заказу ИИ "партнера" протопать, десятки километров, после чего с огнеметом в руках зайти в зал заставленный процессорными стоиками конкурирующего ИИ и выжечь его нахер, тем самым решив вопрос чьи ресурсы в пользу "своей" симбиотической (ИИ+люди) группы.

Оффлайн Mercury127

  • *****
  • Сообщений: 7 289
  • Благодарностей: 407
  • Мне нравятся местные идиоты. Весёлые. :D
    • Сообщения от Mercury127
зайти в зал заставленный процессорными стоиками
вы таки не поверите, но уже давно даже в сравнительно небольших конторах серверная зачастую находится под вооруженной охраной. если туда прийти с огнеметом — вас могут встретить автоматы.
ОАО Ордена Трудового Красного Знамени.
Бронежилет — лучше для мужчины нет!

Оффлайн Kaiserfrogling

  • *****
  • Сообщений: 1 791
  • Благодарностей: 56
  • GrimGermanishGenius
    • Сообщения от Kaiserfrogling
вы таки не поверите, но уже давно даже в сравнительно небольших конторах серверная зачастую находится под вооруженной охраной. если туда прийти с огнеметом — вас могут встретить автоматы.
Выиграть перестрелку у охраны сложно но можно.
Гораздо хуже если вас там встретят роботы, хотя бы в самой простой сборке - ружье на колесиках. Бронированный вариант такой сборки называется у европейских военных микро-танком или gun box.

https://en.wikipedia.org/wiki/Foster-Miller_TALON
В юности Платон встретил некого философа утверждавшего "Я не вижу богов - значит их нет!". Платон ответил "А я не вижу того что у меня за спиной! Получается этого тоже нет?". Потом повернулся к собеседнику спиной и сказал "А теперь я не вижу и тебя!"