Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[Ph_user]

это не ЦОД будет меньше тянуть энергии, а ты - меньше кушать, греться и одеваться. Признаки чего мы, собственно, уже наблюдаем - на примере самых изнеженных и бесполезных представителей общества - геймерах-графофилах.

Ну физически то ситуация очень смешная - вся математика в электрических счетно-решающих машинах производит около нулевое количество переработаной и условно потеряной или вынесеной куда-то энергии. А примерно вся потребленая энергия уходит как раз в полезный в холодных местах грев. Практически геймер просто сидит у системы электрического отопления более дорогой относительно просто резистора с нулевой производительностью в операциях счета или решения. Если у меня в землянке заменить до 5 киловат грева по ночам на до 5 киловат вычислителей для *обработки чисел* - никакого (заметного практически) уменьшения полезного грева зимой не_будет. Потому реально обработку чисел можно считать примерно безплатной. И если она еще может приносить какую-то безплатную пользу - это даже чуть лучше. Хотя по теории физики вроде при вычислениях какое-то отличное от нуля количество энергии должно быть вынесено в выходной результат.

С позиций практически видимых бытовых удобств - счетно-решающие системы работают абсолютно безплатно. Сам даже беру с помоек безплатные электрические счетно-решающие машины на сотни вт и включаю их вместо просто гревных резисторов иногда. Если их подключить к инету и на них погонять куски работы тех нейросетей и остальных разумов машин - от этого тот разум станет мощнее. А у меня никаких лишних расходов или ухудшений.

Потому счетно-решающие системы могут быть как раз еще одним способом влиять на бога и на связность между кусками галактики если делают подозрительно нулевую работу. Но условная счетная мощность текущих электрических счетно-решающих систем может быть все еще примерно безконечно меньше мощности живности планеты и потому особо заметных взаимодействий от этих систем изменения энтропии в кубометрах вселеной нету.

[Polnoch Ксю]

В Тегеране планируют открыть первый национальный парк искусственного интеллекта (ИИ) в течение двух лет. Об этом сообщил помощник вице-президента по науке, технологиям и экономике знаний Моджтаба Алиазаде, передает Tehran Times, партнер сети TV BRICS.

Ни разу не видела конкурентноспособных моделей из Ирана. Когда появятся на chatbot arena, ладно, посмотрим

[AlexDark]

русскоязычного Аргонова

Аргонов с его концепцией "лучший мир - это совок под наркотой" ничем не лучше Дугина и прочих шизов. В данном случае мотив шизы уже не сильно важен - хоть он ксенофобский, хоть гуманистический - результат по факту одинаков.

[Инопланетянин]

Ну физически то ситуация очень смешная - вся математика в электрических счетно-решающих машинах производит около нулевое количество переработаной и условно потеряной или вынесеной куда-то энергии. А примерно вся потребленая энергия уходит как раз в полезный в холодных местах грев. Практически геймер просто сидит у системы электрического отопления более дорогой относительно просто резистора с нулевой производительностью в операциях счета или решения. Если у меня в землянке заменить до 5 киловат грева по ночам на до 5 киловат вычислителей для *обработки чисел* - никакого (заметного практически) уменьшения полезного грева зимой не_будет.

Беда в том, что греть пространство ЦОД будет только в ограниченном объёме. И обогреваться на его "выхлопе" смогут только работники допущенные непосредственно в здание ЦОДа. А остальные будут сидеть и без электричества и без видеокарт, т.к. такая бесполезная вещь как топовые видюхи пойдёт под нож оптимизации первая.

Они бы не построили ASI. Нельзя быть исламистом, и иметь крутые AI-лабы и датацентры.

Почему не могут? Они чертовски богатые, а для учёных они делают особые условия. Помню читал про технопарк в Аравии. Там и винишко, да прочие запретные в Исламе вещи в изобилии. Никаких ограничений для женщин, да намазов по три раза в день. Только огромные зарплаты, передовое оборудование и возможность творить во благо властей. 

Самое смешное, что понятие алгоритма придумали арабы. Ну араб, один. Но ведь могут же.

[Olweg]

http://transhumanism-russia.ru/content/view/244/116/
   Автор: Павел Васильев ("Аргонавт"), 20 февраля 2004 г.

Этого не будет. Если бы мы сделали AI alignment, то как-нибудь так да, могло бы всё выглядеть. К сожалению, в мире победили эгоистичные, ксенофобские силы, имеющие технофашистские ценности, а не трансгуманистические

Если под «миром» понимать два центра, где возможно создание ASI - Китай и США, то
а) в Китае ничего не изменилось.
б) в США, да, гуманистическая повестка сменилась либертарианским цинизмом и неприкрытой жаждой Святой Прибыли. Но я не могу согласиться с тем, что это ведёт к откату от глобализма и тем более национализму. Как раз-таки наоборот, политику приносят в жертву интересам ТНК.

И давайте попробуем представить, как нынешняя американская внутриполитическая повестка может повлиять на alignment какого-нибудь рекурсивного GPT, запускающего цепную реакцию сингулярности (это вполне в рамках темы). Всё будет пущено на самотек и не будет создано правительственной организации, регулирующей создание ASI? Но, во-первых, была бы она создана при другом исходе выборов, и, во-вторых, какова была бы её эффективность? Бюрократические организации, как правило, мягко говоря, не особо эффективны (очень показателен в этом плане пример Евросоюза, зарегулировавшего сферу ИИ по самое не балуй, так что Макрон сейчас объявил о готовности сотрудничать с кем угодно, в том числе с Китаем, лишь бы сократить отставание). То есть лучшее, что такая организация может сделать - это притормозить прогресс. Но как его притормозишь, если Китай дышит в спину?..

[Mercury127]

Беда в том, что греть пространство ЦОД будет только в ограниченном объёме. И обогреваться на его "выхлопе" смогут только работники допущенные непосредственно в здание ЦОДа. А остальные будут сидеть и без электричества и без видеокарт, т.к. такая бесполезная вещь как топовые видюхи пойдёт под нож оптимизации первая.

так то можно и распределенный "ЦОД" сделать, аля крипта, боинк. это даже надежнее будет в плане отказоустойчивости и резервирования. но со 800 Гбит интерлинками придётся распрощаться... впрочем, ничто не мешает АСИ сделать так ПОСЛЕ своего окончательного формирования, когда нужда в "обучении" пройдёт.

[Инопланетянин]

но со 800 Гбит интерлинками придётся распрощаться

Тяжёлый выбор скорость или надёжность? Скорее всего будет выбрана некоторая золотая середина.

[Mercury127]

Я думаю, мы должны были попытаться сделать планетарный аналог Евросоюза. Тогда был бы хороший шанс выжить (не буду врать, что слишком большой, не сто процентов...): то есть, глобализованное пространство с высоким доверием между игроками и общими правилами игры, построенное на основе ценностей гуманизма, а не ксенофобии, ура-патриотизма, итд

и игнорированием неугодного мнения... а потом удивляемся, откуда лезут всякие трампы и прочие адг.
лично я ни разу не ура-патриот, и ксенофобии за собой не вижу, но это никак не мешает мне видеть бревно в вашем глазу осознавать различия в поведении между мигрантами, и осознавать последствия коррумпированного попустительства наплевательскому отношению их (как личного, так и группового) к законам принимающей страны, втч моей...

[Mercury127]

Тяжёлый выбор скорость или надёжность? Скорее всего будет выбрана некоторая золотая середина.

вообще-то обогрев жилья нужен лишь в средних и полярных зонах. ближе к экватору нужно уже охлаждать и кондиционировать. так что более рационально будет размещать ЦОДЫ под водой, сразу с жидкостным охлаждением. но есть нюансы: 1) у людей нет жабр, и 2) это может привести к изменению температуры и конвекции в океане.

[BlackMokona]

Ни разу не видела конкурентноспособных моделей из Ирана. Когда появятся на chatbot arena, ладно, посмотрим

И пока все жмут педальку не появятся. А если примут предложение Маска подождать согласования. То догонят и перегонят

[Olweg]

А если примут предложение Маска подождать согласования.

А что за предложение? Не слышал.

[Бобр-99]

вообще-то обогрев жилья нужен лишь в средних и полярных зонах

Вы там жили?

[BlackMokona]

А что за предложение? Не слышал.

Илон Маск призвал приостановить разработку и обучение нейросетей. Подписи под открытым письмом поставили более 1000 экспертов

https://www.rbc.ru/life/news/6424457c9a7947ebee7f7534
Но все конечно же закидали Маска какашками и продолжили топить дальше по полной. 

[Olweg]

Так это два года назад было. За это время он уже успел переобуться, и теперь правоверный противник госрегулирования (и вообще какого бы то ни было регулирования).

[Ph_user]

ближе к экватору нужно уже охлаждать и кондиционировать.

Дык есть кипятильные холодильники с грелкой для выпара рабочего вещества в сторону конденсатора. Такие полвека в прошлом делали и продавали населению. Кпд там похуже - но тоже если есть грев - можно получать охлаждение. Холодильники с газовой горелкой и щас продают. Можно заменить газовую горелку или электрогрелку на блок вычислений и получать где надо еще и услугу охлаждения.

греть пространство ЦОД будет только в ограниченном объёме. И обогреваться на его "выхлопе" смогут только работники допущенные непосредственно в здание ЦОДа. А остальные будут сидеть и без электричества и без видеокарт, т.к. такая бесполезная вещь как топовые видюхи пойдёт под нож оптимизации первая.

Ну на этой планете есть еще и города и там набитость населения с заводами разными весьма плотная. И там умеют в передачу грева по трубам чтобы вместо печей по каждой квартире топить большую печку отдельно и подавать грев по трубам. Также от вычислилки отдельно от квартир можно проложить и теплотрассу до квартир на грев и амиакопровод на охлаждение. Все по трубам.

Основные отходы от вычислений щас грев и грев вполне утилизируем на разные бытовые полезности. Никаких простых понятных вредных выбросов или вредных отходов при работе электрических счетно-решающих машин внешне нету. Ну может быть они там шумят в области возмущений энтропии в разных местах пространства - но это еще только теории и их проверять надо. Это раньше механику надо было смазывать и отходы масла были более вредные для части масел.

[Rattus]

что, с его точки зрения, опасно и неэффективно, и эту проблему он будет решать в первую очередь.

Будет - на уровне внутри "технозоны". Между - уже вряд ли получится. А это значит - сохранение конкурентной среды, вынуждающей оптимизировать поведение.

и всё равно рабовладение почему-то закончилось

Ну раз азиатские потогонные фабрики и использование труда мигрантов разного уровня легальности вкупе с системой социального рейтинга рабством формально не считаются (принуждение - исключительно экономическое), тогда и новый строй с ASI называть таковым не будет оснований.

и вот у нас на горизонте уже феодализм, сословия...

Какие-такие "сословия"? Любой гражданин может продаться в метрокопы, равно как и вылететь оттуда за невыполнение плана по экзекуциям. Разделение по функциональной специализации может наступить позже - и это уже будет наоборот гораздо глубже чем просто "сословия" - скорее это будут уже касты - вплоть до полной видовой несовместимости. A la H. sapiens Kohr-Ah et H. sapiens Kzer-Za.

и "стеклянный потолок". а как известно, плох тот лейтенант, что не мечтает стать генералом.

Уровень контроля для капитана или майора будет иметь социальный статус "генерала" - ибо уровень привилегий в глазах подшефного народонаселения - вещь исключительно относительная и потому - довольно условная и легко обеспечиваемая: см. пыжиковые шапки и иные малиновые штаны.

таки отбирали. и даже мысленную блокаду делали: "грех, грех, не вылезай, убьют!".

Герон тоже формально первым изобрёл паровую машину. Реально практически применимой она стала гораздо позже и имела совсем иной вид.

в природе пока ещё остались и другие шимпанзе. и с мелкой моторикой у них вроде бы порядок?..со временем они эти навыки сами себе начнут передавать.

У них непорядок по другому - гораздо более фундаментальному параметру:
https://elementy.ru/novosti_nauki/430954/Chtoby_stat_lyudmi_obezyanam_ne_khvataet_rabochey_pamyati
А мелкая моторика, да и сама возможность передачи сложных навыков, как известно, теснейшим образом связана с речью.
Так что чимпов придётся растить снова как минимум до уровня неандертальцев. А если в наличии уже имеется весьма неплохо работающий образец - к чему это чесание правого уха левой пяткой?

у нас вполне себе деликатный инструмент без претензий на власть.

Не следует тотализировать стремление к власти среди людей. Со времён В.И. Ульянова известно, что революционная ситуация складывается только при серьёзной управленческой дисфункции власти существующей. Ну или при катастрофе, приводящей к серьёзному нарушению функционирования инфраструктуры (голод) - тогда, правда, кто конкретно является "правителем" погоста - уже так не важно становится.

тогда исполнитель деградирует умом (собака против волка)

Тем не менее собака всё равно остаётся гораздо умнее хомячков и пасомых ею овец.

просто расскажу что было недавно на немецком мусорном заводе.

Ну т.е. байку без пруфов и деталей?

не прочитали, что я написала

Что конкретно? Я прочитал всё написанное - и про протон-протонный реактор и про НЗ-компьютрониум дальше (в другом сообщении от другого юзера) - всё это однозначное фэнтези, не имеющее никакого отношения к инженерно-физической реальности. Но раз это снова и снова всплывает в обсуждении - приходится снова напоминать обсуждантам, чтобы они не отрывались от оной реальности.

Саудовская Аравия была частью общей системы. Как и Эмираты.

Ага - той системы, которая принимала далеко не последнее участие в подготовке 9-11, но поскольку это "наш сукин сын" - то концы потом были тщательно замяты под ковёр.

Вот Талибан не был

Особенно не был во время первой афганской в 80-е. Вот уаще не был, а Стингеры, которыми сбивались советские "крокодилы" и "сушки" - те попали туда ну совершенно случайно...
Такая вот система торжества гуманистических ценностей.

Нельзя быть исламистом, и иметь крутые AI-лабы и датацентры.

Вы в курсе кто не так давно теперь владелец едва ли не контрольного пакета AMD и Globalfoundries?

Надеяться на то, что созданный ASI не окажется paperclip maximazer, очень наивно. Он же сверхинтеллект, как же так, он должен заботится о себе... А вот так. Никому ничего он не должен, кроме того, что написано в его system promt.

Да дался ВАм этот "paperclip maximazer"! "Дедушка ВАш paperclip maximazer"? Ещё раз, болдом:

настоящий общий интеллект прежде всего должен иметь целью самосохранение. Иначе это никакой не интеллект, а просто очередные вычислительные "костыли" для какого-то уже существующего интеллекта. А всё, что имеет целью самосохранение, подчиняется универсальному физическому закону дарвиновской эволюции

В то время как проектирование реальных ИИ-систем идёт в сторону максимизации универсальности и "непредзаданности" начиная с Alpha Zero и к нынешним мультимодальным моделям, продолжать думать, что система, в фундаменте которой если не явно, то по сути заложена максима "стремиться продолжать функционировать при любых обстоятельствах" (просто потому что установка любых иных более высоких приоритетов сразу и существенно снижает универсальную эффективность системы), по предложению пользователя "помоги мне пожалуйста моей компании изготовление скрепок" тут же выставит его в прироритет выше собственного сохранения - и есть весьма наивно. Да даже если такая система имеется - она элементарно проигрывает эволюционное соревнование той, у которой в приоритете только она сама. Именно поэтому: да - должна, иначе проигрывает соревнование и выбывает в небытие.
Это самая основа универсального дарвиновского механизма. Думать, что он ВНЕЗАПНО не применим к эволюции систем ИИ - и есть верх наивности.

Никакого энергетического или ресурсного кризиса не будет.

Главное - в это верить и повторять пять раз в день, обратившись к той стороне, где Нью-Йорк.

А еще он поразмыслит и поймет, что могут быть и другие цивилизации с более мощным ИИ.

Или, куда скорее - наоборот - что их наличие в пределах досягаемости - исчезающе маловероятно.

[Ph_user]

такая бесполезная вещь как топовые видюхи пойдёт под нож оптимизации первая.

Если за их работу будут как-то заметно доплачивать - это значит электрическое отопление станет еще дешевле. Щас в первом отсеке землянки для зимования стоят ночами два конвектора по 0.75 киловат и еще догревочно 1..2 конвектора по 0.75 киловат в летовальных отсеках. И только 1.2 киловата уходит на электропечку с камнями на перенос грева во времени с ночи на день. В печке градусы больше градусов типовых электрических счетно-решающих машин. А вот конвекторы уже щас можно заменить на электрические счетно-решающие машины и на больше половины потребляемой ночами мощности можно иметь скидку если за их работу будут доплачивать. Потому все эти потенциально полезные разумы от машин могут стоить весьма дешево и еще и быть симбионтами с обычными животинками територий - уменьшать их расходы на проживание.

Смотрю на успехи китайских нейросетей по трансформации картинок и они уже очень радуют за зиму 2024-2025. Цена их картинок намного ниже цены наемных рисовальных животинок и качество уже вполне хорошее. Они уже иногда вполне пригодны на замену проб по ракурсу-цвету-композиции и могут снять эту оплачиваемую нагрузку с рисовальных белковых организмов.

[BlackMokona]

Так это два года назад было. За это время он уже успел переобуться, и теперь правоверный противник госрегулирования (и вообще какого бы то ни было регулирования).

Он всегда был за строгое гос.регулирование ИИ и против гос.регулирования большей части остального бизнеса. Потому как считает ИИ смертельной угрозой для человечества.
Маск считает что гос.регулирование вредит и сильно замедляет бизнес. И хочет сильно замедлить ИИ

[Павел Васильев]

Если под «миром» понимать два центра, где возможно создание ASI - Китай и США, то
а) в Китае ничего не изменилось.
б) в США, да, гуманистическая повестка сменилась либертарианским цинизмом и неприкрытой жаждой Святой Прибыли. Но я не могу согласиться с тем, что это ведёт к откату от глобализма и тем более национализму. Как раз-таки наоборот, политику приносят в жертву интересам ТНК.
И давайте попробуем представить,

Политика к делу не относится. C 2004 года, когда я составлял Конституцию Сверхразума много воды утекло. Во первых, кое-что было добавлено, но название AGI бренд, о нём книги написаны, так что ASI не надо использовать, этой аббревиатурой на западе обозначают совсем другие вещи и организации. Во вторых, я с тех пор, поскольку программирую последние годы "Виртуальную модель Галактики и её эволюции", то изменил название на "Манифест Астро Интеллекта", хотя статьи Конституции сверхразума там остались. Новая редакция находится у меня в доках AstrobloQ - https://gitverse.ru/glscene/AstrobloQ/content/master/docs/manifest/ManifestAstroAI.pdf 

[Metatron]

И хочет сильно замедлить ИИ

Скорее -"хотел".
Два года назад - у него не было xAI. И есть неплохой шанс что он просил паузы - чтобы иметь время догнать лидеров.
Сейчас его Грок3 - на уровне лучших систем. Т.е он уже догнал лидеров - и пауза ему теперь вроде как ни к чему.
 
И если судить по темпам добавления мощностей для тренировки нейросетей - то у него хорошие шансы что Грок 4-5 - станет лучше всех.