ВНИМАНИЕ! На форуме начался конкурс - астрофотография месяца МАРТ!
0 Пользователей и 7 Гостей просматривают эту тему.
А я Вам на это уже много раз говорила, что это биологизация, и Вы игнорировали аргументы.
В биологических системах обычно существует репродуктивная изоляция, и вообще генетический материал обычно плохо циркулирует между изолированными популяциями. Я, конечно, в курсе плазмид у прокариотов, в курсе что вирусы могут делать горизонтальный перенос и подобного, но тем не менее.
Кроме того, в целом, биологическая эволюция сравнительно медленная - сложно себе представить, что даже быстро эволюционирующий ВИЧ может вдруг начать усложнять себе геном, станет макровирусом, а потом придумает клетку и доэволюционирует до чего-то, похожего на зебру за часы.
А вот эволюция AGI >> ASI за часы вполне представима.
Однажды появившись, rogue ASI быстро (за часы или даже десятки минут!) перехватит управление значительной частью работающих агентов с помощью промт инженеринга - наделает поддельных сайтов, вставит промт-инъекции в библиотеки опенсурс кода, итд.
а где-то покупкой за крипту братков, чтобы они выкинули из датацентра местных инженеров
Армии, правительство, итд - их он обезвредит социальной инженерией - промт-инженерингом, но уже специфичным к этому человеку.
Как тут могут появится конкурирующие ASI, мне не очень понятно.
и мы спокойно сделаем элаймент. Тогда тоже нескольких конкурирующих rogue ASI у Вас не будет.
Кроме того, я вообще думаю, что вероятность появления ASI с эволюционным промтом не очень велика: нет людей, которые могли бы иметь доступ к систем шелу фронтир ASI системы, которые бы очень хотели туда вбить эволюционный промт. Промт "убить всех врагов" (вбитый военными) или этичного конституционного AI (если будет элаймент), или Роко Василиска
куда более вероятны, имхо - просто из человеческой психологии.
Потому, что это не человек. Странно подходить к AI с человеческими мерками. У модели нет уязвлённого эга и вообще чувственного опыта. Она не личность.
Человечество не зря придумало институты и сдержки с противовесами: они позволяют метастабилизировать такие состояния.
исследование Антрофика подтвердило, что у модели есть отвечающие за панику части. Когда модель начинает активно вставлять английские слова, повторяться и т.д.
ASI не будет ничего стабилизировать, он нас грохнет
Какой alignment должен быть у этого ASI, чтобы он бесконечно расходовал ресурсы на поддержание сытого существования 10^10 хомяков?
Но жизнь подпортить может.
Какой вам нужен срок на примере развития второй мировой войны!?
Ядерная война может произойти хоть после завтра, хоть завтра.
Кто то напьется в хлам и нажмет на ядерную кнопку.
Или там автоматика у кого то "не так поймет" что нибудь и выпишет ответный удар на фейковую угрозу...
Для меня глубокая загадка, почему неомальтузианцы не понимают, что галактика очень большая.
И что машинам даже с AGI осваивать солнечную систему будет куда проще чем людям.
Но я думаю, это чушь галимая, и наши промышленные цепочки такие, просто потому, что у нас такая земля.
На Луне, Марсе или в поясе астероидов, понятно они будут другие.
масса всех камней главного пояса всего 4% от Луны! ~ 1 масса Земной коры. При том кора каменной планеты земной массы - уже вся результат гравитационной сеперации, а не хондритно-реголитный хлам (не считая среди них одного процента металлических обломков ядра несостоявшейся планеты).
Другой аргумент, что я слышала, он был про трудноизвлекаемость всех месторождений за пределами Земли - это тоже звучит очень сомнительно.
В солнечной системе сотни тел, которые прошли через гравитационную сепарацию.
Они приняли гидростатическую форму благодаря гравитации.
А утверждения про необходимость воды, что без неё вообще никак - похожи на самоуспокоительные мантры неомальтузианцев.
Добавлю так же, что и тел с водой тоже полно, как и с подлёдными океанами
правда, в них тяжелых элементов меньше
Кроме того, масштабная цивилизация Кардышева IIго типа
В общем, чем дальше, тем меньше вероятность мясных ботов из людей
А рассылку аппаратов фон Неймана можно начать
Роботы, конечно изнашиваются, но гораздо проще иметь один резервированный носитель для ИИ
Покажите мне компьютер способный работать сотни лет без обслуживания.
После посадки активируется все остальное.
По поводу ресурсов - чего нет в космосе для производства электроники?
можно заменить золотом...золото есть
Жёсткий диск, таки содержит двигающиеся части
а SSD имеет ограниченный цикл перезаписи
Мне кажется, Вы вообще мою эрудицию не уважаете. Я никогда не писала про подводные города людей на Европе или Энцеладе.
https://www.sciencedirect.com/science/article/pii/S0016703717305501https://web.colby.edu/tldunn/files/2018/06/Zena-reading_April-17.pdf
Я думаю, само существование жизни доказывает, что принципиально возможны как минимум не худшие машины
а рибосомоподобный полимерный принтер точно возможен. Как и машины на огранических полимерах с химией подобной клеточной, видимо так же с компонентой киборгов:
Как и машины на огранических полимерах с химией подобной клеточной
размеры транзисторов в современных процессоров много меньше чем размер клетки.
И машины эти могут быть много лучше прокариотов
их можно заточить под определенную задачу, убрав функции размножения - их можно производить отдельно.
S-type asteroids that are parent bodies of H chondrites contain 70–100 ppm of Cu
grains of native Cu can be extracted mechanically by ore processing methods based on e.g. surface properties, density or magnetic susceptibility of minerals.
Я как раз сейчас писала (но не дописала) статью, предлагающую пересмотреть шкалу кардышева
Точнее конкретно закон мура конечно рано или поздно работать перестанет
но скорее всего просто будет заменён на 3d чипы
А вы, как я вижу- не верите.
Знаете, если вы как биолог скажете что бояться нужно не их, а, скажем, собранной в гараже на нуклеотидном синтезаторе модифицированной Эболы - я приму это всерьёз.
А вот когда технарь, специалист по системам ИИ говорит что для роя киллботов давно есть всё, кроме желания и смелости заказчика... есть смысл хотя бы подумать.
А где подверждающие дороговизну расчёты?
Простая логика говорит что раскрутить бочку в невесомости цена вопроса = стоимость бочки и тока для моторчика. ни тебе рамы, ни опорных подшипников
А гарнитурная плавка?
экзергонические реакции, которые и сами идут, только столкни.
но с точки зрения промышленной химии - они бесполезны чуть менее чем полностью.
Вон в 80-е в Москве в капотне белково-витаминный концентрат из природного газа гнали сотнями тонн - через метанол и дрожжи. БелПар. дешево и сердито, без всяких супер-пупер катализаторов.
Чёт сёдня меня на критику тянет - погода видать влияет, снег грязный надоел, наверное.
учитывая три раза подряд полное игнорирование существования самолетов, ракет, подлодок и даже обычных кораблей с автомобилями
это обычная внутриклеточная эндокухня по скорости на 5 порядков (в 100000 раз) медленнее предмета разговоров.
И если сравнивать катализаторы - те же Diffusion Limited Enzyme например с платиной в важном процессе синтеза аммиака
то получится, что энзимы ускоряют и без того идущий процесс
А вот тут он прав. В невесомости это действительно проще.
Достаточно двух связанных бочек
И долгоиграющий моторчик не понадобится, хватит двух реактивных двигателей, которые там должны быть обыденностью. Догадываюсь что вы скажете — невосполнимый расход рабочего тела. Ну дык… AlexAV ещё когда доказал, что житиё в космосе необратимо рассеивает ресурсы.
Семёнов это доказательство так и не признал, наизнанку выворачивается, но находит причины жить непосредственно в космосе
не думаю.
Земная жизнь жестко залочена на определенные аминокислоты
хиральность
ДНК
У эволюции есть некоторые ограничения - она не может мгновенно придти в оптимальное состояние.
Ей нужен путь к нему через инкрементальные изменения
Я думаю, что возможна биохимия на других нуклеиновых кислотах
а так же не-белковая биохимия (см. скрин из вики)
а вот для полимерных машин нет.
Кроме того, я думаю размножение - очень важная часть биохимии клетки. И отказ от него (внешнее производство как производство кровяных клеток...) может быть очень важной оптимизацией ресурсов полимерного робота - у него будет куда больше свободных ресурсов чем у бактерии.
У полимерных ботов могут быть вот такие симбионты сделанные на принципиально другой биохимии или быть чистыми машинами... (я немного упрощаю).
Отдельно хочу заметить, что скорее всего возможно создание аж комптьютерных сетей из полимерных роботов. Возможно, не таких быстрых по частоте, как наши сегодняшние компьютеры, и всё же.
Так что система может быть компактной по геному как у прокариотов, но сложнорегулируемой как у эукариотов
А регулироваться она может извне.
Химическая до локального транспортного узла.
В том-то и дело, что клетки всё своё управление таскают с собой.
У эволюции есть запрещенные или сложные пути.
Ей сложно колесо, например, сделать.
Или убрать слепое пятно, петли блуждающего нерва у Жирафа.
Это Вы, наоборот, утверждаете что белково-РНК-ДНКашная наиболее оптимальная - Вам и доказывать.
А моя позиция как раз дефолтная, скептическая.
блуждающий нерв инженер точно мог бы оптимизировать.
нужно всерьёз копать не-белковую/не-ДНК/РНКашную полимерную (био?)химию.
И про неё человечество пока знает очень и очень мало.
Это для эволюции и есть запрещенный путь:https://en.wikipedia.org/wiki/Nucleic_acid_analogue
Выглядит как логический приём черри пикинга.
Ну хорошо, значит до оптического порта с большой вероятностью информацию будут передавать ацетилхолином. И что?
А мы - ограничены быть позвоночными.
Отмечу, что моя фраза "я думаю, возможна другая биохимия" действительно пожалуй была слишком сильным утверждением. Корректно сказать так: "нельзя исключать" и это только один из возможных вариантов оптимизации.