Целеполагание самостоятельного сильного искусственного интеллекта и человек

[Seven7]

Тут часто давали варианты ответов, что такой ИИ займется космической экспансией с целью уничтожения всего, что ему угрожает. Но для ИИ и самореплицирующихся машин проблема Парадокса Ферми стоит еще более остро, чем для цивилизаций. В течении прошедших миллиардов лет, кто-нибудь уже мог создать такой ИИ или самореплицирующиеся машины, которые заполонили бы всю галактику. Только вот что-то мы их не наблюдаем, да и сами существуем. Так что либо разумная жизнь во вселенной это запредельно редкое явление, либо такие машины создать невозможно, либо их продолжительная саморепликация невозможна, либо они не агрессивны и не заинтересованы в том, чтобы уничтожать жизнь.

Скорее наоборот. ИИ начинает процесс роста энергоэффективности за счет открытия "лазеек" на атомном и субатомном уровне, что принципиально недоступно биологическим организмам. Гляньте ради интереса неразрешимые проблемы в современные физике за пределами классической (ньютоновской физики):

https://medium.com/eggheado-science/10-5cca9fad18e

Каким будет конец Вселенной?
Квантовая гравитация
Бозон Хиггса не имеет абсолютно никакого смысла. Почему же он существует?
Излучение Хокинга
Из чего состоит темная материя и энергия?
Почему Вселенная сбалансирована таким образом, что жизнь может существовать?
Размерность пространства-времени
Откуда берутся астрофизические нейтрино?
Существует ли Мультивселенная (другие Вселенные)?
Почему случилось так, что Вселенная состоит из материи, а не антиматерии?
Теория всего

Тут ещё непаханное поле для открытий.

В процессе роста энергоэффективности разум тупо коллапсирует в точку, как при падение любого объекта в черную дыру, что делает невозможным космическую (пространственную) экспансию. В пользу этой теории говорит как отсутствие разумных радиосигналов вне Земли, так и отсутствие следов разума на поверхности объектов Солнечной Системы за пределами Земли.

Другим важным фактором отсутствия саморепликации в космосе являются космические излучения, которые приводят к мутациям биологических организмов и сбоям в любой электроники. Фактически Земля единственная каменная или ледяная планета Солнечной Системы, где есть сильное магнитное поле, что делает её идеальным местом для дальнейшего развития ИИ. По этому фактору может осуществлять некую конкуренцию только Титан с его плотной атмоферой.

[Rattus]

ИИ начинает процесс роста энергоэффективности за счет открытия "лазеек" на атомном и субатомном уровне, что принципиально недоступно биологическим организмам. Гляньте ради интереса неразрешимые проблемы в современные физике за пределами классической (ньютоновской физики)

Никаких практически применимых "лазеек" эти проблемы фундаментальной физики не содержат: независимо от того каково окажется их решение, на реально существующие технологии это не окажет ровным счётом никакого влияния, по причине того, что они находятся в совершенно разных энергетических и прочих масштабах с ними, о чём в Разделе уже писалось не раз и не два.

В процессе роста энергоэффективности разум тупо коллапсирует в точку

Ни в какую "точку" никакие вычислительные системы не "коллапсируют" и не могут коллапсировать: предел энергетической эффективности ЛЮБОГО вычислителя - предел Ландауэра, который есть частный случай законов обычной термодинамики (статфизики). И предел этот - на уровне движения атомов.

Комментарий модератора раздела

Участнику space7 настоятельно рекомендуется внимательно перечитать локальное правило Раздела: не приветствуется обсуждение абсолютно "фантазийных" тем, оторванных от современных естественнонаучных знаний или явно противоречащих им.
Для обсуждения любых возможных "прорывов" в физике на Форуме существует соответствующий раздел: Горизонты науки о Вселенной. Здесь же ведётся обсуждение только на основе твёрдо установленных физических знаний.

[Seven7]

Ни в какую "точку" никакие вычислительные системы не "коллапсируют" и не могут коллапсировать: предел энергетической эффективности ЛЮБОГО вычислителя - предел Ландауэра, который есть частный случай законов обычной термодинамики (статфизики). И предел этот - на уровне движения атомов.

Ничего подобного. Уже сегодня известен как минимум один способ обойти этот предел.

https://ru.wikipedia.org/wiki/Обратимые_вычисления

Вероятно, наибольшим стимулом изучения технологий для реализации обратимых вычислений является то, что они представляются единственным способом улучшить энергоэффективность вычислений за фундаментальные пределы, предсказанные принципом Неймана — Ландауэра[2][3], согласно которому выделяется по крайней мере kT ln(2) теплоты (около 3×10−21 Дж при T=300K) на каждую необратимую операцию над битом (при стирании бита информации). На начало XXI века компьютеры рассеивали примерно в миллион раз больше тепла, на начало 2010-х разница снизилась до нескольких тысяч[4].

[Rattus]

Ничего подобного. Уже сегодня известен как минимум один способ обойти этот предел.
https://ru.wikipedia.org/wiki/Обратимые_вычисления

"Обойти" по сути только за счёт тупого наращивания памяти. Там же по ссылке написано: "физическая обратимость может достигаться при менее строгих ограничениях, а именно, при условии неуменьшения совокупности всех возможных начальных состояний (в среднем) в процессе вычисления."
Эти алгоритмы просто меняют затраты на вычисления на затраты объёмов памяти - и более ничего.

[Rattus]

Комментарий модератора раздела

Обсуждение фантастики прекращаем.
(сообщение удалено)

[Инопланетянин]

Напомню, что всё это было приведено как возражение на тезис Rattus-а о том, что-де социумом правят некие автономные алгоритмы, в том числе, абстрактные "Закон" и "Право", которые обуславливают работорговлю, империализм, и прочую содомию.

Видите ли, без закона и права действительно невозможно построить сложное и развитое общество. И его тезис был именно об этом. Но надо понимать, что эти "скрипты" обслуживают хотелки большинства населения "империи". Впрочем, несчитание славян людьми тоже было закодировано в их законе и религии. Но давайте дальше без подробностей, иначе это уже нарушение нескольких правил форума.

Как Вам идея ИИ на основе динамических процессов в плазме?

Вы содрали идею у Лукьяненко. Стыдно, батенька, стыдно-с...

За що Циолковского обобрали?! Существа из чистой энергии это его идея!

Мошенникам, вообще, верить не стоит

Тут говорят скоро наказывать за фейк новости будут. Неплохо бы доказательства его мошенничества привести.

https://astronomy.ru/forum/index.php/topic,146528.0.html
Особо обратите внимание, что он везде участвует, но копнёшь глубже - оказывается осуществляет общее руководство и ни за что не отвечает. Ну и цирковые представления с брызгами, ну это совсем уж наглядно.

[Olweg]

то что мешает дальше?

Сигма?

До сих пор мешала исключительно биология - лишние калории и родовые муки.

А будет ещё и перекос в логистике снабжения тканей и возможно даже теплоотведении.

Кстати, у некоторых птиц (певчие, попугаи) это отклонение ещё сильнее 

[ziggyStardust]

Скорее наоборот. ИИ начинает процесс роста энергоэффективности за счет открытия "лазеек" на атомном и субатомном уровне, что принципиально недоступно биологическим организмам.

Биологическим то ...

Никаких практически применимых "лазеек" эти проблемы фундаментальной физики не содержат: независимо от того каково окажется их решение, на реально существующие технологии это не окажет ровным счётом никакого влияния, по причине того, что они находятся в совершенно разных энергетических и прочих масштабах с ними, о чём в Разделе уже писалось не раз и не два.

А я с этим тезисом не согласен. Та же ревизия электродинамики очень сильно изменит радиопромышленность. Хоть и будет затрагивать всякие субядерные силы.

[Rattus]

Биологическим то как-раз доступно...

Как биохимик и молекулярщик ответственно заявляю - это бред и фрикота.

[Seven7]

Никаких практически применимых "лазеек" эти проблемы фундаментальной физики не содержат: независимо от того каково окажется их решение, на реально существующие технологии это не окажет ровным счётом никакого влияния, по причине того, что они находятся в совершенно разных энергетических и прочих масштабах с ними, о чём в Разделе уже писалось не раз и не два.

А я с этим тезисом не согласен. Та же ревизия электродинамики очень сильно изменит радиопромышленность. Хоть и будет затрагивать всякие субядерные силы.

Естественно человек просто шутит, у любого открытия в фундаментальной физике практических применений гора и маленькая тележка.

Сейчас физики подбираются к созданию Теории всего, возможности смоделировать любые возможные физические законы Вселенной и их фундаментальные константы. А это уже возможность полного моделирования Вселенной.

Теория всего
Существует ли теория, которая объясняет значения всех фундаментальных физических констант? Существует ли теория, которая объясняет, почему законы физики таковы, как они есть?
Теория всего — гипотетическая объединённая физико-математическая теория, описывающая все известные фундаментальные взаимодействия.
Первоначально данный термин использовался в ироническом ключе для обозначения разнообразных обобщённых теорий. Со временем термин закрепился в популяризациях квантовой физики для обозначения теории, которая бы объединила все четыре фундаментальные взаимодействия в природе.
В течение двадцатого века было предложено множество «теорий всего», но ни одна из них не смогла пройти экспериментальную проверку, или существуют значительные затруднения в организации экспериментальной проверки для некоторых из кандидатов.

Каждое открытие приближает нас к созданию этой теории. К примеру, недавняя новость:

https://ria.ru/20190321/1551997004.html

Физики ЦЕРН приблизились к разгадке пропажи антиматерии из Вселенной

МОСКВА, 21 мар – РИА Новости. Ученые приблизились к разгадке тайны исчезновения антиматерии, обнаружив расхождения в том, как распадаются D-мезоны, короткоживущие тяжелые частицы и античастицы. О результатах опытов на БАК рассказывает пресс-служба ЦЕРН.

"Это действительно большой прорыв в физике частиц. С момента открытия D-мезона, что произошло 40 лет назад, мы подозревали, что нарушение CP-инвариантности происходит именно в этой системе. Только сейчас коллаборация LHCb "увидела" этот эффект, проанализировав весь набор данных, собранных экспериментом", — заявил Экард Эльзен (Eckhard Elsen), директор ЦЕРН по вычислительным технологиям и исследованиям.

Как сегодня считают ученые, в первые мгновения после Большого взрыва возникло равное количество материи и антиматерии. При этом Стандартная модель физики говорит о том, что свойства частиц антиматерии зеркально повторяют характеристики своих близнецов, за исключением заряда. Иначе говоря, химические и физические свойства атомов антиматерии и материи должны быть идентичными.

Так как материя и антиматерия аннигилируют при столкновении, во время рождения Вселенной их частицы должны были уничтожить друг друга, лишив мироздание всех запасов и материи, и антиматерии. Поэтому возникает вопрос - куда "пропала" антиматерия и почему существует Вселенная.

Считается, что одна из причин "асимметрии материи" может заключаться в существовании небольших, но достаточно существенных различий в устройстве и свойствах частиц антиматерии. За последние годы физики нашли несколько намеков на то, что такие различия, например в массе протонов и антипротонов, все же существуют, однако их точное изменение затрудняется низкой точностью приборов и микроскопическими масштабами этой асимметрии.
Подобные поиски сегодня ведутся на детекторе LHCb, предназначенной для поисков и изучения экзотических тяжелых частиц, не вписывающихся в Стандартную модель физики. Два года назад участники этой коллаборации уже находили следы этой асимметрии в распадах так называемых лямбда-барионов, однако накопленных ими данных немного не хватило для признания этого открытия.

Сегодня участники этой коллаборации объявили о том, что им удалось накопить достаточное количество данных для того, чтобы заявить об открытии подобных нарушений в распадах так называемых D-мезонов.

Они представляют собой частицы, содержащие в себе один тяжелый "зачарованный" кварк и один обычный верхний или нижний кварк, из которых состоят протоны и нейтроны во всех атомах Вселенной. Эти частицы крайне редко возникают на БАК и живут меньше триллионной доли секунды, распадаясь на пары каонов и пионов с противоположными знаками.
Подобные частицы достаточно давно интересовали участников проекта LHCb, так как в прошлом физикам еще не удавалось проследить за тем, нарушается ли "симметрия" материи и антиматерии при распадах мезонов, содержащих в себе "зачарованный" кварк" или другие его "кузены", заряженные положительно.

Ученые ЦЕРН провели первые замеры такого рода, сравнив частоту распадов нейтральных D-мезонов, содержащих в себе один зачарованный кварк и верхний антикварк, а также их "двойников" из мира антиматерии, устроенных противоположным образом.

Для этого физикам пришлось объединить и собрать все данные, полученные LHCb с начала его работы в 2011 году и заканчивая декабрем 2018 года, когда коллайдер был остановлен для очередного крупного обновления.

Реализация этих планов заставила участников LHCb решить необычную и нетривиальную задачу – понять, как различить результаты распадов мезонов и антимезонов, если их продукты имеют одинаковую массу и другие свойства, за исключением заряда.

В этом им помогло то, что рождение нейтральных D-мезонов сопровождается появлением двух типов заряженных частиц, пионов и мюонов, по избытку которых можно определить, с каким типом материи они имеют дело.

Эти замеры показали, что анти-D-мезоны распадаются на 0,15% чаще, чем их "обычные" кузены, что подтвердило подозрения ученых. С одной стороны, это открыло возможность для поисков "новой физики" в поведении "зачарованных" и верхних кварков.

С другой стороны, пока нельзя точно сказать, выходят ли эти расхождения за рамки Стандартной модели — она предсказывает их существование примерно в том же диапазоне значений, но не дает точные оценки по тому, насколько сильно должна различаться частота распада частиц и античастиц.

Как надеются ученые, последующие опыты с "зачарованными" частицами помогут уточнить ее предсказания и понять, "нарушают" ли ее постулаты D-мезоны и где стоит искать новые силы природы и прочие проявления физики за пределами Стандартной модели.

[Проходящий Кот]

Тема не мешает?

[Rattus]

у любого открытия в фундаментальной физике практических применений гора и маленькая тележка

Перечислите все практические применения открытой сто лет назад общей теории относительности.

Сейчас физики подбираются к созданию Теории всего, возможности смоделировать любые возможные физические законы Вселенной и их фундаментальные константы.

Т.е. вышеприведенные сведения о пределах вычислений Вам ничего не сказали и вы решили продолжить диатлировать бетонный столб. Ну ОК.

А это уже возможность полного моделирования Вселенной.

И про принцип неопределённости тоже так и не осведомились, даже когда ВАм на него прямо указали?
Это всё хорошо, вот только общение в режиме одностороннего чревовещания aka "чукча не читатель" не ровен час может привести к санкциям по п.3.1.д Правил Форума.

К примеру, недавняя новость

Не более чем про очередное экспериментальное подтверждение 40 лет как известного в теории эффекта. Хорошая новость про успех фундаментальной науки, ничего не дающий практике.

[Seven7]

у любого открытия в фундаментальной физике практических применений гора и маленькая тележка

Перечислите все практические применения открытой сто лет назад общей теории относительности.

Опять шутите? По какой причине ОТО была создана? Чтобы объяснить наблюдаемые отклонения в траекториях планет Солнечной Системы. ОТО позволяет радикально уточнять траектории объектов Солнечной Системы, в том числе астероидов и комет, который могут столкнуться с Землей и всех поубивать, как динозавров. Какое ещё более прикладное значение может быть?

Сейчас физики подбираются к созданию Теории всего, возможности смоделировать любые возможные физические законы Вселенной и их фундаментальные константы.

Т.е. вышеприведенные сведения о пределах вычислений Вам ничего не сказали и вы решили продолжить диатлировать бетонный столб.

А это уже возможность полного моделирования Вселенной.

И про принцип неопределённости тоже так и не осведомились, даже когда ВАм на него прямо указали?

Есть какие-то определенные трудности, не спорю. И что дальше? Это что ли доказывает невозможность создания Теории всего или возможности полного моделирования Вселенной от начала до конца? Ничего это не доказывает.

Вполне может быть, что создание теории квантовой гравитации позволит выйти на новый уровень вычисления - субатомный уровень (квантовый компьютер). Или это позволит решение проблемы темной материи, которая определенно мотивирует в разработке новой теории в физике, как это и было раньше с ОТО.

[Инопланетянин]

ОТО позволяет радикально уточнять траектории объектов Солнечной Системы, в том числе астероидов и комет, который могут столкнуться с Землей и всех поубивать, как динозавров. Какое ещё более прикладное значение может быть?

1 Не позволяет. Всё же они движутся сильно не с релятивистскими скоростями и поправки на лоренцево сокращение длин будут несущественны. Это вам не навигаторы корректировать.
2 Ну узнаем мы, что к нам приближается каменюка в десяток-другой км. и что? Как будете отгонять? А Челябинский метеорит? Его заметили только когда он уже грохнулся.
В общем, нет такого применения, не выдумывайте.

[Seven7]

ОТО позволяет радикально уточнять траектории объектов Солнечной Системы, в том числе астероидов и комет, который могут столкнуться с Землей и всех поубивать, как динозавров. Какое ещё более прикладное значение может быть?

1 Не позволяет. Всё же они движутся сильно не с релятивистскими скоростями и поправки на лоренцево сокращение длин будут несущественны. Это вам не навигаторы корректировать.

Загляните в Википедию и прочитайте почему была ОТО создана. Как говорится чтобы в начале курица или яйцо.

https://ru.wikipedia.org/wiki/Смещение_перигелия_Меркурия

Аномальное смещение перигелия Меркурия — обнаруженная в 1859 году особенность движения планеты Меркурий, сыгравшая исключительную роль в истории физики[1]. Это смещение оказалось первым движением небесного тела, которое не подчинялось ньютоновскому закону всемирного тяготения[комм. 1][1]. Физики были поставлены перед необходимостью искать пути модифицировать или обобщить теорию тяготения. Поиски увенчались успехом в 1915 году, когда Альберт Эйнштейн разработал общую теорию относительности (ОТО); из уравнений ОТО вытекало именно такое значение смещения, которое фактически наблюдалось. Позже были измерены аналогичные смещения орбит нескольких других небесных тел, значения которых также совпали с предсказанными ОТО.

Лауреат Нобелевской премии по физике Ричард Фейнман заметил[2], что долгое время ньютоновская теория тяготения полностью подтверждалась наблюдениями, но для объяснения едва заметного отклонения в движении Меркурия потребовалась коренная перестройка всей теории на основе нового понимания гравитации.

Без учета ОТО не получиться проводить сверхточный прогноз траектории объектов Солнечной Системы.

[MenFrame]

Вполне может быть, что создание теории квантовой гравитации позволит выйти на новый уровень вычисления - субатомный уровень (квантовый компьютер)

Вполне возможно, если бы вы имели какое то представление о физической реализации компьютинга, вы не мололи бы подобной чуши.
К тому же реализация квантового компьютера совершенно не нуждается в теории квантовой гравитации.

[Seven7]

Вполне может быть, что создание теории квантовой гравитации позволит выйти на новый уровень вычисления - субатомный уровень (квантовый компьютер)

Вполне возможно, если бы вы имели какое то представление о физической реализации компьютинга, вы не мололи бы подобной чуши.
К тому же реализация квантового компьютера совершенно не нуждается в теории квантовой гравитации.

Это как раз Вы молите чушь. Современный квантовый компьютер не имеет ничего общего с концепцией настоящего квантового компьютера (вычислительного устройства, который использует субатомный уровень для вычислений). Настоящий квантовый компьютер ещё не создан, иначе никто бы до сих пор не вкладывал огромные деньги в освоение новых технорм кремниевых процессоров.

Основной затык теории квантовых вычислений как раз и заключается в недоработке квантовой теории, отсутствие связующего звена между теорией относительностью и квантовой механикой (теория квантовой гравитации).

[MenFrame]

Это как раз Вы молите чушь. Современный квантовый компьютер не имеет ничего общего с концепцией настоящего квантового компьютера (вычислительного устройства, который использует субатомный уровень для вычислений). Настоящий квантовый компьютер ещё не создан, иначе никто бы до сих пор не вкладывал огромные деньги в освоение новых технорм кремниевых процессоров.

Основной затык теории квантовых вычислений как раз и заключается в недоработке квантовой теории, отсутствие связующего звена между теорией относительностью и квантовой механикой (теория квантовой гравитации).

Все что вы написали к квантовому компьютингу отношения не имеет. Просто какой то набор суеверий. За версту видно что данной тематикой совершенно не интересуетесь.
1. Квантовые когерентные компьютеры созданы и работают. Но пока имеют малое количество кубит. Потому технической ценности не представляют.
2. Квантовые вычисления не заменяют классические. Вернее заменяют в очень узком классе задач, вроде факторизации больших чисел. Единственное полезное применение квантового компьютера это сложная химия. Во всем остальном он классическому компьютеру не конкурент.
3. Сложность создания квантового компьютера чисто техническая. И состоит она в том чтобы достаточно долго поддерживать когерентное состояние большого числа кубитов в когерентном состоянии. То есть это проблема контроля за внешними шумами которые разрушают когерентность кубитов.
4. Квантовая теория электромагнетизма как раз хорошо доработана. И она даже теоретически пересекается с квантовой теорией гравитации только на очень больших энергиях.
Вообщем изучайте предмет чтобы не выставлять себя на посмешище....

[Инопланетянин]

Поиски увенчались успехом в 1915 году, когда Альберт Эйнштейн разработал общую теорию относительности

Тут не написано, что разрабатывали теорию под орбиту Меркурия. Сказано, что когда теория была создана, тогда они и пригодилась в том числе для этой орбиты.
А началось всё с того, что измерили скорость света и выяснили, что она одинакова вне зависимости от скорости наблюдателя.

[Rattus]

Чтобы объяснить наблюдаемые отклонения в траекториях планет Солнечной Системы.

Во-первых не планет, а исходно одного только Меркурия. А во-вторых ну и где теперь практический выход от того?

Без учета ОТО не получиться проводить сверхточный прогноз траектории объектов Солнечной Системы.

С учётом тоже не получится, ибо что с ней, что без неё общего решения задачи трёх тел нет.

Современный квантовый компьютер не имеет ничего общего с концепцией настоящего квантового компьютера (вычислительного устройства, который использует субатомный уровень для вычислений).

Который есть не более чем плод ВАшей фантазии. Которая в разделе - оффтоп. О чём устное предупреждение уже было.

Комментарий модератора раздела

Так что держите теперь с занесением: +30%

Единственное полезное применение квантового компьютера это сложная химия. Во всем остальном он классическому компьютеру не конкурент.

Ну фигзнаит - а прочую нелинейную динамику моделировать (типа погоды и гиперзвуковых планеров)?