Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[Rattus]

может колибри?

Разумеется. Fixed.

Ну так и скрепочник будет этим инвазивным видом.

Не будет. Потому что: 1) он не живой (не замкнутая самовоспроизводящаяся система) и потому в принципе не может представлять собой какой-то там "вид" 2) не адаптирован к этому самому воспроизведению в дикой среде с конкурирующими системами сколь-нибудь заметный срок.

Штука должна быть куда более универсальной.

А мы с вами все должны быть миллиардеры с яхтой. И?

Однако давно одомашены.

Но не сконструированы de novo.

Но всё ещё вырываясь во внешнию среду представляют опасность.

Чем наглядно демонстрируют, что одомашнивание далеко не полно.

Вон сейчас шумят по поводу нападений стай диких собак в городах.

Именно что диких. Это свойство в них не выведено, а унаследовано от дикого предка.

Так цитата обратная от вашего ответа. Хах

И? Это как-то опровергает изложенный тезис?

Фатальные ошибки происходят всего раз и если они бы произошли, мы бы уже не разговаривали.

Ясен перец есть ошибка наблюдателя. Но единственный нам известный пример потенциально-фатальной ошибки таки не случается уже более одного поколения принимающих решения. Это никак не говорит о том, что система совершенно безопасна, но с течением времени повышает оценку её безопасности. Других более общих и объективных критериев просто нет.
Той же "технологии" о которой идёт речь, не только не существует на данный момент, но нет даже внятного описания её возможных физических характеристик. Что делает её неотличимой от "Всемогущего Господа" и как следствие - не являющейся предметом содержательного обсуждения сверхъестественной сущностью согласно  п.5.3. Правил Раздела и подлежит устранению модератором как нарушение п.3.1.ж Правил Астрофорума.

[Rattus]

В альтернативной либертарианской реальности, где частным компаниям позволяется делать всё что угодно, по всему миру одни законы и госграниц по сути не существует.

[Rattus]

и даже бухгалтера не имеет который должен подписывать счета на покупку огнеметов и бомб.

Главбухом может быть и сам ИИ. Хотя бы в принципе. Собственно там ему место в первую очередь. Счета же по любому должен подписывать гендир - лицо, которое по закону любой страны должно быть в компании физическим.

[Rattus]

компания, специализирующаяся на онлайн-играх

О да - это очень материальный "продукт"! Такие "автодиректора" существуют с позапрошлого века - тогда они получили название "одноруких бандитов". А более близкий к рассматриваемой теме пример имеется? Ну там - директор Cyberdyne, Raytheon, Lockheed Martin, General Dynamics, Northrop Grumman.. - не?

Адаптивное уже более-менее равнозначно самосохранению. Поэтому, «адаптивное, направленное на самосохранение», это немножко «масло масляное».

Да. Просто это был оборот речи - дублирование синонимов в ряд для лучшего понимания-усвоения.

Интеллектуальное вовсе не равнозначно адаптивному

Безусловно - современные ИИ-системы примерно раз такие как раз. Интеллект любого молодого самоубийцы так же по итогу неадаптивен. Поэтому разумным мы его и не называем - о чём Вы ниже и пишете.

Тогда становится излишним понятие разум

А вот когда «адаптация, направленная на самосохранение», происходит с помощью интеллекта, тогда это уже проявление разумности.

Нет - ибо также мы не называем им и вполне адаптивное и довольно интеллектуальное поведение енота или серой вороны. Таким образом получается, что разум - это адаптивный ("эгоистичный") интеллект очень высокого ("околочеловеческого") уровня.

[Rattus]

Вопрос был возможен ли вообще ген.директор ИИ, не так ли?

В плане исключения для компании в сфере развлечений и в отдельных двольно небольших странах - как экзотика - ОК.
Тогда уточняем: как легально и множественно применяемое и долговременно устойчивое явление в крупнейших странах мира в компаниях, непосредственно вовлечённых в материальное производство и/или обслуживание инфраструктурно-значимых продуктов (не конфет, ювеликрки, etc.).

Весь этот сценарий "уничтожения из-за скрепок" - стоит на таком количестве предпосылок что я не понимаю как серьезные люди еще могут его рассматривать.

Насколько могу судить, серьёзные и не рассматривают. Рассматривают только всякие недоучившиеся "гуру" схоластики типа Ализера Юдковского и примкнувшие к ним адепты нанокибертехноэнтузазизма, а также эксплатирующие их внимание разношёрстные телебалаболы.

ИИ должен быть настолько туп чтобы не понимать истинной цели его задания (обеспечения людей скрепками). Он понимает только буквальный приказ - производить скрепки несмотря ни на что.

Ага - это аналог весьма жёсткого инстинкта у животных. Тот факт, что с ростом интеллекта и в отсутствие ограничений на объём мозга - как у приматов - жёсткость и количество инстинктов падает вплоть до нуля у гоминид - никаких сомнений и размышлений у адептов не зарождает.

При этом ИИ одновременно сильно умнее человека

При этом люди должны быть настолько глупы чтобы не обеспечить никаких мер безопасности

Неукоснительное соблюдение взаимоисключающих параграфов - характерный симптом исповедников Свидетелей Техносингулярности и прочих современных эсхатологических псевдорелигий.

[Rattus]

Так подождём ещё парочку лет и начнётся. Пока только первые ростки. Не забываем, что весь этот прорыв в ИИ недавно стартовал. Одна компания за другой будут переходить на автоматизацию.

Эх, какой потом будет громкий "Хлоп!" - когда эдакий перегрев в очередной раз столкнётся с очередным афедрончикомЪ реальной экономики - может даже почище доткомов - со стайками выпархивающих из окон белых воротничков, десятками дел о мошенничестве...

Мика, недавно назначенный генеральным директором (CEO) польской компании по производству спиртных напитков Dictador Holdings, является первым в мире руководителем компании, созданной с использованием искусственного интеллекта (ИИ).

Во-во: онлайн-казино, крепкий алкоголь - всё очень нужные обществу и цивилизации продукты. Замечательные, показательные примеры.

(кликните для показа/скрытия)

Вон например один часто обсуждаемый бизнесмен купил власти, чтобы не мешали ему пускать ракеты.

Вот уж правда: если в этой самой стране вдруг внезапно и заработает этотваш самобраночный корпоративный скайнет, то можно будет порадоваться, что проживаешь в иной части деглобализирующейся ойкумены (особенно если подальше от внешней границы, крупных военных объектов и - на всякий случай - мегаполисов).
"Спасибо товарищу Владимиру Вольфовичу Тр-мпу за своевременную спасительную от страшслых корпоративных ИИ-макcимайзеров деглобализацию - от обитателей провинций "второго" и "третьего" миров!"
Polnoch Ксю, ви там репатриироваться ещё не возжелали, часомъ, в свете изложенного? Тут уже тоже хорошо: может быть и придётся делать два раза ку господину ПЖ за миска рис, зато весь ВАш гемоглобин не пустят на скрепки - только поллитра и "добровольно" - для переливания пострадавшим Защитникам.

Похоже, что х/ф Колобаха таким образом стремительно обратится в реальность с обоих сторон...

[Rattus]

Сунь руку в рабочую зону, отпилит без проблем

Ну, "защиту от дурака" никто не отменял же - оптический датчик+лазер на присутствие постороннего предмета в рабочей зоне ставится элементарно и стоит ныне копейки. Как и концевики под крышки/кожухи - уже наверное более века.

Сверхинтеллектуальному максимизатору скрепок плевать на определения в ВЖР.

Разумеется - как и любой выдуманной сущности. А вот модератору совсем не плевать на нарушение п.5.3. Правил Раздела - принятого уточнения для п.3.1.ж и д Правил Форума.

Он прекрасно, как сверхинтеллектуальный автономный агент, будет понимать что рубит сук на котором сидит. Но ему будет плевать - ценности собственного воспроизводства в будущем у него нет. А вот максимизировать скрепки - есть.

А можно ли назвать это поведенеие разумным? Кстати вопрос всем участникам: назовёте ли вы поведение самоубийцы (не с целью самопожертовования /эвтаназии в медицинском терминальном состоянии) разумным?

Люди, которые совершают геройские поступки, самоубийство во имя своих ценностей - могут быть очень интеллектуальными. Далеко не всегда они взрываются, выкрикивая религиозные лозунги.

Можно выкрикивать и националистические/имперские/социалистические лозунги - надеюсь, для ВАс как минимум в данном случае разница тоже непринципиальна. Примеры именно заведомо совершенно самоубийственого поведения не на поле боя/революционном городе, а в кабинете за письменным столом (причём даже не физически прямого, а "управленческого" - именно посредством работы за этим самым письменным столом в широком смысле по его назначению) и во имя какой-то внешней более-менее объективно существующей цели?

такие глобальные катастрофы, как близкие гамма всплески,

С чего бы им быть? Какой потенциальный источник существует настолько близко?

удары астероидов

Матожидание этих событий каково?

Современные LLM постоянно совершают такое "самоубийство" - они тренированы на то, чтобы выдать максимально правильный ответ, а не заниматься словоблудием

Большинство современных, особенно нерассуждающих LLM тренированы на то, чтобы выдать не правильный, а удовлетворяющий спрашивающего ответ. И это, кстати - уже пример адаптивного по сути поведения: ИИ нацелен писать не суровую правду, а то, что от него хотят услышать. Что это пересекающиеся, но не тождественные множества вы, надеюсь, понимаете?

Я даже не исключаю AI-зиму в ближайшем будущем

Если это случится, то с учётом прекращения действия "парникового" закона Мура, это станет не зимой, а уже ледниковой эрой. И тогда

большая часть постеров в ВЖР

будет совершенно права. А Вы будете ждать новой "весны" как ранние христиане Второго Пришествия - на того же уровня реалистичности основниях. Нетушки, ребяты - либо в эту пятилетку, либо уже никогда в обозримом будущем. И так ли иначе, получившиеся AGI, что будут созданы в это время, смогут дать на этот вопрос экспертный ответ лучше любого человеческого эксперта. что положит конец спорам в любом случае. И самое забавное, когда об объективных ограничениях возможностей собственного дальнейшего усложнения будет развёрнуто аргументированно и доступно разъяснять сам сильный AGI (На мой вкус сильный AGI - т.е. просто доказанно статистически умнее всех живых экспертов в области - уже = ASI). Вы считаете, что это невозможно или крайне маловероятно?
Или считаете, что это будет только намеренное введение в заблуждение со стороны сильного AGI (т.е. по сути ИИ-конспироложество)? Или что он заблуждается (а Вы тогда типа умнее и прозорливее олицетворяемого им результата и опыта всей науки в этой области, т.е. продемонстрируете эффект Даннинга-Крюгера этим примером)?

Так как paperclip maximazer может быть сверхинтеллектуальным агентом, определенно, это он с жизнью справиться

Если это paperclip maximzer, и запущенный на базе ASI-модели (а точнее, роя автономных агентов), то это сверхсила. Такая, которой не было никогда ни в истории человечества, ни планеты.

Это всего лишь псевдорелигиозный лозунг, за которым нет никакого естественнонаучного обоснования. Вы сами вольны верить во что угодно, но здесь будьте добры - подкрепляйте все свои сильные и выходящие за рамки установленного знания тезисы соотвествующим обоснованием. Иначе это будет квалифицировано как религиозно-эзотерическая пропаганда фантастических сущностей сверхъестественной силы - нарушение п.3.1.ж (и д.) Правил Астрофорума.

Иллюзия, очень опасная иллюзия. Почти любому типу rogue AI, и уж тем более paperclip maximazer'у (хотя... зависит от system promt'а) будет плевать на национальные границы. Поверьте, Вас тоже поймают

Десятки занрю не только смотрят на это как на вражескую пропаганду, но и наглядно доказывают это своим примером. Ему вторят партизаны Северного Вьетнама и доступно разъясняет выживший после бомбардировки Дрездена Курт Воннегут.
С чего Вы вообще решили, что доведение какой-то узкой технологической задачи (даже чисто деструктивной) до глобального предела без саморазрушения необходимой для этого технологической базы задолго до достижения результата должно иметь решения?

Последние будут срыты

Как? Чем?

И марианскую впадину тоже пробомбит глубинными бомбами

Вы знаете такие бомбы? Их физически возможный радиус действия? Другие впадины, шахты, пещеры и т.д. и т.п. ВАм неизвестны? Вы в походы дальше пригорода собственного города хоть раз в жизни ходили-ездили? Были в горах вне огороженных троп? Открытом море? Сколько небольших городов и посёлков (меньше полумиллиона жителей) вы видели в своей жизни? Или хотя бы картой, списком? Кем и как поддерживается в них инфраструктура, знаете? Как организована жизнь во время войн или прочих катастроф там и в поселениях по-соседству?

шанс для нас с вами оказаться среди выживших крайне мал

Речь кагбе не о нас, а о цивилизации, её уровне и носителях как минимум исторически-заметный срок. А лучше - геологический/астрономический. В который раз спрошу: Вы название форума, на одном из основных разделов которого пишете - давно читали?

что остатки человечества будут делать с насмерть ушатанной инфраструктурой

То же что и другие убиквитарные виды теплокровных - жить, выживать.

Скорее всего, ничего, одичают и вымрут через какое-то время.

Да будет ВАм известно, что человечество стало таким видом задолго до того как даже освоило плуг и приручило копытных. А убиквитарные виды лучше всего переживают даже природные массовые вымирания.

убитой экологией

Бессмысленное сочетание слов. Экология - это наука о (прежде всего) трофических связях в экосистемах. Экологию убивают прежде всего такими безграмотными словосочетаниями.

и башнями со скрепками до стратосферы

Обсуждение ненаучной фантастики - не в этой теме и не в этом разделе.

Земля наш дом, и очень маленький дом (см. аттач).

Абсолютно нерепрезентативная картинка. Это не Земля маленькая, а наблюдаемая вселенная - огромная. Наша "точка зрения" (масштаб разрешающей способности зрения) находится аккурат в середине всех масштабов доступной реальности: от планковских длин до сферы "света первых звёзд" нашего "пространственно-временного конуса" (или вроде того). От масштаба роста человека до комплексов маробиомолекул или мелких вирусоа столько же порядков длин, сколько в обратную сторону - всего лишь до Луны. Далее же что вверх, что вниз по шкале масштабов разнообразие и сложность явлений падает dramatically.

[Rattus]

возможна оцифровка сознания, при этом не создание копии! а мягкий перенос личности в цифру

Нет. Ну разве что последовательной заменой частей мозга имплантами - да и то это будет по сути эрзац-эмуляция, ибо даже объёмное сканирование с субклеточным разрешением всего подвижного макрообъёма невозможно.

мы можем просто исчезнуть.

Просто (быстро) - не можем.

Почему жизнь? Потому что происходит от жизни.

От жизни происходит и уголь, и нефть, и природный газ...

С этого момента законы природы перестанут быть фиксированными – ASI сможет управлять самой структурой реальности. Тогда причинно-следственные связи станут не жёсткими правилами, а редактируемыми параметрами. Не бейте сразу ногами!

Это почему же? Рассказы про то как вдруг запляшут облака и обнажатся кисельные берега - не для основных разделов Астрофорума.

Все ИИ у нас работают как квантовые алгоритмы.

Нет - у нас они работают совсем не так.

Это не классические ИИ.

А сказочные, судя по всему.
Квантовый компьютер - как универсальный вычислитель - до сих пор не создан и неизвестно - сможет ли быть создан когда либо в реальности. Все существующие машины - узкоспециализированные квантовые "калькуляторы" для квантовых же физических расчётов.

[Rattus]

Самоубийцей может двигать депрессия, отчаяние или какие-то другие негативные эмоции. Имеет ли эмоциональная мотивация отношение к разуму? Имеет ли вообще мотивация отношение к интеллекту?

Вопрос был не о мотивации. Вопрос был о конкретном поведении.

10 км это высота гор.

Над уровнем моря? На какой планете?

[Rattus]

Почему-то мне кажется, что история о paperlcip maximazer имеет неразрешимое внутреннее противоречие, и поэтому нерелевантна. Противоречие состоит в том, что если для производства одной дополнительной скрепки надо потратить кучу ресурсов для производства  танковой колонны, которые могли быть потрачены на производство миллиона скрепок, то электронные мозги скорее всего замкнет как буриданова осла или еще как-то.

Что в реальности тактика и стратегия появляются и сталкиваются лбами постоянно и на почти любом масштабе требуя уточнения (а по факту - изменения) выбора на уровне целеполагания, а в случае избрания стратегического пути. его успешность и уровень этого успеха зачастую невозможно спрогнозировать в принципе, должно быть "понятно и ежу", но не нынешним наследникам средневековых схоластов-теологов.

т.к. в результате просчетов может выясниться. что военные издержки вредят больше бездействия.

Верующие во неизбежность ИИ-опокалепсеса эту возможность с гневом отвергают. Ибо ASI ВсемогущщЪ и ВездесущщЪ и пи для него в военное время может достигать четырёх.

Ну и на чисто бытовом уровне - если мой робот-садовник с целью максимизации урожая яблок предложит сначала убить соседей и захватить их землю, чтобы там посадить яблони, то он будет незамедлительно отключен,

Подразумевается, что отключить будет уже некому и оно станет работать в режиме Машины Судного Дня.

[Rattus]

Поведение определяется мотивацией.

В данном случае меня не интересует чем что определялось - меня интересует только готовность присвоить указанное понятие конкретному типу зарегистрированного поведения.

Вы говорите "нет", но на самом деле этот вопрос остаётся открытым в нейронауке и философии сознания.

Философия в принципе неспособна закрыть ни один вопрос - на то она и философия. Все области знания, где вопрос удаётся закрыть, становятся с этого момента отраслью науки, а цепь аргументации, преведшая к этому закрытию - теорией в ней. "Наука - это сумма запретов." - И.С. Шкловский.
Что же касается нейронаук - то они вообще в принципе не занимаются такими сказочными вопросами. Если вы подойдёте к любому квалифицированному специалисту в этой области - он посмотрит на вас или как на полного дилетанта или как на умалишённого. Нейронауки занимаются изучением чего и как работает и устроено в мозге и фиксируемо объективными тестами, а не как что-то тупо перенести или скопировать один в один посупрамолекулярно, не разобравшись что там за что отвечает и нужно ли оно вообще в надежде, что оно будет содержать какую-то плохоопределённую философскую сущность.

Есть модели, в которых перенос личности в цифровую среду может происходить не как разрыв (копирование), а как непрерывный процесс переноса информации, где сохраняется ощущение целостности "Я".

Ну это как раз то, о чём писалось. Какое-то ощущение, наверное, можно сохранить и при утрате вообще бОльшей части мозга и его функций. Или последующей заменой на какие-то произвольные. Возникает вопрос - вАм нужно именно оно, или что-то ещё тоже имеет ценность? А что именно? Случайное воспоминание о каком-то не особо важном событии или вещи из детства, которое может быть забыто и естественным образом? Знание какого-то иностранного языка? Умение интегрировать и дифференцировать? Сюжет прочитанного романа?
Всё целиком - невозможно и не нужно для практики. Тогда что?

Вы сравниваете мои слова с "кисельными берегами", но я говорю о вещах, которые серьёзно обсуждаются в квантовой механике, теории информации и космологии.

Вещи, которые серьёзно обсуждаются в квантовой механике, обсуждаются с уравнениями и экспериментальными установками: повторители для квантово-защищенных линий связи и т.п. Всё что связано с ИНЕТРПРЕТАЦИЯМИ квантовой механики - обсуждается несерьёзно по определению. Со времён Дэвида Мермина. Космология же отношения к практике никакого не имеет и иметь не может. А теория информации вообще давным-давно завершена. Собственно Шенноном же.

[Rattus]

Для человека - неразумно. Для сферического интеллекта в вакууме - ?

Мы используем язык по назначению (не нарушаем п.3.1.д ПАФ) только пока мы присваиваем определения реально существующим явлениям (Людвиг Витгенштейн исписал кучу бумаги, чтобы доказать хвилософам эту банальность). И экстраполируем именно выделенные на них свойства на новообнаруженные явления. Очень желательно - как можно более аккуратно и тщательно. Иначе "условно-разумным" можно называть и Ремингтон с неонкой внутре - бумага и хост форума всё стерпят.

[Rattus]

Ну, значит, придётся пользоваться антропоцентричными понятиями.

На самом деле они зачастую оказываются не так уж плохи и антропоцентричны: интуитивное - это совсем не значит неточное или неверное. Поэтому общепринятое понимание слов всяко желательно учитывать при начале составления системы определений для новой области явлений - может быть что-то хорошо сгодится в готовом виде почти без изменений.

[Rattus]

Просто выставили неправильные критерии оценки, слишком сильно штрафовали за неудачи ,слишком мало за убийства, да ещё нету штрафа за бездействие.

Именно. Причём тут даже ИИ ненужно - у меня так боты в DEFCON режим Survivor играют всегда: "лучшая стратегия - не играть" - строго по классике.

Из отцов - Эйнштейн, Бор, Гейзенберг, Шредингер

Занимались. Но успеха достигли в своей основной сфере.

Слушайте, в начале 20 века квантмех тоже выглядел "сказкой" для многих физиков.

За объяснение фотоэффекта в 1905 году Эйнштейну вручили ноблевку всего через 15 лет. Причём он выглядел так и дальше для самого Эйнштейна. Но факты - вещь очень упрямая, а настоящие физики их не могли не признавать сразу, как только они были надёжно установлены.

вы также прекрасно знаете, что СТО и ОТО не была принята 95 % физиков во время публикации.

Релятивизм по сути развитие подходов как раз классической физики - даже доньютоновской - принципа относительности Галлилея:
https://elementy.ru/nauchno-populyarnaya_biblioteka/437368/Byl_li_Eynshteyn_klassicheskim_fizikom
Самой контринтуитивной оказалась как раз квантовая - но она оказалась и самым продуктивным в т.ч. и для практики направлением (вместе со СТО, которая в неё интегрировалась вполне - объяснив цвет золота и жидкость ртути). С неё корёжило (и продолжает корёжить) множество физиков не со стороны, а ею как раз и занимавшихся. Но опять таки - факты оказались очень упрямой вещью...

Физики старились, умирали и переставали мешать - это подробно описано серьёзными учеными современниками. Давайте обойдемся без  подобного драматизма.

Насколько знаю, настоящий драматизм тут был гораздо раньше - в предыдущем веке - между Л.Больцманом и Э.Махом. А релятивизм и квантмех так оглушительно прогрохотали после 1905 Annus Mirabilis, что ретроградство даже не смогло как-то заметно проявиться. Планк, Эйнштейн, Бор, позже Шрёдингер стали сверхновыми звёздами в науке достаточно быстро, AFAIK.

Но я тут же признаю свою неправоту, если вы озвучите запрет. Есть запрет?

Если мы допускаем не физически-точное, но достаточное для практики эмулирование функций, то не в запрете в данном случае дело, а в определениях: какие именно свойства планируется переносить и что будет считаться критерием свершившегося переноса. Как ранее писал, даже личный дневник и архив переписки может считаться достаточно точной копией личности автора, на которых можно, например, откалибровать чатбота до полной неотличимости от оригинала даже со стороны довольно близких людей, если они специально не заморочились секретными вопросами.

каждая из них предлагает разные прогнозы о природе реальности

"Природа реальности" и прочая "истинная суть вещей" - предмет философии, а не физики, о чём ещё Р.Ф.Фейнман говорил неоднократно.

Это как сказать, что математика "завершена", потому что придумали числа.

Точнее основную теорему арифметики. С тех пор придумали даже гипотезу Римана, но принципиально ситуация с числами осталась там же: появление простых чисел "не предсказуемо".

[Rattus]

Шредингер написал философскую работу "What Is Life?" , опубликована в 1944.

Это не философия, а популяризированное изложение того, чем являются живые системы с т.з. физики. Причём только начальное. До ума этот подход (т.е. до подвода к ответу на вопрос - почему локально-неравновесные метастабильные системы вообще должны возникать в природе) был доведён только Пригожиным - опять таки чисто физически.

Шредингер буквально умозрительно и философски указал, что нужно искать "апериодический кристалл"

Умозрительно - в данном случае называется научная гпотеза, а в философии нет никаких кристаллов - ни периодических, ни апериодических. Они есть в физике, химии и их междисциплинарной области - кристаллографии.

Философия ничего не создала.

Именно. А всё потому, что "случайные открытия делают только подготовленные умы" (Луи Пастер). Т.е. подготовленные на базе установленного научного знания. Практически любой чистый физик может очень быстро стать философом, но чистый философ никогда больше не сможет стать физиком.

[Rattus]

Ага, особенно цитаты античной "Веданты" (древнеиндийский философский трактат)

В послесловии. И что? У Космолога Виленкина даже в статье по специальности была ссылка на Августина Аврелия. По сути это лишь указание, что данные вопросы рассматривались ранее и когда это было.

Популяризация - это упрощённое изложение научных фактов, открытий и методов. А Шредингер - просто размышлял о совершенно неизвестной области знаний. Что он популяризировал? - если его критиковали за эту работу именно как за уход в философию...
Дженнингс прямо обвинил Шрёдингера в уходе от науки к философии. Он назвал  размышления Шрёдингера  о сознании, свободе воли - ненаучным философским отступлением. Дженнингс писал: "Эти философские спекуляции не имеют отношения к физике или биологии и выглядят как личные размышления, а не выводы из данных." Никто не говорил, что эта статья - научпоповская, его критиковали - за уход в философию и не научность.

Ну значит это имело место быть. Я же имел ввиду только содержательную часть тех лекций - ту, где как раз и указываются характерные особенности живых организмов с позиций физики. Вся сопутствующая философия - дело самого автора - навроде выбора шрифта и форматирования для своего текста, и к теме особого отношения не имеет.
Ну и наверное собственно научной ценности в этой его работе не так чтобы много по итогу оказалось - это куда скорее удалось сделать чуть позднее Илье Пригожину.

Речь о философии науки. Эйнштейн открыто писал о её важности.

Т.е. о научном методе. Научный метод можно при желании считать философским основанием науки. Но тогда это практически всё, что дала науке философия.

Научная философия и просто философия - отличаются как химия от алхимии примерно.

Тогда научной философией следует считать только те работы, которые как раз продвигали и детализировали научный метод для разных случаев и подходов. Сюда следует отнести непозитивизм Поппера, Рассела, аналитическую философию Фреге и их последователя Витгенштейна... да и пожалуй всё!
Больше там нет ничего полезного для наук.

[Rattus]

ИИ неизбежно станет оказывать благотворное влияние на человечество в плане нравственного совершенствования.

А - ну-ну - оно со времён Сократа его оказывает. И как успехи? Как там с Сократом история закончилась?

[Rattus]

пока это не приведет к одномоментной или растянутой во времени катастрофе (как было с пиханием всюду радиоактивных элементов)

А какая случилась катастрофа с широким применением радионуклидов?
Что-то уровня катастрофы мне известно разве что с производством высокооктановых бензинов при помощи этилсвинца, ДДТ и талидомидом. Ну и более локальные происшествия с химсинтетическими производствами лекарств/пестицидов/полимеров (типа ПТФЭ). Что-то масштабное и именно про готовые радионуклиды как таковые (не топлива для АЭС) - не припомню.

[Rattus]

Меня всегда бесила юридическая позиция IT контор - "вы нам должны, а мы вам ничем не обязаны"

На уровне корпоративных продуктов это уже не так - там контракты иные и разработчик вполне может влететь на крупную сумму если будет доказано, что клиент потерпел убытки из-за глючного софта. Из последнего, хотя и не софтового - Интел уже во всю огребает последствия попустительства со своими новыми продуктами.
Ну и потребительские бывают разные тоже: одно дело - встроенный софт для "смарт-ТВ" и совсем другое - для бортового компьютера автомобиля. Громкие случаи уже были и даже если разрешились удачно для разработчика, сами факты показывают, что в этой области он уже далеко не неподсуден.

[Rattus]

потому, что будет создан девайс, типа шлема, который будет работать так- надел на голову, он считывает сигналы нейронов, и передаёт информацию тоже. Таким образом, как в фильме "Матрица", (или "Ванильное небо") можно будет расширить возможности интеллекта, например выучить иностранный язык за 1 минуту, открыть новые законы физики и т.д.

В волшебной сказке бывает и не такое. Но в данном разделе Астрофорума всё же обсуждаются представления, более близкие нашей физической реальности...

ИИ докажет математические теоремы, гипотезы, и проблемы, и решит вопросы, которые не смог решить ни один человек.

И если их решение будет отрицательным - как это следует и из всех современных проверочных данных - то что это даст?

ИИ, сможет сделать и изобретения в физике, типа открытие новой квантовой частицы

И приравняет Пи к четырём?

Это всё точно произойдёт

Главное - в это верить. Ну можно ещё молиться:  "...Во имя Ctrl, Alt и Del. Enter!"