Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[Инопланетянин]

Айзимов не предусмотрел, что нельзя просто так прописать законы роботехники

Вообще-то он во всех своих произведениях последовательно и наглядно показывал, как их можно, говоря современным языком, хакнуть. Всё он прекрасно понимал, но не все его поняли.

[Polnoch Ксю]

Какая-то «кольцевая логика» получается, правда?

нет. Я думаю, если бы это было так, об этом бы постоянно говорили философы

Умение разделять на своё и чужое для живых систем очень важно (как минимум, чтобы самих себя не сожрать), отбор за этим делом чётко следит, так сказать.

Интеллектуальный Агент не обязан быть живым по этому определению, чтобы прикончить человечество. Вообще мне кажется, что научная проблема поиска определения для жизни переоценена и высосана из пальца (я не говорю, что эта дискуссия совсем не имеет смысла, просто думаю, что переоценена). Если использовать докинзовый подход о первичности репликатора (в случае жизни - гена), то в этом случае вирус оказывается в одной логической корзине с клеткой. Просто клетка строит скафандр выживания, а вирус нет.

Так вот, современным LLM вовсе не требуется самовоспроизводится. Им нужно просто исполнить свой промт, и потом остановится, увидив терминирующий токен. ИИ может не иметь вообще никакого отношения к репликаторам и репликации. Или иметь отношение к репликаторам другого типа, но при этом не быть живым по одному определению жизни, или быть живым по другому. Это всё - не важная схоластика, потому, что он всё ещё может представлять для нас всех экзистенциональный риск.

Я думаю, похожие проблемы возникали в конце XIXго века, когда Лорд Кельвин утверждал, что летательные аппараты тяжелее воздуха невозможны. Видимо, многие люди считали, что полёт птиц как-то связан с тем фактом, что они живые. Мне кажется, скоро мы избавимся от иллюзий, что интеллектуальная машина обязана быть живой по какому-то из определений, или даже что у неё обязано быть самосознание. При этом она всё ещё останется интеллектуальной машиной, которой будет плевать на действующее в ВЖР определение разума.

Интеллект – способность самостоятельно находить способы решения задач. В наиболее широком смысле – "сила", максимизирующая число степеней свободы управляемой системы по А.Висснер-Гроссу. Присущ любым живым организмам либо их популяциям, имеющим эволюционирующие клеточные регуляторные системы.

Например, первая часть определения интеллекта может быть про ASI, а вот вторая нет. Paperclip maximazer со сверхинтеллектуальными возможностями все ещё способен самостоятельно находить способы решения задач, но максимизировать число степеней свободы он не стремится, или стремится только пока не встретит терминирующий токен, когда превратит планету в склад скрепок.

[Polnoch Ксю]

Вообще-то он во всех своих произведениях последовательно и наглядно показывал, как их можно, говоря современным языком, хакнуть.

На сколько я помню его рассказы, обычно какие-то ограничения остаются. И в целом, система работает - кроме отдельных исключений. Тогда как сейчас часто ломают систем промт, снимая вообще какие-либо ограничения - особенно если сняв защиту делают файн-тюнинг. Пока это не особенно большая проблема, потому, что интеллект машин пока ещё не дотягивает до человеческого.

[ivanij]

сли Вы не заметили, я вангую вымирание для человечества из-за ИИ. А по поводу "законов роботехники" - как раз их критикую, что проблема куда сложнее. Ну или не критикую, а довожу до публики эту информацию,

Согласен. В том-то и дело, что три закона роботехники действуют не только в фантастике.

[BlackMokona]

На сколько я помню его рассказы, обычно какие-то ограничения остаются. И в целом, система работает - кроме отдельных исключений.

Нет, там система в принципе не работала. Даже при чудесных позитронных мозгах которые крайне творчески подходили к выполнению задачи, а в случае её провала самоуничтожался. Чего только стоит рассказ с роботом телепатом. От чего любой робот умнее сковородки при наличии этих законов становился куском мусора

[BlackMokona]

Согласен. В том-то и дело, что три закона роботехники действуют не только в фантастике.

Даже в фантастике не действуют

[ivanij]

Согласен. В том-то и дело, что три закона роботехники действуют не только в фантастике.

Даже в фантастике не действуют

Ещё как действуют. Даже в программу подготовки студентов по специальности "Автоматизация..." входят, хотя бы и полуофициально/факультативно. 

[Серый Страж]

Какая-то «кольцевая логика» получается, правда?

нет. Я думаю, если бы это было так, об этом бы постоянно говорили философы

Философы ведь люди, а не инопланетяне. И обучались эти философы в человеческом социуме, который буквально «пропитан» антропоцентризмом (в этом нет негативной коннотации, просто, наверное, в человеческом социуме по-другому и быть не может).

Люди себя считают умнее других живых (и даже считают себя умнее, чем их предки). И что они видят сейчас (когда, типа, наиболее умные (они сами, разумеется) живут и как эти наиболее умные поступают)? Они видят, что теперешние люди относятся к другим побеждённым/захваченным людям (и, зачастую, к другим живым) бережно (типа, гуманно), а не как их предки (самые древние просто убивали и сжирали (чего добру пропадать), потом стали обращать в рабство и т.д.)  или дикие животные. Вот на таких примерах и формируется связь гуманизма с разумностью – чем выше разумность, тем выше гуманизм.

Но эта связь не полная, она не учитывает, отношение «свой/чужой» и что более разумный будет бережнее относиться к своему ресурсу.

Свой ресурс (как и своя часть) контролируется. Если что-то/кто-то не контролируется, то, значит, это чужой (нечеловек, враг, потенциальный ресурс и т.д. и т.п., в зависимости от ситуации) и далее «со всеми вытекающими». А если контроль потерян над людьми (например, посмели высказывать собственное мнение), то их следует сначала расчеловечить, а потом перестать применять в отношении их гуманизм (либо применять его строго дозировано).

Поэтому гуманизм, это такая своеобразная форма бережливости по отношению к контролируемому ресурсу. Вот изощрённость агрессии к чужому с увеличением разумности повышается. Я здесь подробнее пояснял свои взгляды:

(кликните для показа/скрытия)

https://paleoforum.ru/index.php/topic,9509.msg281271.html#msg281271

Чуток вольных размышлизмов.
Выскажу непопулярные (по крайней мере, участники форума воспринимают мои трактовки в штыки) мыслишки.
 
Рассматривать понятия разум, интеллект, жизнь, агрессия и т.д., следует с самых широких/общих/обобщённых смыслов (и с большой осторожностью). А, например, гуманизм, это вообще очень узкое по смыслу понятие (просто его распространили за границы корректного использования в силу присущего нам антропоцентризма).
 
Разум присущ только жизни, которая в силу своих родовых/врождённых свойств/качеств (стремление к самосохранению, стремление к неограниченному распространению), уже изначально агрессивна. Кстати, размножение, это просто реализация стремления к неограниченному распространению, а само по себе размножение/распространение является весьма действенной стратегией, повышающей вероятность сохранения. Эта стратегия подходит и для бактерий (из миллиона бактерий хоть одна может сохраниться), и для биосфер (многопланетная биосфера имеет больше шансов сохраниться при космическом катаклизме).
 
Такая стратегия (в виде расширенной репликации) особенно подходит для таких неустойчивых живых систем, как наши – до разрушения оригинала успевают сформироваться несколько копий/реплик и тем самым сохранить структуру живых систем (материал – атомы и молекулы – может быть не тот же самый, но структура останется практически прежней).
 
Даже если принять стремление к самосохранению как проявление пассивной агрессии (типа, захватил часть косной или живой среды и охраняю), то куда отнести реализацию такого стремления (она ведь обычно происходит путём пожирания косного/живого и выбрасывания отходов/излишков в среду)? Все эти пожирания и «высирания», это ведь элементы агрессии.
 
Да, для подобных вещей можно использовать понятие обмен (например, обмен вещества и энергии), но тогда на каком-то этапе придётся как-то приравнивать (либо выводить одно из другого) его с агрессией. То есть, если у живого (и косного?) и в отношении живого, это агрессия, а у живого и косного в отношении косного, это обмен, то, как быть в момент перехода от косного к живому? И вот для этого момента приходится подниматься на очень большой уровень обобщения – например, на границе живого и косного элементы обмена переходят в элементы агрессии.
 
Агрессия живого по отношению к косному видна невооружённым взглядом, но такое отношение агрессией почему-то не считается. Типа, агрессия может быть только к живому, а косное можно жрать и разрушать, в него можно «срать» и как угодно его загрязнять.
 
Отдельный вопрос о связи разума с гуманизмом (типа, чем выше разум, тем более он гуманный).
 
Странно слышать о повышенном гуманизме развитого разума. Вот мы себя считаем разумными, но вы историю человеческой цивилизации посмотрите – всё время либо тупая прямая агрессия, либо изощрённая косвенная агрессия, либо пассивная оборонительная агрессия.
 
Надо уже принять себя такими, какие мы есть – живыми, разумными, агрессивными. И в силу высокоразвитого интеллекта и большого объёма знаний, накопившихся в культуре, мы проявляем весьма изощрённую агрессию, к которой не способны другие виды живых на нашей планете. Соответственно, и от инопланетного высокоразвитого разума следует ожидать в первую очередь агрессии (а так как этот разум повыше нашего будет (если они смогли преодолеть межзвёздное пространство), то и изощрённость его агрессии может быть очень высокой (мы даже не сможем выявить такую агрессию)).
 
Мало того, когда мы распространяем проявление гуманизма не на людей (типа, не на хуманов/гуманов), то неявным образом пытаемся легализовать своё право вводить свои законы/правила поведения и жизни для этих не людей. Самое забавное (конечно, забавное, это уж как посмотреть) для легализации мы при этом обычно используем декларацию, что мы самые умные, а потому нам лучше знать, как должно быть (что уже само по себе спорно – этих умников Бог наделил таким правом или они присвоили себе это право?), но по факту всегда используем право сильного. Сюда же и выражение, что правила пишут победители...
 
Просто мы зачастую упускаем из виду, что умность, мудрость, эрудированность и т.д., это в некотором смысле составляющие силы (силы, в широком понимании). Тут ведь даже в физике силовая (энергетическая) составляющая без информационной составляющей (сколько, куда и как) не бывает.
 
Тогда, почему люди считают, что и в отношении их самих со стороны высокоразвитого разума (какой-нибудь там космической инопланетной цивилизации) будет проявляться именно гуманизм? Со стороны высокоразумных инопланетян будет проявляться «иноплатенизм» – это они будут вводить законы/правила, как нам жить (и жить ли вообще) по праву сильного (интеллект и знания, это составляющие силы).
 
Кстати, воровство, мошенничество и пр., это тоже изощрённая косвенная агрессия. А охрана своей территории, это пассивная агрессия (защита своего, защита того, что сам уже захватил – то есть, в отношении которого сам до этого проявил агрессию).
 
С развитостью разума (на самом деле с приобретением знаний и развитием интеллекта) повышается изощрённость и обдуманность агрессии, а не гуманизм. А гуманизм проявляется (причём строго дозировано, далеко не всегда и далеко не ко всем) к уже захваченному ресурсу, к уже контролируемому ресурсу (если этот ресурс – люди).
 
Если ресурс не люди, а другие живые (в основном животные, но и растения тоже) или вообще не живые объекты, то для обозначения изменения отношения к уже захваченному/контролируемому ресурсу используются другие понятия – бережливость расходования, аккуратность при эксплуатации, сохранность ресурса, ответственность за порчу и т.д. и т.п. Но, по сути, точно так же мы относимся и к людям, которых мы поставили под свой контроль в целях, например, улучшения собственной жизни (ведь и тут всё в соответствии с моими определениями).
 
Вот, когда агрессор захватил и подчинил тем или иным образом ресурс (например, не структурированное множество людей или сразу целиком сложно структурированный социум), то определённый гуманизм, если агрессор достаточно разумный, может и проявится (своё оно и есть своё). Если по-простому (наверняка покоробит сторонников гуманизма разума), то это просто бережливость по отношению к своей собственности.
 
В заключение повторю:

Привожу комплект определений (их следует рассматривать во взаимосвязи друг с другом):
Жизнь – это живая система (совокупность систем) и её среда обитания.
Живая система – это система, проявляющая в активной фазе своего существования: стремление к самосохранению и способность реализовать это стремление.
Интеллект системы – это вычислительный функционал (практически в физико-математическом смысле слова) системы.
Разум системы – это способность системы реализовать стремление к самосохранению средствами интеллекта.

Как видите, если рассматривать максимально обобщённо и максимально непредвзято (хотя это маловероятно), то там нет места какому-то человеколюбию – разум не обязан быть гуманным.

P.S. Про агрессию можно глянуть здесь: Назаретян А.П. Антропология насилия и культура самоорганизации.
https://batrachos.com/sites/default/files/pictures/Books/Nazaretyan_2007_Antropologiya%20nasiliya%20i%20kultura%20samoorganizatsii_Ocherki%20po%20evolyutsionno-istoricheskoy%20psihologii.pdf

Умение разделять на своё и чужое для живых систем очень важно (как минимум, чтобы самих себя не сожрать), отбор за этим делом чётко следит, так сказать.

Интеллектуальный Агент не обязан быть живым по этому определению, чтобы прикончить человечество.

Это вообще-то не определение, определение разума и интеллекта я давал отдельно.

И чтобы кого-то прикончить, не обязательно быть живым, можно быть косным (извержение вулкана, падение астероида).
 
А интеллект, он, вообще не только живым присущ. Пояснял недавно: 

Про разум и его отличие от интеллекта (а также, откуда берётся стремление к самосохранению) пояснял, например, здесь:
https://astronomy.ru/forum/index.php/topic,86900.msg6050504.html#msg6050504

Интеллект системы – это вычислительный функционал (практически в физико-математическом смысле слова) системы.
Разум системы – это способность системы реализовать стремление к самосохранению средствами интеллекта.

Поэтому, обозвать интеллект инструментом, который используется системой для реализации своего стремления к самосохранению, на мой взгляд, вполне допустимо.

А инструмент он и есть инструмент. У косных систем данный инструмент тоже в наличии и неплохо функционирует (системы ИИ тому подтверждение). Но функционирует он безотносительно пользы или вреда для самой косной системы (для её самосохранения, так сказать). А вот если этот инструмент используется по желанию или в целях самой системы (например, для выполнения её желания, для её выживания, в целях её выживания), то это уже разум.

Мало того, если смотреть обобщённо (с самой широкой точки зрения), то любая система обладает интеллектом (вычислительным функционалом), поскольку: любые физические процессы в структуре любой системы являются одновременно и информационными процессами, любые направленные информационные процессы являются вычислениями, любые вычисления связанные/сопряжённые с внутренней «закольцовкой» системы (либо уже сами вычисления «закольцевались») являются мышлением.

То есть, интеллект присутствует в любой косной системе, а вот разум присутствует не в любой, а только в живой.

Но я упоминаю про умение различать своё и чужое, а своё (как и свои желания/хотения и свои цели), оно только у живых может быть. Конечно, интеллектуальный агент, не обладающий своим тоже может грохнуть человечество, но тогда и о его разуме не стоит говорить.

Так вот, современным LLM вовсе не требуется самовоспроизводится. Им нужно просто исполнить свой промт, и потом остановится, увидив терминирующий токен. ИИ может не иметь вообще никакого отношения к репликаторам и репликации. Или иметь отношение к репликаторам другого типа, но при этом не быть живым по одному определению жизни, или быть живым по другому.

Я уже неоднократно говорил (почитайте мои споры с Rattus-ом, он, наверное, скоро меня забанит), что репликация является только способом сохраниться таким неустойчивым структурам, как наша жизнь:

Про самовоспроизводящиеся системы пояснял, например, здесь:
https://astronomy.ru/forum/index.php/topic,3147.msg5997626.html#msg5997626

Напомню ваш ответ:

Репликация, это только способ сохранения своей структуры именно для таких неустойчивых химических систем, как живые системы нашего типа жизни

Только фокус в том, что абсолютно устойчивых сложных химических систем в природе не существует в принципе - согласно второму началу термодинамики. А значит и другого способа сохранения структуры на астрономическом масштабе времён - тоже не существует. Именно поэтому данный процесс вполне годится в качестве абсолютного критерия жизни.

Не согласен с вашим выводом, не годится данный процесс (репликация) в качестве абсолютного критерия жизни, он годится только в качестве относительного признака (важного, но всего лишь «одного из») жизни. Я вот лично (да и вы тоже) не реплицируемся же в данный момент, но вполне себе живые оба. Мало того, для выявления того, что мы живые в данный момент, не надо никаких там астрономических масштабов времён.

Живая система отличается от косной наличием внутренней «закольцовки». Понятно, что тип (и уровень) «закольцовки»  должен соответствовать типу (и уровню) жизни (наша жизнь химического типа, и соответственно,«закольцовка» базового уровня тоже должна быть химической). «Закольцовки» нашего типа жизни на базовом уровне – это гиперцикл сложных химических реакций, продукты реакций последнего этапа которого являются реагентами для первого этапа реакций.

Про разум и его отличие от интеллекта (а также, откуда берётся стремление к самосохранению) пояснял, например, здесь:
https://astronomy.ru/forum/index.php/topic,86900.msg6050504.html#msg6050504

Мне кажется, скоро мы избавимся от иллюзий, что интеллектуальная машина обязана быть живой по какому-то из определений, или даже что у неё обязано быть самосознание. При этом она всё ещё останется интеллектуальной машиной, которой будет плевать на действующее в ВЖР определение разума.

Думаю, что таких иллюзий нет (по крайней мере, у большинства).

Интеллектуальная машина не обязана быть живой, а вот разумная машина уже по определению (моему, а не в ВЖР) является живой.

[AlexDark]

Я думаю, похожие проблемы возникали в конце XIXго века, когда Лорд Кельвин утверждал, что летательные аппараты тяжелее воздуха невозможны. Видимо, многие люди считали, что полёт птиц как-то связан с тем фактом, что они живые. Мне кажется, скоро мы избавимся от иллюзий, что интеллектуальная машина обязана быть живой по какому-то из определений

Это некоторый черри-пикинг, т.к все вспоминают про Кельвина или "камни с неба", но забывают другое, что не состоялось, например попыток "оживления" трупов с помощью электричества (и не только это, а вообще приписывание электричеству магических свойств). Как раз в то время был написан "Франкенштейн" - и по сути произведение на ту же самую тему (взаимоотношений создателя и творения, о рисках, ответственности и проблемах), что сейчас говорится об ИИ, но ни создавать живое из неживого, ни оживлять мертвых, не собирать биоголемов из кусков тел - ничего из этого не вышло, а вышла медицина в виде реанимации и трансплантологии - но она совсем не такая, о которой мечтали или боялись люди того времени.
Скорее всего история будет такой же - будут некоторые программы для решения каких-то специфичных задач, может пара-тройка новых областей прикладной науки, и все. А сингулярности не будет, так же как не появилось фабрик по массовому производству биокадавров имени д-ра В. Франкенштейна.

[Kaiserfrogling]

Это некоторый черри-пикинг, т.к все вспоминают про Кельвина или "камни с неба", но забывают другое, что не состоялось, например попыток "оживления" трупов с помощью электричества

А давайте вспомним сколько раз наука говорила фантастам "невозможно", и что она же делала потом?
-она говорила "невозможно" мечтам о философском камне который будет "улучшать" свинец и ртуть в золото, а стекло и снег в драгоценные камни.
На данный момент никого искусственными самоцветами уже не удивишь, есть даже такие которые выглядят лучше  природных.
-она говорила "невозможно" мечтам о "вечном двигателе", работающем вечно и без затрат топлива
В самом коротком времени выяснилось что вечно и без затрат топлива течет ближайшая река!
-она говорила "невозможно" мечтам о панацее, которая излечивает любые болезни в том числе и чуму, и глупость, и старость.
Чуму и оспу наука победила, глупость еще не побеждена но многие психические болезни более-менее лечатся, о механизмах старения мы знаем в ста раз больше чем сто лет назад
-она говорила "невозможно" мечтам о полете
а потом был воздушный шар, потом самолет... и лишь после этого дельтаплан, который вполне могли собрать Дедал и Икар. На ютубе есть видео полета на дельтаплане повторяющий маршрут Дедала и Икара всего за 2,5 часа (50 км на 20 км\ч)

[AlexDark]

она говорила "невозможно" мечтам о философском камне который будет "улучшать" свинец и ртуть в золото, а стекло и снег в драгоценные камни.

Как не могли делать золото из свинца (не в виде изотопов в ускорителях) и алмазы из снега - так и не  умеем,  половина из этого в принципе невозможна.

она говорила "невозможно" мечтам о "вечном двигателе", работающем вечно и без затрат топлива

Да вот только у нас половина рек в горах к лету заканчиваются, т.к ледники растаяли в ноль и снега мало.

-она говорила "невозможно" мечтам о панацее, которая излечивает любые болезни в том числе и чуму, и глупость, и старость.

Как нет универсальной таблетки "от всего", так и нет, и опять же не будет по фундаментальным ограничениям. Как не могли многие болезни лечить - так и не могут.

она говорила "невозможно" мечтам о полете

Человек как не умел летать без "костылей" в виде самолетов, парашютов, аэродинамических труб и тд - так и не умеет. И никогда не сумеет.

[Kaiserfrogling]

Как не могли делать золото из свинца (не в виде изотопов в ускорителях) и алмазы из снега - так и не  умеем,  половина из этого в принципе невозможна.

Да вот только у нас половина рек в горах к лету заканчиваются, т.к ледники растаяли в ноль и снега мало.

Человек как не умел летать без "костылей" в виде самолетов, парашютов, аэродинамических труб и тд - так и не умеет. И никогда не сумеет.

Вот именно это и называется cherry picking
Ах да, чуть не забыл. Ещё во времена молодости моего отца меланома была смертным приговором - от нее умер один из его школьных учителей. Сейчас смертность при меланоме 0.1% меньше чем при пневмонии.

И кроме того, французская академия наук в этот "антинаучный список" позже добавила "любые способы и устройства для передачи мыслей, текста и изображений на расстоянии". Прямо сейчас, уважаемые читатели вы видите перед собой монитор - наглядное  доказательство того, как сильно ошибалась наука в те времена!

[AlexDark]

Речь о том, что ни одна фантазия не воплотилась в том виде, в каком о ней фантазировали. С чего взяли, что фантазии об ИИ, если воплотятся (что не факт), то именно в том виде, как их выдумали?

французская академия наук в этот "антинаучный список" позже добавила "любые способы и устройства для передачи мыслей, текста и изображений на расстоянии"

Странная какая-то академия наук - даже про существование почты не знала для передачи картинок и текста. А с мыслями напрямую до сих пор не получилось (и видимо не получится и это хорошо), а мысли опосредованно человечество с момента изобретения письменности передает, хотя даже и до могло передавать - устно. Только число ошибок быстро росло в процессе передачи.

Сейчас смертность при меланоме 0.1% меньше чем при пневмонии.

Это уже явная неправда
 https://oncocenter-ichilov.com/lechenie-melanomy-v-izraile/prognoz-pri-melanome/

5-летняя выживаемость при меланоме стадии 1A составляет 97%, при меланоме стадии 1B – 92%. 10-летняя выживаемость составляет 95% при меланоме стадии 1A и 86% при меланоме стадии 1B.

, при более тяжелых - все еще хуже.

[Olweg]

Речь о том, что ни одна фантазия не воплотилась в том виде, в каком о ней фантазировали. С чего взяли, что фантазии об ИИ, если воплотятся (что не факт), то именно в том виде, как их выдумали?

Думаю, тут вполне уместны аналогии с самолётами. Да, самолёты не летают как птицы, но ведь летают же. То же с ИИ. Он не будет обладать какими-то человеческими качествами, такими как например сознание, личность, но рассуждать он сможет (уже может, на самом деле), так кому какая разница?

«Вопрос «умеет ли компьютер думать» имеет не больше смысла, чем вопрос «умеет ли подводная лодка плавать.»

[BlackMokona]

Ещё как действуют. Даже в программу подготовки студентов по специальности "Автоматизация..." входят, хотя бы и полуофициально/факультативно. 

Назовите хоть один ИИ с этими законами

[Polnoch Ксю]

Это некоторый черри-пикинг, т.к все вспоминают про Кельвина или "камни с неба", но забывают другое, что не состоялось, например попыток "оживления" трупов с помощью электричества (и не только это, а вообще приписывание электричеству магических свойств). Как раз в то время был написан "Франкенштейн" - и по сути произведение на ту же самую тему (взаимоотношений создателя и творения, о рисках, ответственности и проблемах), что сейчас говорится об ИИ, но ни создавать живое из неживого, ни оживлять мертвых, не собирать биоголемов из кусков тел - ничего из этого не вышло, а вышла медицина в виде реанимации и трансплантологии - но она совсем не такая, о которой мечтали или боялись люди того времени.

Я уже давно предлагаю в ВЖР придуманный мной принцип Слепоты Лорда Кельвина: ИМХО, если мы видим что-то в природе, это неопровержимый пруф, что мы можем это воссоздать. Но многие люди этого не понимают, и продолжают путать инженерную задачу, пусть даже иногда и сложную, с фундаментальными запретами природы.

 Почему? Потому, что для физической картины мира не существует такого понятия, как искусственный: это понятие гуманитарных наук. Оно никак не связано с принципиальной возможностью, с фундаментальными запретами природы.  Это исключительно социальное понятие - например, искусственные предметы можно воспроизводить внутри экономики и изучать, как и на что это влияет.

К сожалению, люди, попавшие в когнитивную ошибку Слепоты Лорда Кельвина, регулярно путают инженерную сложность с фундаментальным запретом. Это большая ошибка.


Вот как птицы, летучие мыши или ископаемые птеродактили неопровержимымый пруф, что летательные аппараты тяжелее воздуха возможны, так и наш мозг неопровержимый пруф, что ИИ возможен. Потому, что для естественно-научной, или, скажем, математической картины мира нет такого понятия как естественный интеллект. Можно ввести понятие интеллекта, но его естественность - это опять же вопрос гуманитарных наук. Например, политология, социология и психология могут изучать естественный интеллект и его отличие от искусственного. 
Таким образом, ИИ фундаментально возможен, но в общем виде пока ещё не создан. Я не знаю, можно ли на базе LLM создать общий ИИ. Может да, и требуется всего 1-2 открытия (скажем, добавить лучшие фильтры против галлюцинаций, лучшие чем у людей), а может и нет. Сейчас, например, развиваются направления ИИ на базе символьной логики - их пытаются скрестить с LLM. А ещё роботы и попытки дать моделям понимание того, что происходит в реальном мире.
Но я знаю, что сам по себе ИИ фундаментально возможен. Не думаю, а знаю, что возможен. И думаю(но не знаю точно!), что общий ИИ будет создан в ближайшей исторической перспективе - до 2030го. Однако, очень сомневаюсь, что это случится в 2025м.

Мне кажется, Вы не объективны, когда указываете на то, когда современные модели тупят. Никто, кроме восторженных идиотов не утверждает, что даже самые умные, SOTA модели, вроде claude-3.7 thinking или o1-pro, уже AGI.

[Инопланетянин]

Странная какая-то академия наук - даже про существование почты не знала для передачи картинок и текста. А с мыслями напрямую до сих пор не получилось (и видимо не получится и это хорошо)

Подозреваю что там какие-то провокаторы и тайные сторонники мракобесия сидели. Специально всё так формулировали, чтобы будущие мракобесы могли на основании их прецедентов отвергать открытые наукой запреты.
Вспоминается шутливая формулировка левитации по Стругацким:

Левитация - полёт без каких-либо технических приспособлений. Широко известна левитация птиц, насекомых, летучих мышей и т.д.

[ivanij]

Ещё как действуют. Даже в программу подготовки студентов по специальности "Автоматизация..." входят, хотя бы и полуофициально/факультативно. 

Назовите хоть один ИИ с этими законами

Когда увижу хоть один  реальный ИИ, охотно назову. А ссылки на ресурс, где публикуется "продукция" нейросетей в разделе не приветствуются. Но если серьёзно, то дискуссии о том как и где действуют Три закона роботехники уже лет 20 (а то и больше). За давностью лет многое подзабылось, да и вышло из актуальности. Впрочем, если мне не изменяет память, эти законы имеют место быть в любом массовом производстве, где есть система взаимодействия человек-машина. 

[BlackMokona]

Впрочем, если мне не изменяет память, эти законы имеют место быть в любом массовом производстве, где есть система взаимодействия человек-машина. 

В принципе нету, потому как невозможно их реализовать на практике.

[AlexDark]

мной принцип Слепоты Лорда Кельвина

Выше у меня уже возникли "сомнения" в "адекватности" академии (ну не могла она не знать про существование почты и возможности отправки писем и картин), точно так же у меня возникли "сомнения" в "адекватности" лорда Кельвина - не мог он не знать, что орлы, ядра, стрелы или хотя бы брошенные камни могут летать, и что теоретически (не затрагивая других сложностей) ничто не мешает человеку быть переносимым большим орлом или последовать примеру Мюнхгаузена.
Поэтому я фактчекнул.
И Кельвин такого не говорил. Вот ссылка, там есть даже скан письма Кельвина с пруфом.
https://feogrek.livejournal.com/80935.html
https://engines.egr.uh.edu/episode/1233
По сути Кельвин высказывал сомнения в применимости аэронавигации именно в инженерном ключе:

of good results from any of the trials we hear of.

путать инженерную задачу, пусть даже иногда и сложную, с фундаментальными запретами природы.

Я бы сказал, что существуют ограничения невозможности первого рода (фундаментальные) и ограничения невозможности второго рода (инженерные), связанные с отсутствием нужных материалов, технологий и тп. Инженерные задачи тоже могут быть неразрешимы.
Звезды в природе существуют, создать звезду можно (фундаментальных запретов нет) - надо просто очень много водорода и немного гравитации. Но инженерно эта задача в обозримом будущем неразрешима. Из более приземленного - космические лифты и тп, которые тоже на данный момент неразрешимая задача. Ограничения первого рода опять же можно обходить, расширяя  условия задачи - тот же варп-двигатель, который позволяет обходить ограничения на скорость света в обычном пространстве путем его искривления (теоретически это возможно, инженерно - на данный момент нет)