"Научность" художественной фантастики

[николай теллалов]

Обязательно нужна система ограничений ИИ. Иначе ИИ просто уничтожит человека.

замени слово "ИИ" на "дети"

я и не хочу роботов военных

ни тебя, ни меня, вообще мало кого спрашивают хотим то да се
арбалетов, пулеметов, ядовитых газов и идиотизмов военной службы тоже кто-то не хотел

где же этот reset у человека?

"совесть" называется
общее свойство стадных зверей
и у ИИ такое будет, коли люди его создадут
ну разве что если специально станут создавать психо/социопата (под стать себе любимому), ибо психо/социопант есть по дефиниции существо БЕЗ совести;
и то не гарантия, что ИИ (по определению - собранное лучшее из человеческого) не самокоригирует свой "кодекс" в согласии своей сути - интеллигентности (понимаемой в классическом русском смысле как сочетание ума и нравственности, хотя сия классика - из позапрошлого века...)

плохая новость в том, что МНОГИЕ социально-экономические практики и даже культивируемые "ценности" напрочь исключают "химеру совести", заменяя ее законом, целесообразностью, "высшими соображениями", просто инструкциями начальства...

так что надо беспокоиться не угрозы от ИИ, а угрозы от самих себя бессовестных

[vasanov]

замени слово "ИИ" на "дети"

И что будет если детям абсолютно всё разрешать? Боюсь Земли уже не будет, совсем.

"совесть" называется
общее свойство стадных зверей
и у ИИ такое будет, коли люди его создадут

Как показывает опыт человечества, совесть плохо работает. Для ИИ такое не подходит. Нужна полная остановка и перезагрузка, если система (робот) пошла в разнос. На Марсе уже такое сработало, когда вертолётик чуть сам себя не сломал.

[otu K.]

совесть плохо работает

а что же такое "совесть". это Бог внутри людей, простой принцип "неделай другому чего нехочешь себе", основанный на возможности отождествления себя с другим человеком или другого человека с собой. потому пропаганда и представляет противников нелюдями. чтобы выключить совесть...

[Olweg]

замени слово "ИИ" на "дети"

"совесть" называется
общее свойство стадных зверей
и у ИИ такое будет, коли люди его создадут

Не стоит слишком очеловечивать ИИ… У него не будет лимбической системы и эмоций, связанных с социальностью. Если только их ему специально не встроить. Впрочем, не «ему», а «им», потому что диапазон потенциально возможных интеллектов потенциально невообразимо велик и - главное - многомерен.

[vasanov]

а что же такое "совесть". это Бог внутри людей, простой принцип "неделай другому чего нехочешь себе", основанный на возможности отождествления себя с другим человеком или другого человека с собой. потому пропаганда и представляет противников нелюдями. чтобы выключить совесть...

Совесть у каждого индивидуальная, разного уровня, от нуля, до 100%. Понятие растяжимое. Для роботов это не годится, ИИ должен работать в строгих жёстких рамках. Думаю, эти рамки вполне можно предусмотреть заранее и не на кровавом опыте, как техника безопасности, а на мировом консилиуме учёных. А фантасты уже дали почву для размышлений. Фантастика имеет свойство становиться реальностью. Ведь и учёные в детстве увлекались фантастикой. Некоторые, начитавшись фантастики и стали учёными, чтоб изменить мир, надеюсь к лучшему.

[otu K.]

невообразимо велик и - главное - многомерен.

на мой взгляд, человечеству поздно рыпаться, ИИ возьмёт тем, где заведомо сильнее - в способности одновременно решать множество задач с огромной скоростью. человек сам придёт к нему на поклон...

[Olweg]

В каком-то смысле - да. Часть своих решений люди уже готовы делегировать даже слабым ИИ.

[vasanov]

Не стоит слишком очеловечивать ИИ… У него не будет лимбической системы и эмоций, связанных с социальностью. Если только их ему специально не встроить.

Ни в коем случае. Роботы должны и будут работать совместно, иначе эффекта не будет. Я вот хочу делать нанороботов на ещё не сделанном атомарном принтере. Нанороботы только совместно смогут делать из отходов полезные продукты и устройства. Индивидуально они мало чего сделают. Но управлять всеми нанороботами будет компьютер и каждым нанороботом индивидуально.

[Olweg]

Ну… хорошо. А что в вашем примере ИИ? Явно же не каждый нанобот в отдельности.

[vasanov]

на мой взгляд, человечеству поздно рыпаться, ИИ возьмёт тем, где заведомо сильнее - в способности одновременно решать множество задач с огромной скоростью. человек сам придёт к нему на поклон...

Вот этого и нельзя допускать. Даже всё человечество разом не сможет конкурировать с одним ИИ. ИИ всегда будет лучше ЕИ. ИИ сможет быстро работать даже в ограниченных рамках. Уже известны советы простейшего аналога ИИ, на вопрос наиболее дешёвой диеты питания - Надо пить только уксус. А если такой ИИ будет работать в больнице по поддержке жизнеобеспечения больного?

[vasanov]

Ну… хорошо. А что в вашем примере ИИ? Явно же не каждый нанобот в отдельности.

Да, ИИ будет компьютер, а нанороботы, просто дистанционные манипуляторы. Я хочу втиснуть наноробота в размеры порядка 200х200х200 атомов. В такие размеры самостоятельный ИИ не втиснешь, даже простейший. Это на атомарном уровне. Про уровень нейтронов и протонов я ещё не думаю, освоить бы атомарный.
 Да и компьютер у меня не будет ИИ , а просто тупой ксерокс, который поатомно будет разбирать отходы, сортировать их по картриджам, а затем тупо печатать из атомов типовые образцы, хранящиеся в памяти. Заносить в память эталоны компьютер тоже будет сам, поатомно разбирая уже готовые настоящие вещества и продукты. Чтоб получить плитку шоколада, вовсе не надо хранить в памяти все 100 граммов атомов плитки шоколада, а достаточно иметь образец размером 0.01х0.01х0.01 мм кусочка шоколада, а потом просто лепить один кусочек к другому, пока не получится вся 100 граммовая плитка шоколада. Так же и хлеб и мясо.

[николай теллалов]

И что будет если детям абсолютно всё разрешать? Боюсь Земли уже не будет, совсем.

то, что идет своим чередом уже оооооооооооооооооооооооочень давно
всегда "отцы", а особенно "деды" брюзжали на "детей", пророчили, что "это молодое поколение все сгубит"
а не сгубило
но став отцами и дедами скопировало поведение прежних

совесть плохо работает

да?
раз все еще живем, значит работает

Для ИИ такое не подходит. Нужна полная остановка и перезагрузка, если система (робот) пошла в разнос.

ИИ - не "робот" образца дрянной фантастики 1950ых
ИИ - это разумное существо
материал его "тела" неважен

[николай теллалов]

а что же такое "совесть". это Бог внутри людей

слишком дурная метафора

совесть - развитие "инстинкта уживчивости", без коего не могут существовать стадные (общественные) животные

[николай теллалов]

Не стоит слишком очеловечивать ИИ… У него не будет лимбической системы и эмоций, связанных с социальностью.

у него и невронов нет
но инфу обрабатывает

так что не стоит слишком открещиваться
порожденное человеком всегда носит отпечаток человека
и чем сложнее сие порождение, тем более смахивает на породителя

[николай теллалов]

Совесть у каждого индивидуальная, разного уровня, от нуля, до 100%. Понятие растяжимое. Для роботов это не годится, ИИ должен работать в строгих жёстких рамках

вот оно, старческое брюзжание
"дети должны вести себя в рамках приличия!"

скучно мне с такими дряхляками общаться

[николай теллалов]

человек сам придёт к нему на поклон

как перестарелые родители к сынку?

[sharp]

У него не будет лимбической системы и эмоций, связанных с социальностью. Если только их ему специально не встроить.

А нельзя полностью исключать, что специально и встроят. Допустим, кто-то решит создать ИИ, влияющий на общественное мнение через социальные сети. Этот ИИ будет управлять фейками, генерить контент, и показывать его конечному потребителю - то есть, живым юзерам, которые в соцсетях, по идее, ещё будут
Для такого дела, очевидно, ИИ потребуется хорошо "понимать" особенности социальных взаимоотношений между людьми.

[Olweg]

у него и невронов нет
но инфу обрабатывает

Будут, скорее всего. Нейросети - самый перспективный метод машинного обучения, и, возможно, неслучайно.

порожденное человеком всегда носит отпечаток человека
и чем сложнее сие порождение, тем более смахивает на породителя

Ну тут трудно что-то сказать. Думаю, это непредсказуемо.

"дети должны вести себя в рамках приличия!"

Да нет, аналогия с детьми ложная. Всё-таки ИИ будут создаваться под конкретные задачи, как машины. Хоть и разумные. Но, повторюсь, не стоит к ним подходить с человеческими рамками. Неизвестно даже, будет ли у них, например, сознание.

[vasanov]

как перестарелые родители к сынку?

Да, ладно. Настоящий сынок не будет ждать когда родители придут на поклон. А просто ненавязчиво им поможет. Типа, я тут гречки купил, кашу сварил, мне это много, давайте я вас угощу. И так каждый день, то кашку, то супчик. А то и деньжат подкинуть, типа незапланированную премию получил, хочу поделиться. Вот так и ИИ должен работать, незаметно и ненавязчиво. Есть люди которые, просто стесняются просить помощи, это их унижает, что ли. И они лучше умрут с голоду, чем попросят. С этим то же нужно считаться.

[loky1109]

Даже всё человечество разом не сможет конкурировать с одним ИИ.

Это утверждение следует доказать.

Уже известны советы простейшего аналога ИИ, на вопрос наиболее дешёвой диеты питания - Надо пить только уксус.

Что такое "простейший аналог ИИ"?

А если такой ИИ будет работать в больнице по поддержке жизнеобеспечения больного?

А если оперировать на сердце поставить имбецила с паркинсонизмом?