Раса суперлюдей или ИИ

[stuuvi]

Но в гораздо меньшей степени чем те, кто утверждает, что ИИ захочет "убить всех человеков", поработить, унизить сапиенсов и т.д.

Я думаю в равной степени. Просто у вас таких желаний не возникает, на данный момент.

Надеюсь, что у "того самого" ИИ также будет любопытство, тяга к познанию окружающего мира, эмоции, мечты.

Здесь описываете своё текущее состояние. Приятно что вы такой человек.

А ИИ может быть каким угодно. На детей тоже часто возлагают надежды, а вырастают они такими какими вырастают.

[-Юрий-]

Например, для борьбы с беспилотниками будут развиваться средства РЭБ. Логичный ответный шаг - увеличение автономности беспилотников, вплоть до самостоятельно принимаемого решения наносить удары. Это только один из примеров, самый очевидный в наше время.

Хотелось бы привести цитату из рассказа Роберта Шекли "Страж-птица":

"А все потому, что мы поручаем машине дело, за которое должны отвечать сами.
Высоко в небе Ястреб атаковал страж-птицу. Бронированная машина-убийца за несколько дней многому научилась. У нее было одно-единственное назначение: убивать, Сейчас оно было направлено против совершенно определенного вида живых существ, металлических, как и сам Ястреб.
Но только что Ястреб сделал открытие: есть еще и другие разновидности живых существ...
Их тоже следует убивать."

[алексей12345]

А ИИ может быть каким угодно.

Согласен.
Вопрос не в надеждах. Надеяться можно на остановке, что автобус скоро придет. А обсуждаемый вопрос серьезнее. Тут надежды - недопустимая роскошь. Я думаю, многие надеятся на то, что атомная энергетика останется, а атомное оружие уничтожат. Это реально сегодня? Кстати, элементы ИИ уже используются и нами, и в США в системах управления войсками.
Вопрос даже не только в этом. Допустим, все люди на земле договорились, что ИИ будет использоваться во благо человека. Ну допустим!
Что дальше? Как это будет реализовано на практике? А.Азимов с тремя законами робототехники задал пример. Но даже в такой простой трактовке оказалась куча дыр. На этом построен собственно весь его цикл рассказов о роботах.
Я думаю, сегодня и завтра это нереально. Мы однозначно столкнемся с массой проблем, которые нарастут как ком. И кстати, непонятно, удастся ли аппаратно локализовать проблему приее возможном возникновении. Коммуникации достигли такого уровня уже сейчас, что я в этом не уверен. Да и проблему распознать вовремя возможно не удастся.
Не подумайте, я не ретроград, и не ворчащий попусту старикашка. Просто проблема реально такого уровня, который нам сегодня не под силу.

[Felis]

Совсем недавно нам было не под силу создать очень многое из того, что сегодня нас окружает. Вспоминаю свой первый "пень" с графической картой Cirrus Logic на 1МБ почти двадцать лет назад.
А сегодня этот их Nvidia Titan на 0.25КВт делает где-то 6.1 Тфлопс. А завтра (за год-другой) это будут показатели смартфонных GPU (я о производительности, а не киловаттах  ).
Так что за ближайшие полвека мы вполне можем приблизиться к технологической сингулярности.

[alfardus]

Ну еще материалы для строительства им подобных.

Зачем им это надо?

[-Юрий-]

Так что за ближайшие полвека мы вполне можем приблизиться к технологической сингулярности.

А уже приблизились. Полупроводниковые вентили уже меньше делать нельзя, будет ненадёжно. Там для переноса электрического заряда будет задействовано всего несколько десятков штук электронов, что просто не приемлимо из-за ненадёжности срабатывания. Сейчас идёт пока упаковка всякого "железа" в более компактную форму. Но это тоже не беспредельно.

[stuuvi]

А, например, ИИ в медицине и уходе за пациентами?

Совершенно приземлённый, казалось бы, вариант.

Как вам? Серёге, трактористу нашему, такой ИИ был бы сейчас очень впору.

Вместо штата врачей придётся держать штат программистов и техников, причём люди с медицинским образованием тоже понадобятся. Может и роста тут никакого не будет? Выгоднее всего видимо использовать в военных целях, поскольку это даёт реальную прибыль государству. А медицина и прочее уже как необходимость для того, чтобы окупить вложенные средства в разработку и производство.

[Felis]

Так что за ближайшие полвека мы вполне можем приблизиться к технологической сингулярности.

А уже приблизились. Полупроводниковые вентили уже меньше делать нельзя, будет ненадёжно. Там для переноса электрического заряда будет задействовано всего несколько десятков штук электронов, что просто не приемлимо из-за ненадёжности срабатывания. Сейчас идёт пока упаковка всякого "железа" в более компактную форму. Но это тоже не беспредельно.

Имелось в виду не это, а по Курцвейлу...

Выжмем все из п/п, перейдем на оптику. (в квантовый компьютер пока плохо верится)

[Парадоксов Д.]

Вместо штата врачей придётся держать штат программистов и техников, причём люди с медицинским образованием тоже понадобятся.

Исисенно.

Только суммарно их гораздо меньше будет, нежели отдельные оравы спецов.

А квалификация суммарно -- гораздо выше.

Вспомните современные медицинские комплексы -- от УЗИ до МРТ -- один аппарат и один-два специалиста оператора возле него.

А когда их не было -- сколько специалистов-технологов-операторов вращалось на орбите пациента?

[stuuvi]

Вспомните современные медицинские комплексы -- от УЗИ до МРТ -- один аппарат и один-два специалиста оператора возле него.

Аппарат один, а производство его добавляет ещё людей в отрасль. Или он без производства появится? В итоге есть рост системы вширь, когда смотришь ближе то оказывается что производительность труда выросла на считанные проценты, ибо усложнение техники втянуло туда кучу народу.

[Парадоксов Д.]

В некотором роде да.

Ну ладно, хорошо, да.

И что в этом плохого?

[Nucleosome]

В итоге есть рост системы вширь, когда смотришь ближе то оказывается что производительность труда выросла на считанные проценты, ибо усложнение техники втянуло туда кучу народу.

в случае с медициной, конечно с одной стороны - рост на лицо, то есть смертность снизилась, многие болезни лечат из тех, которые казались раньше неизлечимыми, конечности там пришивают, органы пересаживают... но с другой, когда речь идёт о так сказать "текущих" болезнях, поизводительность медиков скорее вообще снизилась - раньше врач мог только пощупав уже диагноз поставить. а почему? потому что он до этого много лет вертелся около другого, старого, перенимая его опыт. а теперь врач шесть лет зомбируется зазубривая никому не нужные названия, потом помечается галочками что он прошёл (мимо), и в тоиге кроме как сказать "это вирус" (и выписать антибиотики!) его професионализм не тянет. или вместо того чтобы желчегонных попробовать сразу отправляет на резать, вызывая панкреатит, потому что на мониторе проглядел... а общая практика поддерживания не лекарствах (ну с постепенным ухудшением конечно), вместо того чтобы вылечить (иногда только аппендицит вырезать...). конечно недобросовестные врачи были и раньше, но у них не было всей этой супер-пупер техники, которая нередко покупается, как кажется в основном затем, чтобы куда-то потратить выделенные при попиле министерских портфелей деньги (или бросить пыль в глаза пациенту если речь о частных клиниках). так что медицина в плане роста производительности труда - скорее наихудший пример.

[Парадоксов Д.]

Сдаётся мне, вы взяли самый наихудший пример.

Есть же и прямо противоположные примеры.

Или же мы в борьбе скатимся в совершенно непотребную "народную медицину".

[Okub62]

Ну еще материалы для строительства им подобных.

Зачем им это надо?

Уважаемые оппоненты просто не понимают - что человеческие интересы проистекают от человеческих же инстинктов. Чтобы уподобиться "настоящему", искусственному придется и ими обзавестись, иначе останется мертвой железякой без любопытства и стремлений.

[alfardus]

Уважаемые оппоненты просто не понимают - что человеческие интересы проистекают от человеческих же инстинктов. Чтобы уподобиться "настоящему", искусственному придется и ими обзавестись, иначе останется мертвой железякой без любопытства и стремлений.

Дык я тоже думаю, что если и будет ИИ, то он уж точно не будет социальным.

[Okub62]

А то что пытаются представить как ИИ в военных целях, так то не ИИ - он не должен иметь свободы воли, как наш разум, а является (и будет таковым!) тупым однозадачным автоматом, настроенным на одну задачу - найти и уничтожить цель, по возможности не будучи уничтоженным раньше. Всё! Другого от него не требуется.
Если эта штука начнёт думать, она чёрте до чего может додуматься. Самое первое и простое - вообще уклониться от чуждой её борьбы, выжить любой ценой. Людей до уровня автомата доводить приходится, чтобы хорошо убивали, а тут автомат до уровня людей довести хотят. А захочет ли он , в таком разе, выполнять приказы?
И фантазейная "страж-птица" тоже - тупой автомат, хоть и изощрённый. Что она ещё умеет (и "хочет"), кроме как уничтожать?

[Olweg]

Человеческий разум тоже настроен эволюцией на некоторые определённые задачи. В том числе на выживание. Если прошить в ИИ этот инстинкт, он действительно начнёт думать о том, как бы выжить любой ценой. Если не прошивать, то с чего ему об этом заботиться? Это чистый антропоцентризм. Пусть у ИИ будет один основной инстинкт, важно, чтобы он умел самостоятельно решать задачу в не определённых заранее условиях, а не просто следовал жёстко заданной программе.

[Okub62]

Вот и будет изощрённый, но таки однозадачный тупой автомат, а не интеллект. Не надо же путать Божий Дар с яичницей.

[Olweg]

Интеллект - только инструмент для решения задач. Да, это будет не человеческий разум - повторять человеческий разум нет никакого смысла. Но чем более гибкие методы будет использовать машина для решения (самостоятельного!) своей задачи, тем более эффективной она станет, потому что жёстко заданные алгоритмы в реальном мире слишком часто приводят к ошибкам. Так что прогресс не на стороне "тупых автоматов".

[Okub62]

Вот когда будет ставить свою задачу, тогда и можно про интеллект начинать говорить. Пока задачи только наши. Машине задачи никакие не нужны, она мёртвая. Ей даже всё равно включена она или нет.