Нужен ли человечеству искусственный интеллект?

[Инопланетянин]

А как мы узнаем что мы разобрались в себе, пока не создадим ИИ?

Кстати, ещё одна антиутопическая мысль. Узнать это мы можем, если начнём управлять мозгами людей. Это уже и сейчас можно, но ограниченно. А точно зная как мозг функционирует, можно получить абсолютно управляемое общество. Даже полностью в мозгу разбираться не придётся. Антиутопично получается и, главное, это основное препятствие для создания ИИ. Чтобы остались люди способные и могущие его (именно ИИ) разрабатывать в таких условиях.

[stuuvi]

Кстати тоже мысль. Если биология дойдет до таких высот, что смогут выростить более совершенный мозг чем у нас, то ИИ тоже не потребуется. Хотя нет, в космосе работать кому то надо будет. А там ИИ лучше всего видимо справится.

[незлой]

А точно зная как мозг функционируяет, можно получить абсолютно управляемое общество.

а кому и зачем это может понадобится?
смысле приматам -- понятно зачем, а интеллекту?

[vika vorobyeva]

Да, сложный вопрос. Как ни кручу его в голове - очевидного решения не просматривается.
По-хорошему, человечеству очень помогли бы искусственные существа с интеллектом животных. Роверы для изучения далеких планет Солнечной системы (да даже и Марса) с интеллектом собаки, способные ловко лазать по дюнам, осыпям и пещерам, "вынюхивать" различные минералы, и имеющие побуждение возвращаться к передатчику и сливать полученные данные на Землю. Распределенные сети, управляющие городом (транспортными и энергетическими потоками, и т.п.), как мозг мыши управляет телом мыши. Этим существам не нужна (и даже вредна с нашей точки зрения) свобода воли, их задача - выполнять свою миссию, прошитую в них на уровне техноинстинктов.
Но полноценный ИИ с реализованной возможностью менять свой код, менять свое тело, развиваться помимо воли и контроля программистов - это ящик Пандоры. Не факт, что мы сможем его создать, но если сможем - это будет похуже изобретения атомной бомбы. Мы тогда сами повесим над собой Дамоклов меч. Будь я в правительстве, я была бы категорически против его создания - даже против его создания при наличии многоуровневой защиты (подразумевающей немедленное уничтожение этого ИИ, если вдруг что-то пойдет не так). Потому что существо более умное, чем люди (даже представляя из себя "мозги в банке"), в состоянии провести многоходовую интригу, которую люди не отследят, не вычислят и вовремя не остановят.
Да, можете назвать это паранойей, но если в комнате есть несколько человек, и у одного из них есть пистолет, я предпочту, чтобы этот пистолет был у меня Полностью зависеть от чьей-то доброй воли - перспектива малоприятная.

[Олег Васильевич]

Отвечаю прямо на поставленный топик-стартером вопрос.
Не знаю, что тут писали до меня уважаемые форумчанне.
А ответ мой будет такой, тоже короткий.
Искусственный интеллект человечеству нужен, если он будет вести себя во благо человечества.
И - не нужен, если он будет "мутить воду", то бишь функционировать во вред человечеству.

[Arton]

Такой лаконичный ответ (ДА – если то, НЕТ – если не то, а другое) напоминает мне глубокомыслие по поводу того, что пациент скорее жив, чем мертв или же скорее мертв, чем жив.
Так, что давайте без ЕСЛИ…

[Дед Моррозоу]

Искусственный интеллект человечеству нужен, если он будет вести себя во благо человечества.
И - не нужен, если он будет "мутить воду", то бишь функционировать во вред человечеству.

*в сторону* А голосование по этому поводу человечество должно проводить ежегодно. Причём, законодательно следует закрепить, чтоб более 2-х раз подряд один и тот же ответ не мог бы считаться верным.

[Кремальера]

Не факт, что мы сможем его создать, но если сможем - это будет похуже изобретения атомной бомбы. Мы тогда сами повесим над собой Дамоклов меч

Ну скажем,ув.Вика, в целом я ваши опасения разделяю.Должны быть конечно запасные варианты.Но тут есть много частностей и развилок как пойдет дело с этой нашей капризной Галатеей.Например,у мерикан(да и наверное еще где) только официально около пятидесяти заведений высшей школы занимаются набиванием шишек и собиранием ин-фы по проблематике ИИ.Они этого электроника-переростка даже на симпозиуме 100YSS обсуждают.А посему "недоинтеллект" вполне уже может таиться в зарослях кукурузы где-нибудь в Уичито.И скорее всего этого несмышленыша заставят трудится над вполне приземленными,прикладными задачами:ломать шифры,просчитать все алгоритмы в наведении противоракет,процент вступившего в реакцию плутония в зависимости от погоды,дня рождения Бора и пр. ;)Вообщем это будет усовершенствованная берцовая кость из Одиссеи Кларка,помогающая одним обезьянам колошматить других.Восстания всесильного электронного мозга не будет,именно потому что он не всесилен.

[Олег Васильевич]

...*в сторону* А голосование по этому поводу человечество должно проводить ежегодно. Причём, законодательно следует закрепить, чтоб более 2-х раз подряд один и тот же ответ не мог бы считаться верным....

Дед Пихто, Ваша реакция "в сторону" гораздо более осмысленнее, чем у иных. Действительно, только практика может показать "во благо" человечеству или "во вред" ему действует самодостаточный, автономно мыслящий и действующий Искусственный Субъект, обладающий свободой воли. Чуть ли не супермен. И тут явственно попахивает риском!
Ну что же... Введем запреты в программу его создания, этого субъекта еще на стадии проектирования. Во-первых, он не должен быть неуничтожимым, как тот самый Терминатор. Пусть будет уязвимым для ударов палкой по черепу, для резиновых пуль, да хотя бы от укуса разъяренной соседской дворняжки...
А что? Хочешь жить как человек? Тогда имей его шкуру! Легко быть суперменом при мгновенной регенерации тканей!
А во-вторых, никуда он не должен деваться от зоркого глаза испытателей.  А то не дай Бог, как говорится, отыщет подпольных конструкторов, и те за хороший план "взятия" инкассаторского броневика, оснастят его пуленепробиваемой кожей.... Или просто застрелят как подсадную утку от копов.

Вот и нужно вшить первый чип именно этому андроиду, чтобы не шлялся где попало и не путался со "дном" современного общества. Потому что из космоса это хорошо будет видно, где он был вчера, что делает сегодня и что замышляет на будущее...

Заставлять его делать что-то, конечно, ничего нельзя - он сам должен сделать нужный выбор (во вред или во благо). Так Что держать его на замке не придется.
А для этого он должен обладать всем спектром знаний о человеческом обществе. О том, что индивид у нас смертен, подвержен многочисленным болезням и слабостям. Что каждый человек хочет кушат и пить, и для этого ему надо активно участвовать в общественной жизни...  Так что вот он, рынок, и ступай сразу на биржу труда, и попробуй объяснить им, кто ты такой и что ты умеешь. Иногда это можно сделать, даже без документов. Как в кино показывают.
Короче нашему "супермену" с уязвимой оболочкой нельзя ставить палки в колеса его практики. Он должен на опыте проверить те теоретические знания, что ему впихали в мозг конструкторы... В науке это называется верифицированием.

Какое-то его время уйдет на эту проверку, а там, я думаю, он придет с поникшей головой назад в конструкторское бюро и голосом, лишенным самодовольства, попросит согласовать программу сотрудничества с этим бюро... Чтобы, как говорится, выцыганить у начальства лишние сто грамм смазки для своих коленчатых суставов...

Вот какие у меня возникли мысли с подачи Деда Пихто.

[Okub62]

...*в сторону* А голосование по этому поводу человечество должно проводить ежегодно. Причём, законодательно следует закрепить, чтоб более 2-х раз подряд один и тот же ответ не мог бы считаться верным....

Дед Пихто, Ваша реакция "в сторону" гораздо более осмысленнее, чем у иных. ...

В чём? Выходит, если в этом году единогласно проголосуют "против", то в следующем просто обязаны будут голосовать "за". Хороший закон для проталкивания непопулярных мер - "волей народа" (или " по многочисленным просьбам трудящихся", как больше нравится).

[Darth Sirius]

Чтобы, как говорится, выцыганить у начальства лишние сто грамм смазки для своих коленчатых суставов...

Cкорее он им всем задницу ей смажет... На первый раз, в качестве единственного проявления гуманизма к тем кто устроил ему жизнь мухи между оконными стеклами...  А потом смазка закончится.

[Олег Васильевич]

...В чём? ...

Okub62, рад ответить на Ваш вопрос.
На мое сообщение здесь #164 откликнулись (среагировали) только двое человек, один из них - дед Пихто. Именно относительно второй реакции его сообщение и показалось мне более осмысленным. На него я и ответил, как сумел...
А смысл, который он (Дед Пихто) вложил в свой иронический тезис о "голосовании", заключается в недооценке мною  в высказывании #164 фактора риска, которым может подвергнуться человечество при создании и ПРОВЕРКИ НА ПРАКТИКЕ искусственных людей, превосходящих человека как по интеллекту, так и по физическим возможностям. Кто возьмет на себя такую ответственность? Вот Дед Пихто и "предложил" рассматривать это дело на заседении Госдумы и принятием решения со всеми её (этой процедуры) демократическими хитростями
Оцените юмор Деда Пихто, уважаемый  Okub62, и успокойтесь. Не нужно воспринимать его замечание в прямом (как валенок) смысле...

[Олег Васильевич]

Чтобы, как говорится, выцыганить у начальства лишние сто грамм смазки для своих коленчатых суставов...

Cкорее он им всем задницу ей смажет... На первый раз, в качестве единственного проявления гуманизма к тем кто устроил ему жизнь мухи между оконными стеклами...  А потом смазка закончится.

Darth Sirius, выше я четко обозначил, что физически исккусственный человек должен быть слабее и уязвимее человека, А своим интеллектом пусть освещает хоть всю нашу Академию наук.
В связи с этим он ничего серьезного физически предпринять против своих конструкторов просто не сможет. А ежели будет недовольный своей жизнью "мухи" (как Вы выразились), так он всегда может нажать на соответствующий тумблер в своей пластмассовой груди. У человека ведь есть право на выбор - жить ему или умереть. Отчего же лишать этого права нашего андроида?
Мы все, кстати, находимся под колпаком всего общества. Иначе говоря, в 90 процентах нашего активного бодрствования рядом с нами всегда кто-то бывает "от общества" и контролирует нас. Мы - существа на одну половину индивидуальные, а на другую половину - социальные.  Вот этот "социум" внутри нас и в близком окружении, а точнее, определенные нормы и правила поведения, нас и удерживают от поступков, характерных для троглодитов.

А еще ведь жизнь наша вовсе не состоит из одних недовольств. В одних случаях мы радуемся жизни, в других - грустим и печалимся. Так вот первых моментов у нас у всех гораздо больше, иначе человечество не смогло бы так долго жить, покончило бы с собой.
Поэтому наш андроид должен также ощущать радость от собственного существования во взаимодействии с окружающим его миром. Ценить, скажем, красоту ландшафта перед Исследовательским Центром, восхищаться благоуханием цветов на лужайке, смеяться над алогизмом анекдотов, которые будет травить в перерывах младший научный сотрудник В.Захаров по прозвищу "Комик", и так далее и тому подобное. Я уж не говорю о высшем оргастическом восторге, которым должна наполняться его электронно-механическая начинка, скажем, от вливания очередной порции смазочного масла в его нутро...

Так что, Darth Sirius, абсолютно не за что ему будет "наезжать" на своих создателей, котоорые подарили ему этот комплекс радостей от жизни и ее самоощущения.
Это ведь не Франкенштейн Х!Х века.
Это - андроид Ш-го тысячелетия...

[stuuvi]

Что за сказки. В жизни хэппи эндов не бывает. Тут всегда плохой конец , у всего. Какая кнопка самоуничтожения, кто же её сделает то при стоимости оборудования. Да и вообще зачем андроида делать , толку то с него?

[Ремвер]

Но полноценный ИИ с реализованной возможностью менять свой код, менять свое тело, развиваться помимо воли и контроля программистов - это ящик Пандоры.

У С. Лема был рассказ про учёного, который создавал подобный ИИ. Сделал две особи, наделённые способностью к обучению, а потом опасаясь, как бы чего не вышло, изолировал их друг от друга и внешнего мира. Что он только ни делал - бункер свето-, звуконепроницаемый, экранированный от всех видов излучений и магнитных полей. Потом обнаружил вибрацию - сделал так, чтоб они не общались сейсмически, короче вообще никак. Но ничего не помогало. А потом за самим этим учёным начали замечать странности. В итоге оказалось, что эти твари превратили его самого в "почтальона", переносчика взаимодействия и средство коммуникации между собой.
Не хотелось бы быть пессимистом, на дилемму "нужен ли ИИ - не нужен", ИИ всё равно создаётся и совершенствуется тихой сапой. Меня вот эти подсказки навигатора и автопилоты только бы раздражали - может я сам хочу управлять! Но нет, человечество само себя превращает в овощ. Такое чувство, что никто человечество и не спрашивает - нужен ли нам ИИ. Как будто это естественный процесс, при котором разум освобождается от "овощного" тела, создавая себе новое из стали, меди, кремния и германия. Более подходящее к экспансии в космос.

[Олег Васильевич]

......Не хотелось бы быть пессимистом, на дилемму "нужен ли ИИ - не нужен", ИИ всё равно создаётся и совершенствуется тихой сапой. ...человечество само себя превращает в овощ. Такое чувство, что никто человечество и не спрашивает - нужен ли нам ИИ. Как будто это естественный процесс, при котором разум освобождается от "овощного" тела, создавая себе новое из стали, меди, кремния и германия. Более подходящее к экспансии в космос.

Ремвер, человечество не превращает в себя в овощ, так как человечества (как единого целого) еще нет. И вперед оно идет, определяясь не теориями о хорошем-плохом, а существующей социальной практикой, где оно идет практически наощупь, познавая Непознанное методом "тыка наугад".  Запрещаются лишь те вещи, явления и пр., которую несут четко определенную угрозу человечеству...  Но это угроза должна быть практической, а не теоретической, не виртуальной, - я вот о чем. То есть пока искусственный человек реально не порешил первую сотню-другую человек, к нему всегда будут относиться лишь как к заводной кукле...  Посудите сами. Теоретически ни один из нас, индивидов, не мог бы жить, так как всегда существует вероятность нашей гибели от тысячи случайностей - от авиакатастрофы до падения кирпича с крыши дома, мимо которого мы проходим. Поэтому это абсолютное чудо, что мы до сих пор живы!
Законодатели это хорошо знают и отдают приоритет практике, а не теоретическим измышлениям.  Вот появится реальный Франкенштейн, сожрет своего создателя, а вкупе с ним и всех соседей, живущих в этом доме. - вот тогда вступят в дело силовые структуры, быстро разберутся с новоявленным монстром, а уж затем - законодатели, учитывая народное мнение, примут закон о запрете проектирования, альфа-бета-испытаний и последующего функционирования разным там големов.
А пока такое показывают только в фантастических фильмах, ни один из конгрессменов не задумается о превентивном спасении человечества...

[Олег Васильевич]

.... Вообщем это будет усовершенствованная берцовая кость из Одиссеи Кларка,помогающая одним обезьянам колошматить других.Восстания всесильного электронного мозга не будет,именно потому что он не всесилен.

Вот этот момент, когда обезьяна стала человеком, задумавшись и найдя средство (оружие) против других обезьян...
Как обезьяна стала человеком1

[vika vorobyeva]

А посему "недоинтеллект" вполне уже может таиться в зарослях кукурузы где-нибудь в Уичито.И скорее всего этого несмышленыша заставят трудится над вполне приземленными,прикладными задачами:ломать шифры,просчитать все алгоритмы в наведении противоракет,процент вступившего в реакцию плутония в зависимости от погоды,дня рождения Бора и пр. ;)Вообщем это будет усовершенствованная берцовая кость из Одиссеи Кларка,помогающая одним обезьянам колошматить других.Восстания всесильного электронного мозга не будет,именно потому что он не всесилен.

Вы говорите как раз о том варианте ИИ, который я назвала "электронной собакой". То есть о существе, заточенном под определенный круг задач и не имеющем свободы воли (даже не имеющем побуждений сделать шаг влево или впрво). Против таких вариантов ИИ я ничего не имею. Пусть обсчитывает логистику и предсказывает погоду, ломает шифры, управляет марсианскими роверами и пр. Я думаю, никто и не усомнится, что такие полуразумные аппараты (искусственные существа?) будут человечеству очень полезны.
Но если речь идет об разумных искусственных существах с самосознанием и личностью (что бы ни называть этими словами), способных на спонтанные поступки, свободу воли, самосовершенствование и пр. - то я против их создания. Именно потому, что они будут лучше (умнее, приспособленнее, гибче) нас. А планета маленькая.

[Diivanych]

Вика, как всё это в Вас совмещается без логических коллизий?!
– Неподдельные жажда познания и стремление к звёздам.
– Осознание несовместимости космических перемещений и человека биологического
– Желание ограничить ИИ функцией "электронной собаки"
Это треугольник Пенроуза, если рассматривать каждый угол в отдельности. Каждую пару высказываний как-то можно совместить, а всё вместе… рассыпается.
 

[незлой]

Вы говорите как раз о том варианте ИИ, который я назвала "электронной собакой". То есть о существе, заточенном под определенный круг задач и не имеющем свободы воли (даже не имеющем побуждений сделать шаг влево или впрво). Против таких вариантов ИИ я ничего не имею.

так никто не имеет.
вопрос -- можно ли запретить его эволюцию? и как это сделать?
патамушто когда такие "собаки" будут в каждом "дворе", обязательно появятся "дрессировщики"