Отношение людей к ИИ, превосходящего человека.

[noxx77]

сугубо фантазийные темы на форуме не приветсвуются. чтобы эта перестала такой быть хорошо бы разобраться для начала превосходящий по какой шкале и в чём

А вот это уже интересная постановка вопроса)))

https://ru.m.wikipedia.org/wiki/%D0%A2%D0%B5%D0%BE%D1%80%D0%B8%D1%8F_%D0%9A%D0%B0%D1%82%D1%82%D0%B5%D0%BB%D0%BB%D0%B0_%E2%80%94_%D0%A5%D0%BE%D1%80%D0%BD%D0%B0_%E2%80%94_%D0%9A%D1%8D%D1%80%D1%80%D0%BE%D0%BB%D0%BB%D0%B0

Но в любом случае, даже появление сильного ИИ превосходящего человечество во всём (любую поисковую задачу решающего лучше любого человека) - не запрещенный сценарий. Куда менее фантастичный, чем терраформирование Твикса энтузазистами. И тема топика, собственно, даже не пути его появления, а сама наша реакция на такую возможность.
Что касается самого ИИ, то сейчас на форуме, как минимум три ветки по этому поводу.

[Nucleosome]

Что касается самого ИИ, то сейчас на форуме, как минимум три ветки по этому поводу.

да будоражит умы сильно, думал объеденить, но пусть так будет

любую поисковую задачу решающего лучше любого человека

ну если они и задачи тоже будут ставить сами и не на основании предварительно собранных данных, а вот прямо из наблюдей за окружающим миром... только количество комбинаций формлаьных параметров такой задачи может выйти за пределы числа атомов видимой Вселенной или как минимум кремния земной коры и тогда это условие:

не запрещенный сценарий. Куда менее фантастичный, чем терраформирование Твикса энтузазистами.

не будет выполнено.

[Rattus]

ну если они и задачи тоже будут ставить сами

Кагбе и человеки в боьшинстве задачи себе ставят не сами по сути. Достаточно одного примера: традиционные религии.

[EmperioAf]

сугубо фантазийные темы на форуме не приветсвуются. чтобы эта перестала такой быть хорошо бы разобраться для начала превосходящий по какой шкале и в чём

Интуитивно понятно, что значит фраза "ИИ, превосходящий человека".  Но раз нужно конкретнее, то так: "ИИ, который обладает лучшей предсказательной способностью чем человек, при таком же потреблении энергии, при тех же знаниях и навыках".
Ещё более конкретно: "ИИ, который статистически(в среднем) набирает на тесте IQ больше баллов чем человек"

[EmperioAf]

Вообще тема создавалась, чтобы понять как участники форума относятся к созданию разумных существ, способных полностью заменить людей во всех областях деятельности человека. Я ожидал большей активности голосования.

[-Юрий-]

способных полностью заменить людей во всех областях деятельности человека.

Они чего, и есть за нас будут? И детей делать?

[noxx77]

Кагбе и человеки в боьшинстве задачи себе ставят не сами по сути. Достаточно одного примера: традиционные религии.

Да ладно - на работе иногда начальство такие интеллектуальные задачи ставило, диву давались...

[EmperioAf]

способных полностью заменить людей во всех областях деятельности человека.

Они чего, и есть за нас будут? И детей делать?

При необходимости всё будут делать за вас

[noxx77]

, при таком же потреблении энергии,

То есть, если взять щуплика Иванова при массе 60 кг и интеллекте 90 баллов и двухметрового ЗОЖ-активиста Петрова с двумя высшими, 120 балламии массой 90 кг, то не факт, что Петров умнее - в пересчёте на iq/массу...

[EmperioAf]

За мыслительную деятельность отвечает головной мозг, и поэтому речь идёт о потреблении энергии головного мозга.

[Olweg]

Думаю, требование к энергоэффективности необязательно. Ну, пусть занимает целое здание и жрет мегаватты, результаты всё это с лихвой покроют (если речь о сверхинтеллекте).

[Макрофаг]

Цитата: Макрофаг от Сегодня в 09:56:59

    Если создавать ИИ уровня человека - понадобится от 3 до 30 млн. лет. Если кодировать каждую сек. по 1 связи.

Вы шутите, я надеюсь.

Нет не шучу. Даже на этом ресурсе как то подсчитывали очень давно.

Есть и другие люди с которыми я согласен.

Человеческая память непредставима моделью компьютера. Она закодирована в десяти миллиардах нервных клеток, образующих наш мозг, и триллионах связей между ними - синапсов. Число нейронов в мозгу любого человека втрое больше, чем число живущих на Земле людей, а если учесть число синапсов (около 1014 - 1015), то их больше в сто тысяч раз по сравнению с численностью населения во всем мире. Предположив образование одного синапса в секунду, можно подсчитать, что потребуется от 3 до 30 миллионов лет, чтобы закончить подсчет. Как сказал С. Роуз, «этого вполне достаточно, чтобы хранить воспоминания о всей прошедшей жизни…».

см. Человеческий мозг и компьютер http://otherreferats.allbest.ru/biology/00147258_0.html
Чтобы ИИ превосходил человека в способности мыслить - необходимо , чтобы количество возможных нейросвязей ИИ превосходило количество нейросвязей человека.
Если учесть , что у человека возможное количество связей гипотетически равно количеству атомов  во Вселенной т.е бесконечно : то опасение превосходящего ИИ - совершенно беспочвены и даже в разряд сказок с трудом попадают.
Поэтому я согласен :

сугубо фантазийные темы на форуме не приветсвуются. чтобы эта перестала такой быть хорошо бы разобраться для начала превосходящий по какой шкале и в чём

[Nucleosome]

Интуитивно понятно

да, каждому по своему

Ещё более конкретно:

это уже вообще какой-то суррогат оценки

в пересчёте на iq/массу...

ха-ха! думаю корректнее будет брать у них энергопотребление мозга. правда на что именно он тратит энергию - большой вопрос, как и объём. тут вот предложено что на решение викторин ик...

Кагбе и человеки в боьшинстве задачи себе ставят не сами по сути.

то что люди живут в социуме и через него взаимодействуют со средой обитания не означает что каждый отдельный индивидуум не анализирует воспринятые стимулы самостотельно

[PathFinder]

Если учесть , что у человека возможное количество связей гипотетически равно количеству атомов  во Вселенной

Для образования одной нейронной связи требуется как минимум один атом (мягко говоря ). Количество атомов в человеческом мозге несколько меньше количества атомов во Вселенной (мягко говоря  ). Тогда каким образом может быть истинным ваше утверждение?

[Nucleosome]

Тогда каким образом может быть истинным ваше утверждение?

всё дело в том как именно передаётся сигнал в синапсах - бинарно или имеет дрязг, люфт, плавный скат и т. д. и всё это влияет на конечный результат само по себе, а не просто шум затрудняющий ясность. ну там конечно ионы, но они тоже не точки, а скорее "облачка"

[Klapaucius]

Если учесть , что у человека возможное количество связей гипотетически равно количеству атомов  во Вселенной

Для образования одной нейронной связи требуется как минимум один атом (мягко говоря ). Количество атомов в человеческом мозге несколько меньше количества атомов во Вселенной (мягко говоря  ). Тогда каким образом может быть истинным ваше утверждение?

К тому же для появления каждого человека не нужно более 3 млн. лет, достаточно 9и месяцев. Вряд ли искусственный процесс ограничен сроками и масштабами как у человека. К ИИ в самом широком смысле я бы причислил и модернизацию мозга человека генетическими методами. Киборгизация - тоже хорошее подспорье.

[Макрофаг]

Цитата: Макрофаг от Сегодня в 23:39:53

    Если учесть , что у человека возможное количество связей гипотетически равно количеству атомов  во Вселенной

Для образования одной нейронной связи требуется как минимум один атом (мягко говоря ). Количество атомов в человеческом мозге несколько меньше количества атомов во Вселенной (мягко говоря  ). Тогда каким образом может быть истинным ваше утверждение?

Эта шутейная тема разбиралась на одном форуме и оказалась не шутейная. Хотя особой научной ценности не имеет , а выдвигается в качестве сравнений в науч. поп.

Для оценки верхней границы считаем нейронную сеть полносвязной (каждый с каждым).

В сети из 2 нейронов может существовать 1 связь.

Добавим 1 нейрон в сесть, их станет 3. Добавленный нейрон должен соединятся с уже существующими 2-мя, - это добавляет 2 связи в систему. Итак, их сейчас 1+2=3.

Добавим еще 1 нейрон в сесть, их станет 4. Добавленный нейрон должен соединятся с уже существующими 3-мя, - это добавляет 3 связи в систему. Итак, их сейчас 1+2+3=6.

Очевидно, что добавление 5-го нейрона добавит в систему 4 связи.

И в общем случае нейрон n, добавит n-1связь.

Для системы их n нейронов имеем число связей 1+2+3+4+5..(n-1)

Вывод общей формулы для суммы натурального ряда красив, но известен, пропустим его.

Итак, число связей в сети из n нейронов

s=n*(n-1)/2=(n^2-n)/2

 

Теперь оценим упомянутое в теме «число состояний связей». Для простоты будем считать что у отдельно взятой связи может быть 2 состояния – (on,off), (проводит импульс, либо  не проводит),(связь есть, либо связи нет), (0, либо 1).

Ну давайте считать.

Число состояний у одной связи 2:

0, 1 

у 2-х связей 4:

00/01/10/11

у 3-х связей 8: 

000/001/010/011

100/101/110/111

 У 4-х 16:

0000/0001/0010/0011 

0100/0101/0110/0111

1000/1001/1010/1011

1100/1101/1110/1111

Очевидно, что для системы s связей число состояний системы

k=2^s=2^((n^2-n)/2)

 

 

Для числа нейронов n=10^11 при грубой оценке получим:

 

2^(10^22) возможных состояний связей в полносвязной голове против 10^80 штук атомов во вселенной

 

Добавим для простоты сравнения расчетов атомов во вселенную. пусть там будет  не 10^80 а 16^80=(2^4)^80=2^320

 

получаем показатели степени двойки:  10^22 в голове  против 320 во вселенной

т.е. утверждение остается верным.

Разумеется в голове не полносвязная сеть, но колоссальный отрыв позволяет рассчитывать на сохранении справедливости утверждения для существенно меньшего числа связей. 

  http://scorcher.ru/forum/Sources/printpage.php?board=2&threadid=1228
При любом раскладе -  даже если "несколько меньше"
Необходимо просто ЗНАТЬ работу мозга, чтобы делать заявления о превосходстве ИИ над человеком.
Даже если сделать все необходимые подсчёты количества связей то со слов С. Роуз, «этого вполне достаточно, чтобы хранить воспоминания о всей прошедшей жизни…». становится ясным , что количества связей воспоминаний о всей прошедшей жизни - подсчитать будет ещё сложнее . Ещё столько же времени понадобиться на подсчёт всего одной модифицированной при каждом воспоминании связи
. Те если человек будет вспоминать и вербализовать в интерпретациях свои воспоминания то каждое воспоминание будет чем то отличаться от аналога.
Особых доказательств не надо. Уже установлено , что при каждом воспоминании память неизбежно видоизменяется. Т.е если человек , что нибудь вспомнит о прежней жизни , то память (энграмма) будет иметь совсем другие как субъективные (психические ) так и биологические характеристики.
Потому что память при каждом воспоминании модифицируется.В одну реку дважды не войдёшь.

[Olweg]

Чтобы ИИ превосходил человека в способности мыслить - необходимо , чтобы количество возможных нейросвязей ИИ превосходило количество нейросвязей человека.
Если учесть , что у человека возможное количество связей гипотетически равно количеству атомов  во Вселенной т.е бесконечно : то опасение превосходящего ИИ - совершенно беспочвены и даже в разряд сказок с трудом попадают.

Мда... Начать хотя бы с того, что кора мозга, занимающаяся высокоуровневой обработкой информации, практически одинаково устроена по всей своей площади, и, если нам для создания ИИ потребуется понять принцип её работы (что не факт, но предположим), то нужно будет разобраться со взаимосвязями различных модулей в ней, обученных обрабатывать ту или иную информацию, а это уже неизмеримо меньший объём информации. Тем более, в чём я уверен, для понимания принципа работы человеческого интеллекта досконального исследования всех без исключения связей и не понадобится - можно будет изучить работу отдельных, наиболее важных модулей, например, в префронтальной в теменной ассоциативной коре.

Лимбическую и более низкоуровневые системы нужно будет изучить с точки зрения их взаимодействия с корой, но тут уже много бесполезной для проектирования ИИ биологической прошивки.

Может быть, не понадобится и этого, и ИИ будет создан другими методами, например с использованием генетических алгоритмов. В этом случае, кстати, может сложиться парадоксальная ситуация, когда не только не нужно будет полное понимание работы мозга человека, но и понимание работы самого ИИ - получится пресловутый чёрный ящик, который нужно будет тестировать на проф.пригодность.

[Макрофаг]

Может быть, не понадобится и этого, и ИИ будет создан другими методами, например с использованием генетических алгоритмов

Фильм недавно  смотрел "Прибытие" https://www.ivi.ru/watch/145098
Землянам, не получалось вступить в контакт с инопланетянами.
Режиссёр фильма изо всех сил старался усложнить возможность коммуникабельности, постоянно мешал героям достичь минимального взаимопонимания. ( описание : https://ru.wikipedia.org/wiki/%D0%9F%D1%80%D0%B8%D0%B1%D1%8B%D1%82%D0%B8%D0%B5_(%D1%84%D0%B8%D0%BB%D1%8C%D0%BC,_2016)
Зрителей это держит в постоянном напряжении и сопереживании двум сторонам конфликта.
Но всё же режиссёр слажал.
Для контакта между двумя представителями совершенно разной культуры , языка и пр.  атрибутов разумности -   необходим минимум набора этических символов общения.
Такой минимум состоялся. Типа осьминоги - инопланетяне начали рисовать чернилами в родственной им среде различные знаки в виде символов.
Если раскрутить  происхождение символов относительно нейрофизиологии мозга , то окажется , что мы с этими чудовищами одной культуры символики жизнеощущения  в своей основе - хотя и разной.
Т.е у инопланетян уже были признаки психики по типу землян. И совершенно не зачем было устраивать это карнавал страшилищ в течении всего фильма.
Фильм - расчёт на людскую невежественность. Куда смотрели критики ?

Фильм окупился в прокате, получил восторженные отзывы критиков и номинации на ряд престижных премий. Картина получила 8 номинаций на «Оскар» и премию за лучший звуковой монтаж.

Инопланетяне, достигшие уровня этических символов общения землян, достигнув такой технической оснащённости - без особых затруднений должны были вступить в контакт с людьми.
Это значит - любые гипотетические инопланетяне нашей Вселенной , должны иметь такую же психику как у человека. По качеству разум инопланетян  не должен уступать или превосходить разум землян
Так же и любой ИИ должен быть обладателем психики по типу человека. В другом случае ИИ останется для нас "невидимым" и совсем не нужным для человечества.
Так же и предлагаемый вами генетический алгоритм для создания ИИ - обязательно будет проходить самодоместикацию к человеческому обществу и перенимать, нарабатывать  навыки и стремления  как у людей .
Тогда уверен ИИ захочет выпить и закусить.  Потому что нейрофизиология развития разума человека предусматривает специальное окружение - это наш социум .
Иначе ИИ будет для нас будет "невидимым". То чего нет в наших ощущениях - не представляет для нас интереса.

[noxx77]

Давайте не создавать винегрета в теме:
1) Компьютер и даже нейросеть - не мозг. Естественный интеллект - "навар с яиц" эволюции. Он заведомо отличается от машинного. Даже если понадобится имитировать работу некоторых структур мозга в реакциях машины, это проще сделать исходя из свойств и возможностей машины. Поэтому спутывать темы исследования человеческого мозга и ИИ, думаю, некорректно. Способность "мыслить" зависит не от количества элементов, а от эффективных схем и их реализации - программной и аппаратной - в случае биологического мозга, последние два в кавычках.
2) Проблема контакта с ВЦ вообще отдельная и, строго говоря, не сюда.