И создал человек бога...

[вова111]

А будут отдельные товарищи, способные контролировать искусственные нейросети, и обращать это умение себе на пользу. Вот их намерения и будут скрываться за внешне беспристрастным и объективным "ИИ".

Ну в такой ситуации ИИ как бы и нейросети им не нужны уже. Тогда просто достаточно заявить, что вещают от лица ИИ. И излагать свои пожелания.

[Maki]

По более сложному вычислителю - сильно сомневаюсь. Но даже если создадим, то общая вычислительная сложность популяции вырастет не сильно. То есть - даже если проигнорировать большую часть населения планеты а оставить только научных работников, то их всё равно наберётся несколько миллионов думаю. Причём они все создают совместный продукт, выраженный в качестве прогресса цивилизации.

Давайте, для удобства, разделим вычислительные мощности всех мозгов на творческие, сервисные, производственные и потребительские. Полагаю вы правы, и науку, технику и экономику двигают вперёд лишь несколько миллионов человек. То есть, реальный прогресс обеспечивает 0,1% нейронных мощностей! При этом, эти "мощности" имеют свойство отвлекаться, лениться, и очень посредственно считают...
Вот почему массовое внедрение даже примитивных нонешних компьютеров так изменило науку, технику и бизнес. Все, кто сумел применить компьютеры для решения практических задач (а сумели далеко не все) - резко повысили производительность труда. А компьютеры, которые "ушли" в потребительский сектор - работают практически впустую.
Так что вопрос в том, куда будут направлены мощности "ИИ" (кстати, может всё-таки "СН" - самообучающиеся нейросети - корректней?). Если "СН" дадут новые возможности учёным, управленцам и бизнесменам - новый прорыв гарантирован.
А вот остальным 99,9% нейронных сетей, какую мощность "СН" не добавляй - получим на выходе лишь дополнительное тщеславие, суету да лайканье котиков. То есть результат, достойный того самого слова на букву "м", которое, почему-то, вам так не нравится.

А будут отдельные товарищи, способные контролировать искусственные нейросети, и обращать это умение себе на пользу. Вот их намерения и будут скрываться за внешне беспристрастным и объективным "ИИ".

Ну в такой ситуации ИИ как бы и нейросети им не нужны уже. Тогда просто достаточно заявить, что вещают от лица ИИ. И излагать свои пожелания.

Так им и поверили! Нет, будет именно наоборот.
Почему лопнул банк? Зачем увеличивать налоги? Откуда столько рекламы? Почему акции завода упали на бирже? Где моя пенсия?
Извиняйте, так машина посчитала! А тот, кто в тени - тихо сидит, и потирает ручки...

[вова111]

Почему лопнул банк? Зачем увеличивать налоги? Откуда столько рекламы?

Так это вроде как и есть проблема с нейросетями, что они не могут объяснить решение которое приняли и сделали вывод. В смысле - они чёрный ящик в этом плане. Может ошибаюсь конечно - бывает как прочитаешь одно, но информация уже устарела.

[николай теллалов]

Банковская тайна уже не существует. Торговые операции уже полностью прозрачны. Смартфоны уже стали инструментом слежки.

относится таки не ко всем, только к "простолюдию"

(кликните для показа/скрытия)

кстати, Маки, насчет "мартышек". Меня не задевает, в отличии от Вовы, но при наличии сего (не подберу точного слова... эпатаж?) определения, Ваши посты начинают порой звучать трошки несерьезно, даже и не самоиронично, а капельку инфантильно-капризно, что несколько отвлекает от вникания в остальные мысли (кои читатить весьма интересно, как правило).

Просто мнение. Не в критику и не в обиду

хорошего дня желаю

по вопросу будет ли кто прятаться за авторитетом хипотетического ИИ - ОБЯЗАТЕЛьНО.
за аналогом далеко ходить не надо - религии, намек в названии темы

токо вот при достижении ИскИнтом этапа настоящего разума, таким "вещателям" прийдется несладко, вплоть до персонального апокалипсиса. Прочее человечество может и не заметить что произошло


вспомнил предположение одного коллеги (кстати программист, Ивайло Търновский) из Софийского клуба фантастов, почти ровно 11 лет назад. Он подкинул идею о том, что ИИ-ом будет являться некая хард-софт-среда, объединяющая мозги всех ключенных в данный момент в сию систему (эдакое инструментально осуществленное коллективное мышление). Причем необязательно, чтобы включенные осознавали включение.

(кликните для показа/скрытия)

Дискуссия прошла интересно, обкашляли разные аспекты, негативы и позитивы, перспективы и опасности. Ивайло пригрозил написать рассказ, а то и целую повесть, я обещал тут же перевести на русский для участия в российских конкурсах НФ.
Но чето еще не написал, то ли в бытовухе поувяз, то ли переувлекся сочинением т.наз. "фолкльорной" фантастики на основе болгарской мифологии, хотя нить про ИИ мелькает в его рассказах неизменно.
На дискуссии уделили время и варианту "сотворили бога", тогда еще был жив серьезный болгарский фантаст Агоп Мелконян, он высказался по сему поводу, но я смутно помню его тезисы, надо бы аудиозапись в архивах Клуба пошукать.

На

[вова111]

И кстати это вполне логично, что они не могут. Думаю даже никогда не смогут. Как и человек до конца не может описать все причины.

Поскольку до того как информация формируется в полноценный образ - она присутствует в сегментированном виде, который как я думаю - досознательный в любом случае - то есть сознание это сумма образов же. А тут ещё дообразное состояние как бы. А систематизировать все эти сегменты из которых состоят образы на узлах нейросети - потребует создания институтов, которые занимаются этим вопросом, причем чем сложнее сеть, тем больше потребуется мощностей, чтобы изучить все нюансы.

То есть что я думаю - поскольку мощности одной нейросети недостаточно, чтобы осмыслить всю информацию проходящую через её собственные узлы, то это просто математически получается, что информация постоянно будет неполной.

В смысле - число узлов всегда будет превосходить по количеству число образов. Тут без вариантов - как ни масштабируй. Масштабирование будет только увеличивать пропасть. А следовательно это предопределяет невозможность получить полную информацию о вселенной например.

[николай теллалов]

Давайте, для удобства, разделим вычислительные мощности всех мозгов на творческие, сервисные, производственные и потребительские.

чисто протокольная пометка: давайте не забывать, что такое разделение во многом очень условно.
Какбы удобство не ввело нас в самозаблуждение

Почему лопнул банк?

опять лезу с уточнениями, уж извините, собеседники...
крах банка - суть во многом политика, ибо политика - продолжение (обслуга) экономики другими средствами.

(что объяснет случаи соскальзывания в сей запретный на форуме лес, даже когда форумчанин не есть "злостный политофлудер")

[николай теллалов]

это предопределяет невозможность получить полную информацию о вселенной например.

с моей точки зрения сие есть оптимистический вывод.
Неполная познаваемость вселенной означает, что разуму никогда не станет скучно существовать;
а от скуки-хандры много ерунды получается


кстати, одно сомнение, о коем я писал в прошлом году:
нейросеть - это ведь скорее моделирование устройства мозга, не так?
виртуал.
и "сознание" на основе такой сети - виртуал в виртуале (?!)
дебри философские...

[вова111]

нейросеть - это ведь скорее моделирование устройства мозга, не так?

Это на самом деле большой вопрос. Оно моделирует как бы логику скорее. А принцип этот можно найти во всём. То есть смотрите - если мы поставим эксперимент, в ходе которого будем лить воду по наклонной поверхности, которая имеет определённый рельеф(допустим предварительно созданный нами рельеф) , то мы сможем вычислять результат, используя те же принципы, которые использует в своей работе и нейронная сеть и головной мозг.

В смысле!!! Наклонная поверхность(при условии, что обладает рельефом, способным разделять и перенаправлять потоки) и поток воды, льющийся по ней - будет нейронной сетью прямого распространения.

[вова111]

И мы сможем даже вычислить очень многое пользуясь таким методом.

То есть можно такими подручными средствами организовать нейронную сетку прямо у себя во дворе дома, которая реально будет вычислять что то.

Кстати - это можно экспериментально доказать ведь, либо опровергнуть.

[николай теллалов]

поток воды, льющийся по ней - будет нейронной сетью прямого распространения

мне трудно представить как у такого потока появится "самосознание" с кавычками или без оных...

(пристыжено:) я просто фантаст, для математика не хватило воображения...

(кликните для показа/скрытия)

попытался плюс Вам поставить за наглядные пояснения - движок не дает, жди, говорит, 72 часа

[вова111]

мне трудно представить как у такого потока появится "самосознание" с кавычками или без оных...

У него оно имхо не получится - поскольку тут нужны циклы, а он не сможет всю свою массу вновь переместить на стартовую позицию.

Но вычислять и даже "обучать" эту конструкцию по моему возможно. То есть простейшие арифметические операции вообще вне обсуждения - я тут скорее именно о нейросети. А 1+1 можно вычислить  просто вылив одну кружку плюс вторую. А чтобы устройство сказало, сколько кружек было вылито - можно например определять по резервуару в конце пути - если он полностью заполнен, то вылито две кружки. Варьируя размер резервуара можно и производить обучение.

Но это даже рельефа не требует. С рельефом возможно производить более сложные вычисления.

[николай теллалов]

спасибо
(почему движок так скуп на плюсование?)

[вова111]

У него оно имхо не получится - поскольку тут нужны циклы, а он не сможет всю свою массу вновь переместить на стартовую позицию.

Хотя при постоянном потоке входящей информации можно и циклы и рекурсию организовать. Вопрос в рельефе.

[николай теллалов]

Вопрос в рельефе

я снова в недоумении

но, спасибо, есть над чем раздумывать

[Rattus]

Так это вроде как и есть проблема с нейросетями, что они не могут объяснить решение которое приняли и сделали вывод. В смысле - они чёрный ящик в этом плане. Может ошибаюсь конечно - бывает как прочитаешь одно, но информация уже устарела.

Последнее что читал в этом направлении - новость конца прошлого лета про заказ военных на разработку Explainable Artificial Intelligence. И вот ещё нашёл интересное развёрнутое мнение на эту тему - вкратце: специалист пишет, что это и невозможно в полной мере и по сути ненужно, если система успешно проходит аккуратно составленные тесты.

То есть что я думаю - поскольку мощности одной нейросети недостаточно, чтобы осмыслить всю информацию проходящую через её собственные узлы, то это просто математически получается, что информация постоянно будет неполной.
В смысле - число узлов всегда будет превосходить по количеству число образов. Тут без вариантов - как ни масштабируй.

А это разве ещё не на заре кибернетики стало понятно?

[вова111]

А это разве ещё не на заре кибернетики стало понятно?

Не знаю. Вполне может быть такое, что было давно понятно.

[crazy_terraformer]

нейросеть - это ведь скорее моделирование устройства мозга, не так?

Это на самом деле большой вопрос. Оно моделирует как бы логику скорее. А принцип этот можно найти во всём. То есть смотрите - если мы поставим эксперимент, в ходе которого будем лить воду по наклонной поверхности, которая имеет определённый рельеф(допустим предварительно созданный нами рельеф) , то мы сможем вычислять результат, используя те же принципы, которые использует в своей работе и нейронная сеть и головной мозг.

В смысле!!! Наклонная поверхность(при условии, что обладает рельефом, способным разделять и перенаправлять потоки) и поток воды, льющийся по ней - будет нейронной сетью прямого распространения.

Напомнило объяснение теории хаоса.

http://www.youtube.com/watch?v=k98rQOZPL74#

[Гравитон-24]

всё рассуждения и философствования. А вы попробуйте этим конкретно заняться, и тогда возникнут другие мысли и другое направление.

[Maki]

по вопросу будет ли кто прятаться за авторитетом хипотетического ИИ - ОБЯЗАТЕЛьНО.
за аналогом далеко ходить не надо - религии, намек в названии темы

И во что верить обывателю - в Вождя, Рынок, или Киберразум - без разницы.

токо вот при достижении ИскИнтом этапа настоящего разума, таким "вещателям" прийдется несладко

Пока всё, что связного звучит в этой теме, указывает что никакого "настоящего разума" у самообучающихся нейросетей не будет.

чисто протокольная пометка: давайте не забывать, что такое разделение во многом очень условно.
Какбы удобство не ввело нас в самозаблуждение

А что в нём "условного"? Боюсь, что это объективная картина.

[Maki]

Почему лопнул банк? Зачем увеличивать налоги? Откуда столько рекламы?

Так это вроде как и есть проблема с нейросетями, что они не могут объяснить решение которое приняли и сделали вывод. В смысле - они чёрный ящик в этом плане. Может ошибаюсь конечно - бывает как прочитаешь одно, но информация уже устарела.

А и не нужно объяснять. Буквально вчера читал научпоп-статейку. В какой-то америкосовской IT-компании, "СН" вычислила, что наиболее перспективно принимать на работу молодых белых мужчин. И начала это рекомендовать. Случился дикий скандал, и роботу надавали по мозгам.
Нейросеть, она, конечно самообучающаяся... Но на каком материале её воспитаешь - так она и будет работать. Ну и корректирующие вводные никто не мешает применять. Закладывать фильтры, ограничения, предпочтения.
С социальными нейросетями, голосовыми ассистентами, так точно будет. Иначе, там такое коллективное бессознательное "Анонимуса" сформируется - мама не горюй...