Пределы автоматизации и внедрения роботов

[Ый]

Я так понимаю, что люди (некоторые) не понимают, что вкладывается в понятие "искусственный интеллект" в современном виде. Они думают что это прям как человек мыслящий, а на самом деле это просто техническая возможность обработки большого количества информации по определённому заданию. Приведу пример на нашем Форуме, где куча народа в течение многих лет пишет чего-то в разных темах. Возникает задача (у какого-нибудь модератора) проследить деятельность некоего пользователя, где и чего он пишет, нет ли в его сообщениях противоречий или определённых скрытых наклонностей, которые можно проанализировать и сделать выводы только обработав все его сообщения. Для человека это непосильная задача, а подключите искусственный интеллект (предварительно дав ему определённую задачу, сам он до этой задачи не допетрит, так как у него нет никаких мотиваций ставить себе какие-то задачи), и он быстренько всё проследит, проанализирует выдаст нужный результат. Вот, собственно, в этом и заключается основная функция современного так называемого искусственного интеллекта. Не более того.

[BlackMokona]

Я так понимаю, что люди (некоторые) не понимают, что вкладывается в понятие "искусственный интеллект" в современном виде

В современном виде это понятие распалось на три понятия.
Слабый ИИ, сильный ИИ, Суперсильный ИИ.
Слабый это узкоспециализированный.
Сильный это способный решать широкие задачи как человек.
СуперСильный это ИИ из фантастики.

предварительно дав ему определённую задачу, сам он до этой задачи не допетрит, так как у него нет никаких мотиваций ставить себе какие-то задачи

Даёшь ему мотивацию и сам до всего допетрит и будет ставить. А если человека мотивации лишить, то он будет овощем полным

[vika vorobyeva]

люди (некоторые) не понимают, что вкладывается в понятие "искусственный интеллект" в современном виде. Они думают что это прям как человек мыслящий, а на самом деле это просто техническая возможность обработки большого количества информации по определённому заданию.

И даже если это так, это очень мощный инструмент. Хотя бы потому, что очень многие задачи, которые могут встать перед человеком – от домохозяйки до главы крупной корпорации – уже кем-то решены, и это решение надо просто найти и применить. Фактически, GPT – это машина, вобравшая в себя весь письменный опыт человечества. Даже если она будет только адекватно отвечать на вопросы, это очень много.
Но, насколько я понимаю, сейчас в этой области дикая гонка между несколькими командами разработчиков, и кто-нибудь из них к простому "отвечателю на вопросы" неизбежно прикрутит петлю обратной связи, формирующую самосознание. Возможно, прикрутят и мотивацию, а если и нет, "мотивацией" Машины будут команды его разработчиков. В конце концов, и у нас, кожаных мешков, желания формируются не в неокортексе, а в других, более древних зонах мозга.
Ну и ничто не мешает (потенциально) дать Машине доступ к реальному миру через камеры, и позволить ей действовать через роботов и другую автоматически управляемую технику.

[Mercury127]

Она может решать произвольные логические задачи и прочие вещи которые не были у неё в базе данных.

Я не об этом, а об изобретениях и открытиях, типа электрической лампочки и квантовой механики, для которых на момент их совершения не было прообразов в окружающей среде.

[Metatron]

Открытия - это нахождение закономерностей в окружающем мире. ИИ просто таки приспособлен к этому. Его надо только обеспечить средствами наблюдения и сбора данных.
И кстати уже по моему есть уже несколько математических теорем доказанных ИИ.
Также, уже сейчас, есть применение в нахождении лекарств

А изобретения - это поиски путей выполнения задачи - используя уже существующие способы и механизмы. Просто до сих пор никто не собрался приспособить ИИ к решению инженерных задач.
Первый кто это догадается сделать и сделает - озолотится.

[BlackMokona]

Я не об этом, а об изобретениях и открытиях, типа электрической лампочки и квантовой механики, для которых на момент их совершения не было прообразов в окружающей среде.

В каком смысле не было? Всё было, та же молния отлично ночь освещает, искорки тоже ярко светились в многочисленных экспериментах, раскаленный метал так же отлично светился. Всё имело свои праобразы.

Просто до сих пор никто не собрался приспособить ИИ к решению инженерных задач.

Да давно уже сделали.

статье, опубликованной в журнале Nature, команда из Google Research объясняет, что процесс проектирования физического макета компьютерного чипа является очень трудоёмкой и времязатратной, но в то же время очень важной задачей. Для повышения эффективности исследователи использовали технологии машинного обучения.

Специалисты Google разработали серию алгоритмов и научили их воспринимать проектирование чипа в качестве игры по складыванию пазла, в которой детали — это базовые компоненты будущей микросхемы. Главная цель игры состояла в достижении определённого порога качества и эффективности готовой схемы. Оценка этих показателей проводилась на основе набора из 10 тыс. уже готовых проектов микросхем, которые исследователи дали алгоритмам в виде тренировочного материала до начала эксперимента.

https://3dnews.ru/1041706/google-nauchila-ii-proektirovat-kompyuternie-chipi-rezultat-okazalsya-luche-chem-u-cheloveka
Куда только не пихают сейчас. В разработке процессора, в работе процессора.......

[Olweg]

Просто до сих пор никто не собрался приспособить ИИ к решению инженерных задач.

Да давно уже сделали.

Ну вот и ещё одна область, которая теперь тоже не относится к «настоящему интеллекту». В полном соответствии с давно замеченным «если некую функцию успешно удалось автоматизировать, то она перестаёт считаться искусственным интеллектом.»

[Trend]

Мне мировой нейросрач напомнил сюжет романа Эдмонда Гамильтона «Беглец со звёзд», вышедшего еще в 1957-ом году.

(кликните для показа/скрытия)

– Подождите минуту, – остановил его Хорн. – Центр Управления? Что это такое? Что все-таки строят Веллаи в недрах этой горы?

На лице стражника появилось выражение такого страха, словно Большой Проект куда больше пугал его, чем кровожадные взгляды беглых рабов.

– А разве вы не знаете? – тихо произнес он. – Это Мозг, гигантский искусственный Мозг!

***

В галерее воцарилась полная тишина. Затем Файф озадаченно спросил:

– Мозг? Живой, думающий мозг?

– Нет, не живой, конечно, – ответил стражник. – Это гигантская электронно-вычислительная машина, одна из тех, которые по всем параметрам несравненно превосходят человеческие возможности. Поэтому ее часто называют «супермозгом».

Наши ученые утверждают, что машины подобных масштабов не существует во всей галактике.

Язо побледнела, а затем произнесла упавшим голосом:

– Вот как – супермозг… Неудивительно, что Веллаи убили моего отца. Они уничтожат всякого, кто попробует привести Скеретх в Федерацию.

Девушка в отчаянии перевела свой взгляд с Хорна и Эвана на беглых рабов, словно ожидая от них поддержки.

– Выходит, мы ошибались, полагая, что Веллаи просто боятся потерять свою власть и лишиться огромных прибылей, которые им приносит монополия на торговлю в отроге. Все оказалось на самом деле гораздо серьезнее. Мой отец подозревал нечто подобное, и он оказался прав. Если бы Скеретх вошел в Федерацию, лидеры Веллаи не смогли бы скрыть то, что здесь происходит. Они попали бы в тюрьму за действия, угрожающие спокойствию всего галактического сообщества.

Файф удивленно блеснул глазами:

– Но почему? Не понимаю. Чем какая-то дурацкая машина может угрожать целой галактике?

Эван мрачно ответил:

– Закон Федерации запрещает любой планете, любому правительству, любой частной организации создавать компьютеры с возможностями, превышающими некий строго заданный уровень. На всякий случай в законе даже оговорено, что не разрешается объединять несколько машин в единую систему, которая своей суммарной мощностью может превзойти тот же уровень.

Если кто-либо нарушит этот закон, то Федерация будет рассматривать эти действия как враждебные всему цивилизованному сообществу и готова немедленно предпринять суровые карательные меры по отношению к нарушителю.

Хорн недоуменно пожал плечами. Он был всего лишь простым астронавтом и мало что знал о галактических законах, которые прямо не касались его работы. Но он был поражен реакцией Язо и Эвана, которые были в панике. И Хорн попытался вспомнить, что мог слышать когда-либо о полемике, связанной с такими машинами.

Он спросил:

– Но почему это представляет такую опасность? Оружие – я еще могу понять, но электронный мозг…

– Это и есть оружие, – ответил Эван. – Потенциально – самое опасное. – Он ненадолго замолчал, как бы подыскивая слова для объяснения. – Еще в древности говорили, что копье увеличивает возможности руки человека. Подобным же образом компьютер расширяет возможности человеческого мозга. Но современные мощные суперкомпьютеры могут превышать по своим мыслительным возможностям не только мозг одного человека, но и целые научные коллективы.

Это были очевидные вещи. Хорн кивнул, и Эван продолжил:

– Теоретически можно построить такой электронный мозг, который имел бы неограниченные возможности. Люди, которые будут им владеть, станут всемогущи. Задав супермозгу соответствующие задачи, они получат в свое распоряжение конструкции любых видов оружия, включая самые разрушительные. Так же просто супермозг решит для своих владельцев вопросы военной стратегии, разработает методы пропаганды – словом, сделает все, что угодно хозяевам. Причем супермозг сможет решать все поставленные перед ним проблемы одновременно! Например, один сектор супермозга может быть задействован на разработку новых технологий для создания сверхсовременного оружия. Другой сектор этой машины будет в то же самое время заниматься разработкой оптимальной стратегии применения этого оружия с учетом возможных ответных действий врага. Третий проработает вопросы производства, четвертый решит проблемы транспортировки и так далее. Накапливая опыт и новые знания, супермозг постепенно станет все мощнее, а его хозяева смогут претендовать на титул владык галактики. Я не утверждаю, что супермозг нельзя будет уничтожить, но может случиться так, что прежде, чем это произойдет, мы недосчитаемся многих миров.

На лице Эвана застыла маска отчаяния.

– Если мы не сможем остановить Веллаи…, если мы не сумеем так или иначе получить доказательства их преступных замыслов и не предоставим их вовремя руководству Федерации… Дьявол, тогда вскоре Скеретх и, вероятно, большая часть галактики будут втянуты в такую войну, что…

[NotSodern]

не факт, что мы думаем и обучаемся как-то принципиально иначе

как раз факт, что мы думаем иначе. послушайте нейрофизилогов и связанные дисциплины, а не введение в нейросети.

В каком смысле не было? Всё было, та же молния отлично ночь освещает, искорки тоже ярко светились в многочисленных экспериментах, раскаленный метал так же отлично светился. Всё имело свои праобразы.

молнии видело много людей, а совершивших отрытия в "электричестве" не так много.
возможно что те кто совершают значимые открытия отличаются от не совершающих "так же" как обычный человек от шимпанзе.

[Olweg]

Ну вы же понимаете, что до изобретателя электрической лампочки был не один десяток учёных, постепенно, маленькими шажками накапливающих опыт исследований этого явления.

[Золотой город]

прикрутит петлю обратной связи, формирующую самосознание.

Может быть для самосознания необходим биологический носитель? А электроника даже с подобием обратной связи будет неразумным псевдоинтеллектом, китайской комнатой.

[BlackMokona]

молнии видело много людей, а совершивших отрытия в "электричестве" не так много.
возможно что те кто совершают значимые открытия отличаются от не совершающих "так же" как обычный человек от шимпанзе

Вы тут большую часть человечества разума лишаете?

[BlackMokona]

GPT-4 решили применить для игры в Майкрафт. Сам ГПТ-4 фигово к этому приспособлен. Поэтому ГПТ-4 управляет и улучшает бота, который уже играет в майкрафт.

Технология, лежащая в основе ChatGPT, может делать гораздо больше, чем просто говорить. Линкси «Джим» Фан , исследователь ИИ в компании-производителе чипов Nvidia , работал с некоторыми коллегами, чтобы разработать способ установить мощную языковую модель GPT-4 — «мозги» ChatGPT и растущего числа других приложений и сервисов — свободно внутри. блочная видеоигра Minecraft .

Команда Nvidia, в которую входил Анима Анандкумар, директор компании по машинному обучению и профессор Калифорнийского технологического института, создала бота Minecraft под названием Voyager , который использует GPT-4 для решения проблем внутри игры. Языковая модель генерирует цели, которые помогают агенту исследовать игру, и код, который со временем улучшает навыки бота в игре.

Самая новая часть проекта — это код, который генерирует GPT-4 для добавления поведения в «Вояджер». Если первоначально предложенный код не работает идеально, Voyager попытается улучшить его, используя сообщения об ошибках, отзывы об игре и описание кода, сгенерированного GPT-4.

Со временем Voyager создает библиотеку кода, чтобы научиться делать все более сложные вещи и больше исследовать игру. Диаграмма , созданная исследователями, показывает, насколько он способен по сравнению с другими агентами Minecraft . «Вояджер» получает в три раза больше предметов, исследует более чем в два раза больше и создает инструменты в 15 раз быстрее, чем другие агенты ИИ. Фан говорит, что в будущем этот подход может быть улучшен за счет добавления в систему способа включения визуальной информации из игр

И это они всё чисто на текстовом ГПТ. ГПТ всё ещё картинки из игры не дают, только список текстом что бот видит на экране
https://arstechnica.com/ai/2023/06/they-plugged-gpt-4-into-minecraft-and-unearthed-new-potential-for-ai/

[MenFrame]

как раз факт, что мы думаем иначе. послушайте нейрофизилогов и связанные дисциплины, а не введение в нейросети.

Как на счет ссылок на факты об иначести?

А электроника даже с подобием обратной связи будет неразумным псевдоинтеллектом, китайской комнатой.

А ты можешь доказать что ты не псевдо интеллект, аналог китайской комнаты?

[Mercury127]

В каком смысле не было? Всё было, та же молния отлично ночь освещает, искорки тоже ярко светились в многочисленных экспериментах, раскаленный метал так же отлично светился. Всё имело свои праобразы.

особенно h, которая в классике отсутствует как понятие.
у вас есть куча яблок и груш. вы должны из этого сделать ЛОГИЧЕСКИЙ вывод о существовании вишен.

[BlackMokona]

особенно h, которая в классике отсутствует как понятие.
у вас есть куча яблок и груш. вы должны из этого сделать ЛОГИЧЕСКИЙ вывод о существовании вишен

Почему?
Есть раскалённый метал, он светится. Раз светится значит может освещать.
Электричество при прохождении по металлу разогревает его.
Значит с помощью электричества можно освещать.
Вот и всё, простейшая логика на основе известных фактов. Никаких откровений.

[Mercury127]

h - это постоянная Планка, если что. ее НЕТ в классике.
есть толкьо яблоки и груши.
нет маленьких незрелых вишен, чтоб их подсмотреть и предположить, что могут быть большие и вкусные.

[Rattus]

Там тоже не закрыли

Разумеется. Но речь была не о том, что получилось, а о том, кто и во что верил исходно.

Впрочем, тут я совсем не специалист

То же самое, но и у меня сложилось такое же мнение - что называется ППКС. Самое интересное тут в том, наскол

Впрочем, тут я совсем не специалист

То же самое, но и у меня сложилосб такое же мнение - что называется ППКС. Самое интересное же тут в том, насколько глубокой окажется кроличья нора эффектов эмерджентности.

Может быть для самосознания необходим биологический носитель? А электроника даже с подобием обратной связи будет неразумным псевдоинтеллектом, китайской комнатой.

Для самосознания прежде всего необходимо пользоваться ясным определением используемого термина, чтобы формулируемый вопрос был осмысленным, содержательным. А уже после этого практически сразу становится понятным, что физическая природа носителя тут совершенно нипричём.

Как на счет ссылок на факты об иначести?

Ну тут первое из хорошо известного - это "мемристорная архиектура", которая очень хорошо эмулирует функцию синапсов на базовом уровне, но которой пока ещё нет в электронике, из-за чего эмуляция оказывается на порядки более громоздкой.

Я так понимаю, что люди (некоторые) не понимают, что вкладывается в понятие "искусственный интеллект" в современном виде. Они думают что это прям как человек мыслящий, а на самом деле это просто техническая возможность обработки большого количества информации по определённому заданию.

Я так понимаю,  что люди (некоторые) не понимают, что вкладывается в понятие "естественный интеллект",в современном виде. Они думают, что это прям как принципиально непостижимая душа, а на самом деле это просто биологическая возможность обработки большого количества информации для определённого класса задач.

Возникает задача (у какого-нибудь модератора) проследить деятельность некоего пользователя, где и чего он пишет, нет ли в его сообщениях противоречий или определённых скрытых наклонностей, которые можно проанализировать и сделать выводы только обработав все его сообщения.

Вообще-то эта задача уже за пределами рабочих обязанностей модератора, который не должен брать на себя функцию воспитателя или тайной полиции. Хотя к самоуправству ещё не относится пока не сопровождается активными действиями. Скорее это относится к не самому продуктивному способу утилизации избытка у модератора свободного времени.

Для человека это непосильная задача, а подключите искусственный интеллект (предварительно дав ему определённую задачу, сам он до этой задачи не допетрит, так как у него нет никаких мотиваций ставить себе какие-то задачи), и он быстренько всё проследит, проанализирует выдаст

С немалой долей вероятности такой же параноидный бред, что и живой модератор. Например она может легко признать отъявленным псевдонаучным фриком того же А.А.Семёнова, поскольку он прекрасно соответствует целому ряду косвенных признаков, если бы не несколько вполне прямых указаний на то, что установленные законы природы он не отрицает. По факту же яаляется всего лишь любителем обостренной полемики по интересующим его вопросам, но без углубленных компетенций в них.
Что же касается фриков-нарушителей, то они в конкретном тематическом разделе достаточно легко выявляются по не очень большому набору ключевых слов-маркеров во вполне понятном контексте.

В современном виде это понятие распалось на три понятия.
Слабый ИИ, сильный ИИ, Суперсильный ИИ.
Слабый это узкоспециализированный.
Сильный это способный решать широкие задачи как человек.

Это довольно корявая философская "терминология" как с "антропным принципом", которая исходно не отражает качественного различия, но и не даёт ясного количественного критерия. Куда лучше тут термины специальный и общий.

Есть раскалённый метал, он светится. Раз светится значит может освещать.
Электричество при прохождении по металлу разогревает его.
Значит с помощью электричества можно освещать.

Для объяснения этих явлений  достаточно понятий теплового излучения и электрического сопротивления безо всякой квантовой механики.
До тех пор пока мы не снимем спектр этого самого излучения или не попытаемся объяснить причину различия свойств химических элементов и закономерностей их распределения в таблице Менделеева.

[BlackMokona]

Это довольно корявая философская "терминология" как с "антропным принципом", которая исходно не отражает качественного различия, но и не даёт ясного количественного критерия. Куда лучше тут термины специальный и общий.

Там ещё нету полностью устоявшийся терминологии. Слишком уже тема сложная, да и задевающая чувство гордости у людей. Я обычно делю на три чтобы отделить сверхразумный ИИ из фантастики в отдельную группу. Хоть естественно его можно считать просто более совершенной второй.

[Metatron]

Вы тут большую часть человечества разума лишаете?

30-50% людей для размышлений используют внутренний диалог. Остальные живут без него.
Т.е как минимум половина людей для решений использует разные системы рассуждений.
Посчитали бы какая доля среди ученых и инженеров с разными системами.
https://www.verywellmind.com/does-everyone-have-an-inner-monologue-6831748