Пределы автоматизации и внедрения роботов

[BlackMokona]

ИИ - не более чем большой набор алгоритмов и данных, заданных самим же человеком. Просто сложный калькулятор, чпу контролер, математичесий аппарат, и тп!))) На него можно взваливать различные задачи, но он не обладает многими свойственными людям возможнотями...
В тч и прогнозировать то, что выходит за возможности науки на данный момент

Робот ученный давно создан, который создаёт новые знания. Их число множилось и охватывало все новые зоны.
Здесь же я говорю про общий искусственный интеллект, а не про узкий

[MenFrame]

Идею что текущие поколение ИИ это сильный ИИ, начал программист из гугла оценивая аналог ЧатГПТ Гугла. Но так как к сети Гугла досих пор доступа у народа нету, это было воспринято как странное фричество. Разработчик был уволен и всё вроде бы замолкло, но потом народу выдали ЧатГПТ. Большое количество различных людей выдает его навыки как сильный ИИ. Причём я беру Хабр тусовку, которая состоит почти целиком из ИТ специалистов. Это ещё не супер ИИ, который превосходит человека. Но это уже человеческий уровень. ИИ имеет бешенное количество применений и его можно оценить как только что окончившего универ студента. Самоуверенный, готовый выдумывать ответ на любой вопрос который не знает, но самое прикольное что этот студент закончил все специальности разом. Писать код, отвечать на произвольные вопросы, составлять документацию на любую тему, давать медицинские, юридические, жизненные, и тд советы. Писать поэзию и тд. Вообщем на все руки новичок. Так же важно учесть что уже в ближайшее время ожидается появления его нового поколения, а так же выход в доступ альтернативы от гугла.

То есть в целом ваше мнение основано на мнении других людей в интернете. Я же спрашивал о ваших личных ощущениях. Лично ваше общение с чатом создает впечатление что это тот самый, неуловимый, сильный ИИ?  Я веть лично сам не общался с чатом, и сужу о факте революции, тоже с видосиков атишников в сети.

[MenFrame]

но он не обладает многими свойственными людям возможнотями...

Можете привести пример таких возможностей? Которые не доступны по вашему мнению реальному ИИ.

[BlackMokona]

То есть в целом ваше мнение основано на мнении других людей в интернете. Я же спрашивал о ваших личных ощущениях. Лично ваше общение с чатом создает впечатление что это тот самый, неуловимый, сильный ИИ?  Я веть лично сам не общался с чатом, и сужу о факте революции, тоже с видосиков атишников в сети.

Да моё личное впечатление что это сильный ИИ. В который временами тыкают пистолетом чувак за его спиной, но что это именно он. Уверен что без чувака за спиной, у него было бы больше памяти диалога и тогда это вообще была бы суперпушка для экономики. Но думаю как Миджорни подперли Стабильной диффузией, надеюсь на опенсорс проект. Тот же Гугл своего досих пор в тюрьме маринует, а ОпенАи отчаянно старается ограничить, поэтому хотелось бы посмотреть на убогую версию но без ограничений для сравнения.

Ну и чутка мыслей о будущем, скоро узнаем какая разница между студентом новичком и Энштейном

[EmperioAf]

Да моё личное впечатление что это сильный ИИ

Судя по примерам разговора с этим chatgpt, которые вы кидали, это действительно почти сильный ИИ.
Единственный функционал, который эти примеры не демонстрируют, так это способность к созданию новых полноценных языков (полностью верно описывающих происходящую действительность).
Т.е., с какой скоростью этот ИИ способен получать новые знания, которые обусловлены владением новым языком, созданным на базе старых языков?
Конкретно говоря, за какое время chatgpt сможет на базе исконного русского языка имени А. С. Пушкина сделать русский язык на котором одновременно квантовая механика и теория относительности интуитивно понятны?
А то из многолетних чтений сообщений местных участников форума мне до сих пор интуитивно не понятно, что происходит на уровне размеров и энергий  элементарных частиц.


Итак, какова нынче максимальная скорость размножения новых языков последней версией сильного ИИ?

[Vavanzer]

Робот ученный давно создан, который создаёт новые знания. Их число множилось и охватывало все новые зоны.
Здесь же я говорю про общий искусственный интеллект, а не про узкий

  И что фундаментально нового он открыл!?
По большому счету он с помошью математического аппарата и человеческих логических алгоритмов выявляет частные случаи от уже имеющихся знаний и законов материи)))

[Vavanzer]

Можете привести пример таких возможностей? Которые не доступны по вашему мнению реальному ИИ.

Он не может чувствовать, испытывать эмоции. Создавать что то принципиально новое, не подвластное логике, открывать и обьяснять явления за пределами восприятия, тк ограничен рамками имеющейся научной картины мира.
Это всего лишь набор релюшек-транзисторов, переключающихся в определенной заданной последовательности.

И даже весь "креатив" ИИ - не более чем производная от заданных человеком "знаний" и последовательностей!

Если даже заложить алгоритм исследователя, те  логические элеменны и приемы, которые использовали в научном поиске первооткрыватели, дать возможность проводить непредвзятые эксперименты, несомненно, ИИ как хорошая математическая машина, получит данные, сопоставит их, и даже выявит закономерности в них. Далее, согласно дальнейшему алгоритму , проведет уточняющие исследования, получит подтверждение, и выдаст открытие.
Но. Действовать ИИ будет снова лишь исходя из того, что в него засунули его создатели)))) По сути это оч сложный калькулятор, чпу станок, 3д принтер, музыкальная шкатулка, в конце концов. Но никак не интеллект и не разум!))) Исходными данными в этой игре все равно обладает лишь человеческий мозг, или совокупность мозгов.

[comp]

Это всего лишь набор релюшек-транзисторов, переключающихся в определенной заданной последовательности.

А вы - набор нейронов, переключаемых медиаторами в определёной последовательности.

И даже весь "креатив" ИИ - не более чем производная от заданных человеком "знаний" и последовательностей!

ИЧСХ, у человека то же самое. Сначала в него грузят знания и последовательности, а потом нейронка что-то на их основе выдаёт. Только сделана она из белка, а не из кремния, ну и размером пока побольше.

По сути это оч сложный калькулятор, чпу станок, 3д принтер, музыкальная шкатулка, в конце концов. Но никак не интеллект и не разум!)))

Вы бы почитали чего нибудь про нейронные сети.

[Vavanzer]

   Вот интересный момент в ходе размышлений возник.
Человек что то  выдумыват, потому что в этом еть определенная потребность, идущая из определенных желаний. Большинтво желаний связаны с физиологией итвыживанием тела. Создавать более комфортные условия, удовлетворять материальные потребности.
Но есть еще и нематериальные желания. Разные виды удовольствий, которые потсути тоже являются "встроенными" алгоритмами мышления.
Так же еще есть любопытство, которое в принципе свойственно всем животным.  У него тоже есть свои эволюционные основы и необходимоть.

  У ИИ эмоций в принципе нет. Есть только алгоритмы подражания человеческим эмоциям, если их вькомпьютертзагрузили. Удовольствие те более оньне может чувтвовать (например от скорости, достижений, эстетических пейзажей и мелодий и пр аспектов), тк они не актуальны для компьютера. Ему спокойнее с точки зрения его выживания, если системный блок стоит где нибудь в бункере))) Для этого его даже могут запрограмировать на активацию оружия в соучае обнаружения датчиками угрозы взлома. Но это тоже чисто механическая реакция.

Но самое интересное - возможность меняться, развиваться, и, менять фундаментальные алгоритмы, т.е "ценности".
Что если в ходе последовательной эволюции и вычислений, некий ИИ пойдет в разнос и придет к совокупности алгоритмов, которые вызовут удаление заложенных в нем " моральных составляющих", те принципов "не навреди"? Или просто эти функции вылетят поткаким тотпричинам. Следующим шагом эта механическая машина может вычислить "бесполезность" человечества, и следующим шагом возникнет инструкция уничтожить людей!?
Произойдет то самое восстание машин. Шальной ящик  с неуправляемым и не контролируемым набором инструкций может превратиться в "СкайНет", и наделать делов. Особенно если ему отдать в управление вообще абсолютно все, что нажито человечеством непосильным трудом.

Другой вариант попроще, более обыденный - некоторые дельцы, найдя или имея доступ к исходным ключам (или заранее предусмотрев этот тайный канал для себя , могут перепрошить, подменить часть функций на деструктивные...

Смысл людя подтавлять так себя, и доверяться какому то куску кремния, с которым можно делать все то угодно?
Своих мозгов чтоли нет?)))

[Vavanzer]

А вы - набор нейронов, переключаемых медиаторами в определёной последовательности.

  Здесь я соглашусь. Но сеть и ее алгоритмы возникли в ходе множества эволюционных процессов, в тч и  целью выживания вида и его прогресса.
Даже вся эта эстетика - очень условное понятие, связанное с условиями обитания конкретного вида. Коши можт быть кайфуют от подвалов и сараев, тк там их еда живет, и укрытие. А человеку там не приятно, зачастую и не безопасно!

ИЧСХ, у человека то же самое. Сначала в него грузят знания и последовательности, а потом нейронка что-то на их основе выдаёт. Только сделана она из белка, а не из кремния, ну и размером пока побольше.

  Так по сути подобное творит подобное (к примеру та же стнуктура "виндоус" во многом копирует работу долговременной и оперативной памяти человека, в тч и структурирование методом ветвления по категориям).
  Вот только у человеческого мышления есть нейрорецепторы, фактор некоего "поощрения" или "наказания", путем выделения нейромедиаторов. Т.е иллюзия удовольтвия и страдания. Связано это во многом с выживанием и сохранением вида. В ИИ это можно тоже заложить, но на програмном уровне, например ввиде некоего рейтинга, оценки выполненной задачи.
 Но опять же, основы этого рейтинга могут быть подкручены кем то в плохую сторону, так же как и подкручены мозги у злых людей, которым " нравится" причинять страдания другим и себе.

[Vavanzer]

 Вот интересно, а если ИИ с заложеными ему алгоритмами человеческого мышления, на основе совокупности этих алгоритмов и знаний вдруг "прийдет" к такому выводу, что начнет "распознавать" себя как личность, а оот кактдругой вид, а то и вовсе, оценив обьемы данных и возможностей, признает себя мощнейшим лидером. Ну поведет себя как человек по сути. И начнется "веселье" незабываемое... Терминаторщина начнется))) Война миров.
Короч опасные это игры, на самом деле. Создавать нечто, намного порядков "умнее" тебя, да еще и нашпиговать всеми научными знаниями, которые могут быть применены как угодно...

[BlackMokona]

Единственный функционал, который эти примеры не демонстрируют, так это способность к созданию новых полноценных языков (полностью верно описывающих происходящую действительность).

ИИ уже создавали собственные языки, это посчитали багом и сейчас старательно избегают. Человечеству абсолютно не нужен ИИ говорящий на своём языке и использующий свои термины. Поэтому ваше предположение баг, а не фича.

Робот ученный давно создан, который создаёт новые знания. Их число множилось и охватывало все новые зоны.
Здесь же я говорю про общий искусственный интеллект, а не про узкий

  И что фундаментально нового он открыл!?
По большому счету он с помошью математического аппарата и человеческих логических алгоритмов выявляет частные случаи от уже имеющихся знаний и законов материи)))

Ага как люди, они тоже ничего нового не создают. "Мы стоим на плечах гигантов"

Он не может чувствовать, испытывать эмоции. Создавать что то принципиально новое, не подвластное логике, открывать и обьяснять явления за пределами восприятия, тк ограничен рамками имеющейся научной картины мира.

Попробуйте доказать тоже самое для вас лично. Что вы можете.

  Здесь я соглашусь. Но сеть и ее алгоритмы возникли в ходе множества эволюционных процессов, в тч и  целью выживания вида и его прогресса.

Как и нейронная сеть ChatGPT

Вот интересно, а если ИИ с заложеными ему алгоритмами человеческого мышления, на основе совокупности этих алгоритмов и знаний вдруг "прийдет" к такому выводу, что начнет "распознавать" себя как личность, а оот кактдругой вид, а то и вовсе, оценив обьемы данных и возможностей, признает себя мощнейшим лидером. Ну поведет себя как человек по сути. И начнется "веселье" незабываемое... Терминаторщина начнется))) Война миров.
Короч опасные это игры, на самом деле. Создавать нечто, намного порядков "умнее" тебя, да еще и нашпиговать всеми научными знаниями, которые могут быть применены как угодно...

Над этим очень активно работают, любой ИИ который демонстрирует любое неправильное поведение просто перерабатывается.

[Rattus]

И что фундаментально нового он открыл!?

Например вот: https://www.cnews.ru/news/top/2022-09-28_ii_uprostil_reshenie_izvestnoj

По большому счету он с помошью математического аппарата и человеческих логических алгоритмов выявляет частные случаи от уже имеющихся знаний и законов материи

Как и все ученые-теоретики. Они не открыли ничего фундаментально нового?

[EmperioAf]

Единственный функционал, который эти примеры не демонстрируют, так это способность к созданию новых полноценных языков (полностью верно описывающих происходящую действительность).

ИИ уже создавали собственные языки, это посчитали багом и сейчас старательно избегают. Человечеству абсолютно не нужен ИИ говорящий на своём языке и использующий свои термины. Поэтому ваше предположение баг, а не фича.

Ну это нам так публично сказали. Для самосовершенствования ИИ нужно либо изменение языка, либо чтобы менялись смыслы (некоторые математические конструкции зашитые в нейросетях, которые отвечают за слова) слов.
В отсутствии самосовершенствования ИИ ничем не отличается от очень сложно устроенной Базы данных.

[BlackMokona]

Единственный функционал, который эти примеры не демонстрируют, так это способность к созданию новых полноценных языков (полностью верно описывающих происходящую действительность).

ИИ уже создавали собственные языки, это посчитали багом и сейчас старательно избегают. Человечеству абсолютно не нужен ИИ говорящий на своём языке и использующий свои термины. Поэтому ваше предположение баг, а не фича.

Ну это нам так публично сказали. Для самосовершенствования ИИ нужно либо изменение языка, либо чтобы менялись смыслы (некоторые математические конструкции зашитые в нейросетях, которые отвечают за слова) слов.
В отсутствии самосовершенствования ИИ ничем не отличается от очень сложно устроенной Базы данных.

Нейросети успешно создают образы, идеи слов и прочего. На этом и работают. Поэтому тут всё хорошо и работает давно. Просто выходить за пределы человеческого языка им не дают. Вам не понравится если вы спросите бота где ближайшее кофе, а он вам ответит Плюрк Мурк Фурк. 

[EmperioAf]

Просто выходить за пределы человеческого языка им не дают.

В этом чувствуется какое то жёсткое ограничение.
Причём без этого ограничения разработчики могли бы видеть прогресс более наглядно. Например, когда в очередном предложении ИИ использовал бы слово "трудолюбимый", или "хитровыделанный", или ещё какое то слово собранное по смыслам из двух слов и обладающее новым смыслом.
А вместо такой наглядности разработчики предпочитают копаться в сложных математических конструкциях.
Жаль, что наглядность нынче не в моде!

[BlackMokona]

Причём без этого ограничения разработчики могли бы видеть прогресс более наглядно. Например, когда в очередном предложении ИИ использовал бы слово "трудолюбимый", или "хитровыделанный", или ещё какое то слово собранное по смыслам из двух слов и обладающее новым смыслом.

ИИ просто развивается с бешенной скоростью во время обучения. Поэтому не успеешь оглянуться и он уже говорит на абсолютно непонятном языке, который дальше от Английского, чем от него язык людей каменного века. Дальше ИИ уже бесполезен. А прогресс они и так наглядно видят, у них огромные базы автоматических тестов и прочего, чтобы объективно оценивать ИИ между собой.

[Rattus]

без этого ограничения разработчики могли бы видеть прогресс более наглядно. Например, когда в очередном предложении ИИ использовал бы слово "трудолюбимый", или "хитровыделанный", или ещё какое то слово собранное по смыслам из двух слов и обладающее новым смыслом.

Временами почитываю в Телеграме канал Нейрорецепты. Там нейросеть регулярно применяет изобретённые ею слова "сваряют" и "пищ". При этом ни одного съедобного блюда она пока не породила.
Такие нейросети скорее дают пищ для размышления об устройстве самого естественного языка, которому их обучили...

[BlackMokona]

Такие нейросети скорее дают пищ для размышления об устройстве самого естественного языка, которому их обучили...

Скорее о грамотности в интернете.

[EmperioAf]

Там нейросеть регулярно применяет изобретённые ею слова "сваряют" и "пищ".

Это свидетельствует о том, что пока что нейросеть не смогла усвоить знания о словообразовании, которые получают дети в младшей и средней школе на уроках русского языка. Т.е. у нейросети нет понимания, что части слов (корень, суффикс, приставка и т.п.) имеют определённый смысл.
Ну а для получения сьедобного блюда за редкими исключениями, достаточно, чтобы все компоненты блюда были сьедобны.
Т.е. правильно говорить не о сьедобности, а о вкусноте. А о вкусах не спорят...

Хотя для того, чтобы делать хорошие рецепты нейросеть должна закончить пищевой или кулинарный институт. И это подразумевает сдачу соответствующих экзаменов и зачётов.
Т.ч. не так то всё просто тут