Пределы автоматизации и внедрения роботов

[BlackMokona]

Ну и текущий топ-лист моделей.

[diant]

АльфаЗеро получил только набор правил,

В этих словах содержится один ключик, очень важный - от кого получил?
Когда вы получаете пищу из рук больных проказой, вы сами станете прокаженным.
Если искусственный интеллект будет получать правила из рук того самого человечества, которое само уже зашло в тупик, не получит ли он зародышей проказы уже вместе с этими правилами? Ведь жизнь - это не шахматы, и даже не математика. И шахматы, и математику можно строго формализовать, А вот жизнь-увы.

[BlackMokona]

В этих словах содержится один ключик, очень важный - от кого получил?
Когда вы получаете пищу из рук больных проказой, вы сами станете прокаженным.
Если искусственный интеллект будет получать правила из рук того самого человечества, которое само уже зашло в тупик, не получит ли он зародышей проказы уже вместе с этими правилами? Ведь жизнь - это не шахматы, и даже не математика. И шахматы, и математику можно строго формализовать, А вот жизнь-увы.

А какой смысл в ИИ без этих правил? Вот создадите разум и он посчитает что единственная цель в жизни это рисовать котиков из нулей. Что дальше делать будете? В любом случае ИИ создают для чего-то, а не просто чтобы он сам творил что хотел.

[diant]

А какой смысл в ИИ без этих правил?

Так вопрос и не ставятся. Где взять чистые правила, которые не заведут искусственный интеллект в тот же лабиринт, по которому бродит уже оказавшееся в нём человечество?

[BlackMokona]

Так вопрос и не ставятся. Где взять чистые правила, которые не заведут искусственный интеллект в тот же лабиринт, по которому бродит уже оказавшееся в нём человечество?

Можно кидать всё новые варианты, всё равно дальнейшие пути становятся непредсказуемыми. 

[Olweg]

Где взять чистые правила, которые не заведут искусственный интеллект в тот же лабиринт, по которому бродит уже оказавшееся в нём человечество?

Вопрос риторический - естественно, неоткуда. Никаких "чистых правил" в природе не существует. Остаётся только надеятся, что люди могут разобраться со своими базовыми ценностями и передать их ИИ.

[diant]

Остаётся только надеятся, что люди могут разобраться со своими базовыми ценностями и передать их ИИ.

С первой частью абсолютно согласен, в со второй - тогда уже, скорее всего, надобность в ИИ отпадет сама собой. Не сразу, но со временем точно.
Еще я бы такую мысль добавил: "люди могут разобраться..." - если не смогут, жизнь поможет, только в цена разборок в этом случае будет максимальной.

Никаких "чистых правил" в природе не существует.

А что если эти чистые правила - не что иное как просто законы природы? Эти-то точно "существуют в природе". Может быть когда-нибудь люди смогут постичь их в большем объеме (про полный и не говорю), которого хватит для составления набора аксиом, не ведущих в нынешний тупик?

[Combinator]

Ну и текущий топ-лист моделей.

А что на этой диаграмме соответствует 100%?

[Metatron]

Grok 4 is basically AGI

> 87% on GPQA → best in class
> 45% on HLE → 2× gemini 2.5 pro
> new SOTA on ARC AGI → 2x claude opus 4

"Grok 4 potentially better than phd level in every subject no exceptions"

Маск: - "Следующим шагом будет ИИ создающее новые технологии. Думаю это случится к концу этого года или в крайнем случае в следующем году."

Ну и ложка дегтя: Маск - "У нас закончились тестовые вопросы для проверок ИИ."

[BlackMokona]

https://www.youtube.com/watch?v=5mco9zAamRk
Научно популярное видео про обучение ИИ и идеи как его заставить быть хорошим для нас

[BlackMokona]

А что на этой диаграмме соответствует 100%?

Выполнение всех тестов включённых в перечень для проверки на 100%. Так же именно по этому прирост небольшой, старые тесты с почти 100% или 100% выполнением не дают новым моделям далеко прыгнуть в этом рейтинге.

[Combinator]

Выполнение всех тестов включённых в перечень для проверки на 100%. Так же именно по этому прирост небольшой, старые тесты с почти 100% или 100% выполнением не дают новым моделям далеко прыгнуть в этом рейтинге.

Понятно, тогда смотрится неплохо. А то, например, в тесте ARC-AGI-2 и люди в среднем набирают лишь около 60%.

[Rattus]

Таки шо: уже можно праздновать день рождения AGI, или ещё рановато?

[Combinator]

Таки шо: уже можно праздновать день рождения AGI, или ещё рановато?

Так как общепринятого теста AGI нет, то каждый решает сам. Я лично считаю, что когда он вытеснит людей условно примерно с половины рабочих мест, то можно будет праздновать.

[BlackMokona]

Таки шо: уже можно праздновать день рождения AGI, или ещё рановато?

Так давно родился, ждать давно нужно уже сверх разумный ИИ, что будет умнее всех людей во всех направления. А такой ещё не родился. Грок-4 конечно конкурирует уже с элитой человечества. Но всё ещё её не обходит, имеет кучу ограничений и мультимодальность 4 версии ещё не завезли

[Metatron]

Тут некоторые обратили внимание - ведущие компании и исследователи говорят о своей цели достижения ASI - супер разума. Но перестали говорить о достижении AGI - интеллекта человеческого уровня.

То ли считают что этот уровень уже пройден. То ли считают что проще достичь уровня выше человека - в узком наборе задач - чем добиться базового интеллекта во всех задачах.

[BlackMokona]

То ли считают что этот уровень уже пройден. То ли считают что проще достичь уровня выше человека - в узком наборе задач - чем добиться базового интеллекта во всех задачах.

Так в узком наборе задач, ИИ стали громить людей задолго до ГПТ. Забирая игру за игрой, профессию за профессией.
ГПТ и текущая революция, как раз про универсальный интеллект, а не про узкую специализацию.

[Olweg]

То ли считают что этот уровень уже пройден. То ли считают что проще достичь уровня выше человека - в узком наборе задач - чем добиться базового интеллекта во всех задачах.

Да, планка преодолевается постепенно. Можно сказать, ИИ сейчас в таком состоянии. Местами уже перешёл человеческий уровень, местами ещё не добрал.

[Ый]

И тогда я понял, что в тысячу раз интереснее с деревенским алкашом общаться, чем вот так.

А большинство не понимает, восторгается этой тупой машиной, которая никакого отношения к интеллекту не имеет, а просто перелопачивает вложенные в неё данные по определённой программе. Так, потихонечку, не заметно, люди по своей собственной воле войдут в зависимость от этой машины, да ещё и будут выполнять её советы, касающиеся своих жизненных ситуаций. И всё, трындец.

[Olweg]

А большинство не понимает, восторгается этой тупой машиной, которая никакого отношения к интеллекту не имеет, а просто перелопачивает вложенные в неё данные по определённой программе.

И что же это за программа?