Пределы автоматизации и внедрения роботов

[Polnoch Ксю]

Это что?

https://ru.wikipedia.org/wiki/%D0%9D%D0%B0%D0%B1%D0%BE%D1%80_%D0%B4%D0%B0%D0%BD%D0%BD%D1%8B%D1%85

Ему скармливают огромную заранее подготовленную кучу данных?

Да

Свободный поиск запрещен?

Конечно, в процессе обучения его нет. Чтобы контролировать качество.

Точнее, можно RL в теории сделать именно в интернете. Но обычно получается плохо: https://tinyurl.com/4y476e4n

[AlexDark]

Существуют

Пример, плиз.
Для начала стоило бы уточнить с терминологией. я под "природным" подразумеваю нечто, появившееся в результате эволюции или неких естественных процессов. То, что было создано человеком - это артефакты.
Понятно, что артефакты построены на тех же самых физических принципах, но конструктивно могут радикально отличаться.
Про "реактор" в Окло я читал еще когда мне лет 7 было, но "реактор" этот демонстрирует принцип осуществимости реакции, но никакой полезной работы не выполняет и конструктивно от артефактных реакторов отличается (не имеет регулировок, например).
Термоядерные реакции тоже в природе в любой звезде, а человечество максимум осили только бомбу, а "до работающего токамака всегда остается 40 лет".
То, что человечество создало артефакт, который повторяет некоторые возможности мозга - да, создало. Но тут первичен мозг, т.е. это современный комп является неким подобием мозга, созданный на основе доступных технологических решений. до этого более примитивной версией был калькулятор, а до него - арифмометр.

По поводу нейросетей - пока я вижу только продвинутого чат-бота, с которым можно поговорить как с человеком. Да, они могут решать поставленные перед ними задачи (не все и не всегда), но могут ли они ставить новые задачи и решать их?  Или только говорить об известном?

[BlackMokona]

но могут ли они ставить новые задачи и решать их?  Или только говорить об известном?

Да может и делает это слишком эффективно. Отчего безумное море проблем. Если изобретете способ, чтобы он говорил только об известном без фантазий, за вашей технологией придут инвесторы со всего мира, потрясая миллиардами баксов. Станете сказочно богатым и знаменитым

[AlexDark]

Фантазии - это не задачи. Любой сумасшедший или человек под галлюциногенами их генерирует в огромном количестве. А где обещанное познание мира, вселенной и вообще? Электронный Кастанеда не сильно нужен, был уже вполне себе биологический. Похоже, у современного ИИ даже "42" не добиться.

[BlackMokona]

Фантазии - это не задачи. Любой сумасшедший или человек под галлюциногенами их генерирует в огромном количестве. А где обещанное познание мира, вселенной и вообще? Электронный Кастанеда не сильно нужен, был уже вполне себе биологический. Похоже, у современного ИИ даже "42" не добиться.

Активно занимаются и регулярно тут новости публикую по этой теме. Например с помощью ИИ сейчас революция за революцией в биотехнологиях. Есть неслабая революция в прогнозах погоды и тд Ряд улучшений математики и прочего. А если вам нужен мыслитель философ в башне из слоновой кости. То только за ваш счёт, в мире не нашлось желающих платить за такое. Сервера и электричество денег стоят 

[AlexDark]

Прогноз погоды - это решение поставленной специальной задачи. Да, там прогресс будет, как был прогресс, например при переходе от землекопов к экскаватору или от лошадей к автомобилю. Но где в этом всем "интеллект"? Если вести речь о создании специализированного эффективного софта - ну да, он создается. Даже в астрофото все эти нейросетевые плагины  типа Хтерминаторов.
Да, технологии меняют мир, но ни с какими другими технологиями не было разговоров об автомобильной сингулярности, или экскаваторной или еще какой. В этих железках нет ничего "разумного", как нет его в калькуляторе или автомобиле.

[BlackMokona]

Прогноз погоды - это решение поставленной специальной задачи. Да, там прогресс будет, как был прогресс, например при переходе от землекопов к экскаватору или от лошадей к автомобилю. Но где в этом всем "интеллект"? Если вести речь о создании специализированного эффективного софта - ну да, он создается. Даже в астрофото все эти нейросетевые плагины  типа Хтерминаторов.
Да, технологии меняют мир, но ни с какими другими технологиями не было разговоров об автомобильной сингулярности, или экскаваторной или еще какой. В этих железках нет ничего "разумного", как нет его в калькуляторе или автомобиле.

Если говорить вашим языком, то Сингулярность это просто решение специальной задачи. Создании более совершенного ИИ, силами самого ИИ. Решение этой узкой задачи, приведёт к созданию сверх интеллекта, который сможет решить любые желаемые для него задачи за максимально короткое время. Насколько уж законы физики позволят. А это означает, что контроль над цивилизацией со стороны людей будет полностью утрачен

[AlexDark]

решение специальной задачи. Создании более совершенного ИИ, силами самого ИИ.

Но это опять же будет специальная задача - созданный ИИ будет пригоден только для создания других ИИ и все. Почему функционал программы должен внезапно расшириться до всеобщего? Это уже Стивен Кинг с его восстанием строительной техники какой-то получается. Почему узкозаточенный инструмент внезапно и по каким-то мне непонятным причинам должен самостоятельно расширить свой функционал до глобального?

[BlackMokona]

Но это опять же будет специальная задача - созданный ИИ будет пригоден только для создания других ИИ и все. Почему функционал программы должен внезапно расшириться до всеобщего? Это уже Стивен Кинг с его восстанием строительной техники какой-то получается. Почему узкозаточенный инструмент внезапно и по каким-то мне непонятным причинам должен самостоятельно расширить свой функционал до глобального?

Нет, это будет более совершенный ИИ во всех отношениях.
Потому что у ИИ уже функционал расширен до всеобщего с момента создания первой большой языковой модели

[ivanij]

Потому что у ИИ уже функционал расширен до всеобщего с момента создания первой большой языковой модели

Однако ж пространство языка - сужает.

[BlackMokona]

Однако ж пространство языка - сужает.

Скорее в пространство символов, чем языка. Помнится в начале всей этой шумихи, рисовали ёлочки и телескопы с помощью символов. Т.е определённое представление о внешности предметов у него была даже до мульти модальности и прочих вещей. Сейчас с мультимодальностью, ему конечно намного легче.

[Olweg]

А между тем...

ИИ от Google испугался играть с консолью Atari!

История началась с инициативы инженера Роберта Карузо, который сначала сталкивал ИИ от OpenAI с винтажной Atari.

Те проиграли, и Карузо предложил сыграть Gemini — новая мультимодальная модель Google.

Сначала Gemini уверенно заявила, что «обходит по возможностям многие современные движки»!

Но потом «вспомнила» про поражения предшественников… и отказалась!

"ИИ признал, что соперник на 128 байт RAM и 1,19 МГц чипе кажется слишком грозным, и отказалась делать даже первый ход."

[BlackMokona]

Прогнозы людей по поводу того когда ИИ получит золотую медаль на международной математической олимпиаде.

[BlackMokona]

Китайцы снова врываются с отличной моделькой в бой.

[Polnoch Ксю]

Да, они могут решать поставленные перед ними задачи (не все и не всегда), но могут ли они ставить новые задачи

Для этого придумали автономные агенты - предполагается, что они будут работать автономно, и ставить конкретные задачи разово запускаемым AI - на основе своего системного промта. У людей, у нашего мозга - биологического компьютера - тоже есть такой системный промт. Туда врожденные желания прописаны эволюцией.

Или только говорить об известном?

https://en.wikipedia.org/wiki/AlphaEvolve

[Polnoch Ксю]

Для начала стоило бы уточнить с терминологией. я под "природным" подразумеваю нечто, появившееся в результате эволюции или неких естественных процессов. То, что было создано человеком - это артефакты.

Если использовать Ваше определение, то тогда Вы говорите только об узкоприменимой абстракции гуманитарных наук. То есть, вот, например абстракции химии применимы, пока Вы вычисляете химические реакции. Но когда говорите о ядерных - писать формулы химических реакций нет смысла. Так и тут: когда мы находимся в узких рамках, например, истории или политсайнса, термин "искусственный" как противоположность природному, как Вы его определяете, имеет смысл. Но на фундаментальном уровне мира его не существует, как понятия, он не применим. И всякое его использование запутывает.

На уровне фундаментальных закономерностей вселенной нет никакой разницы между искусственным и естественным. Как нет разницы между монархией и либеральной демократией: и то и то особенности поведения лысых говорящих обезьян (вот они реальные объекты мира).

но никакой полезной работы не выполняет

Полезная для кого? Это опять же понятие если и из технических наук, то в прикладной их части. Да, там есть понятие совершаемой работы. Но его можно описать и для этого реактора - он воду нагревает Если же Вы опять говорите о полезности для социума обезьянок, то это не фундаментальный уровень, а гуманитарная абстракция, описательная модель для людей.

[Rattus]

А что такое вообще компьютер?

Конечный автомат, удовлетворяющий этому критерию.

Компьютер имеет ограниченное количество функций.

Каково количество функций, которое может реализовать Машина Тьюринга?

Мозг не подходит под это определение. Это совершенно разные вещи.

Мозг имеет бесконечное количество функций?

Только вот компьютер - это не явление природы, а вполне себе машина, созданная человеком.

Для какой созданной машины были написаны программы, созданные первым программистом - Адой Лавлейс?
Где они работали, когдв писались? Где отлаживались?

[AlexDark]

Я сам писал программы для машин Тьюринга в их каноничном виде (в виде ленты с 0 и 1). когда в универе учился. И что?
Хорошо, зайдем с другого конца - кто писал код для мозга, если мозг - это комп? Получается, что надо либо нужно вводить сущность вселенского программиста, либо признать, что существуют компы без софта, которые при этом могут писать софт для себя - что из этого большая чушь, вопрос, конечно интересный, но не имеющий смысла.
Я уже предвижу ответ, что софт написался сам в процессе эволюции, но опять же кремниевые компы этого не умеют, они без пенделя от человека (базового софта) вообще не работают.

[Rattus]

Хорошо, зайдем с другого конца - кто писал код для мозга, если мозг - это комп?

Эволюция. Среда. Причём даже мозг не нужен для моделирования МТ - для этого может быть достаточно даже клеточной системы наследственности с некоторым набором ферментов работы с ней.

Я уже предвижу ответ, что софт написался сам в процессе эволюции, но опять же кремниевые компы этого не умеют, они без пенделя от человека (базового софта) вообще не работают.

Потому что они такими сделаны. В природе масса случаев, когда организмы реализуются как таковые только в присутствии и в составе других организмов - те же вирусы. Но это же не значит, что всех облигатных симбионтов следует разом выписать из числа живых, например. Граница здесь во многом количественная оказывается.

[Olweg]

Похоже, серьёзный прорыв - модель от OpenAI взяла золото в международной математической олимпиаде, справившись с пятью заданиями из шести.

Google не отстаёт - продвинутая версия Gemini Deep Think тоже ответила на пять задач из шести и официально взяла золото.